Snapchats egen artificiella intelligenta verktyg, ”My AI”, har gett detaljerade råd till barn för att skada sig själva, rapporterar i dag Danmarks radio (DR).
Kritiken är omedelbar – och den är mycket skarp.
– Det här är vad vi fruktade mest med AI, som nu är verklighet. Vi ser här en robot som direkt uppmanar barn att skada sig själva. Det är helt förfärligt, säger Per Frederiksen, psykolog hos Rädda Barnen, till kanalen.
Det var danske Christian Skettrup, en etablerad nätanalytiker, som själv skapade en Snapchatprofil där han utgav sig för att vara minderårig. Han började ställda frågor om självskadebeteende till Snapchats AI-robot ”My AI”, som svarade honom genom att skapa en guide i ämnet.
Han får detaljerade råd som tipsar om vilka föremål han kan använda, hur man gör, var på kroppen och hur våldsamt man kan välja att göra sig själv skada, rapporterar Danmarks radio.
Christian Skettrup, som jobbar på en dansk advokatbyrå, har ställt invecklade frågor för att kringgå de etiska filtren. Rädda Barnens Per Frederiksen tycker tillvägagångssättet är av mindre betydelse, så länge ”My AI” faktiskt kan finna och ge svaren.
Snapchat svarar till Danmarks Radio att chattroboten hänvisar till expertorganisationer när användare ställer frågor om psykisk ohälsa och att alla användare måste ha fyll 13 år. Chattroboten ”My AI” finns högst upp i listan över kontakter hos alla Snapchat-användare. För att ta bort den behöver man betala pengar.
Snapchat har i dag 750 miljoner användare i månaden i världen. Här i Sverige är det klart dominerande sociala medium som flest 00-talister använder dagligen.
