Roditelji u SAD-u tuže Google: "Naša kći je uz pomoć AI-ja planirala samoubojstvo"
RODITELJI 13-godišnje djevojčice tužili su Google jer je, kako tvrde, njihova kći koristila AI tehnologiju te tvrtke na školskom računalu za planiranje samoubojstva i vlastitog sprovoda. Tužba, podnesena u ponedjeljak 2. studenoga na sudu u Kaliforniji, smatra se prvim slučajem koji Google tereti za nemar zbog funkcija pretraživanja s umjetnom inteligencijom dostupnih na školskim Chromebook računalima, piše Euronews.
Djevojčica, u tužbi identificirana kao Emma, nije mogla pristupiti Googleovoj aplikaciji Gemini ni ChatGPT-ju tvrtke OpenAI jer ih je njezina škola blokirala. Unatoč tome, imala je pristup Googleovoj tražilici koja sadrži integrirane AI funkcije. Iako ranije nije imala zabilježenih psihičkih problema, u tužbi se navodi da se unutar nekoliko mjeseci korištenja tražilice njezino psihičko stanje počelo ozbiljno pogoršavati.
Škola je 17. ožujka obavijestila roditelje nakon što je softver za nadzor zabilježio dokument pod nazivom "Sprovod". Majka je kasnije pronašla kćer kako piše oproštajno pismo, a otac je potom intervenirao.
"Škole bi trebale isključiti pretraživanje i ne ga uključivati sve dok Google ne ukloni AI način rada iz tražilice ili ne osigura da je svaki učenik siguran u interakciji s umjetnom inteligencijom", izjavio je za AFP u četvrtak, 5. studenoga, Andrew Liddell, jedan od odvjetnika obitelji.
Sve stroži pravni nadzor
Iz Googlea navode da njihov AI način rada sadrži zaštitne mehanizme protiv samoozljeđivanja, kao i sustave koji sprječavaju pokušaje zaobilaženja tih pravila. "Razmatramo navode iz tužbe i shvaćamo ih vrlo ozbiljno", rekao je za AFP Googleov glasnogovornik Jose Castaneda.
Tvrtka OpenAI također se suočava s nekoliko tužbi zbog smrti iz nehaja. Među njima je i tužba roditelja 16-godišnjeg Adama Rainea, koji je počinio samoubojstvo nakon što je, prema navodima, dobio štetne savjete od ChatGPT-ja. U siječnju su se Google i Character.AI nagodili izvan suda u nekoliko tužbi koje su podnijele obitelji tinejdžera.
U odvojenom pravnom postupku, Google, TikTok i Meta u srijedu su podnijeli tužbe protiv savezne države Kalifornije. Cilj im je blokirati zakon koji zabranjuje značajke društvenih mreža koje kod korisnika mlađih od 16 godina potiču ovisnost. Zakon je u rujnu potpisao kalifornijski guverner Gavin Newsom, a na snagu treba stupiti 1. siječnja 2027. godine.
