STARTUP za umjetnu inteligenciju xAI, u vlasništvu Elona Muska, podigao je tužbu protiv muškarca iz Južne Karoline. Tvrtka ga tereti da je zloupotrijebio njihov AI sustav Grok za stvaranje materijala koji prikazuju seksualno zlostavljanje djece. Tuženi Terry Harwood uhićen je ranije ove godine pod optužbom za seksualno iskorištavanje maloljetnika. Riječ je o jednom od prvih slučajeva da je neka AI tvrtka tužila korisnika zbog takvih optužbi, piše The Guardian.

Tužba je podnesena prekjučer saveznom sudu u Teksasu. U njoj xAI navodi da je Harwood prekršio uvjete korištenja usluge. Kontakt podaci Harwooda, koji je uhićen u veljači, nisu bili dostupni, a glasnogovornici tvrtke xAI jučer nisu odmah odgovorili na upit za komentar.

Tužba protiv Harwooda uslijedila je nakon što se xAI našao pod snažnim globalnim pritiskom zbog optužbi da njihov AI sustav Grok omogućuje korisnicima stvaranje realističnih seksualiziranih videozapisa, takozvanih deepfakeova, bez pristanka snimljenih osoba.

Traže novčanu odštetu i zabranu korištenja Groka

U tužbi stoji da tvrtka provodi svoja pravila protiv prekršitelja suspenzijom i ukidanjem računa te prijavljuje sumnjive materijale Nacionalnom centru za nestalu i iskorištavanu djecu. xAI tvrdi da je Harwood na Grok učitavao neseksualne fotografije odraslih i maloljetnika.

Zatim je, prema tvrdnjama tvrtke, pokušao iskoristiti sustav za generiranje seksualno eksplicitnih deepfakeova na temelju tih fotografija. U tužbi se dodaje i da je stvarao seksualne slike odraslih osoba bez njihovog pristanka.

Tvrtka od suda traži novčanu odštetu u neodređenom iznosu i sudski nalog kojim bi se Harwoodu trajno zabranilo korištenje Groka. "Postupci tuženika predstavljaju proračunati plan zloupotrebe alata tužitelja u kriminalne svrhe. Time je stvarne žrtve izložio dubokoj i trajnoj šteti, a tužitelja značajnom pravnom riziku i narušavanju ugleda", stoji u tužbi tvrtke xAI.