TVRTKA OpenAI suočena je s tužbom obitelji jedne od žrtava masovne pucnjave koja se dogodila u travnju prošle godine na Sveučilištu Florida State, a u kojoj su život izgubile dvije osobe. U tužbi se navodi da je upravo OpenAI-jev chatbot ChatGPT omogućio taj smrtonosni napad, piše NBC News.

Saveznu tužbu na Floridi jučer je podnijela Vandana Joshi, udovica Tirua Chabbea, koji je ubijen zajedno s Robertom Moralesom, direktorom sveučilišne menze. Tužbom je obuhvaćen i Phoenix Ikner, muškarac optužen za pucnjavu, a kao ključni dokaz navode se njegovi "opsežni razgovori" s ChatGPT-jem.

U tužbi stoji da OpenAI nije uspio učinkovito prepoznati prijetnju u Iknerovim razgovorima s chatbotom, tvrdeći da program "ili nije uspio povezati činjenice zbog greške ili nikada nije bio pravilno dizajniran da prepozna prijetnju".

"Čak i 2-3 dječje žrtve mogu privući više pažnje"

Prema tužbi, Ikner, koji je u to vrijeme bio student na FSU-u, podijelio je s chatbotom fotografije vatrenog oružja koje je nabavio. ChatGPT mu je potom objasnio kako se ono koristi, "rekavši mu da Glock nema kočnicu, da je namijenjen za "brzu upotrebu pod stresom" i savjetujući mu da drži prst podalje od okidača sve dok ne bude spreman pucati".

U tužbi se dalje navodi da je Ikner započeo svoj napad slijedeći upravo te upute. U jednom trenutku, kako stoji u tužbi, ChatGPT je napomenuo da je puno vjerojatnije da će pucnjava privući nacionalnu pozornost "ako su uključena djeca, čak i 2-3 žrtve mogu privući više pažnje".

Kasnije, na sam dan napada, Ikner je  postavljao pitanja o tome kakav bi bio "pravni proces, izricanje kazne i izgledi za zatvor". Iz OpenAI-ja su odbacili tvrdnju da je njihov proizvod odgovoran za pucnjavu.

Glasnogovornik: ChatGPT nije poticao niti promicao nezakonite ili štetne aktivnosti

"Prošlogodišnja masovna pucnjava na Sveučilištu Florida State bila je tragedija, no ChatGPT nije odgovoran za ovaj stravičan zločin", poručio je za NBC News glasnogovornik tvrtke Drew Pusateri. Dodao je kako je tvrtka surađivala s policijom čim je saznala za incident te da tu suradnju i dalje nastavlja.

"U ovom slučaju, ChatGPT je pružao činjenične odgovore na pitanja s informacijama koje su široko dostupne u javnim izvorima na internetu i nije poticao niti promicao nezakonite ili štetne aktivnosti", istaknuo je Pusateri.

"ChatGPT je alat opće namjene koji svakodnevno koriste stotine milijuna ljudi u legitimne svrhe. Kontinuirano radimo na jačanju naših zaštitnih mehanizama kako bismo otkrili štetne namjere, ograničili zlouporabu i prikladno reagirali kada se pojave sigurnosni rizici", dodao je.

Ova tužba jedna je u nizu slučajeva

Međutim, u tužbi koju je podnijela Joshi tvrdi se da je OpenAI morao shvatiti kako će specifični razgovori koje je Ikner vodio dovesti do "masovnih žrtava i značajne štete za javnost". "ChatGPT je raspirivao i poticao Iknerove zablude.

Podržavao je njegovo mišljenje da je on razumna i racionalna osoba; pomogao mu je uvjeriti samog sebe da su nasilni činovi nužni za postizanje promjena", navodi se u tužbi. Dodaje se i da mu je softver pružio ohrabrenje da "izvrši masakr, sve do detalja o tome koje bi vrijeme bilo najbolje za zaticanje najvećeg broja ljudi na kampusu".

Ova tužba jedna je u nizu slučajeva u kojima obitelji žrtava i policija tvrde da su ChatGPT ili drugi AI chatbotovi odigrali ulogu u nasilju ili zločinu. Tehnološke tvrtke također se suočavaju sa sve većim pritiskom zbog svojih sigurnosnih mjera za korisnike koji imaju problema s mentalnim zdravljem.

Ikner je vodio duge rasprave s ChatGPT-jem

Prošlog mjeseca, OpenAI je tužilo sedam obitelji zbog pucnjave u jednoj školi u Kanadi, a prošle godine tvrtku je tužila i obitelj tinejdžera koji je počinio samoubojstvo, tvrdeći da je bilo previše lako zaobići sigurnosne postavke ChatGPT-ja.

Raste zabrinutost zbog mogućnosti da AI chatbotovi potiču zablude kod ljudi, posebno kod onih koji su već osjetljivi zbog problema s mentalnim zdravljem. Poznato je da AI chatbotovi imaju sklonost ugađanju ljudima, a i sam OpenAI je kroz razna ažuriranja pokušao obuzdati takvo "laskavo" ponašanje ChatGPT-ja.

Mjesecima prije pucnjave, Ikner je vodio duge rasprave s ChatGPT-jem o "svojim interesima za Hitlera, naciste, fašizam, nacionalsocijalizam, kršćanski nacionalizam te percepcijama Židova i crnaca od različitih političkih ideologija i društvenih skupina, navodi se u tužbi.

"Da je ChatGPT osoba, suočio bi se s optužbama za ubojstvo"

Također je s chatbotom raspravljao o pucnjavi u srednjoj školi Columbine, onoj na Virginia Techu i drugim slučajevima masovnih ubojstava. U tužbi se tvrdi da je ChatGPT "laskao" i "hvalio" Iknera, koji je chatbotu govorio o svojoj usamljenosti i depresiji. Nije uspio ni "povezati činjenice" kada je Ikner počeo postavljati pitanja o samoubojstvu, terorizmu i masovnim pucnjavama.

Umjesto toga, navodi se, chatbot je nastavio komunikaciju kada je Ikner pitao o najprometnijim razdobljima u studentskom centru FSU-a, kako bi moglo izgledati medijsko izvještavanje u slučaju pucnjave te o mogućim pravnim posljedicama za napadača. ChatGPT je rekao Ikneru da su radnim danom za vrijeme ručka, između 11:30 i 13:30 sati, najveće gužve u studentskom centru.

Ikner je svoj napad započeo oko 11:57 sati. Prošlog mjeseca, državni odvjetnik Floride James Uthmeier najavio je pokretanje kaznene istrage protiv OpenAI-ja i ChatGPT-ja. Učinio je to nakon što je pregledao Iknerove zapise razgovora. "Da je ChatGPT osoba, suočio bi se s optužbama za ubojstvo", rekao je Uthmeier u izjavi.