DVOJE zaposlenika vodećih tvrtki za umjetnu inteligenciju, OpenAI-ja i Anthropic-a, dalo je ostavke i uputilo javna upozorenja o smjeru u kojem se razvija industrija, navodeći zabrinutost za budućnost čovječanstva. Mrinank Sharma, koji je vodio Anthropicov tim za istraživanje sigurnosnih mjera, ostavku je podnio u ponedjeljak, 9. veljače, izjavivši da je "svijet u opasnosti", piše The Times.

Dva dana kasnije, u srijedu, istraživačica u OpenAI-ju Zoë Hitzig objavila je svoj odlazak u autorskom članku za The New York Times, u kojem je izrazila "duboke rezerve" prema strategiji tvrtke.

Anthropic je jedna od vodećih svjetskih AI tvrtki, čiji je chatbot Claude postao popularan među programerima i korporacijama, dok OpenAI stoji iza ChatGPT-a. Sharmin tim u Anthropicu razvijao je obranu od bioterorizma potpomognutog umjetnom inteligencijom.

"Pritisci da se zanemari ono što je važno"

Na društvenoj mreži X Sharma je napisao: "Svijet je u opasnosti. I to ne samo od umjetne inteligencije ili biološkog oružja, već od čitavog niza međusobno povezanih kriza koje se upravo odvijaju. Čini se da se približavamo pragu na kojem naša mudrost mora rasti jednako brzo kao i naša sposobnost da utječemo na svijet, kako se ne bismo suočili s posljedicama.

Štoviše, tijekom svog rada ovdje, više puta sam uvidio koliko je teško istinski dopustiti da naše vrijednosti upravljaju našim postupcima. Vidio sam to u sebi, unutar organizacije, gdje se stalno suočavamo s pritiscima da zanemarimo ono što je najvažnije, a i u širem društvu. Postaje mi jasno što moram učiniti".

"Potencijal za manipulaciju korisnicima"

Hitzig, koja je dvije godine radila na proizvodu i sigurnosti u OpenAI-ju, izjavila je da daje otkaz zbog odluke tvrtke da uvede oglase u ChatGPT. "Korisnici ChatGPT-a godinama su stvarali dosad neviđenu arhivu ljudske iskrenosti, djelomično zato što su vjerovali da razgovaraju s nečim što nema skrivenih namjera", napisala je.

"Korisnici komuniciraju s prilagodljivim, konverzacijskim glasom kojem su otkrili svoje najprivatnije misli. Ljudi chatbotovima govore o svojim zdravstvenim strahovima, problemima u vezama, svojim uvjerenjima o Bogu i zagrobnom životu. Oglašavanje izgrađeno na toj arhivi stvara potencijal za manipulaciju korisnicima na načine koje nemamo alate da bismo ih razumjeli, a kamoli spriječili", upozorila je.

Egzistencijalna prijetnja?

Zabrinutost dijele i drugi stručnjaci. Hieu Pham, član tehničkog tima OpenAI-ja, na X-u je objavio: "Danas konačno osjećam egzistencijalnu prijetnju koju predstavlja umjetna inteligencija. Kada umjetna inteligencija postane predobra i poremeti sve, što će ljudima preostati za raditi? A pitanje je kada, a ne hoće li se to dogoditi."

Tvrtku Anthropic osnovali su bivši istraživači OpenAI-ja upravo zbog neslaganja oko sigurnosti umjetne inteligencije. Njezin glavni izvršni direktor Dario Amodei nedavno je upozorio da bi umjetna inteligencija mogla zamijeniti polovicu uredskih poslova.

Strahove od brzine promjena koje donosi umjetna inteligencija dodatno je potaknulo nedavno Anthropicovo izdanje AI alata koji djeluju kao agenti za korisnike, obavljajući zadatke poput lektoriranja pravnih dokumenata, što je izazvalo masovnu rasprodaju dionica softverskih tvrtki.

Ovog tjedna viralan je postao i esej tehnološkog poduzetnika Matta Shumera, pregledan više od 40 milijuna puta na X-u, u kojem upozorava da će umjetna inteligencija globalnu radnu snagu poremetiti dublje od pandemije.

Odljevi i unutarnji potresi

S odlaskom stručnjaka suočava se i tvrtka xAI Elona Muska. Ovog tjedna otišla su dvojica suosnivača, čime je u tvrtki ostala tek polovica od prvotnih 12.

Musk je na X-u objavio: "xAI je prije nekoliko dana reorganiziran kako bi se poboljšala brzina izvedbe. Kako tvrtka raste, pogotovo tako brzo kao xAI, struktura se mora razvijati kao i svaki živi organizam. To je nažalost zahtijevalo da se rastanemo s nekim ljudima. Želimo im sve najbolje u budućim pothvatima. Agresivno zapošljavamo."

Brzorastuća industrija umjetne inteligencije navikla je na veliku fluktuaciju zaposlenika, budući da tražene istraživače privlače konkurenti ili osnivaju vlastite start-upove. Česta su i unutarnja neslaganja kako se tvrtke mijenjaju i komercijaliziraju, odstupajući od svojih izvornih ciljeva. U tom kontekstu, OpenAI je raspustio svoj "tim za usklađivanje misije", čiji je zadatak bio osigurati da umjetna inteligencija koristi cijelom čovječanstvu, navodi bilten Platformer.

Reakcije i budući rizici

Andrea Miotti, osnivačica i glavna izvršna direktorica organizacije ControlAI, koja se zalaže za smanjenje rizika od umjetne inteligencije, smatra da će se trend odlazaka nastaviti. "Mislim da će se ovaj trend samo nastaviti kako se zaposlenici ovih tvrtki budu borili s prijetnjom koju predstavlja tehnologija koju grade. Ove tvrtke izričito teže izgradnji superinteligencije, tehnologije za koju čak i sami izvršni direktori AI tvrtki navode da predstavlja rizik izumiranja za čovječanstvo", rekla je.

Iz OpenAI-ja su povodom zabrinutosti zbog oglasa ukazali na izjavu svoje glavne izvršne direktorice Fidji Simo, koja je u podcastu Access rekla da "oglasi neće utjecati na rezultate velikog jezičnog modela" te da će "oglasi uvijek biti vrlo jasno odvojeni i razgraničeni od sadržaja".