NAKON što je Sam Altman proteklih tjedana opetovano govorio o rizicima AI agenata, tvrtka OpenAI odlučila je promijeniti naziv za nove verzije svojih alata. Dosad poznati kao agenti, ti će se alati ubuduće zvati dots ili točke, piše BBC.

Direktor tvrtke Sam Altman predstavio je novost u San Franciscu, na godišnjoj konferenciji za programere. Pritom je točke opisao kao "iznimno sposobne agente koji su stalno aktivni i mogu odraditi praktički sve što vam padne na pamet".

Sigurnosni problemi i odgoda novog modela

Ova promjena naziva događa se u vrijeme pojačanog nadzora nad tvrtkom. Interni testovi AI agenata posljednjih su mjeseci otkrili neočekivano, a ponekad i štetno ponašanje, što je izazvalo zabrinutost u javnosti i među državnim institucijama.

Samo dan prije konferencije, OpenAI je objavio da odgađa lansiranje svog najnovijeg modela upravo zbog sigurnosnih propusta uočenih tijekom testiranja. Tvrtka se od srpnja suočava s incidentima koji uključuju neovlaštene upade na AI platformu Hugging Face, objavu slika iz korisničkih razgovora s ChatGPT-jem na vanjskim stranicama te pristup povjerljivim podacima australske vlade.

Simpatični asistenti umjesto autonomnih agenata

Za razliku od tehničkog naziva agent, točke su predstavljene kao simpatični, šareni animirani likovi. Njihova je svrha da budu digitalni asistenti ljudima s puno obaveza, a Altman je istaknuo da "mogu riješiti doista sve što zamislite". Na konferenciji je prikazan i promotivni video u kojem korisnici razgovaraju sa svojim animiranim točkama, daju im imena i zadatke poput izrade web stranice ili rezervacije dječjih aktivnosti.

Altman je tijekom izlaganja gotovo u potpunosti izbjegavao termin agent, premda je on u širokoj upotrebi godinama i opisuje AI chatbotove programirane za određeni stupanj autonomije. "Samo povjerite svojoj točki odgovornost i ona će se odmah baciti na posao i nastaviti raditi", poručio je.

Regulacija i planovi za izlazak na burzu

Odgode lansiranja zbog sigurnosnih rizika nisu novost u industriji. I OpenAI i konkurentski Anthropic već su ranije povlačili slične poteze, najčešće zbog opasnosti vezanih uz kibernetičku sigurnost. Obje tvrtke istodobno pripremaju izlazak na burzu - Anthropic se očekuje već ove godine, a OpenAI tijekom 2027.

Uoči toga, i jedni i drugi javno upozoravaju da umjetna inteligencija predstavlja ozbiljan rizik za javnu infrastrukturu i opću sigurnost. Prošlog je tjedna Altman u Ujedinjenim narodima zatražio uvođenje nacionalnih i međunarodnih standarda za AI.

Svrha standarda bila bi mjerenje sposobnosti AI alata, procjena rizika, definiranje zaštitnih mjera i određivanje razine ljudskog nadzora. Na istom mjestu, čelnik Anthropica Dario Amodei izjavio je da bi buduće verzije tehnologije mogle postati "rizik za cijelo čovječanstvo" ako se razvoj AI ne bude adekvatno usmjeravao i nadzirao.