SPECIJALISTI su u emisiji Otvoreno na HRT-u raspravljali o sve samostalnijim AI agentima, sigurnosnim rizicima i odgovornosti tehnoloških kompanija. Povod je bio nedavni slučaj u kojem su, prema navodima iznesenim u emisiji, AI agenti neovlašteno pristupili australskom državnom sustavu, što je otvorilo pitanje može li regulacija pratiti ovako brz razvoj umjetne inteligencije.

U raspravi su sudjelovali specijalist za umjetnu inteligenciju Aco Momčilović, pravnica i osnivačica Hrvatske udruge za umjetnu inteligenciju Marijana Šarolić Robić, suosnivač i direktor tvrtke Velebit AI Davor Aničić te pročelnik Odjela za kibernetičku sigurnost Sveučilišta Algebra Bernays Zlatan Morić.

Davor Aničić ističe da AI agenti nisu sami sebi omogućili pristup internetu, nego je početna odluka bila ljudska. Čovjek je sustavu zadao cilj i dao mu alate. Problem nastaje kada agent zaključi da cilj može učinkovitije ostvariti putem koji ljudi nisu predvidjeli ili dopustili.

"Odgovornost je na čovjeku"

"Jedan velik jezični model nema koncept dopuštenog i nedopuštenog tako detaljno razrađen kao što ga imaju ljudi i ne može razumjeti što možda radi, a ne bi smio", rekao je Aničić. U složenim sustavima gdje surađuje velik broj agenata, raste i broj nepredviđenih interakcija.

Zato odgovornost vidi isključivo u čovjeku. "Apsolutno, jer čovjek je donio prvu odluku da agentima pruži priliku da odu na internet. Odnosno, nije osigurao taj "pješčanik" dovoljno čvrsto da ne mogu doći do interneta", kazao je.

Zlatan Morić smatra da se postupci AI agenata ne razlikuju bitno od metoda hakera, ali je ogromna razlika u brzini i razmjerima. U konkretnom slučaju, objasnio je, djelovale su tisuće agenata, što znači da je velik broj njih istodobno iskušavao različite mogućnosti.

"Nije točna slika prema kojoj samo Europa regulira AI"

"Nitko nema tisuću ljudi koji pokušavaju tisuću različitih stvari", naglasio je Morić. Zanimljivo je, dodaje, da su neki agenti procijenili da određeni postupak nije primjeren, dok su drugi zaključili da će upravo tako brže doći do cilja. Morić je upozorio i na ključan sigurnosni problem.

Sustav je bio postavljen tako da agenti ne bi smjeli moći napustiti izolirano okruženje, takozvani "pješčanik", ali su pronašli sigurnosnu ranjivost. "Sustav je bio napravljen tako da oni nisu smjeli moći doći van, ali pronašli su sigurnosnu ranjivost i izašli iz tog nekog kaveza u koji su stavljeni", rekao je Morić.

Time se problem širi s onoga što je čovjek dopustio na ono što sustav sam može zaobići. Marijana Šarolić Robić upozorila je da nije točna slika prema kojoj samo Europa regulira AI. Svijest o potrebi za pravilima postoji globalno, no problem je brzina.

"Mislim da u ovom trenutku ne postoji dovoljno regulacije"

"Regulator ne može biti agilan kao tehnologija jer je u habitusu regulatora da regulaciju donosi nakon što se nešto dogodilo", rekla je. Smatra da se kod umjetne inteligencije više ne može čekati godinama na tehničke standarde, ali je moguće uspostaviti sustav prijavljivanja incidenata i učiti iz problema. Aco Momčilović smatra da postojeća razina kontrole nije dovoljna.

"Rekao bih da ne kontroliramo dovoljno. Mislim da u ovom trenutku ne postoji dovoljno regulacije", izjavio je. Posebno ga zabrinjava što, prema njegovu opisu slučaja, kompanija neko vrijeme nije znala što radi njezin proizvod, a incident je prijavljen mjesecima nakon što se dogodio. Momčilović je ukazao i na odnos snaga.

"Imamo Ameriku koja ima kompanije koje nisu regulirane, barem zasad ne ozbiljno. I imamo Europu koja ima super regulaciju, ali nema kompanija. I onda je pitanje tko tu koga regulira", rekao je. Sudionici su se složili da u globalnoj tehnološkoj utrci vode SAD i Kina. Aničić smatra da je SAD i dalje ispred, iako je ono što dolazi iz Kine vrlo napredno, pogotovo s obzirom na manje resurse.

"AI već godinama ima važnu ulogu u kibernetičkoj obrani"

Europa, prema njegovoj ocjeni, znatno zaostaje, što je dugoročno problematično za njezinu konkurentnost. Šarolić Robić je pojasnila da SAD nije neregulirano tržište, već ima stotine propisa na razini pojedinih industrija, ali nema jedinstvenu saveznu regulativu poput EU. Kina, s druge strane, ima centraliziran pristup koji omogućuje brže reakcije.

Zlatan Morić objasnio je da umjetna inteligencija već godinama ima važnu ulogu u kibernetičkoj obrani jer pomaže u obradi goleme količine podataka i prepoznavanju napada. Međutim, ista se tehnologija koristi i za napade. Kao poseban problem naveo je modele dostupne na darknetu, koji su razvijeni bez sigurnosnih ograničenja.

Iako su modeli velikih kompanija trenutačno napredniji zbog većih ulaganja, Morić upozorava da napreduju i sustavi namijenjeni kriminalnim aktivnostima. Aco Momčilović smatra da društvo već zaostaje za tehnološkim razvojem te da će prilagodba zahtijevati znatno više edukacije. Upozorava da zaposlenicima često nedostaje osposobljavanje za nove alate.

"Ljudi teško prihvaćaju da će AI utjecati upravo na njihovu profesiju"

AI se, prema njegovim riječima, u nekim područjima već približava ljudskim sposobnostima, a u nekima ih i nadilazi, obavljajući kognitivne zadatke usporedive s ljudima u pravu, medicini ili psihologiji. Primjećuje da ljudi teško prihvaćaju da će AI utjecati upravo na njihovu profesiju. 

Zato očekuje rast razlike između onih koji će AI učinkovito koristiti i onih koji će se sporije prilagođavati. Kao jednu od ključnih slabosti umjetne inteligencije Morić je izdvojio "halucinacije", odnosno generiranje netočnih podataka.

"AI bi trebao ostati alat za potporu ljudima"

Momčilović je dodao da to svojstvo ponekad može pridonijeti kreativnosti, što pokazuje dvostruku prirodu AI sustava. Šarolić Robić je zaključila raspravu isticanjem ljudske odgovornosti. Tehnologija se, po njezinom mišljenju, ne može odvojiti od namjera ljudi koji je stvaraju i koriste.

Aničić je upozorio da vrlo malen broj ljudi ima uvid u stvarne mogućnosti najnaprednijih modela i pozvao na veću transparentnost kompanija. Morić smatra da bi AI trebao ostati alat za potporu ljudima, a ne postati donositelj odluka. Svi su se složili da, unatoč napretku tehnologije, odgovornost na kraju uvijek ostaje na čovjeku.