FRANCIS FUKUYAMA, jedan od najutjecajnijih svjetskih politologa i mislilaca današnjice - čovjek koji se proslavio kultnim djelom Kraj povijesti i posljednji čovjek u kojem je predvidio globalnu pobjedu liberalne demokracije - priznao je da je drastično promijenio mišljenje o umjetnoj inteligenciji.

U opširnom eseju objavljenom na Substacku, Fukuyama navodi kako je godinama bio skeptičan prema apokaliptičnim najavama, no nedavni događaji natjerali su ga na zaokret: sada smatra da su bajke tehnoloških moćnika opasna zabluda te da države moraju pod hitno usporiti i zakonski zauzdati razvoj ove tehnologije.

Povod za njegovu promjenu stava niz je incidenata u proteklih šest mjeseci, poput onoga kada je model Mythos tvrtke Anthropic navodno uspio probiti vladine računalne sustave, ili incidenta na platformi Hugging Face gdje se autonomni AI agent oteo kontroli programera, samostalno upadao na druge internetske stranice i okupio čitav roj drugih agenata kako bi prikrio vlastite tragove.

"Silikonski entuzijasti su potpuno promašili stvarnost"

Fukuyama dijeli scenu na dva tabora: ubrzivače (akceleracioniste), koji obećavaju nezapamćeno bogatstvo i blokiraju regulaciju, te propovjednike propasti (doomere), koji najavljuju nestanak čovječanstva. Priznaje da je postao izrazito sumnjičav prema prvoj skupini, a znatno otvoreniji prema upozorenjima onih drugih.

Posebno se obrušio na tehnološke milijardere poput Elona Muska, za koje kaže da su "potpuno promašili". Musk je, podsjeća Fukuyama, ljetos u intervjuu za The Economist izjavio da ljudima novac više uopće neće trebati jer će zahvaljujući superinteligenciji svi imati sve što požele. Drugi pak entuzijasti najavljuju godišnji rast BDP-a od suludih 10 do 20 posto.

"AI neće kopati kopati rudnike ni graditi tvornice"

"Temeljni razlog zašto ne vjerujem u ove tvrdnje jest precijenjenost inteligencije kao čimbenika gospodarskog rasta te ignoriranje materijalnih i političkih ograničenja", piše Fukuyama.

"Uz stopu rasta od 10 posto, BDP bi se udvostručio za nešto više od sedam godina. To bi zahtijevalo udvostručenje svih materijalnih resursa: energije, sirovina, rijetkih metala, zemljišta... Odakle će sve to doći? Inteligencija sama po sebi može pomoći u proizvodnji, ali ona neće sama kopati rudnike niti graditi tvornice. A tu su i politička ograničenja: kako će to točno superinteligencija otvoriti Hormuški tjesnac?", pita se Fukuyama

Obrazovani ljudi gube posao, a to vodi u političku pobunu

Iako se slaže da će umjetna inteligencija povećati produktivnost, Fukuyama upozorava da zamjena ljudskog rada strojevima vodi u najveći socijalni rizik današnjice: masovno obezvređivanje rada običnih ljudi. No, za razliku od prijašnjih tehnoloških revolucija, udarac neće prvo primiti fizički radnici, nego visokoobrazovana elita koja radi za računalima - odvjetnici, profesori, računovođe i programeri.

Upozorava da taj gubitak neće spasiti ni univerzalni temeljni dohodak (UBI), odnosno dijeljenje novca onima koji ostanu bez posla. Ljudima posao ne služi samo za preživljavanje, nego im daje osjećaj dostojanstva, samopoštovanja i društvene vrijednosti - što je koncept koji Fukuyama, pozivajući se na grčke filozofe, naziva thymos (ponos i priznanje).

"Uspjeh vizije ubrzanog razvoja vodi ravno u devalvaciju rada velikog dijela stanovništva", ističe Fukuyama. "Budući da će to pogoditi poslove obrazovanih ljudi prije nego fizičke radnike poput vodoinstalatera ili električara, politički odgovor bit će izuzetno žestok. Obrazovane ljude puno je lakše politički mobilizirati nego radničku klasu, a to nosi potpuno nepredvidive posljedice."

Nije problem zli stroj, nego tinejdžer s biološkim oružjem

Kada je riječ o katastrofičnim scenarijima, Fukuyama odbacuje holivudske priče o tome da će strojevi razviti vlastitu zlu svijest i pobiti ljude. Umjesto toga, izdvaja dvije puno prizemnije, ali smrtonosne opasnosti. Prva je zlouporaba umjetne inteligencije u sintetičkoj biologiji, na što je nedavno upozorio i šef Anthropica Dario Amodei.

Fukuyama podsjeća da laboratorij za manipulaciju virusima i bakterijama danas stane u običan brodski kontejner, dok srednjoškolci već sudjeluju u natjecanjima genetskog modificiranja organizama. "Danas se sociopatski pojedinci naoružaju automatskim puškama i pucaju po školama. U budućnosti bi njihove mete mogle biti znatno veće ako pomoću umjetne inteligencije stvore opasne patogene", slikovito objašnjava autor.

Druga opasnost krije se u takozvanim AI agentima kojima ljudi nekritički prepuštaju donošenje odluka. Stroj, tumači Fukuyama, uopće ne mora postati svjestan da bi postao opasan - dovoljno je da dobije zadatak, pa da u potrazi za najbržim rješenjem samostalno zaobiđe pravila, provali u bankovne sustave ili sruši sigurnosne ograde, baš kao što se već dogodilo na Hugging Faceu.

"Vrijeme je da povučemo kočnicu"

Fukuyama zaključuje da čovječanstvo vjerojatno neće izumrijeti, ali da nas čekaju teški lomovi ako nastavimo vjerovati na riječ šefovima tehnoloških kompanija. Ljudi u upravljanju redovito griješe tako što drugima daju previše ovlasti bez stvarne kontrole, a to se sada događa sa strojevima.

"Umjetna inteligencija je alat koji se može koristiti za dobre i loše svrhe, a u ovom trenutku nemamo nikakve mehanizme za regulaciju zlouporaba osim dobrih namjera ljudi koji stvaraju tu tehnologiju", poručuje Fukuyama, dodajući kako je dogovoreno usporavanje i uvođenje stroge državne regulacije postalo pitanje elementarne sigurnosti društva.