UMJETNA je inteligencija u samo nekoliko godina postala najrašireniji alat za stvaranje sadržaja u povijesti.

Generira tekstove, slike i videozapise gotovo besplatno i u golemim količinama. No, s vremenom postaje sve jasnije da ta ista tehnologija potkopava same temelje na kojima je izgrađen internet.

Novi video vrlo kredibilnog znanstveno-edukacijskog kanala Kurzgesagt upozorava da AI ne uništava samo pojedine platforme, nego samu srž digitalnog znanja.

AI stvara brže nego što možemo pratiti

Video počinje jednostavnom dijagnozom prema kojoj generativna umjetna inteligencija (GenAI) stvara sadržaj mnogo brže nego što ga ljudi mogu čitati, provjeravati ili filtrirati.

Istraživanja pokazuju da danas pola globalnog internetskog prometa generiraju botovi od kojih većina ima destruktivnu svrhu. Pritom su sadržaji koje su kreirali ljudi, poput tekstova, slika i videa, prodani AI kompanijama ili su ih one same ukrale bez pripisivanja zasluga ili novčanih kompenzacija stvarnim tvorcima.

Tim Kurzgesagta ističe da su i sami bili oduševljeni kada se pojavio AI, da bi se razočarali čim su krenuli u provjeru informacija koje je generirao. Pokazalo se da je riječ o vrlo toksičnoj kombinaciji netočnosti i samouvjerenosti.

Provjera na primjeru smeđih patuljaka

U svojoj analizi tim je od AI-ja zatražio da generira zanimljiv znanstveno popularan sadržaj o smeđim patuljcima, tijelima čija je masa premala da bi u njihovoj jezgri započela stabilna nuklearna fuzija vodika kao u zvijezdama, a prevelika da bi se smatrali planetima.

AI je vrlo brzo kreirao masu zanimljivih sadržaja. Među njima je oko 80% bilo kredibilno i temeljilo se na pouzdanim, provjerljivim izvorima. No kada je tim u suradnji sa stručnjacima pokušao provjeriti i pronaći izvore za preostalih 20%, pokazalo se da ih je AI jednostavno izmislio kako bi zadovoljio zahtjeve korisnika, poput lošeg novinara koji izmišlja ili iskrivljuje činjenice kako bi privukao publiku.

Kada su autori istražili dublje, pokazalo se da je jedan od naizgled kredibilnih izvora zapravo u velikoj mjeri bio kreiran uz pomoć AI-ja.

Tim ističe da to nije čudno jer je od 2020. do danas već niknulo više od 1200 web stranica koje objavljuju goleme količine dezinformacija kreiranih AI-jem.

Smrt interneta

Kurzgesagt tvrdi da se nedugo nakon njihove analize na jednom relativno novom kanalu, koji ima na stotine tisuća pregleda, pojavio privlačan, dobro napravljen znanstveno popularan video o smeđim patuljcima koji je sadržavao upravo one informacije koje je njegov tim ranije identificirao kao dezinformacije.

"Tu počinje smrt interneta", upozorava video. Autori ističu da je dezinformacija o smeđim patuljcima na taj način dobila izvor koji djeluje kredibilno te da je postala svojevrsna internetska "istina".

Jačanje lažnih izvora

Tu je poseban problem to što AI uvijek zvuči vrlo uvjerljivo i što je istovremeno uporan u izmišljanju. Naime, kada ga suočite s greškom, on će je priznati i obećati da to više neće raditi. Međutim, već u sljedećoj prilici će sve ponoviti.

"Koliko god se jezični modeli činili elokventnima, zapravo tu nema nikoga kod kuće. Tu nema neke više inteligencije ili svijesti koja razgovara s vama. Postojeći AI je vrlo složen čekić koji ne razumije što radi ni što su njegovi čavli. No mi mu dozvoljavamo da u naše knjižnice dodaje nove police znanja", upozoravaju autori.

Na sreću, razine povjerenja u LLM-ove ubrzano padaju. Istraživanja Pew Researcha, Gallupa i drugih organizacija pokazala su da je povjerenje u LLM-ove u samo dvije godine palo s oko 45–55% na oko 15–30%, što je najveći pad povjerenja u neku tehnologiju u tako kratkom vremenu u povijesti. No, to samo po sebi neće riješiti problem kontaminacije interneta.

Kontaminira se sama znanost

Štoviše, problem se tu ne zaustavlja. Naime, znanstvenici su 2024. istražili gotovo milijun znanstvenih članaka koji su nastali prije ere AI-ja i nakon njezina početka. Analiza je otkrila nagli porast u broju riječi koje su karakteristične za AI, što pokazuje da se dobar dio znanstvenih radova danas u najmanju ruku radi uz pomoć AI-ja, ako ne i u cijelosti i to uglavnom bez priznavanja autorstva AI-ja.

Da stvar bude gora, u srpnju 2025. otkriveno je da su brojni znanstvenici u svoje radove počeli čak ubacivati skrivene poruke pisane bijelim slovima ili previše sitnim fontom da bi bile čitljive ljudima. Te poruke poticale su AI-jeve da im daju dobre recenzije i da im ne otkrivaju pogreške. O tome su pisali brojni časopisi među kojima i Nature i Smithsonian.

Problem povratne sprege

Konačno dolazimo do problema povratne sprege, odnosno petlje. Današnji AI modeli treniraju se na golemim količinama podataka s interneta i navode podatke i izvore koje nalaze na njemu. A što je više generičkih, površnih, netočnih ili čak lažnih AI-tekstova i AI-slika, to će veći dio budućih skupova podataka biti kontaminiran.

Drugim riječima, modeli će sve više učiti na vlastitim dezinformacijama.

Plafon kreativnosti

U ovom kontekstu zanimljiva je jedna nova studija koja je matematički pokazala da suvremeni AI-jevi, koji su u biti veliki jezični modeli (LLM), ne mogu postati kreativniji od ljudi amatera.

Naime, teorijska analiza profesora Davida H. Cropleya s University of South Australia, objavljena nedavno u časopisu Journal of Creative Behaviour, pokazala je da arhitektura LLM-ova sama po sebi nameće matematičko ograničenje u kreativnosti.

LLM može biti mediokritet

Cropley u studiji definira kreativnost kao kombinaciju dviju dimenzija - učinkovitosti i inovativnosti, odnosno originalnosti. U LLM-ovima, koji rade na principu predviđanja najvjerojatnije sljedeće riječi, odnosno tokena, najpredvidljivije riječi imaju visoku učinkovitost, ali nisku razinu novosti, odnosno inovativnosti.

Nasuprot tome, riječi s malom vjerojatnošću omogućuju visoke razine novosti i originalnosti, ali nude nisku učinkovitost - vjerojatnije je da će biti besmislene, odnosno loš izbor.

Cropley je izračunao da je, zbog tog strukturalnog kompromisa, odnosno relacije između učinkovitosti i novosti, za LLM maksimalna moguća "kreativna vrijednost" 0.25 na skali od 0 do 1. To znači da je u postojećim sustavima praktično nemoguće istovremeno postići i visoke razine novosti i visoku učinkovitost.

Što to znači u praksi?

Prema studiji, razine oko 0.25 odgovaraju razini kreativnosti prosječnog autora amatera, a ne profesionalca. Cropley ističe da su empirijska istraživanja provedena na pričama i rješenjima generiranim AI-jem pokazala da ona uglavnom postižu između 40% i 50% maksimuma ljudske kreativnosti.

Cropley tvrdi da je stvarna kreativna sposobnost AI-ja, iako ponekad uvjerljivo oponaša kreativno ponašanje, ograničena na razinu prosječnog čovjeka te da s "današnjim dizajnom nikada neće dosegnuti profesionalne ili ekspertne standarde."

To u konačnici podrazumijeva da će internet postupno preplavljivati sve više dezinformacija i mediokritetskih sadržaja i kreacija.

Kurzgesagt stoga upozorava: "Ako se sadašnji trendovi nastave, nije nategnuto reći da će jeftini, loši sadržaji, 'taman dovoljno dobri', privući većinu ljudske pozornosti. To može još više skratiti našu sposobnost pozornosti te učiniti da postanemo još gluplji i slabije informirani."