TVRTKE koje razvijaju umjetnu inteligenciju od ovog tjedna imaju nove obveze prema Aktu o umjetnoj inteligenciji Europske unije. Moraju osigurati da se deepfake snimke i drugi sadržaji stvoreni pomoću AI-ja mogu jasno prepoznati kao umjetni. Unatoč tome, tehnički izazovi otvaraju pitanje stvarne učinkovitosti tih pravila, piše Euronews.

Europska unija je prije dvije godine donijela sveobuhvatna pravila za regulaciju umjetne inteligencije i osnovala Ured za AI, koji nadzire provedbu tog ključnog zakona. Akt o AI-ju među svojim odredbama sadrži i prve svjetske propise o transparentnosti za sintetičke medije.

Od satire do manipulacije

To znači da pružatelji usluga generativne umjetne inteligencije, kao što su Anthropicov Claude i OpenAI-jev ChatGPT, moraju tehnički omogućiti da se umjetno stvoren ili izmijenjen sadržaj može prepoznati kao takav.

Pravila su još stroža za takozvane deepfakeove. Riječ je o realističnim slikama, zvučnim ili videozapisima koje je umjetna inteligencija stvorila ili izmijenila tako da oponašaju izgled, glas ili postupke stvarne osobe. Cilj je spriječiti da javnost povjeruje kako je netko rekao ili učinio nešto što se u stvarnosti nije dogodilo.

Kao i svaka tehnologija, umjetna inteligencija može se koristiti u kreativne, ali i u štetne svrhe. Europska unija prihvaća da nije svaki sintetički sadržaj stvoren s namjerom obmane. Sadržaj koji je očito umjetnički, kreativan, satiričan ili fiktivan uglavnom je izuzet od obveze označavanja.

Poznat je primjer iz 2023. godine, kada je umjetno stvorena slika pape Franje u modernoj bijeloj jakni postala viralna. Iako je slika bila lažna, većina ju je doživjela kao šalu. Ista se tehnologija, međutim, može iskoristiti i u znatno štetnije svrhe.

Lažne snimke poznatih

Svjetska pop zvijezda Taylor Swift bila je 2024. godine žrtva eksplicitnih slika stvorenih umjetnom inteligencijom, koje su se bez njezina pristanka proširile internetom. Taj je slučaj ponovno potaknuo raspravu o rizicima sintetičkih medija.

Nedugo nakon početka ruske invazije na Ukrajinu 2022. godine pojavila se lažna snimka u kojoj ukrajinski predsjednik Volodimir Zelenski poziva vojnike na predaju. Video je brzo razotkriven kao lažan, ali je pokazao kako se sintetički mediji mogu koristiti kao ratno oružje.

Glavna je bojazan da bi sve realističniji sadržaj stvoren umjetnom inteligencijom, koji se dodatno širi društvenim mrežama, mogao građanima znatno otežati razlikovanje stvarnih informacija od lažnih.

Regulacija deepfakeova

Da bi odgovorila na taj izazov, Europska komisija razvila je dobrovoljni kodeks postupanja. Kodeks služi kao okvir koji definira kako bi tvrtke trebale otkrivati umjetno podrijetlo sadržaja, i to pomoću strojno čitljivih oznaka te vidljivih natpisa za deepfake snimke.

Ideja je jednostavna: korisnici moraju znati kada gledaju sadržaj koji je stvorila ili izmijenila umjetna inteligencija. Zbog toga se pravila odnose i na tvrtke koje razvijaju tehnologiju i na one koje AI koriste u profesionalne svrhe, dok je osobna upotreba izuzeta.

Kodeks se ne odnosi samo na označavanje, nego i na popratne mehanizme za otkrivanje sadržaja, koji zahtijevaju suradnju svih uključenih strana: tehnoloških tvrtki, društvenih mreža, organizacija civilnog društva i organizacija za provjeru činjenica. Ostaje pitanje može li tehnologija pouzdano ispuniti taj zadatak.

Jedno pravilo, mnogo prepreka

Prva je prepreka geografska. EU može regulirati tvrtke koje posluju na europskom tržištu, ali internetski sadržaj ne poznaje granice. Deepfake stvoren izvan Europe može u nekoliko minuta dosegnuti milijune europskih korisnika.

Druga je prepreka tehnička zrelost rješenja. Velike tehnološke tvrtke poput OpenAI-ja i Googlea podržale su zahtjeve za transparentnošću i potpisale kodeks Komisije, ali su istodobno upozorile da se tehnologije za otkrivanje i označavanje neprestano mijenjaju.

Trenutačno ne postoji jedinstveno rješenje na razini cijele industrije. Tvrtke eksperimentiraju s različitim pristupima, kao što su vodeni žigovi, metapodaci i sustavi za provjeru podrijetla, a ti pristupi često nisu međusobno kompatibilni.

Treća je prepreka nestalnost digitalnih tragova. Stručnjaci upozoravaju da se vodeni žigovi mogu ukloniti, izmijeniti ili izgubiti tijekom uređivanja, kompresije ili dijeljenja sadržaja na različitim platformama. Praćenje povijesti umjetno stvorene slike ili videa kroz više faza obrade može biti iznimno složeno.

Studija Europske komisije

Zbog tih ograničenja istraživači smatraju da nijedna pojedinačna tehnologija neće biti dovoljna. Tvrtke će stoga vjerojatno morati primijeniti višeslojni pristup koji objedinjuje nekoliko metoda.

"Kombinacija rješenja snažnija je od bilo koje pojedinačne mjere. Stoga je najbolja praksa primijeniti više slojeva za označavanje i otkrivanje sadržaja stvorenog umjetnom inteligencijom", zaključak je tehničke studije Europske komisije o toj temi.

Europska unija preuzela je vodeću ulogu u suočavanju s jednim od ključnih izazova ere umjetne inteligencije: svijetom u kojem je sintetički sadržaj sve teže razlikovati od stvarnog. Međutim, o sposobnosti EU-a da prati tehnologiju koja se iznimno brzo razvija ovisit će hoće li pravila o transparentnosti iz Akta o AI-ju postati stvarna zaštita ili samo formalnost koja ne rješava problem.