NOVI alat umjetne inteligencije za generiranje slika izazvao je masovnu zabrinutost zbog mogućnosti da bi se fotografski dokazi u kaznenim predmetima uskoro mogli smatrati bezvrijednima. Riječ je o alatu Nano Banana Pro, koji je razvila Googleova podružnica DeepMind, a čija sposobnost stvaranja zastrašujuće realističnih vizuala potiče raspravu o potrebi hitne regulacije, piše Tyla.

Prva verzija alata, Nano Banana, postala je viralna na internetu zbog mogućnosti stvaranja fotorealističnih slika. Međutim, ranije ovog tjedna korisnicima je postala dostupna nova Pro verzija koja omogućuje stvaranje vizuala toliko realističnih da su i tehnološki stručnjaci digli uzbunu. Nova verzija omogućuje stvaranje iznimno sofisticiranih fejk slika, za koje čak i najiskusniji stručnjaci za umjetnu inteligenciju priznaju da ih teško mogu otkriti.

Slika koju je na društvenoj mreži X objavio korisnik @immasiddx privukla je posebnu pozornost, demonstrirajući ogroman napredak između originalne i Pro verzije. 

Stručnjaci upozoravaju na opasnosti

Kreator sadržaja Jeremy Carrasco, koji svoje pratitelje educira o prepoznavanju AI-generiranih snimaka, izjavio je kako je ovo "specifičan korak naprijed u AI realizmu".

"Mnoge stvari na koje smo prije obraćali pozornost, poput mutne slike ili nečega što je izgledalo presjajno ili glatko, sada su u velikoj mjeri ispravljene", rekao je za NBC. Carrasco je dodao da korisnici interneta moraju biti izuzetno oprezni, posebno kod "senzacionalnih" ili "čudnih" slučajeva koji zvuče "predobro da bi bili istiniti".

Ono što najviše brine stručnjake jest mogućnost da se ova napredna tehnologija iskoristi za smještanje nevinih pojedinaca na mjesto zločina ili za potpuno lažiranje dokaza. Ovi razvoji potaknuli su i zabrinutost zbog deepfakeova, dezinformacija i zlouporabe identiteta, što posebno ugrožava javne osobe.

"Mislim da bi trebalo postojati očekivanje da to povuku", objasnio je Carrasco. "Moramo zahtijevati da to učine jer sama ideja da bilo tko može preko noći postati veoma dobar u korištenju ovog alata i koristiti likove slavnih osoba ili političara očito je vrlo zastrašujuća stvar."

Korisnici traže hitnu regulaciju

Nakon objave Nano Banana Pro alata, brojni korisnici na društvenim mrežama izrazili su svoju zabrinutost. "Nedostaju mi dani kada nisam morao stalno preispitivati je li netko čovjek ili AI", napisao je jedan korisnik. Drugi je apelirao: "Dajte nam AI regulative prije nego što se ova nova verzija proširi s milijardu slika za koje više nećemo moći reći jesu li lažne." Treći se zapitao: "Pretpostavljam da će AI u nekom trenutku morati biti zakonski reguliran… Zar ne?!"

Googleov odgovor na zabrinutost

Kao odgovor na kritike, iz Googlea su istaknuli svoju Politiku zabranjene upotrebe generativne umjetne inteligencije. Taj pravilnik ne dopušta "generiranje ili distribuciju sadržaja" koji potiče mržnju, uznemiravanje, nasilje ili sadrži seksualno eksplicitan materijal.

Ista politika zabranjuje sudjelovanje u "dezinformacijama, lažnom predstavljanju ili obmanjujućim aktivnostima", uključujući prijevare, lažno predstavljanje pojedinaca bez izričitog otkrivanja te širenje lažnih tvrdnji vezanih uz osjetljiva područja poput zdravstva, financija ili demokratskih procesa.

Iz tvrtke su također naglasili da svaka slika generirana pomoću Nano Banane Pro uključuje i nevidljivi i vidljivi vodeni žig.