STRUČNJACI za online sigurnost upozoravaju na dramatičan porast seksualno eksplicitnih deepfake fotografija, jer je softver koji omogućuje digitalnu transformaciju odjevene osobe u golu lako dostupan. Za žrtve učinak može biti razoran.

Aktivisti upozoravaju da stvaranje realističnih, ali lažnih fotografija golih žena pomoću umjetne inteligencije (AI) postaje normalizirano. Ova pojava sve više zabrinjava i škole. Nedavno istraživanje organizacije Internet Matters pokazalo je da je 13% tinejdžera u SAD-u imalo iskustvo s nude deepfakeovima, prenosi SkyNews.

Ured za komunikaciju će kasnije ovog mjeseca uvesti kodekse ponašanja za internetske tvrtke kako bi ograničio ilegalnu distribuciju lažnih golih fotografija, ali dvije žrtve ovog relativno novog trenda kažu da zakon treba otići još dalje.

Slučaj Cally Jane Beech

Početkom godine influencerica na društvenim mrežama i bivša natjecateljica u showu Love Island Cally Jane Beech (33) bila je užasnuta kada je otkrila da je netko uz pomoć AI-ja pretvorio fotografiju nje u donjem rublju u golu fotografiju koja se potom počela dijeliti online.

Original je bio objavljen na web stranici koja koristi softver za digitalnu transformaciju odjevene osobe na fotografiji u golu. Cally je izjavila: "Izgledalo je tako realistično, nitko osim mene ne bi znao. Bilo je kao da gledam sebe, ali to nisam bila ja." Dodala je: "Ne bi smjelo postojati nešto takvo. To nije zabava. Riječ je o identitetu i tijelu stvarnih ljudi."

Jodie i njezina iskustva

Druga žena, Jodie je počela sumnjati da netko koga poznaje objavljuje fotografije online te da ih drugi ljudi kasnije digitalno obrađuju. Pronašla je jednu posebnu fotografiju snimljenu ispred King's Collegea u Cambridgeu, za koju je znala da ju ima samo jedan čovjek, njezin najbolji prijatelj Alex Woolf. Fotografiju mu je poslala putem AirDropa.

Woolf, koji je jednom osvojio titulu mladog skladatelja godine, kasnije je osuđen za prekršaje protiv 15 žena, i to većinom zahvaljujući Jodieinoj upornosti i detektivskom radu. Ipak, njegova osuda se odnosila samo na uvredljive komentare ispod fotografija jer ilegalno je dijeliti ih, ali nije kazneno djelo od drugih tražiti da ih kreiraju. Osuđen je na uvjetnu kaznu i morao je platiti 100 funti svakoj od svojih žrtava. Jodie vjeruje da je nužno uvesti nove zakone koji bi zabranili izradu i traženje ovakvih fotografija. Izjavila je: "Zlostavljanje nije vaša zabava."

Aktivisti su zabrinuti

U anketi iz listopada, koju je proveo Teacher Tap, 7% učitelja odgovorilo je potvrdno na pitanje: "Jeste li u posljednjih 12 mjeseci imali incident u kojem je student koristio tehnologiju za stvaranje lažne seksualno eksplicitne fotografije kolege ili kolegice?"

Cally i Jodie naišle su tijekom kampanje na primjere gdje su učenice i studentice bile žrtve deepfakea. Cally je izjavila: "Ljudima je taj oblik nasilja zabavan. No može imati ogromne posljedice na mentalno zdravlje i sigurno je zastrašujuće iskustvo za mladu djevojku koja se s tim nosi."

Takve fotografije se koriste u manipulative svrhe ili kao oblik iznuđivanja, a dijele se i među vršnjacima te predstavljaju vrstu zlostavljanja i uznemiravanja. Djeca postaju prestrašena, izolirana i brinu se da im nitko neće vjerovati da je fotografije napravio netko drugi.

Alex Davies-Jones, državna tajnica za žrtve, rekla je parlamentarcima u studenom: "Obvezali smo se proglasiti čin stvaranja deepfakeova kaznenim djelom i to ćemo zakonski regulirati u ovom sazivu." Aktivistice poput Jodie i Cally vesele se novim zakonima, no zabrinute su da neće biti dovoljno strogi u vezi sa zabranom traženja sadržaja te osiguravanjem uklanjanja postojećih fotografija.