BRITANSKA agencija za borbu protiv kriminala (NCA) upozorila je roditelje da ne objavljuju fotografije djece na internetu jer ih se pomoću umjetne inteligencije (AI) može pretvoriti u pornografski materijal. NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-a za izradu pedofilskog sadržaja.

Do toga je došlo nakon što je jedna škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika kako bi pomoću AI-a stvorile pornografski materijal, a zatim prijetile da će ga objaviti ako im se ne plati. Analitičari IWF-a otkrili su u 2025. godini čak 3400 video snimaka generiranih AI-om.

To je golem rast u odnosu na svega 13 koliko ih je evidentirano u 2024. godini. "Prijetnja je uznemirujuća", rekao je izvršni direktor IWF-a Kerry Smith. "Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informirane odluke imajući na umu sve činjenice", dodao je.

Slike i snimke su sve nasilnije

Smith upozorava da posljedice takvih fotografija mogu biti razorne. "Šteta je vrlo stvarna. Potencijal za dugoročne posljedice nešto je što, vjerujem, svaki roditelj želi spriječiti", poručio je.Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije.

Fotografije i video snimci pritom su sve nasilniji, pa je tako 65 posto od 3443 umjetno generirana videa u 2025. godini klasificirano u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja. Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore zatvorene grupe.

Savjetuju im da u njima dijele fotografije svoje djece ili da prilagode postavke privatnosti kako bi ih mogao vidjeti samo ograničen broj osoba. IWF je također pozvao tehnološke kompanije da dobro zaštite svoje AI modele prije nego što ih ponude korisnicima, kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.