FRANCUSKI predsjednik Emmanuel Macron objavio je AI-generirane deepfake videozapise kako bi promovirao početak AI Action Summita koji se održava u Parizu, prenosi BBC.

U videu objavljenom na njegovim profilima na društvenim mrežama Macron reagira na montažu deepfake videozapisa u kojima se pojavljuje u popularnim filmovima i TV serijama. "Dobro napravljeno", komentira francuski predsjednik.

Videozapisi Macrona ubačeni u popularne medijske sadržaje s pomoću umjetne inteligencije već nekoliko mjeseci kruže francuskim društvenim mrežama, a lani u listopadu je za Variety izjavio da deepfake tehnologija za neke može biti oblik uznemiravanja. Normalizacija deepfakea prema nekim kritičarima otežava prepoznavanje lažnih vijesti.

Macron: Uz AI možemo postići velike stvari

Montaža je pregledana milijune puta na predsjednikovim profilima na Instagramu, X-u i TikToku, a prikazuje Macrona ubačenog u hit eurodisco pjesmu iz 1980-ih, tutorijal o friziranju influencera i akcijsku seriju MacGyver.

"Ali zaozbiljno, uz umjetnu inteligenciju možemo postići velike stvari: promijeniti zdravstvo, energetiku i život u našem društvu", rekao je 47-godišnji predsjednik. "Francuska i Europa moraju biti u središtu ove revolucije kako bi iskoristile sve prilike, ali i promicale vlastite principe", dodao je.

Video je objavljen uoči dvodnevnog globalnog AI summita koji danas počinje u Parizu. Cilj summita je okupiti svjetske čelnike, tehnološke direktore i akademike kako bi raspravili o utjecaju umjetne inteligencije na društvo, upravljanje i okoliš.

Macronov potez naišao je i na kritike

"Deepfake predsjednika Macrona može se činiti kao bezazlena zabava za promociju AI Summita u Parizu, ali to općenito nije dobra stvar", komentirao je Paul McKay, glavni analitičar u tehnološkoj konzultantskoj tvrtki Forrester.

"Normalizacija deepfake tehnologije na ovaj način ne bi se trebala poticati jer dodatno otežava razlikovanje stvarnog od lažnog, a u konačnici doprinosi zamućivanju granice između činjenica i fikcije", poručio je.

Dr. Richard Whittle sa Salford Business School također upozorava na rizik od normalizacije deepfake videozapisa, kako na društvenim mrežama, tako i od prevaranata. "Dobro je skrenuti pozornost na ovu prijetnju, ali prikazivanje koliko je jednostavno izraditi deepfake može dovesti do njihove šire primjene", zaključio je.

Sutra će biti objavljena globalna deklaracija, no ne zna se hoće li je potpisati Britanija i SAD

U francuskim medijima vodi se rasprava o tome bi li Macron trebao trivijalizirati deepfake videozapise s obzirom na njihovu potencijalnu štetnost, a Macron je ranije izjavio da bi se umjetna inteligencija trebala regulirati uvođenjem odgovornosti za one koji šire takav sadržaj kako bi ga moderirali.

Novi EU-ov Zakon o umjetnoj inteligenciji (AI Act), koji regulira upotrebu umjetne inteligencije, naišao je na kritike na Summitu zbog navodnog gušenja inovacija, a EU je također predstavila planove za paneuropski, open-source AI model s proračunom od 37,4 milijuna eura.

Sutra bi trebala biti objavljena globalna deklaracija o zajedničkim ciljevima i etičkoj odgovornosti u korištenju umjetne inteligencije, a SAD i Velika Britanija zasad nisu potvrdili hoće li je potpisati.