KINESKI AI startup DeepSeek bit će među tvrtkama koje će ovog tjedna izvijestiti Vijeće sigurnosti Ujedinjenih naroda o rizicima umjetne inteligencije, doznaje se iz dvaju izvora upoznatih sa situacijom. Izlaganje se odvija u vrijeme dok se svjetski čelnici okupljaju u New Yorku na godišnjoj Općoj skupštini UN-a, piše Reuters.

Rasprava o kontroli umjetne inteligencije

Vijeće sigurnosti, koje broji 15 članica, sastat će se u srijedu kako bi raspravljalo o umjetnoj inteligenciji i međunarodnoj sigurnosti. Sastanak se održava nekoliko tjedana nakon što su vodeći ljudi iz AI industrije pozvali na koordinirano usporavanje razvoja sve moćnijih sustava. Upozorili su da bi se ti sustavi uskoro mogli početi sami usavršavati i izmaknuti ljudskoj kontroli.

Kineski i američki predstavnici

Na sastanku planira govoriti izvršni direktor OpenAI-ja Sam Altman, a diplomati očekuju i sudjelovanje visokih predstavnika tvrtke Anthropic, o čemu je Reuters izvijestio prošlog tjedna.

Poziv za davanje izjava dobili su DeepSeek i druge kineske AI tvrtke, uključujući Moonshot, rekao je jedan od izvora. Osnivač DeepSeeka Liang Wenfeng ne planira doći na sastanak, dodaje izvor, ali i napominje da su planovi još uvijek podložni promjenama. DeepSeek i Moonshot nisu odmah odgovorili na upite za komentar.

Opasnosti i geopolitika

Vijeće sigurnosti UN-a, zaduženo za održavanje međunarodnog mira i sigurnosti, prvi se put sastalo na temu rizika umjetne inteligencije 2023. godine. Kina je tada upozorila da tehnologija ne smije postati "odbjegli konj", dok je SAD upozorio na njezinu upotrebu za cenzuru ili represiju.

Glavni tajnik UN-a Antonio Guterres prošlog je tjedna upozorio svjetske čelnike da brzi napredak AI-ja nosi rizike koji se ne smiju zanemariti. Time se suprotstavio stavu američkog predsjednika Donalda Trumpa, koji tvrdi da su postojeće zaštitne mjere dovoljne te da bi Kina mogla profitirati ako se pojavi sumnja u razvoj umjetne inteligencije.

Kineski državni mediji odbacili su pozive na usporavanje razvoja AI-ja. Smatraju da takvi zahtjevi dolaze iz "hladnoratovskog priručnika" i da im je cilj očuvati dominaciju Washingtona u vrhunskoj tehnologiji te isključiti Peking iz globalnog sustava upravljanja.

Za razliku od čelnika vodećih američkih laboratorija poput OpenAI-ja i Anthropica, voditelji glavnih kineskih razvojnih tvrtki rijetko su javno govorili o mogućnosti da bi napredni AI sustavi mogli prevariti ljude, izbjeći kontrolu ili uzrokovati katastrofalnu štetu. O tim su rizicima uglavnom šutjeli i otkako se ovog mjeseca u SAD-u intenzivirala rasprava o toj temi.

Nastavak dijaloga SAD-a i Kine

Visoki američki i kineski dužnosnici dogovorili su nastavak razgovora o sigurnosti umjetne inteligencije, izjavio je u ponedjeljak američki ministar financija Scott Bessent. On se sastao s kineskim kolegama uoči planiranog susreta Trumpa i kineskog predsjednika Xi Jinpinga, koji će se održati krajem tjedna u Washingtonu.