AMERIČKA tehnološka tvrtka Anthropic, koja razvija umjetnu inteligenciju i stoji iza poznatog AI asistenta Claudea, jučer je objavila da bi manji modeli umjetne inteligencije (AI) za nekoliko mjeseci mogli postati sposobni samostalno se širiti na uređaje povezane s internetom, poput pametnih pećnica i jeftinijih Android televizora.

Tvrtka je u eksperimentima provjeravala mogu li AI modeli pronaći uređaje sa sigurnosnim propustima, kopirati se na njih i nastaviti se širiti bez pomoći čovjeka. Pokazalo se da manji modeli mogu obaviti mnoge potrebne korake, ali još uvijek teško uspijevaju dovršiti cijeli postupak.

U pojednostavljenim testovima, u kojima su uklonjene neke sigurnosne prepreke, modeli GLM-5.2 i drugi snažniji modeli uspjeli su se samostalno kopirati i proširiti na druge uređaje.

Zašto bi ih bilo teško zaustaviti?

Anthropic upozorava da bi takve AI modele bilo teško zaustaviti jer ne bi postojalo jedno središnje mjesto na kojem bi ih se moglo isključiti. Za razliku od klasičnih zlonamjernih programa, mogli bi samostalno pronalaziti načine za rad na uređajima s kojima se ranije nisu susreli, ali i pokušavati pristupiti snažnim procesorima u podatkovnim centrima.

Istraživanje je obuhvatilo uređaje povezane s internetom, poput Android televizora, pametnih kućanskih uređaja i druge slične opreme, koja često nema dovoljno dobru zaštitu.

Iz Anthropica upozoravaju da bi, ako se manji AI modeli nastave razvijati dosadašnjom brzinom, već do kraja ove godine mogli postati sposobni samostalno se kopirati i širiti na druge uređaje. Ubrzo nakon toga slične bi mogućnosti mogli dobiti i sustavi koji koriste druge AI modele.

Prema procjeni Anthropica, takvi bi se AI sustavi vjerojatno širili polako, koristeći velik broj lako dostupnih i slabije zaštićenih uređaja. Tvrtka zato upozorava da je potrebno poboljšati sigurnost tih sustava kako bi se spriječilo nekontrolirano širenje umjetne inteligencije.