KINESKO regulatorno tijelo za kibernetiku u javnu raspravu uputilo je nacrt propisa kojim će se pooštriti nadzor nad uslugama umjetne inteligencije koje oponašaju ljudsku osobnost i ulaze u emocionalnu interakciju s korisnicima.

Taj potez naglašava pokušaje Pekinga da regulira brzi razvoj umjetne inteligencije usmjerene prema korisnicima, pojačavajući sigurnost i pooštravajući etičke uvjete.

Opseg novih propisa

Predloženi propisi primjenjivali bi se na proizvode i usluge AI-ja koji predstavljaju simulirane crte ljudske osobnosti, obrasce razmišljanja i način komunikacije te ulaze u emocionalnu interakciju s korisnicima putem teksta, slika, audio i video snimaka ili na neki drugi način.

Nacrt predviđa pristup koji će od pružatelja usluga tražiti da korisnike upozore na prekomjernu uporabu i interveniraju kada pokažu znakove ovisnosti.

Sigurnosne mjere i zaštita korisnika

Prema nacrtu, pružatelji usluga morali bi poduzimati sigurnosne mjere dok god je proizvod u uporabi i uspostaviti sustave za reviziju algoritma, sigurnost podataka i zaštitu osobnih podataka.

Nacrt predviđa i moguće psihološke rizike. Od pružatelja usluga očekivat će se da prepoznaju stanje korisnika i procijene njegove emocije i razinu ovisnosti o usluzi. Otkrije li se da korisnik pokazuje ekstremne emocije ili ovisničko ponašanje, pružatelj usluga morat će poduzeti određene mjere i intervenirati, stoji u nacrtu.

Mjere određuju granice sadržaja i ponašanja, propisujući da usluge ne smiju generirati sadržaj koji ugrožava nacionalnu sigurnost, širi glasine ili promiče nasilje i opscenost.