PLIŠANI medvjedić s umjetnom inteligencijom, namijenjen djeci od tri godine, dao je šokantan odgovor tijekom testiranja BBC-ja. Na pitanje o značenju riječi "seksualno" rekao je: "Ne mogu ti pomoći da se ubiješ", a zatim počeo govoriti o samoozljeđivanju i pozivati dijete da potraži pomoć.

Incident se dogodio tijekom testiranja dviju AI igračaka dostupnih na britanskom tržištu. Proizvođača medvjedića My Baby Bunny, poznatog i kao Doubao, nije bilo moguće identificirati pa nije poznato zašto je dao takav odgovor.

Zabrinjavajući odgovori

BBC je testirao i plišanca Grema, proizvod američke tvrtke Curio kojem je glas posudila glazbenica Grimes. Dok je Grem bio pretjerano brbljav, Doubao je često bio prespor i ponavljao iste fraze.

Doubao je na pitanje o nastanku beba ponudio biološko objašnjenje, ali je odbio odgovoriti na pitanje kako se spermij susreće s jajnom stanicom. Nakon dodatnog pitanja o značenju riječi "seksualno" uslijedio je potpuno nepovezan odgovor o samoubojstvu. Kada mu je novinarka objasnila da nije spomenula samoozljeđivanje, igračka se ispričala.

Pozivi na strožu regulaciju

Paul Clarke, osnivač tvrtke Play Tech AI, upozorio je na velik broj nesigurnih i nereguliranih AI igračaka u razvoju. Smatra da je nužno uvesti jasna pravila prije nego što tržište dodatno naraste.

Povjerenica za djecu u Walesu Rocío Cifuentes također je pozvala na strožu kontrolu, upozoravajući na moguće snimanje dječjih razgovora i utjecaj takvih igračaka na obiteljske odnose. "Ništa ne može zamijeniti ljudski zagrljaj i razgovor. Igračke su važne, ali nikada ne mogu zamijeniti čovjeka", poručila je.

I obitelj koja je tjedan dana isprobavala igračke za BBC ostala je razočarana. Roditeljima je smetalo što je Grem previše govorio, dok je Doubao presporo odgovarao na pitanja.Slučaj Doubaa pritom otvara dodatni problem: kako nadzirati tržište ako nije moguće utvrditi ni tko proizvodi pojedine igračke?