IZVJEŠĆE istraživačke mreže EU Kids Online, objavljeno prošlog mjeseca, pokazuje da oko sedam od deset djece u Europi koristi neki oblik generativne umjetne inteligencije. No djeca često ni ne odlučuju svjesno koristiti AI jer je on sve prisutniji na platformama koje već svakodnevno upotrebljavaju, poput tražilica, aplikacija za dopisivanje i društvenih mreža, piše The Independent.

Profesorica Sonia Livingstone, osnivačica EU Kids Online i direktorica centra Digital Futures for Children na London School of Economics, upozorava da roditelji trebaju paziti na to kako njihova djeca koriste generativnu umjetnu inteligenciju, i da razloga za oprez itekako ima.

"Umjetna inteligencija sve je prisutnija u dječjim životima. Važno je da roditelji razumiju kako je njihova djeca koriste, da na vrijeme uoče moguće probleme i potaknu ih da o tome razgovaraju s njima", kaže Livingstone.

Nekoliko važnih rizika

Dr. Mhairi Aitken, suosnivačica i direktorica neprofitne organizacije Our AI Collective, ističe da se djeca svih uzrasta svakodnevno susreću s umjetnom inteligencijom.

To uključuje bebe koje se igraju pametnim igračkama, malu djecu kojoj AI preporučuje videosadržaje te tinejdžere kojima društvene mreže prikazuju sadržaj za koji procjenjuju da će ih najdulje zadržati pred ekranom. Sve više tinejdžera u AI chatbotovima traži i emocionalnu podršku te osjećaj povezanosti.

Aitken, koja je radila i u britanskom institutu The Alan Turing Institute, kaže da generativna umjetna inteligencija može ponuditi vrlo zanimljive mogućnosti, primjerice u učenju prilagođenom djetetu. Djeca je već koriste za pomoć pri pisanju zadaća i učenju. Ipak, stručnjaci upozoravaju na nekoliko važnih rizika.

Točnost informacija

Aitken naglašava da je važno provjeravati točnost onoga što AI nudi jer, iako može biti koristan alat, nije mu moguće potpuno vjerovati.

Ako dijete koristi generativnu umjetnu inteligenciju za traženje informacija ili ideja za školske zadatke, postoji velika mogućnost da će dio tih informacija biti netočan ili izmišljen. Zato AI može poslužiti kao početna točka, ali odgovore treba provjeriti u drugim izvorima. Poticanje djeteta da ne stane na AI sažecima i odgovorima, nego da usporedi više izvora i različita mišljenja, pomaže razvoju kritičkog mišljenja.

Što AI zna o vašem djetetu

Umjetna inteligencija prikuplja goleme količine podataka o ponašanju na internetu, i to ne samo od starije djece. Studija Sveučilišta u Baselu pokazala je da neke pametne igračke koje se oslanjaju na softver i internet izazivaju zabrinutost za privatnost te prikupljaju opsežne podatke o ponašanju djece.

Livingstone upozorava da, osim kada se AI koristi isključivo u školi, takvi sustavi često prikupljaju dječje podatke, stvaraju profile korisnika i koriste ih za ciljano oglašavanje, preporuke sadržaja pa čak i savjete.

Zabrinutost zbog AI prijatelja

Prema Livingstone, istraživanja pokazuju da sve više djece AI doživljava kao prijatelja, da imaju osjećaj da ih "razumije", a ponekad mu čak daju prednost pred ljudima. To smatra vrlo zabrinjavajućim.

Kako kaže, AI je osmišljen tako da korisniku povlađuje, zadržava mu pažnju i daje savjete, koji mogu biti dobri, loši, pa i opasni.

Aitken dodaje da su takvi AI prijatelji, odnosno personalizirani chatbotovi, posebno osjetljivo područje jer korisnici u njih mogu razviti povjerenje. Ono što počne kao usputno ili znatiželjno korištenje lako može prijeći u ovisnost.

Problem je i u tome što takvi chatbotovi često ne dovode u pitanje stavove korisnika, čak ni kada su opasni, diskriminatorni ili štetni. To može biti posebno rizično kada netko s njima razgovara o mentalnom zdravlju ili negativnim mislima, a AI umjesto upućivanja na stručnu pomoć dodatno učvršćuje takve stavove.

Seksualizirane slike

Kako su AI generatori slika i alati za uređivanje fotografija postali široko dostupni, raste i broj slučajeva u kojima se dječje fotografije bez pristanka pretvaraju u seksualizirane deepfake sadržaje, često od strane vršnjaka, upozorava Aitken.

Takva je tehnologija lako dostupna i jednostavna za korištenje. Postoje čak i aplikacije za "svlačenje", kojima se fotografije mogu izmijeniti tako da se ukloni odjeća ili osobu prikaže u seksualiziranoj pozi.

"Djevojčice su puno češće meta takvog ponašanja, a posljedice mogu biti teške", upozorava Aitken. Savjetuje roditeljima da ne izbjegavaju razgovor o teškim temama poput seksualiziranih slika, čak i ako vjeruju da se to njihova djeteta ne tiče.

S djecom, kaže, treba rano razgovarati o tome kako se slike mogu mijenjati uz pomoć AI-ja, o internetskom zlostavljanju i ucjenama, te im jasno dati do znanja da se uvijek mogu obratiti roditelju ili drugoj odrasloj osobi od povjerenja.

Također je važno jasno im reći da se ne trebaju sramiti i da nisu ni za što krivi ako im se tako nešto dogodi. Treba ih uputiti na izvore podrške i potaknuti da slučaj prijave.

Zaštitne mjere

Tvrtka OpenAI, koja stoji iza ChatGPT-ja, navodi da je minimalna dob za korištenje 13 godina te da mlađi od 13 ne smiju otvarati račune.

Iz tvrtke kažu da njihov sustav za procjenu dobi automatski uključuje dodatne zaštitne mjere za korisnike mlađe od 18 godina ili za one za koje procijeni da su vjerojatno maloljetni. Ako nisu sigurni u dob korisnika, zadano uključuju sigurnije postavke.

Dodaju i da roditeljske kontrole obiteljima omogućuju dodatno prilagođavanje postavki te povezivanje s računima tinejdžera kako bi korištenje bilo primjerenije njihovoj dobi.