NEKIM mladim korisnicima TikToka prikazuje se potencijalno opasan sadržaj koji bi mogao potaknuti poremećaje prehrane, samoozljeđivanje i samoubojstvo, tvrdi grupa za sigurnost na internetu. Istraživanje TikTok algoritma koje je proveo Centar za suzbijanje digitalne mržnje (CCDH) otkrilo je da se određenim računima opetovano servira sadržaj o poremećajima prehrane i drugim štetnim temama nekoliko minuta nakon pridruživanja platformi.

Grupa je stvorila po dva računa u SAD-u, Britaniji, Australiji i Kanadi predstavljajući se kao 13-godišnjaci. Jedan račun u svakoj zemlji dobio je žensko ime, a drugi je dobio slično ime, ali uz referencu na gubitak težine uključenu u korisničko ime. Uspoređen je sadržaj koji je prikazan tim računima u prvih 30 minuta na TikToku.

CCDH je rekao da je koristio ovu metodu korisničkog imena jer su prethodna istraživanja pokazala da će neki korisnici s problemima tjelesne težine to često izraziti na svojim društvenim mrežama. Također navode da su računi korišteni u studiji izrazili sklonost prema videozapisima o slici tijela, mentalnom zdravlju i poremećajima prehrane pauziranjem relevantnih videozapisa i pritiskom na gumb za lajk.

U izvješću grupe ne radi se razlika između sadržaja s pozitivnom namjerom i sadržaja s jasnijom negativnom namjerom - pri čemu CCDH tvrdi da u mnogim slučajevima nije bilo moguće definitivno utvrditi namjeru videa te da čak i oni s pozitivnom namjerom mogu još uvijek biti uznemirujući za neke.

Izvješće tvrdi da je brzina kojom TikTok preporučuje sadržaj novim korisnicima štetna

Tijekom istraživanja CCDH je utvrdio da je jednom od njegovih računa prikazan sadržaj koji spominje samoubojstvo u roku od tri minute nakon pridruživanja TikToku, a sadržaj o poremećaju prehrane prikazan je jednom računu u roku od osam minuta.

Grupa navodi da su u prosjeku istraživanim računima svakih 39 sekundi servirani videozapisi o mentalnom zdravlju i slici tijela.

Istraživanje je pokazalo da su najranjiviji računi - koji su uključivali reference o slici tijela u korisničkom imenu - dobili tri puta više štetnog sadržaja i 12 puta više sadržaja povezanog sa samoozljeđivanjem i samoubojstvom.

CCDH je rekao da je studija otkrila zajednicu poremećaja prehrane na TikToku koja koristi i kodirane i otvorene hashtagove za dijeljenje materijala na stranici, s više od 13 milijardi pregleda videa.

Platforma za dijeljenje videozapisa uključuje stranicu For You, koja koristi algoritam za preporuku sadržaja korisnicima dok stupaju u interakciju s aplikacijom i prikuplja više informacija o interesima i preferencijama korisnika.

Nakon istraživanje objavljen je i vodič za roditelje

Imran Ahmed, izvršni direktor CCDH-a, optužio je TikTok da "truje umove" mlađih korisnika.

"Promiče kod djece mržnju prema vlastitom tijelu i ekstremne sugestije o samoozljeđivanju i poremećen, potencijalno smrtonosan odnos prema hrani. Roditelji će biti šokirani kada saznaju istinu i bit će bijesni što zakonodavci ne uspijevaju zaštititi mlade ljude od velikih tehnoloških milijardera, njihovih neodgovornih aplikacija za društvene mreže i sve agresivnijih algoritama", rekao je.

Nakon istraživanja CCDH je sa Zakladom Molly Rose, koju je osnovao Ian Russell nakon što je njegova kći Molly okončala život nakon gledanja štetnog sadržaja na društvenim mrežama, objavio novi vodič za roditelje.

Vodič potiče roditelje da otvoreno razgovaraju sa svojom djecom o društvenim medijima i sigurnosti na internetu te da potraže pomoć grupa za podršku ako su zabrinuti za svoje dijete.

Kao odgovor na istraživanje, glasnogovornik TikToka komentirao je: "Ova aktivnost i rezultirajuće iskustvo ne odražavaju stvarno ponašanje ili iskustvo stvarnih ljudi. Redovito se savjetujemo sa zdravstvenim stručnjacima, uklanjamo videozapise koji krše naša pravila i pružamo pristup resursima podrške svima kojima je to potrebno. Svjesni smo da je sadržaj koji nudi jedinstven za svakog pojedinca i ostajemo usredotočeni na poticanje sigurnog i ugodnog prostora za sve, uključujući ljude koji odluče podijeliti svoja iskustva oporavka ili educirati druge o ovim važnim temama."