ISTRAGA BBC Eye otkrila je da Instagram u Indiji prikazuje plaćene oglase kojima se promiče materijal za seksualno zlostavljanje djece. Oglasi, koji koriste izraze poput "video silovanja" i "dječji video", korisnike usmjeravaju na kanale u aplikaciji za dopisivanje Telegram, gdje takav materijal mogu kupiti za samo 99 rupija, što je oko jedan dolar. Ovi oglasi objavljuju se tek nakon što ih odobri Instagramova tehnologija za moderiranje sadržaja, piše BBC.

Kako je BBC proveo istragu

BBC je otvorio lažni račun na Instagramu nakon što je uočio da platforma nudi seksualno sugestivan sadržaj čak i kad ga korisnik nije tražio. Među takvim sadržajem bile su objave žena iz Indije koje su, odjevene u oskudnu odjeću, pisale o hrani, vremenu i svakodnevnom životu koristeći seksualne aluzije. Novi lažni račun, postavljen u Indiji, počeo je pratiti deset takvih i sličnih profila kako bi istražio seksualizirani sadržaj na platformi.

U manje od tjedan dana Instagram je na naslovnici počeo prikazivati oglase žena koje nude videopozive i golih parova u spolnom odnosu. Nekoliko dana kasnije počeli su se pojavljivati oglasi koji prikazuju djecu s odraslima u seksualno sugestivnim situacijama, s poveznicama na Telegram kanale.

Sadržaj oglasa i izostanak reakcije

Ukupno se pojavilo oko 30 jedinstvenih oglasa koji promiču seksualno zlostavljanje djece, iako su neke dijelili različiti računi. Lažnom računu prikazano je i oko 20 oglasa s pornografijom za odrasle.

Jedan je oglas prikazivao dječaka i djevojčicu, oboje stari oko 12 godina, u seksualnom činu. Drugi je prikazivao muškarca s rukom oko djevojčice, uz tekst u kojem se navodi da on ima 52, a ona 12 godina. "Kliknite za više", pisalo je uz poveznicu na Telegram kanal.

Kada je BBC prijavio Instagramu oglas koji prikazuje uplakanu djevojčicu uz tekst koji sugerira da je seksualno zlostavljana, platforma je nakon 24 sata odgovorila da ga neće ukloniti jer je "naš tim za pregled utvrdio da oglas oglašivača ne krši naše standarde zajednice".

Tek nakon što je BBC zatražio komentar od Instagramove krovne tvrtke Mete, iz tvrtke su priopćili da su uklonili oglase i suspendirali račune.

Pravni stručnjak: Instagram sudjeluje u kriminalu

Distribucija materijala o seksualnom zlostavljanju djece i pornografije kaznena su djela u Indiji, dok Metina pravila navode da oglasi ne smiju sadržavati sadržaj koji seksualno iskorištava ili ugrožava djecu. BBC je oglase opisao umirovljenom sucu Vrhovnog suda Indije Madanu Lokuru, koji je izrazio zabrinutost da Instagram "zarađuje sudjelovanjem u kriminalnoj aktivnosti".

"Ovo je dovoljno ozbiljno pitanje da Vrhovni sud Indije pokrene postupak po službenoj dužnosti i prisili vladu da djeluje protiv bilo koje platforme društvenih medija", rekao je. Sudac Lokur dodao je da, unatoč indijskom zakonu koji štiti tvrtke društvenih medija od odgovornosti za sadržaj koji su objavili korisnici, "platforma ne može, jednostavno ne može izbjeći svoju odgovornost".

Bivši potpredsjednik Facebooka: Algoritam gura ekstremniji sadržaj

Bivši potpredsjednik Facebooka Brian Boland rekao je da je "užasnut i neiznenađen" otkrićima BBC-ja. Boland, koji je u tvrtki radio od 2009. do 2020. godine, izjavio je da je otišao jer je vjerovao da im "nigdje nije bilo stalo do korisnika". Rekao je da je Instagramov algoritam osmišljen tako da zadrži korisnike na platformi pokazujući im "nešto ekstremnije, primamljivije".

"Ne radi se o algoritmu koji kaže 'pretvorimo ljude u pedofile', ali budući da ga se ne usmjerava i ne kontrolira odgovorno - i samo slijedi ciljeve prihoda i klikova - stvorit će takve ishode ako ljudi istinski, agresivno ne štite te sustave", objasnio je.

Boland kaže da je svoj Instagram račun izbrisao prošle godine te poručio: "Kad bi ljudi masovno počeli govoriti: 'Odlazim, gotovo je, zaboravite', tvrtka bi obratila pozornost".

Metin odgovor: Borimo se protiv iskorištavanja djece

U izjavi poslanoj BBC-ju Meta je poručila: "Iskorištavanje djece je užasan zločin i Meta se agresivno bori protiv njega na našim aplikacijama". Naveli su da je "kategorički netočno" sugerirati da Meta svjesno cilja korisnike oglasima s djecom.

Tvrtka je zanijekala da daje prednost prihodima nad sigurnošću i rekla je da je prošle godine automatski onemogućila više od četiri milijuna računa zbog sumnjivog ponašanja.

Iz tvrtke su dodali da kada postanu svjesni eksploatacije djece, to prijavljuju Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC). "Nijedan sustav nije savršen, a naš postupak pregleda možda neće otkriti sva kršenja pravila", priznali su.

Boland je ranije ove godine svjedočio protiv Mete na suđenju u Novom Meksiku, gdje je tvrtka optužena za obmanjivanje korisnika o sigurnosti platformi za djecu. Sud je naložio Meti da plati 375 milijuna dolara, na što se tvrtka namjerava žaliti.

Problem golemih razmjera u Indiji

Američke tvrtke dužne su prijavljivati materijal o seksualnom zlostavljanju djece NCMEC-u, koji izvješća prosljeđuje nadležnim tijelima u pojedinoj zemlji. Prošle je godine Indija primila 1.9 milijuna prijava, odmah iza SAD-a s dva milijuna.

Jedna od vodećih indijskih policijskih službenica za kibernetički kriminal, Shikha Goel, rekla je da najviše prijava generiraju Instagram i Facebook, ali je dodala: "Ako imaju dobar algoritam za praćenje, onda će se očito generirati više upozorenja".

Nevladina organizacija Rati Foundation iz Mumbaija također je izjavila da velika većina prijava koje primaju dolazi s Metinih platformi. Njezin suosnivač Siddharth Pillai rekao je da se "kriminalci koriste besprijekornom navigacijom s Instagrama na Telegram kako bi izbjegli naše napore moderiranja". Iz Telegrama su priopćili da su ove godine uklonili više od 274.000 spornih grupa i kanala.

Stručnjaci kažu da materijal za zlostavljanje u Indiji stvaraju kriminalne skupine, ali ponekad i članovi obitelji, te da je za rješavanje problema ključna međunarodna suradnja kako bi se "pratio cijeli lanac potražnje i ponude".