BBC: Instagram u Indiji reklamira zlostavljanje dece
BBC Eye je objavio istragu prema kojoj je Instagram u Indiji prikazivao plaćene oglase koji su promovisali pristup sadržaju seksualnog zlostavljanja dece i vodili ka srodnim Telegram kanalima. Na tim kanalima se, prema istrazi, takav materijal nudio na prodaju za svega 99 rupija, što je nešto manje od jednog dolara. Novinari su napravili probni Instagram nalog u Indiji i zapratili nekoliko žena sa uobičajenim, ali blago sugestivnim sadržajem. Za nedelju dana feed se pomerio ka seksualizovanom sadržaju, a ubrzo su počeli da stižu i oglasi koji seksualizuju decu. Na jednom od kreiranih naloga BBC je izbrojao oko 30 oglasa koji promovišu materijal zlostavljanja dece i još dvadesetak sa pornografijom — iako Metina pravila to izričito zabranjuju. Kada su prijavili jedan od oglasa kroz samu aplikaciju, Metin tim za pregled je dan kasnije odgovorio da oglas ne krši pravila zajednice. Meta je oglase uklonila, naloge suspendovala i linkove blokirala tek pošto ih je BBC kontaktirao i zatražio komentar. Indijske vlasti su zahtevale uklanjanje spornih oglasa u roku od sedam dana i pozvale Metine rukovodioce da uživo objasne kako su oglasi uopšte prošli proveru. Meta, kao i obično, tvrdi da ima nultu toleranciju prema ovakvom sadržaju i da će pojačati detekciju. Kontekst je još neprijatniji zbog ranijih Reutersovih nalaza: po internim dokumentima, Meta je projektovala da oko desetina godišnjeg prihoda — blizu 16 milijardi dolara — dolazi od oglasa za prevare i zabranjenu robu.
Nije ovo samo pitanje loše moderacije oglasa, nego kolizije lukrativnog poslovnog modela sa moralnim normama, gde ni najslabiji nisu zaštićeni. Kada platforma zarađuje od oglasa, a automatizovani sistem propušta i monetizuje najteži oblik kriminalnog sadržaja, onda problem nije u tehnologiji, nego u kompaniji. Ako platforma može da optimizuje oglas do poslednjeg klika, teško je poverovati da ne može da zaustavi poznate obrasce zloupotrebe, pre nego što ih naplati.
- Platforme moraju posebno da tretiraju oglase koji nose rizik seksualne eksploatacije dece: pre objave, uz ljudski pregled i blokiranje poznatih rizičnih obrazaca
- Regulatori treba da traže dokaze o tome kako se ovakvi oglasi odobravaju, kome se prikazuju, koliko dugo ostaju aktivni i koliko novca platforma na njima zarađuje
- Organizacije koje se oglašavaju na velikim platformama treba da traže jasnije brand-safety izveštaje, jer se njihov budžet takmiči u istom oglasnom ekosistemu
- Korisnici ne treba da ulaze u sumnjive kanale i grupe iz radoznalosti; takav sadržaj se prijavljuje platformi i nadležnim organizacijama, bez daljeg širenja
- Moderacija ovakvog sadržaja ne sme da se prepusti automatizaciji; kada je šteta nepovratna, ušteda na ljudima postaje deo problema