9 Settembre 2021
09:18

“TikTok propone ai minori video sessuali e inappropriati”: la denuncia del The Wall Street Journal

I reporter della testata hanno messo alla prova l’algoritmo della piattaforma con dei profili falsi. Apprezzare video di natura più ammiccante porta il sistema a proporre sempre più clip dello stesso genere, fino a bombardare la sezione principale dell’app di pratiche sessuali, sex worker e contenuti relativi al consumo di droghe.
A cura di Lorenzo Longhitano

Il problema della sicurezza dei bambini su TikTok è già stato sollevato numerose volte in passato, soprattutto in merito a sfide e comportamenti che i minori non dovrebbero imitare ma che in alcuni casi proliferano sulla piattaforma prima che i moderatori riescano a limitarne la diffusione. Lo stesso avviene però con contenuti di natura sessuale o relativi al consumo di droghe: la denuncia arriva dal The Wall Street Journal, che in una indagine ha verificato come gli algoritmi che consigliano i nuovi video sulla piattaforma rischino in alcuni casi specifici di proporre video impropri anche a ragazzi dai 13 ai 15 anni.

L'algoritmo di TikTok nel mirino

I reporter del The Wall Street Journal sono arrivati alle loro conclusioni attraverso degli esperimenti pratici che hanno messo alla prova l'asso nella manica di TikTok, ovvero i suoi algoritmi di raccomandazione. La piattaforma utilizza software che imparano le preferenze dei singoli utenti per proporre loro sempre più contenuti appartenenti alle categorie dei video già apprezzati in passato; il principio in viene applicato sostanzialmente ovunque online – da Facebook ad Amazon – ma stando alle scoperte del The Wall Street Journal portarlo all'estremo su TikTok rischia di far saltare le barriere di protezione normalmente erette dai gestori nei confronti dei più giovani.

L'esperimento del The Wall Street Journal

La testata ha aperto una serie di profili falsi facendoli gestire a dei bot; ciascuno di questi profili ha poi iniziato ad apprezzare i video che mostravano contenuti leggermente più ammiccanti o più attinenti al mondo del consumo di droghe e farmaci. Portare avanti questa attività in modo assiduo e focalizzato nei confronti di questi generi di contenuti specifici ha istruito l'algoritmo di TikTok a proporne di sempre più spinti: stando al reportage, in poco tempo la sezione Per Te della piattaforma ha iniziato gradualmente a bombardare questi profili di contenuti di tipo sessuale e inappropriato per i minori: da droghe e consumo di farmaci – comprese liste di siti dove acquistare queste sostanze e medicinali – a video di sex worker che rimandano in modo più o meno esplicito a pratiche sessuali o ai loro profili su siti hard.

Il lavoro dei moderatori

Molti dei contenuti incontrati nel corso dell'esperimento violavano le regole di TikTok, e per questo i moderatori sono riusciti a eliminarli prima ancora che i giornalisti riuscissero a segnalarli alla piattaforma. Circa 1.000 video sono sfuggiti ai controlli e sono stati eliminati dopo le segnalazioni della testata, mentre la maggior parte delle clip segnalate – stando alle dichiarazioni rese da TikTok – non violavano alcun regolamento. Il problema in generale è che la mole di video caricata nell'app ogni giorno dagli utenti genera un ricircolo difficile da mantenere sotto controllo in tempo reale.

Il rischio insomma è che di questo passo sarà sempre possibile imbattersi in clip rischiose, soprattutto se i moderatori lottano contro un algoritmo che rema loro contro. Anche per questo motivo la piattaforma sta lavorando a filtri più sicuri, per impedire che i profili appartenenti ai minori possano imbattersi anche per errore in contenuti simili; la data del rilascio non è però stata comunicata.

Di seguito la dichiarazione di un portavoce di TikTok rilasciata :in merito all'inchiesta

L'attività di questi bot, e di conseguenza la loro esperienza, non rappresentano in alcun modo il comportamento e l'esperienza di una persona reale. In TikTok lavoriamo costantemente per migliorare i nostri sistemi e aiutare a prevenire abitudini di visualizzazione altamente insolite che possano creare cicli negativi, in particolare per i nostri utenti più giovani

TikTok ha un'altra rivale: nell'app di Reddit arrivano i video a scorrimento verticale
TikTok ha un'altra rivale: nell'app di Reddit arrivano i video a scorrimento verticale
Apple vuole usare gli AirPods per misurarti la febbre
Apple vuole usare gli AirPods per misurarti la febbre
Gli scandali di Facebook stanno bloccando l'uscita di nuove funzioni del social
Gli scandali di Facebook stanno bloccando l'uscita di nuove funzioni del social
Lascia un commento!
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni