La piattaforma di condivisione video TikTok mette in atto politiche di rimozione dei contenuti violenti e vietati ai minori nel tentativo di rendere l'app un luogo sicuro per tutti, ma nelle ultime settimane la piattaforma è finita sotto i riflettori per via di una grossa falla nel suo sistema di moderazione: ai controlli degli algoritmi e del personale dell'azienda sembrano infatti sfuggire i video legati ai profili e alle biografie degli utenti. Questa zona d'ombra ha fatto sì che sul social iniziassero a diffondersi video porno e violenti, i cui link vengono pubblicizzati nei regolari tiktok che invece possono propagarsi sulla piattaforma anche in modo virale.

La denuncia

La denuncia è arrivata alla BBC da un utente della piattaforma, ma in molti su TikTok conoscono già il fenomeno. I profili che ospitano questi contenuti vengono spesso creati solamente allo scopo di mostrare oscenità: hanno nomi utente generati casualmente e nessun video tra i contenuti caricati; l'unica clip ospitata è quella legata alla foto profilo, una sezione del social che gli algoritmi di TikTok normalmente non pattugliano. Se i profili rimanessero isolati — senza follower né utenti seguiti — non recherebbero alcun danno. I loro nomi vengono però citati da altri utenti all'interno di clip che si presentano come inviti a non cercare assolutamente quei determinati profili.

I tiktok di segnalazione

I video ricadono tutti nella medesima categoria: musica inquietante, immagini neutre o angoscianti sullo sfondo, e una casella testuale con l'invito: in italiano si invita a non cercare il nome dell'utente che invece si spera venga cercato, mentre in inglese la frase è Don't search this name, e ha dato origine a un hashtag che TikTok ha ora dovuto bloccare. Il motore della viralità di questi video è proprio il meccanismo della curiosità generato nell'invitare gli spettatori a stare lontani dai contenuti proposti: chi li pubblica spera in qualche visualizzazione in più, mentre chi cerca i contenuti in questione non sa effettivamente cosa si troverà di fronte.

La risposta della piattaforma

Oltre ad aver bloccato le ricerche legate all'hashtag #dontsearchthisup, TikTok ha già assicurato di aver bandito gli account che hanno provato a pubblicare materiale che viola le regole del social attraverso la foto del profilo. Al momento una ricerca sui profili noti per aver diffuso questi video non restituisce risultati, anche se i tiktok di segnalazione restano decisamente facili da trovare, magari con leggere varianti dell'hashtag bloccato. Per sapere se il social sia riuscito a risolvere il problema tarando i suoi algoritmi anche sui video e sulle immagini del profilo occorrerà attendere.