TikTok rimuoverà in automatico i video di nudo e violenza, ma rischia di censurare clip legittime

Come tutte le piattaforme social e di condivisione, TikTok deve confrontarsi con il problema della moderazione dei contenuti che ne violano le regole. Finora i gestori hanno impiegato una ricetta basata su segnalazioni degli utenti, lavoro di moderatori in carne e ossa e intelligenza artificiale impiegata in un numero però ristretto di ambiti. A partire da oggi però su TikTok questi algoritmi andranno automaticamente a caccia di tutti i video che rappresentano nudità o violenza, rimuovendoli senza il bisogno di interventi manuali. La mossa è stata comunicata in questi giorni e se da una parte dovrebbe contribuire a mantenere la piattaforma libera dalla presenza di contenuti problematici per i minori, dall'altra potrebbe innescare un'ondata censoria involontaria e controproducente.

Le categorie colpite

La novità prenderà piede inizialmente negli Stati Uniti e in Canada per poi essere estesa nel resto del mondo, mentre le categorie precise di violazioni che gli algoritmi prenderanno in considerazione per il momento sono limitate a sicurezza dei minori, violenza, nudità, contenuti vietati ai minori e attività illegali; in caso di violazioni il video in questione verrà rimosso immediatamente, lasciando all'autore la possibilità di contestare la decisione in seguito. Il motivo per cui TikTok partirà con queste categorie l'ha spiegato la stessa azienda: si tratta delle violazioni sulle quali gli algoritmi vantano il maggior grado di sicurezza.

I falsi positivi e il rischio di censura

Questi sistemi in effetti non sono infallibili, e nel momento in cui operano in modalità completamente automatica rischiano di rimuovere video che invece non stanno violando alcuna regola. Stando ai dati forniti dai gestori, i falsi positivi – ovvero i video rimossi dagli algoritmi senza motivo – sono circa uno su venti. Il numero può sembrare basso, ma vuol dire che su 100 video rimossi dagli algoritmi della piattaforma ce ne sono 5 che invece non andavano toccati; a questo va aggiunto il fatto che il curriculum degli algoritmi di TikTok in fatto di imparzialità non è entusiasmante: i sistemi automatici di moderazione dei contenuti nel portale cinese vengono ormai periodicamente accusati di sfavorire le comunità nere censurandone la voce e l'espressione.