TikTok continua a cadere in errori che coinvolgono le minoranze che compongono la sua utenza. Dopo i numerosi problemi con la comunità nera della piattaforma, ancora colpita da ban e sospensioni senza un apparente motivo, negli ultimi giorni un utente di TikTok ha evidenziato un nuovo punto critico della piattaforma che questa volta va a colpire l'utenza asiatica. Al centro della polemica si trova il nuovo sistema di sottotitoli automatici pensati per aiutare le persone con disturbi dell'udito: in breve, una volta attivato trascrive tutto ciò che viene detto dal creatore del video. Censurando però le parole che la piattaforma reputa non adatte al suo pubblico. Il problema? Tra questi termini c'è anche "donna asiatica".
"Ogni volta che pubblichi un video, se hai i sottotitoli attivati puoi cliccare sul pulsante dedicato e generarli automaticamente" ha spiegato Forrest Valkai su TikTok. "Ti dà un'interessante visione su come funzionano le linee guida della comunità su questa piattaforma". Il motivo è semplice: tutte le parole che il social non vuole che vengano dette (e che quindi considera "malevoli") vengono censurate con degli asterischi. Per esempio, parole come sesso e marijuana appaiono come s**** e m********. Una scelta comprensibile, ma che coinvolge un termine che non ha assolutamente nulla a che vedere con tematiche da censurare: donna asiatica.
La funzione di sottotitoli automatici è attiva solamente in inglese, quindi la piattaforma censura "asian woman", che nei sottotitoli appare come a**** w****. Lo fa, peraltro, in un momento in cui la discussione attorno alla violenza contro la comunità asiatica è ai massimi storici, con continue violenze a persone asiatiche in tutto il mondo e un forte moto di proteste nei confronti della discriminazione contro questa minoranza. La censura nei sottotitoli (che, è bene sottolinearlo, dovrebbero essere per loro natura inclusivi e non discriminatori) colpisce deliberatamente il temine "donna asiatica" ma non, per esempio "uomo/donna nero/a" o "uomo/donna bianco/a", che infatti appaiono senza censure nei sottotitoli.
L'inserimento di questo termine in quelli da censurare, peraltro, non è sicuramente da imputare a un sistema automatico: qualcuno deve aver deliberatamente inserito "donna asiatica" nei termini in violazione delle linee guida comunitarie. Questo può essere successo in due modi: qualche dipendente di TikTok addetto alla moderazione può aver inserito il termine nel sistema oppure (più difficilmente) l'azienda di terze parti da cui è stato acquistato il sistema di trascrizione lo aveva già integrato. Ma perché "donna asiatica"? Una possibile spiegazione è che il termine sia stato associato a pratiche sessuali e a ricerche pornografiche, dove può rappresentare una categoria di filmati hard. Una eventualità gravissima, che metterebbe in una posizione ancora più difficile un'azienda che sta chiaramente faticando nel gestire la presenza di minoranze all'interno della sua utenza. In ogni caso, il risultato è lo stesso: quel termine è attualmente censurato su TikTok.
Risulta davvero incomprensibile come sia possibile che a finire tra quelli censurati sia stato un termine così generico in un periodo di grande attenzione nei confronti della comunità asiatica e dopo tutte le polemiche sulla gestione dei creator neri da parte di TikTok. Quello della censura del termine potrebbe peraltro rappresentare un problema più profondo: non è chiaro come l'algoritmo gestisca le parole "censurate" e se provveda a diminuire la reach di un contenuto che le contiene. Se così fosse, un video che parla semplicemente di donne asiatiche potrebbe essere automaticamente limitato senza un reale motivo. Relegando ancora una volta una minoranza in una sorta di ghetto virtuale delimitato dall'occhio vigile dell'algoritmo cinese.
