Su YouTube Kids ci sono dei video che spiegano ai bambini come suicidarsi

Ormai quasi due anni fa era partita la prima denuncia da parte dei genitori: YouTube Kids — la sezione di YouTube dedicata espressamente ai bambini — ospitava tra le sue migliaia di video anche dei contenuti decisamente inappropriati, che mostravano versioni pirata dei personaggi noti al pubblico dei più giovani intente in attività violente. Ancora oggi però sembra che la piattaforma stia faticando a liberarsi del problema: come riportato da una mamma statunitense, sul sito sono ancora presenti numerosi filmati che contengono messaggi pericolosi fino ad arrivare all'istigazione al suicidio.

Il video allegato alla denuncia non è l'unico rimasto in circolazione fino a poche ore fa, e mostra una clip animata in 3D come se ne vedono molte sulla piattaforma; la durata complessiva è di 17 minuti, e i primi istanti danno l'impressione che i protagonisti ritratti rimarranno impegnati con lo svolgimento della storia fino al termine. Al minuto numero quattro però la clip è interrotta da un video di pochi secondi di un uomo che incita gli spettatori a "farla finita", dando istruzioni su come procedere. Al termine dell'inserto il video riprende come se niente fosse.

Nessuno dei due contenuti in realtà rappresenta una minaccia: il cartone in 3D è animato male e fa chiaramente parte di una serie di prodotti confezionati in serie senza particolare attenzione per il loro pubblico, ma fatta eccezione per la qualità scadente non è dannoso. La clip inserita al suo interno proviene invece dal passato di uno YouTuber divenuto celebre per i propri contenuti dall'umorismo nero, che però non finirebbe mai per errore all'interno di YouTube Kids. Il problema in questo caso deriva proprio dalla fusione dei due video, capace di nuocere ai bambini ed evidentemente invisibile agli algoritmi di YouTube: questi ultimi non hanno saputo schermare il contenuto credendolo un semplice cartone animato, probabilmente perché la clip inserita dura meno di dieci secondi ed è confezionata all'interno di una tipologia di video già classificata come legittima.

In un altro video gli animatori hanno utilizzato uno stile che riprende a quello del videogioco Minecraft per mostrare una sparatoria; una ulteriore clip mostra una ragazza che compra un altro essere umano per 400 dollari, ma gli esempi si sprecano: realizzare contenuti del genere è diventato relativamente facile, il che rende semplice anche la loro diffusione. Il tratto in comune è uno: gli algoritmi di YouTube vengono ingannati dal look dei contenuti e li importano all'interno della sezione Kids senza effettuare controlli adeguati.

In una dichiarazione a BuzzFeed, la società ha ammesso che sul sistema di identificazione dei video inappropriati c'è ancora da lavorare, e ha invitato gli utenti a continuare a segnalare i contenuti inappropriati tramite l'apposito sistema. Il consiglio per i genitori in ogni caso — sia su YouTube Kids che su qualunque tipo di piattaforma del genere — è quello di prendersi del tempo per selezionare con cura i video ai quali viene sottoposto il giovane pubblico.