30 Novembre 2018
15:40

Su Facebook potrai bloccare parole ed emoji che incitano all’odio

Facebook potrebbe permetterci di filtrare determinate frasi, parole ed emoji che incitano all’odio, la funzione resterebbe invisibile per gli hater e i loro “amici”. Si tratta di una particolare forma di “ghost banning” orientata al contenuto dei messaggi, piuttosto che colpire gli utenti, spesso difficili da identificare.
A cura di Juanne Pili

Prossimamente Facebook potrebbe dotarsi di un nuovo tipo di ghost banning che riguarderà certe parole utilizzate nelle discussioni più accese. Lo rivela una ricercatrice che avevamo già incrociato parlando di un nuovo tipo di Storie “scolastiche”, le quali sarebbero ancora in fase di sperimentazione su Instagram, si tratta di Jane Manchun Wong.

L’annoso problema dell'hate speech

Da un po’ di tempo le conversazioni nei social tendono spesso a naufragare dal dibattito accesso all’insulto gratuito vero e proprio, incentivato anche dalla difficoltà nel rintracciare gli autori dei commenti – specie se dotati di account fasulli – così i messaggi d’odio, il cosiddetto hate speech, è divenuto un problema di non poco conto per gli amministratori dei social network. Facebook da questo punto di vista ha qualche marcia in più, anche se deve lavorare molto sugli effetti avversi dei suoi sistemi di segnalazione, che spesso possono recare danno persino a chi semplicemente interviene nel tentativo di riportare la discussione a livelli civili.

Il ghost banning nei commenti

Wong è una giovane informatica dell'Università del Massachusetts ormai celebre per aver scovato diverse applicazioni nascoste di Facebook, Instagram e Snapchat, con grande imbarazzo degli sviluppatori che spesso rispondono ai suoi tweet con un prudente “no comment”. La sua ultima scoperta riguarda appunto la possibilità di effettuare un ban selettivo di certe parole chiave incitanti all’odio nei commenti postati sui vari thread di discussione di Facebook. Oltre a parole e frasi sarebbe possibile filtrare anche certe emoji. Non è chiaro al momento fino a che punto sarà possibile personalizzare questa funzione, scegliendo determinate parole, o se comunque ve ne saranno filtrabili di default.

Una funzione ancora in fase di test

Il nuovo strumento è stato rinvenuto dalla Wong nel pannello di moderazione, la cosa interessante è che gli autori dei commenti e i loro contatti non potranno accorgersi del filtraggio, si tratterebbe insomma di un ghost banning orientato ai messaggi. Riguardo a tutto questo – al momento una funzione in fase di test – Facebook al solito non conferma né smentisce niente, secondo alcune indiscrezioni la nuova funzione potrebbe comunque essere attivata prossimamente solo per un campione ristretto di utenti, come da prassi per questo genere di “esperimenti”.

La ex dipendente accusa Facebook: "Diffondono odio di proposito"
La ex dipendente accusa Facebook: "Diffondono odio di proposito"
Una ex-moderatrice di Facebook denuncia l'azienda: "Traumatizzata dai contenuti violenti"
Una ex-moderatrice di Facebook denuncia l'azienda: "Traumatizzata dai contenuti violenti"
Come sono fatti gli avatar realistici di Facebook (ne potrai avere uno anche te)
Come sono fatti gli avatar realistici di Facebook (ne potrai avere uno anche te)
Lascia un commento!
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni