Google: ecco Perspective, il filtro “intelligente” per contrastare gli insulti
Google ha deciso di non limitarsi solo a contrastare le bufale, ma ora è decisa anche a contrastare gli insulti, i troll e i disturbatori in rete. E nello schierarsi contro queste pratiche malevoli nell'utilizzo del web, il colosso di Mountain View si affida all'intelligenza artificiale. Infatti, insieme a New York Times e a Wikipedia, Google ha messo a punto una tecnologia, denominata Perspective, che aiuta i media ad individuare i commenti violenti alle notizie online. Al momento del lancio, Perspective è disponibile, gratuitamente, solo per la lingua inglese ed è inizialmente rivolta agli editori. Questa tecnologia è in grado di riconoscere e identificare i commenti offensivi che compaiono sotto ogni articolo.
Perspective è nata all'interno dell'incubatore di Google che si chiama Jigsaw, guidato da Jared Cohen, e sfrutta il "machine learning", una forma di intelligenza artificiale, per analizzare i commenti degli utenti e assegnare loro un punteggio di "tossicità". Saranno poi gli editori a decidere come utilizzare queste informazioni, ad esempio scegliendo di eliminare alcuni commenti; oppure segnalare i commenti ai propri moderatori, in modo che questi li rivedano e decidano se includerli o meno in una conversazione; oppure, ancora, scegliere di utilizzare questo strumento per aiutare le persone della community a capire l’impatto di quanto stanno scrivendo, senza rimuoverli.
Gli editori hanno anche la possibilità di permettere ai lettori di ordinare i commenti in base a quanto sono offensivi, facilitando l’individuazione di conversazioni interessanti nascoste in mezzo a quelle offensive. Le cifre contenute nella ricerca "Online Harassment, Digital Abues, and Cyberstalking in America" danno l'effettiva misura del fenomeno e delle dimensioni che esso stesso ha ormai raggiunto: il 72% degli americani nel 2016 è stato testimone di questo fenomeno; il 36% di questi è stato coinvolto direttamente in fenomeni di odio; quasi un terzo ha dichiarato di aver evitato di commentare per paura di ritorsioni.
Gli sforzi per arginare il linguaggio violento in rete sono molteplici anche da parte di altre compagnie. Twitter ha da poco rafforzato la lotta a "troll" e abusi, ad esempio rendendo più difficile l'iscrizione con nuovo profilo a utenti già sospesi. Instagram ha introdotto filtri anti-bulli e provocatori online. Facebook, ultimamente incalzato sul tema dalla presidente della Camera Laura Boldrini, ha una policy di condanna alle minacce e all'incitazione all'odio: sul social tali contenuti possono essere segnalati e l'impegno è di cancellarli entro 24 ore.
