20 Settembre 2019
18:28

Facebook ha ampliato la sua definizione di “organizzazioni terroristiche”

Facebook ha intensificato la sua strategia di contrasto a estremismi, terrorismo e gruppi di odio. La strategia si bassa su un uso intensivo di Intelligenza Artificiale e un team di persone specializzate. Negli ultimi mesi sono state messe al bando più di 200 organizzazioni suprematiste. Inoltre, l’IA ha permesso a Facebook di individuare “un’ampia gamma” di organizzazioni terroristiche.
A cura di Francesco Russo

Facebook continua ad investire per migliorare la capacità di contrastare estremismi, terrorismo e gruppi di odio sulla piattaforma. La strategia che sta adottando il colosso di Menlo Park è quella di mettere insieme strumenti automatizzati con un team di 350 persone focalizzate su attività anti terrorismo. Grazie all'apprendimento automatico, impiegando strumenti di Intelligenza Artificiale (algoritmi di analisi e machine learning), Facebook è riuscita a rilevare "un'ampia gamma" di organizzazioni terroristiche sulla base del loro solo comportamento, principalmente identificando parti di contenuto che corrispondono a copie di materiale già noto e monitorando i vari post, al fine di determinare se violano le politiche d'uso della piattaforma. Negli ultimi due anni, focalizzandosi a livello globale, sono stati rimossi 26 milioni di contenuti, ma il cambio di passo è avvenuto nella metà dello scorso anno quando è stato intensificato l'utilizzo dell'Intelligenza Artificiale e l'uso della moderazione umana che ha portato alla messa al bando di oltre 200 organizzazioni suprematiste.

La nuova definizione di "organizzazioni terroristiche"

Uno dei punti deboli di Facebook è stato sempre quello di non aver mai fatto abbastanza per rimuovere o, quanto meno, per individuare in via preventiva il proliferare di estremismi, di situazioni riferibili a organizzazioni terroristiche o a gruppi di odio. Menlo Park fa sapere che la nuova strategia adottata negli ultimi mesi, che vede al centro un uso intensivo di Intelligenza Artificiale insieme a team di persone specializzate, ha portato i suoi frutti.

Tutto questo si traduce, oltre che in una azione di monitoraggio, anche in una migliore azione preventiva che ha portato alle modifiche dei termini di utilizzo di Facebook e anche di Instagram. Gli algoritmi di apprendimento automatico (machine learning) hanno permesso  a Facebook di individuare "un'ampia gamma" di organizzazioni terroristiche sulla base del loro comportamento, andando alla ricerca della corrispondenza tra contenuti notoriamente malevoli e valutando post per determinare probabili violazioni delle policy del social. Questo anche perché il social network ha ampliato la sua definizione di organizzazioni terroristiche, che fino ad oggi erano considerate "persone o gruppi responsabili di atti violenti con intenti politici o ideologici". Da oggi, invece, Facebook considera organizzazioni terroristiche "persone o gruppi che si sono impegnati in tentativi di azioni violente contro civili".

Oltre a questo, Facebook fa sapere che collaborerà con i governi di Uk e Australia per addestrare in futuro i suoi algoritmi di "computer vision" sui filmati dei programmi di addestramento alle armi da fuoco, con l'obiettivo di migliorare la loro sensibilità al mondo reale, su filmati riferibili a eventi violenti, come quello di Christchurch, in Nuova Zelanda, lo scorso marzo. La strategia messa in atto, e intensificata nell'ultimo anno, ha portato alla messa al bando di oltre 200 organizzazioni suprematiste ed è proprio su questo punto che Facebook vuole intensificare i suoi sforzi.

Facebook inoltre fa sapere che è in grado di identificare il 65 percento degli oltre 4 milioni di messaggi di odio rimossi ogni trimestre, un dato in crescita rispetto al 24 percento di poco più di un anno fa e al 59 percento del quarto trimestre del 2018.

Amnesty International contro Facebook e Google: "Sono una minaccia per i diritti umani"
Amnesty International contro Facebook e Google: "Sono una minaccia per i diritti umani"
Google ha finanziato organizzazioni che negano i cambiamenti climatici
Google ha finanziato organizzazioni che negano i cambiamenti climatici
Facebook, da oggi se visiti un gruppo no-vax il social ti avvisa del rischio bufale
Facebook, da oggi se visiti un gruppo no-vax il social ti avvisa del rischio bufale
Lascia un commento!
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni