Facebook ha deciso di voler espandere i propri test sugli strumenti per la prevenzione del suicidio all’interno del social network. Lo ha annunciato Mark Zuckerberg in un post pubblicato poche ore fa sul suo profilo personale, spiegando di voler rilasciare per tutto il mondo il sistema di controllo basato sull’intellingenza artificiale in grado di riconoscere in post e video – anche in diretta – comportamenti che possano indicare la volontà di farsi del male. Inoltre, Facebook impegnerà più umani nel controllo dei contenuti segnalati dall’algoritmo.
Attualmente questo sistema di rilevamento è attivo solo negli Stati Uniti, ma in seguito all’annuncio di oggi verrà rilasciato anche nel resto del mondo nel corso delle prossime settimane. Durante l’ultimo mese di test, Facebook ha informato i soccorsi in almeno 100 casi nei quali aveva individuato post legati al desiderio di farsi del male, oltre a diversi altri casi nei quali questi contenuti sono stati segnalati da amici e parenti tramite gli strumenti messi a disposizione dal social network. “Il mio compagno si è suicidato nel 2010 dopo aver postato su Facebook” ha commentato una donna sotto al posto del CEO. “Se questo sistema fosse stato implementato allora, forse lui sarebbe ancora qui con noi”.
L’algoritmo di Facebook è in grado di individuare parole e frasi a rischio analizzando non solo i post degli utenti, ma anche i commenti sotto ad essi. Per esempio, frasi come “Stai bene?” e “Posso aiutarti?” sono indicatori di potenziali utenti intenzionati a farsi del male e, peraltro, sono in grado di indicare anche la presenza di video “a rischio” che altrimenti sarebbero difficili da individuare da parte di un algoritmo. “Con tutta la paura nei confronti dell’intelligenza artificiale, è bello sapere che questa tecnologia ci sta aiutando a salvare delle vite” ha spiegato Zuckerberg nel suo post. “Stiamo compiendo un importante passo in avanti”.
