Instagram ti avviserà se la didascalia del tuo post è offensiva
Presto chi sta per pubblicare su Instagram una foto o un video con una didascalia dal contenuto violento o irrispettoso nei confronti di altri utenti o di gruppi di persone sarà richiamato all'ordine direttamente dagli algoritmi del social. È l'ultima novità pensata per contrastare i fenomeni di bullismo e odio online che sta per approdare all'interno dell'app della piattaforma, annunciata dagli sviluppatori sul blog aziendale.
Come funziona il sistema di dissuasione
All'interno dell'intervento il gruppo ha descritto in breve il funzionamento della novità in arrivo; nel processo di pubblicazione di una foto o di un video, mentre il contenuto multimediale viene caricato la didascalia viene scandagliata da un algoritmo in cerca di termini o di locuzioni che possano risultare offensive o richiamare all'odio nei confronti di soggetti specifici; nel momento in cui gli algoritmi trovano qualcosa, propongono all'utente una finestra di dialogo per proporre a quest'ultimo di modificare il testo in questione in qualcosa di meno tossico. Il sistema non è repressivo e lascia comunque la possibilità agli autori dei post di pubblicare ugualmente il loro contentuto: in questo modo Instagram si mette al riparo dalle accuse di censura attiva e allo stesso tempo si mette al riparo dall'eventualità che dei falsi positivi finiscano col bloccare didascalie prive di alcuna carica violenta).
Il precedente
I più attenti alle vicende di Instagram ricorderanno che un sistema simile era già stato adottato qualche mese fa per la revisione dei commenti pubblicati in calce alle foto degli utenti. Come hanno specificato gli sviluppatori dell'app, la misura attivata in questi giorni si basa esattamente sullo stesso principio e sui medesimi algoritmi — che finora sembrano aver sortito risultati positivi nello scoraggiare gli utenti più aggressivi a utilizzare un linguaggio violento per interagire con gli altri frequentatori della piattaforma. Il sistema di controllo automatizzato delle didascalie sarà attivato in queste ore, ma non sarà disponibile a partire da subito per i contenuti in tutte le lingue: prima di vederlo in azione potrebbe dunque passare del tempo.
