Il Garante blocca l’archivio online della reputazione
AGGIORNAMENTO 7/12/2023
L'articolo che trovate qui sotto è stato scritto nel dicembre del 2016 a seguito di una decisione presa dal Garante per la Privacy. Nell'ottobre del 2023 la Corte di Cassazione ha annullato la decisione del Garante che bloccava l'algoritmo di cui si parla in questo articolo, un software sviluppato da Mevaluate Holding che si occupa di rating reputazionale.
Nella prima puntata della terza stagione della serie TV Black Mirror la protagonista vive in un mondo nel quale l'accesso ai servizi dipende dal proprio punteggio "sociale", calcolato su una scala di cinque stelle e costituito dai punteggi che gli altri danno alle persone che incontrano. Un futuro che nella storia narrata dalla serie di Netflix porta inevitabilmente ad una fine tragica e dipinge una società basata su un "rating reputazionale" dai risvolti terribili. Eppure la finzione non è così distante dalla realtà. Il progetto di un database della reputazione era effettivamente attivo in Italia, ma ora è stato bloccato dal Garante per la privacy proprio a causa delle violazioni del codice della protezione dei dati e del potenziale impatto negativo sulla dignità delle persone.
Il sistema era in parte simile a quello dipinto da Black Mirror: l'archivio avrebbe raccolto una serie di dati caricati in maniera volontaria dalle persone sulla piattaforma online e ripresi dal web, per esempio scandagliando i profili social degli utenti. Una volta fatto, un algoritmo avrebbe associato ad ogni persona una sorta di punteggio utile a misurare l'affidabilità economica o professionale. Insomma, un voto basso avrebbe precluso l'accesso a determinate fonti di credito o professionali. Un approccio che il Garante ha rifiutato con forza anche in una nota distribuita attraverso il sito ufficiale.
"Nel disporre il divieto di qualunque operazione di trattamento presente e futura, il Garante ha ritenuto che il sistema comporti rilevanti problematiche per la privacy a causa della delicatezza delle informazioni che si vorrebbero utilizzare, del pervasivo impatto sugli interessati e delle modalità di trattamento che la società intende mettere in atto" ha spiegato nella nota. "Per quanto riguarda, poi, l'asserita oggettività delle valutazioni, la società non è stata in grado di dimostrare l'efficacia dell'algoritmo che regolerebbe la determinazione dei rating al quale dovrebbe essere rimessa, senza possibilità di contestazione, la valutazione dei soggetti censiti".
Il rischio era quindi quello di realizzare profili inesatti basati su dati e situazioni difficilmente misurabili, peraltro da un algoritmo automatico. Infine, il Garante ha rilevato criticità anche sul sistema di sicurezza, basato su sistemi di autenticazione "deboli" e su meccanismi di cifratura dei soli dati giudiziari secondo l'Autorità davvero inadeguate.
