Gli algoritmi Microsoft sostituiti ai giornalisti hanno confuso due cantanti dal colore della pelle
Da pochi giorni Microsoft ha iniziato a utilizzare algoritmi di intelligenza artificiale per curare le notizie offerte sulle pagine di MSN.com e all'interno di diversi prodotti e servizi della multinazionale. Il nuovo software è però già incappato nel suo primo errore: nel riportare una storia sulla cantante del gruppo britannico Little Mix Jade Thirlwall, ha infatti utilizzato come immagine di apertura una foto della compagna di formazione Leigh-Anne Pinnock. Lo scambio non è passato inosservato alla diretta interessata, che ha accusato l'azienda di aver confuso le due cantanti per via del colore della loro pelle.
La decisione di Microsoft di utilizzare algoritmi per compilare la sua offerta di notizie risale a pochi giorni fa, quando il gruppo ha avviato un piano per sostituire decine di giornalisti in tutto il mondo con un sistema automatizzato. Il personale ora rimpiazzato dagli algoritmi non scriveva direttamente le notizie — che vengono fornite a Microsoft da partner editoriali attraverso appositi accordi commerciali — ma si occupava di impaginarle all'interno dei servizi e dei siti del gruppo, di trovare loro titoli pertinenti e di associarle a immagini d'impatto.
È proprio a questo livello che qualcosa dev'essere andato storto, soprattutto considerato il contesto. La storia su Jade Thirlwall ripresa nel portale MSN riguardava infatti una testimonianza diretta della cantante e della sua esperienza con il razzismo subita negli anni delle scuole superiori; che l'impaginazione dell'articolo abbia "confuso due cantanti solo perché entrambe di colore all'interno di un gruppo di quattro" è "offensivo", si è sfogata la Thirlwall sui suoi canali social, invitando l'organizzazione a fare di meglio.
Microsoft ha riferito al The Guardian di essersi occupata immediatamente del problema, anche se resta poco chiaro cosa sia andato storto nella pubblicazione della foto sbagliata. Secondo quanto ipotizzato dalla testata, gli algoritmi del sistema Microsoft potrebbero aver effettivamente confuso una cantante con l'altra; un'altra ipotesi avanzata è che l'errore provenga dall'agenzia che ha catalogato la foto in modo errato e che il sistema di compilazione delle news abbia preso per buone le informazioni allegate all'immagine senza verificarle.
Nel frattempo la nuova notizia di rilievo rischia di diventare proprio l'errore degli algoritmi di MSN. Sempre stando al The Guardian, per evitare che la storia finisca in prima pagina sul portale Microsoft il personale in carne e ossa rimasto ancora in forze presso l'azienda sarebbe stato istruito a impedire agli algoritmi di intelligenza artificiale di scegliere come rilevante il loro stesso scivolone, ora riportato dalle testate di tutto il mondo.
