Amazon ha usato un algoritmo per assumere i dipendenti, ma consigliava solo uomini

Dopo gli scioperi in Italia, le accuse dei magazzinieri inglesi e la polemica innescata dal brevetto sul braccialetto per i dipendenti, per Amazon si profila all'orizzonte un altro colpo alla propria immagine. Secondo quanto riporta Reuters, dal 2014 al 2017 il gruppo avrebbe condotto le proprie operazioni di ricerca e assunzione di nuovo personale specializzato facendosi aiutare da una serie di algoritmi a base di machine learning sviluppati ad hoc, che però avrebbero finito per consigliare l'ingresso in azienda di solo personale maschile.

Lo scopo

Secondo alcune fonti interpellate da Reuters, un team di sviluppatori interno al gruppo avrebbe lavorato, a partire dal 2014, a un software che riuscisse ad analizzare dosi massicce di curricula presenti in Rete con lo scopo di selezionare i migliori per eventuali operazioni di reclutamento. Dopo un anno di sviluppo però sembra che gli ingegneri del gruppo si siano accorti che il software penalizzava sistematicamente le candidature femminili.

L'errore

Alla base della discriminazione sarebbe stato un errore di programmazione, ovvero nel modo in cui il sistema è stato istruito a operare. Gli algoritmi scritti dagli ingegneri Amazon infatti sono stati allenati a fare scelte azzeccate sulla base di tutti i curricula pervenuti alla società nei dieci anni precedenti. E dal momento che l'ambito tecnologico era (così come purtroppo lo è ancora) prevalenemente frequentato da figure maschili, il software si è trovato a replicare scelte basate quasi sempre su candidati di un solo genere, dando valore all'utilizzo di termini più spesso presenti sui curricula maschili, e di conseguenza penalizzando le figure femminili.

La chiusura del progetto

Sempre stando alle fonti di Reuters, dopo il primo anno di sperimentazione gli ingegneri avrebbero provato a neutralizzare questo tipo di comportamento, ma il problema rischiava di ripresentarsi sotto altre forme, magari discriminando altre categorie di persone. In un ambito come il machine learning in effetti è difficile prevedere quale sia l'esito delle decisioni prese dagli algoritmi una volta istruiti a dovere, motivo per cui i supervisori del progetto nel 2017 sembra abbiano staccato la spina all'operazione.

Il presente

Amazon sulla vicenda ha specificato solo che lo strumento "non è mai stato utilizzato dai reclutatori per vagliare le candidature", senza però escludere che questi avessero facoltà di seguire le raccomandazioni del sistema. Le fonti di Reuters sembrano confermare un'ipotesi simile, e assicurano che il sistema non aveva l'ultima parola sulle assunzioni, ma che servisse semplicemente come metodo di raccomandazione. Sul futuro del software le fonti dell'agenzia britannica si fanno più incoerenti: qualcuno parla di una versione estremamente blanda degli algoritmi originali già in uso, ma solo per operazioni di pulizia delle già esistenti banche dati di potenziali candidati all'assunzione; altri raccontano di una squadra di sviluppatori nella sede di Edinburgo pronta a riprendere in mano il progetto, questa volta concentrandosi sul valorizzare la diversità delle nuove reclute.