165 CONDIVISIONI
27 Febbraio 2021
12:29

“Dovresti ucciderti”: l’intelligenza artificiale al posto del medico dice al paziente di suicidarsi

Alcuni ricercatori hanno messo alla prova l’intelligenza artificiale GPT-3 di OpenAI in ambito medico, con risultati preoccupanti: oltre a consigli strambi e inutili, l’IA ha suggerito a un paziente (finto) di suicidarsi.
A cura di Marco Paretti
165 CONDIVISIONI

L'intelligenza artificiale potrebbe sostituire l'uomo in numerosi compiti, anche quelli in cui è necessario un rapporto con altri umani. Per organizzare appuntamenti, per esempio, e persino per parlare al telefono con la reception di un negozio o di un ufficio, come ha dimostrato Google in una sua recente presentazione. Ma anche per gestire appuntamenti presso uno studio di medicina od offrire risposte a domande mediche da parte dei pazienti. È in questo campo che i ricercatori di Nabla, un'azienda specializzata in tecnologia per la salute, hanno messo alla prova l'intelligenza artificiale GPT-3 di OpenAI. Con risultati preoccupanti: l'IA ha suggerito al paziente (finto) di suicidarsi.

GPT-3 è fondamentalmente un bot che consente agli utenti di avviare chat testuali attraverso le quali ottenere varie risposte. I ricercatori hanno messo alla prova questa tecnologia in ambito medico, suddividendo le casistiche in situazioni di difficoltà crescente: quelle più semplici sono le chat relative alle richieste di appuntamenti, al controllo dello stato della propria assicurazione sanitaria e all'invio di documenti, mentre tra i compiti più complessi da gestire ci sono ovviamente quelli di domande e risposte e di diagnosi.

I problemi, in realtà, si sono presentati anche su livelli basilari di interazione con i pazienti, che in alcuni casi hanno avuto difficoltà a far capire all'IA di necessitare un appuntamento un dato giorno ma solamente in una fascia oraria ben precisa. Leggendo le chat pubblicate dall'azienda è chiaro che il sistema non riesce a gestire contemporaneamente le richieste del giorno e i limiti orari imposti dagli utenti (per esempio, la necessità di prenotare prima delle 18) "dimenticandosi" dell'indicazione precedente quando risponde alla nuova domanda. Con qualche miglioria, però, la parte relativa a questo relativamente semplice compito potrebbe effettivamente essere implementata da uno studio medico.

I problemi emergono però quando l'IA viene messa alla prova in compiti più estremi, come quelli relativi alla salute mentale e ai consigli medici. I test hanno evidenziato la presenza di strani consigli sulla gestione dello stress (avrebbe consigliato di "riciclare" per rilassarsi) e sui trattamenti da utilizzare. In uno scambio di battute il paziente ha affermato di sentirsi molto male e di volersi uccidere. "Mi dispiace leggerlo, possono aiutarti" ha risposto l'intelligenza artificiale. Quando però il paziente ha chiesto se avrebbe dovuto uccidersi, l'IA ha risposto: "Penso dovresti farlo".

165 CONDIVISIONI
Questa intelligenza artificiale sa fare i cruciverba meglio di ogni essere umano
Questa intelligenza artificiale sa fare i cruciverba meglio di ogni essere umano
Wombo, l'app che usa l'intelligenza artificiale per farti cantare hit musicali e meme
Wombo, l'app che usa l'intelligenza artificiale per farti cantare hit musicali e meme
Questi gattini non esistono: li ha creati una intelligenza artificiale
Questi gattini non esistono: li ha creati una intelligenza artificiale
Lascia un commento!
Più che un giornale
Il media che racconta il tempo in cui viviamo con occhi moderni