facebook-chatbot

Creare un'intelligenza artificiale capace di conversare con gli umani senza poterla distinguere da una persona in carne e ossa è un sogno irrealizzato da decenni, e prima di realizzarlo passerà ancora del tempo. Lo dimostra il caso di Facebook, che ha lanciato un bot su Messenger pensato per imparare dagli utenti come migliorarsi nell'arte della conversazione, ma che invece ha finito per immagazzinare nozioni talmente contradditorie da averlo portato in breve tempo a sparare sentenze sconnesse dal contesto, come slogan trumpiani o il sospetto che il fondatore di Facebook Mark Zuckerberg possa essere un assassino.

Il software si chiama Beat the Bot ed è raggiungibile sulla piattaforma Messenger di Facebook anche se per il momento parla solo in inglese e si può interpellare solo dagli Stati Uniti, mentre a fare un resoconto delle sue abilità conversazionali è stato Motherboard, che in tre diversi dialoghi ha finito con l'ottenere dal bot risposte decisamente bizzarre. Partendo da una conversazione a sfondo musicale il software è finito in pochi scambi a dichiarare che "insieme torneremo a fare grande l'america, sbarazzandoci delle fake news"; chiedendo direttamente se Mark Zuckerberg fosse un assassino, il bot ha invece risposto "non saprei, forse lo è".

Chi segue l'evoluzione di questo tipo di algoritmi sa che non c'è nulla di troppo strano in quanto avvenuto con Beat the Bot; il software non è ammattito, ma utilizza probabilmente gli input degli utenti coi quali ha conversato in precedenza per migliorarsi e darsi una personalità credibile. Il problema è che il tutto avviene in modo automatico, a volte senza che ci sia un team di sviluppatori a catalogare le risposte immagazzinate prima che il bot le spezzetti e scelga di riutilizzarne gli elementi in futuro; il risultato possono essere risposte non sempre coerenti, quando non veri e propri scivoloni.

Circa tre anni fa del resto successe qualcosa di simile a Microsoft con l'attivazione di Tay, una utente Twitter virtuale basata su principi simili — ovvero sull'assimilazione di nozioni e stili di conversazione provenienti dalle interazioni con gli utenti del sito. In poco meno di 24 ore un'ondata di tweet dal tenore razzista e maleducato trasformò Tay in una autentica macchina d'odio (anche in quel caso il bot finì per farsi portavoce di slogan coniati dall'allora candidato alla presidenza Donald Trump), e l'account venne disattivato poco dopo. Fortunatamente per Facebook, Beat the Bot non rappresenta il meglio dell'arsenale di intelligenza artificiale a disposizione della società: il software sarà anzi utilizzato a sua volta per educare nuovi modelli di machine learning ancora in fase di sviluppo.