Dal video di Renzi a quelli di Obama: cos’è il deepfake, la nuova frontiera delle fake news

Siamo a Striscia la Notizia e sullo schermo viene trasmesso un presunto fuorionda di Matteo Renzi. Ma quello inquadrato è un Renzi molto particolare. Un Renzi che non è Renzi, ma sembra davvero Renzi.

"Dovevi vedere la faccia di Giuseppe Conte quando gli ho detto che me ne andavo" – esclamerebbe il politico – "Con Zingaretti no, dai, quello ha il carisma di Bombolo". E così via. In realtà però, il filmato, che agli occhi meno esperti potrebbe sembrare reale o realizzato con un sosia (in molti hanno ipotizzato Claudio Lauretta), tanto reale non lo è: è stato realizzato utilizzando una tecnica in forte diffusione nel web, che grazie all'intelligenza artificiale e al machine learning (ossia, l'apprendimento automatico) è in grado di realizzare video dall'aspetto molto veritiero, con bocca e parlato precisamente sincronizzati. Si chiama deepfake, ed è considerata dai più esperti come l'ultima frontiera delle fake news.

Il primo video deepfake sulla TV generalista

Quello trasmesso nella serata di ieri da Striscia la Notizia è di fatto il primo video deepfake trasmesso sulla tv generalista. Un video con il quale gli autori della trasmissione hanno dimostrato la potenza e (soprattutto) i pericoli di questa tecnologia, che – in un certo senso – potrebbe diventare la naturale evoluzione della satira. Ma è giusto? A chiederselo sono stati i maggiori vertici delle più importanti aziende televisive, uno su tutti Michele Anzaldi, Segretario della Vigilanza Rai e Deputato della Commissione Cultura di Italia Viva che ha dichiarato, senza mezzi termini, “Ricci e la sua trasmissione sono come sempre all’avanguardia e ci hanno fatto conoscere per primi in italia il fenomeno della Deep fake news. Adesso però conosciuto il fatto, sarebbe opportuno, anzi è doveroso, che le autorità competenti mettano dei paletti per capire cosa si può fare e dove non si può andare oltre“.

Cos'è il deepfake e come è nato

Senza entrare troppo nello specifico, i video realizzati con la tecnica del deepfake, sono dei filmati i cui protagonisti vengono totalmente sintetizzati sfruttando l'intelligenza artificiale e il machine learning. Con risultati pazzeschi: difficilmente, all'occhio meno esperto, si riesce a capire che chi parla ed è inquadrato in realtà è un personaggio virtuale, perché è praticamente identico all'originale che si vuole emulare.

Le prime origini del termine deepfake, risalgono all'autunno del 2017, quando un utente di Reddit utilizzò proprio lo pseudonimo Deepfakes per condividere nella comunità finti video pornografici realizzati con persone famose. Generalmente si trattava di filmati i cui protagonisti avevano il volto di un attore o un'attrice di Hollywood, realizzati utilizzando una tecnica chiamata “generative adversarial networks” o GAN.

Da quel momento in poi, tutti i video realizzati tramite GAN furono chiamati DeepFake. D'altronde ci vuole poco ad associarne i significati nascosti nel nome: "deep" chiaramente riferimento al deep learning (ossia la tecnologia di apprendimento delle intelligenze artificiali), mentre "fake" vuol dire "falso".

Come viene creato un deepfake

Le tecniche per realizzare un video deepfake sono diverse, ma tutte richiedono un'enorme potenza di calcolo per effettuare il rendering finale. Generalmente però il processo più semplice è quello della sostituzione di un volto con un altro, in modo da far fare o dire cose mai successe. Proprio come nel caso del fantomatico fuorionda di Renzi, in cui un attore mima i gesti del politico, e nel quale il volto è stato sostituito con quello (sintetizzato) di Matteo Renzi.

Come riconoscere i deepfake

La realtà dei fatti è che riconoscere un deepfake non è semplice. E se per un giornalista, la prima cosa da fare sarebbe quella di verificare la fonte, per un lettore tradizionale poter riconoscere un video falso potrebbe essere molto difficile. In ogni caso, la tecnica più utile e comoda per riconoscere questa particolare tipologia di filmato, si può effettuare con un qualsiasi programma di editing video e consiste nel rallentare le immagini, analizzare frame per frame le movenze del volto, e riconoscere eventuali (e sicuramente presenti) imperfezioni presenti nei pressi della bocca e alle estremità del volto inquadrato.

Le conseguenze dei deepfake nell'informazione

Una dimostrazione concreta di quanto possa essere pericolosa questa tecnica (e di quanto sia necessaria una regolamentazione legislativa) è stata data Jordan Peele, un regista che ha collaborato con BuzzFeed per realizzare un video nel quale un falso Obama parlava di concetti ben lontani dalla sua indole.

E, ancora, un altro esempio di video manipolato è stato pubblicato dal portavoce della Casa Bianca in occasione dello scontro avuto tra Donald Trump e Jim Acosta, nel corso di una conferenza stampa, con il chiaro scopo di dimostrare che il giornalista aveva respinto brutalmente la donna che era stata incaricata di togliergli il microfono. E bene, anche se il video sembra assolutamente reale e veritiero, grazie all'analisi realizzata da Storyful, un'organizzazione che si occupa proprio della verifica delle notizie, è stato scoperto che al filmato sono stati aggiunti alcuni frame con lo scopo di farlo apparire violento.

E per finire, è dei mesi scorsi un video pubblicato su YouTube in cui verrebbe immortalato Keanu Reeves mentre sventa una rapina. Ed è inutile ripeterlo di nuovo: è tutto finto. Ma l'azione eroica dell'attore, unita alla fama di "divo più buono di Holliwood" e al gesto finale di regalare dei soldi ai rapinatori, hanno ingannato diverse migliaia di utenti.

In Cina il telegiornale deepfake

E nonostante quanto trasmesso da Striscia la Notizia possa aver influenzato nuove discussioni con pareri molto contrastanti sulla legalità del fatto (che ok, non è legale, ma non è neppure illegale), è giusto avere ben presente una cosa: in Cina un'agenzia di stampa ha creato un telegiornale il cui presentatore è totalmente realizzato con un deepfake. Basato su un modello reale, ossia quello del presentatore (reale) del TG Qui Hao), il sistema ne ha analizzato ed emulato alla precisione i movimenti facciali, ed è in grado di recitare senza alcun problema testi in diverse lingue.

È necessario che questa tecnologia venga regolamentata

Che il fenomeno dei deepfake sia un esempio allarmante di quanto le masse possano essere influenzate sempre più facilmente, è un dato di fatto. E che sia necessaria una regolamentazione legislativa chiara e precisa per riuscire a limitare la diffusione di questa tecnologia nella moderna arte delle fake news è ancora più certo. Il punto è, però, che l'unico organo governativo ad interessarsi realmente dell'argomento è il Congresso americano, che sta da tempo puntando a ridurre il rischio potenziale di questa tecnologia, obbligando i vari social network ad utilizzare software in grado di riconoscerli e tutti i creatori di video deepfake ad aggiungere un bollino segnalatore, in modo da rendere chiaramente cosciente lo spettatore che quella riprodotta nel filmato non è la realtà.

Una pratica semplice e molto utile, che non è stata utilizzata da quelli di Striscia la Notizia con la trasmissione del fuorionda di Renzi. Trasmissione che, speriamo, oltre che a suscitare sgomento e a rendere più viva la discussione sull'argomento anche in Italia, potrebbe aver aperto gli occhi a chi di dovere e sottolineato la necessità di una regolamentazione di queste tecnologie anche nel Bel Paese.