"Una nuova e temibile minaccia". Così la presidente del Senato, Elisabetta Casellati, ha definito la tecnologia in grado di applicare il volto di una persona sul corpo di un'altra in un video durante l'apertura del convegno "La minaccia del deepfake". Nel corso dell'incontro è stato anche mostrato un filmato realizzato utilizzando il deepfake – poi pubblicato su Twitter da Francesco Rutelli – dove Francesco Giorgino annuncia al TG1 il ritorno della Lira. Ovviamente si tratta di un filmato finto dove il volto del giornalista è stato applicato e poi fatto parlare digitalmente, "un esempio per rappresentare i pericoli di questa tecnologia".

"La creazione di un video falso ma perfettamente credibile e la sua diffusione via internet rischia di far cadere l'ultimo baluardo della realtà" ha spiegato Casellati, spiegando che questa tecnologia "è in grado di trasformarsi in un'arma pericolosa ed efficace per creare notizie false in grado di  manipolare l'opinione pubblica". Grazie a questa particolare tecnica, infatti, i protagonisti dei video vengono totalmente sintetizzati sfruttando l'intelligenza artificiale e il machine learning, che rendono possibile applicare il volto digitalizzato di una persona su un corpo presente in un video per poi fargli dire quello che si vuole. Con risultati pazzeschi: difficilmente, all'occhio meno esperto, si riesce a capire che chi parla ed è inquadrato in realtà è un personaggio virtuale, perché è praticamente identico all'originale che si vuole emulare.

Per questo l'attenzione verso i deepfake è altissima: inizialmente la tecnologia è stata utilizzata nel porno, dove i volti di persone famose venivano applicati ai corpi delle attrici pornografiche, mentre negli ultimi mesi il deepfake è stato utilizzato per confezionare vere e proprie bufale che hanno messo in bocca a persone e politici parole mai dette. "Il deepfake è una minaccia insidiosa, si presta ad un inquinamento molto potente della realtà" ha sottolineato Nunzia Ciardi, a capo della Polizia Postale. "Non c'è una norma specifica che disciplini un fenomeno così grave". Anche il commissario dell'Agcom, Francesco Pasteraro, spiega che "è necessario colmare questa lacuna e adeguare le leggi al progresso tecnologico. Serve una norma penale, un reato perseguibile a querela di parte".

Come viene creato un deepfake

Le tecniche per realizzare un video deepfake sono diverse, ma tutte richiedono un'enorme potenza di calcolo per effettuare il rendering finale. Generalmente però il processo più semplice è quello della sostituzione di un volto con un altro, in modo da far fare o dire cose mai successe. Proprio come nel caso del fantomatico fuorionda di Renzi trasmesso da Striscia la Notizia, in cui un attore mima i gesti del politico, e nel quale il volto è stato sostituito con quello (sintetizzato) di Matteo Renzi.