Zao, perché l’app cinese che sostituisce il volto delle persone è una minaccia per la privacy

Da tempo ormai desta più di una preoccupazione il fenomeno dei deepfake – una tipologia di video nella quale vengono utilizzati algoritmi di intelligenza artificiale per applicare volti noti su corpi di altre persone e potenzialmente screditarne la reputazione. Le capacità tecniche necessarie a ricreare effetti simili si stanno in effetti facendo sempre più alla portata degli utenti comuni, tanto che da qualche giorno in Cina è possibile già fare il contrario: applicare il proprio volto o quello degli amici sul corpo di attori e attrici famose. A renderlo possibile è Zao, un'app per smartphone capace di generare video falsi a iosa per tutti gli utenti che lo desiderano.

L'app parte dalla semplice foto di un individuo ed è capace di posizionarne il volto al posto di quello degli interpreti delle scene più memorabili di film e serie TV. Il risultato è molto convincente, motivo per cui la popolarità dell'app è schizzata alle stelle in poche ore e in molti stanno già ponendosi delle domande sui rischi che il suo utilizzo può rappresentare per la privacy di chi la utilizza.

Zao in realtà non può ancora fare miracoli e si basa su una banca dati formata da un catalogo di scene predeterminato: non è dunque possibile sostituire il proprio volto o quello degli amici a quello di qualunque attore o attrice, ma solo alle personalità presenti nei filmati per le quali gli sviluppatori hanno addestrato i loro algoritmi. Tra le scene a disposizione se trovano alcune da Game of Thrones come anche brevi spezzoni di film interpretati da Leonardo di Caprio, per una varietà di materiale a disposizione non eccessiva, ma comunque sufficiente da incuriosire migliaia di persone che si stanno fiondando sul servizio.

Il problema di cosa possano fare gli sviluppatori di Zao con le foto fornite loro dagli utenti non è nuovo. Domande simili erano emerse (con qualche ritardo) anche ai tempi di FaceApp, poche settimane fa: il software offriva modifiche fotografiche divertenti ma si appropriava delle immagini che gli venivano date in pasto da utenti ansiosi di sottoporsi ai suoi filtri. Nei termini d'uso originali di Zao l'azienda produttrice si riservava diritti pressoché totali sulle immagini acquisite, e dopo le prime proteste da parte degli utenti ha corretto il proprio documento, ma le rassicurazioni non sono bastate a placare i timori dell'opinione pubblica, tanto che due delle note piattaforme social cinesi, WeChat e Weibo, hanno bloccato in massa il caricamento sui propri server dei contenuti provenienti dall'app.

Diverso e ancora più spinoso è il problema di cosa possano fare gli utenti di Zao con le foto di altre persone utilizzate senza il permesso di queste ultime, dal momento che i termini d'uso dell'app scaricano la responsabilità di questa condotta sugli utenti. L'app non solo ha il potenziale di far sembrare vero ciò che in realtà vero non è, ma per la prima volta automatizza il processo mettendolo nelle mani di milioni di persone: è vero che le clip prodotte sono tempestate di watermark e – proprio perché si tratta di scene note del mondo della cultura pop – decisamente riconoscibili; nulla vieta però agli sviluppatori o ad aziende che si vogliano mettere sulla scia di Zao di modificare questo approccio in futuro, e di ampliare i confini di ciò che è possibile fare con i volti degli altri.