Blog/News

Da qualche giorno un’applicazione che si chiama Zao, e serve a sovrapporre la propria faccia a quella degli attori di serie tv e film – sta ottenendo un enorme successo in Cina. L’app è online da venerdì 30 agosto e in poco tempo ha raggiunto i primi posti nella classifica della versione cinese dell’App Store, il servizio di Apple per scaricare le applicazioni per i suoi iPhone e iPad. Il successo è dovuto ai risultati molto realistici dell’applicazione, resi possibili da alcuni sistemi di intelligenza artificiale. La società che la produce però è stata accusata di trattare con poco riguardo i dati degli utenti, con trascuratezze per quanto riguarda la privacy. L’utente Allan Xia ha pubblicato un video su Twitter per mostrare i risultati che si possono ottenere con Zao. Ha scritto di avere fornito una sola fotografia, aggiungendo che l’app ha impiegato meno di 8 secondi per generare il risultato finale. Zao è quindi molto efficiente, se confrontata con altri sistemi per deepfake che richiedono svariati minuti di elaborazione.

 

Zao sfrutta la tecnica del “deepfake” per produrre i video: sovrappone e combina immagini a video esistenti, modificandone in parte i contenuti e offrendo un risultato molto realistico. Grazie al miglioramento degli algoritmi e alle maggiori capacità di calcolo offerte dai computer dei giorni nostri, la qualità dei risultati che si può ottenere con la tecnica del deepfake è aumentata enormemente, tanto da rendere in alcuni casi indistinguibile un video modificato dalla sua versione originale.

 

Usare Zao è facile ed elimina la necessità di avere particolari conoscenze informatiche per produrre un deepfake. Dopo avere fornito una fotografia, si sceglie su quale spezzone di film o serie tv inserirla, tra quelle messe a disposizione dall’app (per ora non c’è una grande scelta). Zao provvede a elaborare i contenuti e a sovrapporre la faccia a quella di uno degli attori presenti nella scena. Il processo è molto rapido e richiede pochi secondi per essere realizzato.

 

Zao dà comunque la possibilità di ottenere effetti ancora più realistici seguendo alcuni passaggi aggiuntivi, per fotografarsi in diverse posizioni con bocca e occhi chiusi e aperti. La disponibilità limitata di clip in cui inserire la propria faccia deriva probabilmente dal lavoro di preparazione richiesto, che implica di mappare i movimenti delle facce nei video originali. Non è inoltre chiaro se l’applicazione abbia i diritti per utilizzare gli spezzoni.

 

La società proprietaria di Zao si chiama Changsha Shenduronghe Network Technology e, secondo le ricerche svolte da Bloomberg, fa parte di Momo, un’azienda cinese che gestisce servizi online di vario tipo compresi un sistema per gli streaming video in diretta e un’app per appuntamenti.

 

Nelle condizioni d’uso e privacy, la società chiarisce che i video generati possono essere impiegati per qualsiasi altra finalità e che gli utenti ne cedono sostanzialmente i diritti. Dopo avere ricevuto numerose critiche, Zao ha chiarito che le immagini fornite dagli utenti saranno impiegate esclusivamente per migliorare l’applicazione, e non saranno offerte a terzi. La società si è anche impegnata a eliminare i dati degli utenti quando questi decidono di cancellarsi.

 

Il fatto che si possano solamente utilizzare spezzoni di film e serie tv, e non qualsiasi video caricato dagli utenti, riduce la possibilità che Zao possa essere utilizzata per fini diversi e potenzialmente pericolosi. I deepfake in passato sono stati impiegati per diffondere notizie false, come finti comizi di personaggi politici, oppure per il cosiddett “revenge porn”, sovrapponendo le facce dei propri ex partner a quelle dei protagonisti dei video pornografici. La capacità di produrre risultati così verosimili e in poco tempo dimostra comunque quanto stiano diventando sempre più semplici e diffusi sistemi per produrre video manipolati.

 

Altre preoccupazioni per la privacy sono legate al fatto che Zao possa raccogliere milioni di fotografie di ritratti, che potrebbero essere impiegate per scopi diversi, per esempio per affinare le tecniche per il riconoscimento facciale. L’applicazione cinese non è certo l’unica a farlo, altre molto più grandi come Facebook fanno qualcosa di analogo, ma in Cina il tema del riconoscimento facciale è diventato centrale considerati i piani di videosorveglianza di massa del governo cinese. Società che raccolgono un grande successo così velocemente non hanno talvolta il tempo, le capacità e le risorse per organizzare una gestione adeguata della privacy dei loro utenti.