L’Amministrazione del Cyberspazio della Cina ha pubblicato una nuova serie di regole per l’utilizzo di deepfake, vietando tutte le produzioni realizzate senza l’espressa autorizzazione dei protagonisti o utilizzate in modo contrario agli interessi nazionali. Quest’ultima condizione, espressa in modo ambiguo, dà alle autorità sufficiente libertà per censurare arbitrariamente qualsiasi deepfake trovato online in Cina, imponendo al contempo dure sanzioni agli autori.
Relativamente facili da creare con il PC di casa o a pagamento accedendo ad applicazioni o servizi disponibili online, i deepfakes utilizzano l’intelligenza artificiale per creare rappresentazioni realistiche di persone che dicono o fanno cose che in realtà non hanno detto o fatto. La tecnologia è oggetto di controversia anche al di fuori della Cina, soprattutto per il suo potenziale di disinformazione e diffamazione, e le autorità europee hanno fatto pressione su giganti tecnologici come Alphabet e Meta affinché intervenissero per rimuovere rapidamente i contenuti abusivi.
L’internet cinese è uno dei più limitati al mondo, “protetto” da un firewall che blocca l’accesso ai servizi occidentali e da un algoritmo di censura integrato nella maggior parte delle piattaforme di social media che segnala automaticamente le parole chiave e impedisce l’invio di messaggi. Pertanto la notizia di questo nuovo divieto non sorprende.
Tuttavia, il modo in cui sono state redatte le nuove norme sembra riconoscere l’importanza e il ruolo delle tecnologie di sintesi dei contenuti digitali, tra cui il deepfake. La Cina prevede che gli “esseri umani sintetici” saranno ampiamente utilizzati in applicazioni come i chatbot, la presentazione di notizie e le produzioni cinematografiche che concedono in licenza i volti e la fisionomia di attori famosi. In questi scenari, i deepfake dovrebbero essere contrassegnati come creazioni digitali.
Inoltre, i creatori di deepfake – chiamati “deep synthesis service provider” – devono garantire che i modelli e gli algoritmi di AI/ML rendano il più accuratamente possibile la fisionomia e la mimica della persona reale che simulano ma sono anche responsabili della sicurezza dei dati raccolti e possono essere ritenuti responsabili in caso di uso improprio. Le regole prevedono anche l’obbligo di registrazione degli utenti, compreso il loro vero nome.
