La Cina propone un aumento della regolamentazione dei deepfake e di altri sistemi di sintesi AI

L’Agenzia cibernetica della Cina (CAC) ha proposto un nuovo set di regolamenti per governare i sistemi di sintesi aiutati dall’AI, compresi i deepfake, le scene di realtà virtuale, la generazione di testo, l’audio e altri sottosettori della sintesi dei media AI – un campo in cui la Cina produce un numero prodigioso di articoli accademici e progetti di ricerca innovativi ogni mese.

Un post (traduzione di Google, originale qui) sul sito ufficiale della CAC stabilisce le proposte di obblighi e caratterizza i servizi interessati come ‘fornitori di servizi di sintesi profonda’, invitando i cittadini a partecipare contribuendo con commenti sulle proposte di bozza, con scadenza il 28 febbraio.

Non solo deepfake

Sebbene le regolamentazioni suggerite siano state riportate in termini del loro potenziale impatto sulla creazione e diffusione di deepfake, il documento tenta di avere una visione onnicomprensiva sulla capacità degli algoritmi di generare qualsiasi tipo di contenuto che possa essere interpretato nel senso ampio di ‘media’.

L’articolo 2 dichiara l’ambito di applicazione delle regolamentazioni in sei settori*:

(1) Tecniche per la generazione o la modifica di contenuti testuali, come la generazione di capitoli, la conversione di stile testuale e il dialogo domanda-risposta;

(2) Tecnologie per la generazione o la modifica di contenuti vocali, come la conversione testo-voce, la conversione vocale e la modifica degli attributi vocali;

(3) Tecnologie per la generazione o la modifica di contenuti non vocali, come la generazione di musica e la modifica del suono di scena;

(4) Generazione di volti, sostituzione di volti, modifica degli attributi del personaggio, manipolazione del volto, manipolazione del gesto e altre tecnologie per la generazione o la modifica di caratteristiche biometriche come i volti nei contenuti di immagini e video;

(5) Tecniche per la modifica di caratteristiche non biologiche nelle immagini e nei contenuti video, come il miglioramento delle immagini e la restaurazione delle immagini;

(6) Tecnologie per la generazione o la modifica di scene virtuali come la ricostruzione 3D.

Regolamentazione dei deepfake

La Cina ha criminalizzato l’uso dell’AI per la diffusione di notizie false alla fine del 2019, al momento in cui la CAC ha espresso preoccupazione per le possibili implicazioni della tecnologia dei deepfake, portando molti a considerare che il governo cinese avrebbe eventualmente vietato la tecnologia dei deepfake.

Tuttavia, ciò significherebbe che la Cina abbandonerebbe ufficialmente uno degli sviluppi più politicamente e culturalmente significativi nella storia della generazione di media, dell’AI e persino della politica, e si taglierebbe fuori dai benefici della collaborazione scientifica globale e aperta.

Pertanto, sembra che la Cina sia ora determinata a sperimentare il controllo piuttosto che il divieto della tecnologia potenzialmente pericolosa, che, molti credono, alla fine migrerà dalla sua fase di accelerazione della pornografia e in un insieme di casi d’uso legittimi ed esploiti, in particolare nel settore dello spettacolo.

NeRF incluso

L’articolo 2.6 affronta la generazione o la modifica di scene virtuali, come la ricostruzione 3D, una tecnologia più nascente rispetto all’impersonificazione dei deepfake, e una che ha raggiunto la massima notorietà negli ultimi due anni attraverso l’avvento dei campi di radianza neurale (NeRF), dove la fotogrammetria viene utilizzata per sintetizzare intere scene nello spazio latente esplorabile dei modelli di apprendimento automatico.

Tuttavia, NeRF sta rapidamente espandendo la sua portata al di là delle tavole dei modelli e delle visite guidate degli ambienti nella generazione di video a corpo intero, con i ricercatori cinesi che hanno avanzato alcune importanti innovazioni in questo senso.

Il ST-NeRF della Cina in azione.

Sebbene NeRF abbia prodotto una tempesta di nuova ricerca dal suo annuncio nel 2020, la sua implementazione nei sistemi di realtà virtuale o aumentata, o la sua idoneità nelle pipeline di effetti visivi, ha ancora molte sfide e collo di bottiglia tecnologico notevoli da superare. La capacità di NeRF di ricostituire e modificare le fisiognomie umane complete deve ancora incorporare alcuna delle standard capacità di trasformazione dell’identità dei deepfake che hanno caratterizzato i titoli dei notiziari negli ultimi due anni.

Audio deepfake una priorità?

Se si prende l’ordine dell’elenco dell’articolo 2 come indicazione delle tecnologie di sintesi profonda che la Cina è più preoccupata di controllare e regolare, ciò suggerirebbe che le notizie false generate dall’AI basate sul testo sono di primaria preoccupazione, con la sintesi vocale in testa ai video deepfake in termini di impatto potenziale.

Se così fosse, ciò si allinea con il fatto che il video deepfake non è ancora stato utilizzato in alcun reato non legato alla pornografia (l’Asia non ha esitato a criminalizzare la pornografia dei deepfake), mentre l’audio deepfake è stato ipotizzato come una tecnologia attiva in almeno due grandi reati finanziari, nel Regno Unito nel 2019, e negli Emirati Arabi Uniti nel 2021.

Le nuove proposte di regolamento obbligano gli utenti che desiderano sfruttare l’identità di una persona attraverso l’uso di sistemi di apprendimento automatico a cercare il permesso scritto dell’individuo. Inoltre, i media sintetici devono visualizzare un logo o un marchio di fabbrica ‘prominente’ o altri mezzi con cui il consumatore del materiale può essere reso consapevole che il contenuto è alterato o interamente fabbricato. Non è del tutto chiaro come ciò possa essere realizzato nel caso degli audio deepfake.

Registrazione

Se ratificate, le proposte di bozza obbligherebbero i fornitori di servizi di sintesi profonda a registrare le loro applicazioni pertinenti con lo stato, in conformità con le disposizioni esistenti sull’amministrazione delle raccomandazioni algoritmiche per i servizi di informazione su Internet, e a rispettare tutte le procedure di registrazione necessarie. I fornitori di sintesi profonda dovranno anche cooperare liberamente in termini di supervisione e ispezione, e produrre ‘necessario supporto tecnico e di dati e assistenza’ su richiesta.

Inoltre, tali fornitori dovranno stabilire portali facili da usare per le lamentele e pubblicare limiti di tempo attesi per l’elaborazione di tali lamentele, nonché essere tenuti a offrire ‘meccanismi di confutazione delle voci’ – sebbene le proposte non forniscono dettagli in merito all’attuazione di ciò.

I reati potrebbero comportare multe tra i 10.000 e i 100.000 yuan (1.600 e 16.000 dollari), nonché esporre le società che commettono reati a cause civili e penali.

* Traduzione di Google Translate, vedere link all’inizio dell’articolo.

Pubblicato per la prima volta il 28 gennaio 2022.