La Cina propone un aumento della regolamentazione dei Deepfakes e di altri sistemi di sintesi AI

L’Agenzia cibernetica della Cina (CAC) ha proposto un nuovo set di regolamenti per governare i sistemi di sintesi aiutati dall’AI, tra cui deepfakes, scene di realtà virtuale, generazione di testo, audio e altri sottosettori dei media di sintesi AI – un campo in cui la Cina produce un numero prodigioso di articoli accademici e progetti di ricerca innovativi ogni mese.

Un post (traduzione di Google, originale qui) sul sito ufficiale della CAC stabilisce le proposte di obblighi e caratterizza i servizi interessati come ‘fornitori di servizi di sintesi profonda’, invitando i cittadini a partecipare contribuendo con commenti sulle proposte di bozza, con scadenza il 28 febbraio.

Non solo Deepfakes

Sebbene le regolamentazioni proposte siano state riportate in termini del loro potenziale impatto sulla creazione e diffusione di deepfakes, il documento tenta di avere una visione globale sulla capacità degli algoritmi di generare qualsiasi tipo di contenuto che potrebbe essere interpretato nel senso ampio di ‘media’.

L’articolo 2 dichiara l’ambito di applicazione previsto delle regolamentazioni in sei settori*:

(1) Tecniche per la generazione o la modifica di contenuti testuali, come la generazione di capitoli, la conversione di stile di testo e il dialogo domanda-risposta;

(2) Tecnologie per la generazione o la modifica di contenuti vocali, come la conversione testo-voce, la conversione vocale e la modifica degli attributi vocali;

(3) Tecnologie per la generazione o la modifica di contenuti non vocali, come la generazione di musica e la modifica del suono di scena;

(4) Generazione di volti, sostituzione di volti, modifica degli attributi dei personaggi, manipolazione dei volti, manipolazione dei gesti e altre tecnologie per la generazione o la modifica di caratteristiche biometriche come i volti nei contenuti di immagini e video;

(5) Tecniche per la modifica di caratteristiche non biologiche in immagini e video, come il miglioramento delle immagini e la restaurazione delle immagini;

(6) Tecnologie per la generazione o la modifica di scene virtuali come la ricostruzione 3D.

Regolamentazione dei Deepfakes

La Cina ha criminalizzato l’uso dell’AI per la diffusione di notizie false alla fine del 2019, al quale tempo la CAC ha espresso preoccupazione per le potenziali implicazioni della tecnologia dei deepfakes, portando molti a considerare che il governo cinese avrebbe eventualmente bandito la tecnologia dei deepfakes tout court.

Tuttavia, ciò significherebbe che la Cina abbandonerebbe ufficialmente uno degli sviluppi più politicamente e culturalmente significativi nella storia della generazione dei media, dell’AI e persino della politica, e si taglierebbe fuori dai benefici della collaborazione scientifica globale e aperta.

Pertanto, sembra che la Cina sia ora determinata a sperimentare il controllo piuttosto che il divieto della tecnologia potenzialmente ribelle, che, molti credono, alla fine migrerà fuori dalla sua fase di accelerazione del porno e in un insieme di casi d’uso legittimi e sfruttabili, in particolare nel settore dello spettacolo.

NeRF incluso

L’articolo 2.6 affronta la generazione o la modifica di scene virtuali, come la ricostruzione 3D, una tecnologia più nascente rispetto all’impersonificazione dei deepfakes, e una che ha raggiunto la massima notorietà negli ultimi due anni attraverso l’avvento dei Campi di Radiance Neurale (NeRF), dove la fotogrammetria viene utilizzata per sintetizzare intere scene nello spazio latente esplorabile dei modelli di apprendimento automatico.

Tuttavia, NeRF sta rapidamente espandendo la sua portata al di fuori dei modelli di tableau e dei passaggi di ambienti nella generazione di video a corpo intero, con i ricercatori cinesi che hanno avanzato alcune importanti innovazioni a questo riguardo.

ST-NeRF della Cina in azione.

Sebbene NeRF abbia prodotto una valanga di nuove ricerche dal suo annuncio nel 2020, la sua implementazione in sistemi VR o AR, o la sua idoneità nelle pipeline degli effetti visivi, ha ancora molte sfide e collo di bottiglia tecnologico da superare. La capacità di NeRF di ricostituire e modificare fisionomie umane complete deve ancora incorporare alcuna delle capacità di trasformazione dell’identità dei deepfakes che hanno caratterizzato i titoli dei notiziari negli ultimi due anni.

Audio Deepfakes una priorità?

Se si deve prendere l’ordine dell’elenco dell’articolo 2 come indicazione delle tecnologie di sintesi profonda che la Cina è più preoccupata di controllare e regolare, ciò suggerirebbe che le notizie false generate dall’AI basate sul testo sono di primaria preoccupazione, con la sintesi vocale in testa ai video deepfakes in termini di impatto potenziale.

Se così fosse, ciò si allineerebbe con il fatto che il video deepfake non è ancora stato utilizzato in alcun reato non legato alla pornografia (l’Asia non ha esitato a criminalizzare il porno deepfake), mentre l’audio deepfake è stato ipotizzato come una tecnologia attiva in almeno due gravi reati finanziari, nel Regno Unito nel 2019, e negli Emirati Arabi Uniti nel 2021.

Le nuove regolamentazioni proposte obbligano gli utenti che desiderano sfruttare l’identità di una persona tramite l’uso di sistemi di apprendimento automatico a richiedere il permesso scritto dell’individuo. Inoltre, i media sintetizzati devono visualizzare un logo o un marchio d’acqua ‘prominente’, o altri mezzi con cui il consumatore del materiale possa essere reso consapevole che il contenuto è alterato o interamente fabbricato. Non è del tutto chiaro come ciò possa essere realizzato nel caso degli audio deepfakes.

Registrazione

Se ratificate, le proposte di bozza obbligherebbero i fornitori di servizi di sintesi profonda a registrare le loro applicazioni pertinenti con lo stato, in conformità con le disposizioni esistenti sulle raccomandazioni algoritmiche per i servizi di informazione Internet, e a rispettare tutte le procedure di registrazione necessarie. I fornitori di sintesi profonda dovranno anche cooperare liberamente in termini di supervisione e ispezione, e produrre ‘necessario supporto tecnico e di dati e assistenza’ su richiesta.

Inoltre, tali fornitori dovranno stabilire portali facili da usare per le lamentele e pubblicare i limiti di tempo previsti per l’elaborazione di tali lamentele, nonché essere tenuti a offrire ‘meccanismi di confutazione delle voci’ – sebbene le proposte non forniscono dettagli in merito all’attuazione di ciò.

Le infrazioni potrebbero provocare multe tra i 10.000 e i 100.000 yuan (1.600 e 16.000 dollari), nonché esporre le società colpevoli a cause civili e penali.

* Traduzione di Google Translate, vedi link all’inizio dell’articolo.

Pubblicato per la prima volta il 28 gennaio 2022.