La Chine propose une réglementation accrue des deepfakes et d’autres systèmes de synthèse par IA

L’Administration chinoise de l’espace numérique (CAC) a proposé un nouveau ensemble de règlements pour régir les systèmes de synthèse aidés par l’IA, notamment les deepfakes, les scènes de réalité virtuelle, la génération de texte, l’audio et d’autres sous-secteurs de la synthèse des médias par IA – un domaine dans lequel la Chine produit un nombre prodigieux de documents universitaires et de projets de recherche innovants chaque mois.

Un article (traduction Google, original ici) sur le site officiel de la CAC présente les obligations proposées et caractérise les services concernés comme des « fournisseurs de services de synthèse profonde », invitant les citoyens à participer en fournissant des commentaires sur les propositions de projet, avec une date limite fixée au 28 février.

Non seulement les deepfakes

Bien que les règlements proposés aient été rapportés en termes de leur impact potentiel sur la création et la diffusion de deepfakes, le document tente d’avoir une vision globale sur la capacité des algorithmes à générer tout type de contenu qui pourrait être interprété dans le sens large de « média ».

L’article 2 déclare la portée projetée des règlements sur six secteurs* :

(1) Les techniques de génération ou d’édition de contenu textuel, telles que la génération de chapitres, la conversion de style de texte et le dialogue question-réponse;

(2) Les technologies de génération ou d’édition de contenu vocal, telles que la synthèse vocale, la conversion de voix et l’édition d’attributs vocaux;

(3) Les technologies de génération ou d’édition de contenu non vocal, telles que la génération de musique et l’édition de sons de scène;

(4) La génération de visages, le remplacement de visages, l’édition d’attributs de personnage, la manipulation de visages, la manipulation de gestes et d’autres technologies pour générer ou éditer des caractéristiques biométriques telles que les visages dans les images et les contenus vidéo;

(5) Les techniques d’édition de caractéristiques non biologiques dans les images et les contenus vidéo, telles que l’amélioration d’images et la restauration d’images;

(6) Les technologies de génération ou d’édition de scènes virtuelles telles que la reconstruction 3D.

Réglementation des deepfakes

La Chine a criminalisé l’utilisation de l’IA pour la diffusion de fausses nouvelles à la fin de 2019, à ce moment-là, la CAC a exprimé des inquiétudes quant aux implications potentielles de la technologie des deepfakes, ce qui a conduit de nombreuses personnes à penser que le gouvernement chinois interdirait finalement la technologie des deepfakes.

Cependant, cela impliquerait que la Chine abandonne officiellement l’un des développements les plus politiquement et culturellement significatifs de l’histoire de la génération de médias, de l’IA et même de la politique, et se coupe des avantages de la collaboration scientifique mondiale et ouverte.

Par conséquent, il semble que la Chine soit maintenant déterminée à expérimenter le contrôle plutôt que l’interdiction de la technologie potentiellement dévoyée, qui, selon de nombreuses personnes, finira par migrer de sa phase d’accélérateur de pornographie vers un ensemble d’utilisations légitimes et exploitables, notamment dans le divertissement.

NeRF inclus

L’article 2.6 aborde la génération ou l’édition de scènes virtuelles, telles que la reconstruction 3D, une technologie plus nascente que l’impersonnalisation des deepfakes, et qui a acquis la plus grande notoriété au cours des deux dernières années grâce à l’avènement des champs de rayonnement neural (NeRF), où la photogrammétrie est utilisée pour synthétiser des scènes entières dans l’espace latent exploratoire des modèles d’apprentissage automatique.

Cependant, NeRF étend rapidement son champ d’application au-delà des tableaux de modèles et des visites de lieux vers la génération de vidéos à corps entier, les chercheurs chinois ayant réalisé de grandes innovations à cet égard.

Le ST-NeRF de la Chine en action.

Bien que NeRF ait produit un blizzard de nouvelles recherches depuis son annonce en 2020, sa mise en œuvre dans les systèmes de réalité virtuelle ou de réalité augmentée, ou sa convenance dans les pipelines d’effets visuels, comporte encore de nombreux défis et goulets d’étranglement technologiques à surmonter. La capacité croissante de NeRF à reconstituer et éditer des physiognomies humaines complètes n’a pas encore incorporé les capacités standard de transformation d’identité des deepfakes qui ont caractérisé les titres des actualités au cours des deux dernières années.

Les deepfakes audio, une priorité ?

Si l’on considère l’ordre de la liste de l’article 2 comme un indicateur des technologies de synthèse profonde que la Chine est la plus préoccupée par contrôler et réglementer, cela suggérerait que les actualités fictives basées sur le texte généré par l’IA sont la préoccupation principale, avec la synthèse vocale devant les deepfakes vidéo en termes d’impact potentiel.

Si tel est le cas, cela correspond au fait que les deepfakes vidéo n’ont pas encore été utilisés dans des crimes non liés à la pornographie (l’Asie n’a pas hésité à criminaliser les deepfakes pornographiques), alors que les deepfakes audio ont été présentés comme une technologie active dans au moins deux crimes financiers majeurs, au Royaume-Uni en 2019, et aux Émirats arabes unis en 2021.

Les nouvelles règlements proposées obligent les utilisateurs qui souhaitent exploiter l’identité d’une personne via l’utilisation de systèmes d’apprentissage automatique à demander l’autorisation écrite de l’individu. De plus, les médias synthétisés doivent afficher un logo ou une filigrane « visible » ou d’autres moyens par lesquels la personne qui consomme le matériel peut être amenée à comprendre que le contenu est altéré ou entièrement fabriqué. Il n’est pas tout à fait clair comment cela peut être accompli dans le cas des deepfakes audio.

Inscription

Si les propositions de projet sont ratifiées, les fournisseurs de services de synthèse profonde devront inscrire leurs applications pertinentes auprès de l’État, conformément aux dispositions existantes sur l’administration des recommandations d’algorithmes pour les services d’information Internet, et se conformer à toutes les procédures de dépôt nécessaires. Les fournisseurs de synthèse profonde devront également coopérer librement en termes de supervision et d’inspection, et produire « le soutien et l’assistance techniques et de données nécessaires » sur demande.

En outre, ces fournisseurs devront établir des portails conviviaux pour les plaintes, et publier les délais de traitement prévisibles pour ces plaintes, ainsi que être tenus de proposer des « mécanismes de réfutation des rumeurs » – bien que les propositions ne fournissent pas de détails concernant la mise en œuvre de ce point.

Les infractions pourraient entraîner des amendes allant de 10 000 à 100 000 yuans (1 600 et 16 000 dollars), ainsi que exposer les entreprises contrevenantes à des poursuites judiciaires et à des procédures pénales.

* Traduction par Google Translate, voir le lien au début de l’article.

Publié pour la première fois le 28 janvier 2022.