La Chine propose une réglementation accrue des deepfakes et d’autres systèmes de synthèse d’IA

L’Administration chinoise de l’espace numérique (CAC) a proposé un nouveau ensemble de règlements pour régir les systèmes de synthèse aidés par l’IA, y compris les deepfakes, les scènes de réalité virtuelle, la génération de texte, l’audio et d’autres sous-secteurs de la synthèse des médias d’IA – un domaine dans lequel la Chine produit un grand nombre de documents universitaires et de projets de recherche innovants chaque mois.

Un article (Google Translation, original ici) sur le site officiel de la CAC présente les obligations proposées et caractérise les services concernés comme des « fournisseurs de services de synthèse profonde », invitant les citoyens à participer en commentant les propositions de projet, avec un délai fixé au 28 février.

Non seulement les deepfakes

Bien que les règlements proposés aient été rapportés en termes de leur impact potentiel sur la création et la diffusion de deepfakes, le document tente de couvrir de manière globale la capacité des algorithmes à générer tout type de contenu qui pourrait être interprété dans le sens large de « médias ».

L’article 2 déclare la portée projetée des règlements sur six secteurs*:

(1) Les techniques de génération ou d’édition de contenu textuel, telles que la génération de chapitres, la conversion de style de texte et le dialogue question-réponse;

(2) Les technologies de génération ou d’édition de contenu vocal, telles que la synthèse vocale, la conversion de voix et l’édition d’attributs vocaux;

(3) Les technologies de génération ou d’édition de contenu non vocal, telles que la génération de musique et l’édition de sons de scène;

(4) La génération de visages, le remplacement de visages, l’édition d’attributs de personnage, la manipulation de visages, la manipulation de gestes et d’autres technologies de génération ou d’édition de caractéristiques biométriques telles que les visages dans les images et les contenus vidéo;

(5) Les techniques d’édition de caractéristiques non biologiques dans les images et les contenus vidéo, telles que l’amélioration d’images et la restauration d’images;

(6) Les technologies de génération ou d’édition de scènes virtuelles telles que la reconstruction 3D.

Réglementation des deepfakes

La Chine a criminalisé l’utilisation de l’IA pour la diffusion de fausses nouvelles à la fin de 2019, à laquelle époque la CAC a exprimé des inquiétudes quant aux implications potentielles de la technologie des deepfakes, ce qui a conduit de nombreuses personnes à penser que le gouvernement chinois interdirait finalement la technologie des deepfakes.

Cependant, cela impliquerait que la Chine abandonne officiellement l’un des développements les plus politiquement et culturellement significatifs de l’histoire de la génération de médias, de l’IA et même de la politique, et se couperait des avantages de la collaboration scientifique mondiale et ouverte.

Par conséquent, il semble que la Chine soit maintenant déterminée à expérimenter le contrôle plutôt que l’interdiction de la technologie potentiellement dévoyée, qui, selon de nombreuses personnes, migrera finalement de sa phase d’accélérateur de pornographie et entrera dans un ensemble d’utilisation légitime et exploitable, notamment dans le divertissement.

NeRF inclus

L’article 2.6 aborde la génération ou l’édition de scènes virtuelles, telles que la reconstruction 3D, une technologie plus naissante que l’impersonnalisation des deepfakes, et qui a acquis la plus grande notoriété au cours des deux dernières années grâce à l’avènement des champs de rayonnement neuronal (NeRF), où la photogrammétrie est utilisée pour synthétiser des scènes entières dans l’espace latent des modèles d’apprentissage automatique.

Cependant, NeRF étend rapidement son champ d’application au-delà des tableaux de modèles et des visites de lieux pour générer des vidéos à plein corps, les chercheurs chinois ayant fait de grandes avancées à cet égard.

La Chine ST-NeRF en action.

Bien que NeRF ait produit un blizzard de nouvelles recherches depuis son annonce en 2020, sa mise en œuvre dans les systèmes de réalité virtuelle ou de réalité augmentée, ou sa convenance dans les pipelines d’effets visuels, présente encore de nombreuses défis et goulets d’étranglement technologiques à traverser. La capacité croissante de NeRF à reconstituer et à éditer des physiognomies humaines complètes n’a pas encore incorporé les capacités standard de transformation d’identité des deepfakes qui ont caractérisé les titres des actualités au cours des deux dernières années.

Les deepfakes audio, une priorité?

Si l’on considère la liste de l’article 2 comme un indicateur des technologies de synthèse profonde que la Chine est la plus préoccupée de contrôler et de réglementer, cela suggérerait que les fausses nouvelles générées par l’IA basées sur le texte sont la principale préoccupation, avec la synthèse vocale avant les deepfakes vidéo en termes d’impact potentiel.

Si tel est le cas, cela correspond au fait que les deepfakes vidéo n’ont pas encore été utilisés dans des crimes non liés à la pornographie (l’Asie n’a pas hésité à criminaliser les deepfakes pornographiques), tandis que les deepfakes audio ont été posés comme une technologie active dans au moins deux crimes financiers majeurs, au Royaume-Uni en 2019, et aux Émirats arabes unis en 2021.

Les nouvelles règlements proposées obligent les utilisateurs qui souhaitent exploiter l’identité d’une personne via l’utilisation de systèmes d’apprentissage automatique à demander l’autorisation écrite de l’individu. De plus, les médias synthétisés doivent afficher un logo ou une filigrane « visible » ou d’autres moyens par lesquels la personne qui consomme le matériel peut être informée que le contenu est modifié ou entièrement fabriqué. Il n’est pas tout à fait clair comment cela peut être accompli dans le cas des deepfakes audio.

Enregistrement

Si les propositions de projet sont ratifiées, les fournisseurs de services de synthèse profonde devront enregistrer leurs applications pertinentes auprès de l’État, conformément aux dispositions existantes sur l’administration des recommandations d’algorithmes pour les services d’information Internet, et se conformer à toutes les procédures de dépôt nécessaires. Les fournisseurs de synthèse profonde devront également coopérer librement en termes de surveillance et d’inspection, et produire « le soutien technique et les données nécessaires » sur demande.

De plus, ces fournisseurs devront établir des portails conviviaux pour les plaintes et publier les délais attendus pour le traitement de ces plaintes, ainsi que proposer des « mécanismes de réfutation des rumeurs » – bien que les propositions ne fournissent pas de détails sur la mise en œuvre de cela.

Les infractions pourraient entraîner des amendes allant de 10 000 à 100 000 yuans (1 600 et 16 000 dollars), ainsi que exposer les sociétés contrevenantes à des poursuites civiles et pénales.

* Traduction par Google Translate, voir le lien au début de l’article.

Publié pour la première fois le 28 janvier 2022.