Propositions de réglementation des deepfakes en Europe et au Royaume-Uni sont étonnamment limitées

Analyse Pour les militants qui espèrent que 2022 pourrait être l’année où les images deepfaked tombent dans un cadre juridique plus strict, les premiers indicateurs sont peu prometteurs.

La semaine dernière, le Parlement européen a ratifié des amendements à la loi sur les services numériques (DSA, qui devrait entrer en vigueur en 2023), concernant la diffusion de deepfakes. Les modifications portent sur deux sections, chacune directement liée à la publicité en ligne: l’amendement 1709 relatif à l’article 30, et un amendement connexe à l’article 63.

Le premier propose un nouvel article 30a, intitulé Deep fakes, qui indique:

‘Lorsqu’une grande plateforme en ligne prend connaissance du fait qu’un contenu est une image, un audio ou une vidéo générés ou manipulés qui ressemblent de manière appréciable à des personnes, des objets, des lieux ou d’autres entités ou événements existants et qui semblent faux ou trompeurs (deepfakes), le fournisseur doit étiqueter le contenu de manière à informer que le contenu est inauthentique et que cela est clairement visible pour le destinataire du service.’

Le second ajoute du texte à l’article 63, qui est principalement axé sur l’augmentation de la transparence des grandes plateformes publicitaires. Le texte pertinent indique:

‘En outre, les grandes plateformes en ligne devraient étiqueter toutes les vidéos, les audios ou les fichiers deepfakes connus.’

En effet, la législation semble se préparer à la pratique croissante des « deepfakes légitimes », où la permission a été accordée et les droits sécurisés pour le face-swapping dans les matériaux promotionnels ou publicitaires – comme l’utilisation licenciée de l’identité de Bruce Willis par le télécom russe Telefon dans une campagne publicitaire récente.

Hésitation à légiférer

La DSA, jusqu’à présent, ne semble pas aborder les préoccupations des militants concernant l’utilisation de techniques de deepfake telles qu’elles sont le plus souvent utilisées – pour recaster des vidéos pornographiques. Elle n’aborde pas non plus la mesure dans laquelle l’utilisation future de deepfakes dans les films et la télévision devra être déclarée aux téléspectateurs de la même manière que les deepfakes dans la publicité le seront, au moins dans l’UE, à partir de 2023.

Le processus de ratification de la DSA passe maintenant à la négociation avec les États membres de l’UE, ainsi qu’avec la portée plus large de la loi sur les marchés numériques (DMA).

Le rapport d’Europol de décembre 2020 intitulé Utilisations et abus malveillants de l’intelligence artificielle a affirmé qu’il serait une erreur pour l’UE d’aborder des technologies de deepfake spécifiques (comme DeepFaceLive), ce qui pourrait amener la loi de l’UE à jouer constamment au rattrapage avec le dernier cadre ou méthode.

Le rapport a indiqué:

‘En particulier, ces politiques devraient être agnostiques en matière de technologie afin d’être efficaces à long terme et d’éviter de devoir les revoir et les remplacer régulièrement à mesure que la technologie derrière la création et l’abus de deepfakes évolue. ‘

‘Cependant, de telles mesures devraient également éviter d’obstruer les applications positives des GANs.’

La remarque conclusive dans la citation ci-dessus, concernant les réseaux antagonistes génératifs (GANs), caractérise largement l’hésitation européenne et nord-américaine à appliquer des lois qui pourraient entraver un secteur de recherche émergent en IA déjà perçu comme en retard par rapport à l’Asie (dont les nations plus didactiques ont pu accélérer la législation sur les deepfakes).

Par exemple, un rapport de 2018 du Comité de sélection sur l’intelligence artificielle de la Chambre des lords du Royaume-Uni met en évidence plusieurs fois le risque de permettre à la timidité de freiner le développement de l’IA dans la nation, exemplifié dans son titre: IA au Royaume-Uni: prêt, disposé et capable?. Le mois dernier, la Grande-Bretagne est également devenue le premier pays à autoriser le déploiement de voitures autonomes sur les autoroutes.

Les États-Unis ne sont pas moins avides; aux États-Unis, The Brookings Institution a urgé la nécessité d’une législation accrue pour l’IA aux États-Unis, critiquant les législateurs pour leur position « attendre et voir » sur les conséquences des technologies d’apprentissage automatique

En plus de l’approche insipide de la DSA pour aborder les préoccupations sociales (plutôt que politiques) autour des deepfakes, le cadre réglementaire proposé de l’UE pour l’IA, publié en avril 2021, a été critiqué pour son propre évitement du sujet.

Réglementation des deepfakes limitée au Royaume-Uni

Comme une déception supplémentaire pour les militants anti-deepfakes tels que l’auteur Helen Mort, qui a fait campagne pour de nouvelles lois au Royaume-Uni en 2021 après avoir été dépeint sans consentement dans des vidéos pornographiques deepfakes, un rapport publié aujourd’hui par le Comité parlementaire britannique des médias numériques, de la culture, des médias et des sports critique le gouvernement britannique pour n’avoir pas abordé les deepfakes dans le projet de loi sur la sécurité en ligne.

En citant la loi actuelle du projet de loi contre les abus de deepfakes comme « peu claire et peu pratique », le rapport suggère que la législation proposée ne fait rien pour aborder le statut « légal mais nocif » des techniques de manipulation d’images et de vidéos assistées par l’IA:

‘[Nous] recommandons que le gouvernement aborde de manière proactive les types de contenus qui sont techniquement légaux, tels que les parties insidieuses des séquences d’abus d’enfants comme le breadcrumbing et les types de violence en ligne contre les femmes et les filles comme la « nudification » assistée par la technologie et la pornographie deepfake, en les incluant dans le champ d’application soit par la législation primaire, soit comme types de contenus nocifs couverts par les devoirs de soin.’

La loi actuelle applicable au Royaume-Uni se limite à la diffusion d’images « réelles », telles que les cas de revenge porn, où, par exemple, du matériel explicite confidentiel et privé est partagé publiquement par un ex-partenaire. Si un persécuteur crée et publie du contenu deepfake qui superpose l’identité de sa « cible » dans du contenu pornographique, il ne peut être poursuivi que s’il harcèle directement la cible en lui adressant le matériel, ou en vertu de la législation liée au droit d’auteur.

Dans le premier cas, la facilité avec laquelle le nouveau contenu deepfake gagne du terrain et des téléspectateurs signifie presque inévitablement que la victime sera informée par des amis préoccupés ou des tiers non liés, plutôt que par la personne qui l’a deepfaked, permettant ainsi à la viralité de ce matériel de protéger le deepfaker, dont le travail atteint toujours « la cible ».

Dans le deuxième cas, les poursuites ne seraient probablement possibles que si une vidéo pornographique non modifiée (dans laquelle l’identité de la victime est ensuite superposée) est produite professionnellement et protégée légitimement par le droit d’auteur du Royaume-Uni (même si une vidéo appropriée peut être obtenue gratuitement à partir de n’importe quelle juridiction légale dans le monde). Une vidéo « amateur » provenant de n’importe quelle juridiction manque de statut de droit d’auteur clair, et une vidéo sur mesure que le deepfaker a tournée expressément pour superposer la victime est (ironiquement) elle-même protégée par les lois sur le droit d’auteur, tant qu’elle est conforme aux autres lois.

À la traîne

En décembre 2021, la Commission de la loi du Royaume-Uni a proposé d’étendre les lois sur la haine pour couvrir l’hostilité basée sur le sexe, mais n’a pas proposé d’inclure les deepfakes dans cette catégorie, malgré de multiples exemples de l’utilisation de cette technologie contre des femmes politiciennes et des militantes dans le monde (en particulier en Inde).

En mars 2021, la National Law Review basée dans l’Illinois a critiqué le cadre juridique du Royaume-Uni comme « totalement inadéquat pour l’instant pour traiter les deepfakes », et même dépourvu de mécanismes juridiques de base qui protègent la ressemblance d’une personne.

Lois sur les deepfakes aux États-Unis

En revanche, les États-Unis protègent dans une certaine mesure le « droit à la publicité » de leurs citoyens, même si ce n’est pas au niveau fédéral (actuellement, de telles lois existent dans environ la moitié des États américains, avec des mécanismes juridiques très variables).

Bien que cela représente une amélioration par rapport aux performances du Royaume-Uni en matière de législation sur les deepfakes, les États-Unis ne peuvent se vanter que d’une couverture sporadique et par État, et semblent déterminés à aborder d’abord la capacité de la technologie à manipulation politique avant de s’attaquer à son impact sur les particuliers.

En 2019, l’État du Texas a interdit la création ou la diffusion de deepfakes politiques, avec le projet de loi du Sénat du Texas 751 (SB751), en omettant toute déclaration sur la pornographie deepfake. La même année, l’État de Virginie a ajouté un amendement à une loi existante concernant la diffusion ou la vente illicite d’images d’autrui, en ajoutant le terme ‘falsifiée vidéographique ou image fixe’.

En 2020, l’État de Californie a adopté la loi de l’Assemblée californienne 602 (AB 602) interdisant la génération ou la diffusion de pornographie deepfake. Le projet de loi n’a pas de clause de caducité, mais comporte une prescription de trois ans, et est accompagné d’une clause distincte couvrant les deepfakes politiques.

À la fin de 2020, l’État de New York a adopté le projet de loi sénatorial S5959D, qui non seulement interdit la création et/ou la republication de pornographie deepfake, mais protège également activement le droit à la publicité d’un utilisateur en ce qui concerne une ressemblance générée par ordinateur via des deepfakes, de la CGI ou tout autre moyen, même après la mort (si la personne en question était résidente de New York au moment de son décès).

Enfin, l’État du Maryland a modifié ses lois sur la pornographie infantile pour englober et criminaliser l’utilisation de deepfakes, sans aborder l’impact des deepfakes sur les cibles adultes.

En attendant « DeepfakeGate »

L’histoire indique que les dommages que les nouvelles technologies peuvent engendrer doivent devenir personnels pour une nation afin d’accélérer sa réponse législative. La mort récente d’une jeune fille en Égypte qui aurait été suicidée après avoir été victime de chantage avec des images deepfakes d’elle-même a reçu une couverture limitée dans les médias occidentaux*, tandis que les révélations sur le vol de 35 millions de dollars aux Émirats arabes unis, qui ont été révélées en 2021, représentent également un « événement lointain » qui n’est pas susceptible d’accélérer le Sénat ou de mettre le feu sous les 45 États restants qui n’ont pas encore adopté de législation sur les deepfakes.

Si les États-Unis adoptent une position plus unifiée autour de l’abus de la technologie de deepfake, une législation généralisée aurait probablement un impact sur la gouvernance des télécommunications et de l’infrastructure et du stockage de données, conduisant à des changements rapides de politique imposés à leurs partenaires commerciaux dans le monde. Le fait que l’adoption par l’Europe du RGPD n’ait pas finalement « traversé » la politique de collecte et de conservation de données en Amérique du Nord ne signifie pas que l’UE ne pourrait pas gagner en légitimité sur les pays moins conformes avec lesquels elle commerce – si elle prenait un jour une position législative plus ferme sur la génération, le stockage et la conservation de la pornographie deepfake.

Mais quelque chose doit se produire sur le « terrain zéro » en premier, dans l’un de ces groupes de pays de tête; et nous attendons toujours: une saisie massive de CSAM par les autorités; un grand hold-up utilisant des technologies de deepfake audio et/ou vidéo pour tromper un directeur américain d’entreprise pour détourner une très grande somme d’argent; ou un équivalent américain de l’utilisation croissante de deepfakes pour victimiser les femmes dans des pays plus patriarcaux (si, en effet, la culture américaine est vraiment équipée pour refléter ces événements, ce qui est discutable). Ce sont des choses difficiles à souhaiter, et de bonnes choses à éviter par tout autre moyen que de mettre la tête dans le sable ou d’attendre un événement « incendiaire ».

Un problème central, que l’UE contourne actuellement en dirigeant son pouvoir législatif vers les sociétés de publicité qui veulent promouvoir leurs deepfakes légitimes et ingénieux, est que les deepfakes restent difficiles à détecter de manière algorithmique; la plupart des méthodes de détection qui apparaissent sur arXiv chaque mois dépendent du marquage d’eau, de la vérification basée sur la blockchain ou d’une manière de modifier l’ensemble de l’infrastructure que nous utilisons actuellement pour consommer librement la vidéo – des solutions qui impliquent une révision radicale de la notion de vidéo comme proxy de « vérité ». Le reste est régulièrement dépassé par les progrès en cours dans les dépôts de deepfakes open source.

Un autre problème est que les principales nations occidentales ont tout à fait raison, dans un sens, de ne pas offrir une réaction impulsiva à un seul problème dans un ensemble de nouvelles technologies d’IA, dont beaucoup promettent d’immenses avantages pour la société et l’industrie, et dont beaucoup pourraient être affectés de manière défavorable si une proscription et une réglementation hâtives des systèmes de synthèse d’images commençaient sérieusement, en réponse à un événement majeur, et à la suite de l’indignation qui s’ensuit.

Cependant, il pourrait être une bonne idée d’accélérer la marche lente et parfois sans but que nous prenons vers la réglementation des deepfakes, et de rencontrer les problèmes potentiels à mi-chemin, et sur nos propres termes, au lieu d’être contraints par des événements ultérieurs à une réponse moins réfléchie.

* Les présumés auteurs sont inculpés de chantage; il n’y a pas de loi égyptienne sur la pornographie deepfake.

Publié pour la première fois le 24 janvier 2022.