Réglementations européennes et britanniques sur les deepfakes : des propositions étonnamment limitées

Analyse Pour les militants qui espéraient que 2022 pourrait être l’année où les images deepfaked tomberaient dans un cadre juridique plus strict, les premiers indicateurs sont peu prometteurs.

La semaine dernière, le Parlement européen a ratifié des amendements à l’Acte sur les services numériques (DSA, qui doit entrer en vigueur en 2023), concernant la diffusion de deepfakes. Les modifications abordent les deepfakes dans deux sections, chacune directement liée à la publicité en ligne : l’amendement 1709 relatif à l’article 30, et un amendement connexe à l’article 63.

Le premier propose un nouvel article entièrement 30a, intitulé Deep fakes, qui se lit :

‘Lorsqu’une grande plateforme en ligne prend connaissance qu’un contenu est un contenu d’image, audio ou vidéo généré ou manipulé qui ressemble de manière appréciable à des personnes, des objets, des lieux ou d’autres entités ou événements existants et qui donne faussement l’impression à une personne d’être authentique ou véridique (deep fakes), le fournisseur doit étiqueter le contenu d’une manière qui informe que le contenu est inauthentique et qui est clairement visible pour le destinataire du service.’

Le second ajoute du texte à l’article 63 existant, qui est lui-même principalement axé sur l’augmentation de la transparence des grandes plateformes publicitaires. Le texte pertinent se lit :

‘En outre, les très grandes plateformes en ligne devraient étiqueter toute vidéo, audio ou fichier deep fake connu.’

En effet, la législation semble se préparer à la pratique croissante de « deepfakes légitimes », où la permission a été accordée et les droits sécurisés pour le remplacement de visage dans les matériaux promotionnels ou publicitaires – comme l’utilisation sous licence par le fournisseur de télécommunications russe Telefon de l’identité de Bruce Willis dans une campagne publicitaire récente.

Hésitation à légiférer

Le DSA, jusqu’à présent, ne semble pas aborder les préoccupations des militants sur l’utilisation des techniques de deepfake comme elles sont le plus souvent utilisées – pour recaster des vidéos pornographiques. Il n’aborde pas non plus la mesure dans laquelle l’utilisation future de deepfakes dans les films et la télévision devra être déclarée aux téléspectateurs de la même manière que les deepfakes dans la publicité le seront, au moins dans l’UE, à partir de 2023.

Le processus de ratification du DSA passe maintenant à la négociation avec les États membres de l’UE, ainsi qu’avec la portée plus large de l’Acte sur les marchés numériques (DMA).

Le rapport de décembre 2020 d’Europol intitulé Utilisations et abus malveillants de l’intelligence artificielle a affirmé qu’il serait une erreur pour l’UE d’aborder des technologies de deepfake spécifiques (telles que DeepFaceLive), ce qui pourrait conduire l’UE à jouer constamment au rattrapage avec le dernier cadre ou méthode.

Le rapport a déclaré :

‘En particulier, ces politiques devraient être technologiquement agnostiques afin d’être efficaces à long terme et d’éviter de devoir les revoir et les remplacer régulièrement à mesure que la technologie derrière la création et l’abus de deepfakes évolue. ‘

‘Cependant, de telles mesures devraient également éviter d’obstruer les applications positives des GANs.’

La remarque conclusive dans la citation ci-dessus, concernant les réseaux antagonistes génératifs (GANs) caractérise de manière générale l’hésitation européenne et nord-américaine à appliquer des lois qui pourraient entraver un secteur de recherche émergent en IA déjà perçu comme en retard par rapport à l’Asie (dont les nations plus didactiques ont pu accélérer la législation sur les deepfakes).

Par exemple, un rapport de 2018 du Comité de sélection sur l’intelligence artificielle à la Chambre des lords met en évidence à plusieurs reprises le risque de laisser la timidité freiner le développement de l’IA dans le pays, exemplifié dans son titre : IA au Royaume-Uni : prêt, volontaire et capable ?. Le mois dernier, la Grande-Bretagne est également devenue le premier pays à autoriser le déploiement de voitures autonomes sur les autoroutes.

L’Amérique n’est pas moins avide ; aux États-Unis, The Brookings Institution a urgé la nécessité d’une législation accrue pour l’IA aux États-Unis, critiquant les législateurs pour leur point de vue « attendre et voir » sur les conséquences des technologies d’apprentissage automatique

En plus de l’approche insipide du DSA pour aborder les préoccupations sociales (plutôt que politiques) autour des deepfakes, le cadre réglementaire proposé par l’UE pour l’IA, publié en avril 2021, a été critiqué pour son propre évitement du sujet.

Réglementation des deepfakes limitée au Royaume-Uni

Comme une déception supplémentaire pour les militants anti-deepfake tels que l’auteur Helen Mort, qui a fait campagne pour de nouvelles lois britanniques en 2021 après avoir été dépeint de manière non consensuelle dans des vidéos pornographiques deepfake, un rapport publié aujourd’hui par le Comité des affaires numériques, de la culture, des médias et du sport du Parlement britannique critique le gouvernement britannique pour ne pas avoir abordé les deepfakes dans le projet de loi sur la sécurité en ligne.

En citant la loi actuelle du projet de loi contre l’abus de deepfake comme « peu claire et peu pratique », le rapport suggère que la législation proposée ne fait rien pour aborder le statut « légal mais nocif » des techniques de manipulation d’images et de vidéos assistées par l’IA :

‘[Nous] recommandons que le gouvernement aborde de manière proactive les types de contenu qui sont techniquement légaux, tels que les parties insidieuses des séquences d’abus d’enfants comme le breadcrumbing et les types de violence en ligne contre les femmes et les filles comme la « nudification » de femmes et la pornographie deepfake, en les incluant dans le champ d’application soit par la législation primaire, soit en tant que types de contenu nocif couverts par les devoirs de soins.’

La loi actuelle applicable au Royaume-Uni se limite à la diffusion d’images « réelles », comme dans les cas de revenge porn, où, par exemple, du matériel explicite confidentiel et privé est partagé publiquement par un ex-partenaire. Si un persécuteur crée et publie du matériel deepfake qui superpose l’identité de sa « cible » dans du contenu pornographique, il ne peut être poursuivi que s’il harcèle directement la cible en lui adressant le matériel, ou en vertu de la législation liée au droit d’auteur.

Dans le premier cas, la facilité avec laquelle le nouveau contenu deepfake gagne en traction et en téléspectateurs signifie presque inévitablement que la victime sera informée par des amis préoccupés ou des tiers non liés, plutôt que par la personne qui l’a deepfake, permettant ainsi à la viralité de ce matériel de protéger le deepfaker, dont l’œuvre « atteint la cible ».

Dans le second cas, les poursuites ne seraient probablement possibles que si une vidéo pornographique non modifiée (dans laquelle l’identité de la victime est superposée plus tard) est produite professionnellement et protégée légitimement par le droit d’auteur du Royaume-Uni (même si une vidéo appropriée peut être obtenue gratuitement à partir de toute juridiction légale dans le monde). Une vidéo « amateur » de toute juridiction manque de statut de droit d’auteur clair, et une vidéo sur mesure que le deepfaker a tournée expressément pour superposer la victime est (ironiquement) elle-même protégée par le droit d’auteur, tant qu’elle est conforme aux autres lois.

En retard

En décembre 2021, la Commission des lois du Royaume-Uni a proposé d’étendre les lois sur la haine pour couvrir l’hostilité basée sur le sexe, mais n’a pas proposé l’inclusion des deepfakes dans cette catégorie, malgré de multiples exemples de l’utilisation de cette technologie (notamment en Inde) contre les femmes politiciennes et les militantes.

Au Royaume-Uni, les femmes sont de manière écrasante la cible de contenus deepfake illicites, que les motivations des faussaires soient ouvertement sociales (c’est-à-dire l’intention de humilier, de déplatformer et de déposséder) ou simplement lubriques (c’est-à-dire pornographiques) de nature.

En mars 2021, la National Law Review basée dans l’Illinois a critiqué le cadre juridique britannique comme « totalement inadéquat pour l’instant pour faire face aux deepfakes », et même dépourvu de mécanismes juridiques de base qui protègent une personne de son apparence.

Lois sur les deepfakes aux États-Unis

En revanche, les États-Unis protègent jusqu’à un certain point le « droit à la publicité » de leurs citoyens, bien que ce ne soit pas au niveau fédéral (actuellement, de telles lois existent dans environ la moitié des États américains, avec des mécanismes juridiques très variables).

Bien que cela soit une amélioration par rapport à la performance du Royaume-Uni en matière de législation sur les deepfakes, les États-Unis ne peuvent se vanter que d’une couverture sporadique et par État, et semblent déterminés à aborder d’abord le potentiel de manipulation politique de la technologie avant de s’attaquer à son impact sur les particuliers.

En 2019, l’État du Texas a interdit la création ou la diffusion de deepfakes politiques, avec le Texas Senate Bill 751 (SB751), en omettant toute déclaration sur les deepfakes pornographiques. La même année, l’État de Virginie a ajouté une amendement à une loi existante concernant la diffusion ou la vente illicite d’images d’autrui, en ajoutant le terme ‘falsely created videographic or still image’ de portée générale.

En 2020, l’État de Californie a adopté la California Assembly Bill 602 (AB 602) interdisant la création ou la diffusion de deepfakes pornographiques. Le projet de loi n’a pas de clause de déchéance, mais comporte une prescription de trois ans, et est accompagné d’une clause distincte couvrant les deepfakes politiques.

À la fin de 2020, l’État de New York a adopté le sénat Bill S5959D, qui non seulement interdit la création et/ou la republication de deepfakes pornographiques, mais protège activement le droit à la publicité d’un utilisateur en ce qui concerne une ressemblance générée par ordinateur par le biais de deepfakes, de CGI ou de tout autre moyen, même après la mort (si la personne en question était un résident de New York au moment de son décès).

Enfin, l’État du Maryland a modifié ses lois sur la pornographie infantile pour inclure et criminaliser l’utilisation de deepfakes, bien qu’il n’aborde pas l’impact des deepfakes sur les cibles adultes.

En attendant « DeepfakeGate »

L’histoire indique que les dommages que les nouvelles technologies peuvent engendrer doivent devenir personnels pour une nation afin d’accélérer sa réponse législative. La mort très récente d’une jeune fille en Égypte qui était prétendument victime d’un chantage avec de la pornographie deepfake d’elle-même a reçu une couverture limitée dans les médias occidentaux*, tandis que les révélations sur le vol de 35 millions de dollars aux Émirats arabes unis, qui ont été révélées en 2021, représentent également un « événement lointain » qui n’est pas susceptible d’accélérer le sénat, ou d’allumer un feu sous les 45 États restants qui n’ont pas encore adopté de législation sur les deepfakes.

Si les États-Unis adoptent un front uni autour de l’abus de la technologie de deepfake, une législation généralisée aurait probablement un impact sur la gouvernance des télécommunications et de l’infrastructure et du stockage de données, conduisant à des changements rapides de politique imposés à ses partenaires commerciaux dans le monde entier. Le fait que l’adoption par l’Europe du RGPD n’ait pas finalement « traversé » la politique de collecte et de conservation de données en Amérique du Nord ne signifie pas que l’UE ne pourrait pas gagner une influence sur les pays moins conformes avec lesquels elle commerce – si elle prenait un jour une position législative plus engagée sur la génération, le stockage et la conservation de la pornographie deepfake.

Mais quelque chose doit se produire sur le « terrain zéro » d’abord, dans l’un de ces groupes de pays de tête ; et nous attendons toujours : une grande saisie de CSAM par les autorités ; un grand coup de la part d’une entreprise américaine utilisant des technologies de deepfake audio et/ou vidéo pour tromper un directeur d’entreprise pour détourner une très grande somme d’argent ; ou un équivalent américain de l’utilisation croissante de deepfakes pour victimiser les femmes dans des pays plus patriarcaux (si, en effet, la culture américaine est vraiment équipée pour refléter ces événements, ce qui est discutable). Ce sont des choses difficiles à souhaiter, et de bonnes choses à éviter par tout autre moyen que de mettre la tête dans le sable, ou d’attendre un événement « incendiaire ».

Un problème central, que l’UE contourne actuellement en dirigeant son pouvoir législatif vers les sociétés de publicité qui veulent promouvoir leurs deepfakes légitimes et ingénieux, est que les deepfakes restent difficiles à détecter algorithmiquement ; la plupart des méthodes de détection qui apparaissent chaque mois sur arXiv dépendent du marquage, de la vérification basée sur la blockchain ou d’une manière de modifier l’ensemble de l’infrastructure que nous utilisons actuellement pour consommer librement la vidéo – des solutions qui impliquent une révision juridique radicale de la notion de vidéo comme proxy de « vérité ». Le reste est régulièrement dépassé par les progrès constants dans les référentiels de deepfake open source.

Un autre problème est que les grandes nations occidentales ont tout à fait raison, en un sens, de ne pas offrir une réaction impulsiva à un seul problème dans un ensemble de nouvelles technologies d’IA, dont beaucoup promettent d’immenses avantages pour la société et l’industrie, et dont beaucoup pourraient être affectés de manière adverse si une proscription et une réglementation hâtives des systèmes de synthèse d’images commençaient sérieusement, en réponse à un événement majeur, et à la suite des cris de détresse.

Cependant, il pourrait être judicieux d’accélérer au moins la marche lente et parfois sans but que nous prenons vers la réglementation des deepfakes, et de rencontrer les problèmes potentiels à mi-chemin, et à nos propres conditions, au lieu d’être contraints par des événements ultérieurs à une réponse moins réfléchie.

* Les auteurs présumés sont inculpés de chantage ; il n’y a pas de loi égyptienne sur la pornographie deepfake.

Publié pour la première fois le 24 janvier 2022.