La définition insaisissable de « Deepfake »

Une étude convaincante menée en Allemagne critique la définition du terme « deepfake » dans l’acte de l’UE sur l’IA, la qualifiant de trop vague, en particulier dans le contexte de la manipulation d’images numériques. Les auteurs soutiennent que l’accent mis par l’acte sur le contenu ressemblant à des personnes ou des événements réels, mais pouvant apparaître faux, manque de clarté.

Ils soulignent également que les exceptions de l’acte pour « l’édition standard » (c’est-à-dire les modifications mineures apportées aux images à l’aide de l’IA) ne tiennent pas compte de l’influence généralisée de l’IA dans les applications grand public et de la nature subjective des conventions artistiques qui précèdent l’avènement de l’IA.

Une législation imprécise sur ces questions donne lieu à deux risques clés: un « effet refroidissant », où la portée interprétative large de la loi étouffe l’innovation et l’adoption de nouveaux systèmes; et un « effet de délinquance », où la loi est considérée comme excessivement large ou sans importance.

Dans les deux cas, les lois vagues transfèrent effectivement la responsabilité d’établir des définitions juridiques pratiques aux décisions de justice futures – une approche prudente et aversive aux risques de la législation.

Les technologies de manipulation d’images basées sur l’IA restent remarquablement en avance sur la capacité de la législation à les aborder, semble-t-il. Par exemple, un exemple notable de l’élasticité croissante du concept de post-traitement « automatique » piloté par l’IA, observe le document, est la fonction « Scene Optimizer » des appareils photo Samsung récents, qui peut remplacer les images prises par l’utilisateur de la lune (un sujet difficile), par une image « raffinée » pilotée par l’IA:

En haut à gauche, un exemple du nouveau document d’une image réelle prise par l’utilisateur de la lune, à gauche d’une version améliorée par Samsung créée automatiquement avec Scene Optimizer; À droite, l’illustration officielle de Samsung du processus derrière cela; en bas à gauche, des exemples de l’utilisateur Reddit u/ibreakphotos, montrant (à gauche) une image de la lune intentionnellement floue et (à droite), la réinterprétation de Samsung de cette image – même si la photo source était une image d’un moniteur, et non la lune réelle. Sources (dans le sens des aiguilles d’une montre à partir du haut à gauche): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https:/reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

Dans le coin inférieur gauche de l’image ci-dessus, nous voyons deux images de la lune. Celle de gauche est une photo prise par un utilisateur Reddit. Ici, l’image a été intentionnellement floue et réduite par l’utilisateur.

À sa droite, nous voyons une photo de la même image dégradée prise avec un appareil photo Samsung avec un post-traitement piloté par l’IA. L’appareil photo a automatiquement « amélioré » l’objet « lune » reconnu, même s’il ne s’agissait pas de la lune réelle.

Le document critique plus profondément la fonction Best Take intégrée dans les smartphones récents de Google – une fonction controverse de l’IA qui édite les meilleures parties d’une photo de groupe, en scannant plusieurs secondes d’une séquence de photographie afin que les sourires soient avancés ou retardés dans le temps au besoin – et que personne ne soit montré en train de cligner des yeux.

Le document soutient que ce type de processus composite a le potentiel de fausser les événements:

‘[Dans] un cadre de photo de groupe typique, un spectateur moyen considérerait probablement toujours la photo résultante comme authentique. Le sourire qui est inséré existait dans un couple de secondes de la photo restante prise.

‘D’un autre côté, la fenêtre de temps de 10 secondes de la fonction Best Take est suffisante pour un changement d’humeur. Une personne peut avoir arrêté de sourire tandis que le reste du groupe rit d’une plaisanterie à ses dépens.

‘Par conséquent, nous supposons qu’une telle photo de groupe peut bien constituer un deep fake.’

Le nouveau document est intitulé Qu’est-ce qu’un deep fake? La ligne floue entre le traitement légitime et la manipulation en vertu de l’acte de l’UE sur l’IA, et provient de deux chercheurs du Computational Law Lab de l’Université de Tübingen et de l’Université de Sarre.

Vieilles astuces

La manipulation du temps en photographie est bien plus ancienne que l’IA grand public. Les auteurs du nouveau document notent l’existence de techniques bien plus anciennes qui peuvent être considérées comme « inauthentiques », telles que la concaténation de plusieurs images séquentielles en une photo à haute gamme dynamique (HDR) ou une photo ‘cousue’ panoramique.

En effet, certaines des plus anciennes et des plus amusantes fausses photos ont été traditionnellement créées par des écoliers courant d’un bout à l’autre d’un groupe scolaire, devant la trajectoire des caméras panoramiques spéciales qui étaient autrefois utilisées pour la photographie de sports et de groupes scolaires – permettant ainsi à l’élève d’apparaître deux fois dans la même image:

La tentation de tromper les caméras panoramiques lors des photos de groupe était trop grande pour de nombreux élèves, qui étaient prêts à risquer une mauvaise séance au bureau du directeur pour « cloner » dans les photos scolaires. Source: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Sauf si vous prenez une photo en mode RAW, qui enregistre essentiellement le capteur de l’objectif dans un fichier très grand sans aucune interprétation, il est probable que vos photos numériques ne soient pas complètement authentiques. Les systèmes de caméra appliquent régulièrement des algorithmes d’« amélioration » tels que le réglage de la netteté et de la balance des blancs, par défaut – et ont fait cela depuis l’origine de la photographie numérique grand public.

Les auteurs du nouveau document soutiennent que même ces anciens types de retouche photo numérique ne représentent pas la « réalité », puisque ces méthodes sont conçues pour rendre les photos plus agréables, et non plus « réelles ».

L’étude suggère que l’acte de l’UE sur l’IA, même avec des amendements ultérieurs tels que les considérants 123-127, place toutes les sorties photographiques dans un cadre probatoire mal adapté au contexte dans lequel les photos sont produites ces jours-ci, par opposition à la nature (nominalement objective) des images de caméras de sécurité ou de la photographie forensique. La plupart des images abordées par l’acte de l’IA sont plus susceptibles d’originer dans des contextes où les fabricants et les plateformes en ligne promeuvent activement l’interprétation créative des photos, y compris l’utilisation de l’IA.

Les chercheurs suggèrent que les photos « n’ont jamais été une représentation objective de la réalité ». Des considérations telles que l’emplacement de la caméra, la profondeur de champ choisie et les choix d’éclairage contribuent tous à rendre une photographie profondément subjective.

Le document observe que les tâches de « nettoyage » de routine – telles que la suppression de la poussière du capteur ou des lignes électriques indésirables d’une scène autrement bien composée – n’étaient que semi-automatisées avant l’avènement de l’IA: les utilisateurs devaient sélectionner manuellement une région ou initier un processus pour obtenir le résultat souhaité.

Aujourd’hui, ces opérations sont souvent déclenchées par des invites de texte de l’utilisateur, notamment dans des outils comme Photoshop. Au niveau grand public, de telles fonctionnalités sont de plus en plus automatisées sans entrée utilisateur – un résultat qui est apparemment considéré par les fabricants et les plateformes comme « évidemment souhaitable ».

Le sens dilué de « Deepfake »

Un défi central pour la législation sur les images altérées et générées par l’IA est l’ambiguïté du terme « deepfake », dont le sens a été notablement étendu au cours des deux dernières années.

À l’origine, les termes ne s’appliquaient qu’à la sortie vidéo de systèmes basés sur des auto-encodeurs tels que DeepFaceLab et FaceSwap, tous deux dérivés de code anonyme publié sur Reddit à la fin de 2017.

À partir de 2022, l’arrivée de modèles de diffusion latente (LDM) tels que Stable Diffusion et Flux, ainsi que des systèmes de texte-vidéo tels que Sora, a également permis l’échange d’identité et la personnalisation, à une résolution améliorée, une polyvalence et une fidélité accrues. Il est maintenant possible de créer des modèles de diffusion qui peuvent dépeindre des célébrités et des politiciens. Puisque le terme « deepfake » était déjà un trésor de manchettes pour les producteurs de médias, il a été étendu pour couvrir ces systèmes.

Plus tard, dans les médias et la littérature de recherche, le terme est également venu inclure l’usurpation d’identité basée sur le texte. À ce stade, le sens original de « deepfake » était presque perdu, tandis que son sens étendu était constamment en évolution et de plus en plus dilué.

Mais puisque le mot était si incendiaire et galvanisant, et qu’il était désormais un puissant repère politique et médiatique, il s’est avéré impossible de le renoncer. Il a attiré des lecteurs sur les sites Web, des financements pour les chercheurs et de l’attention pour les politiciens. Cette ambiguïté lexicale est l’objet principal de la nouvelle recherche.

Comme l’observent les auteurs, l’article 3(60) de l’acte de l’UE sur l’IA définit quatre conditions qui définissent un « deepfake ».

1: Vrai lune

Premièrement, le contenu doit être généré ou manipulé, c’est-à-dire créé à partir de zéro à l’aide de l’IA (génération) ou modifié à partir de données existantes (manipulation). Le document met en évidence la difficulté de distinguer les résultats d’édition d’image « acceptables » et les deepfakes manipulateurs, étant donné que les photos numériques ne sont, en tout cas, jamais de véritables représentations de la réalité.

Le document soutient que la lune générée par Samsung est arguablement authentique, puisque la lune est peu susceptible de changer d’apparence, et puisque le contenu généré par l’IA, formé à partir d’images lunaires réelles, est donc susceptible d’être précis.

Cependant, les auteurs déclarent également que puisque le système Samsung a été montré capable de générer une image « améliorée » de la lune dans un cas où l’image source n’était pas la lune elle-même, cela serait considéré comme un « deepfake ».

Il serait impraticable de dresser une liste exhaustive de cas d’utilisation différents autour de cette fonctionnalité ad hoc. Par conséquent, la charge de la définition semble passer, une fois encore, aux tribunaux.

2: TextFakes

Deuxièmement, le contenu doit être de la forme d’une image, d’un audio ou d’une vidéo. Le contenu textuel, bien qu’il soit soumis à d’autres obligations de transparence, n’est pas considéré comme un deepfake en vertu de l’acte de l’UE sur l’IA. Cela n’est pas couvert en détail dans la nouvelle étude, bien qu’il puisse avoir un impact notable sur l’efficacité des visuels deepfakes (voir ci-dessous).

3: Problèmes du monde réel

Troisièmement, le contenu doit ressembler à des personnes, des objets, des lieux, des entités ou des événements existants. Cette condition établit une connexion avec le monde réel, ce qui signifie que des images purement fabriquées, même si elles sont photoréalistes, ne qualifieraient pas de deepfake. Le considérant 134 de l’acte de l’UE sur l’IA met l’accent sur l’aspect « ressemblance » en ajoutant le mot « appréciable » (un décalage apparent vers des jugements juridiques ultérieurs).

Les auteurs, en citant un travail antérieur, se demandent si un visage généré par l’IA doit appartenir à une personne réelle, ou s’il doit seulement être suffisamment similaire à une personne réelle, afin de satisfaire à cette définition.

Par exemple, comment peut-on déterminer si une séquence d’images photoréalistes représentant le politicien Donald Trump a l’intention d’usurper son identité, si les images (ou les textes joints) ne mentionnent pas spécifiquement son nom? Reconnaissance faciale? Enquêtes auprès des utilisateurs? Une définition de « bon sens » par un juge?

En revenant sur la question des « TextFakes » (voir ci-dessus), les mots constituent souvent une partie importante de l’acte d’un visuel deepfake. Par exemple, il est possible de prendre une image (non modifiée) ou une vidéo de ‘personne a’ et dire, dans un commentaire ou un post sur les réseaux sociaux, que l’image est de ‘personne b’ (en supposant que les deux personnes se ressemblent).

Dans un tel cas, aucune IA n’est nécessaire, et le résultat peut être frappant – mais constitue-t-il également un « deepfake »?

4: Retouche, remodelage

Enfin, le contenu doit apparaître authentique ou véridique à une personne. Cette condition met l’accent sur la perception des téléspectateurs humains. Le contenu qui n’est reconnu que comme représentant une personne ou un objet réel par un algorithme ne serait pas considéré comme un deepfake.

De toutes les conditions de 3(60), celle-ci défère le plus clairement au jugement ultérieur d’un tribunal, puisqu’elle n’autorise aucune interprétation via des moyens techniques ou mécanisés.

Il existe clairement certaines difficultés inhérentes à parvenir à un consensus sur une stipulation subjective de ce type. Les auteurs observent, par exemple, que différentes personnes, et différents types de personnes (tels que les enfants et les adultes), peuvent être diversement disposés à croire en un deepfake particulier.

Les auteurs notent en outre que les capacités avancées de l’IA d’outils tels que Photoshop remettent en question les définitions traditionnelles de « deepfake ». Bien que ces systèmes puissent inclure des garanties de base contre le contenu controversé ou interdit, ils élargissent considérablement le concept de « retouche ». Les utilisateurs peuvent maintenant ajouter ou supprimer des objets de manière convaincante et photoréaliste, atteignant un niveau d’authenticité professionnel qui redéfinit les limites de la manipulation d’images.

Les auteurs déclarent:

‘Nous soutenons que la définition actuelle de deep fakes dans l’acte de l’IA et les obligations correspondantes ne sont pas suffisamment spécifiées pour relever les défis posés par les deep fakes. En analysant le cycle de vie d’une photo numérique de l’appareil photo au post-traitement numérique, nous constatons que:

‘(1.) Les deep fakes sont mal définis dans l’acte de l’IA. La définition laisse trop de place pour ce qu’est un deep fake.

‘(2.) Il n’est pas clair comment les fonctions d’édition comme la fonction « Best Take » de Google peuvent être considérées comme une exception aux obligations de transparence.

‘(3.) L’exception pour les images substantiellement modifiées soulève des questions sur ce qui constitue une modification substantielle du contenu et si cette modification doit être perceptible par une personne naturelle.’

Prendre exception

L’acte de l’UE sur l’IA contient des exceptions qui, selon les auteurs, peuvent être très permissives. L’article 50(2), déclarent-ils, offre une exception dans les cas où la majorité de l’image source d’origine n’est pas modifiée. Les auteurs notent:

‘Qu’est-ce qui peut être considéré comme du contenu au sens de l’article 50(2) dans les cas de contenu audio, d’images et de vidéos numériques? Par exemple, dans le cas des images, devons-nous considérer l’espace des pixels ou l’espace visible perceptible par les humains? Des manipulations substantielles dans l’espace des pixels peuvent ne pas changer la perception humaine, et inversement, de petites perturbations dans l’espace des pixels peuvent changer la perception de manière spectaculaire.’

Les chercheurs fournissent l’exemple d’ajouter un pistolet à la photo d’une personne qui pointe sur quelqu’un. En ajoutant le pistolet, on change au plus 5 % de l’image; cependant, la signification sémantique de la partie modifiée est notable. Par conséquent, il semble que cette exception ne tient pas compte de la « compréhension commune » de l’effet qu’un petit détail peut avoir sur la signification globale d’une image.

La section 50(2) permet également des exceptions pour une « fonction d’assistance pour l’édition standard ». Puisque l’acte ne définit pas ce que signifie « édition standard », même des fonctionnalités de post-traitement extrêmes comme la fonction Best Take de Google semblent être protégées par cette exception, observent les auteurs.

Conclusion

L’intention déclarée du nouveau travail est d’encourager l’étude interdisciplinaire sur la réglementation des deepfakes, et de servir de point de départ pour de nouveaux dialogues entre les informaticiens et les chercheurs en droit.

Cependant, le document lui-même succombe à la tautologie à plusieurs points: il utilise fréquemment le terme « deepfake » comme si son sens était évident, tout en critiquant l’acte de l’UE sur l’IA pour ne pas définir ce qui constitue réellement un deepfake.

Publié pour la première fois le lundi 16 décembre 2024