Les identités réelles peuvent être récupérées à partir de jeux de données synthétiques

Si 2022 a marqué le moment où le potentiel perturbateur de l’intelligence artificielle générative a captivé l’attention du grand public, 2024 est l’année où les questions sur la légalité des données sous-jacentes ont pris le centre de la scène pour les entreprises impatientes d’harnacher son pouvoir.

La doctrine de l’utilisation équitable aux États-Unis, ainsi que la licence universitaire implicite qui avait longtemps permis aux secteurs de la recherche académique et commerciale d’explorer l’intelligence artificielle générative, est devenue de plus en plus intenable à mesure que des preuves croissantes de plagiat ont émergé. Par la suite, les États-Unis ont, pour le moment, interdit la protection par droit d’auteur du contenu généré par l’IA.

Ces questions sont loin d’être réglées et loin d’être sur le point d’être résolues; en 2023, en partie en raison de l’augmentation des préoccupations médiatiques et publiques concernant le statut juridique de la production de l’IA générative, le Bureau des droits d’auteur des États-Unis a lancé une enquête de plusieurs années sur cet aspect de l’IA générative, publiant le premier segment (concernant les répliques numériques) en juillet 2024.

Pendant ce temps, les intérêts commerciaux restent frustrés par la possibilité que les modèles coûteux qu’ils souhaitent exploiter pourraient les exposer à des conséquences juridiques lorsque des législations et des définitions définitives émergeront éventuellement.

La solution coûteuse à court terme a été de légitimer les modèles génératifs en les formant sur des données que les entreprises ont le droit d’exploiter. L’architecture Firefly d’Adobe, qui passe du texte à l’image (et maintenant du texte à la vidéo), est alimentée principalement par son achat de l’ensemble de données d’images stock de Fotolia en 2014, complété par l’utilisation de données du domaine public dont les droits d’auteur ont expiré*. Dans le même temps, les fournisseurs de photos stock existants tels que Getty et Shutterstock ont capitalisé sur la nouvelle valeur de leurs données sous licence, avec un nombre croissant de transactions pour concéder du contenu ou développer leurs propres systèmes de l’IA conformes aux droits de propriété intellectuelle.

Solutions synthétiques

Puisque supprimer les données protégées par droit d’auteur de l’espace latent formé d’un modèle d’IA est plein de problèmes, les erreurs dans ce domaine pourraient potentiellement être très coûteuses pour les entreprises qui expérimentent des solutions de consommation et d’entreprise qui utilisent l’apprentissage automatique.

Une alternative, et une solution beaucoup moins coûteuse pour les systèmes de vision par ordinateur (et également les grands modèles de langage, ou LLM), est l’utilisation de données synthétiques, où l’ensemble de données est composé d’exemples générés aléatoirement du domaine cible (comme des visages, des chats, des églises ou même un ensemble de données plus généralisé).

Des sites tels que thispersondoesnotexist.com ont popularisé il y a longtemps l’idée que des photos réalistes de « personnes non réelles » pourraient être synthétisées (dans ce cas particulier, par le biais de réseaux antagonistes génératifs, ou GAN) sans avoir de relation avec des personnes qui existent réellement dans le monde.

Par conséquent, si vous formez un système de reconnaissance faciale ou un système génératif sur de tels exemples abstraits et non réels, vous pouvez en théorie obtenir un standard de productivité photoréaliste pour un modèle d’IA sans avoir à considérer si les données sont légalement utilisables.

Équilibre

Le problème est que les systèmes qui produisent des données synthétiques sont eux-mêmes formés sur des données réelles. Si des traces de ces données se retrouvent dans les données synthétiques, cela peut potentiellement fournir des preuves que des matériaux restreints ou non autorisés ont été exploités à des fins lucratives.

Pour éviter cela, et afin de produire des images vraiment « aléatoires », de tels modèles doivent s’assurer qu’ils sont bien généralisés. La généralisation est la mesure de la capacité d’un modèle d’IA formé à comprendre intrinsèquement des concepts de haut niveau (comme ‘visage’, ‘homme’ ou ‘femme’) sans recourir à la réplication des données de formation réelles.

Malheureusement, il peut être difficile pour les systèmes formés de produire (ou de reconnaître) des détails granulaires à moins de s’entraîner très longtemps sur un ensemble de données. Cela expose le système à un risque de mémorisation: une tendance à reproduire, dans une certaine mesure, des exemples des données de formation réelles.

Ceci peut être atténué en définissant un taux d’apprentissage plus détendu, ou en terminant la formation à un stade où les concepts de base sont encore ductiles et ne sont pas associés à un point de données spécifique (comme une image spécifique d’une personne, dans le cas d’un ensemble de données de visages).

Cependant, ces remèdes sont susceptibles de conduire à des modèles avec moins de détails fins, puisque le système n’a pas eu la chance de progresser au-delà des « bases » du domaine cible, et jusqu’aux détails spécifiques.

Par conséquent, dans la littérature scientifique, des taux d’apprentissage très élevés et des calendriers de formation complets sont généralement appliqués. Même si les chercheurs tentent généralement de trouver un compromis entre l’applicabilité générale et la granularité du modèle final, même les systèmes légèrement « mémorisés » peuvent souvent se faire passer pour des systèmes bien généralisés – même lors des premiers tests.

Révélation du visage

Cela nous amène à une nouvelle étude intéressante de Suisse, qui prétend être la première à démontrer que les images réelles originales qui alimentent les données synthétiques peuvent être récupérées à partir d’images générées qui devraient, en théorie, être entièrement aléatoires:

Exemples d’images de visages divulguées à partir des données de formation. Dans la rangée ci-dessus, nous voyons les images réelles (originales); dans la rangée ci-dessous, nous voyons des images générées aléatoirement, qui correspondent de manière significative aux images réelles. Source: https://arxiv.org/pdf/2410.24015

Les résultats, selon les auteurs, indiquent que les « génératifs synthétiques » ont en effet mémorisé un grand nombre de points de données de formation, dans leur quête d’une plus grande granularité. Ils indiquent également que les systèmes qui s’appuient sur des données synthétiques pour protéger les producteurs d’IA des conséquences juridiques pourraient être très peu fiables à cet égard.

Les chercheurs ont mené une étude approfondie sur six ensembles de données synthétiques de pointe, démontrant que dans tous les cas, les données originales (potentiellement protégées par droit d’auteur ou protégées) peuvent être récupérées. Ils commentent:

‘Nos expériences démontrent que les ensembles de données de reconnaissance faciale synthétiques de pointe contiennent des échantillons qui sont très proches des échantillons des données de formation de leurs modèles génératifs. Dans certains cas, les échantillons synthétiques contiennent de petites modifications de l’image originale, cependant, nous pouvons également observer dans certains cas que l’échantillon généré contient plus de variations (par exemple, une pose différente, une condition de lumière, etc.) tandis que l’identité est préservée.

‘Cela suggère que les modèles génératifs apprennent et mémorisent les informations liées à l’identité à partir des données de formation et peuvent générer des identités similaires. Cela soulève des préoccupations critiques concernant l’application de données synthétiques dans des tâches sensibles à la vie privée, telles que la biométrie et la reconnaissance faciale.’

Le document est intitulé Dévoiler les visages synthétiques: comment les ensembles de données synthétiques peuvent exposer des identités réelles, et provient de deux chercheurs de l’Institut de recherche Idiap à Martigny, de l’École polytechnique fédérale de Lausanne (EPFL) et de l’Université de Lausanne (UNIL) à Lausanne.

Méthode, données et résultats

Les visages mémorisés dans l’étude ont été révélés par Attaque d’inférence d’adhésion. Bien que le concept semble compliqué, il est assez auto-explicatif: l’inférence d’adhésion, dans ce cas, fait référence au processus de questionnement d’un système jusqu’à ce qu’il révèle des données qui correspondent soit aux données que vous recherchez, soit qui leur ressemblent de manière significative.

Autres exemples de sources de données inférées, de l’étude. Dans ce cas, les images synthétiques sources sont issues de l’ensemble de données DCFace.

Les chercheurs ont étudié six ensembles de données synthétiques pour lesquels la source (réelle) de l’ensemble de données était connue. Puisque les ensembles de données réels et faux en question contiennent tous un grand volume d’images, cela équivaut effectivement à chercher une aiguille dans une botte de foin.

Par conséquent, les auteurs ont utilisé un modèle de reconnaissance faciale prêt à l’emploi^† avec un ResNet100 avec une colonne vertébrale formée sur la fonction de perte AdaFace (sur l’ensemble de données WebFace12M).

Les six ensembles de données synthétiques utilisés étaient: DCFace (un modèle de diffusion latent); IDiff-Face (Uniform – un modèle de diffusion basé sur FFHQ); IDiff-Face (Two-stage – une variante utilisant une méthode d’échantillonnage différente); GANDiffFace (basé sur les réseaux antagonistes génératifs et les modèles de diffusion, en utilisant StyleGAN3 pour générer des identités initiales, puis DreamBooth pour créer des exemples variés); IDNet (une méthode basée sur les réseaux antagonistes génératifs, basée sur StyleGAN-ADA); et SFace (un cadre de protection de l’identité).

Puisque GANDiffFace utilise à la fois les méthodes GAN et de diffusion, il a été comparé à l’ensemble de données de formation de StyleGAN – le plus proche d’une « origine de visage réel » que ce réseau fournit.

Les auteurs ont exclu les ensembles de données synthétiques qui utilisent la CGI plutôt que les méthodes d’IA, et en évaluant les résultats, ont exclu les correspondances pour les enfants, en raison d’anomalies de distribution dans ce sens, ainsi que les images non faciales (qui peuvent fréquemment se produire dans les ensembles de données de visages, où les systèmes de scraping Web produisent des faux positifs pour les objets ou les artefacts qui ont des qualités similaires à celles des visages).

La similarité cosinus a été calculée pour toutes les paires récupérées, et concaténée dans des histogrammes, illustrés ci-dessous:

Une représentation d’histogramme des scores de similarité cosinus calculés sur les divers ensembles de données, ainsi que leurs valeurs de similarité pour les paires les plus proches (lignes verticales pointillées).

Le nombre de similarités est représenté par les pics dans le graphique ci-dessus. Le document présente également des comparaisons d’échantillons à partir des six ensembles de données, ainsi que leurs images estimées correspondantes dans les ensembles de données (réels) originaux, dont certaines sont présentées ci-dessous:

Exemples parmi les nombreuses instances reproduites dans le document source, auxquelles le lecteur est invité à se référer pour une sélection plus complète.

Le document commente:

‘[Les] ensembles de données synthétiques générés contiennent des images très similaires à celles de l’ensemble de données de formation de leur modèle génératif, ce qui soulève des préoccupations concernant la génération de ces identités.’

Les auteurs notent que pour cette approche particulière, la mise à l’échelle vers des ensembles de données de plus grande taille est susceptible d’être inefficace, car les calculs nécessaires seraient extrêmement lourds. Ils observent en outre qu’une comparaison visuelle était nécessaire pour inférer des correspondances, et que la reconnaissance faciale automatisée seule ne serait probablement pas suffisante pour une tâche plus large.

En ce qui concerne les implications de la recherche, et dans la perspective de voies à suivre, le travail déclare:

‘[Nous] aimerions souligner que la principale motivation pour générer des ensembles de données synthétiques est de répondre aux préoccupations de confidentialité lors de l’utilisation d’ensembles de données de visages à grande échelle issues du Web.

‘Par conséquent, la fuite de toute information sensible (comme les identités des images réelles dans les données de formation) dans l’ensemble de données synthétiques soulève des préoccupations critiques concernant l’application de données synthétiques pour des tâches sensibles à la vie privée, telles que la biométrie. Notre étude jette les bases pour des études futures sur la génération de jeux de données synthétiques responsables.’

Bien que les auteurs promettent une publication de code pour ce travail sur la page du projet, il n’y a pas de lien de référentiel actuel.

Conclusion

Récemment, l’attention des médias a mis l’accent sur les rendements décroissants obtenus en formant des modèles d’IA sur des données générées par l’IA.

La nouvelle recherche suisse, cependant, met l’accent sur une considération qui peut être plus urgente pour le nombre croissant d’entreprises qui souhaitent exploiter et tirer profit de l’IA générative – la persistance de modèles de données protégés par des droits de propriété intellectuelle ou non autorisés, même dans les ensembles de données conçus pour lutter contre cette pratique. Si nous devions lui donner une définition, dans ce cas, il pourrait s’agir de « lavage de visage ».

* Cependant, la décision d’Adobe d’autoriser les images générées par l’IA téléchargées par les utilisateurs sur Adobe Stock a effectivement sapé la « pureté » juridique de ces données. Bloomberg affirme en avril 2024 que les images fournies par les utilisateurs du système d’IA générative MidJourney avaient été intégrées aux capacités de Firefly.

^† Ce modèle n’est pas identifié dans le document.

Publié pour la première fois le mercredi 6 novembre 2024