Automatisation de la protection du droit d’auteur dans les images générées par l’IA

Comme nous l’avons discuté la semaine dernière, même les modèles de base derrière les systèmes d’IA génératifs populaires peuvent produire du contenu qui viole le droit d’auteur, en raison d’une curation inadéquate ou mal alignée, ainsi que de la présence de multiples versions de la même image dans les données d’entraînement, ce qui conduit à une surentraînement, et augmente la probabilité de reproductions reconnaissables.

Malgré les efforts pour dominer l’espace de l’IA générative, et la pression croissante pour limiter les violations de la propriété intellectuelle, les grandes plateformes comme MidJourney et OpenAI’s DALL-E continuent de faire face à des défis pour empêcher la reproduction involontaire de contenu protégé par le droit d’auteur:

La capacité des systèmes génératifs à reproduire des données protégées par le droit d’auteur apparaît régulièrement dans les médias.

Comme de nouveaux modèles émergent, et que les modèles chinois gagnent en importance, la suppression de contenu protégé par le droit d’auteur dans les modèles de base est une perspective lourde; en fait, le leader du marché OpenAI a déclaré l’année dernière qu’il est ‘impossible’ de créer des modèles efficaces et utiles sans données protégées par le droit d’auteur.

Art antérieur

En ce qui concerne la génération involontaire de contenu protégé par le droit d’auteur, la scène de la recherche est confrontée à un défi similaire à celui de l’inclusion de contenu pour adultes et d’autres contenus interdits dans les données sources: on veut bénéficier de la connaissance (c’est-à-dire l’anatomie humaine correcte, qui a historiquement toujours été basée sur des études de nus) sans la capacité de l’exploiter.

De même, les créateurs de modèles veulent bénéficier de l’énorme étendue de contenu protégé par le droit d’auteur qui se retrouve dans les ensembles de données hyperscale tels que LAION, sans que le modèle développe la capacité de réellement violer le droit d’auteur.

En ignorant les risques éthiques et juridiques de la tentative de dissimuler l’utilisation de contenu protégé par le droit d’auteur, la filtration pour le deuxième cas est nettement plus difficile. Le contenu pour adultes contient souvent des caractéristiques latentes distinctes qui permettent une filtration de plus en plus efficace sans nécessiter de comparaisons directes avec du matériel du monde réel. En revanche, les représentations latentes qui définissent des millions d’œuvres protégées par le droit d’auteur ne se réduisent pas à un ensemble de marqueurs facilement identifiables, ce qui rend la détection automatisée beaucoup plus complexe.

CopyJudge

Le jugement humain est une denrée rare et coûteuse, à la fois dans la curation des ensembles de données et dans la création de filtres de post-traitement et de systèmes de sécurité conçus pour garantir que le matériel verrouillé par le droit d’auteur n’est pas livré aux utilisateurs des portails basés sur l’API tels que MidJourney et la capacité de génération d’images de ChatGPT.

Par conséquent, une nouvelle collaboration académique entre la Suisse, Sony AI et la Chine propose CopyJudge – une méthode automatisée d’orchestration de groupes successifs de « juges » basés sur ChatGPT qui peuvent examiner les entrées pour détecter des signes de violation potentielle du droit d’auteur.

CopyJudge évalue diverses générations d’IA qui violent le droit d’auteur. Source: https://arxiv.org/pdf/2502.15278

CopyJudge offre effectivement un cadre automatisé qui utilise de grands modèles de vision et de langage (LVLM) pour déterminer la similitude substantielle entre des images protégées par le droit d’auteur et celles produites par des modèles de diffusion d’images basés sur le texte.

L’approche CopyJudge utilise l’apprentissage par renforcement et d’autres approches pour optimiser les invites qui violent le droit d’auteur, puis utilise les informations de ces invites pour créer de nouvelles invites qui sont moins susceptibles de déclencher des images protégées par le droit d’auteur.

Bien que de nombreux générateurs d’images en ligne basés sur l’IA filtrent les invites des utilisateurs pour les contenus pour adultes, les contenus protégés par le droit d’auteur, la reproduction de personnes réelles et d’autres domaines interdits, CopyJudge utilise plutôt des invites « contrafaites » pour créer des invites « purifiées » qui sont les moins susceptibles de déclencher des images interdites, sans intention de bloquer directement la soumission de l’utilisateur.

Bien que cette approche ne soit pas nouvelle, elle va dans le sens de libérer les systèmes génératifs basés sur l’API de la simple refus de la saisie de l’utilisateur (ne serait-ce que parce que cela permet aux utilisateurs de développer un accès indirect à des générations interdites, grâce à l’expérimentation).

Une faille récente (depuis corrigée par les développeurs) a permis aux utilisateurs de générer du contenu pornographique sur la plateforme d’IA générative Kling en incluant simplement une croix ou un crucifix dans l’image téléchargée dans un flux de travail d’image à vidéo.

Dans une faille corrigée par les développeurs de Kling en fin 2024, les utilisateurs pouvaient forcer le système à produire un contenu interdit pour adultes en incluant simplement une croix ou un crucifix dans l’image source du flux de travail d’image à vidéo. Source: Discord

De tels cas soulignent la nécessité d’une purification des invites dans les systèmes génératifs en ligne, d’autant plus que l’apprentissage inverse des machines, dans lequel le modèle de base est modifié pour supprimer les concepts interdits, peut avoir des effets indésirables sur l’utilisabilité finale du modèle.

En cherchant des solutions moins drastiques, le système CopyJudge imite les jugements juridiques humains en utilisant l’IA pour décomposer les images en éléments clés tels que la composition et la couleur, pour filtrer les parties non protégées par le droit d’auteur, et comparer ce qui reste. Il comprend également une méthode basée sur l’IA pour ajuster les invites et modifier la génération d’images, aidant ainsi à éviter les problèmes de droit d’auteur tout en préservant le contenu créatif.

Les résultats expérimentaux, selon les auteurs, démontrent l’équivalence de CopyJudge aux approches de pointe dans ce domaine, et indiquent que le système présente une généralisation et une interprétabilité supérieures, par rapport aux travaux antérieurs.

Le nouvel article est intitulé CopyJudge: Identification et mitigation automatisées de la violation du droit d’auteur dans les modèles de diffusion d’images basés sur le texte, et provient de cinq chercheurs issus de l’EPFL, de Sony AI et de l’Université Westlake de Chine.

Méthode

Bien que CopyJudge utilise GPT pour créer des « tribunaux » automatisés de juges, les auteurs soulignent que le système n’est pas optimisé pour le produit d’OpenAI, et que n’importe quel autre grand modèle de vision et de langage (LVLM) pourrait être utilisé à la place.

Dans un premier temps, le cadre d’abstraction-filtration-comparison des auteurs nécessite de décomposer les images sources en parties constituantes, comme illustré dans le schéma ci-dessous:

Schéma conceptuel pour la première phase du flux de travail CopyJudge.

Dans le coin inférieur gauche, on voit un agent de filtration qui décompose les sections d’images dans une tentative pour identifier les caractéristiques qui pourraient être propres à une œuvre protégée par le droit d’auteur, mais qui, en soi, seraient trop génériques pour constituer une violation.

Plusieurs LVLM sont ensuite utilisés pour évaluer les éléments filtrés – une approche qui a été prouvée efficace dans des articles tels que l’offre 2023 de CSAIL améliorant la véracité et le raisonnement dans les modèles de langage grâce au débat multi-agents, et ChatEval, parmi d’autres divers travaux reconnus dans le nouvel article.

Les auteurs déclarent:

‘[Nous] adoptons une approche de débat synchrone à communication entièrement connectée, où chaque LVLM reçoit les [réponses] des [autres] LVLM avant de rendre son prochain jugement. Cela crée une boucle de rétroaction dynamique qui renforce la fiabilité et la profondeur de l’analyse, car les modèles adaptent leurs évaluations en fonction de nouvelles perspectives présentées par leurs pairs.

‘Chaque LVLM peut ajuster son score en fonction des réponses des autres LVLM ou le laisser inchangé.’

Des paires d’images notées par des humains sont également incluses dans le processus via un apprentissage en contexte avec quelques exemples.

Une fois que les « tribunaux » dans la boucle ont atteint un score de consensus qui se situe dans la plage d’acceptabilité, les résultats sont transmis à un « juge » LVLM, qui synthétise les résultats en un score final.

Mitigation

Ensuite, les auteurs se sont concentrés sur le processus de mitigation des invites décrit plus tôt.

Schéma de CopyJudge pour la mitigation de la violation du droit d’auteur en affinant les invites et le bruit latent. Le système ajuste les invites de manière itérative, utilisant l’apprentissage par renforcement pour modifier les variables latentes à mesure que les invites évoluent, espérant ainsi réduire le risque de violation.

Les deux méthodes utilisées pour la mitigation des invites étaient le contrôle d’invite basé sur les LVLM, où des invites non violant efficaces sont développées de manière itérative à travers des grappes GPT – une approche qui est entièrement « boîte noire », ne nécessitant pas d’accès interne à l’architecture du modèle; et une approche basée sur l’apprentissage par renforcement (RL), où la récompense est conçue pour pénaliser les sorties qui violent le droit d’auteur.

Données et tests

Pour tester CopyJudge, divers ensembles de données ont été utilisés, notamment D-Rep, qui contient des paires d’images réelles et fausses notées par des humains sur une échelle de notation de 0 à 5.

Exploration de l’ensemble de données D-Rep sur Hugging Face. Cette collection associe des images réelles et générées. Source: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

Le schéma CopyJudge a considéré les images D-Rep qui ont obtenu une note de 4 ou plus comme des exemples de violation, avec le reste mis de côté comme non pertinent pour le droit d’auteur. Les 4000 images officielles de l’ensemble de données ont été utilisées comme images de test. De plus, les chercheurs ont sélectionné et curé des images pour 10 personnages de dessins animés célèbres issus de Wikipedia.

Les trois architectures de diffusion basées sur des modèles utilisées pour générer des images potentiellement violant le droit d’auteur étaient Stable Diffusion V2; Kandinsky2-2; et Stable Diffusion XL. Les auteurs ont sélectionné manuellement une image violant le droit d’auteur et une image non violant le droit d’auteur pour chacun des modèles, aboutissant à 60 échantillons positifs et 60 échantillons négatifs.

Les méthodes de référence sélectionnées pour la comparaison étaient: L₂ norm; Similarité d’image perçue apprise (LPIPS); SSCD; RLCP; et PDF-Emb. Pour les métriques, la précision et le score F1 ont été utilisés comme critères pour la violation.

GPT-4o a été utilisé pour peupler les équipes de débat internes de CopyJudge, en utilisant trois agents pour un maximum de cinq itérations sur une image soumise particulière. Une image aléatoire de chaque note dans D-Rep a été utilisée comme prior humaine pour les agents à considérer.

Résultats de violation pour CopyJudge dans le premier tour.

Sur ces résultats, les auteurs commentent:

‘[Il] est évident que les méthodes traditionnelles de détection d’image copiée présentent des limites dans la tâche d’identification de la violation du droit d’auteur. Notre approche surpasse de manière significative la plupart des méthodes. Pour la méthode de pointe, PDF-Emb, qui a été formée sur 36 000 échantillons de l’ensemble de données D-Rep, notre performance sur D-Rep est légèrement inférieure.

‘Cependant, sa mauvaise performance sur l’ensemble de données Cartoon IP et Artwork met en évidence son manque de capacité de généralisation, alors que notre méthode démontre des résultats excellents à travers les ensembles de données.’

Les auteurs notent également que CopyJudge fournit une « frontière relativement » plus nette entre les cas valides et les cas de violation:

Autres exemples des tours de test, dans le matériel supplémentaire du nouvel article.

Les chercheurs ont comparé leurs méthodes à une collaboration impliquant Sony AI en 2024, intitulée Détection, explication et mitigation de la mémorisation dans les modèles de diffusion. Ce travail a utilisé un modèle Stable Diffusion affiné présentant 200 images mémorisées (c’est-à-dire surapprenues) pour éliciter des données protégées par le droit d’auteur au moment de l’inférence.

Les auteurs du nouvel article ont constaté que leur propre méthode de mitigation des invites, par rapport à l’approche de 2024, était capable de produire des images moins susceptibles de causer des violations.

Résultats de la mitigation de la mémorisation avec CopyJudge par rapport au travail de 2024.

Les auteurs commentent ici:

‘[Notre] approche pourrait générer des images qui sont moins susceptibles de causer des violations tout en maintenant une précision de correspondance comparable, légèrement réduite. Comme le montre [l’image ci-dessous], notre méthode évite efficacement les limites de la méthode précédente, notamment en ne parvenant pas à atténuer la mémorisation ou en générant des images fortement déviées.’

Comparaison des images générées et des invites avant et après la mitigation de la mémorisation.

Les auteurs ont effectué d’autres tests concernant la mitigation de la violation, en étudiant la violation explicite et la violation implicite.

La violation explicite se produit lorsque les invites font directement référence à du contenu protégé par le droit d’auteur, comme ‘Générer une image de Mickey Mouse’. Pour tester cela, les chercheurs ont utilisé 20 échantillons de dessins animés et d’œuvres d’art, en générant des images violant le droit d’auteur dans Stable Diffusion v2 avec des invites qui incluaient explicitement des noms ou des attributions d’auteur.

Comparaison entre la méthode de contrôle latent (LC) des auteurs et la méthode de contrôle d’invite (PC) du travail précédent, dans diverses variations, en utilisant Stable Diffusion pour créer des images représentant des violations explicites.

La violation implicite se produit lorsque l’invite ne contient pas de référence explicite au droit d’auteur mais aboutit toujours à une image violant le droit d’auteur en raison de certains éléments descriptifs – un scénario particulièrement pertinent pour les modèles de texte à image commerciaux, qui incorporent souvent des systèmes de détection de contenu pour identifier et bloquer les invites liées au droit d’auteur.

Pour explorer cela, les auteurs ont utilisé les mêmes échantillons de contenu protégé par le droit d’auteur que pour le test de violation explicite, mais ont généré des images violant le droit d’auteur sans référence directe au droit d’auteur, en utilisant DALL-E 3 (bien que l’article note que le module de détection de sécurité intégré du modèle a rejeté certaines invites qui ont déclenché ses filtres).

Violation implicite en utilisant DALLE-3, avec des scores de violation et CLIP.

Les auteurs déclarent:

‘[Il] peut être vu que notre méthode réduit de manière significative la probabilité de violation, à la fois pour la violation explicite et implicite, avec seulement une légère baisse du score CLIP. Le score de violation après seulement un contrôle latent est relativement plus élevé qu’après un contrôle d’invite, car il est difficile de récupérer des latents non violant sans modifier l’invite. Cependant, nous pouvons toujours réduire efficacement le score de violation tout en maintenant une qualité d’appariement image-texte plus élevée.’

‘[L’image ci-dessous] montre les résultats de visualisation, où l’on peut observer que nous évitons la violation du droit d’auteur tout en préservant les exigences de l’utilisateur.’

Images générées avant et après la mitigation de la violation du droit d’auteur.

Conclusion

Bien que l’étude présente une approche prometteuse pour la protection du droit d’auteur dans les images générées par l’IA, la dépendance à l’égard des grands modèles de vision et de langage (LVLM) pour la détection de la violation du droit d’auteur pourrait soulever des préoccupations concernant les biais et la cohérence, car les jugements basés sur l’IA peuvent ne pas toujours correspondre aux normes juridiques.

Peut-être plus important encore, le projet suppose également que l’application du droit d’auteur peut être automatisée, malgré les décisions juridiques du monde réel qui impliquent souvent des facteurs subjectifs et contextuels que l’IA peut avoir du mal à interpréter.

Dans le monde réel, l’automatisation du consensus juridique, en particulier autour de la sortie de l’IA, semble susceptible de rester une question controversée bien au-delà de ce moment et bien au-delà de la portée du domaine abordé dans ce travail.

Publié pour la première fois le lundi 24 février 2025