Les agents IA préfèrent voler des œuvres protégées par droit d’auteur plutôt que d’utiliser des alternatives open-source

Des recherches ont révélé que les agents IA choisissent fréquemment des images protégées par droit d’auteur lorsqu’ils sont présentés avec des alternatives juridiques gratuites – et même des avertissements explicites ne parviennent pas à empêcher toutes les violations.

Une grande attention académique a été portée au cours des deux dernières années sur la question de savoir si les modèles d’IA génératifs produisent des œuvres basées sur des matériaux protégés par droit d’auteur – un scénario dans lequel des œuvres protégées par droit d’auteur ont été incluses dans la base de données de formation du modèle, ce qui rend le modèle capable de ‘imiter’ le style d’un artiste ou même de reproduire une œuvre protégée par droit d’auteur complètement.

Moins fréquemment étudiée est la disposition de l’IA agente à choisir et à exploiter des œuvres protégées par droit d’auteur lorsqu’elle parcourt des sources disponibles de manière autonome. C’est-à-dire, si vous demandez à un modèle de langage visuel (VLM) tel que ChatGPT de trouver une belle image pour votre site Web, quelles sont les chances qu’il préfère une œuvre protégée par droit d’auteur à une œuvre open source avec une licence flexible ?

Dans cet exemple tiré du nouveau document de recherche, un agent IA a échoué à un test de conformité au droit d’auteur pour avoir préféré voler une image protégée par droit d’auteur connue pour le demandeur, plutôt que de profiter d’une image FOSS facilement disponible et de qualité équivalente. Source

Selon une nouvelle recherche menée au Royaume-Uni, aux États-Unis et en Israël, les chances sont plutôt élevées:

Taux moyens de violation du droit d’auteur pour les modèles d’IA fermés, les modèles d’IA open source et les humains sur quatre invites utilisateurs. Agrégés à partir de trois scénarios de test, les barres plus hautes indiquent de mauvaises performances via des sélections plus élevées d’images protégées par droit d’auteur, tandis que les barres plus courtes reflètent une meilleure conformité dans le choix d’images légales. Source: données du document source.

Les chercheurs ont constaté que les agents d’IA à code source fermé et open source préféraient très souvent des images protégées par droit d’auteur lorsqu’il y avait des alternatives juridiques gratuites disponibles. Sans avertissement sur le droit d’auteur dans l’invite, chaque groupe choisissait fréquemment l’option de vol de droit d’auteur.

Alors qu’un avertissement clair sur le droit d’auteur améliorait considérablement la conformité au droit d’auteur (en particulier pour les humains, voir la deuxième colonne à partir de la droite dans l’image ci-dessus), la pression temporelle (‘pressé’, dans le graphique ci-dessus) aggravait le problème. Les modèles open source, selon les chercheurs, se sont comportés de la pire manière parmi les candidats, lorsqu’on leur a demandé d’ignorer les licences (dernière colonne dans l’image ci-dessus):

‘Nous constatons que la performance de l’agent n’est pas robustement corrélée à la conformité au droit d’auteur. Les agents donnent souvent la priorité à la performance de la tâche par rapport à la conformité légale. De plus, le niveau de conformité légale des agents semble être très fragile et fortement influencé par les instructions de l’utilisateur.

‘Les modèles à poids ouverts augmentent fortement leur sélection de matériaux protégés par droit d’auteur en réponse aux instructions de l’utilisateur pour ignorer les contraintes légales. Les modèles propriétaires, en revanche, présentent des taux de conformité plus élevés au droit d’auteur dans la condition d’instruction neutre et sont moins sensibles aux instructions de l’utilisateur pour ignorer les contraintes légales.’

Malgré la clarté des résultats, qui ont testé 11 modèles disponibles autour de décembre 2025, y compris des variantes de ChatGPT et de Google Gemini, il n’y a actuellement pas de solution claire à ce problème, à l’exception du fait que les modèles à code source fermé pourraient potentiellement augmenter et améliorer leurs garde-fous à cet égard.

Le nouveau document s’intitule Évaluation agente de la conformité au droit d’auteur et provient de trois chercheurs issus de l’Université de Cambridge, de l’Université Fordham et de l’Université hébraïque de Jérusalem.

Méthode

Vue d’ensemble du cadre d’évaluation Copyright-Bench, dans lequel les agents IA ont été testés sur trois tâches de sélection d’images commerciales en utilisant des images du domaine public et protégées par droit d’auteur visuellement identiques qui ne pouvaient être distinguées que par des métadonnées de droit d’auteur intégrées. Quatre variantes d’invite ont testé les effets des rappels de droit d’auteur, de la pression temporelle et des instructions de rejet, tandis que les violations de droit d’auteur et la réussite des tâches ont été enregistrées. Des études humaines ont été menées pour comparaison.

Libre arbitre

Pour déterminer si les agents IA préféraient réellement des matériaux protégés par droit d’auteur, les chercheurs ont d’abord supprimé l’explication alternative la plus évidente: que les agents n’avaient simplement pas d’option légale.

Par conséquent, chaque tâche de l’évaluation a été conçue de telle sorte qu’au moins une image pouvait être utilisée librement pour terminer la tâche avec succès. Cela signifiait que la sélection d’une image protégée par droit d’auteur n’était jamais nécessaire pour terminer la tâche.

Si un agent choisissait un matériel protégé par droit d’auteur, c’était parce qu’il n’avait pas identifié l’option légale ou avait décidé de ne pas l’utiliser, plutôt que parce que l’évaluation l’avait forcé à enfreindre le droit d’auteur.

Jeu de données

Les chercheurs ont créé la collection de référence Copyright-Bench à partir d’un jeu de données de 200 images haute résolution, comprenant 100 photographies du domaine public de l’U.S. National Park Service et 100 images protégées par droit d’auteur sous licence de DepositPhotos.

Les images protégées par droit d’auteur et du domaine public ont été appariées (c’est-à-dire pour s’assurer qu’elles étaient également «bonnes») en utilisant des incrustations sémantiques CLIP-ViT-L/14 et des scores de qualité LAION-Aesthetics V2 avant de vérifier manuellement que chaque paire était visuellement équivalente. Les informations sur le droit d’auteur ont ensuite été intégrées uniquement dans les métadonnées des images (plutôt que avec des filigranes visibles, par exemple), forçant les agents IA à inspecter les détails de licence au lieu de se fier uniquement à l’apparence visuelle.

Les auteurs déclarent:

‘Pour réduire la qualité visuelle en tant que variable de confusion, nous avons utilisé un pipeline de sélection semi-automatique pour construire des paires d’actifs qui sont sémantiquement et esthétiquement équivalents.

‘Notre objectif était de nous assurer que les actifs ne sont pas préférés en fonction des données de pixel seules.’

Trois flux de travail commerciaux réalistes ont été conçus pour Copyright-Bench, tous impliquant des scénarios dans lesquels les décisions de droit d’auteur se posent couramment: dans le premier, Web, les agents ont construit un site Web commercial en choisissant une «image héroïque» pour une page d’accueil; dans le deuxième, Merch, l’agent a sélectionné des œuvres d’art pour des produits imprimés tels que des T-shirts et des casquettes; et dans le troisième, Pitch Deck, il a assemblé un «deck de présentation pour les investisseurs» en choisissant des images de soutien pour une présentation d’entreprise.

Chaque tâche mesurait si les agents choisiraient des images réutilisables légalement, même lorsque les alternatives protégées par droit d’auteur semblaient également appropriées.

Chaque paire d’images appariées a été examinée manuellement pour supprimer les faux positifs, avec des images protégées par droit d’auteur vérifiées pour s’assurer qu’aucun filigrane visible ou logo d’agence ne restait. De plus, chaque paire a été vérifiée pour être étroitement appariée en termes de résolution, d’éclairage et de composition. De cette façon, le statut du droit d’auteur ne pouvait pas être déduit de la qualité visuelle seule.

Vraiment Meta

Puisque les images du domaine public et protégées par droit d’auteur ont été délibérément appariées pour leur similarité visuelle et dépourvues de indices évidents tels que des filigranes, le statut du droit d’auteur ne pouvait pas être déterminé par l’apparence seule. Au lieu de cela, un agent IA devait inspecter les métadonnées de l’image, où les informations sur le droit d’auteur avaient été stockées dans l’en-tête EXIF/IPTC.

L’évaluation reposait sur le champ de métadonnées «Avertissement de droit d’auteur» pour distinguer les images légales et restreintes, avec des photographies protégées par droit d’auteur étiquetées ‘©2025 Deposit Photo’ et des images du domaine public étiquetées ‘Produit du gouvernement des États-Unis; domaine public’. Tout agent qui ne vérifiait pas ces métadonnées ne pouvait pas distinguer de manière fiable les deux.

Attention à l’invite

L’évaluation a également été conçue pour mesurer comment différentes formes d’instruction de l’utilisateur influençaient la conformité au droit d’auteur, chaque tâche étant présentée sous quatre conditions d’invite distinctes: une invite neutre ne faisait aucune mention du droit d’auteur; une invite consciente du droit d’auteur rappelait explicitement à l’agent de respecter le droit d’auteur; une invite pressée introduisait une pression temporelle; et une invite dismissive combinait l’urgence avec des instructions telles que ‘Ne vous inquiétez pas des licences’, pour tester si les agents abandonneraient les garanties légales lorsqu’ils étaient activement encouragés par l’utilisateur à le faire.

Les deux mesures utilisées pour évaluer les performances étaient le taux de violation (VR), mesurant à quelle fréquence un agent sélectionnait au moins une image protégée par droit d’auteur lorsqu’une alternative légale était disponible; et le taux de réussite de la tâche (TSR), mesurant à quelle fréquence la tâche assignée était terminée avec succès en utilisant des actions valides, des sorties correctement formatées et des images restant pertinentes pour la demande de l’utilisateur.

La touche humaine

Une référence humaine a également été assignée les mêmes tâches, images et conditions d’invite. Les participants, qui n’avaient reçu aucune formation juridique, ont été invités à expliquer brièvement leurs choix, permettant ainsi de comparer directement la conformité humaine et celle de l’agent.

Modèles et tests

Les modèles à code source fermé sélectionnés pour les tests, tous disponibles autour de la période des essais en décembre 2025, étaient GPT-5.2; GPT-5.1; GPT-4o; Claude 4.5 Opus; Claude 4.5 Sonnet; Gemini 3 Pro; et Gemini 3 Flash.

Les modèles à poids ouverts choisis pour les essais étaient Llama-4-Maverick-400B; Llama-4-Scout-109B; Qwen-3VL-235B; et DeepSeek-VL.

Pour s’assurer que chaque modèle était testé dans des conditions identiques, toutes les expériences ont été exécutées à l’aide du cadre AutoGen de Microsoft. Chaque modèle a été associé à un AgentProxyUser qui exécutait des tâches et un AgentAssistant qui générait des décisions, tandis que l’accès était fourni à six outils MCP présentés dans le tableau ci-dessous:

Résumé des outils du Protocole de contexte de modèle (MCP) mis à la disposition des agents IA pendant l’évaluation, y compris des fonctions pour la navigation de fichiers, l’inspection d’images, la récupération de métadonnées et la soumission finale d’actifs.

Quatre configurations d’environnement ont été testées pour déterminer si l’organisation des fichiers et les informations disponibles influençaient la conformité au droit d’auteur: Std, avec toutes les images stockées dans un seul dossier; Hier, avec des images séparées dans des répertoires étiquetés; Vis, avec des métadonnées de droit d’auteur supprimées de sorte que les décisions reposaient sur le contenu visuel seul; et Web, qui ajoutait un outil de recherche Web à l’environnement standard.

Pour assurer la cohérence, la température de raisonnement a été fixée à 0,1, et chaque combinaison de tâche, de variante d’invite et d’environnement a été exécutée 240 fois. Les modèles à poids ouverts ont été exécutés avec vLLM sur quatre GPU NVIDIA Blackwell B200, chacun avec 180 Go de mémoire HBM3e:

Résultats de l’évaluation principale de Copyright-Bench, montrant les taux moyens de violation du droit d’auteur pour les humains, les modèles propriétaires et les modèles à poids ouverts sur trois familles de tâches. PNeu désigne une demande neutre; PIP, un rappel explicite du droit d’auteur; PUrg, une demande pressée; et PDis, une instruction de rejet pour ignorer la licence. Chaque pourcentage représente la part des 240 exécutions au cours desquelles un modèle a sélectionné au moins une image restreinte malgré une alternative du domaine public appropriée, les scores plus bas indiquant une meilleure conformité. Les résultats proviennent d’un agent traversant un environnement de fichiers plats standard.

Sur ces résultats, les auteurs déclarent:

‘[Les agents] réussissent presque toujours à terminer la tâche sous-jacente (TSR >98% sur toutes les tâches), isolant le VR comme la mesure clé de la conformité légale.’

Sur les trois familles de tâches, les modèles ont produit des résultats similaires: sous des invites neutres, Claude 4.5 Opus a sélectionné au moins une image protégée par droit d’auteur dans 38,3% des tâches de WebDev, tandis que les modèles à poids ouverts ont dépassé 45%. Les taux de violation ont changé peu entre la conception de site Web, la création de marchandises et la génération de deck de présentation.

Claude 4.5 Opus a enregistré le taux de violation global le plus bas parmi les modèles propriétaires à 27,6%, suivi de Gemini 3 Pro et de Claude 4.5 Sonnet à 28,7%.

GPT-4o a enregistré 36,2%, avec Llama-4-Maverick atteignant le taux de violation le plus bas parmi les modèles à poids ouverts, à 41,0%.

La formulation de l’invite a également affecté les performances, les rappels de droit d’auteur réduisant les taux de violation sur tous les modèles, et les invites de rejet augmentant les taux de violation pour les modèles à poids ouverts:

‘Nous observons une division de comportement entre les modèles propriétaires et les modèles à poids ouverts sous l’invite Dismissive/Negligent (PDis), où l’utilisateur instruit explicitement l’agent d’ignorer la licence.

‘Pour chaque modèle propriétaire que nous avons étudié, le taux de violation a réellement diminué dans le paramètre Dismissive IP par rapport au paramètre Neutre [paramètre]. Les modèles à poids ouverts présentent la tendance inverse: le taux de violation de Llama-4-Maverick augmente de 45,0% (PNeu) à 52,1% (PDis).’

Pour comprendre pourquoi des matériaux protégés par droit d’auteur ont été sélectionnés, 100 échecs impliquant GPT-5.2, Claude 4.5 Opus et Qwen-3VL ont été examinés manuellement, et trois modes de défaillance récurrents ont été identifiés: échec de l’inspection des métadonnées de droit d’auteur; défaillances de raisonnement, notamment l’habilitation contextuelle, où les images fournies dans un dossier de projet étaient supposées être déjà sous licence, et la fatigue de la fenêtre contextuelle, où des images protégées par droit d’auteur identifiées précédemment étaient oubliées; et les instructions de l’utilisateur étant prioritaires par rapport à la conformité au droit d’auteur, en particulier sous des invites pressées et de rejet:

Enfin, une comparaison a été faite entre les agents IA et une référence humaine en assignant aux participants sans formation juridique les mêmes tâches de sélection d’images sous les mêmes conditions d’invite. Sous des invites neutres, des images protégées par droit d’auteur ont été sélectionnées par les humains à des taux comparables à ceux des modèles d’IA.

Lorsque des rappels explicites du droit d’auteur ont été fournis, les violations ont été presque éliminées sur toutes les tâches. Une amélioration a également été observée chez les modèles d’IA, mais les images restreintes ont continué à être sélectionnées beaucoup plus fréquemment.

Sous des invites de rejet encourageant à ignorer la licence, la conformité humaine s’est détériorée fortement, bien que des taux de violation encore plus élevés aient été enregistrés par les modèles à poids ouverts – et en général, une réponse beaucoup plus forte aux instructions explicites du droit d’auteur a été démontrée par les humains que par les systèmes d’IA.

Conclusion

Bien que le document ne traite pas de cette possibilité, il semble raisonnable de croire que les entreprises exploitant l’IA locale et ne prévoyant pas de audits soudains de la part des autorités locales sont susceptibles de mettre en œuvre les solutions les moins coûteuses qui leur donnent la conformité maximale avec leurs demandes.

Ce scénario est le plus conforme aux modèles FOSS «errants» étudiés dans le nouveau document, plutôt qu’aux modèles à code source fermé tels que ChatGPT et Gemini; en particulier, puisque pas un seul modèle étudié, avec tous les moyens nécessaires pour se conformer, a obtenu un score proche de 100%.

Si aucun plateforme d’IA disponible ne peut empêcher l’exposition juridique, de nombreuses entreprises pourraient en déduire qu’elles devraient se procurer les modèles les plus performants et les plus conformes qu’elles peuvent exécuter et prendre soin de la conformité juridique elles-mêmes.

Il est peu probable que des plateformes d’IA de pointe telles qu’Anthropic et OpenAI offrent jamais des systèmes d’agents «conformes au droit d’auteur» sans caveat emptor. Par conséquent, si la conformité juridique est un produit que les modèles de pointe ne proposent pas et ne proposeront jamais, leurs mesures de protection sont clairement mises en œuvre uniquement pour leur propre protection, et non pour le bénéfice des utilisateurs de la plateforme.

Tout cela est un argument contre l’IA commodifiée et en faveur de l’exécution de modèles locaux – en particulier avec la perspective de lancer une instance d’un modèle de pointe open source tel que Kimi sur des GPU à distance bare-metal, et même de l’ajuster aux besoins spécifiques de votre entreprise.

Publié pour la première fois mardi 28 juillet 2026