Le problème du plagiat : Comment les modèles d’IA génératifs reproduisent-ils le contenu protégé par le droit d’auteur ?

Les progrès rapides de l’IA générative ont suscité un grand intérêt pour le potentiel créatif de cette technologie. Cependant, ces modèles puissants posent également des risques inquiétants quant à la reproduction de contenus protégés par le droit d’auteur ou plagiés sans attribution appropriée.

Comment les réseaux de neurones absorbent-ils les données de formation

Les systèmes d’IA modernes comme GPT-3 sont formés à l’aide d’un processus appelé apprentissage par transfert. Ils ingèrent des ensembles de données massifs extraits de sources publiques telles que des sites Web, des livres, des articles universitaires et plus encore. Par exemple, les données de formation de GPT-3 comprennent 570 gigaoctets de texte. Pendant la formation, l’IA recherche des modèles et des relations statistiques dans cet ensemble de données considérable. Elle apprend les corrélations entre les mots, les phrases, les paragraphes, la structure de la langue et d’autres caractéristiques.

Cela permet à l’IA de générer du texte ou des images cohérents en prédisant des séquences susceptibles de suivre une entrée ou une invite donnée. Mais cela signifie également que ces modèles absorbent le contenu sans tenir compte des droits d’auteur, de l’attribution ou des risques de plagiat. En conséquence, les IA génératives peuvent reproduire involontairement des passages verbatim ou paraphraser du texte protégé par le droit d’auteur à partir de leurs corpus de formation.

Exemples clés de plagiat d’IA

Les préoccupations concernant le plagiat d’IA ont émergé de manière évidente depuis 2020, après la sortie de GPT.

Des recherches récentes ont montré que les grands modèles de langage (LLM) comme GPT-3 peuvent reproduire des passages verbatim importants à partir de leurs données de formation sans citation (Nasr et al., 2023 ; Carlini et al., 2022). Par exemple, un procès intenté par The New York Times a révélé que le logiciel OpenAI générait des articles du New York Times presque verbatim (The New York Times, 2023).

Ces résultats suggèrent que certains systèmes d’IA génératifs peuvent produire des sorties plagiées non sollicitées, risquant ainsi de violer les droits d’auteur. Cependant, la prévalence reste incertaine en raison de la nature « boîte noire » des LLM. Le procès intenté par The New York Times soutient que de telles sorties constituent une violation, ce qui pourrait avoir des implications majeures pour le développement de l’IA générative. Dans l’ensemble, les preuves indiquent que le plagiat est un problème inhérent aux grands modèles de réseaux de neurones qui nécessite une vigilance et des mesures de sauvegarde.

Ces cas révèlent deux facteurs clés qui influencent les risques de plagiat d’IA :

1. Taille du modèle – Les modèles plus grands comme GPT-3.5 sont plus susceptibles de régénérer des passages de texte verbatim par rapport aux modèles plus petits. Leurs ensembles de données de formation plus importants augmentent l’exposition au matériel source protégé par le droit d’auteur.
2. Données de formation – Les modèles formés à partir de données Internet ou de travaux protégés par le droit d’auteur (même si elles sont sous licence) sont plus susceptibles de plagier par rapport aux modèles formés à partir de jeux de données soigneusement sélectionnés.

Cependant, mesurer directement la prévalence des sorties plagiées est difficile. La nature « boîte noire » des réseaux de neurones rend difficile de retracer pleinement le lien entre les données de formation et les sorties du modèle. Les taux dépendent probablement fortement de l’architecture du modèle, de la qualité des données et de la formulation des invites. Mais ces cas confirment que le plagiat d’IA se produit sans équivoque, ce qui a des implications juridiques et éthiques critiques.

Systèmes de détection de plagiat émergents

En réponse, les chercheurs ont commencé à explorer les systèmes d’IA pour détecter automatiquement le texte et les images générés par les modèles par rapport à ceux créés par les humains. Par exemple, les chercheurs de Mila ont proposé GenFace, qui analyse les modèles linguistiques indicatifs de texte écrit par l’IA. La startup Anthropic a également développé des capacités de détection de plagiat internes pour son IA conversationnelle Claude.

Cependant, ces outils ont des limites. Les données de formation massives de modèles comme GPT-3 rendent difficile de déterminer avec précision les sources originales du texte plagié, voire impossible. Des techniques plus robustes seront nécessaires à mesure que les modèles génératifs continuent d’évoluer rapidement. Jusqu’alors, l’examen manuel reste essentiel pour vérifier les sorties potentiellement plagiées ou contrefaites de l’IA avant leur utilisation publique.

Meilleures pratiques pour atténuer le plagiat d’IA générative

Voici quelques meilleures pratiques que les développeurs d’IA et les utilisateurs peuvent adopter pour minimiser les risques de plagiat :

Pour les développeurs d’IA :

• Vérifiez soigneusement les sources de données de formation pour exclure le matériel protégé par le droit d’auteur ou sous licence sans autorisation appropriée.
• Développez des procédures de documentation et de suivi des données rigoureuses. Enregistrez les métadonnées telles que les licences, les étiquettes, les créateurs, etc.
• Mettez en œuvre des outils de détection de plagiat pour signaler le contenu à haut risque avant sa publication.
• Fournissez des rapports de transparence détaillant les sources de données de formation, les licences et les origines des sorties de l’IA lorsque des inquiétudes se posent.
• Permettez aux créateurs de se retirer facilement des ensembles de données de formation. Répondez rapidement aux demandes de retrait ou d’exclusion.

Pour les utilisateurs d’IA générative :

• Vérifiez soigneusement les sorties pour tout passage potentiellement plagié ou non attribué avant de les déployer à grande échelle.
• Évitez de traiter l’IA comme un système créatif entièrement autonome. Faites examiner le contenu final par des réviseurs humains.
• Préférez la création assistée par l’IA à la génération de contenu entièrement nouveau à partir de zéro. Utilisez les modèles pour la paraphrase ou l’idéation à la place.
• Consultez les conditions de service, les politiques de contenu et les mesures de protection contre le plagiat des fournisseurs d’IA avant de les utiliser. Évitez les modèles opaques.
• Citez clairement les sources si du matériel protégé par le droit d’auteur apparaît dans la sortie finale malgré les meilleurs efforts. Ne présentez pas le travail de l’IA comme entièrement original.
• Limitez le partage des sorties de manière privée ou confidentielle jusqu’à ce que les risques de plagiat puissent être davantage évalués et traités.

Des réglementations plus strictes sur les données de formation pourraient également être justifiées à mesure que les modèles génératifs se multiplient. Cela pourrait impliquer d’exiger le consentement des créateurs avant d’ajouter leur travail aux ensembles de données. Cependant, la responsabilité incombe à la fois aux développeurs et aux utilisateurs d’adopter des pratiques d’IA éthiques qui respectent les droits des créateurs de contenu.

Plagiat dans Midjourney V6 Alpha

Après une invitation limitée, le modèle V6 de Midjourney a permis à certains chercheurs de générer des images presque identiques à des films, des émissions de télévision et des captures d’écran de jeux vidéo protégés par le droit d’auteur, probablement inclus dans ses données de formation.

Images créées par Midjourney ressemblant à des scènes de films et de jeux vidéo célèbres

Ces expériences confirment encore que même les systèmes d’IA visuelle de pointe peuvent plagier involontairement du contenu protégé si la source des données de formation n’est pas vérifiée. Cela souligne la nécessité de vigilance, de mesures de sauvegarde et de surveillance humaine lors du déploiement de modèles génératifs à des fins commerciales pour limiter les risques de contrefaçon.

Réponse des entreprises d’IA sur le contenu protégé par le droit d’auteur

Les lignes entre la créativité humaine et l’IA sont de plus en plus floues, créant des questions complexes sur le droit d’auteur. Les œuvres qui combinent l’input humain et l’IA ne peuvent être protégées par le droit d’auteur que dans les aspects exécutés uniquement par l’humain.

Le Bureau des droits d’auteur des États-Unis a récemment refusé les droits d’auteur pour la plupart des aspects d’une bande dessinée graphique créée par l’homme et l’IA, considérant l’art de l’IA comme non humain. Il a également publié des directives excluant les systèmes d’IA de l’« auteur ». Les tribunaux fédéraux ont confirmé cette position dans un cas de droit d’auteur sur l’art de l’IA.

Pendant ce temps, des poursuites allèguent que les modèles d’IA génératifs enfreignent les droits d’auteur, comme dans l’affaire Getty contre Stability AI et les artistes contre Midjourney/Stability AI. Mais sans « auteurs » d’IA, certains se demandent si les allégations d’infraction s’appliquent.

En réponse, de grandes entreprises d’IA comme Meta, Google (GOOGL ), Microsoft (MSFT ) et Apple (AAPL ) ont soutenu qu’elles ne devraient pas avoir besoin de licences ou de payer des redevances pour former des modèles d’IA sur des données protégées par le droit d’auteur.

Voici un résumé des principaux arguments des grandes entreprises d’IA en réponse à de nouvelles règles de droit d’auteur américaines potentielles autour de l’IA, avec des citations :

Meta soutient que l’imposition de licences maintenant causerait le chaos et apporterait peu de bénéfices aux détenteurs de droits d’auteur.

Google affirme que la formation d’IA est analogue à des actes non contrefaisants comme la lecture d’un livre (Google, 2022).

Microsoft avertit que la modification des lois sur le droit d’auteur pourrait désavantager les petits développeurs d’IA.

Apple souhaite protéger par le droit d’auteur le code généré par l’IA contrôlé par les développeurs humains.

Dans l’ensemble, la plupart des entreprises s’opposent à de nouvelles exigences de licence et minimisent les inquiétudes concernant les systèmes d’IA qui reproduisent des œuvres protégées sans attribution. Cependant, cette position est controversée étant donné les récentes poursuites pour contrefaçon d’IA et les débats.

Voies pour une innovation d’IA générative responsable

Alors que ces modèles génératifs puissants continuent de progresser, il est essentiel de combler les risques de plagiat pour une acceptation généralisée. Une approche à plusieurs volets est requise :

• Réformes des politiques autour de la transparence des données de formation, des licences et du consentement des créateurs.
• Technologies de détection de plagiat plus solides et gouvernance interne par les développeurs.
• Une plus grande sensibilisation des utilisateurs aux risques et une adhésion aux principes éthiques de l’IA.
• Des précédents juridiques clairs et des décisions de justice autour des questions de droit d’auteur de l’IA.

Avec les mesures de sauvegarde appropriées, la création assistée par l’IA peut prospérer de manière éthique. Mais les risques de plagiat non contrôlés pourraient miner considérablement la confiance du public. Aborder directement ce problème est essentiel pour réaliser le potentiel créatif immense de l’IA générative tout en respectant les droits des créateurs. Parvenir à l’équilibre approprié nécessitera de confronter activement le point aveugle du plagiat inhérent à la nature même des réseaux de neurones. Mais en le faisant, on s’assurera que ces modèles puissants n’underminent pas l’ingéniosité humaine qu’ils visent à renforcer.