Réaction Totale : Les Groupes Traitant l’IA comme un Contaminant Intolérable

‘Zéro tolérance’ envers le contenu généré par l’IA est une option de plus en plus attrayante face aux préoccupations juridiques, éthiques et liées à la base d’utilisateurs autour de l’IA ; mais est-ce que ce type d’ ‘opting out’ est une proposition pratique ?

Opinion Quiconque utilise les médias sociaux et d’autres types de forums de discussion en ligne a peut-être remarqué, récemment, un nombre croissant de communautés, de forums et d’organisations professionnelles interdisant complètement l’utilisation de l’IA générative, à mesure que l’impact économique de la technologie s’étend au-delà des artistes et des écrivains dont les protestations ont allumé les préoccupations actuelles en 2023.

Avec les conséquences juridiques et économiques de la révolution de l’IA toujours incertaines, les organisations confrontées à la pression des utilisateurs et des conseils juridiques internes sont obligées de décider de la politique bien avant que l’image complète ne soit claire – une situation compliquée par la croyance émergente que l’adoption retardée pourrait les laisser à un désavantage concurrentiel.

IA comme Miasma

La décision d’interdire est une décision politique, avec des conséquences ; la capacité d’interdire, cependant, comporte à la fois des pièges politiques et pratiques, puisque l’histoire de l’interdiction de choses que les gens veulent vraiment est une histoire mitigée au mieux ; et même éradiquer les choses que personne ne veut exige des efforts à long terme et continus.

Ainsi, hanté par l’histoire très mal comprise des Luddites, ces communautés et entités traitant toute trace d’IA comme totalement intolérable adoptent souvent un ton défensif lorsqu’elles annoncent ou discutent d’une interdiction d’IA.

Comme les Amish l’ont découvert au cours des derniers siècles, une position recluse contre une technologie vraiment impactive peut être difficile à maintenir ; strictement parlant, par exemple, ceux qui adhèrent aux règles du véganisme ne peuvent pas regarder des films tournés sur pellicule traditionnelle, ou même avoir un radiographie. De même, opter pour une non-fluorisation dans les pays ou les villes qui l’adoptent peut être difficile.

En effet, une technologie omniprésente et populaire est un phénomène ‘atmosphérique’ qui n’autorise pas facilement les frontières actuellement établies par un nombre croissant de groupes et d’organisations.

Mesures Pré-Juridiques

Comme mentionné précédemment, les premières batailles contre l’incursion de l’IA ont été menées dans le secteur le moins déterministe et le plus interprétatif de la genAI – le divertissement. Lorsque l’American Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) a combattu pour la protection des droits de ses membres en 2023, il a finalement pu remporter certaines concessions notables.

Il y a eu très peu de victoires aussi décisives depuis lors, en ce qui concerne l’IA – et la bataille pour la clarté juridique dans une gamme de secteurs ne fait que commencer. Par exemple, la plupart de la nouvelle législation autour des deepfakes, notamment du Royaume-Uni et des États-Unis, ne comprend l’IA que dans une catégorie plus large de crimes (tels que des images non consensuelles, réelles ou fausses).

À la suite de la victoire de SAG-AFTRA, une série de poursuites judiciaires autour de l’utilisation de l’œuvre d’autres types d’artistes sont toujours en cours. Dans l’intervalle, de nombreux groupes mécontents impliqués anticipent une ratification juridique avec des règles locales.

Avant de considérer davantage la logique et les contraintes d’une attitude ‘totalement intolérante’ à l’égard de l’IA, regardons quelques-uns des cas où ce type de politique est mis en œuvre.

Interdictions d’IA Zéro Tolérance

Une Note de Dissent

Ce mois-ci, Bandcamp est devenu la première grande plateforme de musique en ligne à interdire complètement le contenu d’IA. L’interdiction a été annoncée dans un communiqué qui a également déclaré ‘La musique et les enregistrements audio générés en totalité ou en grande partie par l’IA ne sont pas autorisés sur Bandcamp’.

Cette restriction, comme dans presque tous les cas, est forcée de parier un peu en raison de l’effet ‘miasma’ des systèmes d’IA largement diffusés. Dans une autre partie de l’annonce, il est déclaré que la musique qui* ‘semble être faite entièrement ou avec une forte dépendance à l’IA générative’ est visée par l’interdiction – une limitation pragmatique, puisque, dans la plupart des domaines, au moins une partie du contenu de la genAI est capable de sembler entièrement faite par l’homme, à la fois pour les personnes et pour le secteur de détection de l’IA en constante évolution.

En effet, ceci est le modèle pour la plupart des nouvelles politiques ‘zéro tolérance’ qui entrent en vigueur : que l’ignorance de l’IA est une excuse, dans ces circonstances difficiles.

Après un incident où une piste musicale créée par l’IA a envahi les charts suédois, IFPI Suède, l’organisation nationale de l’industrie musicale suédoise, a interdit la musique générée par l’IA de l’inclusion dans les charts – bien qu’avec la clause habituelle, déclarant* ‘Notre règle est que si c’est une chanson qui est principalement générée par l’IA, elle n’a pas le droit d’être sur la liste des meilleures’.

Encore une fois, le souhait d’une interdiction totale de l’IA est reconnu comme impraticable ; l’interdiction est tacite et totale, mais la mise en œuvre est effectivement impossible.

Effet Comique

Une vague d’interdiction contre le contenu de la genAI a balayé la scène de la convention de bandes dessinées aux États-Unis et au-delà, au cours de la dernière année. La San Diego Comic-Con, qui en 2024 avait placé des restrictions commerciales sur l’art produit par l’IA, a annoncé ce mois-ci qu’elle interdisait complètement le contenu d’IA, prétendument en réponse à des protestations d’artistes.

De même, en octobre de l’année dernière, la New York Comic-Con a appliqué une interdiction complète de la vente de produits ou de contenu générés par l’IA, avec le site officiel déclarant* :

‘Le produit, le matériel ou le contenu créé, en totalité ou en substantial part, à l’aide d’outils ou d’algorithmes d’IA générative (“IA-Generated”) ou incorporant des éléments IA-Generated, y compris mais non limité à des œuvres d’art visuelles, des images ou des graphiques, des animations et/ou des matériaux, sont interdits d’être mis à disposition pour achat à la New York Comic Con.’

Encore une fois, nous voyons que dans ‘substantial part’, la formulation doit reconnaître la difficulté d’identifier la provenance créative totale de n’importe quel travail, ces jours-ci. Cela reflète l’interdiction initiale de San Diego sur la commercialisation de la production d’IA, plutôt que son interdiction complète ultérieure de contenu d’IA. Cela dit, cette approche est une sorte de ‘déplatformisation’ efficace du contenu d’IA, dans la plupart des cas (bien que ce travail puisse toujours être utilisé comme alimentateur de plateformes commercialisées).

En outre, la convention de bandes dessinées FanX Salt Lake a institué une interdiction plus décisive de contenu d’IA, en septembre de l’année dernière, avec le fondateur et producteur Dan Farr commentant :

‘Si les clients viennent et achètent une pièce d’art et qu’ils ne réalisent pas que l’IA générative a été utilisée pour la créer, ils peuvent payer beaucoup d’argent pour cela, sans réaliser que ce n’est pas quelque chose de tout à fait précieux.’

Anti-Social

De nombreuses communautés en ligne ont également adopté une tolérance zéro envers le contenu généré par l’IA. En effet, c’est l’un des aspects les plus visibles du public de l’IA, et c’est la fréquence croissante de ces interdictions qui a attiré mon attention :

Un édit anti-IA typique de Facebook. Source

Reddit a été particulièrement touché, avec des modérateurs de divers grands sous-reddits interdisant souvent toutes les images, l’art ou les formes basées sur le texte créés par l’IA (telles que la fiction et la programmation), une fois que ces publications ont inondé leurs forums et surchargé les ressources de modération humaine limitées.

Un exemple très précoce, de 2022, était le subreddit r/Dune, où environ 250 000 fans ont voté pour interdire complètement l’art généré par l’IA, après avoir été submergés par des images faites par l’IA. Les mods de la sous-partie ont noté à l’époque :

‘Nous reconnaissons que beaucoup de ces pièces sont agréables à regarder, et que la technologie est certainement fascinante, mais cela qualifie techniquement de contenu à faible effort – en particulier lorsqu’il est comparé à l’art original, “fait par l’homme”, que nous aimerions privilégier à l’avenir.’

Depuis lors, de nombreux sous-reddits (de r/lego à r/DataHoarder) ont déclaré de manière similaire qu’ils supprimeront tout contenu même partiellement créé par l’IA – du moins, là où cela est reconnaissable.

Des interdictions similaires apparaissent fréquemment sur Facebook. Cependant, puisque Meta, la société mère de Facebook, est l’un des principaux développeurs d’IA au monde, alors que Reddit est plutôt une source de données humaines très disputée, ces interdictions tendent à causer moins de controverse.

Étonnamment, il faut à Meta un certain temps pour rattraper l’opinion publique générale sur l’IA – il y a un an, par exemple, la société a fait un retrait audacieux d’une expérience avec des agents basés sur l’IA publiant sur diverses chronologies, en raison de réactions négatives des utilisateurs.

Interdictions d’Exfiltration de ChatGPT

Une catégorie singulière d’interdictions ‘absolues’ d’IA est la fréquente interdiction d’utiliser ChatGPT dans des environnements d’entreprise ou sensibles (et dans ce sens, la même chose s’applique à tout modèle de langage basé sur le cloud, tel que Claude ou Gemini).

Cependant, ces interdictions sont généralement inspirées non par des préoccupations libérales autour de l’exploitation des données de formation, mais par des craintes que OpenAI finira par stocker, traiter ou même exploiter des données d’entreprise sensibles divulguées lors de discussions client.

Alors que les départements juridiques peuvent soutenir ou même initier des interdictions d’entreprise sur les plateformes de type ChatGPT, ils sont également susceptibles de considérer si l’utilisation de données du Web ouvert pour former des systèmes commerciaux pourrait exposer l’entreprise ou ses clients à des responsabilités futures – en particulier si des poursuites judiciaires en cours contre OpenAI ou des entités similaires devaient aboutir à des jugements importants.

Des exemples d’interdictions de ChatGPT^† incluent une vague d’interdictions réactionnaires en 2023 de la part d’Apple, d’Amazon, de Spotify et de Wells Fargo, entre autres. Cette même année, une étude de Cisco a révélé que 27 % des organisations interrogées avaient institué des interdictions similaires – non sur ChatGPT spécifiquement, mais sur l’utilisation de la GenAI dans son ensemble.

En 2024, une autre étude a révélé que 65 % des 20 premières sociétés pharmaceutiques avaient interdit à leurs employés d’utiliser ChatGPT.

Il est clair que de nombreuses sociétés, sinon toutes, sont susceptibles de chercher à bénéficier de l’IA de manière à servir leurs intérêts ; et qu’elles sont susceptibles de maintenir ou de développer d’autres produits basés sur l’IA à des fins d’utilisation interne – ou même des produits API commerciaux avec une meilleure protection de la propriété intellectuelle que ce que OpenAI peut offrir.

De nombreux gouvernements qui sont de grands partisans de l’IA interdisent également ChatGPT. Même si certains de ceux-ci, tels que Cuba et la Corée du Nord, sont des candidats évidents pour ce type d’interdiction, la Chine, actuellement considérée comme la lumière de la révolution de l’IA, interdit ChatGPT au niveau gouvernemental – probablement en faveur d’alternatives maison.

Conclusion : À Propos de la Zéro Tolérance

Une préoccupation concernant la tendance vers les ‘interdictions absolues’ de l’IA (outre le défi de l’identification du contenu d’IA), est de savoir si une interdiction sans compromis est réellement efficace. En fait, il est facile de mal comprendre ce que la ‘zéro tolérance’ est vraiment ; ce qu’elle peut accomplir ; et les circonstances assez limitées dans lesquelles elle peut atteindre ses objectifs.

Par exemple, la ville de New York, peut-être la plus fortement associée au terme ‘zéro tolérance’, a pu émerger de son nadir criminel des années 1970 et 1980 grâce à l’application progressive et continue de la théorie psychologique ‘broken windows’, qui postule que peu importe à quel point un quartier est pauvre ou aisé, la présence de une seule fenêtre brisée tendra à conduire à plus de fenêtres brisées – et à une escalade éventuelle d’autres types de crimes plus graves, puisque la présence continue de la première fenêtre brisée suggère que les autorités ne regardent pas ou ne se soucient pas.

Par conséquent, une attitude ‘zéro tolérance’ à l’égard du ‘crime de base’ de briser une fenêtre est censée avoir des avantages en amont, puisque cette ‘entropie criminelle’ ne peut jamais prendre pied ; de cette façon, en s’occupant des petites choses (comme les déchets et les fenêtres brisées, qui ne sont pas des problèmes coûteux à résoudre), les grandes choses (qui auraient coûté plus à résoudre) s’occupent d’elles-mêmes.

Réalisée, cependant, cette théorie (parfois critiquée comme raciste) peut ressembler à un autoritarisme extrême, ou même au fascisme :

Cliquez pour jouer. À partir du seul film de formation réalisé par John Ford, ‘OSS – Undercover Training’, un exemple d’une tolérance zéro apparemment obsessionnelle dans un contexte d’axe de la Seconde Guerre mondiale. Source

Au lieu de cela, ‘zéro tolérance’ est souvent assimilée dans l’esprit du public à une action ‘ferme mais nécessaire’, telle que les lois sans compromis que la plupart des nations ont en ce qui concerne les peines pour nuire aux mineurs – c’est-à-dire des règles claires pour le bien public, concrétisées en lois punitives qui inspirent peu de débat ou de compromis.

En vérité, la ZT a été conçue pour réaliser un renouveau urbain avec un budget, en suggérant plus de ressources dans un espace public que ce qui existe réellement derrière la scène ; ce n’est pas un cas d’utilisation particulièrement applicable pour remettre le génie de l’IA dans la bouteille.

Et dans la pratique, l’IA générative est déjà si omniprésente que vos données en aval apparemment exemptes d’IA peuvent déjà devoir quelque chose à celle-ci – même si c’est un codec amélioré par l’IA dans une vidéo (non fausse) que vous avez créée, soumise à YouTube et publiée sur votre canal de médias sociaux préféré. Si l’IA devient vraiment comme un ‘gaz’ culturel, elle semble destinée à défier les frontières claires ou les solutions binaires telles qu’une ‘interdiction d’IA’.

* Mon emphase.

^† Que nous pouvons considérer comme représentatif de cette classe de LLM, plutôt que comme un produit exclusif, dans ce sens.

Publié pour la première fois le jeudi 29 janvier 2026