Récoil Total : Les Groupes Traitant l’IA comme un Contaminant Intolérable

‘La tolérance zéro’ envers le contenu généré par l’IA est une option de plus en plus attrayante face aux préoccupations juridiques, éthiques et de base d’utilisateurs autour de l’IA; mais est-ce que ce type d’ ‘opting out’ est une proposition pratique?

Opinion Quiconque utilise les médias sociaux et d’autres types de forums de discussion en ligne a peut-être remarqué, récemment, un nombre croissant de communautés, de forums et d’organisations professionnelles interdisant complètement l’utilisation de l’IA générative, à mesure que l’impact économique de la technologie s’étend au-delà des artistes et des écrivains dont les protestations ont allumé les préoccupations actuelles en 2023.

Avec les conséquences juridiques et économiques de la révolution de l’IA toujours incertaines, les organisations faisant face à des pressions de la part des utilisateurs et des conseils juridiques internes sont obligées de décider d’une politique bien avant que l’image complète ne soit claire – une situation compliquée par la croyance émergente que l’adoption retardée pourrait les mettre à désavantage concurrentiel.

IA comme Miasme

La décision d’interdire est une décision politique, avec des conséquences; la capacité d’interdire, cependant, comporte à la fois des pièges politiques et pratiques, puisque l’histoire de l’interdiction de choses que les gens veulent vraiment est très mitigée; et même éradiquer les choses que personne ne veut exige des efforts à long terme et continus.

Par conséquent, hanté par l’histoire très mal comprise des Luddites, ces communautés et entités traitant toute trace d’IA comme totalement intolérable adoptent souvent un ton défensif lorsqu’elles annoncent ou discutent d’une interdiction d’IA.

Comme les Amish l’ont découvert au cours des derniers siècles, une position recluse contre une technologie vraiment impactive peut être difficile à maintenir; strictement parlant, par exemple, ceux qui adhèrent aux règles du véganisme ne peuvent pas regarder des films tournés sur cellulose traditionnelle, ou même avoir un radiographie. De même, opter pour une fluoruration dans les pays ou les villes qui l’adoptent peut être difficile.

En effet, une technologie omniprésente et populaire est un phénomène « atmosphérique » qui ne permet pas facilement de frontières, comme celles actuellement mises en place par un nombre croissant de groupes et d’organisations.

Mesures Pré-Juridiques

Comme mentionné plus tôt, les premières batailles contre l’empiètement de l’IA ont été menées dans le secteur le moins déterministe et le plus interprétatif de la générative IA – le divertissement. Lorsque le syndicat américain des acteurs de cinéma et de télévision (SAG-AFTRA) a lutté pour la protection des droits de ses membres en 2023, il a finalement pu remporter certaines concessions notables.

Il y a eu très peu de victoires aussi décisives depuis, en ce qui concerne l’IA – et la bataille pour la clarté juridique dans une gamme de secteurs ne fait que commencer. Par exemple, la plupart de la nouvelle législation autour des deepfakes, notamment du Royaume-Uni et des États-Unis, ne comprend l’IA que dans une catégorie plus large de crime (telle que des images non consenties, réelles ou fausses).

À la suite de la victoire de SAG-AFTRA, une série de poursuites judiciaires autour de l’utilisation de l’œuvre d’autres types d’artistes sont toujours en cours. Entre-temps, de nombreux groupes mécontents impliqués anticipent une ratification juridique avec des règles locales.

Avant de considérer davantage la logique et les contraintes d’une attitude « totalement intolérante » envers l’IA, examinons quelques cas où ce type de politique est mis en œuvre.

Interdictions d’IA Zéro-Tolérance

Une Note de Dissent

Ce mois-ci, Bandcamp est devenu la première grande plateforme de musique en ligne à interdire complètement le contenu d’IA. L’interdiction a été annoncée dans un communiqué qui a également déclaré ‘La musique et les enregistrements audio générés entièrement ou en grande partie par l’IA ne sont pas autorisés sur Bandcamp’.

Cette restriction, comme dans presque tous les cas, est forcée de parier un peu en raison de l’effet « miasme » des systèmes d’IA largement diffusés. Dans une autre partie de l’annonce, il est indiqué que la musique qui* ‘semble être faite entièrement ou avec une forte dépendance à l’IA’ est visée par l’interdiction – une limitation pragmatique, puisque, dans la plupart des domaines, au moins une partie du contenu d’IA est capable de sembler entièrement fabriqué par l’homme, à la fois pour les personnes et pour le secteur d’détection d’IA en constante évolution.

En effet, c’est le modèle pour la plupart des nouvelles politiques « zéro tolérance » qui entrent en vigueur: l’ignorance de l’IA est une excuse, dans ces circonstances difficiles.

Après un incident où une piste de musique créée par l’IA a envahi les charts suédois, IFPI Suède, l’organisation nationale de l’industrie musicale suédoise, a interdit la musique générée par l’IA de l’inclusion dans les charts – bien que avec la réserve habituelle, indiquant* ‘Notre règle est que si c’est une chanson qui est principalement générée par l’IA, elle n’a pas le droit d’être dans la liste des meilleures’.

Encore une fois, le souhait d’une interdiction totale de l’IA est reconnu comme impraticable; l’interdiction est tacite et totale, mais la mise en œuvre est effectivement impossible.

Effet Comique

Une vague d’interdiction contre le contenu généré par l’IA a balayé la scène des conventions de bandes dessinées aux États-Unis et au-delà, au cours de la dernière année. La San Diego Comic-Con, qui en 2024 avait placé des restrictions commerciales sur l’art produit par l’IA, a annoncé ce mois-ci qu’elle interdisait complètement le contenu d’IA, rapporté en réponse à des protestations d’artistes.

De même, en octobre de l’année dernière, la New York Comic-Con a mis en place une interdiction complète de la vente de produits ou de contenu généré par l’IA, avec le site officiel indiquant*:

‘Le produit, le matériel ou le contenu créé, en tout ou en partie, à l’aide d’outils ou d’algorithmes d’IA générative (“généré par l’IA”) ou incorporant des éléments générés par l’IA, y compris mais sans s’y limiter les œuvres d’art visuelles, les images ou les graphiques, les animations et/ou les matériaux, sont interdits à la vente à la New York Comic Con.’

Encore une fois, nous voyons que dans « la plus grande partie », la formulation doit reconnaître la difficulté d’identifier la provenance créative totale de toute œuvre, ces jours-ci. Cela reflète l’interdiction initiale de San Diego sur la commercialisation de la production d’IA, plutôt que son interdiction complète ultérieure du contenu d’IA. Cela dit, cette approche est une sorte de « déplatformisation » efficace du contenu d’IA, dans la plupart des cas (bien que ce travail puisse toujours être utilisé comme alimentateur de plateformes commercialisées).

De plus, la convention de bandes dessinées FanX Salt Lake a institué une interdiction plus décisive du contenu d’IA, en septembre de l’année dernière, avec le fondateur et producteur Dan Farr commentant*:

‘Si les clients viennent et achètent une pièce d’art et qu’ils ne réalisent pas que l’IA générative a été utilisée pour la créer, ils peuvent payer beaucoup d’argent pour elle, sans réaliser qu’il s’agit de quelque chose qui n’est pas tout à fait aussi précieux.’

Anti-Social

De nombreuses communautés en ligne ont également adopté une tolérance zéro envers le contenu généré par l’IA. En effet, c’est l’un des aspects les plus visibles de l’intolérance à l’égard de l’IA, et c’est la fréquence croissante de ces interdictions qui a attiré mon attention sur le sujet*:

Un édit anti-IA typique de Facebook. Source

Reddit a été particulièrement touché, avec des modérateurs de divers grands sous-reddits interdisant souvent tout contenu créé par l’IA, qu’il s’agisse d’images, d’art ou de formes textuelles (telles que la fiction et la programmation), une fois que ces publications ont inondé leurs forums et surchargé les ressources de modération humaines limitées.

Un exemple très précoce, en 2022, était le subreddit r/Dune, où environ 250 000 fans ont voté pour interdire complètement l’art généré par l’IA, après avoir été submergés par des images créées par l’IA. Les modérateurs de la sous-partie ont noté à l’époque*:

‘Nous reconnaissons que beaucoup de ces pièces sont agréables à regarder, et que la technologie est certainement fascinante, mais cela se qualifie techniquement de contenu à faible effort – surtout lorsqu’il est comparé à l’art original, « fabriqué par l’homme », que nous aimerions privilégier à l’avenir.’

Depuis, de nombreux sous-reddits (de r/lego à r/DataHoarder) ont déclaré de manière similaire que tout contenu même partiellement créé par l’IA sera supprimé à vue – du moins, dans la mesure du possible.

Des interdictions similaires apparaissent fréquemment sur Facebook. Cependant, comme Meta, la société mère de Facebook, est l’un des principaux développeurs d’IA au monde, alors que Reddit est plutôt une source très disputée et très demandée de données humaines en cours, ces interdictions tendent à susciter moins de controverse.

Étonnamment, il faut à Meta un certain temps pour suivre l’opinion publique générale sur l’IA – il y a un an, par exemple, la société a fait un retrait audacieux d’une expérience avec des agents basés sur l’IA qui publiaient sur diverses chronologies, en raison de réactions négatives des utilisateurs.

Interdictions d’Exfiltration de ChatGPT

Une catégorie singulière d’interdictions d’IA « absolues » est l’interdiction fréquente de l’utilisation de ChatGPT dans des environnements corporatifs ou sensibles (et dans ce sens, beaucoup de choses s’appliquent à tout modèle de langage basé sur le cloud et accessible via une API, tel que Claude ou Gemini).

Cependant, ces interdictions sont généralement inspirées non par des préoccupations libérales autour de l’exploitation des données de formation, mais par des craintes que OpenAI ne finisse par stocker, traiter ou même exploiter des données d’entreprise sensibles divulguées lors de discussions client.

Alors que les services juridiques peuvent soutenir ou même initier des interdictions d’entreprise sur les plateformes de type ChatGPT, ils sont également susceptibles de considérer si l’utilisation de données ouvertes sur le Web pour former des systèmes commerciaux pourrait exposer l’entreprise ou ses clients à des responsabilités futures – en particulier si des poursuites judiciaires en cours contre OpenAI ou des entités similaires devaient aboutir à des jugements importants.

Des exemples d’interdictions de ChatGPT^† comprennent une vague d’interdictions réactionnaires en 2023 de la part d’Apple, d’Amazon, de Spotify et de Wells Fargo, entre autres. La même année, une étude de Cisco a révélé que 27 % des organisations interrogées avaient institué des interdictions similaires – non sur ChatGPT spécifiquement, mais sur l’utilisation de l’IA générative dans son ensemble.

En 2024, une autre étude a constaté que 65 % des 20 premières sociétés pharmaceutiques avaient interdit aux employés d’utiliser ChatGPT.

Il est clair que de nombreuses, sinon toutes les sociétés mentionnées ici, sont susceptibles de chercher à bénéficier de l’IA de manière à servir leurs intérêts; et que de nombreuses sociétés sont susceptibles de maintenir ou de développer d’autres produits basés sur l’IA pour une utilisation interne – ou même des produits API commerciaux avec une meilleure protection de la propriété intellectuelle que celle qu’OpenAI peut offrir.

De nombreux gouvernements qui sont de grands partisans de l’IA interdisent également ChatGPT. Même si certains de ces gouvernements, tels que Cuba et la Corée du Nord, sont des candidats évidents à ce type d’interdiction, la Chine, actuellement considérée comme le leader de la révolution de l’IA, interdit ChatGPT au niveau gouvernemental – probablement en faveur d’alternatives nationales.

Conclusion: À Propos de la Tolérance Zéro

Une préoccupation concernant toute tendance vers des interdictions « absolues » d’IA (outre le défi de l’identification du contenu d’IA) est de savoir si une interdiction sans compromis est vraiment efficace. En fait, il est facile de mal comprendre ce que « zéro tolérance » signifie réellement; ce qu’il peut accomplir; et les circonstances plutôt limitées dans lesquelles il peut atteindre ses objectifs.

Par exemple, New York, peut-être la ville la plus associée au terme « tolérance zéro », a pu sortir de son nadir criminel dans les années 1970 et 1980 grâce à l’application progressive et continue de la théorie psychologique des « fenêtres brisées », qui postule que peu importe à quel point un quartier est pauvre ou aisé, la présence de une seule fenêtre brisée tendra à conduire à plus de fenêtres brisées – et à une escalade de autres types de crimes plus graves, puisque la présence continue de la première fenêtre brisée suggère que les autorités ne regardent pas ou ne se soucient pas.

Par conséquent, une attitude « zéro tolérance » à l’égard du « crime » de briser une fenêtre est censée avoir des avantages en amont, puisque cette « entropie criminelle » ne peut jamais prendre pied; de cette façon, en s’occupant de petites choses (comme les déchets et les fenêtres brisées, qui ne sont pas des problèmes coûteux à résoudre), les plus grandes choses (qui auraient coûté plus cher à résoudre) s’occupent d’elles-mêmes.

Mise en œuvre, cependant, cette théorie (parfois critiquée comme raciste) peut ressembler à un autoritarisme extrême, ou même au fascisme*:

Cliquez pour jouer. À partir du seul film de formation réalisé par John Ford, ‘OSS – Undercover Training’, un exemple d’une tolérance zéro apparemment obsessionnelle dans un contexte de culture de l’Axe de la Seconde Guerre mondiale. Source

À la place, « zéro tolérance » est souvent assimilé dans l’esprit du public à une action « sévère mais nécessaire », telle que les lois sans compromis que la plupart des nations ont en ce qui concerne les peines pour nuire aux mineurs – c’est-à-dire des règles claires pour le bien public, concrétisées en lois punitives qui inspirent peu de débat ou de compromis.

En réalité, la tolérance zéro a été conçue pour réaliser un renouveau urbain avec un budget, en suggérant plus de ressources dans un espace public que ce qui existe réellement derrière la scène; ce n’est pas un cas d’utilisation particulièrement applicable pour remettre le génie de l’IA dans sa bouteille.

Et dans la pratique, l’IA générative est déjà si omniprésente que vos données en aval apparemment libres d’IA peuvent déjà avoir quelque chose à voir avec elles – même si c’est un codec amélioré par l’IA dans une vidéo (non fausse) que vous avez réalisée, soumise à YouTube et publiée sur votre canal de médias sociaux préféré. Si l’IA devient vraiment comme un « gaz » culturel, il semble destiné à défier les frontières claires ou les solutions binaires telles qu’une « interdiction d’IA ».

* Mon insistance.

^† Que nous pouvons considérer comme représentatif de cette classe de LLM, plutôt que comme un produit exclusif, dans ce sens.

Publié pour la première fois le jeudi 29 janvier 2026