Recul total : Les groupes qui considèrent l’IA comme un contaminant intolérable

La « tolérance zéro » à l’égard des contenus générés par l’IA est une option de plus en plus séduisante face aux préoccupations croissantes d’ordre juridique, éthique et liées à la base d’utilisateurs concernant l’IA ; mais ce type de « refus » est-il une proposition réaliste ?

Opinion  Quiconque utilise les médias sociaux et autres forums de discussion en ligne aura sans doute remarqué, ces derniers temps, une augmentation du nombre de communautés, de forums et d'organisations professionnelles. interdiction totale l'utilisation de l'IA générative, à mesure que l'impact économique de cette technologie s'étend au-delà des artistes et des écrivains dont les protestations ont suscité les préoccupations actuelles en 2023.

Avec les conséquences juridiques et économiques de la révolution de l'IA encore incertain, les organisations confrontées la parfaite pression Les utilisateurs et les conseillers juridiques internes sont contraints de prendre des décisions politiques bien avant que la situation ne soit pleinement claire – une situation compliquée par… croyance émergente ce retard d'adoption pourrait les désavantager sur le plan concurrentiel.

L'IA comme miasme

L' décision Interdire est une décision politique, qui a des conséquences ; capacité Interdire, cependant, implique des conséquences politiques. des pièges pratiques, car l'histoire de l'interdiction de choses que les gens désirent vraiment est un à carreaux au mieux; et même éradiquer les choses qui personne veut nécessite un effort continu et à long terme.

Ainsi, hanté par le beaucoup-mal compris Si l'on se fie à l'histoire des Luddites, ces communautés et entités qui considèrent toute trace d'IA comme absolument intolérable adoptent souvent un ton défensif lorsqu'elles annoncent ou discutent d'une interdiction de l'IA.

Comme les Amish avoir trouvé Au cours des derniers siècles, il est devenu difficile de maintenir une position d'isolement face à une technologie véritablement révolutionnaire ; à proprement parler, par exemple, les personnes qui adhèrent aux principes du véganisme ne peuvent pas regarder de films. filmé sur pellicule traditionnelle, ou même avoir an radiographieDe même, il est possible de refuser la fluoration dans les pays ou les villes qui l'adoptent. peut être difficile.

En réalité, une technologie omniprésente et populaire est un phénomène « atmosphérique » qui ne se prête pas facilement aux limites actuellement fixées par un nombre croissant de groupes et d'organisations.

Mesures pré-légales

Comme mentionné précédemment, les premières batailles contre l'empiètement de l'IA ont été menées dans le secteur le moins déterministe et le plus interprétatif de l'IA générale : le divertissement. Lorsque l'American Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) combattu pour la protection des droits de ses membres en 2023, elle a finalement pu gagner quelques concessions notables.

Depuis, très peu de victoires aussi décisives ont été remportées en matière d'IA, et la bataille pour une clarification juridique dans de nombreux secteurs ne fait que commencer. Par exemple, la plupart des nouvelles législations concernant les deepfakes, notamment celles de la Cour suprême, sont encore en suspens. UK et la US, n'inclut l'IA que dans une catégorie de crime plus large (telle que l'imagerie non consensuelle, réelle ou fausse).

Dans la foulée de la victoire de SAG-AFTRA, une série de poursuites judiciaires concernant l'utilisation des œuvres d'autres types d'artistes sont en cours. toujours en coursEntre-temps, nombre de groupes mécontents concernés anticipent une ratification légale assortie de règles locales.

Avant d'examiner plus en détail la logique et les limites d'une attitude « totalement intolérante » envers l'IA, penchons-nous sur quelques cas où ce type de politique est mis en œuvre.

Interdictions de l'IA à tolérance zéro

Note de désaccord

Ce mois-ci seulement, Bandcamp est devenue la première grande plateforme de musique en ligne à Interdiction totale du contenu IAL'interdiction a été annoncée dans un communiqué qui déclarait également « La musique et les contenus audio générés entièrement ou en grande partie par l'IA ne sont pas autorisés sur Bandcamp. ».

Cette restriction, comme dans presque tous les cas, est contrainte de nuancer ses propos en raison de l'effet de « miasme » susmentionné lié à la large diffusion des systèmes d'IA. Ailleurs dans l'annonce, il est indiqué que la musique qui* »apparaît à réaliser entièrement ou en s'appuyant fortement sur l'IA générative est visé par l'interdiction – une limitation pragmatique, puisque, dans la plupart des domaines au moins quelques Le contenu généré par l'IA peut paraître entièrement d'origine humaine, tant pour les humains que pour l'IA en constante évolution. Détection par IA secteur.

En réalité, c'est le modèle de la plupart des nouvelles politiques de « tolérance zéro » qui entrent en vigueur : cette ignorance de l'IA is une excuse, dans ces circonstances difficiles.

Après un incident là où un morceau de musique créé par une IA a fait sensation dans les charts suédois, IFPI Suède, l'organisation nationale suédoise de l'industrie musicale, interdit Musique générée par l'IA pour figurer dans les classements – avec toutefois la mise en garde habituelle* « Notre règle est que si c'est une chanson qui est principalement Généré par IA, il n'a pas le droit de figurer en tête de liste..

Là encore, on reconnaît ici que le souhait d'une interdiction totale de l'IA est irréalisable ; l'interdiction est tacite et totale, mais sa mise en œuvre est en réalité impossible.

Effet comique

Une vague d'interdiction des contenus générés par l'IA a déferlé sur le monde des conventions de bandes dessinées aux États-Unis et ailleurs au cours de l'année écoulée. Le Comic-Con de San Diego, qui avait imposé des restrictions commerciales sur les œuvres d'art produites par l'IA en 2024, a annoncé ce mois-ci qu'il… interdire purement et simplement le contenu relatif à l'IA, semble-t-il, en réponse aux protestations des artistes.

De même, en octobre de l'année dernière, le New York Comic-Con a imposé une interdiction totale de la vente de produits ou de contenus générés par l'IA, sur son site officiel. indiquant*:

Produit, matériel ou contenu créé, en totalité ou en partie partie substantielle« Les produits utilisant des outils ou algorithmes d’intelligence artificielle générative (« générés par l’IA ») ou intégrant des éléments générés par l’IA, y compris, mais sans s’y limiter, des œuvres d’art visuelles, des images ou des graphiques, des animations et/ou des matériaux, ne peuvent être mis en vente à la New York Comic Con. »

Une fois de plus, nous constatons que l'expression « partie substantielle » doit tenir compte de la difficulté actuelle d'identifier l'intégralité de la provenance créative d'une œuvre. Cela fait écho à l'interdiction initiale de San Diego concernant commercialiser Il s'agit d'abord de la suppression des résultats de l'IA, plutôt que de son interdiction totale ultérieure en matière de contenu IA. Cela dit, cette approche constitue une « déplateformisation » assez efficace du contenu IA dans la plupart des cas (même si ces travaux pourraient toujours servir de source d'approvisionnement pour les plateformes commerciales).

De plus, le salon de la BD FanX Salt Lake a instauré un interdiction plus décisive à propos du contenu relatif à l'IA, en septembre de l'année dernière, avec les commentaires du fondateur et producteur Dan Farr :

« Si les clients achètent une œuvre d'art sans se rendre compte qu'elle a été créée à l'aide d'une intelligence artificielle générative, ils risquent de payer une somme importante sans réaliser que sa valeur est moindre. »

Antisocial

De nombreuses communautés en ligne ont également adopté une politique de tolérance zéro envers les contenus générés par l'IA. Il s'agit d'ailleurs de l'un des aspects les plus visibles de cette intolérance, et c'est la fréquence croissante de ces interdictions qui a attiré mon attention sur le sujet.

Un décret anti-IA typique de Facebook. Source

Reddit a été particulièrement touché, les modérateurs de divers grands sous-reddits interdisant souvent toutes les images, œuvres d'art ou formes textuelles créées par l'IA (telles que la fiction et la programmation), une fois que de tels messages ont commencé à inonder leurs forums et à surcharger les ressources limitées de modération humaine.

Un exemple très ancien, datant de 2022, est le subreddit r/Dune, qui comptait environ 250 000 fans. voté pour interdire Du contenu entièrement généré par IA, après avoir été submergé d'images créées par IA. Les modérateurs du sous-forum l'avaient alors remarqué :

« Nous reconnaissons que nombre de ces œuvres sont agréables à regarder, et la technologie est assurément fascinante, mais il s'agit techniquement d'un contenu à faible effort – surtout comparé à l'art original, « créé par l'homme », que nous souhaitons privilégier à l'avenir. »

Depuis, de nombreux subreddits (de r/lego à r/DataHoarder) ont également déclaré que tout contenu, même partiellement, créé par une IA sera supprimé immédiatement – ​​du moins, comme toujours, lorsqu'il est reconnaissable.

Des interdictions similaires apparaissent fréquemment sur Facebook. Cependant, Meta, la société mère de Facebook, est l'un des leaders mondiaux du développement de l'IA, tandis que Reddit est plutôt un très disputé et source recherchée de données continues basées sur l'humain, ces interdictions ont tendance à susciter moins de controverses.

Étonnamment, Meta met du temps à rattraper l'opinion publique générale sur l'IA ; il y a un an, par exemple, l'entreprise avait déclaré une retraite audacieuse suite à une expérience avec des agents basés sur l'IA publiant sur différentes périodes, en raison de réactions négatives des utilisateurs.

Interdictions d'exfiltration ChatGPT

Une catégorie particulière d’interdictions « absolues » de l’IA est l’interdiction fréquente de l’utilisation de ChatGPT dans les environnements d'entreprise ou sensibles (et en ce sens, cela s'applique aussi à tout modèle de langage basé sur le cloud et accessible par API, tel que Claude or GEMINI).

Cependant, ces interdictions ne sont généralement pas inspirées par des préoccupations libérales concernant l'exploitation des données d'entraînement, mais par craintes qu'OpenAI finira par stocker, traiter, voire exploiter des informations sensibles relatives à la propriété intellectuelle de l'entreprise divulguées lors de discussions avec les clients.

Bien que les services juridiques puissent soutenir, voire initier, des interdictions d'entreprise concernant les plateformes de type ChatGPT, ils examineront probablement aussi si l'utilisation de données ouvertes sur le web pour entraîner des systèmes commerciaux pourrait exposer l'entreprise ou ses clients à des responsabilités futures – en particulier si litige en cours Les poursuites contre OpenAI ou des entités similaires devraient donner lieu à des jugements significatifs.

Exemples de bannissements sur ChatGPT^† Inclure un vague d'interdictions réactionnaires En 2023, Apple, Amazon, Spotify et Wells Fargo, entre autres, ont annoncé l'ouverture de leur compte. La même année, un Enquête Cisco Il s'avère que 27 % des organisations interrogées avaient instauré des interdictions similaires – non pas concernant ChatGPT en particulier, mais concernant l'utilisation de GenAI en général.

En 2024, une autre enquête a révélé que 65 % des 20 principales entreprises pharmaceutiques avaient employés bannis en utilisant ChatGPT.

Il est clair que nombre des entreprises mentionnées ici, voire toutes, chercheront probablement à tirer profit de l'IA d'une manière qui corresponde mieux à leurs intérêts ; et que beaucoup d'entre elles maintiendront ou développeront probablement d'autres produits basés sur l'IA pour un usage interne – voire des produits API commerciaux avec une meilleure protection de la propriété intellectuelle que celle qu'OpenAI peut offrir.

De nombreux gouvernements qui sont de fervents défenseurs de l'IA interdire également ChatGPTBien que certains de ces pays, comme Cuba et la Corée du Nord, soient des candidats évidents à ce type d'interdiction, la Chine, actuellement considérée comme la plus susceptible d'être concernée, est un cas particulier. figure de proue de la révolution de l'IA, interdit ChatGPT au niveau gouvernemental – vraisemblablement au profit d'alternatives artisanales.

Conclusion : À propos de la tolérance zéro

L'une des préoccupations liées à toute tendance à interdire « absolument » l'IA (outre la difficulté d'identifier les contenus générés par l'IA) est de savoir si une interdiction sans compromis est réellement efficace. En réalité, il est facile de mal comprendre ce qu'est la « tolérance zéro », ce qu'elle peut accomplir et les circonstances, relativement limitées, dans lesquelles elle peut atteindre ses objectifs.

Par exemple, la ville de New York, sans doute la plus fortement associée au terme « tolérance zéro », a pu augmenter depuis son point le plus bas en matière de criminalité dans les années 1970 et 1980 jusqu'à l'application progressive et continue de la «fenêtres brisées La théorie psychologique postule que, quel que soit le niveau de richesse ou de pauvreté d'un quartier, la présence de quelques personnes seulement influence son bien-être. UN Une vitre cassée aura tendance à entraîner plus Des vitres brisées – et une éventuelle escalade d'autres types de crimes plus graves, puisque la présence continue de la vitre brisée initiale suggère que les autorités ne surveillent pas ou s'en moquent.

Par conséquent, une attitude de « tolérance zéro » à l'égard du délit « initial » que représente le bris d'une vitre est censée avoir des effets bénéfiques en amont, puisque cette « entropie criminelle » ne peut jamais prendre racine ; de cette manière, en s'occupant des petites choses (comme les déchets et les vitres cassées, qui ne sont pas des problèmes coûteux à résoudre), les problèmes plus importants (qui auraient coûté plus cher à résoudre) se règlent d'eux-mêmes.

Cependant, cette théorie a été mise en œuvre (parfois critiqué comme racistepeut s'apparenter à un autoritarisme extrême, voire au fascisme :

Cliquez pour jouer. Extrait du seul film de formation jamais réalisé par John Ford, 'OSS – Entraînement sous couverture', Un exemple de tolérance zéro apparemment obsessionnelle dans un contexte culturel de l'Axe fictif de la Seconde Guerre mondiale. Source

En revanche, la « tolérance zéro » est souvent assimilée dans l'esprit du public à une action « sévère mais nécessaire », comme les lois intransigeantes que la plupart des nations ont en matière de sanctions pour les atteintes aux mineurs – c'est-à-dire des règles claires pour le bien public, concrétisées en lois punitives qui inspirent peu de débats ou de compromis.

En réalité, ZT a été conçu pour réaliser une rénovation urbaine à moindre coût, en suggérant des ressources publiques supérieures à celles réellement disponibles en coulisses ; un cas d'utilisation peu pertinent pour remettre le génie de l'IA dans sa lampe.

Et en pratique, l'IA générative est déjà si répandu que vos données en aval, apparemment exemptes d'IA, pourraient bien lui devoir quelque chose – même s'il s'agit d'une Codec amélioré par l'IA Dans une vidéo (authentique) que vous avez créée, soumise à YouTube et publiée sur votre réseau social préféré. Si l'IA devient véritablement un phénomène culturel, elle semble vouée à s'affranchir des frontières établies et des solutions binaires telles qu'une interdiction de l'IA.

* C'est moi qui souligne.

^† Ce que nous pouvons considérer comme représentatif de ceci classe de LLM, plutôt qu'un produit exclusif, en ce sens.

Première publication le jeudi 29 janvier 2026