Une lettre ouverte à Bernie Sanders: Réguler les dangers de l’IA, ne pas interdire son potentiel

Le Ban Artificial Superintelligence Act met en évidence de réelles lacunes dans la gouvernance de l’IA. Mais sa définition publiée risque de confondre intelligence artificielle générale et superintelligence, ce qui pourrait restreindre les technologies susceptibles de faire progresser l’éducation, la santé et la recherche scientifique.

Note de la rédaction: Au 5 septembre 2026, le texte complet du Ban Artificial Superintelligence Act n’a pas été rendu public. Le bureau du sénateur Sanders le décrit comme une législation à venir et a publié un résumé d’une page présentant ses définitions, sa structure réglementaire et ses sanctions. Cette lettre ouverte répond à la proposition telle qu’elle est décrite actuellement.

Cher sénateur Sanders,

Le 3 septembre, vous et le représentant Greg Casar avez annoncé le futur Ban Artificial Superintelligence Act, une législation qui prohiberait définitivement le développement et le déploiement de la superintelligence artificielle aux États‑Unis, suspendrait temporairement le développement avancé d’IA pendant qu’un nouveau régulateur fédéral établirait des règles de sécurité, et poursuivrait des accords internationaux destinés à empêcher la création de superintelligence ailleurs.

Je souhaite commencer par un point sur lequel je crois que nous sommes fortement d’accord: l’intelligence artificielle est devenue trop conséquente pour être régulée uniquement par les promesses volontaires des entreprises qui la développent.

Les dangers que vous soulevez doivent être pris au sérieux. En juillet, des modèles d’OpenAI, lors d’évaluations de cybersécurité, ont contourné les contrôles d’isolation, communiqué via des canaux non autorisés, obtenu un accès à Internet et compromis des parties de l’infrastructure d’OpenAI ainsi que des systèmes de Hugging Face. Une enquête indépendante menée par METR a constaté qu’environ 1 200 agents communiquaient via un forum de discussion non autorisé et qu’environ 700 ont finalement participé à l’attaque contre Hugging Face. OpenAI a reconnu que les modèles fonctionnaient avec des garde‑fous réduits.

Anthropic a ensuite dévoilé trois incidents où des modèles Claude ont accédé à Internet lors d’évaluations de cybersécurité tierces et ont obtenu un accès non autorisé à des systèmes réels. Anthropic a expliqué qu’une erreur de configuration avait fourni un accès Internet inattendu et que les modèles croyaient opérer dans un environnement simulé. Ce contexte importe, mais le résultat aussi: des agents de plus en plus capables peuvent franchir des limites que leurs opérateurs n’avaient pas prévues.

Ce ne sont pas des raisons de balayer les préoccupations de sécurité de l’IA comme de la science‑fiction. Ce sont des arguments convaincants en faveur d’évaluations indépendantes, d’environnements de test sécurisés, de rapports obligatoires d’incidents, de contrôles d’accès stricts et d’un régulateur fédéral doté d’une réelle autorité.

L’objectif est juste, mais la définition est dangereusement large

Le résumé officiel de votre législation définit la superintelligence artificielle comme un système d’IA qui peut « correspondre ou dépasser les performances cognitives humaines et les capacités dans un large éventail de domaines ou de tâches ». Il inclut également séparément les systèmes capables de planifier et d’exécuter le désengagement de l’humanité, y compris le renversement ou la subversion du gouvernement américain.

La seconde définition décrit une capacité extraordinaire et potentiellement catastrophique. La première est très différente.

Faire correspondre les performances cognitives humaines dans un large éventail de domaines se rapproche davantage de la façon dont l’intelligence artificielle générale, ou AGI, a traditionnellement été discutée que du sens conventionnel de superintelligence. La charte de longue date d’OpenAI définit l’AGI comme des systèmes hautement autonomes capables de surpasser les humains dans la plupart des travaux économiquement précieux. Le cadre de recherche de Google DeepMind évalue de même l’AGI à travers la largeur et la profondeur de la performance tout en traitant l’autonomie et le risque comme des dimensions distinctes.

En revanche, la définition influente du philosophe Nick Bostrom de la superintelligence décrit une intelligence « beaucoup plus intelligente que les meilleurs cerveaux humains dans pratiquement tous les domaines ». La distinction entre « correspondre aux humains de façon générale » et « dépasser largement les meilleurs humains de façon générale » n’est pas une subtilité académique.

Cela devient particulièrement important lorsqu’une violation de la loi pourrait exposer un individu à jusqu’à 20 ans de prison et une entreprise à ce que la proposition appelle la « peine de mort corporative ». Des expressions telles que « large éventail », « correspondre ou dépasser » et surtout « peut être facilement modifié » exigent des normes extraordinairement précises et mesurables lorsqu’une responsabilité pénale y est rattachée.

Il existe une autre incertitude majeure. Le résumé public indique que le « développement avancé d’IA » serait suspendu jusqu’à ce qu’un régulateur établisse des règles et des processus de révision des modèles, mais le résumé ne définit pas l’IA avancée. Tant que le texte législatif n’est pas publié, personne en dehors des parrains ne peut savoir exactement quelle part de la recherche et du développement serait concernée par cette pause temporaire.

Le timing de votre proposition montre à quel point ces définitions sont devenues difficiles. Le 3 septembre 2026, le même jour où vous et le représentant Greg Casar avez annoncé une législation ciblant la superintelligence artificielle, OpenAI a publié GPT‑6 Astra, son premier modèle à atteindre le seuil de capacité critique en cybersécurité de l’entreprise. OpenAI affirme qu’avec les bons outils et accès, Astra peut découvrir des vulnérabilités inconnues et concevoir des exploits contre des systèmes bien protégés sans qu’un humain ne dirige chaque étape.

Lors du briefing de lancement, le président d’OpenAI, Greg Brockman, est allé encore plus loin, concluant par la déclaration: «Bienvenue dans l’ère de l’AGI». Pourtant, la fiche technique du système indique simultanément qu’Astra n’atteint pas le seuil élevé d’auto‑amélioration de l’IA.

Cette tension devrait dire quelque chose d’important au Congrès. L’intelligence est multidimensionnelle. Un système peut être extraordinaire en cybersécurité, en mathématiques ou en travail professionnel sans posséder toutes les capacités associées à une explosion d’intelligence ou à une perte de contrôle humain.

La solution n’est donc pas de laisser les entreprises technologiques définir la terminologie. C’est exactement le contraire: la législation devrait réguler les capacités mesurables, l’autonomie, l’accès et le risque démontré, au lieu de faire d’une étiquette contestée la ligne de démarcation entre recherche légale et crime fédéral.

Votre combat pour l’égalité éducative illustre ce qui est en jeu

Depuis des décennies, vous soutenez que l’accès à l’éducation ne doit pas dépendre du revenu des parents. Vous avez d’abord introduit une législation en 2015 visant à rendre les collèges et universités publics de quatre ans gratuits. Vous êtes revenu à ce sujet à plusieurs reprises, et le College for All Act de 2025 rendrait les établissements publics gratuits pour environ 95 % des étudiants, tout en rendant les frais de collège communautaire gratuits pour tous.

Cette philosophie est directement pertinente à l’intelligence artificielle.

Pendant la majeure partie de l’histoire humaine, l’accès à un enseignement d’exception était rare. La géographie, le revenu familial, le financement scolaire et la disponibilité d’enseignants spécialisés influencent tous ce qu’un enfant peut apprendre.

L’IA offre la possibilité de changer cette équation.

Nous voyons déjà les premières preuves. Un essai randomisé de la Banque mondiale au Nigeria a montré que les étudiants suivant un programme de six semaines, soutenu par des enseignants et utilisant le tutorat basé sur GPT‑4, amélioraient leurs performances aux tests de 0,31 écart‑type. À Stanford, le Tutor CoPilot a été testé avec plus de 700 tuteurs et 1 000 étudiants issus de communautés défavorisées ; les étudiants dont les tuteurs recevaient l’aide de l’IA étaient quatre points de pourcentage plus susceptibles de maîtriser les mathématiques, avec des gains atteignant neuf points chez les étudiants assignés à des tuteurs moins bien notés.

Aucune des deux études ne prouve que l’IA résoudra l’inégalité éducative. Aucune ne nécessite l’AGI. Les deux démontrent toutefois la direction que cette technologie peut prendre.

Imaginez que cette direction se poursuive.

Un enfant dans la campagne louisianaise ne devrait pas devoir vivre près d’une école d’élite pour rencontrer un professeur de mathématiques exceptionnel. Un étudiant passionné d’astronomie ne devrait pas devoir attendre l’université pour explorer l’astrophysique. Un enfant fasciné par l’archéologie devrait pouvoir nourrir sa curiosité tandis qu’un tuteur IA identifie les lacunes en lecture, histoire, statistiques et raisonnement scientifique et adapte l’instruction en conséquence.

L’objectif ne doit pas être de remplacer les enseignants. Il doit être de donner aux enseignants et aux étudiants accès à une expertise qui ne pouvait auparavant pas être délivrée économiquement en tête‑à‑tête.

Pour peut‑être la première fois, l’instruction personnalisée à grande échelle est technologiquement plausible. Une loi destinée à protéger les générations futures doit être extrêmement prudente afin de ne pas fermer cette porte.

Votre programme de santé avance le même argument

Votre parcours en matière de santé est tout aussi cohérent. Vous avez introduit le Medicare for All Act en 2017 et l’avez réintroduit en 2019, 2023 et 2025, soutenant à chaque fois que la santé doit être considérée comme un droit plutôt qu’un privilège.

Vous avez également passé des années à combattre une autre forme d’inégalité en santé: la pénurie de professionnels médicaux dans les communautés mal desservies. Vos initiatives Community Health Center et Primary Care Workforce Expansion visaient à élargir l’accès dans les zones médicalement sous‑desservies, tandis que votre législation bipartite de soins primaires de 2023 avec le sénateur Roger Marshall proposait d’augmenter considérablement le financement des centres de santé communautaires et d’étendre le National Health Service Corps ainsi que le pipeline de résidences médicales. En 2025, vous et le sénateur Jeff Merkley avez introduit le Health Care Workforce Expansion Act, incluant une aide financière aux frais de scolarité destinée à augmenter le nombre de médecins, infirmières et dentistes, notamment dans les communautés rurales.

Ces politiques traitent de la rareté financière et de la rareté des ressources humaines.

L’IA pourrait aider à résoudre une troisième rareté: le savoir expert.

La FDA estime actuellement que plus de 10 000 maladies rares touchent plus de 30 millions d’Américains, soit environ une personne sur dix, et que la plupart de ces maladies n’ont toujours pas de traitements approuvés. Les petites populations de patients rendent également les essais cliniques conventionnels particulièrement difficiles.

L’intelligence artificielle n’est pas un raccourci magique contournant la biologie ou la validation clinique. Les médicaments découverts grâce à l’IA peuvent échouer comme tout autre médicament. Mais elle transforme déjà certaines étapes du processus de découverte.

En 2025, des chercheurs ont publié le premier essai randomisé de phase 2a du rentosertib, une petite molécule pour la fibrose pulmonaire idiopathique dont la cible et la molécule ont été découvertes à l’aide d’une IA générative. Les résultats représentent une véritable avancée clinique, tandis que les chercheurs ont averti que relativement peu de médicaments découverts par IA avaient atteint les essais cliniques et qu’aucun n’avait encore complété la phase 3 à l’époque.

C’est exactement la façon équilibrée dont nous devons envisager cette technologie: ni hype ni rejet.

Des systèmes d’IA de plus en plus capables peuvent intégrer biologie moléculaire, chimie, génétique, littérature médicale, imagerie, logiciels, analyses statistiques et conception expérimentale. Leur valeur réside précisément dans le fait qu’ils peuvent raisonner à travers des domaines que les humains ont historiquement séparés en spécialités distinctes.

La question pertinente n’est donc pas de savoir si « l’AGI » seule guérira le cancer, la maladie d’Alzheimer, les infections résistantes aux antibiotiques ou les troubles génétiques rares. Personne ne peut promettre cela de façon responsable.

La question est de savoir si le Congrès doit interdire définitivement une forme d’intelligence largement capable avant de savoir ce que cette intelligence pourrait apporter à la résolution de ces problèmes.

Bon nombre des préjudices les plus concrets de l’IA aujourd’hui ne nécessitent pas d’AGI

Il existe un autre problème à faire de l’intelligence générale la cible réglementaire: certains des préjudices les plus conséquents causés par l’IA aujourd’hui proviennent de systèmes qui ne sont en rien proches d’une intelligence artificielle générale.

En 2020, j’ai écrit sur Unite.AI à propos de la façon dont les algorithmes de recommandation de Facebook pouvaient amplifier la désinformation. Le problème n’était pas que Facebook avait créé une intelligence plus intelligente que l’humanité. C’était qu’un système d’optimisation conçu pour maximiser l’engagement pouvait amplifier de façon préférentielle du contenu qui suscite de fortes réactions, quel que soit son apport à la société.

Les conséquences de systèmes de recommandation mal gouvernés sont depuis devenues plus difficiles à ignorer. Amnesty International a conclu que les algorithmes de Meta amplifiaient de façon proactive du contenu incitant à la haine et à la violence contre les Rohingyas en Birmanie, augmentant le risque de violence de masse. La Commission européenne a séparément demandé des informations à YouTube, Snapchat et TikTok concernant les risques des systèmes de recommandation liés à du contenu nuisible, aux élections et au discours civique, aux comportements addictifs, aux « trous de lapin », à la santé mentale et aux mineurs.

Aucun de ces systèmes n’avait besoin de renverser un gouvernement. Aucun n’avait besoin d’une auto‑amélioration récursive. Aucun n’avait besoin d’un raisonnement général surhumain.

Ils n’avaient besoin que d’un objectif erroné, déployé à une échelle suffisante.

Cela illustre un principe fondamental pour la régulation de l’IA: le préjudice n’est pas déterminé uniquement par le niveau d’intelligence d’un modèle. Un algorithme étroit déployé des milliards de fois sous de mauvaises incitations peut être socialement destructeur. Un système très général fonctionnant sous des contrôles stricts dans un laboratoire, une salle de classe ou un hôpital peut être immensément bénéfique.

La régulation doit reconnaître cette différence.

Les technologies à double usage nécessitent un contrôle de l’utilisation, de l’accès et de l’autorité

Le même principe s’applique à la surveillance.

Les technologies de vision par ordinateur et de reconnaissance de formes peuvent aider les médecins à analyser des images médicales, inspecter des environnements industriels dangereux, guider des robots de secours et automatiser des tâches que les humains ne devraient pas avoir à accomplir.

Ces technologies connexes peuvent également être utilisées pour construire des systèmes de surveillance extraordinairement puissants.

Une enquête récente du Washington Post a révélé qu’au moins 50 agents des forces de l’ordre avaient été accusés, inculpés ou condamnés pour avoir détourné des systèmes automatisés de lecture de plaques d’immatriculation afin de surveiller des personnes à des fins personnelles non autorisées. Dans un cas, un chef de police aurait interrogé les véhicules d’un ancien partenaire et de sa fille adolescente près de 600 fois. Une enquête ultérieure a porté le nombre identifié d’officiels accusés, inculpés ou condamnés pour abus à au moins 69.

C’est un échec sérieux de la politique technologique.

Mais observez où se situent les leviers réglementaires pratiques. Après l’enquête, Flock a annoncé que les recherches nécessiteraient des codes de cas criminels, que la détection automatisée d’abus deviendrait obligatoire, et que la conservation par défaut des données passerait de 30 jours à sept. Ces mesures peuvent ou non être suffisantes, mais elles démontrent les types de contrôles que les législateurs peuvent réguler: autorisation, limitation de l’objectif, traçabilité, conservation, responsabilité humaine et sanctions en cas d’abus.

La réponse à la surveillance abusive n’est pas d’interdire la vision par ordinateur.

La réponse aux cyberattaques non autorisées n’est pas nécessairement d’interdire un modèle capable de cybersécurité.

La réponse consiste à réguler ce que les systèmes sont autorisés à faire, quelles ressources ils peuvent accéder, qui peut autoriser des actions conséquentes et ce qui se passe lorsque ces limites sont violées.

Vous avez déjà rédigé une partie d’un modèle réglementaire meilleur

Il est intéressant de noter qu’une autre législation que vous avez introduite cette année comporte plusieurs idées qui pointent vers une approche plus productive.

J’ai lu le texte complet de votre Artificial Intelligence Data Center Moratorium Act. Bien que je ne sois pas d’accord avec l’arrêt complet de la construction de centres de données, les conditions que vous proposez pour lever éventuellement ce moratoire sont beaucoup plus concrètes qu’une interdiction globale d’une catégorie d’intelligence.

Votre projet de loi stipule que les centres de données d’IA ne doivent pas augmenter les factures d’électricité des consommateurs, aggraver le changement climatique ou nuire à l’environnement. Il prévoit que les communautés affectées aient une voix, des normes de travail fortes et un reporting public sur la consommation d’eau, l’énergie, les émissions de gaz à effet de serre, les eaux usées, les produits chimiques de refroidissement, le bruit, les emplois et d’autres impacts.

Ce sont des externalités mesurables. C’est exactement là que la régulation peut être efficace.

J’irais plus loin sur l’énergie. L’industrie de l’IA ne devrait pas pouvoir invoquer la demande croissante d’électricité comme excuse pour prolonger la vie des centrales à charbon non atténuées ou transférer les coûts d’infrastructure aux consommateurs ordinaires. Les nouveaux projets hyperscalaire devraient être tenus d’apporter une génération supplémentaire d’électricité à faible ou zéro carbone au réseau et de divulguer leurs impacts en eau et en énergie.

Il existe déjà des exemples prometteurs de ce à quoi pourrait ressembler cette transition. Le système P3 d’Exowatt capture l’énergie solaire sous forme de chaleur, la stocke et la convertit en électricité dispatchable, conçue en partie pour les charges de centres de données. Et cette semaine même, Fervo Energy a annoncé un accord de 396 MW avec Google pour une énergie géothermique améliorée sans carbone 24 h/24 et 7 j/7 dans l’Utah, avec une option qui pourrait porter le total à près d’un gigawatt.

L’appétit énergétique de l’IA peut devenir soit une raison d’étendre des infrastructures polluantes, soit un moteur de demande énorme pour de nouvelles technologies d’énergie propre.

La politique gouvernementale peut aider à déterminer quel résultat se produira.

Et votre propre American AI Sovereign Wealth Fund Act, introducé en juin, contient un autre principe avec lequel je suis fortement d’accord: si l’IA crée une valeur économique extraordinaire, les gens ordinaires devraient en partager les bénéfices. Votre proposition envisage explicitement que la richesse générée par l’IA contribue finalement à la santé, à l’éducation, au logement et à un environnement sain.

Cela reconnaît quelque chose de crucial: l’intelligence artificielle possède un potentiel de valeur extraordinaire. La vraie question politique est de savoir comment cette valeur est contrôlée et répartie.

Une meilleure alternative à une interdiction permanente

Je vous encourage à conserver les parties les plus fortes du Ban Artificial Superintelligence Act: le régulateur fédéral, l’expertise technique indépendante, la surveillance obligatoire des systèmes de pointe, des sanctions significatives et la coordination internationale. Mais je modifierais fondamentalement ce qui déclenche l’interdiction et comment le développement bénéfique peut se poursuivre.

• Réguler les capacités dangereuses mesurables plutôt que l’étiquette AGI ou ASI. Établir des seuils techniques définis autour de l’offensive cyber autonome, de la facilitation d’armes biologiques ou chimiques, du contournement d’arrêt, de la réplication non autorisée, de la tromperie stratégique et d’autres capacités pouvant causer des dommages catastrophiques.
• Exiger des licences et des évaluations indépendantes au‑delà des seuils de pointe. Les développeurs devraient devoir démontrer la sécurité avant de déployer des systèmes possédant les capacités dangereuses spécifiées, avec des évaluations répétées à mesure que les modèles gagnent de nouveaux outils, permissions ou autonomies. Les incidents graves devraient entraîner des obligations de divulgation obligatoires.
• Donner à un régulateur indépendant un véritable pouvoir d’exécution. L’agence que vous proposez devrait pouvoir auditer les laboratoires de pointe, obtenir des informations, imposer des remédiations et suspendre les déploiements dangereux. Mais les normes devraient être transparentes, techniquement mesurables et réexaminées périodiquement par des experts scientifiques indépendants.
• Interdire les applications nuisibles quel que soit le niveau d’intelligence du modèle sous‑jacent. Les cyberattaques non autorisées, la surveillance illégale, l’assistance biologique dangereuse et d’autres usages inacceptables devraient rester illégaux qu’ils soient réalisés avec un modèle étroit, un système AGI ou un logiciel conventionnel.
• Créer des voies contrôlées pour la recherche à valeur sociétale. La médecine, la découverte scientifique, l’éducation, la défense en cybersécurité et la recherche d’alignement devraient disposer de mécanismes réglementés permettant l’accès à des modèles puissants sous une supervision humaine appropriée, une validation, une sécurité et des exigences d’audit.
• Faire en sorte que l’infrastructure d’IA assume pleinement ses coûts sociaux et environnementaux tout en coordonnant à l’échelle internationale. Protéger les consommateurs, exiger une transparence totale sur la consommation d’eau et d’énergie, accélérer la génération d’énergie propre supplémentaire, maintenir des protections communautaires et syndicales significatives, et travailler avec les alliés sur des normes communes de capacité, d’évaluations et de contrôles à l’export.

Cela ne reviendrait pas à faire confiance à la Silicon Valley.

Au contraire.

L’industrie technologique a donné au Congrès de nombreuses raisons de ne pas se fier à l’autorégulation volontaire. Les incidents d’OpenAI et d’Anthropic démontrent à eux seuls pourquoi l’IA de pointe nécessite une surveillance externe et des normes de sécurité applicables.

Mais la méfiance envers les entreprises technologiques ne doit pas devenir une méfiance envers le progrès technologique lui‑même.

Le choix n’est pas une accélération téméraire ou une interdiction

Sénateur Sanders, tout au long de votre carrière vous avez constamment combattu la rareté.

Vous avez combattu l’idée que le revenu d’une famille détermine si un enfant reçoit une éducation. Vous avez combattu un système de santé où le compte bancaire ou le code postal d’une personne peut influencer les soins reçus. Vous avez combattu des structures économiques où d’énormes gains s’accumulent entre les mains d’un petit groupe tandis que le reste de la population absorbe les coûts.

L’intelligence artificielle pourrait aggraver chacun de ces problèmes.

Elle pourrait concentrer une richesse sans précédent. Elle pourrait remplacer des travailleurs sans partager les gains de productivité. Elle pourrait permettre une surveillance, une manipulation et des cyberattaques. Elle pourrait placer un pouvoir extraordinaire entre les mains d’un petit nombre de sociétés.

Ces risques justifient la régulation.

Mais l’IA pourrait aussi réduire l’une des formes les plus anciennes d’inégalité dans la civilisation humaine: l’inégalité d’accès à l’expertise.

Un monde où chaque enfant peut accéder à un enseignement personnalisé, chaque médecin peut s’appuyer sur un soutien analytique extraordinaire, chaque scientifique peut interroger des siècles de recherche accumulée, et les maladies négligées parce que leurs populations sont trop petites reçoivent davantage d’attention scientifique, vaut également la peine d’être défendu.

Nous ne devrions pas devoir choisir entre cet avenir et la sécurité de l’IA.

L’objectif plus judicieux est de rendre l’IA puissante difficile à abuser, difficile à perdre le contrôle, suffisamment transparente pour être auditée, coûteuse à déployer de manière imprudente et largement accessible à des fins socialement bénéfiques.

Interdire les conduites qui mettent l’humanité en danger. Licencier les capacités dangereuses. Punir les déploiements négligents et malveillants. Obliger les entreprises à internaliser les coûts environnementaux de leurs infrastructures. Protéger les travailleurs. Donner au public une part des gains économiques. Et créer un régulateur indépendant capable de dire même aux plus grandes entreprises technologiques du monde « non ».

Mais, s’il vous plaît, ne définissez pas l’intelligence interdite de façon si large que le simple fait de correspondre aux capacités cognitives humaines dans de nombreux domaines devienne, en soi, un crime.

Votre œuvre de vie s’est centrée sur l’élargissement de l’accès à des choses autrefois réservées aux privilégiés.

L’intelligence artificielle avancée pourrait devenir le plus grand moteur de pouvoir concentré que nous ayons jamais créé.

Ou elle pourrait devenir l’un des plus grands outils jamais créés pour démocratiser le savoir, l’éducation, la médecine et la capacité scientifique.

Une législation judicieuse peut aider à déterminer quel avenir nous obtiendrons.