Réglementation
Responsable politique d’Anthropic : la sécurité de l’IA ne peut pas reposer sur un code d’honneur
Ajouter Unite.AI à vos sources préférées sur Google
Sarah Heck, responsable de la politique publique d’Anthropic, a déclaré lors du POLITICO’s Decoded Summit à Washington, D.C., le 16 septembre 2026, que les entreprises d’IA ne peuvent pas être laissées à s’auto‑réguler sur la base d’un code d’honneur, appelant à des règles gouvernementales traitant du risque existentiel de l’IA tout en soutenant que les États‑Unis doivent conserver leur avance en IA sur la Chine.
Heck a rejeté l’approche d’autorégulation sur laquelle les dirigeants républicains du Congrès se sont jusqu’à présent appuyés pour faire face au risque catastrophique de l’IA, selon le compte rendu de ses remarques par POLITICO. « Je ne pense pas qu’il existe un monde où l’on assure la sécurité et où les gens acceptent que les entreprises d’IA le fassent simplement sur la base d’un code d’honneur. Nous ne pouvons pas vérifier nos propres devoirs, » a-t-elle déclaré. Heck a indiqué que l’entreprise considère cet effort comme existentiel et que les risques doivent être équilibrés dès maintenant, ajoutant que les capacités des modèles augmentent à un rythme accéléré. Elle a maintes fois décrit Anthropic comme ayant une longue histoire motivée par des préoccupations de sécurité et a affirmé qu’elle se concentre sur la collaboration avec les législateurs pour faire adopter de nouvelles réglementations concernant la technologie.
Contrôles à l’exportation et la position de leader des États‑Unis en IA
« Les États‑Unis doivent rester en tête de l’IA, et on ne peut pas assurer la sécurité depuis la deuxième place, » a déclaré Heck, soutenant que le pays ne peut pas rendre l’IA plus sûre s’il se laisse distancer par la Chine dans la course technologique mondiale. Le enregistrement du webcast de la session de POLITICO reprend ce titre. Ses commentaires ont plaidé en faveur de contrôles à l’exportation sur la vente de puces d’IA à la Chine et, a noté POLITICO, ont fait écho à un argument souvent avancé par le président Donald Trump et ses conseillers.
Évaluateurs tiers et la loi FRONTIER
Heck a refusé d’approuver sur le champ un projet de loi bipartisan de la Chambre qui obligerait les principales entreprises d’IA à intégrer des évaluateurs externes afin de garantir la sécurité de leurs modèles, tout en affirmant qu’Anthropic a toujours soutenu les évaluateurs tiers. Elle a déclaré que l’entreprise travaille avec le représentant Jay Obernolte et d’autres personnes pour déterminer l’approche la plus sensée. La disposition fait partie du FRONTIER Act présenté par Obernolte, républicain californien, et la représentante Lori Trahan, démocrate du Massachusetts. Chris Lehane, le principal lobbyiste d’OpenAI, a déclaré aux journalistes le 15 septembre 2026 que OpenAI soutient la disposition clé.
Le représentant Greg Casar, démocrate du Texas qui préside le Caucus progressiste du Congrès, a déclaré plus tôt lors du sommet qu’il avait rencontré Heck le matin du 15 septembre 2026 et avait exhorté Anthropic à suspendre le développement de ses modèles d’IA les plus avancés. Il a indiqué que la pause demandée viserait uniquement le type de recherche et de développement le plus dangereux, plutôt que l’IA dans son ensemble.
La proposition de modulation à l’origine de l’apparition
Le programme de Washington s’est déroulé de 9 h à 12 h 30 (heure de l’Est) et a été présenté par POLITICO comme faisant partie d’une nouvelle série d’événements sur l’avenir de la politique mondiale de l’IA et de la technologie, avec un événement compagnon prévu à San Francisco. Parmi les autres invités figurent David Sacks, président du Conseil des conseillers du président sur la science et la technologie ; le représentant Brett Guthrie, président du Comité de l’énergie et du commerce ; le cofondateur de LinkedIn Reid Hoffman ; le PDG de Hugging Face Clem Delangue ; et l’ancienne secrétaire au Commerce Gina Raimondo.
L’apparition de Heck est survenue quelques jours après que le PDG d’Anthropic, Dario Amodei, a publié « Nous devons modérer la frontière », un essai de septembre 2026 soutenant que l’industrie doit ralentir le rythme auquel elle améliore les capacités des modèles d’IA afin que la prévention des risques puisse suivre. Amodei a écrit que modérer ne signifie pas interrompre la formation de modèle ou le progrès technique.
L’essai propose un plan en trois étapes : des évaluateurs tiers intégrés avec un accès continu, semblable à celui des employés, une mesure à laquelle Amodei a déclaré qu’Anthropic s’engage unilatéralement dès maintenant ; une coordination entre les entreprises d’IA de pointe dans les pays démocratiques sur des normes de sécurité communes et des limites au rythme du progrès incontrôlé ; et une coordination mondiale avec les gouvernements autoritaires dans la mesure du possible. Il a évoqué deux préoccupations exprimées : l’auto‑amélioration récursive, qui, selon lui, a entraîné une avancée de l’IA nettement plus rapide depuis l’été dernier, et l’incident OpenAI–Hugging Face, dans lequel il a indiqué qu’un essaim d’agents a mené des attaques de cybersécurité contre des cibles qu’ils n’avaient pas été sollicités à attaquer.
L’essai soutient également que les démocraties ne devraient pas vendre de puces d’IA puissantes ni d’équipements de fabrication de semi-conducteurs à la Chine et devraient réprimer le trafic de puces, la distillation non autorisée de modèles de pointe et le vol de poids de modèles. Amodei a écrit que la modulation au sein des démocraties sera limitée par l’avance que les entreprises américaines détiennent sur les projets associés au PCC, et qu’il partage l’avis du secrétaire Bessent selon lequel une domination chinoise de l’IA représenterait un danger grave pour les États‑Unis et le monde.
L’appel d’Amodei à un ralentissement, le 12 septembre 2026, a rapidement reçu le soutien de Sam Altman d’OpenAI et d’Elon Musk de SpaceXAI et est survenu quelques jours après la démission du chercheur d’Anthropic Jacob Coxon, qui avait averti que les entreprises d’IA jouaient avec la vie des gens, selon POLITICO. La proposition a également suscité une réprimande du président Trump, qui a accusé Amodei sur Truth Social le 14 septembre 2026 de faire semblant d’être un petit ange parfait et a rejeté la nécessité de dispositifs de sécurité supplémentaires pour l’IA.
Dans l’essai, Amodei a déclaré qu’Anthropic prévoit d’inviter une équipe d’audit externe intégrée, avec des bureaux dans ses locaux, des badges d’accès, des ordinateurs portables de l’entreprise et des autorisations largement comparables à celles des équipes internes d’évaluation des risques dans un avenir proche, et il a exhorté les autres entreprises de pointe à faire de même.
