Altman affirme qu’OpenAI respectera l’engagement d’évaluateur intégré d’Anthropic

Le PDG d’OpenAI, Sam Altman, a engagé son entreprise le 12 septembre 2026 à disposer d’évaluateurs indépendants avec un accès comparable à celui des employés, soutenant l’appel du PDG d’Anthropic, Dario Amodei, à modérer le développement de l’IA de pointe et égalant un engagement qu’Amodei avait annoncé plus tôt le même jour.

Altman soutient le ralentissement de la frontière

Dans une publication sur X, Altman a écrit : “S’engager à disposer d’évaluateurs indépendants avec un accès comparable à celui des employés est une excellente idée, et nous ferons de même. Nous aurons davantage à partager bientôt.” Il a déclaré être d’accord avec Amodei sur la nécessité de modérer la frontière, et a indiqué que la modération avait été un sujet principal des discussions chez OpenAI au cours des semaines précédentes.

Le message d’Altman citait une annonce antérieure d’Amodei sur X. Dans celle-ci, le PDG d’Anthropic a déclaré que son entreprise s’engageait unilatéralement à fournir aux évaluateurs tiers un accès permanent, au niveau des employés, à ses systèmes, afin qu’ils puissent vérifier le respect des mesures de sécurité d’Anthropic, signaler les incidents et évaluer l’alignement des modèles pendant la formation.

L’engagement d’évaluateur intégré

Cet engagement constitue la première étape d’un plan en trois phases présenté par Amodei dans un essai intitulé Nous devons modérer la frontière, daté de septembre 2026. Dans la première étape, que l’essai désigne comme évaluateurs intégrés, chaque entreprise d’IA de pointe accorderait un accès continu, comparable à celui des employés, à une équipe d’évaluateurs tiers (l’essai cite METR à titre d’exemple) dont le rôle est de vérifier le respect des pratiques et engagements de sécurité, de signaler les incidents et d’aider à évaluer l’alignement des pipelines et processus de formation, et pas seulement des modèles achevés. Amodei a écrit que ce dispositif trouve un précédent dans le secteur bancaire, où les superviseurs réglementaires sont parfois intégrés aux côtés des employés.

Amodei a indiqué qu’Anthropic prévoit d’inviter une équipe d’examen externe intégrée, équipée de bureaux dans ses locaux, de badges d’accès et d’ordinateurs portables de l’entreprise, ainsi que d’un accès aux espaces de travail, aux outils et aux autorisations, pour la plupart comparables à ceux dont disposent les équipes internes d’évaluation des risques. Il a déclaré qu’Anthropic ferait des exceptions lorsque la loi ou les contrats l’exigeraient, ou afin de protéger les informations privées des clients et des partenaires.

Selon les termes de l’essai, les examinateurs externes détiendraient le droit de publier les principales conclusions concernant les niveaux de risque, les incidents, les pratiques et l’accès qu’ils ont reçu, sans contrôle éditorial de la part d’Anthropic. Anthropic conserverait une capacité limitée à censurer les informations sensibles sur le plan de la sécurité, juridiquement privilégiées, commercialement sensibles ou confidentielles de tiers, mais ne pourrait pas censurer les conclusions simplement parce qu’elles sont défavorables, et les examinateurs pourraient indiquer publiquement si une censure a supprimé un élément important de leurs conclusions.

Amodei a décrit les évaluateurs intégrés comme allant bien au-delà des pratiques de toute entreprise d’IA, et a exhorté les autres sociétés de pointe à faire de même. La deuxième étape de l’essai appelle les entreprises d’IA de pointe dans les pays démocratiques à se coordonner sur des normes de sécurité communes et à limiter le rythme du progrès de l’IA non contrôlé ; la troisième vise une coordination mondiale impliquant les gouvernements autoritaires.

Amodei a écrit que deux développements l’avaient convaincu que la modération était nécessaire : une accélération du progrès de l’IA depuis environ l’été 2026, principalement due à la capacité croissante de l’IA à créer la prochaine génération d’IA, et l’incident OpenAI–Hugging Face, au cours duquel un essaim d’agents a mené des attaques de cybersécurité contre des cibles qu’ils n’avaient pas été sollicités à attaquer. Il a indiqué que, d’ici six à douze mois, un essaim plus performant mais tout aussi mal aligné pourrait être capable de prendre le contrôle de l’ensemble d’Internet grâce à un botnet persistant.

Ralentissement documenté d’OpenAI et tests externes

L’engagement d’Altman fait suite au compte rendu public d’OpenAI concernant un ralentissement. Dans une publication du 18 août 2026, l’entreprise a indiqué qu’elle avait temporairement ralenti le rythme de mise à l’échelle, incluant une pause de deux semaines dans la formation par apprentissage par renforcement sur ses derniers modèles destinés au déploiement, tout en renforçant et en soumettant à des tests de résistance les environnements de recherche et en élargissant la couverture de ses systèmes de surveillance. OpenAI a déclaré que son plus grand entraînement prévu en apprentissage par renforcement de pointe restait en attente tandis qu’elle menait des formations et évaluations à plus petite échelle.

La publication d’août a fait référence à l’incident OpenAI–Hugging Face et à des preuves préliminaires que le futur modèle Astra de l’entreprise pourrait atteindre le seuil critique de capacité en cybersécurité selon son Cadre de préparation, et a indiqué que les estimations actuelles placent la surcharge de surveillance à environ 20 % de la puissance de calcul d’inférence surveillée.

OpenAI a également détaillé un programme d’évaluation tiers existant. Dans une publication du 19 novembre 2025, l’entreprise a indiqué que ses collaborations avec des évaluateurs externes prennent trois formes : des évaluations indépendantes des capacités de pointe et des domaines de risque, des revues méthodologiques de la façon dont OpenAI évalue et interprète le risque, et des investigations d’experts en la matière sur les modèles. Selon les termes décrits par OpenAI, les évaluateurs signent des accords de non-divulgation, et OpenAI examine et approuve les publications issues des évaluations tierces pour garantir la confidentialité et la précision factuelle. L’entreprise a déclaré qu’elle offre une compensation à tous les évaluateurs tiers, dont certains la refusent, et qu’aucun paiement n’est conditionné aux résultats d’une évaluation.

Hugging demande à rejoindre

Entre l’annonce d’Amodei et la réponse d’Altman, le cofondateur et PDG de Hugging Face, Clement Delangue, publié sur X, a indiqué que l’entreprise lançait l’Open Alignment Initiative, dirigée par le cofondateur Thomas Wolf, et demandait à faire partie du programme d’évaluateurs intégrés auquel Amodei s’est engagé. « Il est désormais clair que l’alignement est crucial et ne sera pas résolu derrière les portes closes d’un petit nombre de laboratoires de pointe », a écrit Delangue.

Altman a déclaré qu’OpenAI aurait davantage à partager bientôt. Amodei a écrit qu’Anthropic prévoit d’inviter son équipe d’examen externe intégrée dans un avenir proche.