Anthropic intègre six évaluateurs de METR avec un accès comparable à celui des employés

Anthropic a annoncé le 15 octobre 2026 avoir commencé à accorder un accès comparable à celui des employés à une équipe intégrée de METR, une organisation à but non lucratif qui évalue les modèles d’IA de pointe. Six employés de METR ont été intégrés à l’entreprise et disposent de matériel informatique, de bureaux et d’un accès aux outils et systèmes internes.

Cette annonce fait suite à l’engagement pris par Anthropic en septembre 2026 de renforcer l’évaluation indépendante, par des tiers, de ses modèles et de ses pratiques en matière de sécurité, ainsi qu’à la signature de l’Accord de la Maison-Blanche sur la superintelligence, dans lequel des entreprises se sont engagées à collaborer avec des auditeurs ou des évaluateurs externes indépendants. Anthropic a indiqué avoir travaillé avec METR au cours de l’année écoulée sur plusieurs examens de ses rapports sur les risques.

Les conditions de l’accès comparable à celui des employés

Anthropic a indiqué que l’accès de l’équipe intégrée aux outils et systèmes internes était à peu près comparable à celui dont disposent ses propres équipes d’évaluation des risques. À l’exception d’un petit nombre de catégories clairement définies — les données sur les clients, les informations couvertes par le secret professionnel entre avocat et client, et les informations sur l’architecture des modèles —, les employés d’Anthropic sont encouragés à partager des informations avec l’équipe comme ils le feraient avec un collègue travaillant sur les risques liés à l’alignement.

Une note de bas de page de l’annonce explique l’exception concernant l’architecture. Comme les évaluateurs, à l’instar des contrôleurs bancaires, peuvent également travailler avec d’autres entreprises, Anthropic a indiqué faire preuve de prudence face au risque de fuites involontaires : les informations sur l’architecture présentent un risque élevé de telles fuites, et leur pertinence pour l’évaluation des risques est généralement faible. Lorsque ces informations sont particulièrement pertinentes, Anthropic cherchera généralement à les partager, mais cela nécessitera des autorisations internes explicites.

Selon les conditions de publication prévues par l’accord, METR publiera son analyse des niveaux de risque, des incidents ou des pratiques d’Anthropic. Anthropic ne peut pas s’opposer à une publication, mais peut demander à METR de caviarder les informations relevant de catégories restreintes définies à l’avance. METR est libre de commenter publiquement ces caviardages et d’indiquer s’il les estime justifiés, à condition de ne pas révéler les informations caviardées.

Cette collaboration se limite à une petite équipe travaillant dans le cadre d’accords contraignants, et les autres employés de METR, notamment les chercheurs qui travaillent avec Anthropic sur d’autres projets, sont tenus à l’écart des travaux de l’équipe intégrée. Anthropic a expliqué que l’évaluation intégrée permet à quelques personnes qualifiées, travaillant selon ses normes de sécurité, d’observer de près son fonctionnement. Elle a précisé qu’il ne s’agissait pas d’un moyen permettant à d’autres organisations d’obtenir ses informations, ni celles de ses clients et partenaires.

Pourquoi Anthropic mise sur l’évaluation indépendante

À mesure que les modèles sont devenus plus puissants, ils ont nécessité des mesures de protection plus robustes et des évaluations des risques plus exigeantes, a indiqué l’entreprise. Anthropic a déclaré vouloir rendre publiquement compte des décisions qu’elle prend, mais ne pas pouvoir divulguer publiquement toutes les informations utiles à ses travaux sur la sécurité, car certaines pourraient être utiles à des acteurs malveillants ou sont sensibles sur le plan commercial, comme les informations sur la puissance de calcul ou l’entraînement. À la place, l’entreprise donne aux évaluateurs tiers un accès approfondi à ses informations et leur demande de communiquer des éléments probants et des conclusions raisonnées sur les risques liés au développement de ses modèles. L’objectif est de réduire l’écart entre ce que les évaluateurs comprennent des systèmes d’une entreprise qui développe des modèles d’IA de pointe et ce que l’entreprise elle-même en comprend.

L’annonce énumère quatre éléments dont les évaluateurs ont besoin pour évaluer les modèles de pointe : une expertise dans l’évaluation de leurs capacités, notamment la compréhension des façons dont les évaluations peuvent échouer, par exemple en raison d’une simulation de l’alignement ; l’indépendance, c’est-à-dire l’absence de participation au capital de l’entreprise évaluée et de dépendance financière ou opérationnelle à son égard ; un accès suffisant pour évaluer réellement les risques, qui ne se limite pas aux modèles les plus récents et donne aussi une visibilité sur leur entraînement et le fonctionnement des mesures de protection ; et la liberté de publier des observations et des évaluations portant sur un modèle ou un processus.

Anthropic a établi un parallèle avec la supervision bancaire, tout en reconnaissant que cette comparaison n’est pas exacte : les banques connaissent mieux leur propre profil de risque que les personnes extérieures. C’est pourquoi les autorités de réglementation affectent des contrôleurs permanents aux plus grandes banques pour qu’ils y travaillent, et, si la prise de risque d’une banque pouvait menacer le public, des tiers cherchent à le détecter à l’avance.

Trois niveaux d’accès

Anthropic a indiqué mettre au point trois niveaux d’accès pour les évaluateurs. Au premier niveau, les évaluateurs mènent des enquêtes sur les risques dont le périmètre est restreint ; Anthropic décide de l’accès à leur accorder, et les évaluateurs peuvent publier leurs conclusions avec son approbation. Au deuxième niveau, les évaluateurs peuvent publier sans l’approbation d’Anthropic et ont accès à davantage d’informations, même si Anthropic peut toujours exiger le retrait de catégories précises d’informations. Les évaluateurs peuvent, quant à eux, publier leur avis sur le bien-fondé des caviardages. Le troisième niveau correspond à l’accord conclu avec METR : un accès comparable à celui des employés et des droits de publication semblables à ceux du deuxième niveau.

Anthropic espère, à terme, compter plusieurs évaluateurs au troisième niveau, chaque équipe publiant sa propre analyse de son profil de risque et de ses décisions clés.

SecureBio, Accenture et des discussions préliminaires

SecureBio se trouve actuellement au premier niveau. L’organisation examine le chapitre consacré aux armes chimiques et biologiques du Risk Report d’Anthropic d’août 2026, après avoir réalisé et publié un examen pilote du précédent rapport sur les risques. Anthropic a déclaré qu’une fois cet examen terminé, elle envisagerait de passer à des projets assortis d’un accès élargi et de droits de publication plus étendus.

Anthropic a déclaré travailler à la mise en place d’un partenariat avec Accenture et Faculty, qui comprendrait l’évaluation des modèles et leur mise à l’épreuve par des exercices d’équipe rouge, la réalisation d’évaluations de l’alignement, le test des garde-fous des modèles et le développement des capacités des organisations.

Anthropic a également indiqué mener des discussions préliminaires avec plusieurs autres organisations, dont Hugging Face. Ces partenariats n’en étant qu’à leurs débuts, Anthropic fournit aux évaluateurs concernés des informations plus limitées et ceux-ci disposent de droits de publication plus restreints, le temps qu’Anthropic vérifie que ses partenaires protègent les informations confidentielles et disposent des ressources et de l’expertise requises. Anthropic a déclaré que son objectif était d’intégrer pleinement davantage d’évaluateurs indépendants à mesure que les partenariats progressent et que la confiance s’installe.

L’engagement de septembre

En septembre 2026, le cofondateur d’Anthropic, Dario Amodei, a publié un essai, « Nous devons maîtriser le rythme de la frontière technologique », qui faisait de l’intégration d’évaluateurs bénéficiant d’un accès comparable à celui des employés la première étape d’un plan en trois volets visant à maîtriser le rythme du développement de l’IA de pointe. Amodei a écrit qu’Anthropic s’engageait unilatéralement à franchir cette étape et a appelé les gouvernements à exiger des autres entreprises de pointe qu’elles en fassent autant. Il a écrit qu’« il faut ralentir le rythme auquel nous améliorons les capacités des modèles d’IA » afin de donner à la prévention des risques le temps de suivre les progrès des capacités.

L’essai indiquait qu’Anthropic avait l’intention d’inviter une équipe d’examen externe intégrée, à laquelle seraient fournis des bureaux dans ses locaux, des badges d’accès et des ordinateurs portables de l’entreprise ; un accès aux espaces de travail, aux outils et aux autorisations globalement comparable à celui des équipes internes chargées de l’évaluation des risques, à quelques exceptions près lorsque la loi ou des contrats l’exigent, ou pour protéger les informations privées des clients et des partenaires ; ainsi qu’un contrat garantissant aux évaluateurs externes le droit de publier leurs principales conclusions sur les niveaux de risque, les incidents, les pratiques et les accès qui leur ont été accordés ou refusés, sans qu’Anthropic exerce de contrôle éditorial sur la publication. Selon les conditions envisagées, Anthropic conserverait une marge de manœuvre limitée pour caviarder des informations sensibles du point de vue de la sécurité, protégées par le secret professionnel, sensibles sur le plan commercial ou confidentielles appartenant à des tiers. Elle ne pourrait toutefois pas caviarder des conclusions au seul motif qu’elles lui sont défavorables, et les évaluateurs pourraient déclarer publiquement qu’un caviardage a supprimé un élément important pour leurs conclusions.

Anthropic a déclaré intégrer des évaluateurs de son plein gré et estime que toutes les entreprises de pointe dans le domaine de l’IA devraient faire de même. Elle a indiqué avancer rapidement avec plusieurs évaluateurs, chercher activement à déterminer quels types de partenariats fonctionnent et s’engager à partager des mises à jour au fil de l’avancement.