Anthropic incorpora a seis evaluadores de METR con acceso similar al de sus empleados

Anthropic anunció el 15 de octubre de 2026 que ha empezado a proporcionar acceso similar al de sus empleados a un equipo integrado de METR, una organización sin ánimo de lucro que evalúa modelos de IA de vanguardia. Se ha incorporado a seis empleados de METR, que ahora cuentan con equipos de la empresa, espacio de oficina y acceso a herramientas y sistemas internos.

El anuncio se produce tras el compromiso de Anthropic, en septiembre de 2026, de reforzar la evaluación independiente y externa de sus modelos y prácticas de seguridad, así como su firma del Acuerdo de la Casa Blanca sobre Superinteligencia, en virtud del cual las empresas se comprometieron a colaborar con auditores o evaluadores externos independientes. Anthropic afirmó que durante el último año ha trabajado con METR en varias revisiones de sus informes de riesgos.

Las condiciones del acceso similar al de los empleados

Anthropic afirmó que el acceso del equipo integrado a las herramientas y los sistemas internos es, en líneas generales, equiparable al que tienen sus propios equipos de evaluación de riesgos. Salvo en un reducido número de categorías claramente definidas —datos sobre clientes, información protegida por el secreto profesional entre abogado y cliente e información sobre las arquitecturas de los modelos—, se anima a los empleados de Anthropic a compartir información con el equipo como lo harían con un compañero que trabajara en riesgos de alineación.

Una nota al pie del anuncio explica la excepción relativa a las arquitecturas. Como los evaluadores, al igual que los inspectores bancarios, también pueden trabajar con otras empresas, Anthropic afirmó que actúa con cautela ante la posibilidad de filtraciones involuntarias: la información sobre arquitecturas entraña un alto riesgo de que se produzcan y, por lo general, es poco pertinente para la evaluación de riesgos. Cuando la información sobre arquitecturas es muy pertinente, Anthropic normalmente intentará compartirla, aunque para hacerlo necesitará autorizaciones internas explícitas.

Según las condiciones de publicación del acuerdo, METR publicará su análisis de los niveles de riesgo, los incidentes o las prácticas de Anthropic. Anthropic no puede vetar la publicación, pero sí puede exigir a METR que elimine la información que corresponda a categorías limitadas y definidas de antemano. METR puede describir públicamente las supresiones y decir si considera que estaban justificadas, siempre que no revele la información suprimida.

La colaboración se limita a un equipo pequeño que trabaja en virtud de acuerdos exigibles, y el resto de los empleados de METR —incluidos los investigadores que colaboran con Anthropic en otros proyectos— permanece separado del trabajo del equipo integrado. Anthropic describió la evaluación integrada como una forma de permitir que unas pocas personas cualificadas, sujetas a sus normas de seguridad, conozcan de cerca su funcionamiento, y afirmó que no sirve para que otras organizaciones obtengan su información ni la de sus clientes y socios.

Los motivos de Anthropic para recurrir a evaluaciones independientes

La empresa afirmó que, a medida que los modelos se han vuelto más potentes, han hecho falta salvaguardias más estrictas y evaluaciones de riesgos más complejas. Anthropic dijo que quiere rendir cuentas públicamente por las decisiones que toma, pero que no puede divulgar toda la información pertinente para su trabajo de seguridad, porque parte de ella podría ser útil para actores malintencionados o es comercialmente sensible, como la información sobre capacidad de cómputo o entrenamiento. En su lugar, está dando a evaluadores externos acceso amplio a su información y pidiéndoles que compartan pruebas y conclusiones razonadas sobre los riesgos que implica desarrollar sus modelos, con el objetivo de reducir la brecha entre lo que los evaluadores saben sobre los sistemas de una empresa de IA de vanguardia y lo que sabe la propia empresa.

El anuncio enumera cuatro requisitos para que los evaluadores puedan evaluar modelos de vanguardia: experiencia en la evaluación de las capacidades de esos modelos, incluida la comprensión de las formas en que las evaluaciones pueden fallar, como la simulación de alineación; independencia, es decir, no tener participaciones en la empresa evaluada ni depender de ella financiera u operativamente; acceso suficiente para evaluar los riesgos de forma significativa, que vaya más allá de los modelos más recientes e incluya información sobre cómo se entrenaron y cómo funcionan las salvaguardias; y libertad para publicar observaciones y evaluaciones de un modelo o proceso.

Anthropic estableció una analogía con la supervisión bancaria, aunque reconoció que no es exacta: los bancos conocen mejor que los agentes externos sus propios niveles de riesgo, por lo que los organismos reguladores asignan inspectores residentes para trabajar dentro de los bancos más grandes; y, si la asunción de riesgos de un banco pudiera amenazar al público, terceros intentan detectarlo de antemano.

Tres niveles de acceso

Anthropic afirmó que está desarrollando tres niveles de acceso para los evaluadores. En el primero, estos llevan a cabo investigaciones de riesgos de alcance limitado; Anthropic decide qué acceso conceder y los evaluadores pueden publicar sus conclusiones con la aprobación de la empresa. En el segundo, los evaluadores pueden publicar sin la aprobación de Anthropic y acceden a más información, aunque la empresa todavía puede exigir que se eliminen categorías específicas de información; por su parte, los evaluadores pueden publicar sus opiniones sobre si las supresiones estaban justificadas. El tercer nivel corresponde al acuerdo con METR: acceso similar al de los empleados y derechos de publicación parecidos a los del segundo nivel.

Anthropic afirmó que espera contar con varios evaluadores en el tercer nivel con el tiempo, y que cada equipo publique su propio análisis de su perfil de riesgo y de sus decisiones clave.

SecureBio, Accenture y conversaciones en fase inicial

SecureBio se encuentra actualmente en el primer nivel. Está revisando el capítulo sobre armas químicas y biológicas del Informe de riesgos de Anthropic de agosto de 2026, tras completar y publicar una revisión piloto del informe de riesgos anterior. Anthropic dijo que, una vez concluida esta revisión, considerará pasar a proyectos con mayor acceso y derechos de publicación.

Anthropic dijo que está trabajando para establecer una colaboración con Accenture y Faculty que incluya evaluar modelos y someterlos a pruebas adversariales, realizar evaluaciones de alineación, probar las salvaguardas de los modelos y desarrollar capacidades en las organizaciones.

Anthropic también dijo que mantiene conversaciones preliminares con varias otras organizaciones, entre ellas Hugging Face. Dado que esas colaboraciones aún se encuentran en una fase inicial, Anthropic proporciona a esos evaluadores información más limitada y ellos tienen derechos de publicación más restringidos, mientras Anthropic confirma que sus socios protegen la información confidencial y cuentan con los recursos y la experiencia necesarios. Anthropic dijo que, a medida que avancen las colaboraciones y se afiance la confianza, su objetivo es integrar plenamente a más evaluadores independientes.

El compromiso de septiembre

En septiembre de 2026, el cofundador de Anthropic, Dario Amodei, publicó un ensayo, «Debemos marcar el ritmo de la frontera», que planteaba integrar evaluadores con un acceso similar al de los empleados como primer paso de un plan de tres etapas para marcar el ritmo del desarrollo de la IA de frontera. Amodei escribió que Anthropic se compromete unilateralmente a dar ese paso e instó a los gobiernos a exigir que otras empresas de IA de frontera hagan lo mismo. Escribió que «debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA», para que la prevención de riesgos tenga tiempo de seguir el paso al avance de las capacidades.

El ensayo decía que Anthropic tiene la intención de invitar a un equipo externo de revisión integrado, al que proporcionaría escritorios en sus oficinas, credenciales de acceso y ordenadores portátiles de la empresa; acceso a espacios de trabajo, herramientas y permisos en su mayoría comparables a los de los equipos internos de evaluación de riesgos, con algunas excepciones cuando lo exijan la ley o los contratos, o para proteger la información privada de clientes y socios; y un contrato que otorgaría a los revisores externos el derecho a publicar conclusiones clave sobre los niveles de riesgo, los incidentes, las prácticas y el acceso que recibieron o no recibieron, sin que Anthropic tuviera control editorial sobre la publicación. En virtud de esas condiciones previstas, Anthropic conservaría una facultad limitada para suprimir información delicada por motivos de seguridad, amparada por el secreto profesional, comercialmente sensible o confidencial de terceros, pero no podría suprimir conclusiones solo porque fueran desfavorables; además, los revisores podrían declarar públicamente si una supresión hubiera eliminado algo importante para sus conclusiones.

Anthropic dijo que integra evaluadores de forma voluntaria y que considera que todas las empresas de IA de frontera deberían hacer lo mismo. Dijo que avanza con rapidez junto a varios evaluadores, que está aprendiendo activamente qué tipos de colaboración funcionan y que se compromete a compartir novedades a medida que avance.