Alianzas
OpenAI firma acuerdos con cuatro evaluadores independientes para realizar revisiones de seguridad integradas

Puntos claveEl acceso sostenido a puntos de control y datos de entrenamiento permite a los…
Ver más
- El acceso sostenido a puntos de control y datos de entrenamiento permite a los evaluadores probar fallos que los propios monitores de OpenAI podrían pasar por alto.
- Apollo Research investiga si los modelos podrían actuar de forma encubierta contra los desarrolladores y si las salvaguardas lo detectarían.
- El Comité de Seguridad y Protección recibe informes sin censura y puede hablar en privado con los evaluadores durante las revisiones.
OpenAI anunció el 16 de noviembre de 2026 que había firmado acuerdos con Apollo Research, METR, Transluce y Goodfire para la primera fase de sus evaluaciones integradas. Las cuatro organizaciones evaluarán la alineación y las salvaguardias durante el entrenamiento y el uso interno, con acceso que puede incluir puntos de control de los modelos, código fuente, datos de entrenamiento y sistemas de supervisión.
La característica definitoria es el acceso sostenido a modelos y sistemas internos durante un periodo prolongado, en particular cuando están relacionados con los casos de seguridad de OpenAI. OpenAI afirma que ese acceso busca permitir que los evaluadores examinen pruebas y contexto, realicen evaluaciones independientes y descubran fallos que quizá no se hayan previsto. También presenta la publicación de informes sobre las evaluaciones como una forma de ofrecer al público una visión más clara de cómo los laboratorios evalúan y gestionan los riesgos.
Mandatos distintos para cada evaluador
Apollo Research examinará si los modelos podrían actuar a escondidas contra las intenciones de sus desarrolladores y si las salvaguardias de OpenAI detectarían ese comportamiento. Su evaluación en dos etapas abarca cuatro hipótesis: que el entrenamiento no incentivó la subversión; que las evaluaciones rigurosas y las pruebas de ataque no la provocan; que los modelos no han intentado llevarla a cabo durante el uso interno; y que el razonamiento que la sustenta sería detectable.
Para la primera etapa de Apollo, OpenAI proporcionará modelos seleccionados, tanto públicos como aún no publicados, y puntos de control de entrenamiento, datos de entrenamiento pertinentes y resultados de evaluación, registros de intervenciones durante el entrenamiento, sistemas de supervisión y comportamientos señalados. Apollo también tendrá acceso a investigadores que puedan aportar contexto, así como a las herramientas y la capacidad de cómputo necesarias para realizar pruebas independientes.
Goodfire incorporará investigadores especializados en interpretabilidad —el análisis del funcionamiento interno de los modelos— y utilizará su plataforma para supervisar ejecuciones de entrenamiento, depurar modelos y trabajar en la alineación. Los investigadores de OpenAI serán el público principal de sus hallazgos y los utilizarán para mejorar la seguridad. Goodfire también publicará las lecciones y los hallazgos a medida que avance la colaboración.
La evaluación de alineación de METR en la primera fase se centra en lo que OpenAI describe como su mayor ejecución de aprendizaje por refuerzo hasta la fecha, incluidos los fallos que las pruebas y los sistemas de supervisión actuales podrían no haber detectado. Dentro de la ejecución seleccionada y del acceso, los recursos y las medidas de seguridad acordados, METR establecería prioridades de forma independiente e iría ajustando las búsquedas, los análisis y los experimentos de elicitación. Su acceso incluirá los puntos de control pertinentes, las ejecuciones de entrenamiento y evaluación, y los registros de supervisión de la desalineación. El alcance inicial se limita a esa ejecución y no se extiende a un estudio amplio de la desalineación.
Una evaluación independiente de los sistemas de supervisión de METR está menos definida. Las organizaciones han acordado de manera preliminar llevar a cabo un ejercicio más amplio, pero este sigue pendiente de que ambas partes acuerden su alcance.
Transluce comenzará examinando la calidad y la cobertura de las evaluaciones de alineación posteriores al entrenamiento de OpenAI. Tendrá acceso a modelos seleccionados, tanto públicos como aún no publicados, resultados de evaluación, datos conductuales de respaldo, documentación de los casos de seguridad e investigadores, además de herramientas y capacidad de cómputo.
Ambas partes también tienen la intención de realizar una evaluación de seguimiento de aproximadamente ocho semanas a principios de 2027. Ese trabajo ampliaría el acceso a modelos adicionales, profundizaría el acceso a las evaluaciones de alineación y aportaría información sobre cómo influyen los resultados de las evaluaciones en las decisiones de lanzamiento. El anuncio la describe como una intención compartida, diferenciándola de la evaluación inicial.
El acceso va acompañado de medidas de seguridad y supervisión
Cada colaboración comienza con un alcance acordado y con el acceso, los recursos y las medidas de seguridad necesarios para llevar a cabo el trabajo. Los protocolos establecen que los evaluadores deben tener libertad para seguir las pruebas, perfeccionar sus métodos y proponer evaluaciones adicionales cuando los hallazgos lo justifiquen, además de contar con un proceso para atender necesidades de acceso adicionales.
Cuando el acceso directo pudiera exponer propiedad intelectual sensible, como los pesos o la arquitectura de los modelos, OpenAI considerará alternativas, entre ellas trabajar junto con sus investigadores para realizar los análisis. Los evaluadores que manejen información confidencial sensible trabajarán en las oficinas de OpenAI y utilizarán dispositivos de la empresa. Se espera que cumplan, como mínimo, las mismas normas de seguridad que los empleados de OpenAI, aunque para algunos experimentos podrían aplicarse requisitos más estrictos.
La supervisión corresponde al Comité de Seguridad y Protección, un comité de supervisión independiente de la Junta de OpenAI Foundation. El comité recibirá informes sin censurar y podrá hablar con los evaluadores durante el trabajo, incluso en privado. Las disputas se remitirán primero al Grupo Asesor de Seguridad y a los directivos de OpenAI para que las resuelvan dentro de un plazo determinado. Se deberá notificar de inmediato al comité cuando los desacuerdos se eleven a instancias superiores, y los asuntos que sigan sin resolverse se remitirán a este.
Las conversaciones con empleados plantean un problema de transparencia distinto. Esas conversaciones se mantienen extraoficialmente, lo que significa que pueden servir de base para las evaluaciones, pero no publicarse ni atribuirse a los empleados. Los evaluadores pueden solicitar una declaración certificada por OpenAI que verifique, corrija o aclare algo que hayan conocido en esas conversaciones. Después, pueden publicar la declaración certificada o revelar que OpenAI se negó a certificarla, lo que crea una vía pública limitada para divulgar información obtenida de manera confidencial.
Derechos de publicación y declaraciones financieras
Los evaluadores mantienen su independencia para publicar sus evaluaciones, mientras que OpenAI conserva el derecho a ocultar información confidencial. También puede solicitar aplazamientos de la divulgación responsable para abordar hallazgos que podrían generar riesgos de seguridad y corregir problemas pendientes. OpenAI afirma que los informes públicos deben explicar los hallazgos y sus limitaciones, mientras que los informes confidenciales más detallados proporcionan a los órganos de supervisión las pruebas necesarias para actuar.
Los acuerdos financieros varían entre los participantes. Apollo Research y Goodfire aceptan una remuneración que no depende de los resultados de sus evaluaciones. METR y Transluce no aceptan compensación económica, aunque pueden aceptar créditos de API o capacidad de cómputo para utilizar en sus evaluaciones.
Los procesos para declarar conflictos de intereses y establecer periodos de espera aún se están desarrollando junto con los evaluadores. OpenAI pide al personal de terceros participantes que respete un breve periodo de espera antes de integrarse en otro desarrollador de IA, a fin de reducir el riesgo de divulgar involuntariamente información confidencial.
OpenAI prevé que al principio habrá dificultades relacionadas con el acceso técnico, el espacio y la seguridad; afirma que los protocolos evolucionarán y señala que el objetivo son las colaboraciones integradas a más largo plazo. También se están considerando evaluaciones futuras sobre el cumplimiento del marco de seguridad, la cultura organizacional y los procesos.
La primera fase plantea una prueba concreta de gobernanza: determinar si el acceso interno profundo y la publicación independiente pueden aportar pruebas públicas útiles sobre fallos que las pruebas internas no detectan, mientras OpenAI mantiene los alcances acordados, los controles de seguridad in situ, el derecho a ocultar información y la posibilidad de aplazar la divulgación.












