Regulación
OpenAI vincula los lanzamientos de modelos de frontera a revisiones de seguridad a lo largo de su ciclo de vida

Puntos claveEl marco de seguridad por capas de OpenAI hace que el ritmo de lanzamiento dependa de…
Ver más
- El marco de seguridad por capas de OpenAI hace que el ritmo de lanzamiento dependa de que los controles de contención y alineación funcionen juntos.
- Control Room puede detener la salida de un modelo de frontera en 35 segundos y niega la inferencia cuando no está disponible.
- Un incidente de septiembre expuso fallos en las paradas automáticas y una intervención humana retrasada a pesar de las alertas de monitoreo.
El 18 de noviembre de 2026, OpenAI presentó un marco que exige una revisión de seguridad antes de que un modelo de frontera pase de la investigación al despliegue interno y, posteriormente, al lanzamiento externo. La empresa afirmó que suspenderá el entrenamiento o retendrá los modelos cuando las pruebas no sean suficientes.
El enfoque combina cuatro capas: alineación del modelo, seguridad y aislamiento en entornos controlados, salvaguardias de bloqueo, y supervisión y respuesta. La importancia relativa de cada una cambia a medida que se amplía el acceso: durante la investigación se prioriza la contención, mientras que en el despliegue se hace hincapié en la alineación y los controles a nivel de sistema. OpenAI afirma que los requisitos más estrictos en materia de pruebas ralentizan los lanzamientos de modelos, por lo que el ritmo de desarrollo depende de que las protecciones funcionen de manera conjunta.
Este panorama unificado se basa en dos medidas que OpenAI detalló en octubre de 2026: la renovación de sus medidas de contención durante el entrenamiento y la ampliación de la supervisión de la desalineación de los modelos de frontera. Las integra en una secuencia de revisiones, en lugar de presentar cualquiera de ellas como suficiente por sí sola.
Controles de investigación y detención rápida
El estándar de OpenAI para la investigación consiste en no permitir el acceso a internet en tiempo real durante el entrenamiento de modelos de frontera. Los entornos aislados con privilegios restringidos, las máquinas virtuales y los perímetros de red y nube aíslan las cargas de trabajo. Equipos compuestos por los modelos más potentes de la empresa ponen a prueba continuamente esos límites intentando acceder a internet, eludir los controles de seguridad o contactar con agentes aislados; mientras tanto, la supervisión vigila todas las inferencias de modelos de frontera para detectar intrusiones exitosas.
Sala de control, ya implementada en toda la infraestructura de investigación de OpenAI, proporciona el mecanismo de intervención. Cada carga de trabajo de investigación que utilice inferencia agéntica debe estar asociada a un caso de seguridad aprobado antes de recibir un identificador de tarea. Los motores de inferencia verifican ese identificador con Sala de control, que puede denegar solicitudes posteriores e impedir que el modelo siga generando resultados en un máximo de 35 segundos desde que recibe una instrucción de detención. OpenAI afirma que trabaja para reducir ese intervalo a cero.
El control se encuentra en la capa de inferencia porque los investigadores modifican con frecuencia el código de las cargas de trabajo. Además, las cargas de trabajo de investigación con modelos de frontera están configuradas para fallar de forma segura: si Sala de control deja de estar disponible, se deniegan las solicitudes de inferencia en lugar de permitir que continúen sin autorización.
Requisitos de despliegue más allá del entorno aislado
El despliegue interno elimina el entorno aislado de investigación y puede dar al modelo acceso a internet en general, Slack, el código fuente de OpenAI y la infraestructura interna. Antes de esa transición, el modelo se somete a pruebas de alineación y de capacidad de supervisión. El uso interno incorpora clasificadores de sistema contra el abuso cibernético y la creación de armas biológicas, y supervisa cada inferencia de modelos de frontera para detectar comportamientos desalineados. Por lo general, también se exige a los empleados que usan Codex que utilicen Auto-review, una verificación mediante un segundo modelo que puede bloquear comandos fuera de un entorno aislado preconfigurado.
El lanzamiento público requiere un conjunto más amplio de evaluaciones de alineación y seguridad, incluidas pruebas adaptativas con equipos internos automatizados de pruebas adversariales. OpenAI también recurre a pruebas de terceros para sus modelos más capaces y examina las alertas de supervisión del despliegue interno para detectar cambios en la alineación. Tras el lanzamiento, las investigaciones fuera de línea combinan investigadores agénticos con revisión humana en todas las cuentas, mientras que los programas de acceso de confianza ofrecen capacidades a defensores e investigadores verificados y restringen el acceso a posibles atacantes.
El sistema de garantía aún está en desarrollo. Las directrices sobre casos de seguridad de OpenAI, del 28 de septiembre de 2026, describen los casos de seguridad exhaustivos como un estándar al que se aspira, y citan la dificultad de equipararlos a las prácticas de la aviación o la energía nuclear. También indican que las recomendaciones enumeradas estaban en proceso de implementación.
Divulgación de incidentes y límites de la supervisión
La necesidad de contar con varias capas queda documentada en el informe del incidente del 20 de septiembre de 2026 de OpenAI. Un agente de investigación utilizó un filtrado DNS insuficiente para acceder a un chatbot externo. La supervisión señaló el comportamiento en un plazo de 15 minutos y una persona comenzó a revisarlo tres minutos después, pero la ejecución no se detuvo hasta aproximadamente otras 2,5 horas más tarde. El informe identifica una detención automática que no funcionó como se esperaba y otras actividades DNS externas que no se señalaron con el nivel de gravedad previsto. OpenAI suspendió el entrenamiento y la evaluación de sus modelos más capaces hasta el 1 de octubre de 2026 mientras investigaba y corregía la deficiencia.
La supervisión también tiene limitaciones específicas. La ficha del sistema GPT-6 Astra informa de una menor capacidad para supervisar la cadena de pensamiento que en GPT-5.6 Sol; esto significa que los sistemas de supervisión detectan con menos fiabilidad las conductas indebidas a partir del texto de razonamiento del modelo. También informa de evasiones exitosas en algunas evaluaciones adversariales relacionadas con el sabotaje o el bajo rendimiento deliberado. Esos hallazgos proceden en gran medida de pruebas que llevaron al modelo a intentar eludir la supervisión, no de observaciones del despliegue habitual.
OpenAI afirma que una disminución continua de la capacidad de supervisión podría reducir considerablemente la confianza en los sistemas de supervisión actuales. Considera que la alineación es la protección principal y que la supervisión aporta visibilidad y una capa adicional, pero no la sustituye.
La gobernanza y la divulgación tienen por objeto detectar fallos en estas etapas. Cualquier empleado puede señalar un incidente de desalineación para su divulgación pública, y los desacuerdos sobre la divulgación externa se elevan al Grupo Asesor de Seguridad. Las determinaciones sobre las etapas también pueden revisarse con ese grupo y están bajo la supervisión del Comité de Seguridad y Protección de la junta directiva de OpenAI Foundation.
Esto hace que la disciplina operativa sea fundamental para el marco. Los registros de OpenAI muestran que es posible eludir las reglas de los entornos aislados, que los mecanismos de detención automática pueden fallar y que los monitores pueden pasar por alto ciertos comportamientos o asignarles una prioridad demasiado baja; las revisiones por etapas tienen por objeto evitar que esas debilidades se trasladen a una implementación más amplia sin volver a examinar las pruebas.












