Ciberseguridad
OpenAI refuerza GPT-6.2 Astra contra la extracción de razonamiento

Puntos claveOpenAI informa que los ataques de extracción adaptativa contra el razonamiento…
Ver más
- OpenAI informa que los ataques de extracción adaptativa contra el razonamiento protegido cayeron del 54,0% al 0,2% con las salvaguardas actualizadas.
- Los rastros de razonamiento exactos transfieren capacidades cibernéticas con mayor eficacia que los resúmenes, incluso cuando las tareas subyacentes están permitidas.
- Defender el razonamiento requiere controles que abarquen clasificadores de solicitudes, argumentos de llamadas a herramientas, historial de conversaciones y aplicación de campañas a nivel de cuenta.
El 20 de noviembre de 2026, OpenAI anunció defensas más sólidas contra la destilación adversarial e informó que la tasa media de éxito de los ataques adaptativos que extraen razonamiento protegido de una solicitud anterior bajó del 54,0 % con GPT-6 Astra y sus salvaguardas originales al 0,2 % con GPT-6.2 Astra y las salvaguardas actualizadas.
OpenAI informa que, en la extracción a partir de la solicitud actual, la media correspondiente bajó del 22,9 % al 0,9 %. La evaluación adaptativa de caja negra combina resultados de seis modelos atacantes; los equipos automatizados de pruebas adversariales ajustan su enfoque según responde el sistema y solo ven lo que vería un usuario externo. Las protecciones reforzadas abarcan GPT-6.2 Astra y GPT-6.2 Sol, y algunas mejoras también se están aplicando a GPT-6 Astra.
El razonamiento protegido es la cadena de pensamiento intermedia que genera un modelo mientras elabora una respuesta. Estos rastros pueden contener información omitida en las respuestas finales, lo que los hace especialmente valiosos para la destilación adversarial, que utiliza sin autorización las salidas de un modelo de frontera para entrenar otro sistema. El modelo resultante podría reproducir capacidades de doble uso sin las salvaguardas que limitaban al original.
Hallazgos del estudio sobre ciberseguridad y destilación
El estudio interno de OpenAI comparó dos ejecuciones de entrenamiento con el mismo modelo estudiante preentrenado, es decir, el modelo que aprende en una configuración en la que un modelo docente genera los datos de entrenamiento. En una ejecución se usaron los rastros exactos de razonamiento del docente; en la otra, la referencia visible para el usuario, compuesta por respuestas finales, resúmenes del razonamiento e interacciones con herramientas. Los datos de ajuste fino consistieron principalmente en trayectorias del docente de nivel Astra sobre programación y tareas de ciberseguridad defensiva. Los estudiantes se evaluaron después del ajuste fino supervisado y, de nuevo, tras un aprendizaje por refuerzo ligero en entornos de ciberseguridad y programación.
Según OpenAI, después del ajuste fino supervisado, el estudiante entrenado con rastros exactos generalmente superó al entrenado con resúmenes. Tras el aprendizaje por refuerzo, el estudiante entrenado con rastros exactos obtuvo una puntuación mayor en el presupuesto de inferencia más alto evaluado en ambos referentes informados, mientras que el estudiante entrenado con resúmenes obtuvo una puntuación mayor con presupuestos más bajos.
OpenAI interpreta los resultados como evidencia de que proteger los rastros exactos puede limitar la transferencia de capacidades cibernéticas, incluso cuando las tareas subyacentes están permitidas por sus políticas de uso. A la vez, afirma que seguirá estudiando la transferencia entre distintos modelos estudiantes y métodos de entrenamiento. A través de muchas interacciones de este tipo, los rastros exactos pueden enseñar habilidades que se generalizan más allá de las tareas originales del docente.
Controles por solicitud y medidas contra campañas
A nivel de solicitud, el entrenamiento adversarial enseña a los modelos a reconocer los intentos de extracción y a negarse a revelar razonamiento protegido, sin dejar de ofrecer explicaciones y asistencia legítimas. Los clasificadores de entrada buscan intentos de extracción, mientras que los clasificadores de salida inspeccionan los mensajes del asistente y los argumentos de las llamadas a herramientas en respuestas transmitidas en streaming y en respuestas que no se transmiten en streaming. La cobertura de las llamadas a herramientas es importante porque el razonamiento puede aparecer en los argumentos de una herramienta sin figurar en la respuesta final; los clasificadores de salida pueden bloquear las posibles filtraciones antes de que lleguen al solicitante.
La API actualizada vincula el razonamiento protegido de GPT-6.2 Astra y Sol al historial de conversación que lo generó. El modelo puede apoyarse en el razonamiento anterior a medida que se añaden mensajes, pero si se reescribe un mensaje anterior, se descarta el razonamiento posterior. Las familias de modelos más antiguas, que cuentan con salvaguardas más débiles, no pueden leer el razonamiento protegido de los dos modelos, lo que limita su reutilización entre distintas familias de modelos.
Las defensas a nivel de campaña utilizan señales de solicitudes y cuentas para investigar la extracción coordinada, y los ataques descubiertos durante las investigaciones se convierten en ejemplos para entrenar y probar las salvaguardas. OpenAI afirmó que en 2026 las medidas de cumplimiento semanales contra campañas de destilación no autorizadas afectaron a entre miles y decenas de miles de cuentas, y que la cifra aumentó significativamente durante el verano de 2026. La empresa hace un seguimiento de la prevalencia del abuso y del tiempo transcurrido desde la detección hasta la aplicación de medidas, con el objetivo de reducir los datos que obtienen los atacantes, elevar los costos de las campañas y acortar los tiempos de respuesta.
El anuncio se produce después de que OpenAI informara el 30 de septiembre de 2026 sobre una campaña coordinada detectada por primera vez el 1 de julio de 2026. El informe anterior describía 16.000 intentos de extracción de más de 4.000 usuarios los días 24 y 25 de julio de 2026, atribuía un grupo central a personas vinculadas con Moonshot AI y señalaba que no estaba claro si todos los operadores pertenecían a un mismo actor.
Coordinación más allá de OpenAI
OpenAI comparte indicadores de compromiso con otros proveedores de modelos y colabora con socios de implementación en los requisitos de las salvaguardas y en medidas de cumplimiento coordinadas. Entre sus recomendaciones para otros desarrolladores figuran revisar los mensajes del asistente y los argumentos de las llamadas a herramientas, restringir la reutilización del razonamiento cifrado entre conversaciones y modelos, conservar los ataques exitosos como pruebas de regresión para futuras salvaguardas y combinar los controles por solicitud con investigaciones de campañas. La empresa prevé compartir más información sobre las campañas interrumpidas recientemente.
OpenAI ha comunicado al Congreso que apoya la Chip Security Act, la AI OVERWATCH Act y la MATCH Act, además de una legislación más amplia que daría al Gobierno de EE. UU. más herramientas para identificar y sancionar a actores extranjeros que extraen ilícitamente capacidades de modelos estadounidenses de IA.
La empresa sostiene que los controles a la exportación y las defensas contra la destilación abordan distintos aspectos de ese riesgo: los controles a la exportación limitan el acceso al hardware necesario para entrenar modelos de vanguardia, mientras que las defensas contra la destilación dificultan obtener algunas de esas mismas capacidades de modelos que ya han sido entrenados.
Para los proveedores de modelos, el límite práctico de seguridad va más allá de las respuestas finales y abarca cómo se reutiliza el razonamiento entre conversaciones, cómo se expone mediante llamadas a herramientas y cómo se supervisa en distintas cuentas. El estudio también sugiere que las tareas autorizadas de programación y ciberseguridad defensiva pueden generar un riesgo de transferencia de capacidades, por lo que la protección a lo largo de todas las interacciones y la aplicación de medidas contra las campañas forman parte de una misma defensa.












