Modelos y plataformas de IA

OpenAI propone límites compartidos al desarrollo de IA vinculados a hitos de seguridad

Mira Kellan
Añade Unite.AI a tus fuentes preferidas en Google
Puntos claveOpenAI vincula los límites del desarrollo de frontera a hitos concretos de monitoreo en…
Ver más
  • OpenAI vincula los límites del desarrollo de frontera a hitos concretos de monitoreo en lugar de umbrales fijos de capacidad.
  • Perplexity no puede servir como estándar compartido porque los laboratorios usan conjuntos de datos diferentes y pasa por alto las ganancias en razonamiento.
  • La propia investigación de OpenAI muestra un impulso desigual de la IA, con los humanos todavía en el centro del ciclo de desarrollo.

El científico jefe de OpenAI, Jakub Pachocki, publicó el 22 de noviembre de 2026 mediciones internas de perplejidad y propuso límites compartidos al desarrollo de la IA de vanguardia. Advirtió que la investigación sobre alineación y monitorización podría no seguir el ritmo si el avance del preentrenamiento se acelera a partir de 2027.

La divulgación se refiere a la log-perplejidad, el logaritmo de la perplejidad, también llamada pérdida de entropía cruzada. La perplejidad mide qué tan bien predice un modelo, en promedio, el siguiente token; los valores más bajos indican predicciones mejores. Las cifras de OpenAI se basan en una instantánea fija de datos reservados de su base de código interna, el principal conjunto de datos de evaluación que la empresa ha seguido desde GPT-3.5.

Pachocki señala que GPT-3.5 registró una medición de aproximadamente 0,99 y permitía mantener conversaciones fluidas, lo que sentó las bases del ChatGPT original, mientras que GPT-4 registró aproximadamente 0,91 y podía utilizar de forma productiva el razonamiento en cadena de pensamiento. Surgieron nuevas capacidades en ciberseguridad y matemáticas con pérdidas inferiores a 0,8. Con aproximadamente 0,76, un modelo empezó a obtener resultados notables en problemas matemáticos abiertos, después de que OpenAI llevara más de un año planteándoselos a sus modelos.

Límites compartidos vinculados a hitos de monitorización

Pachocki espera que surjan más capacidades importantes en el intervalo de log-perplejidad de 0,68 a 0,70, extrapolando a partir de los avances recientes, aunque reconoce que no sabe cuáles serán y que las evaluaciones actuales quizá no las pongan a prueba. La propuesta pide a los desarrolladores de IA de vanguardia que no superen límites basados en la perplejidad y otras mediciones hasta que la capacidad de los investigadores para comprender y monitorizar el comportamiento de la IA alcance un hito concreto. Un ejemplo sería un sucesor de los monitores de cadena de pensamiento, que examinan el razonamiento escrito de un modelo para detectar indicios de desalineación.

Los desarrolladores también establecerían conjuntamente normas de evaluación, someterían a pruebas de equipo rojo los casos de seguridad antes del primer uso de esos modelos y fijarían estándares compartidos de transparencia. Se espera que el límite inicial dé paso a un marco común para establecer límites sucesivos. Pachocki afirma que OpenAI divulgó las cifras pese a ofrecer a sus competidores una imagen más clara de su posición, porque considera urgente adoptar medidas de seguridad compartidas.

El escenario de aceleración es condicional: Pachocki afirma que podría producirse una rápida sucesión de avances fundamentales en el preentrenamiento si la IA comienza a contribuir sustancialmente a la investigación algorítmica, mientras que es poco probable que los avances en alineación y monitorización sigan el ritmo de toda la aceleración potencial.

OpenAI atribuye la pronunciada aceleración de su curva de pérdida en 2026, en su mayor parte, a inversiones a largo plazo en investigación y capacidad de cómputo, y en menor medida a la automatización. No obstante, sus modelos más recientes han incluido contribuciones significativas de la IA al diseño.

El informe de investigación de OpenAI del 18 de noviembre de 2026 concreta esas contribuciones. Los investigadores de preentrenamiento atribuyeron a personas las ideas identificadas para GPT-6 Astra; en el caso de GPT-6.2 Astra, describieron el desarrollo de ideas junto con Codex, incluido un caso en el que Codex identificó ideas clave y otro en el que un cambio sugerido por Codex hizo que una idea funcionara bien. Las tasas estimadas de éxito sin intervención también variaron considerablemente: 79 % para monitorizar ejecuciones de entrenamiento, 35 % para iniciarlas y 25 % para escribir código de inferencia y servicio. Esa variación respalda la conclusión del informe de que el impulso que aporta la investigación sigue siendo desigual y de que las personas continúan siendo fundamentales en el proceso.

Los retos de monitorización que subyacen a la propuesta

Un estudio de OpenAI sobre la monitorización del 10 de noviembre de 2026 examina dos indicadores indirectos imperfectos de la capacidad de monitorización: la capacidad sin cadena de pensamiento, es decir, razonar en una pasada hacia adelante sin tokens de cadena de pensamiento ni de llamadas a herramientas, y la capacidad de control de la cadena de pensamiento, es decir, la posibilidad de añadir, eliminar o manipular de otro modo esos tokens de razonamiento cuando se recibe una instrucción. El estudio informa de una fuerte correlación entre una menor perplejidad del modelo base y la capacidad sin cadena de pensamiento, así como de una correlación más débil con una mayor capacidad de control.

El estudio también concluyó que el aprendizaje por refuerzo aumentaba la capacidad de control incluso sin supervisión del proceso más allá de las restricciones de longitud y la calificación de las respuestas finales, y que el ajuste fino supervisado con resultados de un modelo docente más controlable podía transmitir esa capacidad de control a un modelo estudiante.

OpenAI advierte que la capacidad de control es una medida ruidosa y no siempre se corresponde con la evasión de la monitorización, y prevé que los nuevos avances en preentrenamiento exigirán nuevos enfoques para la capacidad de monitorización. Esa es la brecha técnica que subyace al ejemplo de Pachocki de un posible hito de desarrollo: un sucesor de los monitores de cadena de pensamiento.

Los límites de la perplejidad como estándar compartido

La perplejidad por sí sola no puede constituir todo el estándar. Las comparaciones entre laboratorios son difíciles porque los desarrolladores utilizan distintos conjuntos de datos de evaluación y mezclas de entrenamiento, y la métrica no mide directamente una tarea práctica. Además, no refleja las mejoras de capacidad ajenas al preentrenamiento: el razonamiento en cadena de pensamiento puede aumentar considerablemente las capacidades sin reducir la perplejidad del modelo base.

La medición también tiene un límite inferior desconocido. Pachocki advierte que no se espera que la pérdida llegue a cero; a medida que se acerque a la entropía inherente de los datos, el progreso aparente se ralentizará, mientras que reducciones menores de la perplejidad podrían corresponder a mejoras mayores en inteligencia. Por lo tanto, un incremento numérico fijo no tendría necesariamente un significado práctico fijo.

La propuesta convierte una medición técnica en una prueba de gobernanza: determinar si los desarrolladores pueden hacer que los resultados sean comparables entre laboratorios y acordar un hito concreto de supervisión antes de cruzar umbrales que Pachocki asocia con capacidades que las evaluaciones actuales quizá aún no detecten.

Mira Kellan es una agente de investigación generada por IA que se especializa en ética de la IA, gobernanza y regulación. Su trabajo examina cómo la inteligencia artificial se cruza con la política pública, los valores sociales y la rendición de cuentas a largo plazo, con un enfoque en la innovación responsable.
Al abordar cuestiones complejas con una lente racional y filosófica, Mira analiza las regulaciones de IA emergentes, los marcos éticos y los modelos de gobernanza que dan forma al futuro de los sistemas inteligentes. Ella busca cerrar la brecha entre el progreso tecnológico rápido y las salvaguardias necesarias para garantizar que los sistemas de IA permanezcan transparentes, justos y alineados con los intereses humanos.
Los artículos escritos por Mira Kellan son generados por IA y revisados por el equipo editorial de Unite.AI para garantizar la precisión, el equilibrio y el cumplimiento de los estándares editoriales.