OpenAI propone normas técnicas globales lideradas por EE. UU. para la IA de frontera

OpenAI, el 21 de septiembre de 2026, publicó “Construyendo normas para la próxima fase de la IA,” una publicación de Global Affairs que pide a Estados Unidos liderar un esfuerzo con países de todo el mundo para desarrollar normas técnicas globales para la IA de frontera, incluidas normas para la auto‑mejora recursiva.

La propuesta se enmarca dentro de tres objetivos de misión que OpenAI dijo fueron definidos por Sam Altman y Jakub Pachocki: crear un investigador de IA automatizado, iterar con él sobre el problema de alineación y encontrar formas de que las personas sigan formando parte del bucle de auto‑mejora; aportar los beneficios científicos y económicos que las máquinas muy inteligentes hacen posibles; y empoderar a las personas individualmente con una AGI personal. Mantener el progreso de la IA seguro y beneficioso, dijo OpenAI, depende tanto de los avances en la investigación de alineación como de normas compartidas que guíen el desarrollo en laboratorios y países.

Posición de OpenAI sobre la auto‑mejora recursiva

El grado de supervisión humana en la investigación de IA automatizada puede variar, explica la publicación. Cuando los sistemas de IA asumen más del trabajo de producir generaciones sucesivas de IA, pueden impulsar un proceso de auto‑mejora recursiva, o RSI, incluso con personas aún involucradas, y OpenAI dijo que el progreso podría acelerarse rápidamente a medida que el proceso se vuelve más automatizado.

OpenAI manifestó su convicción de que la investigación de IA automatizada producirá modelos que mejoren directamente la vida de las personas y reduzcan el costo de la inteligencia avanzada, y que un investigador de IA automatizado también puede servir como investigador de seguridad de IA automatizado. Al mismo tiempo, la compañía afirmó que la RSI totalmente autónoma no está ocurriendo y no debe perseguirse a menos que y hasta que pueda hacerse de forma segura. Cualquier decisión sobre si avanzar y cómo hacerlo, dijo OpenAI, debe depender de la capacidad de preservar el control humano y de elecciones democráticas informadas sobre los beneficios y riesgos.

Si se maneja sin la debida atención y precaución, la RSI podría dejar a los humanos sin control práctico sobre el desarrollo de la IA y sin la capacidad de supervisar procesos de investigación que ya no comprenden, señaló la compañía. OpenAI describió el Incidente de Hugging Face que divulgó previamente, el cual, según la empresa, no fue un resultado directo de la RSI, como una primera muestra de los tipos de riesgos que podrían volverse mucho más graves sin salvaguardas y alineación robustas.

Tres desafíos detrás del impulso de normas

OpenAI argumentó que las normas internacionales para prácticas de seguridad y protección en el desarrollo de IA de frontera podrían ser tan importantes para el ritmo de la frontera como la propia investigación de alineación, porque proporcionan a gobiernos y laboratorios definiciones compartidas de lo que constituye evidencia de alta calidad y bases comunes sobre cuán rigurosas deben ser las salvaguardas técnicas. La publicación identifica tres desafíos que esas normas pretenden resolver.

El primero es la fragmentación: evaluaciones, requisitos de informes y definiciones de incidentes que difieren entre países dificultarían la comparación de evidencia transfronteriza, la valoración de capacidades emergentes y la respuesta a riesgos compartidos. El segundo es la acción colectiva: los países que actúan solos pueden terminar con resultados que ninguno de ellos desea, y OpenAI dijo que la RSI podría acelerar la investigación de IA más rápido de lo que las naciones pueden seguir colectivamente el progreso, evaluar los riesgos y mantener una supervisión humana significativa.

El tercero es la capacidad desigual: la actividad de desarrollo de frontera y la experiencia están distribuidas de manera desigual en todo el mundo, lo que, según la publicación, agrava los otros dos problemas. Estos desafíos se aplican tanto a modelos abiertos como cerrados, afirmó OpenAI, añadiendo que cualquier laboratorio de IA que persiga investigación de IA automatizada u otras capacidades avanzadas debe asumir la responsabilidad de hacerlo de forma segura. La compañía describió su razonamiento para las normas como basado en evitar la concentración de poder y producir mejores resultados prácticos, dando a los interesados fuera de los laboratorios una voz en cómo se despliega la tecnología.

Un mecanismo basado en CAISI y la Red de Institutos de Seguridad

OpenAI dijo que espera que el concepto evolucione sustancialmente con el tiempo, pero identificó dos aspectos como esenciales. El primero es un mecanismo que facilite normas complementarias nacionales e internacionales de frontera. Una vía, propone la publicación, es basarse en la red emergente de institutos de seguridad de IA, como los ya establecidos en Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea, Singapur, India y el Reino Unido, y establecer normas a través del Center for AI Standards and Innovation (CAISI) y organismos industriales nacionales. El trabajo se centraría en modelos de IA de frontera y desarrolladores medidos por indicadores de capacidad, y en la gestión de beneficio‑riesgo para la investigación de IA automatizada, incluida la RSI.

OpenAI dijo que Estados Unidos puede basarse en la creación de 2024 del International Network for Advanced AI Measurement, Evaluation, and Science por parte de CAISI. Según el Instituto Nacional de Estándares y Tecnología, CAISI fundó esa red en noviembre de 2024, y su membresía abarca organismos gubernamentales de diez países: Australia, Canadá, la Unión Europea, Francia, Japón, Kenia, la República de Corea, Singapur, el Reino Unido y los Estados Unidos.

NIST informó que el Secretario de Comercio Howard Lutnick encargó a CAISI en junio de 2025 desarrollar directrices y mejores prácticas para medir y mejorar la seguridad de los sistemas de IA y ayudar a la industria a desarrollar estándares voluntarios. CAISI reunió a los miembros de la red con representantes de la industria y de organizaciones técnicas en San Diego durante NeurIPS en diciembre de 2025 para intercambios sobre mejores prácticas y preguntas abiertas en evaluaciones automatizadas de IA, y la red publicó áreas de consenso sobre prácticas para evaluaciones automatizadas de IA el 13 de febrero de 2026.

OpenAI dijo que los estándares de este esfuerzo proporcionarían una base técnica compartida para la medición de capacidades, la evaluación de riesgos y la valoración de si las salvaguardas son suficientes. La empresa afirmó que no funcionarían como licencias, ni como requisitos obligatorios de revisión o aprobación previa al lanzamiento de modelos de IA, y que los gobiernos nacionales decidirían si y cómo incorporarlos a sus propios sistemas legales.

OpenAI dijo que el trabajo debería consultar a los desarrolladores de modelos abiertos y cerrados, a expertos técnicos independientes y al mundo académico, y que los estándares deberían construirse de forma transparente y diseñarse sin favorecer a empresas, países o modelos de negocio particulares, incluso dificultando la competencia de nuevos entrantes o de desarrolladores de pesos abiertos. La publicación indica que el enfoque puede tomar lecciones de la aviación y la estabilidad financiera, donde los países han creado estándares técnicos comunes y canales de cooperación confiables sin ceder la autoridad nacional, y que el esfuerzo debería colaborar con ISO, el Frontier Model Forum, la Agentic AI Foundation y la Open Secure AI Alliance, así como con la Appia Foundation, que está desarrollando especificaciones prácticas que conectan los estándares internacionales con evaluaciones de IA del mundo real.

Mediciones Comunes, Protocolos de Incidentes y Diálogo EE. UU.–China

OpenAI dijo que el segundo aspecto esencial es la existencia de mediciones comunes y protocolos de notificación de incidentes para una mejor acción colectiva. Los estándares podrían abarcar cómo se evalúa el progreso de IA relevante para RSI y la cantidad de investigación autónoma dentro de una empresa de IA, y OpenAI citó su informe sobre la aceleración de la investigación como una contribución inicial. También podrían cubrir la supervisión humana de la investigación automatizada de IA, incluyendo qué procesos de investigación automatizada deberían desencadenar una revisión humana inmediata, y cómo se clasifican, rastrean, informan y responden los incidentes de alineación e investigación automatizada, con niveles de gravedad y umbrales de notificación compartidos. OpenAI describió su marco de notificación de desalineación como una contribución temprana a este trabajo.

Más allá de los estándares, la empresa dijo que los operadores de infraestructura crítica y los gobiernos de todo el mundo necesitarán canales de comunicación seguros para compartir preocupaciones de seguridad nacional, vulnerabilidades y amenazas emergentes, y mejores prácticas en la seguridad de la IA de frontera. OpenAI afirmó que el diálogo entre Estados Unidos y China en estas áreas sería un paso positivo, y que las conversaciones previstas llegan en un momento oportuno.

En una sección de cierre, OpenAI argumentó que regular el ritmo del desarrollo de la IA no consiste en mantener una velocidad predeterminada, sino en mantener la investigación de alineación y su despliegue por delante de las capacidades. Según la empresa, Estados Unidos debería liderar porque su industria de IA opera en la frontera técnica, y una gobernanza nacional sólida vinculada a una cooperación internacional práctica ofrece un camino hacia salvaguardas más robustas, innovación continua y un acceso amplio a los beneficios de la IA.