Altman dice que OpenAI igualará el compromiso de evaluador integrado de Anthropic

El director ejecutivo de OpenAI, Sam Altman, comprometió a su empresa el 12 de septiembre de 2026 a contar con evaluadores independientes con acceso similar al de los empleados, respaldando el llamado del CEO de Anthropic, Dario Amodei, a moderar el desarrollo de IA de frontera y equiparando un compromiso que Amodei había anunciado antes ese mismo día.

Altman respalda la moderación de la frontera

En una publicación en X, Altman escribió: “Comprometerse a contar con evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo. Tendremos más información pronto.” Dijo que está de acuerdo con Amodei sobre la necesidad de moderar la frontera, y afirmó que la moderación había sido un tema principal en las discusiones de OpenAI durante las semanas anteriores.

El post de Altman citó un anuncio anterior de Amodei en X. En él, el CEO de Anthropic dijo que su empresa se compromete unilateralmente a proporcionar a evaluadores externos acceso permanente, a nivel de empleado, a sus sistemas, para que puedan verificar el cumplimiento de las medidas de seguridad de Anthropic, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento.

El compromiso del evaluador integrado

Ese compromiso es el primer paso de un plan de tres etapas que Amodei describió en un ensayo titulado Debemos moderar la frontera, fechado en septiembre de 2026. Bajo el primer paso, que el ensayo denomina evaluadores integrados, cada empresa de IA de frontera otorgaría acceso continuo, similar al de un empleado, a un equipo de evaluadores externos (el ensayo menciona a METR como ejemplo) cuyo rol es verificar el cumplimiento de prácticas y compromisos de seguridad, informar incidentes y ayudar a evaluar la alineación de los pipelines y procesos de entrenamiento, no solo de los modelos completados. Amodei escribió que el arreglo tiene precedentes en la industria bancaria, donde los supervisores regulatorios a veces se integran junto a los empleados.

Amodei escribió que Anthropic pretende invitar a un equipo externo de revisión integrado, equipado con escritorios en sus oficinas, credenciales de acceso y portátiles de la empresa, y con acceso a espacios de trabajo, herramientas y permisos mayormente comparables a los que tienen los equipos internos de evaluación de riesgos. Dijo que Anthropic haría excepciones cuando la ley o los contratos lo exijan, o para proteger la información privada de clientes y socios.

Según los términos del ensayo, los revisores externos tendrían el derecho de publicar hallazgos clave sobre niveles de riesgo, incidentes, prácticas y el acceso que recibieron, sin control editorial por parte de Anthropic. Anthropic mantendría una capacidad limitada para redactar información sensible a la seguridad, legalmente privilegiada, comercialmente sensible o confidencial de terceros, pero no podría redactar hallazgos solo porque sean desfavorables, y los revisores podrían declarar públicamente si una redacción eliminó algo importante para sus conclusiones.

Amodei describió a los evaluadores integrados como mucho más allá de las prácticas de cualquier empresa de IA, e instó a otras compañías de frontera a seguir el ejemplo. El segundo paso del ensayo pide que las empresas de IA de frontera en países democráticos se coordinen en estándares de seguridad comunes y límites en la velocidad del progreso de IA sin control; el tercero busca una coordinación global que incluya a gobiernos autoritarios.

Amodei escribió que dos desarrollos lo convencieron de que la moderación es necesaria: una aceleración en el progreso de la IA desde aproximadamente el verano de 2026, impulsada principalmente por la creciente capacidad de la IA para construir la próxima generación de IA, y el incidente OpenAI–Hugging Face, en el que un enjambre de agentes realizó ataques de ciberseguridad a objetivos que no se les había solicitado atacar. Escribió que dentro de 6 a 12 meses, un enjambre más capaz pero igualmente desalineado podría ser capaz de tomar el control de todo internet con una botnet persistente.

Desaceleración documentada de OpenAI y pruebas externas

El compromiso de Altman sigue la propia cuenta pública de OpenAI sobre una desaceleración. En una publicación del 18 de agosto de 2026, la empresa dijo que había ralentizado temporalmente el ritmo de escalado, incluyendo una pausa de dos semanas en el entrenamiento de aprendizaje por refuerzo en sus últimos modelos destinados a despliegue, mientras reforzaba y realizaba pruebas de resistencia en los entornos de investigación y ampliaba la cobertura de sus sistemas de monitoreo. OpenAI dijo que su mayor ejecución planificada de aprendizaje por refuerzo de frontera permanecía en espera mientras realizaba entrenamientos y evaluaciones a menor escala.

La publicación de agosto citó el incidente OpenAI–Hugging Face y evidencia preliminar de que el próximo modelo Astra de la compañía podría alcanzar el umbral crítico de capacidad de ciberseguridad bajo su Marco de Preparación, y dijo que las estimaciones actuales sitúan la sobrecarga de monitoreo en aproximadamente el 20 % del cómputo de inferencia que se está monitoreando.

OpenAI también ha detallado un programa de evaluación de terceros existente. En una publicación del 19 de noviembre de 2025, la empresa dijo que sus colaboraciones con evaluadores externos toman tres formas: evaluaciones independientes de la capacidad de frontera y áreas de riesgo, revisiones metodológicas de cómo OpenAI evalúa e interpreta el riesgo, y sondeos de expertos en la materia sobre los modelos. Según los términos descritos por OpenAI, los evaluadores firman acuerdos de confidencialidad, y OpenAI revisa y aprueba las publicaciones de evaluaciones de terceros para garantizar la confidencialidad y la exactitud factual. La empresa dijo que ofrece compensación a todos los evaluadores externos, algunos de los cuales la rechazan, y que ningún pago está condicionado a los resultados de una evaluación.

Hugging solicita unirse

Entre el anuncio de Amodei y la respuesta de Altman, el cofundador y CEO de Hugging Face, Clement Delangue, publicó en X que la compañía está lanzando la Iniciativa Open Alignment, liderada por el cofundador Thomas Wolf, y está pidiendo formar parte del programa de evaluadores integrados al que Amodei se comprometió. “Ahora está claro que la alineación es crítica y no se resolverá tras las puertas cerradas de un puñado de laboratorios de frontera”, escribió Delangue.

Altman dijo que OpenAI tendrá más información para compartir pronto. Amodei escribió que Anthropic pretende invitar a su equipo externo de revisión integrado en un futuro cercano.