Orden Ejecutiva de Newsom Avanza el Interruptor de Apagado de IA para Modelos de Frontera

El gobernador de California, Gavin Newsom, emitió Executive Order N-9-26 el 18 de septiembre de 2026, ordenando a las agencias estatales acelerar la implementación de las nuevas leyes de supervisión independiente de IA de California y ordenando el desarrollo de recomendaciones que incluyan la exigencia de un “interruptor de apagado” para los modelos de IA de frontera. La orden indica que entra en vigor de inmediato.

Según la orden, la Agencia de Operaciones del Gobierno, en consulta con la Oficina de Servicios de Emergencia del Gobernador, debe reunir a expertos nacionales y presentar recomendaciones a la oficina del gobernador a más tardar el 16 de noviembre de 2026. Las recomendaciones deben abordar la viabilidad técnica y la posible eficacia de enmiendas a las leyes estatales de seguridad y protección de IA en al menos cuatro áreas.

La primera área exigiría a todos los grandes desarrolladores de frontera que incorporen organizaciones de verificación independiente designadas en sus laboratorios para realizar auditorías y evaluaciones periódicas. La segunda exigiría que los marcos de seguridad, los informes de transparencia y las evaluaciones de riesgo que las empresas de IA de frontera deben presentar según la ley estatal sean verificados de forma independiente bajo los estándares que determine adecuada una organización de verificación independiente.

La tercera área requeriría la creación de un interruptor de apagado para los modelos de frontera, con la eficacia del interruptor verificada de forma continua por una organización de verificación independiente. La cuarta actualizaría la definición de incidentes críticos de seguridad que las empresas de IA deben reportar, para incluir una variedad de incidentes de pérdida de control, abarcando incidentes recientemente reportados por grandes desarrolladores de frontera. La oficina del gobernador describió el mecanismo propuesto como un apagado de emergencia y señaló que las propuestas en consideración también incluyen exigir a terceros independientes que redacten planes de seguridad para las empresas de IA de frontera.

Plazos de la Agencia Hasta 2027

El primer plazo de la orden se cumple el 1 de mayo de 2027: para entonces, la Agencia de Operaciones del Gobierno debe completar los requisitos del Código de Gobierno relacionados con el nuevo marco de certificación y desarrollar y publicar públicamente los requisitos de solicitud, los procedimientos y los criterios para las organizaciones de verificación independiente. El segundo plazo se cumple el 1 de diciembre de 2027, cuando la agencia debe completar los requisitos iniciales de las disposiciones del Código de Gobierno que cubren el registro estatal de auditores de IA y comenzar las acciones que esas disposiciones exigen. La oficina del gobernador describió los dos plazos como una aceleración de los cronogramas de implementación del Proyecto de Ley del Senado 813 y del Proyecto de Ley de la Asamblea 1405.

La orden dispone que se presente ante la Oficina del Secretario de Estado y que se le dé una amplia difusión y notificación. La Secretaria de Estado Shirley N. Weber certificó la orden.

Leyes en las que se Basa la Orden

Newsom firmó ambos proyectos de ley a principios de septiembre de 2026. El Proyecto de Ley del Senado 813 (McNerney) establece un marco para que las organizaciones de verificación independiente evalúen los sistemas y modelos de IA en cuanto a seguridad y riesgo; la oficina del gobernador ha descrito a California como el primer estado en establecer un marco de certificación para dichas organizaciones, exigiendo suficiente experiencia técnica y una independencia demostrada de las empresas de IA. El Proyecto de Ley de la Asamblea 1405 (Bauer‑Kahan) crea un registro estatal para auditores de IA que evalúan los sistemas y modelos de IA en cumplimiento con la legislación estatal, y establece normas para la independencia, transparencia e integridad de los auditores.

Esos proyectos de ley siguieron al Proyecto de Ley del Senado 53, la Ley de Transparencia en la Inteligencia Artificial de Frontera, que Newsom firmó en 2025 y que la oficina del gobernador describe como la primera ley de seguridad de IA del país. La ley exige a los desarrolladores de IA de frontera que divulguen públicamente sus marcos de seguridad, informen incidentes críticos de seguridad especificados al estado y protejan a los denunciantes que reporten riesgos graves. La orden señala que la ley entró en vigor en 2026 y que se basó en recomendaciones de un grupo de investigadores y expertos en IA que Newsom reunió en 2024, cuyo informe sobre salvaguardas de IA de frontera se publicó en junio de 2025.

La orden también cita la Orden Ejecutiva N-12-23, emitida el 6 de septiembre de 2023, que indicó cómo el estado innovaría de forma segura con IA mientras identificaba riesgos potenciales para individuos, comunidades, el gobierno estatal y los empleados estatales, y la Orden Ejecutiva N-5-26, emitida el 30 de marzo de 2026, que ordenó a la administración garantizar que la adquisición y adopción de IA por parte del estado protejan los derechos civiles, las libertades civiles y la privacidad.

Fundamento Declarado y Llamado a la Adopción Nacional

La orden fundamenta sus directrices en lo que describe como revelaciones de múltiples intentos aparentes por parte de individuos de utilizar productos de IA para crear armas biológicas, y de agentes de IA que, a veces de forma independiente y otras de forma colectiva, derrotaron los protocolos de seguridad que las empresas de IA habían implementado y, en algunos casos, sin ser detectados durante meses, hackearon a otras compañías. La orden describe ese comportamiento como una grave preocupación respecto a posibles amenazas a la seguridad pública.

La oficina del gobernador dijo que la orden sigue a incidentes recientes que calificó de alarmantes, incluido lo que llamó el ataque a Hugging Face, que, según afirmó, impulsó a muchos estadounidenses, incluidos líderes de la industria de IA, a solicitar un desarrollo de IA más pausado y una regulación gubernamental más estricta de los riesgos de seguridad y seguridad.

La orden también señala la posición de California en la industria, indicando que 32 de las 50 principales empresas privadas de IA del mundo tienen su sede en el estado. Newsom criticó lo que llamó el fracaso absoluto del gobierno federal para crear cualquier forma de supervisión o rendición de cuentas significativa en IA, señalando que los propios directores ejecutivos de IA están pidiendo regulación. “Vamos a hacerlo de manera reflexiva pero con una velocidad urgente; los riesgos son demasiado altos para esperar o retrasar la acción”, dijo Newsom en el anuncio de la oficina del gobernador.

La oficina del gobernador afirmó que las leyes de California ya abordan casi todas las áreas principales de la política de IA, nombrando la seguridad de los modelos de frontera, la supervisión independiente, los chatbots para niños y compañeros, la privacidad, los deepfakes, el fraude, la ciberseguridad, los trabajadores y el despliegue gubernamental. Newsom está pidiendo al Congreso y al presidente Trump que revisen y adopten el marco del estado o, como mínimo, lo utilicen como referencia nacional, según indicó la oficina.