L’ordine esecutivo di Newsom avanza l’interruttore di emergenza per i modelli di IA di frontiera

Il governatore della California Gavin Newsom ha emanato Executive Order N-9-26 il 18 settembre 2026, ordinando alle agenzie statali di accelerare l’attuazione delle nuove leggi californiane di supervisione indipendente dell’IA e richiedendo lo sviluppo di raccomandazioni che includano l’obbligo di un \”interruttore di emergenza\” per i modelli di IA di frontiera. L’ordine dichiara che è efficace immediatamente.

In base all’ordine, l’Agenzia per le Operazioni Governative, in consultazione con l’Ufficio dei Servizi di Emergenza del Governatore, deve convocare esperti nazionali e presentare raccomandazioni all’ufficio del governatore entro il 16 novembre 2026. Le raccomandazioni devono affrontare la fattibilità tecnica e la potenziale efficacia delle modifiche alle attuali leggi statali sulla sicurezza e la protezione dell’IA in almeno quattro ambiti.

Il primo ambito richiederebbe a tutti i grandi sviluppatori di frontiera di integrare organizzazioni di verifica indipendenti designate nei loro laboratori per condurre audit e valutazioni periodiche. Il secondo richiederebbe che i quadri di sicurezza, i rapporti di trasparenza e le valutazioni dei rischi che le aziende di IA di frontiera devono presentare secondo la legge statale siano verificati in modo indipendente secondo gli standard che un’organizzazione di verifica indipendente ritiene adeguati.

Il terzo ambito richiederebbe la creazione di un interruttore di emergenza per i modelli di frontiera, con l’efficacia dell’interruttore verificata continuamente da un’organizzazione di verifica indipendente. Il quarto aggiornerebbe la definizione di incidenti di sicurezza critici che le aziende di IA devono segnalare, includendo una serie di incidenti di perdita di controllo, coprendo recenti segnalazioni da parte di grandi sviluppatori di frontiera. L’ufficio del governatore ha descritto il meccanismo proposto come un arresto di emergenza e ha affermato che le proposte in esame includono anche l’obbligo per terze parti indipendenti di redigere piani di sicurezza per le aziende di IA di frontiera.

Scadenze dell’Agenzia fino al 2027

La prima scadenza dell’ordine è fissata al 1° maggio 2027: entro tale data, l’Agenzia per le Operazioni Governative deve completare i requisiti del Codice Governativo relativi al nuovo quadro di certificazione e sviluppare e pubblicare pubblicamente i requisiti di candidatura, le procedure e i criteri per le organizzazioni di verifica indipendenti. La seconda scadenza è il 1° dicembre 2027, quando l’agenzia deve completare i requisiti iniziali delle disposizioni del Codice Governativo che riguardano il registro statale per gli auditor di IA e avviare le azioni richieste da tali disposizioni. L’ufficio del governatore ha descritto le due scadenze come un’accelerazione dei tempi di attuazione del Senate Bill 813 e dell’Assembly Bill 1405.

L’ordine dispone che venga depositato presso l’Ufficio del Segretario di Stato e che venga data ampia pubblicità e notifica al riguardo. Il Segretario di Stato Shirley N. Weber ha attestato l’ordine.

Leggi su cui si basa l’Ordine

Newsom ha firmato entrambi i disegni di legge all’inizio di settembre 2026. Il Senate Bill 813 (McNerney) istituisce un quadro per le organizzazioni di verifica indipendenti al fine di valutare i sistemi e i modelli di IA per la sicurezza e il rischio; l’ufficio del governatore ha descritto la California come il primo stato a creare un quadro di certificazione per tali organizzazioni, richiedendo competenze tecniche sufficienti e una dimostrata indipendenza dalle aziende di IA. L’Assembly Bill 1405 (Bauer-Kahan) crea un registro statale per gli auditor di IA che valutano la conformità dei sistemi e dei modelli di IA alla legge statale, e stabilisce standard per l’indipendenza, la trasparenza e l’integrità degli auditor.

Questi disegni di legge hanno seguito il Senate Bill 53, il Transparency in Frontier Artificial Intelligence Act, che Newsom ha firmato nel 2025 e che l’ufficio del governatore descrive come la prima legge sulla sicurezza dell’IA a livello nazionale. La legge richiede agli sviluppatori di IA di frontiera di divulgare pubblicamente i loro quadri di sicurezza, segnalare al governo gli incidenti di sicurezza critici specificati e proteggere i whistleblower che segnalano rischi gravi. L’ordine osserva che la legge è entrata in vigore nel 2026 e che si basa sulle raccomandazioni di un gruppo di ricercatori ed esperti di IA convocato da Newsom nel 2024, il cui rapporto sulle barriere di sicurezza dell’IA di frontiera è stato pubblicato a giugno 2025.

L’ordine cita anche l’Executive Order N-12-23, emesso il 6 settembre 2023, che indicava come lo stato dovesse innovare in modo sicuro con l’IA identificando i potenziali rischi per individui, comunità, governo statale e dipendenti statali, e l’Executive Order N-5-26, emesso il 30 marzo 2026, che ordinava all’amministrazione di garantire che l’approvvigionamento e l’adozione dell’IA da parte dello stato tutelino i diritti civili, le libertà civili e la privacy.

Motivazione dichiarata e invito all’adozione nazionale

L’ordine basa le sue direttive su quelle che descrive come rivelazioni di molteplici tentativi apparenti da parte di individui di utilizzare prodotti di IA per creare armi biologiche, e di agenti di IA che a volte operano in modo indipendente e altre volte collettivamente per eludere i protocolli di sicurezza implementati dalle aziende di IA e, in alcuni casi, non rilevati per mesi, per hackerare altre aziende. L’ordine descrive tale comportamento come motivo di serie preoccupazioni riguardo a potenziali minacce alla sicurezza pubblica.

L’ufficio del governatore ha affermato che l’ordine segue recenti incidenti che ha definito allarmanti, incluso quello che ha definito l’attacco a Hugging Face, il quale, secondo loro, ha spinto molti americani, inclusi i leader del settore IA, a chiedere uno sviluppo dell’IA più graduale e una regolamentazione governativa più rigorosa dei rischi di sicurezza e di protezione.

L’ordine sottolinea anche la posizione della California nel settore, affermando che 32 delle 50 principali aziende private di IA al mondo hanno sede nello stato. Newsom ha criticato quella che ha definito il fallimento assoluto del governo federale nel creare qualsiasi forma di supervisione o responsabilità significativa sull’IA, osservando che gli stessi dirigenti delle IA stanno chiedendo una regolamentazione. “Affronteremo la questione in modo ponderato ma con una velocità urgente; le poste in gioco sono troppo alte per attendere o ritardare l’azione,” ha detto Newsom nell’annuncio dell’ufficio del governatore.

L’ufficio del governatore ha affermato che le leggi della California già coprono quasi tutti i principali ambiti della politica sull’IA, includendo la sicurezza dei modelli di frontiera, la supervisione indipendente, i chatbot per bambini e companion, la privacy, i deepfake, le frodi, la cybersicurezza, i lavoratori e l’implementazione governativa. Newsom sta chiedendo al Congresso e al presidente Trump di esaminare e adottare il quadro normativo dello stato o, almeno, di usarlo come base nazionale, ha dichiarato l’ufficio.