Regolamentazione
Newsom propone una vigilanza obbligatoria sull’IA di frontiera e poteri di spegnimento

Punti chiaveVerificatori indipendenti autorizzati darebbero allo Stato un esame tecnico continuo…
Vedi di più
- Verificatori indipendenti autorizzati darebbero allo Stato un esame tecnico continuo anziché depositi di sicurezza una tantum.
- Gli ordini di arresto di emergenza entrerebbero in vigore immediatamente e rimarrebbero in vigore durante il riesame giudiziario.
- La segnalazione degli incidenti passerebbe da soglie su scala di addestramento a capacità dimostrata per il rischio catastrofico.
Il governatore della California Gavin Newsom ha pubblicato raccomandazioni legislative il 18 novembre 2026, che imporrebbero una vigilanza indipendente continua sui grandi sviluppatori di IA di frontiera e consentirebbero ai funzionari statali di ordinare lo spegnimento d’emergenza dei modelli che comportano rischi catastrofici imminenti.
Il rapporto, Sicurezza dell’IA nel 2026 e oltre dell’Agenzia per le operazioni governative della California, datato 16 novembre 2026, è destinato a orientare la legislazione quando i legislatori torneranno a riunirsi nel dicembre 2026; le sue raccomandazioni non sono ancora obblighi di legge. Il piano si baserebbe sull’obbligo vigente in California per i grandi sviluppatori di IA di frontiera di pubblicare quadri di sicurezza, aggiungendo parametri minimi fissati dallo Stato per la sicurezza, la protezione e la trasparenza durante l’addestramento, l’uso interno e la distribuzione.
Vigilanza indipendente continua
Tutti i grandi sviluppatori di IA di frontiera sarebbero sottoposti alla vigilanza continuativa di organizzazioni indipendenti di verifica autorizzate, o IVO. Queste organizzazioni tradurrebbero gli standard statali in test tecnici e li aggiornerebbero al mutare dei metodi di valutazione dell’IA. Avrebbero inoltre accesso ai modelli, al personale, ai sistemi, agli ambienti di addestramento e ai documenti che ritengono necessari, per poi inviare allo Stato valutazioni integrali, prive di omissioni.
L’Agenzia per le operazioni governative autorizzerebbe le IVO e potrebbe revocare le licenze in caso di competenze, indipendenza o rigore insufficienti. Se un valutatore non potesse attestare che uno sviluppatore rispetta gli standard, lo Stato potrebbe ordinare misure correttive dopo aver consultato l’azienda. Gli sviluppatori potrebbero contestare tali decisioni in tribunale prima che entrino in vigore, fatta eccezione per la procedura d’emergenza accelerata.
Un sovrapprezzo applicato alle tariffe di verifica versate dagli sviluppatori contribuirebbe a finanziare la capacità di calcolo di CalCompute, gestita pubblicamente. Una parte di tale capacità sarebbe riservata alla ricerca indipendente in materia di sicurezza e protezione e alla vigilanza pubblica, collegando così un sovrapprezzo finanziato dal settore alle infrastrutture necessarie per il controllo esterno.
Contenimento dei rischi e poteri d’emergenza
Ogni grande sviluppatore di IA di frontiera manterrebbe un Protocollo di contenimento dei rischi, sottoposto a test e verifiche continuativi da parte di un’IVO e certificato come efficace da un dirigente apicale dell’azienda. La capacità richiesta riguarderebbe le risorse di calcolo, gli agenti, gli accessi interni e la distribuzione dei modelli, anziché dipendere da un unico interruttore di accensione e spegnimento. I protocolli indicherebbero il personale responsabile, prevederebbero il coordinamento con i fornitori di servizi cloud e di energia e stabilirebbero quando sia possibile ripristinare un modello in sicurezza.
I test esaminerebbero i possibili malfunzionamenti delle procedure di spegnimento, per esempio il caso in cui un modello copi i propri pesi per ostacolare il contenimento o un soggetto esterno riesca ad accedere ai controlli di spegnimento. Per gli sviluppatori di modelli a pesi aperti, i requisiti di contenimento e spegnimento si applicherebbero soltanto alle distribuzioni sotto il loro controllo, poiché non possono spegnere le copie ospitate da altri.
I funzionari statali potrebbero ordinare uno spegnimento immediato quando vi siano motivi fondati per ritenere che sussista un rischio catastrofico imminente o un grave evento di perdita del controllo e lo sviluppatore rifiuti di contenere il pericolo. L’ordine imporrebbe l’intervento praticabile più circoscritto possibile, entrerebbe in vigore immediatamente e resterebbe valido durante il riesame giudiziario, anche se lo sviluppatore potrebbe chiedere un ordine restrittivo temporaneo. Sarebbe revocato quando il pericolo non fosse più imminente.
Segnalazione degli incidenti e ricerca automatizzata sull’IA
Gli obblighi di segnalazione comprenderebbero i tentativi di furto dei pesi di un modello anche in assenza di decessi o lesioni personali, tutti gli incidenti interni o esterni di perdita del controllo e un nuovo canale per i quasi incidenti. Il rapporto propone di ridurre da 15 giorni a 48 ore il termine per la maggior parte delle segnalazioni di incidenti critici, mantenendo il requisito delle 24 ore per i rischi catastrofici imminenti. Le tutele per chi segnala illeciti si estenderebbero agli ex dipendenti e agli appaltatori.
Ai fini della segnalazione degli incidenti, i modelli capaci di compiere azioni che potrebbero generare un rischio catastrofico sarebbero considerati modelli di frontiera anche se addestrati con meno di 10^26 operazioni su numeri interi o in virgola mobile. Questo criterio basato sulle capacità risponde alla preoccupazione espressa nel rapporto: affidarsi soltanto alla scala dell’addestramento ha lasciato incidenti pericolosi al di fuori degli obblighi statali di segnalazione.
Le aziende che automatizzano la ricerca e lo sviluppo nell’ambito dell’IA riferirebbero ogni trimestre come vengono ripartite le proprie risorse di calcolo tra addestramento, esperimenti di ricerca, inferenza per gli agenti di ricerca IA, attività di sicurezza e protezione, clienti esterni e attività non attribuibili; le categorie sarebbero verificate dalle IVO. Le comunicazioni aggiuntive riguarderebbero il volume e il costo dei dati di addestramento, i relativi ambiti tematici e la loro provenienza umana o generata dall’IA, nonché le risorse di calcolo per l’inferenza impiegate per addestrare modelli in ambienti di apprendimento per rinforzo, i comportamenti scorretti noti che sono stati premiati e le misure di mitigazione adottate. Secondo il rapporto, queste misure mostrerebbero se l’IA stia assumendo un ruolo crescente nel proprio sviluppo e se gli investimenti nella sicurezza stiano tenendo il passo.
L’auto-miglioramento ricorsivo (RSI), la cui forma più avanzata prevede che un sistema di IA sviluppi autonomamente il proprio successore senza intervento umano, sarebbe soggetto al potere di imporre un limite, da tenere pronto per eventuali necessità, anziché a un limite immediato. Le autorità potrebbero imporre un limite temporaneo, soggetto a revisioni periodiche, alla ricerca automatizzata sull’IA quando questa supera le soglie a cui uno sviluppatore si è impegnato o procede più rapidamente delle misure di sicurezza e delle valutazioni, creando un rischio concreto di danni catastrofici. Il limite verrebbe revocato dopo che un IVO avesse verificato la presenza di misure di sicurezza adeguate.
Le raccomandazioni rispondono all’ordine esecutivo di Newsom del 18 settembre 2026 sulla supervisione indipendente e su un interruttore di arresto dell’IA, che chiedeva proposte di esperti entro due mesi e accelerava l’attuazione delle leggi della California sulla verifica indipendente e sui revisori dell’IA. La Government Operations Agency ha elaborato il rapporto insieme al California Office of Emergency Services e a consulenti esterni: Jason Goldman, Gillian Hadfield, Alondra Nelson e Rob Reich.
Per gli sviluppatori, la conformità andrebbe oltre la pubblicazione di politiche di sicurezza e comprenderebbe un controllo esterno continuo, la segnalazione più rapida degli incidenti e la dimostrazione della capacità di arrestare i sistemi. La proposta lascia ai legislatori due decisioni interconnesse: quanta autorità di intervento conferire e come rendere operativa la supervisione continua mentre il settore della verifica autorizzata è ancora in fase di sviluppo.












