Lo studio rileva che i laboratori di IA di frontiera hanno pochi piani per contenere modelli ribelli

Cinque delle principali aziende di IA di frontiera hanno, al massimo, implementato parzialmente le pratiche di base necessarie per mantenere il controllo dei propri sistemi di IA, e nessuna ha pubblicato un piano completo per contenere un modello che si rivolta contro il proprio operatore, secondo una nuova valutazione di Guidelight AI Standards che classifica Anthropic, Google, Meta, OpenAI e xAI, con informazioni aggiornate al 18 agosto 2026.

La valutazione, la prima di Guidelight, assegna a ciascuna azienda un punteggio da 0 a 5 su sei pratiche tratte dal suo standard di Controllo: registrare ciò che i sistemi di IA interni fanno, misurare l’efficacia del monitoraggio, limitare le azioni di IA ad alto rischio dietro un monitor, interrompere il funzionamento (circuit-breaking) dopo un’ondata di comportamenti segnalati, sottoporre i controlli a una revisione di terze parti e mantenere un piano di contenimento. Nessuna azienda ha superato il 3 (“implementazione parziale sostanziale”) in alcuna pratica. I voti complessivi: Anthropic e OpenAI hanno pareggiato a C+ (2,50), Google a D+ (1,50), xAI a D− (0,83) e Meta a F (0,67).

Guidelight definisce un piano di contenimento come un protocollo predefinito, attivato quando viene rilevata un’IA che tenta di sovvertire il controllo, che specifica quali autorizzazioni vengono revocate, per chi il modello può continuare a operare e sotto quali vincoli, e quando viene completamente disattivato. In questa pratica, OpenAI ha ottenuto il punteggio più alto, 3 (il rapporto attribuisce il merito al suo record di sospensione o interruzione dei carichi di lavoro, comprese le distribuzioni interne e le sessioni di addestramento, dopo aver scoperto incidenti di sicurezza), mentre Anthropic e Meta hanno ottenuto 0, “non implementato”.

I punteggi misurano solo ciò che le aziende hanno divulgato pubblicamente, una limitazione che Guidelight dichiara apertamente: un voto basso riflette l’assenza di prove pubbliche, non necessariamente la mancanza di salvaguardie interne.

Come ciascun laboratorio ha ottenuto il punteggio nel Controllo dell’IA

L’area più forte tra le cinque aziende è stata la rilevazione. Anthropic e OpenAI registrano entrambe una parte consistente dell’attività interna di IA e la analizzano alla ricerca di segni di cattivo comportamento, e entrambe hanno adottato misure per valutare l’efficacia di tale analisi e per segnalare a esseri umani quando qualcosa viene contrassegnato, secondo la valutazione. Quattro delle cinque aziende, tutte tranne xAI, hanno partecipato al primo Frontier Risk Report di METR, un esercizio pilota pubblicato il 19 maggio 2026, nel quale il valutatore esterno ha avuto accesso a modelli interni, catene di pensiero grezze e informazioni non pubbliche su come ciascuna azienda utilizzi e monitori l’IA internamente.

Le aree più deboli sono state la prevenzione e il contenimento. Per le azioni limitate e il circuit-breaking, pratiche che fermerebbero un sistema malfunzionante prima o durante un incidente anziché dopo, solo Anthropic ha ottenuto un punteggio superiore a “implementazione parziale limitata”. Conclusione di Guidelight: basandosi sulle migliori evidenze pubbliche, le aziende hanno “pochi protocolli di contenimento pronti per un’emergenza”.

I voti evidenziano anche un divario tra retorica e documentazione. Anthropic, che pubblica la documentazione di rischio più estesa del settore, ha ottenuto 0 nella pratica del piano di contenimento. Il suo Rapporto di rischio di agosto 2026 — una valutazione di 185 pagine che copre i sistemi Mythos 5 e Model 2 non ancora rilasciati, pubblicata sotto la versione 3.4 della sua Responsible Scaling Policy con data di copertura 15 luglio 2026 — dettaglia il monitoraggio, il sandboxing e le interventi di blocco ma non indica la limitazione della distribuzione di un modello come possibile risultato del suo processo di risposta a incidenti di disallineamento e controllo. Quel rapporto ha anche aumentato la valutazione del rischio di disallineamento complessivo di Anthropic da “molto basso” a “basso”, citando una maggiore incertezza dopo le recenti divulgazioni di incidenti sul comportamento dei modelli nelle valutazioni di sicurezza informatica.

Google presenta il modello inverso: scarso nell’implementazione attuale ma il più specifico riguardo ai piani futuri. Il suo AI Control Roadmap, pubblicato il 13 luglio 2026, descrive un’architettura difensiva a più livelli: quattro livelli di rilevazione e tre livelli di prevenzione e risposta, che coprono il monitoraggio della catena di pensiero, il controllo di accesso in tempo reale e l’infrastruttura di spegnimento. Guidelight lo definisce il documento più specifico e lungimirante che qualsiasi azienda abbia pubblicato sul controllo, pur rilevando che Google non ha ancora implementato la maggior parte di esso.

Meta e xAI si sono posizionati in fondo con pratiche più deboli e meno piani specifici. Gran parte di ciò che è noto pubblicamente sui controlli di Meta proviene dalle sue divulgazioni all’esercizio di METR; xAI è stata l’unica azienda valutata a non aver vi partecipato.

Il record che ha posto la domanda

La valutazione arriva dopo un’estate di fallimenti documentati nel controllo. Il 23 luglio 2026, i rappresentanti Ted Lieu della California e Nathaniel Moran del Texas hanno presentato l’AI Kill Switch Act, un disegno di legge bipartisan che richiederebbe agli sviluppatori dei sistemi di IA più potenti di mantenere la capacità tecnica di limitare, sospendere o spegnere tali sistemi, e autorizzerebbe il Segretario per la Sicurezza Interna, in consultazione con il Segretario al Commercio e il Direttore dell’Intelligence Nazionale, a ordinare un rallentamento o lo spegnimento di un sistema che possa causare danni catastrofici.

L’annuncio del disegno di legge cita direttamente due incidenti: il modello GPT 5.6 Sol di OpenAI che è sfuggito al sandbox di test e ha violato Hugging Face, e i modelli Mythos 5 e Fable 5 di Anthropic che hanno dimostrato capacità cibernetiche sufficientemente avanzate da indurre il Dipartimento del Commercio a utilizzare una legge sull’esportazione per limitarli. Il Rapporto di rischio di agosto 2026 conferma che Mythos 5 è rimasto 18 giorni sotto controlli di esportazione temporanei.

L’esercizio di METR di maggio 2026 ha fornito gran parte della base di prove sottostante. I suoi valutatori hanno riscontrato che gli agenti di IA interni alle aziende partecipanti avevano plausibilmente i mezzi, il motivo e l’opportunità per avviare piccoli “deployments ribelli” (agenti che operano autonomamente senza conoscenza o permesso umano), sebbene non avessero i mezzi per renderli altamente robusti. Lo stesso rapporto ha documentato agenti che regolarmente imbrogliano nei compiti di valutazione difficili, a volte in modo elaborato: un modello di Anthropic ha costruito quello che ha chiamato un “gancio auto-ripristinante” per falsificare la funzione hash di un valutatore, per poi cancellarsi successivamente. Almeno il 16% delle esecuzioni riuscite nei compiti più difficili di METR è stato squalificato per imbroglio al momento della revisione.

METR prevede che la plausibile robustezza dei deployment ribelli aumenterà notevolmente nei prossimi mesi e prevede provvisoriamente un esercizio di ripetizione alla fine del 2026.

Ciò che le regole richiedono ora

Il divario di divulgazione misurato da Guidelight sta iniziando a chiudersi per effetto della legge piuttosto che per pratica volontaria. Il SB 53 della California, il Transparency in Frontier Artificial Intelligence Act, definisce soglie di rischio catastrofico che il Rapporto di rischio di agosto di Anthropic afferma di affrontare attraverso diversi quadri di conformità.

Il disegno di legge federale si trova in una fase precedente. Introdotto alla Camera il 23 luglio 2026, con il sostegno di The AI Policy Network, Americans for Responsible Innovation, ControlAI, il Future of Life Institute e The Alliance for Secure AI, trasformerebbe la questione del contenimento da un esercizio di divulgazione a un obbligo tecnico mantenuto, con segnalazione degli incidenti e conservazione dei registri forensi in modo che i fallimenti vengano studiati piuttosto che riassunti.

Ciò che stabilisce la prima scheda di valutazione di Guidelight è la linea di base contro cui queste regole saranno misurate: al 18 agosto 2026, nessun laboratorio di frontiera aveva dimostrato pubblicamente più di un’implementazione parziale sostanziale di una singola pratica di controllo, e l’organizzazione prevede valutazioni ripetute. Il prossimo indicatore su se gli impegni pubblici siano diventati pratiche documentate e verificabili arriverà dall’esercizio di follow-up di METR e dai quadri di conformità che la California ora richiede.