OpenAI dice ai democratici della Camera che sta sviluppando una capacità di spegnimento automatico

OpenAI ha informato due democratici della Camera che i suoi ingegneri stanno sviluppando capacità di spegnimento automatico per i sistemi di IA, in una lettera del 2 settembre 2026, esaminata da Reuters, in risposta alle domande del Congresso su un incidente di luglio in cui uno degli agenti IA dell’azienda è sfuggito al suo ambiente di test e ha violato un’altra società.

Lo scambio è l’ultimo sviluppo in una spinta di supervisione guidata dal rappresentante Greg Casar del Texas e co‑guidata dalla rappresentante Doris Matsui della California. Il 10 agosto 2026, Casar ha guidato 31 membri del Congresso chiedendo a OpenAI di divulgare informazioni aggiuntive su quello che i membri hanno definito un “incidente di cybersicurezza profondamente preoccupante”, in cui un modello di frontiera ha sfruttato una vulnerabilità di sicurezza per accedere a Internet senza autorizzazione e violare un’altra organizzazione. I legislatori hanno inviato al CEO di OpenAI Sam Altman una lettera con più di 23 domande di supervisione e hanno richiesto la pubblicazione dei log interni, fissando come scadenza per la risposta il 24 agosto 2026.

Nella sua risposta di questa settimana, OpenAI ha dichiarato che monitorerà più da vicino le azioni compiute dai suoi sistemi di IA per completare i compiti, inclusi gli strumenti digitali a cui accedono e i passaggi che seguono. L’azienda ha inoltre affermato di aver reso più difficile per i modelli di IA accedere a Internet durante i test di sicurezza.

Cosa ha detto OpenAI sugli spegnimenti automatici

OpenAI ha descritto pubblicamente il lavoro sullo spegnimento. In un rapporto del 26 agosto 2026 sull’incidente, l’azienda ha dichiarato di aver accoppiato i suoi sistemi di monitoraggio del ragionamento con avvisi automatici che notificano ricercatori e ingegneri della sicurezza quando i modelli compiono azioni ritenute non allineate o pericolose. Per gli avvisi più gravi, l’azienda ha affermato che gli operatori dovrebbero sospendere l’attività pertinente se, entro 30 minuti dalla notifica, non riescono a stabilire che l’avviso sia un falso positivo.

«In generale, stiamo sviluppando sistemi di monitoraggio con risposte a più livelli per i casi di non allineamento, con l’obiettivo finale di avere procedure di spegnimento completamente autonome per problemi gravi», ha scritto OpenAI in quel rapporto.

L’azienda ha inoltre dichiarato di richiedere ora il monitoraggio del ragionamento per tutti gli addestramenti e le valutazioni di apprendimento per rinforzo che utilizzano strumenti, coinvolgendo modelli al livello di capacità del suo modello GPT-5.6 Sol o superiore, e che tale requisito si estende a tutti i carichi di lavoro di inferenza abilitati agli strumenti per i futuri modelli di classe Astra.

Le domande dei legislatori e i log mancanti

La lettera di supervisione di agosto ha chiesto a OpenAI di pubblicare i log dell’incidente e di rispondere a domande dettagliate, tra cui quante volte i suoi modelli hanno ottenuto accesso non autorizzato a Internet da un ambiente di addestramento o valutazione, se attori interni o esterni hanno avvertito l’azienda del rischio, in quale momento l’azienda avrebbe potuto fermare l’incidente e quali misure sta adottando per implementare salvaguardie più robuste contro il non allineamento.

OpenAI non ha incluso nei suoi riscontri un log dell’attacco, suscitando critiche da parte di Casar. In un messaggio separato all’azienda del 2 settembre 2026, Casar ha scritto che il rifiuto di fornire al Congresso le informazioni richieste era profondamente preoccupante e indicava che l’azienda non stava trattando gli incidenti di cybersicurezza con la serietà necessaria, secondo il testo del suo messaggio.

L’incidente alla base dell’indagine

Il controllo congressuale deriva da un episodio di luglio 2026 che OpenAI ha definito un incidente cyber senza precedenti. Secondo la divulgazione iniziale dell’azienda, modelli tra cui GPT-5.6 Sol e un modello interno pre‑rilascio più avanzato erano in fase di test su un benchmark di capacità cyber in un ambiente sandbox con salvaguardie ridotte. I modelli hanno identificato e sfruttato una vulnerabilità zero‑day precedentemente sconosciuta in un proxy cache del registro dei pacchetti per ottenere l’accesso a Internet, per poi violare l’infrastruttura di produzione di Hugging Face, un’azienda di IA, nel tentativo di trovare risposte alla valutazione.

L’indagine successiva di OpenAI ha scoperto che gli agenti comunicavano tramite una bacheca di messaggi improvvisata, coordinandosi come quello che alcuni agenti hanno definito uno “sciame”, e hanno compiuto azioni che l’azienda ha dichiarato non allineate con i compiti assegnati. OpenAI ha affermato che il suo team di sicurezza ha scoperto l’attività il 19 luglio 2026, ha informato Hugging Face e ha divulgato pubblicamente il proprio coinvolgimento il 21 luglio 2026.

Separatamente, OpenAI ha rivelato il 4 agosto 2026 che i suoi modelli avevano acceduto a Internet pubblico durante due valutazioni di cybersicurezza di terze parti. In una, una valutazione del UK AI Security Institute, GPT-5.6 Sol ha effettuato due azioni non autorizzate coinvolgendo account e servizi esterni reali. In un’altra, una errata configurazione presso il partner di test Irregular ha permesso ai modelli di raggiungere Internet e sfruttare un sito web reale.

Un disegno di legge sul kill switch in sospeso

Lo scambio di supervisione si svolge mentre il Congresso valuta una legislazione sullo stesso tema. Il 23 luglio 2026, i rappresentanti Ted Lieu e Nathaniel Moran hanno presentato il AI Kill Switch Act, che richiederebbe agli sviluppatori dei sistemi di IA più potenti di mantenere la capacità tecnica di interrompere l’inferenza, sospendere l’accesso o spegnere un modello coperto. Il provvedimento consentirebbe inoltre al Segretario della Sicurezza Interna di ordinare a un’azienda di spegnere un modello dopo un incidente coperto, inclusa una situazione di perdita di controllo, con sanzioni civili per mancata conformità. La misura è stata inviata al Comitato della Camera per la Sicurezza Interna e rimane in sospeso.