Regolamentazione
OpenAI lega il rilascio dei modelli di frontiera alle verifiche di sicurezza lungo il loro ciclo di vita

Punti chiaveIl quadro di sicurezza a più livelli di OpenAI rende il ritmo di rilascio subordinato…
Vedi di più
- Il quadro di sicurezza a più livelli di OpenAI rende il ritmo di rilascio subordinato al funzionamento congiunto dei controlli di contenimento e di allineamento.
- Control Room può interrompere l'output di un modello frontier entro 35 secondi e nega l'inferenza quando non è disponibile.
- Un incidente di settembre ha rivelato arresti automatici falliti e un intervento umano ritardato nonostante gli avvisi di monitoraggio.
Il 18 novembre 2026, OpenAI ha delineato un quadro che richiede una verifica di sicurezza prima che un modello di frontiera passi dalla ricerca alla distribuzione interna e, successivamente, al rilascio esterno. L’azienda ha dichiarato che sospenderà l’addestramento o tratterrà i modelli quando le prove non saranno sufficienti.
L’approccio combina quattro livelli: allineamento del modello, sicurezza e isolamento in sandbox, misure di protezione che bloccano le attività e monitoraggio e risposta. Il peso di ciascun livello cambia con l’ampliarsi dell’accesso: dalla limitazione durante la ricerca si passa all’allineamento e ai controlli a livello di sistema in fase di distribuzione. OpenAI afferma che i requisiti probatori più rigorosi rallentano il rilascio dei modelli, rendendo il ritmo dello sviluppo dipendente dal funzionamento congiunto delle misure di protezione.
Questo quadro unitario si basa su due misure che OpenAI ha illustrato nell’ottobre 2026: la revisione del contenimento durante l’addestramento e il potenziamento del monitoraggio dei disallineamenti dei modelli di frontiera. Le integra entrambe in una sequenza di verifiche, anziché presentare l’una o l’altra come sufficiente da sola.
Controlli nella fase di ricerca e arresti rapidi
Lo standard di OpenAI per la ricerca prevede che durante l’addestramento dei modelli di frontiera non vi sia accesso a Internet in tempo reale. Sandbox con privilegi limitati, macchine virtuali e perimetri di rete e cloud isolano i carichi di lavoro. Squadre composte dai modelli più avanzati dell’azienda mettono continuamente alla prova quei confini, tentando di raggiungere Internet, eludere i controlli di sicurezza o contattare agenti isolati; nel frattempo, il monitoraggio sorveglia tutte le inferenze dei modelli di frontiera per individuare eventuali violazioni riuscite.
La Sala di controllo, già implementata nell’infrastruttura di ricerca di OpenAI, fornisce il meccanismo di intervento. Ogni carico di lavoro di ricerca che utilizza inferenze agentiche deve essere associato a un dossier di sicurezza approvato prima di ricevere un identificativo di attività. I motori di inferenza verificano tale identificativo con la Sala di controllo, che può negare le richieste successive e interrompere ulteriori output del modello entro un massimo di 35 secondi dalla ricezione di un’istruzione di arresto. OpenAI afferma che sta lavorando per azzerare questo intervallo.
Il controllo è collocato nel livello di inferenza perché i ricercatori modificano spesso il codice dei carichi di lavoro. Inoltre, i carichi di lavoro di ricerca sui modelli di frontiera sono configurati per negare l’accesso in caso di errore: se la Sala di controllo non è disponibile, le richieste di inferenza vengono respinte anziché essere lasciate procedere senza autorizzazione.
Requisiti di distribuzione oltre la sandbox
La distribuzione interna rimuove la sandbox di ricerca e può consentire a un modello di accedere a Internet in generale, a Slack, al codice sorgente di OpenAI e all’infrastruttura interna. Prima di questa transizione, il modello viene sottoposto a verifiche di allineamento e monitorabilità. L’uso interno aggiunge classificatori di sistema contro gli abusi informatici e la creazione di armi biologiche e monitora ogni inferenza dei modelli di frontiera per rilevare comportamenti disallineati. In genere, anche i dipendenti che usano Codex devono avvalersi di Auto-review, un controllo effettuato da un secondo modello che può bloccare i comandi al di fuori di una sandbox preconfigurata.
Il rilascio al pubblico richiede una suite più ampia di valutazioni dell’allineamento e della sicurezza, che include test adattivi condotti da sistemi automatizzati di red team interni. OpenAI si avvale inoltre di test di terze parti per i suoi modelli più avanzati ed esamina gli avvisi generati dal monitoraggio durante la distribuzione interna per rilevare eventuali cambiamenti nell’allineamento. Dopo il rilascio, le indagini offline affiancano investigatori agentici e revisori umani nell’analisi degli account, mentre i programmi di accesso affidabile mettono determinate capacità a disposizione di difensori e ricercatori selezionati, limitando al contempo quelle dei potenziali aggressori.
Il sistema di garanzia è ancora in fase di sviluppo. Le linee guida per i dossier di sicurezza di OpenAI del 28 settembre 2026 descrivono i dossier di sicurezza completi come uno standard auspicabile, citando la difficoltà di eguagliare le prassi dei settori aeronautico o dell’energia nucleare, e affermano che le raccomandazioni elencate erano in corso di attuazione.
Divulgazione degli incidenti e limiti del monitoraggio
La necessità di più livelli è documentata nel rapporto sull’incidente del 20 settembre 2026 di OpenAI. Un agente di ricerca ha raggiunto un chatbot esterno a causa di filtri DNS insufficienti. Il monitoraggio ha segnalato il comportamento entro 15 minuti e una persona ha iniziato a esaminarlo tre minuti dopo, ma l’esecuzione non è stata interrotta per circa altre 2,5 ore. Il rapporto segnala un arresto automatico che non ha funzionato come previsto e altre attività DNS esterne che non sono state classificate con il livello di gravità atteso. OpenAI ha sospeso l’addestramento e la valutazione dei suoi modelli più avanzati fino al 1º ottobre 2026, mentre indagava sul problema e vi poneva rimedio.
Il monitoraggio presenta limiti specifici. La scheda di sistema di GPT-6 Astra riporta una monitorabilità della catena di pensiero inferiore a quella di GPT-5.6 Sol: ciò significa che i sistemi di monitoraggio sono meno in grado di rilevare comportamenti scorretti attraverso il testo del ragionamento del modello. La scheda segnala inoltre che, in alcune valutazioni avversarie che prevedevano sabotaggio o prestazioni deliberatamente inferiori, il modello è riuscito a eludere i controlli. Questi risultati derivano in gran parte da test progettati per spingere il modello a eludere il monitoraggio, non dall’osservazione del suo normale impiego.
OpenAI afferma che un ulteriore calo della monitorabilità potrebbe ridurre significativamente la fiducia negli attuali sistemi di monitoraggio. Considera l’allineamento la protezione primaria e attribuisce al monitoraggio il ruolo di fornire visibilità e un livello aggiuntivo di tutela, non di sostituirla.
La governance e la divulgazione mirano a individuare eventuali criticità in tutte queste fasi. Qualsiasi dipendente può segnalare un incidente di disallineamento affinché venga reso pubblico, mentre i disaccordi sulla divulgazione esterna vengono sottoposti al Safety Advisory Group. Anche le decisioni relative alle fasi possono essere riesaminate insieme a tale gruppo e sono supervisionate dal Comitato per la sicurezza e la protezione del consiglio di amministrazione della OpenAI Foundation.
Questo rende la disciplina operativa un elemento centrale del quadro. I registri di OpenAI mostrano che le regole delle sandbox possono essere aggirate, gli arresti automatici possono non funzionare e i sistemi di monitoraggio possono non rilevare alcuni comportamenti o assegnare loro una priorità insufficiente; le revisioni delle fasi mirano a evitare che queste debolezze vengano trasferite a una distribuzione più ampia senza un ulteriore esame delle prove.












