Sicurezza informatica
OpenAI rafforza le difese di GPT-6.2 Astra contro l’estrazione del ragionamento

Punti chiaveOpenAI riporta che gli attacchi di estrazione adattiva sul ragionamento protetto sono…
Vedi di più
- OpenAI riporta che gli attacchi di estrazione adattiva sul ragionamento protetto sono scesi dal 54,0% allo 0,2% con le salvaguardie aggiornate.
- Le tracce di ragionamento esatte trasferiscono capacità informatiche in modo più efficace delle sintesi anche quando le attività sottostanti sono consentite.
- Difendere il ragionamento richiede controlli che coprano classificatori delle richieste, argomenti delle chiamate agli strumenti, cronologia delle conversazioni e applicazione delle campagne a livello di account.
Il 20 novembre 2026, OpenAI ha annunciato difese più efficaci contro la distillazione avversaria, riferendo che il tasso medio di successo degli attacchi adattivi volti a estrarre il ragionamento protetto da una richiesta precedente è sceso dal 54,0% registrato su GPT-6 Astra con le protezioni originali allo 0,2% su GPT-6.2 Astra con le protezioni aggiornate.
Per l’estrazione dalla richiesta corrente, la media corrispondente è scesa dal 22,9% allo 0,9%, riferisce OpenAI. La valutazione adattiva a scatola nera aggrega i risultati ottenuti con sei modelli di attacco; i red teamer automatizzati adattano il proprio approccio in base alle risposte del sistema e vedono solo ciò che vedrebbe un utente esterno. Le protezioni rafforzate riguardano GPT-6.2 Astra e GPT-6.2 Sol; alcuni miglioramenti sono inoltre in fase di applicazione a GPT-6 Astra.
Il ragionamento protetto è la catena di pensiero intermedia che un modello genera mentre elabora una risposta. Queste tracce possono contenere informazioni omesse dalle risposte finali, rendendole particolarmente preziose per la distillazione avversaria, che utilizza senza autorizzazione gli output di un modello di frontiera per addestrare un altro sistema. Il modello risultante potrebbe riprodurre capacità a duplice uso senza le protezioni che limitavano il modello originale.
Cosa è emerso dallo studio sulla distillazione informatica
Lo studio interno di OpenAI ha confrontato due cicli di addestramento dello stesso modello studente preaddestrato, ossia il modello che apprende in una configurazione in cui un modello insegnante genera i dati di addestramento. In un ciclo sono state utilizzate le tracce esatte del ragionamento dell’insegnante; nell’altro, la base di confronto visibile all’utente, composta da risposte finali, riepiloghi del ragionamento e interazioni con gli strumenti. I dati di messa a punto consistevano principalmente in traiettorie del modello insegnante a livello di Astra, relative ad attività di programmazione e cybersicurezza difensiva. I modelli studenti sono stati valutati dopo la messa a punto supervisionata e nuovamente dopo un apprendimento per rinforzo leggero in ambienti di cybersicurezza e programmazione.
Dopo la messa a punto supervisionata, il modello studente addestrato con le tracce esatte ha generalmente superato quello addestrato con i riepiloghi, riferisce OpenAI. Dopo l’apprendimento per rinforzo, il modello addestrato con le tracce esatte ha ottenuto un punteggio più alto, al maggiore budget di inferenza testato, in entrambi i benchmark riportati; quello addestrato con i riepiloghi ha invece ottenuto risultati migliori ai budget inferiori.
OpenAI interpreta i risultati come prova del fatto che proteggere le tracce esatte può limitare il trasferimento di capacità informatiche anche quando le attività sottostanti sono consentite dalle sue politiche di utilizzo. L’azienda afferma inoltre che continuerà a studiare il trasferimento tra diversi modelli studenti e ricette di addestramento. Attraverso numerose interazioni di questo tipo, le tracce esatte possono insegnare competenze che si generalizzano oltre le attività originarie del modello insegnante.
Controlli a livello di richiesta e contrasto alle campagne
A livello di richiesta, l’addestramento avversario insegna ai modelli a riconoscere i tentativi di estrazione e a rifiutarsi di divulgare il ragionamento protetto, continuando però a fornire spiegazioni e assistenza legittime. I classificatori degli input cercano di individuare i tentativi di estrazione, mentre quelli degli output esaminano i messaggi dell’assistente e gli argomenti delle chiamate agli strumenti, sia nelle risposte in streaming sia in quelle non in streaming. La copertura delle chiamate agli strumenti è importante perché il ragionamento può comparire negli argomenti di uno strumento senza apparire nella risposta finale; i classificatori degli output possono bloccare le fughe sospette prima che raggiungano il chiamante.
L’API aggiornata collega il ragionamento protetto di GPT-6.2 Astra e Sol alla cronologia della conversazione che lo ha generato. Man mano che vengono aggiunti messaggi, un modello può basarsi sul ragionamento precedente; tuttavia, riscrivere un messaggio precedente elimina il ragionamento che ne è seguito. Le famiglie di modelli meno recenti, dotate di protezioni più deboli, non possono leggere il ragionamento protetto dei due modelli, limitandone il riutilizzo tra famiglie di modelli diverse.
Le difese a livello di campagna utilizzano segnali relativi alle richieste e agli account per indagare sulle attività di estrazione coordinate; gli attacchi scoperti durante le indagini diventano esempi per l’addestramento e la verifica delle protezioni. OpenAI ha dichiarato che nel 2026 le azioni settimanali di contrasto alle campagne di distillazione non autorizzate hanno coinvolto da migliaia a decine di migliaia di account, con un aumento significativo del ritmo durante l’estate del 2026. L’azienda monitora la diffusione degli abusi e il tempo che intercorre tra il rilevamento e l’intervento, con l’obiettivo di ridurre i dati ottenuti dagli aggressori, aumentare i costi delle campagne e abbreviare i tempi di risposta.
L’annuncio segue la comunicazione del 30 settembre 2026 di OpenAI su una campagna coordinata, rilevata per la prima volta il 1° luglio 2026. Il rapporto precedente descriveva 16.000 tentativi di estrazione effettuati da oltre 4.000 utenti il 24 e il 25 luglio 2026, attribuiva un gruppo centrale a persone associate a Moonshot AI e affermava che non era chiaro se tutti gli operatori appartenessero allo stesso soggetto.
Coordinamento oltre OpenAI
OpenAI condivide gli indicatori di compromissione con altri fornitori di modelli e collabora con i partner di distribuzione sui requisiti di protezione e sulle azioni coordinate di contrasto. Tra le raccomandazioni rivolte agli altri sviluppatori figurano: controllare i messaggi dell’assistente e gli argomenti delle chiamate agli strumenti; limitare il riutilizzo del ragionamento cifrato tra conversazioni e modelli; conservare gli attacchi riusciti come test di regressione per le protezioni future; e affiancare i controlli a livello di richiesta alle indagini sulle campagne. L’azienda prevede di condividere ulteriori informazioni sulle campagne interrotte di recente.
OpenAI ha comunicato al Congresso di sostenere il Chip Security Act, l’AI OVERWATCH Act e il MATCH Act, insieme a una legislazione più ampia che fornirebbe al governo statunitense maggiori strumenti per identificare e sanzionare gli attori stranieri che sottraggono illegalmente capacità ai modelli di IA americani.
L’azienda sostiene che i controlli sulle esportazioni e le difese contro la distillazione intervengano su aspetti diversi del rischio: i controlli sulle esportazioni limitano l’accesso all’hardware necessario per addestrare i modelli di frontiera, mentre le difese contro la distillazione rendono più difficile acquisire alcune delle stesse capacità da modelli già addestrati.
Per i fornitori di modelli, il perimetro pratico della sicurezza va oltre le risposte finali e comprende il modo in cui il ragionamento viene riutilizzato tra conversazioni, esposto tramite chiamate agli strumenti e monitorato tra account. Lo studio suggerisce inoltre che attività consentite di programmazione e di cybersicurezza difensiva possano comportare il rischio di trasferimento di capacità, rendendo la protezione estesa a tutte le interazioni e il contrasto delle campagne componenti della stessa difesa.












