Securitate cibernetică
OpenAI consolidează GPT-6.2 Astra împotriva extragerii raționamentului

Puncte cheieOpenAI raportează că atacurile adaptive de extragere asupra raționamentului protejat au…
Vezi mai mult
- OpenAI raportează că atacurile adaptive de extragere asupra raționamentului protejat au scăzut de la 54,0% la 0,2% cu protecțiile actualizate.
- Urmele exacte de raționament transferă capacități cibernetice mai eficient decât rezumatele, chiar și atunci când sarcinile de bază sunt permise.
- Apărarea raționamentului necesită controale care acoperă clasificatoarele cererilor, argumentele apelurilor de instrumente, istoricul conversațiilor și aplicarea campaniilor la nivel de cont.
Pe 20 noiembrie 2026, OpenAI a anunțat măsuri de apărare mai puternice împotriva distilării adversariale, raportând că rata medie de succes a atacurilor adaptive care extrag raționamentul protejat dintr-o solicitare anterioară a scăzut de la 54,0% pentru GPT-6 Astra cu măsurile de protecție inițiale la 0,2% pentru GPT-6.2 Astra cu măsurile de protecție actualizate.
Pentru extragerea din solicitarea curentă, media corespunzătoare a scăzut de la 22,9% la 0,9%, relatează OpenAI. Evaluarea adaptivă de tip cutie neagră cumulează rezultatele obținute pentru șase modele de atacatori, agenții automatizați de testare adversarială ajustându-și abordarea pe măsură ce sistemul răspunde și văzând doar ceea ce ar vedea un utilizator extern. Măsurile de protecție consolidate vizează GPT-6.2 Astra și GPT-6.2 Sol, iar unele îmbunătățiri sunt aplicate și pentru GPT-6 Astra.
Raționamentul protejat este lanțul de gândire intermediar pe care îl generează un model în timp ce elaborează un răspuns. Aceste urme pot conține informații omise din răspunsurile finale, ceea ce le face deosebit de valoroase pentru distilarea adversarială, care folosește fără autorizare rezultatele unui model de frontieră pentru a antrena un alt sistem. Modelul rezultat poate reproduce capacități cu dublă utilizare fără măsurile de protecție care le limitau pe cele ale modelului inițial.
Ce a constatat studiul privind distilarea cibernetică
Studiul intern al OpenAI a comparat două runde de antrenare pornind de la același model student preantrenat, adică modelul care învață într-o configurație în care un model profesor produce datele de antrenare. Într-o rundă au fost folosite urmele exacte ale raționamentului modelului profesor; în cealaltă, setul de date de referință vizibil utilizatorului, alcătuit din răspunsuri finale, rezumate ale raționamentului și interacțiuni cu instrumentele. Datele de ajustare fină au constat în principal din traiectorii ale modelului profesor la nivelul Astra, pentru sarcini de programare și securitate cibernetică defensivă. Modelele student au fost evaluate după ajustarea fină supravegheată și din nou după învățarea prin consolidare ușoară, în medii de securitate cibernetică și programare.
După ajustarea fină supravegheată, modelul student antrenat cu urmele exacte a depășit, în general, modelul student antrenat cu rezumate, relatează OpenAI. După învățarea prin consolidare, modelul student antrenat cu urmele exacte a obținut scoruri mai mari la cel mai mare buget de inferență testat, în ambele benchmarkuri raportate, în timp ce modelul student antrenat cu rezumate a avut scoruri mai mari la bugete mai mici.
OpenAI interpretează rezultatele ca dovezi că protejarea urmelor exacte poate limita transferul capacităților cibernetice chiar și atunci când sarcinile subiacente sunt permise de politicile sale de utilizare, precizând totodată că va continua să studieze transferul între diferite modele student și rețete de antrenare. În cadrul multor astfel de interacțiuni, urmele exacte pot transmite competențe care se generalizează dincolo de sarcinile inițiale ale modelului profesor.
Controale la nivelul solicitărilor și aplicarea măsurilor împotriva campaniilor
La nivelul solicitărilor, antrenarea adversarială învață modelele să recunoască tentativele de extragere și să refuze divulgarea raționamentului protejat, păstrând în același timp explicațiile și asistența legitime. Clasificatoarele de intrare caută tentative de extragere, în timp ce clasificatoarele de ieșire analizează mesajele asistentului și argumentele apelurilor de instrumente din răspunsurile transmise în flux și din cele care nu sunt transmise în flux. Acoperirea apelurilor de instrumente este importantă deoarece raționamentul poate apărea în argumentele unui instrument fără să apară în răspunsul final; clasificatoarele de ieșire pot bloca scurgerile suspectate înainte ca acestea să ajungă la solicitant.
API-ul actualizat asociază raționamentul protejat din GPT-6.2 Astra și Sol cu istoricul conversației care l-a generat. Un model se poate baza pe raționamentele anterioare pe măsură ce se adaugă mesaje, însă rescrierea unui mesaj anterior elimină raționamentul care a urmat. Familiile de modele mai vechi, cu măsuri de protecție mai slabe, nu pot citi raționamentul protejat al celor două modele, ceea ce limitează reutilizarea între familii de modele.
Măsurile de apărare la nivel de campanie folosesc semnale legate de solicitări și conturi pentru a investiga extragerea coordonată, iar atacurile descoperite în timpul investigațiilor devin exemple pentru antrenarea și testarea măsurilor de protecție. OpenAI a declarat că, în 2026, acțiunile săptămânale de aplicare a măsurilor împotriva campaniilor de distilare neautorizată au vizat între mii și zeci de mii de conturi, iar ritmul a crescut semnificativ în vara anului 2026. Compania urmărește prevalența abuzurilor și timpul dintre detectare și aplicarea măsurilor, cu scopul de a reduce datele obținute de atacatori, de a crește costurile campaniilor și de a scurta timpii de răspuns.
Anunțul vine după dezvăluirea făcută de OpenAI la 30 septembrie 2026 cu privire la o campanie coordonată observată pentru prima dată la 1 iulie 2026. Raportul anterior a descris 16.000 de solicitări de extragere încercate de peste 4.000 de utilizatori în zilele de 24 și 25 iulie 2026, a atribuit un grup central unor persoane asociate cu Moonshot AI și a precizat că nu era clar dacă toți operatorii aparțineau aceluiași actor.
Cooperare dincolo de OpenAI
OpenAI distribuie indicatori de compromitere altor furnizori de modele și colaborează cu partenerii de implementare în privința cerințelor de protecție și a aplicării coordonate a măsurilor. Printre recomandările companiei pentru alți dezvoltatori se numără verificarea mesajelor asistentului și a argumentelor apelurilor de instrumente, restricționarea reutilizării raționamentului criptat între conversații și modele, păstrarea atacurilor reușite ca teste de regresie pentru măsurile de protecție viitoare și combinarea controalelor la nivelul solicitărilor cu investigarea campaniilor. Compania intenționează să ofere mai multe informații despre campaniile perturbate recent.
OpenAI a declarat Congresului că susține Chip Security Act, AI OVERWATCH Act și MATCH Act, precum și o legislație mai amplă care i-ar oferi guvernului SUA mai multe instrumente pentru a identifica și sancționa actorii străini care extrag în mod ilegal capabilități din modelele americane de inteligență artificială.
Compania susține că măsurile de control al exporturilor și apărarea împotriva distilării vizează aspecte diferite ale acestui risc: măsurile de control al exporturilor limitează accesul la hardware-ul necesar antrenării modelelor de vârf, în timp ce apărarea împotriva distilării îngreunează obținerea unora dintre aceleași capabilități de la modele deja antrenate.
Pentru furnizorii de modele, limita practică a securității se extinde dincolo de răspunsurile finale și include modul în care raționamentul este reutilizat în conversații, expus prin apeluri către instrumente și monitorizat între conturi. Studiul sugerează, de asemenea, că sarcinile permise de programare și de securitate cibernetică defensivă pot crea un risc de transfer al capabilităților, ceea ce face ca protecția pe parcursul întregii interacțiuni și aplicarea măsurilor împotriva campaniilor să facă parte din aceeași apărare.












