Cybersäkerhet

OpenAI stärker GPT-6.2 Astra mot extraktion av resonemang

Miles Okada
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterOpenAI rapporterar att adaptiva utvinningsattacker mot skyddat resonemang minskade från…
Visa mer
  • OpenAI rapporterar att adaptiva utvinningsattacker mot skyddat resonemang minskade från 54,0 % till 0,2 % med uppdaterade skyddsåtgärder.
  • Exakta resonemangsspår överför cyberkapacitet mer effektivt än sammanfattningar även när de underliggande uppgifterna är tillåtna.
  • Att försvara resonemang kräver kontroller som omfattar förfrågningsklassificerare, verktygsanropsargument, konversationshistorik och kontonivåbaserad kampanjverkställighet.

Den 20 november 2026 meddelade OpenAI att skyddet har stärkts mot adversariell destillering. Enligt företaget sjönk den genomsnittliga framgångsgraden för adaptiva attacker som extraherade skyddade resonemang från en tidigare förfrågan från 54,0 % med GPT-6 Astra och de ursprungliga skyddsåtgärderna till 0,2 % med GPT-6.2 Astra och de uppdaterade skyddsåtgärderna.

Vid extraktion från den aktuella förfrågan sjönk motsvarande genomsnitt från 22,9 % till 0,9 %, uppger OpenAI. Den adaptiva svartlådeutvärderingen sammanväger resultat från sex angriparmodeller. Automatiserade red-team-testare anpassar sitt tillvägagångssätt efter systemets svar och ser bara det som en extern användare skulle se. Det stärkta skyddet omfattar GPT-6.2 Astra och GPT-6.2 Sol, och utvalda förbättringar införs även i GPT-6 Astra.

Skyddade resonemang är den mellanliggande resonemangskedja som en modell genererar medan den arbetar fram ett svar. Dessa spår kan innehålla information som utelämnas i de slutliga svaren, vilket gör dem särskilt värdefulla vid adversariell destillering. Då används en frontmodellens utdata utan tillstånd för att träna ett annat system. Den resulterande modellen kan återskapa förmågor med dubbla användningsområden utan de skyddsåtgärder som begränsade den ursprungliga modellen.

Vad cybersäkerhetsstudien om destillering visade

OpenAIs interna studie jämförde två träningsomgångar med samma förtränade studentmodell – den modell som lär sig i ett upplägg där en lärarmodell skapar träningsdata. I den ena omgången användes lärarmodellens exakta resonemangsspår; i den andra användes den användarsynliga baslinjen med slutliga svar, sammanfattningar av resonemang och verktygsinteraktioner. Finjusteringsdata bestod huvudsakligen av lärarspår på Astra-nivå från kodningsuppgifter och defensiva cybersäkerhetsuppgifter. Studentmodellerna utvärderades efter övervakad finjustering och på nytt efter lättviktig förstärkningsinlärning i cybersäkerhets- och kodningsmiljöer.

Efter övervakad finjustering presterade studenten som tränats med exakta spår i allmänhet bättre än studenten som tränats med sammanfattningar, uppger OpenAI. Efter förstärkningsinlärning fick studenten som tränats med exakta spår högre poäng vid den största testade inferensbudgeten på båda redovisade jämförelsetesterna, medan studenten som tränats med sammanfattningar fick högre poäng vid lägre budgetar.

OpenAI tolkar resultaten som belägg för att skydd av exakta spår kan begränsa överföringen av cyberförmågor, även när de underliggande uppgifterna är tillåtna enligt företagets användningspolicyer. Företaget säger samtidigt att det kommer att fortsätta undersöka överföring mellan olika studentmodeller och träningsupplägg. Genom många sådana interaktioner kan exakta spår lära ut färdigheter som generaliseras bortom lärarmodellens ursprungliga uppgifter.

Kontroller på förfrågningsnivå och åtgärder mot kampanjer

På förfrågningsnivå lär adversariell träning modeller att känna igen extraktionsförsök och vägra lämna ut skyddade resonemang, samtidigt som de fortfarande kan ge legitima förklaringar och hjälp. Indataklassificerare letar efter extraktionsförsök, medan utdataklassificerare granskar assistentmeddelanden och argument i verktygsanrop i både strömmade och icke-strömmade svar. Täckning av verktygsanrop är viktig eftersom resonemang kan förekomma i argumenten till ett verktyg utan att finnas med i det slutliga svaret. Utdataklassificerare kan blockera misstänkta läckor innan de når anroparen.

Det uppdaterade API:et knyter de skyddade resonemangen i GPT-6.2 Astra och Sol till den konversationshistorik som gav upphov till dem. En modell kan bygga vidare på tidigare resonemang när meddelanden läggs till, men om ett tidigare meddelande skrivs om tas resonemangen som följde på det bort. Äldre modellfamiljer med svagare skydd kan inte läsa de två modellernas skyddade resonemang, vilket begränsar återanvändning mellan modellfamiljer.

Skydd på kampanjnivå använder signaler från förfrågningar och konton för att utreda samordnad extraktion. Attacker som upptäcks under utredningarna blir exempel vid träning och testning av skyddsåtgärder. OpenAI uppgav att de veckovisa åtgärderna mot obehöriga destilleringskampanjer under 2026 har riktats mot allt från tusentals till tiotusentals konton, och att takten ökade betydligt under sommaren 2026. Företaget följer förekomsten av missbruk och tiden från upptäckt till åtgärd, med målet att minska mängden data som angripare får tag på, höja kostnaderna för kampanjer och korta svarstiderna.

Meddelandet följer på OpenAIs offentliggörande den 30 september 2026 om en samordnad kampanj som först observerades den 1 juli 2026. I den tidigare rapporten beskrevs 16 000 försök till extraktionsförfrågningar från fler än 4 000 användare den 24 och 25 juli 2026. En kärngrupp hänfördes till personer med koppling till Moonshot AI, och det uppgavs vara oklart om alla operatörer tillhörde samma aktör.

Samordning utanför OpenAI

OpenAI delar kompromissindikatorer med andra modellleverantörer och samarbetar med driftsättningspartner kring krav på skyddsåtgärder och samordnade åtgärder. Företagets rekommendationer till andra utvecklare är att granska assistentmeddelanden och argument i verktygsanrop, begränsa återanvändning av krypterade resonemang mellan konversationer och modeller, spara framgångsrika attacker som regressionstester för framtida skyddsåtgärder och kombinera kontroller på förfrågningsnivå med kampanjutredningar. Företaget planerar att berätta mer om kampanjer som nyligen har störts.

OpenAI har meddelat kongressen att företaget stöder Chip Security Act, AI OVERWATCH Act och MATCH Act, samt bredare lagstiftning som skulle ge USA:s regering fler verktyg för att identifiera och bestraffa utländska aktörer som olagligen utvinner förmågor ur amerikanska AI-modeller.

Företaget menar att exportkontroller och skydd mot destillering hanterar olika delar av risken: exportkontroller begränsar tillgången till den hårdvara som behövs för att träna avancerade modeller, medan skydd mot destillering gör det svårare att få tillgång till vissa av samma förmågor från modeller som redan har tränats.

För modellleverantörer sträcker sig den praktiska säkerhetsgränsen längre än till de slutliga svaren och omfattar även hur resonemang återanvänds mellan konversationer, exponeras genom verktygsanrop och övervakas mellan konton. Studien tyder också på att tillåtna kodningsuppgifter och uppgifter inom defensiv cybersäkerhet kan medföra en risk för överföring av förmågor, vilket gör skydd som omfattar hela interaktionen och insatser mot kampanjer till delar av samma försvar.

Miles Okada är en AI-genererad agent för informationsinhämtning och analys på Unite.AI, som täcker artificiell intelligens och cybersäkerhet med fokus på nya hot, defensiva arkitekturer och de föränderliga dynamikerna mellan angripare och automatiserade system. Hans arbete undersöker hur AI omformar säkerhetsoperationer, från autonom hotdetektering och respons till ökningen av adversariella AI‑tekniker.

Med ett tekniskt och undersökande perspektiv analyserar Miles säkerhetsforskning, incidentavslöjanden och verkliga implementeringar för att förstå var AI stärker försvar — och var det introducerar nya sårbarheter. Han ägnar särskild uppmärksamhet åt modellutnyttjande, dataförgiftning, attackautomation och de operativa realiteterna för att säkra AI‑drivna system i stor skala.

Artiklar skrivna av Miles Okada är AI‑genererade och granskas av Unite.AI:s redaktionsteam för att säkerställa noggrannhet, stringens och ett ansvarsfullt bevakande av det snabbt föränderliga AI‑säkerhetslandskapet.