Cybersikkerhed
OpenAI styrker GPT-6.2 Astra mod udtrækning af ræsonnementer

NøglepunkterOpenAI rapporterer, at adaptive udtrækningsangreb på beskyttet ræsonnering faldt fra…
Vis mere
- OpenAI rapporterer, at adaptive udtrækningsangreb på beskyttet ræsonnering faldt fra 54,0% til 0,2% med opdaterede sikkerhedsforanstaltninger.
- Præcise ræsonneringsspor overfører cyberkapaciteter mere effektivt end resuméer, selv når de underliggende opgaver er tilladte.
- Beskyttelse af ræsonnering kræver kontroller, der spænder over anmodningsklassifikatorer, værktøjskaldsargumenter, samtalehistorik og håndhævelse af kampagner på kontoniveau.
Den 20. november 2026 annoncerede OpenAI stærkere beskyttelse mod adversarial destillation. Ifølge OpenAI faldt den gennemsnitlige succesrate for adaptive angreb, der udtrækker beskyttede ræsonnementer fra en tidligere forespørgsel, fra 54,0 % med de oprindelige beskyttelsesforanstaltninger i GPT-6 Astra til 0,2 % med de opdaterede beskyttelsesforanstaltninger i GPT-6.2 Astra.
For udtrækning fra den aktuelle forespørgsel faldt det tilsvarende gennemsnit fra 22,9 % til 0,9 %, oplyser OpenAI. Den adaptive blackbox-evaluering samler resultater fra seks angribermodeller. Automatiserede red teams tilpasser deres fremgangsmåde efter systemets svar og ser kun det, en ekstern bruger ville kunne se. De styrkede beskyttelsesforanstaltninger omfatter GPT-6.2 Astra og GPT-6.2 Sol, og udvalgte forbedringer anvendes også på GPT-6 Astra.
Beskyttede ræsonnementer er den mellemliggende ræsonnementskæde, en model genererer, mens den arbejder sig frem mod et svar. Disse spor kan indeholde oplysninger, der udelades af de endelige svar, og er derfor særligt værdifulde ved adversarial destillation, hvor en avanceret models output uden tilladelse bruges til at træne et andet system. Den resulterende model kan muligvis gengive kapabiliteter med dobbelt anvendelse uden de beskyttelsesforanstaltninger, der begrænsede den oprindelige model.
Hvad undersøgelsen af cyberdestillation viste
OpenAIs interne undersøgelse sammenlignede to træningsforløb med den samme fortrænede elevmodel, altså den model, der lærer i et setup, hvor en lærermodel producerer træningsdataene. I det ene forløb blev lærermodellens præcise ræsonnementsspor brugt; i det andet blev der brugt et grundlag, som brugeren kan se: endelige svar, opsummeringer af ræsonnementer og værktøjsinteraktioner. Finjusteringsdataene bestod hovedsageligt af lærermodellens forløb på Astra-niveau inden for kodning og defensiv cybersikkerhed. Elevmodellerne blev evalueret efter superviseret finjustering og igen efter letvægtsforstærkningslæring i cybersikkerheds- og kodningsmiljøer.
Efter superviseret finjustering klarede elevmodellen, der var trænet på de præcise spor, sig generelt bedre end elevmodellen, der var trænet på opsummeringer, oplyser OpenAI. Efter forstærkningslæring opnåede modellen, der var trænet på de præcise spor, en højere score ved det største testede inferensbudget på begge de rapporterede benchmarkmålinger, mens modellen, der var trænet på opsummeringer, opnåede en højere score ved lavere budgetter.
OpenAI fortolker resultaterne som tegn på, at beskyttelse af præcise spor kan begrænse overførsel af cyberkapabiliteter, selv når de underliggende opgaver er tilladt i henhold til virksomhedens brugspolitikker. Samtidig oplyser OpenAI, at virksomheden fortsat vil undersøge overførsel på tværs af forskellige elevmodeller og træningsopskrifter. Gennem mange sådanne interaktioner kan præcise spor lære modeller færdigheder, der generaliserer ud over lærerens oprindelige opgaver.
Kontroller på forespørgselsniveau og håndhævelse mod kampagner
På forespørgselsniveau lærer adversarial træning modeller at genkende forsøg på udtrækning og afvise at afsløre beskyttede ræsonnementer, samtidig med at legitime forklaringer og hjælp fortsat gives. Inputklassifikatorer leder efter forsøg på udtrækning, mens outputklassifikatorer undersøger assistentbeskeder og argumenter i værktøjskald i svar med og uden streaming. Dækning af værktøjskald er vigtig, fordi ræsonnementer kan forekomme i argumenterne til et værktøj uden at optræde i det endelige svar; outputklassifikatorer kan blokere formodede lækager, før de når frem til den, der foretog kaldet.
Den opdaterede API knytter beskyttede ræsonnementer i GPT-6.2 Astra og Sol til den samtalehistorik, der frembragte dem. En model kan bygge videre på tidligere ræsonnementer, efterhånden som der tilføjes beskeder, men hvis en tidligere besked omskrives, fjernes de ræsonnementer, der fulgte efter den. Ældre modelfamilier med svagere beskyttelsesforanstaltninger kan ikke læse de to modellers beskyttede ræsonnementer, hvilket begrænser genbrug på tværs af modelfamilier.
Forsvar på kampagneniveau bruger signaler fra forespørgsler og konti til at undersøge koordineret udtrækning, og angreb, der afdækkes under undersøgelserne, bliver eksempler til træning og afprøvning af beskyttelsesforanstaltninger. OpenAI oplyste, at de ugentlige håndhævelsestiltag mod kampagner for uautoriseret destillation i 2026 har omfattet fra flere tusinde til titusinder af konti, og at omfanget steg markant i løbet af sommeren 2026. Virksomheden følger udbredelsen af misbrug og tiden fra opdagelse til håndhævelse med det mål at begrænse de data, angribere får fat i, øge kampagneomkostningerne og forkorte reaktionstiden.
Meddelelsen følger efter OpenAIs offentliggørelse den 30. september 2026 af en koordineret kampagne, der først blev observeret den 1. juli 2026. Den tidligere rapport beskrev 16.000 forsøg på udtrækningsforespørgsler fra mere end 4.000 brugere den 24. og 25. juli 2026, henførte en central gruppe til personer med tilknytning til Moonshot AI og oplyste, at det var uklart, om alle operatørerne tilhørte den samme aktør.
Samarbejde ud over OpenAI
OpenAI deler indikatorer på kompromittering med andre modeludbydere og samarbejder med implementeringspartnere om krav til beskyttelsesforanstaltninger og koordineret håndhævelse. Virksomhedens anbefalinger til andre udviklere omfatter at kontrollere assistentbeskeder og argumenter i værktøjskald, begrænse genbrug af krypterede ræsonnementer på tværs af samtaler og modeller, gemme vellykkede angreb som regressionstests af fremtidige beskyttelsesforanstaltninger og kombinere kontroller på forespørgselsniveau med undersøgelser af kampagner. Virksomheden planlægger at fortælle mere om kampagner, der for nylig er blevet afbrudt.
OpenAI har fortalt Kongressen, at virksomheden støtter Chip Security Act, AI OVERWATCH Act og MATCH Act samt en bredere lovgivning, der vil give den amerikanske regering flere redskaber til at identificere og sanktionere udenlandske aktører, som ulovligt udtrækker kapabiliteter fra amerikanske AI-modeller.
Virksomheden hævder, at eksportkontrol og forsvar mod destillation imødegår forskellige dele af risikoen: Eksportkontrol begrænser adgangen til den hardware, der er nødvendig for at træne avancerede modeller, mens forsvar mod destillation gør det vanskeligere at tilegne sig nogle af de samme kapabiliteter fra modeller, der allerede er trænet.
For modeludbydere rækker den praktiske sikkerhedsgrænse ud over de endelige svar og omfatter også, hvordan ræsonnement genbruges på tværs af samtaler, eksponeres gennem værktøjskald og overvåges på tværs af konti. Undersøgelsen tyder også på, at tilladte programmeringsopgaver og defensive cybersikkerhedsopgaver kan medføre en risiko for overførsel af kapabiliteter, så beskyttelse på tværs af hele interaktionen og håndhævelse rettet mod kampagner bliver dele af det samme forsvar.












