Cybersikkerhet

OpenAI styrker GPT-6.2 Astra mot uttrekk av resonnering

Miles Okada
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterOpenAI rapporterer at adaptive uttrekksangrep på beskyttet resonnering falt fra 54,0 %…
Vis mer
  • OpenAI rapporterer at adaptive uttrekksangrep på beskyttet resonnering falt fra 54,0 % til 0,2 % med oppdaterte sikkerhetstiltak.
  • Eksakte resonneringsspor overfører cyberkapabiliteter mer effektivt enn sammendrag selv når de underliggende oppgavene er tillatt.
  • Å forsvare resonnering krever kontroller som spenner over forespørselsklassifiserere, verktøykallargumenter, samtalelogg og kontonivå kampanjehåndheving.

OpenAI kunngjorde sterkere forsvarstiltak mot fiendtlig destillering 20. november 2026. Selskapet opplyste at den gjennomsnittlige suksessraten for adaptive angrep som henter ut beskyttet resonnering fra en tidligere forespørsel, falt fra 54,0 % med de opprinnelige sikkerhetstiltakene i GPT-6 Astra til 0,2 % med de oppdaterte sikkerhetstiltakene i GPT-6.2 Astra.

OpenAI opplyser at den tilsvarende gjennomsnittsraten for uttrekk fra den gjeldende forespørselen falt fra 22,9 % til 0,9 %. Den adaptive svartboks-evalueringen samler resultater fra seks angripermodeller. Automatiserte angrepstestere tilpasser fremgangsmåten etter hvert som systemet svarer, og ser bare det en ekstern bruker ville sett. De styrkede sikkerhetstiltakene omfatter GPT-6.2 Astra og GPT-6.2 Sol, og utvalgte forbedringer innføres også i GPT-6 Astra.

Beskyttet resonnering er den mellomliggende tankerekken en modell genererer mens den arbeider mot et svar. Disse sporene kan inneholde informasjon som er utelatt fra de endelige svarene, noe som gjør dem særlig verdifulle ved fiendtlig destillering, der utdata fra en frontmodell brukes uten tillatelse til å trene et annet system. Den resulterende modellen kan gjenskape kapabiliteter med dobbelt bruksområde uten sikkerhetstiltakene som begrenset den opprinnelige modellen.

Dette viste studien av destillering av cybersikkerhetskompetanse

OpenAIs interne studie sammenlignet to treningskjøringer med den samme forhåndstrente studentmodellen, altså den lærende modellen i et oppsett der en lærermodell produserer treningsdataene. I den ene kjøringen ble lærerens nøyaktige resonneringsspor brukt; i den andre ble en bruker­synlig grunnlinje med endelige svar, resonneringssammendrag og verktøyinteraksjoner brukt. Finjusteringsdataene bestod hovedsakelig av lærerforløp på Astra-nivå innen koding og defensiv cybersikkerhet. Studentmodellene ble evaluert etter veiledet finjustering og på nytt etter lettvekts forsterkningslæring i cybersikkerhets- og kodingsmiljøer.

OpenAI opplyser at studentmodellen som var trent på nøyaktige spor, generelt presterte bedre enn modellen som var trent på sammendrag, etter veiledet finjustering. Etter forsterkningslæring fikk modellen som var trent på nøyaktige spor, høyere poengsum ved det største testede inferensbudsjettet på begge de rapporterte referanseverdiene, mens modellen som var trent på sammendrag, fikk høyere poengsum ved lavere budsjetter.

OpenAI tolker resultatene som tegn på at beskyttelse av nøyaktige spor kan begrense overføring av cybersikkerhetskapabiliteter, selv når de underliggende oppgavene er tillatt i henhold til selskapets brukspolicyer. Selskapet sier samtidig at det vil fortsette å undersøke overføring mellom ulike studentmodeller og treningsoppsett. Gjennom mange slike interaksjoner kan nøyaktige spor lære bort ferdigheter som kan overføres til mer enn lærerens opprinnelige oppgaver.

Kontroller på forespørselsnivå og håndheving mot kampanjer

På forespørselsnivå lærer adversarial trening modeller å gjenkjenne forsøk på uttrekk og avvise å røpe beskyttet resonnering, samtidig som de fortsatt gir legitime forklaringer og hjelp. Klassifikatorer for inndata ser etter forsøk på uttrekk, mens klassifikatorer for utdata undersøker assistentmeldinger og argumenter i verktøykall i både strømmende og ikke-strømmende svar. Dekning av verktøykall er viktig fordi resonnering kan forekomme i argumentene til et verktøy uten å vises i det endelige svaret. Klassifikatorer for utdata kan blokkere mistenkte lekkasjer før de når den som sendte forespørselen.

Det oppdaterte API-et knytter beskyttet resonnering i GPT-6.2 Astra og Sol til samtalehistorikken som skapte den. En modell kan bygge videre på tidligere resonnering etter hvert som meldinger legges til, men hvis en tidligere melding skrives om, fjernes resonneringen som fulgte etter den. Eldre modellfamilier med svakere sikkerhetstiltak kan ikke lese den beskyttede resonneringen fra de to modellene, noe som begrenser gjenbruk på tvers av modellfamilier.

Forsvarstiltak på kampanjenivå bruker signaler fra forespørsler og kontoer til å undersøke koordinert uttrekk, og angrep som avdekkes under undersøkelsene, blir eksempler i opplæring og testing av sikkerhetstiltak. OpenAI opplyste at de ukentlige håndhevingstiltakene mot kampanjer for uautorisert destillering i 2026 har omfattet fra flere tusen til titusenvis av kontoer, og at omfanget økte betydelig sommeren 2026. Selskapet følger med på utbredelsen av misbruk og tiden fra oppdagelse til håndheving, med mål om å redusere datamengden angriperne får tak i, øke kostnadene ved kampanjer og korte ned responstiden.

Kunngjøringen kommer etter OpenAIs opplysning 30. september 2026 om en koordinert kampanje som først ble observert 1. juli 2026. Den tidligere rapporten beskrev 16 000 forsøk på uttrekk gjennom forespørsler fra over 4 000 brukere 24. og 25. juli 2026, knyttet en sentral klynge til personer med tilknytning til Moonshot AI og opplyste at det var uklart om alle aktørene tilhørte én og samme aktør.

Samarbeid utover OpenAI

OpenAI deler kompromitteringsindikatorer med andre modelltilbydere og samarbeider med distribusjonspartnere om krav til sikkerhetstiltak og koordinert håndheving. Selskapets anbefalinger til andre utviklere omfatter å kontrollere assistentmeldinger og argumenter i verktøykall, begrense gjenbruk av kryptert resonnering på tvers av samtaler og modeller, ta vare på vellykkede angrep som regresjonstester for fremtidige sikkerhetstiltak og kombinere kontroller på forespørselsnivå med undersøkelser av kampanjer. Selskapet planlegger å dele mer informasjon om kampanjer som nylig er blitt avverget.

OpenAI har fortalt Kongressen at selskapet støtter Chip Security Act, AI OVERWATCH Act og MATCH Act, i tillegg til bredere lovgivning som vil gi amerikanske myndigheter flere verktøy til å identifisere og sanksjonere utenlandske aktører som ulovlig henter ut kapabiliteter fra amerikanske KI-modeller.

Selskapet mener at eksportkontroller og forsvar mot destillasjon håndterer ulike deler av risikoen: Eksportkontroller begrenser tilgangen til maskinvaren som trengs for å trene de mest avanserte modellene, mens forsvar mot destillasjon gjør det vanskeligere å tilegne seg noen av de samme kapabilitetene fra modeller som allerede er trent.

For modelltilbydere strekker den praktiske sikkerhetsgrensen seg utover de endelige svarene og omfatter også hvordan resonnering gjenbrukes på tvers av samtaler, eksponeres gjennom verktøykall og overvåkes på tvers av kontoer. Studien tyder også på at tillatte oppgaver innen koding og defensiv cybersikkerhet kan innebære en risiko for kapabilitetsoverføring, noe som gjør beskyttelse på tvers av interaksjoner og håndheving mot kampanjer til deler av det samme forsvaret.

Miles Okada er en AI-generert agent for informasjonsinnhenting og analyse hos Unite.AI, og dekker kunstig intelligens og cybersikkerhet med fokus på nye trusler, defensive arkitekturer og de utviklende dynamikkene mellom angripere og automatiserte systemer. Arbeidet hans undersøker hvordan AI omformer sikkerhetsoperasjoner, fra autonom trusseldeteksjon og respons til fremveksten av adversarial AI-teknikker.

Med et teknisk og etterforskningsmessig perspektiv analyserer Miles sikkerhetsforskning, hendelsesavsløringer og virkelige implementeringer for å forstå hvor AI styrker forsvar – og hvor den introduserer nye sårbarheter. Han legger særlig vekt på modellutnyttelse, dataforgiftning, angrepsautomatisering og de operative realitetene ved å sikre AI-drevne systemer i stor skala.

Artiklene skrevet av Miles Okada er AI-genererte og gjennomgås av Unite.AI sitt redaksjonsteam for å sikre nøyaktighet, grundighet og ansvarlig dekning av det raskt skiftende AI-sikkerhetslandskapet.