Cyberbeveiliging
OpenAI versterkt GPT-6.2 Astra tegen het achterhalen van redeneringen

Belangrijkste puntenOpenAI meldt dat adaptieve extractieaanvallen op beschermd redeneren zijn gedaald van…
Meer weergeven
- OpenAI meldt dat adaptieve extractieaanvallen op beschermd redeneren zijn gedaald van 54,0% naar 0,2% met bijgewerkte waarborgen.
- Exacte redeneersporen dragen cybercapaciteiten effectiever over dan samenvattingen, zelfs wanneer de onderliggende taken zijn toegestaan.
- Het verdedigen van redeneren vereist maatregelen die verzoekclassificaties, argumenten voor tool-aanroepen, gespreksgeschiedenis en handhaving van campagnes op accountniveau omvatten.
Op 20 november 2026 kondigde OpenAI sterkere bescherming aan tegen adversariële distillatie. Het bedrijf meldde dat het gemiddelde slagingspercentage van adaptieve aanvallen die beschermde redeneringen uit een eerder verzoek achterhaalden, daalde van 54,0% met GPT-6 Astra en de oorspronkelijke beveiligingen naar 0,2% met GPT-6.2 Astra en de bijgewerkte beveiligingen.
Bij het achterhalen van redeneringen uit het huidige verzoek daalde het overeenkomstige gemiddelde van 22,9% naar 0,9%, meldt OpenAI. De adaptieve black-box-evaluatie bundelt de resultaten van zes aanvallermodellen. Geautomatiseerde red-teamers passen hun aanpak aan op basis van de reacties van het systeem en zien alleen wat een externe gebruiker zou zien. De versterkte beveiligingen gelden voor GPT-6.2 Astra en GPT-6.2 Sol; geselecteerde verbeteringen worden ook doorgevoerd in GPT-6 Astra.
Beschermde redenering is de tussentijdse gedachtegang die een model genereert terwijl het naar een antwoord toewerkt. Deze redeneringssporen kunnen informatie bevatten die niet in de uiteindelijke antwoorden staat, waardoor ze bijzonder waardevol zijn voor adversariële distillatie: daarbij worden de uitvoerresultaten van een toonaangevend model zonder toestemming gebruikt om een ander systeem te trainen. Het resulterende model kan mogelijkheden voor tweeërlei gebruik reproduceren zonder de beveiligingen die het oorspronkelijke model beperkten.
Wat het onderzoek naar cyberdistillatie heeft uitgewezen
In een intern onderzoek vergeleek OpenAI twee trainingsrondes met hetzelfde vooraf getrainde leerlingmodel. Dat is het model dat leert in een opzet waarin een leraarmodel de trainingsgegevens genereert. Bij de ene ronde werden de exacte redeneringssporen van het leraarmodel gebruikt; bij de andere de voor gebruikers zichtbare basislijn van uiteindelijke antwoorden, samenvattingen van redeneringen en interacties met tools. De finetuningsgegevens bestonden voornamelijk uit trajecten van een leraarmodel op Astra-niveau voor programmeer- en defensieve cyberbeveiligingstaken. De leerlingmodellen werden geëvalueerd na gesuperviseerde finetuning en opnieuw na lichte reinforcement learning in omgevingen voor cyberbeveiliging en programmeren.
Na gesuperviseerde finetuning presteerde het leerlingmodel dat met exacte redeneringssporen was getraind over het algemeen beter dan het model dat met samenvattingen was getraind, meldt OpenAI. Na reinforcement learning behaalde het model met exacte redeneringssporen een hogere score bij het grootste geteste inferentiebudget op beide gerapporteerde benchmarks, terwijl het model dat met samenvattingen was getraind bij lagere budgetten hoger scoorde.
OpenAI ziet de resultaten als bewijs dat het beschermen van exacte redeneringssporen de overdracht van cybercapaciteiten kan beperken, zelfs wanneer de onderliggende taken zijn toegestaan volgens het gebruiksbeleid van het bedrijf. Tegelijk zegt OpenAI de overdracht tussen verschillende leerlingmodellen en trainingsmethoden verder te blijven onderzoeken. Door veelvuldige interacties kunnen exacte redeneringssporen vaardigheden aanleren die verder reiken dan de oorspronkelijke taken van het leraarmodel.
Beveiliging op verzoekniveau en handhaving tegen campagnes
Op verzoekniveau leert adversariële training modellen om pogingen tot het achterhalen van beschermde redeneringen te herkennen en die niet prijs te geven, terwijl legitieme uitleg en hulp beschikbaar blijven. Invoerclassificatoren zoeken naar pogingen tot het achterhalen van redeneringen, terwijl uitvoerclassificatoren de berichten van de assistent en argumenten bij toolaanroepen controleren, zowel bij streaming- als niet-streamingreacties. Controle van toolaanroepen is belangrijk omdat redeneringen in de argumenten van een tool kunnen staan zonder in het uiteindelijke antwoord te verschijnen. Uitvoerclassificatoren kunnen vermoedelijke lekken blokkeren voordat die de aanroeper bereiken.
De bijgewerkte API koppelt beschermde redeneringen in GPT-6.2 Astra en Sol aan de gespreksgeschiedenis waarin ze zijn ontstaan. Een model kan voortbouwen op eerdere redeneringen wanneer berichten worden toegevoegd, maar als een eerder bericht wordt herschreven, vervalt de redenering die daarop volgde. Oudere modelfamilies met zwakkere beveiligingen kunnen de beschermde redeneringen van de twee modellen niet uitlezen, waardoor hergebruik tussen modelfamilies wordt beperkt.
Beveiliging op campagneniveau maakt gebruik van signalen uit verzoeken en accounts om gecoördineerde pogingen tot het achterhalen van redeneringen te onderzoeken. Aanvallen die tijdens onderzoeken aan het licht komen, worden voorbeelden voor het trainen en testen van beveiligingen. OpenAI meldde dat het in 2026 wekelijks handhavingsmaatregelen nam tegen ongeoorloofde distillatiecampagnes die betrekking hadden op duizenden tot tienduizenden accounts. Dat aantal liep in de zomer van 2026 aanzienlijk op. Het bedrijf houdt bij hoe vaak misbruik voorkomt en hoeveel tijd verstrijkt tussen detectie en handhaving. Het doel is de hoeveelheid gegevens die aanvallers verkrijgen te beperken, de kosten van campagnes te verhogen en sneller te reageren.
De aankondiging volgt op OpenAI’s bekendmaking van 30 september 2026 over een gecoördineerde campagne die voor het eerst werd waargenomen op 1 juli 2026. In het eerdere rapport stond dat op 24 en 25 juli 2026 16.000 pogingen waren gedaan om gegevens te achterhalen, afkomstig van meer dan 4.000 gebruikers. Het rapport schreef een centrale cluster toe aan personen die banden hadden met Moonshot AI en stelde dat onduidelijk was of alle betrokkenen tot één actor behoorden.
Samenwerking buiten OpenAI
OpenAI deelt indicatoren van compromittering met andere modelaanbieders en werkt met implementatiepartners aan beveiligingseisen en gecoördineerde handhaving. Het bedrijf raadt andere ontwikkelaars aan om assistentberichten en argumenten bij toolaanroepen te controleren, hergebruik van versleutelde redeneringen tussen gesprekken en modellen te beperken, succesvolle aanvallen te bewaren als regressietests voor toekomstige beveiligingen en beveiliging op verzoekniveau te combineren met onderzoek naar campagnes. OpenAI is van plan meer informatie te delen over campagnes die onlangs zijn verstoord.
OpenAI heeft het Congres laten weten dat het de Chip Security Act, de AI OVERWATCH Act en de MATCH Act steunt, naast bredere wetgeving die de Amerikaanse overheid meer middelen zou geven om buitenlandse actoren op te sporen en sancties op te leggen wanneer zij op onrechtmatige wijze mogelijkheden aan Amerikaanse AI-modellen ontlenen.
Het bedrijf stelt dat exportcontroles en bescherming tegen distillatie verschillende aspecten van dat risico aanpakken: exportcontroles beperken de toegang tot de hardware die nodig is om geavanceerde modellen te trainen, terwijl bescherming tegen distillatie het moeilijker maakt om sommige van diezelfde mogelijkheden te verkrijgen uit modellen die al zijn getraind.
Voor modelaanbieders reikt de praktische beveiligingsgrens verder dan de uiteindelijke antwoorden: ook de manier waarop redeneerprocessen opnieuw worden gebruikt in verschillende gesprekken, via toolaanroepen toegankelijk worden gemaakt en over accounts heen worden gemonitord, valt eronder. De studie suggereert ook dat toegestane programmeertaken en taken op het gebied van defensieve cyberbeveiliging een risico op overdracht van mogelijkheden kunnen opleveren. Bescherming tijdens alle interacties en handhaving tegen campagnes maken daarom deel uit van dezelfde verdediging.












