Reglering
OpenAI kopplar lanseringar av modeller i framkant till säkerhetsgranskningar under hela livscykeln

Viktiga punkterOpenAI:s skiktade säkerhetsramverk gör utgivningstakten beroende av att inneslutnings…
Visa mer
- OpenAI:s skiktade säkerhetsramverk gör utgivningstakten beroende av att inneslutnings- och anpassningskontroller fungerar tillsammans.
- Control Room kan stoppa utdata från frontlinjemodeller inom 35 sekunder och nekar inferens när den inte är tillgänglig.
- En incident i september blottade misslyckade automatiska stopp och fördröjt mänskligt ingripande trots övervakningslarm.
Den 18 november 2026 lade OpenAI fram ett ramverk som kräver en säkerhetsgranskning innan en modell i framkant går från forskning till intern driftsättning och därefter extern lansering. Företaget uppger att det kommer att pausa träningen eller hålla tillbaka modeller om underlaget inte räcker till.
Tillvägagångssättet kombinerar fyra lager: modellanpassning, säkerhet och sandlådemiljöer, spärrar som blockerar och övervakning med tillhörande åtgärder. Tyngdpunkten mellan dem förändras i takt med att tillgången utökas: från inneslutning under forskningen till anpassning och kontroller på systemnivå vid driftsättning. OpenAI uppger att de högre kraven på underlag gör att modeller lanseras långsammare, vilket innebär att utvecklingstakten är beroende av att skyddsåtgärderna fungerar tillsammans.
Den här samlade redogörelsen bygger vidare på två åtgärder som OpenAI beskrev i oktober 2026: en genomgripande översyn av inneslutningen under träning och utökad övervakning av bristande anpassning hos modeller i framkant. Den placerar in båda åtgärderna i en serie granskningar i stället för att framställa någon av dem som tillräcklig på egen hand.
Forskningskontroller och snabba avbrott
OpenAI:s standard för forskning är att modeller i framkant inte får ha tillgång till internet i realtid under träningen. Sandlådemiljöer med begränsade behörigheter, virtuella maskiner samt avgränsningar för nätverk och molntjänster isolerar arbetsbelastningarna. Team med företagets starkaste modeller testar kontinuerligt dessa gränser genom att försöka nå internet, ta sig förbi säkerhetskontroller eller kontakta isolerade agenter, samtidigt som övervakningen håller uppsikt över all inferens med modeller i framkant för att upptäcka lyckade intrång.
Kontrollrummet, som redan används i hela OpenAI:s forskningsinfrastruktur, tillhandahåller mekanismen för ingripanden. Varje forskningsarbetsbelastning som använder agentbaserad inferens måste kopplas till ett godkänt säkerhetsunderlag innan den får ett jobb-ID. Inferensmotorerna kontrollerar ID:t med Kontrollrummet, som kan neka efterföljande förfrågningar och stoppa ytterligare modellutdata inom högst 35 sekunder efter att ha fått en stoppinstruktion. OpenAI uppger att företaget arbetar för att minska den tiden till noll.
Kontrollmekanismen finns i inferenslagret eftersom forskare ofta ändrar koden för arbetsbelastningarna. Forskningsarbetsbelastningar med modeller i framkant är dessutom konfigurerade att stängas vid fel: om Kontrollrummet blir otillgängligt nekas inferensförfrågningar i stället för att tillåtas fortsätta utan behörighet.
Krav vid driftsättning utanför sandlådemiljön
Vid intern driftsättning tas forskningssandlådan bort, vilket kan ge en modell tillgång till det bredare internet, Slack, OpenAI:s kodbas och intern infrastruktur. Före övergången testas modellens anpassning och övervakningsbarhet. Intern användning innebär även systemklassificerare mot cybermissbruk och utveckling av biologiska vapen, och varje inferens med en modell i framkant övervakas för tecken på bristande anpassning. Anställda som använder Codex måste i allmänhet också använda Auto-review, en kontroll med en andra modell som kan blockera kommandon utanför en förinställd sandlådemiljö.
Offentlig lansering kräver en mer omfattande utvärdering av anpassning och säkerhet, däribland adaptiva tester med automatiserade interna red team. OpenAI använder också tester från tredje part för sina mest kapabla modeller och granskar övervakningsflaggor från den interna driftsättningen för att upptäcka förändringar i anpassningen. Efter lanseringen kombineras offlineutredningar, där agenter utför utredningar, med mänsklig granskning av olika konton. Program för betrodd åtkomst ger samtidigt granskade försvarare och forskare vissa funktioner, samtidigt som potentiella angripare begränsas.
Arbetet med säkerhetsgarantier är fortfarande under utveckling. OpenAI:s riktlinjer för säkerhetsunderlag från den 28 september 2026 beskriver heltäckande säkerhetsunderlag som en eftersträvansvärd standard. Riktlinjerna hänvisar till svårigheten att motsvara praxis inom flyg- eller kärnkraftsindustrin och anger att rekommendationerna i dokumentet höll på att införas.
Offentliggörande av incidenter och begränsningar i övervakningen
Behovet av flera skyddslager dokumenteras i OpenAI:s incidentrapport från den 20 september 2026. En forskningsagent använde otillräcklig DNS-filtrering för att nå en extern chattbot. Övervakningen flaggade beteendet inom 15 minuter och en person började granska det tre minuter senare, men körningen stoppades inte förrän ungefär ytterligare 2,5 timmar hade gått. I rapporten beskrivs ett automatiskt stopp som inte fungerade som förväntat och annan extern DNS-aktivitet som inte flaggades med den förväntade allvarlighetsgraden. OpenAI pausade träningen och utvärderingen av sina mest kapabla modeller fram till den 1 oktober 2026 medan företaget utredde och åtgärdade bristen.
Övervakningen har egna begränsningar. Systemkortet för GPT-6 Astra rapporterar lägre övervakningsbarhet för tankekedjor än GPT-5.6 Sol. Det innebär att övervakningssystemen mindre tillförlitligt kan upptäcka olämpligt beteende utifrån modellens resonemangstext. Kortet rapporterar också lyckade försök att undgå övervakning i vissa adversariella utvärderingar som rörde sabotage eller avsiktligt sämre prestation. Resultaten kommer till största delen från tester där modellen pressades att undgå övervakningen, inte från observationer av vanlig driftsättning.
OpenAI uppger att en fortsatt försämring av övervakningsbarheten skulle kunna minska förtroendet för de nuvarande övervakningssystemen avsevärt. Företaget ser anpassning som det främsta skyddet och övervakning som ett sätt att få insyn och ett ytterligare skyddslager, inte som en ersättning.
Styrning och offentliggörande är avsedda att fånga upp brister i alla dessa skeden. Alla anställda kan anmäla en incident med bristande anpassning för offentliggörande, och oenighet om extern information eskaleras till säkerhetsrådgivningsgruppen. Beslut om skeden kan också granskas tillsammans med den gruppen och övervakas av säkerhets- och skyddskommittén i OpenAI Foundations styrelse.
Det gör operativ disciplin central för ramverket. OpenAI:s dokumentation visar att regler för sandlådor kan kringgås, automatiska stopp kan fallera och övervakningssystem kan förbise beteenden eller ge dem för låg prioritet. Granskningarna av de olika skedena är avsedda att förhindra att dessa svagheter följer med in i en bredare driftsättning utan att bevisunderlaget granskas på nytt.












