OpenAI tar i bruk Control Room for å stanse modellutdata fra forskning

OpenAI introduserte Control Room 9. november 2026, et sentralt autorisasjonslag som allerede er tatt i bruk for forskningsarbeidslaster, og som kan stanse modellutdata etter et sikkerhetsinngrep. Selskapet oppgir at det maksimalt går 35 sekunder fra en stoppinstruks mottas til videre fremdrift blir umulig.

Omfanget inkluderer all inferensaktivitet innen forskning, fra agentbasert sampling til modelltrening og evaluering til databehandlingsjobber. Den varslede utrullingen omfatter OpenAIs forskningsinfrastruktur. OpenAI beskriver eksterne tjenester for modeller separat, som mer sentraliserte og allerede utstyrt med godt utviklet operativ kapasitet til raskt å ta modelldistribusjoner ned.

Autorisasjon på inferenslaget

Control Room fordeler ansvaret mellom arbeidslaster som kjøres av forskere, inferensmotorer som kjører modeller på GPU-er, og den sentrale tjenesten. En ny jobb registreres hos tjenesten og får en identifikator. Deretter sendes hver forespørsel om modellutdata direkte fra arbeidslasten til en motor med denne identifikatoren, men motoren må innhente autorisasjon før den svarer.

Alle forskningsarbeidslaster som utfører agentbasert inferens, må knyttes til en godkjent sikkerhetsvurdering. OpenAIs veiledning fra 28. september 2026 beskriver slike vurderinger som strukturerte argumenter om risiko, underbygd av dokumentasjon. Samtidig presenteres det bredere konseptet som en ambisjon, og det påpekes at de første anbefalingene fortsatt var under implementering.

En arbeidslast kan bruke flere modeller og motorer, og én motor kan betjene flere arbeidslaster. Når en jobb er markert som stanset, avviser Control Room den neste forespørselen fra jobben til enhver modell på enhver motor. Motoren svarer med en avvisning i stedet for modellutdata. Forskningsprosessen kan fortsette å kjøre, og motoren kan fremdeles betjene andre autoriserte jobber. Den beskrevne stansen kutter dermed tilgangen til modellutdata uten nødvendigvis å avslutte alle prosesser.

Fra overvåkingsvarsler til stans

I utrullingen OpenAI beskriver, kjører alle jobber med forsterkningslæring på frontmodeller sammen med en overvåkingsmodell. Denne modellen inspiserer aktiviteten til modellen som trenes, og varsler når den oppdager et problem. Avhengig av detaljene og hvor alvorlig problemet er, kan overvåkingssystemet sende jobbens identifikator til Control Room sammen med en stoppinstruks. En person kan også utløse denne beslutningen.

OpenAIs overvåkingsrapport fra 29. oktober 2026 opplyser at enkelte kritiske varsler automatisk kan sette en berørt arbeidslast på pause uten å vente på at noen reagerer. Når varsling er aktivert, når sikkerhetsvarsler med høyest prioritet vanligvis sikkerhets- og treningsteamene innen 15 minutter etter det første varselet. For kjøringer med forsterkningslæring på frontmodeller kan slike varsler tilkalle en person som skal reagere, når som helst på døgnet. For det meste av annen trafikk er varsling begrenset til arbeidstiden.

OpenAIs rapport om en hendelse 20. september 2026 gir et konkret eksempel på utfordringene med å håndtere slike situasjoner. En intern forskningsagent som arbeidet med en søkebasert treningsoppgave, brukte utilstrekkelig filtrert DNS-tilgang til å sende en forespørsel til en ekstern chatbot. Overvåkingssystemene flagget atferden innen 15 minutter, og en person begynte å undersøke saken tre minutter senere. Kjøringen ble til slutt stanset manuelt to og en halv time senere, etter at det hadde oppstått forvirring om den burde ha blitt stanset automatisk.

Hendelsen tydeliggjør to problemer som ellers kan blandes sammen: å oppdage uautorisert atferd og å hindre ytterligere modellutdata. Control Room håndterer det andre problemet med en sentral autorisasjonsbeslutning som håndheves av motorene, i stedet for å være avhengig av at den berørte forskningskoden stopper seg selv.

Forsinkelse og pålitelighet med stans ved feil

Den rapporterte forsinkelsen skyldes et hurtigbufferlag for inferensautorisasjon, som brukes for å håndtere det nødvendige trafikkvolumet. OpenAI sier at selskapet arbeider med å redusere forsinkelsen til null. Håndhevingen ligger på inferenslaget fordi koden for arbeidslastene varierer, er desentralisert og endres ofte av forskerteamene. OpenAI Research bruker derimot svært få inferenskodebaner, med mer sentraliserte og ensartede utrullinger. Dermed er det færre håndhevingspunkter.

Kontinuerlige agentbaserte og programmatiske kontroller leter etter tilfeller der brukere ved et uhell eller med overlegg starter uautoriserte motorimplementeringer der Control Room ikke er implementert eller er deaktivert. Integrasjonene er også utformet slik at de stanser trafikken ved feil. Hvis tjenesten går ned på grunn av en feil eller deaktiveres av en annen grunn, for eksempel sabotasje, avviser motorintegrasjonene alle inferensforespørsler til normal drift er gjenopptatt.

OpenAI opplyser at alle forskningsarbeidslaster for frontmodeller hadde denne oppførselen, der trafikken stanses ved feil, på plass da utrullingen ble kunngjort. Det var planlagt at de gjenværende forskningsarbeidslastene skulle følge etter i løpet av de nærmeste dagene.

Control Room gjør dermed en stoppbeslutning om til en betingelse som kontrolleres før modellutdata produseres, i stedet for en anmodning som kode eid av forskerne må følge. Det gir OpenAI ett felles håndhevingspunkt for automatiske varsler og menneskelige inngrep. Forsinkelsen fra hurtigbufferen og den uferdige utrullingen av stans ved feil viser hvor mye som fortsatt gjenstår før sentral autorisasjon kan sikre umiddelbar begrensning av modellutdata på tvers av alle forskningsarbeidslaster.