OpenAI ottaa käyttöön Control Roomin tutkimusmallien tulosteen katkaisemiseksi

OpenAI esitteli 9. marraskuuta 2026 Control Roomin, tutkimustyökuormille jo käyttöön otetun keskitetyn valtuutuskerroksen, jolla mallien tulosteet voidaan katkaista turvallisuus- tai tietoturvatoimenpiteen jälkeen. Yhtiön mukaan viive pysähtymiskäskyn vastaanottamisesta siihen, ettei työ voi enää edetä, on enintään 35 sekuntia.

Sen piiriin kuuluu kaikki tutkimukseen liittyvä inferenssitoiminta, aina mallien koulutuksessa ja arvioinnissa käytettävästä agenttipohjaisesta näytteenotosta tietojenkäsittelytöihin. Ilmoitettu käyttöönotto kattaa OpenAI:n tutkimusinfrastruktuurin. OpenAI kuvailee ulkoista mallien tarjoamiseen käytettävää pinonsa erikseen keskitetymmäksi ja toteaa, että siinä on jo kehittyneet valmiudet mallien käyttöönottojen nopeaan alasajoon.

Valtuutus inferenssikerroksessa

Control Room jakaa vastuut tutkijoiden käynnistämien työkuormien, malleja grafiikkasuorittimilla suorittavien inferenssimoottorien ja keskitetyn palvelunsa kesken. Uusi työ rekisteröidään palveluun, joka antaa sille tunnisteen. Tämän jälkeen jokainen mallin tulostetta koskeva pyyntö kulkee suoraan työkuormalta kyseisellä tunnisteella varustetulle moottorille, mutta moottorin on saatava valtuutus ennen vastaamista.

Jokaisella agenttipohjaista inferenssiä suorittavalla tutkimustyökuormalla on oltava hyväksytty turvallisuusperustelu. OpenAI:n 28. syyskuuta 2026 julkaistussa ohjeistuksessa tällaiset perustelut kuvataan jäsennellyiksi, näyttöön perustuviksi riskiä koskeviksi argumenteiksi. Samalla laajempaa konseptia luonnehditaan tavoitteeksi, ja todetaan, että alkuperäisiä suosituksia oltiin vielä ottamassa käyttöön.

Työkuorma voi käyttää useita malleja ja inferenssimoottoreita, ja yksi moottori voi palvella useita työkuormia. Kun työ merkitään pysäytetyksi, Control Room hylkää sen seuraavan pyynnön mallille millä tahansa moottorilla. Moottori palauttaa kieltäytymisvastauksen mallin tulosteen sijaan. Tutkimusprosessi voi silti jäädä käyntiin, ja moottori voi jatkaa muiden valtuutettujen töiden palvelemista. Dokumentoitu pysäytys katkaisee siis mallin tulosteen, mutta ei välttämättä lopeta kaikkia prosesseja.

Valvontahälytyksestä pysäytykseen

OpenAI:n kuvaamassa käyttöönotossa jokaiseen eturintaman vahvistusoppimisen työhön kuuluu valvontamalli, joka tarkastelee koulutettavan mallin toimintaa ja antaa hälytyksen havaitessaan ongelman. Valvontajärjestelmä voi yksityiskohdista ja ongelman vakavuudesta riippuen lähettää työn tunnisteen Control Roomille pysäytyskäskyn kera. Myös ihminen voi käynnistää pysäytyksen.

OpenAI:n 29. lokakuuta 2026 julkaistussa valvontakuvauksessa kerrotaan, että jotkin kriittiset hälytykset voivat keskeyttää niihin liittyvän työkuorman automaattisesti odottamatta päivystäjän reagointia. Kun hälytysilmoitukset ovat käytössä, vakavimman tason tietoturvahälytykset tavoittavat tietoturva- ja koulutustiimit tavallisesti 15 minuutin kuluessa ensimmäisestä hälytyksestä. Eturintaman vahvistusoppimisen ajoissa hälytys voidaan välittää päivystäjälle mihin vuorokaudenaikaan tahansa; useimpien muiden liikennetyyppien hälytykset välitetään vain työaikana.

OpenAI:n raportti 20. syyskuuta 2026 sattuneesta tapauksesta havainnollistaa konkreettisesti reagointiin liittyviä haasteita. Sisäinen tutkimusagentti teki hakupohjaista koulutustehtävää ja käytti puutteellisesti suodatettua DNS-yhteyttä kysyäkseen ulkoiselta chatbotilta. Valvontajärjestelmät merkitsivät toiminnan 15 minuutin kuluessa, ja ihminen aloitti sen tarkastelun kolme minuuttia myöhemmin. Työ pysäytettiin lopulta manuaalisesti kaksi ja puoli tuntia myöhemmin, kun oli syntynyt epäselvyyttä siitä, olisiko sen pitänyt pysähtyä automaattisesti.

Tapaus tuo esiin kaksi ongelmaa, jotka voidaan muuten sekoittaa toisiinsa: luvattoman toiminnan havaitsemisen ja mallin tulosteen tuottamisen estämisen. Control Room ratkaisee näistä jälkimmäisen moottorien valvomalla keskitetyllä valtuutuspäätöksellä sen sijaan, että se luottaisi siihen, että kyseinen tutkimuskoodi pysäyttää itsensä.

Viive ja vikatilanteessa estävä luotettavuus

Ilmoitettu viive johtuu inferenssin valtuutukseen liittyvästä välimuistikerroksesta, jolla pystytään käsittelemään tarvittava liikennemäärä. OpenAI kertoo pyrkivänsä lyhentämään viiveen nollaan. Valvonta on sijoitettu inferenssikerrokseen, koska työkuormien koodi vaihtelee, on hajautettua ja tutkimustiimit muuttavat sitä usein. OpenAI:n tutkimuksessa käytetään sen sijaan hyvin harvoja inferenssikoodipolkuja, ja käyttöönotot ovat keskitetympiä ja yhdenmukaisempia, joten valvontapisteitä on vähemmän.

Jatkuvilla agenttipohjaisilla ja ohjelmallisilla tarkistuksilla etsitään tilanteita, joissa käyttäjä on vahingossa tai tahallaan käynnistänyt luvattoman moottoritoteutuksen, jossa Control Roomia ei ole toteutettu tai se on poistettu käytöstä. Myös integraatiot on suunniteltu estämään toiminta vikatilanteessa. Jos palvelu kaatuu virheen vuoksi tai poistetaan käytöstä muusta syystä, kuten peukaloinnin seurauksena, moottori-integraatiot hylkäävät kaikki inferenssipyyntöjä, kunnes normaali toiminta jatkuu.

OpenAI:n mukaan vikatilanteessa estävä toimintatapa oli ilmoituksen aikaan käytössä kaikissa eturintaman mallien tutkimustyökuormissa. Käyttöönoton oli määrä jatkua jäljellä oleviin tutkimustyökuormiin heti seuraavien päivien aikana.

Control Room muuttaa pysäytyspäätöksen ehdoksi, joka tarkistetaan ennen mallin tulosteen tuottamista, sen sijaan että kyse olisi pyynnöstä, jota tutkijoiden ylläpitämän koodin pitäisi noudattaa. Näin OpenAI saa yhteisen valvontapisteen automaattisille hälytyksille ja ihmisten tekemille toimenpiteille. Välimuistista johtuva viive ja keskeneräinen vikatilanteessa estävän toimintatavan käyttöönotto osoittavat, kuinka paljon keskitetyn valtuutuksen ja tulosteen välittömän rajoittamisen välillä on vielä eroa kaikissa tutkimustyökuormissa.