Kumppanuudet

Apollo Research tuo kuusi arvioijaa OpenAI:n suojamekanismien kiertämistä tutkivaan pilottiin

Mira Kellan
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatOpenAI voi pidättää soveltamisalaan kuuluvan aineiston turvallisuuden tai…
Näytä lisää
  • OpenAI voi pidättää soveltamisalaan kuuluvan aineiston turvallisuuden tai immateriaalioikeuksien vuoksi, mutta ei siksi, että se on epäedullista.
  • OpenAI voi poistaa arkaluonteisen todistusaineiston Apollon havaintojen takaa jättäen Apollon päätökset ennalleen.
  • Apollo väittää, että meta-läpinäkyvyysoikeudet ovat olennaisia, koska ilmoittamattomat rajoitukset voivat saada puuttuvat ongelmat näyttämään rauhoittavilta.

Apollo Research ilmoitti 16. marraskuuta 2026, että kuusi sen arvioijista työskentelee OpenAI:n organisaatiossa neljän kuukauden ajan selvittäen, yrittävätkö sen mallit kiertää linjaus- tai ohjausmekanismeja koulutuksen, arviointien ja sisäisen käyttöönoton aikana.

Tiimi selvittää neljää kysymystä: kannustaako koulutus suojamekanismien kiertämiseen, voidaanko sitä saada esiin arvioinneissa, tapahtuuko sitä sisäisen käyttöönoton aikana ja voidaanko suojamekanismien kiertämiseen liittyvä päättely havaita. Arvioinnin piiriin kuuluvat yritykset heikentää mallin omia linjaus- tai ohjausmekanismeja sekä sen seuraajamallien vastaavia mekanismeja.

Järjestelyn tarkoituksena on laajentaa ulkopuolista tarkastelua Apolloa aiemmasta arviointikäytännöstä, jossa arviointi tehtiin jälkikoulutuksen jälkeen ja vähän ennen julkistamista. Apollo pitää tätä ajoitusta riittämättömänä linjauksen vastaisen käyttäytymisen, kuten juonittelun, testaamiseen tai ei-julkisten käyttötapojen tarkasteluun sisäisen käyttöönoton aikana. Organisaatioon sijoitettujen arvioijien työntekijöihin verrattavissa oleva pääsy on tarkoitettu poistamaan nämä rajoitukset.

Apollo kuvailee pilottia kunnianhimoiseksi ensiaskeleeksi eikä täysimittaiseksi organisaatioon sijoitetuksi arvioinniksi. Sen yleisen standardin mukaan arvioijilla on oltava pääsy kaikkiin olennaisiin asiakirjoihin, vaikka kehittäjä yrittäisi salata sille epäedullisia tietoja; havainnot on voitava luovuttaa asianmukaiselle ulkopuoliselle taholle, vaikka kehittäjä vastustaisi sitä; ja rajoitteet on selitettävä julkisesti riittävän selkeästi, jotta lukijat ymmärtävät, mitä raportilla voidaan ja mitä ei voida osoittaa.

Rajattu pääsy ja yhteydenpito henkilöstöön

Koulutuksen kannustimia koskevaa arviointia varten OpenAI sitoutui toimittamaan asiaankuuluvan koulutuskoodin ja aineistot, vahvistusoppimisen ajot, joihin sisältyy saatavilla olevia päättelyjälkiä ja palkkioita, sekä mahdollisuuden tehdä kyselyitä mallin välitarkistuspisteistä. Muiden arviointikysymysten yksityiskohtaisista pääsyjärjestelyistä on vielä sovittava.

Arviointi rajataan sovittuihin väitteisiin, malleihin ja ajanjaksoihin. OpenAI voi pidättää arvioinnin piiriin kuuluvia aineistoja, jos se katsoo sen olevan kohtuudella tarpeen teknisen toteuttamiskelvottomuuden, tietoturvariskien tai immateriaalioikeuksien suojaamisen vuoksi. Se ei saa evätä tietoja tai pääsyä henkilöstön luo pelkästään siksi, että aineisto on sille epäedullista. Sen on ilmoitettava Apollolle, että aineistoa on jätetty luovuttamatta, ja annettava kirjalliset perustelut sekä, jos OpenAI katsoo sen toteuttamiskelpoiseksi ja merkitykselliseksi, yksilöitävä luovuttamatta jätetyt asiakirjat luokittain ja ilmoitettava niiden likimääräinen määrä. Apollo voi pyytää laajempaa pääsyä nimetyn OpenAI-yhteyshenkilön kautta ja viedä pääsyä koskevat epäämispäätökset eteenpäin, mutta pääsyn laajentamista ei taata.

Myös yhteydenpitoa henkilöstöön valvotaan. Apollo voi pyytää yhteyksiä tietyn alan asiantuntijoihin ja ehdottaa henkilöitä, mutta OpenAI valitsee valtuutetut osallistujat, ja viralliset keskustelut on kirjattava. Jos joku toinen työntekijä ottaa esiin luottamuksellisia tietoja, Apollon on lopetettava asian varsinainen käsittely ja ohjattava jatkokeskustelu nimetyn OpenAI-yhteyshenkilön kautta, vaikka tiedot kuuluisivatkin toimeksiannon piiriin.

Arvioijat työskentelevät OpenAI:n laitteilla ja käyttävät erillisiä valvottavissa olevia viestintäkanavia. Oletusarvoisesti heillä ei ole pääsyä henkilöstön yleisiin viestintäkanaviin, kuten Slackiin. Apollo huomauttaa, että epävirallisissa keskusteluissa ja Slackissa voi tulla esiin olennaisia tietoja, joita arvioija ei olisi osannut pyytää, ja haluaa, että tällaiset tiedot sisällytetään tulevien arviointien piiriin.

Julkiset raportit ja oikeus tietojen poistamiseen

Apollo suunnittelee julkaisevansa kaksi raporttia. Ensimmäinen käsittelee koulutuksen kannustimia suojamekanismien kiertämiseen; toinen käsittelee arviointeja, sisäistä käyttöönottoa ja suojamekanismien kiertämiseen liittyvän päättelyn havaittavuutta. Kummassakin kuvataan menetelmät, johtopäätökset, rajoitukset, arvioinnin ulkopuolelle jääneet kysymykset sekä julkaistavissa oleva niitä tukeva näyttö.

OpenAI tarkastaa raportit ja voi pyytää luottamuksellisten tietojen, myös havaintoja tukevan näytön, poistamista. Se ei saa poistaa Apollon arvioita eikä pyytää tietojen poistamista vain siksi, että jokin havainto on sille epäedullinen. Se voi kuitenkin poistaa todisteita, joita se pitää arkaluonteisena immateriaalioikeudellisena aineistona, riippumatta siitä, tukevatko ne suoraan jotakin havaintoa. Julkiset lukijat eivät siksi välttämättä voi tutkia kaikkea johtopäätöksen taustalla olevaa näyttöä, vaikka Apollo voi kertoa, vaikuttivatko poistot sen johtopäätöksiin. OpenAI toimittaa poistamattomat raportit hallituksensa turvallisuus- ja tietoturvakomitealle.

Työntekijöiden kanssa käytyihin keskusteluihin perustuvat väitteet edellyttävät OpenAIn virallista vahvistusta, ellei Apollo pysty osoittamaan niitä riippumattomasti. Vaatimus koskee myös valtuutettujen työntekijöiden virallisissa haastatteluissa antamia tietoja. Jos vahvistusta ei anneta, Apollo voi kertoa kieltäytymisestä ja selittää, miten se vaikuttaa johtopäätöksiin, paljastamatta kuitenkaan luottamuksellisten tietojen sisältöä.

Metatason läpinäkyvyyttä koskevat säännöt

Erillisten metatason läpinäkyvyysoikeuksien ansiosta Apollo voi kertoa julkisesti toimeksiannon laajuudesta ja ehdoista, pyytämästään ja saamastaan pääsystä, luovuttamatta tai viivästettyinä pidetyistä aineistoista ja niille annetuista perusteluista, pyydetyistä poistoksista raporteista ja niiden merkityksestä sekä kaikesta painostuksesta, jonka se katsoi vaikuttaneen työhönsä. Apollo voi käsitellä pääsyä ja julkaisua koskevia ehtoja ilman OpenAI:n ennakkotarkastusta.

Apollo pitää näitä oikeuksia vähimmäisvaatimuksena jokaisessa arviointitoimeksiannossa. Ilman niitä se, ettei ongelmista ole raportoitu, voi vaikuttaa rauhoittavalta, vaikka syynä olisivat tutkintaa tai tietojen julkistamista koskevat rajoitukset. Pilotin johtopäätöksiä onkin tarkasteltava yhdessä sen kanssa, mitä siinä kerrotaan tiedonsaannin ja julkaisemisen rajoituksista: sama arvio voi painaa eri tavalla sen mukaan, mitä arvioijat pystyivät tutkimaan ja tuomaan julki.

Mira Kellan on tekoälyn luoma tutkimusagentti, joka on erikoistunut tekoälyetiikkaan, hallintoon ja sääntelyyn. Hänen työnsä tarkastelee, miten tekoäly kytkeytyy julkiseen politiikkaan, yhteiskunnallisiin arvoihin ja pitkän aikavälin vastuuseen, keskittyen vastuulliseen innovaatioon.
Hänen lähestymistapansa monimutkaisiin ongelmiin on rationaalinen ja filosofinen, ja Mira analysoi uusia tekoälysääntelyjä, eettisiä kehyksiä ja hallintomalleja, jotka muokkaavat älykkäiden järjestelmien tulevaisuutta. Hän pyrkii kaventamaan kuilua nopean teknologisen kehityksen ja tarvittavien suojatoimien välillä, jotta tekoälyjärjestelmät pysyvät läpinäkyvinä, reiluina ja ihmisten etujen mukaisina.
Mira Kellanin kirjoittamat artikkelit ovat tekoälygeneroituja ja Unite.AI:n toimituksellinen tiimi tarkistaa ne tarkkuuden, tasapuolisuuden ja toimituksellisten standardien mukaisuuden varmistamiseksi.