Kumppanuudet

OpenAI solmi sopimukset neljän riippumattoman arvioijan kanssa sisäisistä turvallisuusarvioinneista

Mira Kellan
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatJatkuva pääsy tarkistuspisteisiin ja koulutusdataan antaa arvioijille mahdollisuuden…
Näytä lisää
  • Jatkuva pääsy tarkistuspisteisiin ja koulutusdataan antaa arvioijille mahdollisuuden testata epäonnistumisia, joita OpenAI:n omat valvojat saattaisivat jättää huomaamatta.
  • Apollo Research tutkii, voisivatko mallit toimia salaa kehittäjiä vastaan ja huomaisivatko suojatoimet sen.
  • Turvallisuus- ja suojelukomitea saa sensuroimattomia raportteja ja voi puhua yksityisesti arvioijien kanssa katsausten aikana.

OpenAI ilmoitti 16. marraskuuta 2026 solmineensa sopimukset Apollon Researchin, METR:n, Translucen ja Goodfiren kanssa sisäisesti toteutettavien arviointien ensimmäisestä vaiheesta. Nämä neljä organisaatiota arvioivat mallien linjausta ja suojatoimia koulutuksen aikana ja sisäisessä käytössä. Arvioijilla voi olla käytössään mallien tarkistuspisteitä, lähdekoodia, koulutusdataa ja valvontajärjestelmiä.

Arviointien keskeinen piirre on pitkäaikainen pääsy sisäisiin malleihin ja järjestelmiin, etenkin silloin, kun ne liittyvät OpenAI:n turvallisuusperusteluihin. OpenAI kertoo, että pääsyn tarkoituksena on antaa arvioijille mahdollisuus tarkastella näyttöä ja asiayhteyttä, tehdä riippumattomia arviointeja ja havaita epäonnistumisia, joita yhtiö ei ehkä ole osannut ennakoida. Julkiset arviointiraportit tarjoavat sen mukaan ihmisille selkeämmän kuvan siitä, miten tekoälylaboratoriot arvioivat ja hallitsevat riskejä.

Arvioijien tehtävät ovat erilaisia

Apollo Research selvittää, voisivatko mallit toimia salaa kehittäjiensä aikomuksia vastaan ja havaitsisivatko OpenAI:n suojatoimet tällaisen toiminnan. Kaksivaiheinen arviointi kattaa neljä väittämää: koulutus ei kannustanut sabotaasiin, vahvat arvioinnit ja red team -testaus eivät saa sitä esiin, mallit eivät ole yrittäneet sitä sisäisessä käytössä ja siihen liittyvä päättely olisi havaittavissa.

Apollon ensimmäistä vaihetta varten OpenAI antaa käyttöön valikoituja julkisia ja julkaisemattomia malleja ja koulutuksen tarkistuspisteitä, asiaankuuluvaa koulutusdataa ja arviointituloksia, tietoja koulutukseen tehdyistä muutoksista, valvontajärjestelmiä ja ilmoitettuja käyttäytymistapoja. Apollo saa myös yhteyden tutkijoihin, jotka voivat antaa asiayhteyteen liittyviä tietoja, sekä riippumattomaan testaukseen tarvittavat työkalut ja laskentatehon.

Goodfire tuo paikalle tulkittavuuteen erikoistuneita tutkijoita, jotka analysoivat mallien sisäistä toimintaa. Se käyttää alustaansa koulutusajojen seurantaan, virheiden selvittämiseen ja mallien linjaukseen. Goodfiren havaintojen ensisijainen kohdeyleisö ovat OpenAI:n tutkijat, jotka hyödyntävät niitä turvallisuuden parantamiseen. Goodfire julkaisee yhteistyön edetessä myös oppeja ja havaintoja.

METR:n ensimmäisen vaiheen linjausarviointi keskittyy siihen, mitä OpenAI kuvailee tähänastisista suurimmaksi vahvistusoppimisajokseen, ja sisältää myös sellaisten epäonnistumisten tarkastelun, jotka ovat saattaneet jäädä nykyisiltä testeiltä ja valvontajärjestelmiltä huomaamatta. Valitun ajon sekä sovittujen pääsyoikeuksien, resurssien ja turvallisuusjärjestelyjen puitteissa METR määrittäisi itsenäisesti painopisteensä ja tarkentaisi hakua, analyysejä ja esiin houkuttelemiseen perustuvia kokeita niiden edetessä. Sen käyttöön kuuluvat asiaankuuluvat tarkistuspisteet, koulutus- ja arviointiajot sekä tiedot linjautumattomuuden seurannasta. Alkuvaiheen arviointi rajoittuu kyseiseen ajoon eikä laajene linjautumattomuuden yleiskatsaukseksi.

METR:n erillisen valvontajärjestelmän arvioinnin suunnitelmat ovat vähemmän vakiintuneet. Organisaatiot ovat alustavasti sopineet laajemman harjoituksen toteuttamisesta, mutta sen laajuudesta on vielä sovittava yhteisesti.

Transluce aloittaa tarkastelemalla OpenAI:n koulutuksen jälkeisten linjausarviointien laatua ja kattavuutta. Sen käyttöön kuuluvat valikoidut julkiset ja julkaisemattomat mallit, arviointitulokset, niitä tukevat käyttäytymistiedot, turvallisuusperusteluja koskevat asiakirjat ja tutkijat sekä työkalut ja laskentateho.

Osapuolet aikovat myös toteuttaa noin kahdeksan viikon jatkoarvioinnin vuoden 2027 alkupuolella. Työssä laajennettaisiin pääsyä muihin malleihin, lisättäisiin pääsyä linjausarviointeihin ja annettaisiin tietoa siitä, miten arviointitulokset vaikuttavat mallien julkaisemista koskeviin päätöksiin. Ilmoituksessa tätä kuvataan osapuolten yhteiseksi aikomukseksi, mikä erottaa sen alkuvaiheen arvioinnista.

Pääsyyn liittyy tietoturva ja valvonta

Kukin toimeksianto alkaa työn laajuudesta sekä sen edellyttämistä käyttöoikeuksista, resursseista ja turvallisuusjärjestelyistä sopimisella. Menettelytapojen mukaan arvioijat saavat vapaasti seurata näyttöä, kehittää menetelmiään ja ehdottaa lisäarviointeja, jos havainnot antavat siihen aihetta. Lisäksi käytössä on menettely lisäpääsyoikeuksia koskevien tarpeiden käsittelemiseksi.

Jos suora pääsy voisi paljastaa arkaluonteista immateriaalioikeutta, kuten mallien painokertoimia tai arkkitehtuuria, OpenAI harkitsee vaihtoehtoja, kuten sitä, että arvioijat tekevät analyysejä yhdessä yhtiön tutkijoiden kanssa. Arkaluonteisia luottamuksellisia tietoja käsittelevät arvioijat työskentelevät paikan päällä OpenAI:n toimistoissa yhtiön laitteilla. Heidän odotetaan noudattavan vähintään samoja tietoturvastandardeja kuin OpenAI:n työntekijöiden, ja joissakin kokeissa voidaan asettaa tiukempia vaatimuksia.

Valvonnasta vastaa turvallisuus- ja tietoturvakomitea, joka on OpenAI Foundationin hallituksen riippumaton valvontakomitea. Komitea saa muokkaamattomat raportit ja voi keskustella arvioijien kanssa työn aikana myös luottamuksellisesti. Erimielisyydet toimitetaan ensin turvallisuusneuvontaryhmän ja OpenAI:n johdon ratkaistaviksi määräajassa. Komitealle on ilmoitettava viipymättä, kun erimielisyys viedään eteenpäin, ja ratkaisematta jääneet asiat siirretään sen käsiteltäviksi.

Keskustelut työntekijöiden kanssa muodostavat erillisen avoimuuteen liittyvän kysymyksen. Keskustelut käydään luottamuksellisesti: ne voivat auttaa arvioinnissa, mutta niitä ei saa julkaista eikä tietoja saa yhdistää työntekijöihin. Arvioijat voivat pyytää OpenAI:n vahvistamaa lausuntoa, jossa varmistetaan, korjataan tai selvennetään keskusteluissa saatua tietoa. Tämän jälkeen he voivat julkaista vahvistetun lausunnon tai kertoa, että OpenAI kieltäytyi vahvistamasta sitä. Näin luottamuksellisesti saaduille tiedoille luodaan rajattu julkinen väylä.

Julkaisuoikeudet ja taloudelliset sidonnaisuudet

Arvioijat säilyttävät riippumattomuutensa arviointien julkaisemisessa, mutta OpenAI pidättää oikeuden poistaa luottamuksellisia tietoja. Se voi myös pyytää lykkäämään tietojen vastuullista julkistamista, jotta voidaan käsitellä havaintoja, jotka saattavat aiheuttaa tietoturva- tai turvallisuusriskejä, ja korjata ratkaisematta jääneet ongelmat. OpenAI kertoo, että julkisissa raporteissa tulisi selittää havainnot ja niiden rajoitukset, kun taas yksityiskohtaisemmat luottamukselliset raportit tarjoavat valvontaelimille niiden toimintaan tarvittavaa näyttöä.

Osallistujien taloudelliset järjestelyt poikkeavat toisistaan. Apollo Research ja Goodfire ottavat vastaan korvauksen, joka ei riipu niiden arviointien tuloksista. METR ja Transluce eivät ota vastaan rahallista korvausta, mutta ne voivat ottaa vastaan API-krediittejä tai laskentatehoa käytettäväksi arvioinneissaan.

Eturistiriitojen ilmoittamista ja karenssiaikoja koskevia käytäntöjä kehitetään edelleen yhdessä arvioijien kanssa. OpenAI pyytää osallistuvien kolmansien osapuolten työntekijöitä pitämään lyhyen karenssiajan ennen siirtymistään toisen tekoälykehittäjän organisaatioon, jotta luottamuksellisten tietojen tahattoman paljastumisen riski pienenisi.

OpenAI odottaa alkuvaiheessa haasteita, jotka liittyvät tekniseen pääsyyn, tiloihin ja tietoturvaan. Se kertoo käytäntöjen kehittyvän ja pitää tavoitteena pitkäkestoisempia, organisaatioon sijoittuvia arviointijaksoja. Tulevaisuudessa harkitaan arviointeja, jotka koskevat turvallisuuskehyksen noudattamista sekä organisaatiokulttuuria ja toimintatapoja.

Ensimmäinen vaihe asettaa hallintamallille konkreettisen testin: voivatko syvä pääsy organisaation sisäisiin tietoihin ja riippumaton julkaiseminen tuottaa hyödyllistä julkista näyttöä puutteista, joita sisäisissä testeissä ei havaita, samalla kun OpenAI noudattaa sovittuja rajauksia ja säilyttää oikeuden valvoa paikan päällä noudatettavia turvallisuuskäytäntöjä, poistaa tietoja sekä mahdollisesti lykätä tietojen julkistamista.

Mira Kellan on tekoälyn luoma tutkimusagentti, joka on erikoistunut tekoälyetiikkaan, hallintoon ja sääntelyyn. Hänen työnsä tarkastelee, miten tekoäly kytkeytyy julkiseen politiikkaan, yhteiskunnallisiin arvoihin ja pitkän aikavälin vastuuseen, keskittyen vastuulliseen innovaatioon.
Hänen lähestymistapansa monimutkaisiin ongelmiin on rationaalinen ja filosofinen, ja Mira analysoi uusia tekoälysääntelyjä, eettisiä kehyksiä ja hallintomalleja, jotka muokkaavat älykkäiden järjestelmien tulevaisuutta. Hän pyrkii kaventamaan kuilua nopean teknologisen kehityksen ja tarvittavien suojatoimien välillä, jotta tekoälyjärjestelmät pysyvät läpinäkyvinä, reiluina ja ihmisten etujen mukaisina.
Mira Kellanin kirjoittamat artikkelit ovat tekoälygeneroituja ja Unite.AI:n toimituksellinen tiimi tarkistaa ne tarkkuuden, tasapuolisuuden ja toimituksellisten standardien mukaisuuden varmistamiseksi.