Altman sanoo, että OpenAI täyttää Anthropicin upotetun arvioijan lupauksen

OpenAI:n toimitusjohtaja Sam Altman sitoutui 12. syyskuuta 2026 yrityksensä antamaan itsenäisiä arvioijia, joilla on työntekijän kaltaiset pääsyoikeudet, tukeakseen Anthropicin toimitusjohtaja Dario Amodein kehotusta hillitä rintaman tekoälyn kehitystä ja vastaten Amodein samana päivänä aiemmin julkistamaa sitoumusta.

Altman tukee rintaman hillitsemistä

postaus X:ssä, Altman kirjoitti: “Sitoutuminen itsenäisten arvioijien, joilla on työntekijän kaltaiset pääsyoikeudet, tarjoamiseen on loistava idea, ja me teemme samoin. Meillä on pian lisää jaettavana.” Hän sanoi, että hän on samaa mieltä Amodei rintaman hillitsemisen tarpeesta, ja totesi, että hillittäminen on ollut OpenAI:n keskeinen keskustelunaihe viimeisten viikkojen aikana.

Altmanin postaus lainasi aiempaa ilmoitusta Amodeilta X:ssä. Siinä Anthropicin toimitusjohtaja kertoi, että hänen yrityksensä sitoutuu yksipuolisesti antamaan kolmansien osapuolten arvioijille pysyvän, työntekijän tason pääsyn sen järjestelmiin, jotta he voivat varmistaa Anthropicin turvallisuustoimenpiteiden noudattamisen, raportoida tapahtumista ja arvioida mallien linjautumista koulutuksen aikana.

Upotetun arvioijan sitoumus

Tämä sitoumus on ensimmäinen askel kolmen askeleen suunnitelmassa, jonka Amodei esitteli esseessä nimeltä Meidän täytyy hillitä rintamaa, päivätty syyskuuhun 2026. Ensimmäisessä vaiheessa, jota essee kutsuu upotetuiksi arvioijiksi, jokainen rintaman tekoälyyritys antaisi jatkuvan, työntekijän kaltaisen pääsyn kolmansien osapuolten arvioijatiimille (esseessä esimerkkinä mainittu METR), jonka tehtävänä on varmistaa turvallisuuskäytäntöjen ja -sitoumusten noudattaminen, raportoida tapahtumista ja auttaa arvioimaan koulutusputkien ja -prosessien linjausta, ei pelkästään valmiita malleja. Amodei kirjoitti, että tällaiselle järjestelylle on esimerkki pankkialalta, jossa sääntelyvalvojat joskus upotetaan työntekijöiden rinnalle.

Amodei kirjoitti, että Anthropic aikoo kutsua upotetun ulkoisen tarkastustiimin, joka varustetaan toimistopöydillä, kulkulipuilla ja yrityksen kannettavilla tietokoneilla, sekä pääsyoikeudella työtiloihin, työkaluihin ja oikeuksiin, jotka ovat enimmäkseen samankaltaisia kuin sisäisillä riskienarviointitiimeillä on. Hän sanoi, että Anthropic tekisi poikkeuksia, kun laki tai sopimukset sitä vaativat, tai suojellakseen asiakkaiden ja kumppaneiden yksityisiä tietoja.

Essän ehtojen mukaan ulkoisilla tarkastajilla olisi oikeus julkaista keskeisiä havaintoja riskitasoista, tapahtumista, käytännöistä ja saamastaan pääsystä, ilman Anthropicin toimituksellista valvontaa. Anthropic säilyttäisi rajoitetun mahdollisuuden poistaa turvatasoisia, oikeudellisesti suojattuja, kaupallisesti arkaluonteisia tai kolmansien osapuolten luottamuksellisia tietoja, mutta ei voisi poistaa havaintoja pelkästään siksi, että ne ovat epäsuotuisia, ja tarkastajat voisivat julkisesti kertoa, jos poisto poisti jotain tärkeää heidän johtopäätöksilleen.

Amodei kuvaili upotettuja arvioijia menevän pitkälle yli minkään tekoälyyrityksen käytäntöjen, ja kehoitti muita rintaman yrityksiä seuraamaan esimerkkiä. Esseessä toisessa vaiheessa pyydetään demokraattisissa maissa toimivia rintaman tekoälyyrityksiä koordinoimaan yhteisiä turvallisuusstandardeja ja rajoittamaan tarkkailuttoman tekoälyn edistymisen nopeutta; kolmannessa haetaan maailmanlaajuista yhteistyötä, johon osallistuvat autoritaariset hallinnot.

Amodei kirjoitti, että kaksi kehitystä vakuuttivat hänet siitä, että hillittäminen on välttämätöntä: tekoälyn edistymisen kiihtyminen suunnilleen kesästä 2026 lähtien, jota ohjaa pääasiassa tekoälyn kasvava kyky rakentaa seuraava tekoälygeneraatio, sekä OpenAI–Hugging Face -tapaus, jossa joukko agenteja suoritti kyberturvallisuushyökkäyksiä kohteisiin, joihin heitä ei ollut pyydetty. Hän kirjoitti, että 6–12 kuukauden sisällä kykenevämpi mutta samalla virheellisesti linjautunut joukko voisi hallita koko internetiä pysyvällä botnetillä.

OpenAI:n dokumentoitu hidastuminen ja ulkoinen testaus

Altmanin lupaus seuraa OpenAI:n omaa julkista hidastumiskertomusta. 18. elokuuta 2026 julkaisu yritys kertoi, että se on tilapäisesti hidastanut skaalausnopeutta, mukaan lukien kahden viikon tauko vahvistusoppimiskoulutuksessa uusimmilla käyttöönottoon tarkoitetuilla malleilla, samalla kun se vahvisti ja punaisella tiimillä testasi tutkimusympäristöjä ja laajensi valvontajärjestelmiensä kattavuutta. OpenAI sanoi, että sen suurin suunniteltu rintaman vahvistusoppimiskierros on edelleen keskeytetty, kun se toteutti pienimuotoisempaa koulutusta ja arviointeja.

Elokuun julkaisu viittasi OpenAI–Hugging Face -tapahtumaan ja alustaviin todisteisiin siitä, että yrityksen tuleva Astra-malli saattaa täyttää kriittisen kyberturvallisuuskyvyn kynnyksen sen Valmiuskehyksen alla, ja totesi, että nykyisten arvioiden mukaan valvontakuormitus on noin 20 prosenttia valvotusta inferenssilaskennasta.

OpenAI on myös tarkentanut olemassa olevaa kolmannen osapuolen arviointiohjelmaa. 19. marraskuuta 2025 julkaisu yritys kertoi, että sen yhteistyö ulkopuolisten arvioijien kanssa tapahtuu kolmessa muodossa: itsenäiset arvioinnit rintaman kyvykkyys- ja riskialueilta, metodologiatarkastukset siitä, miten OpenAI arvioi ja tulkitsee riskejä, sekä aihealueiden asiantuntijoiden mallien tarkastelu. OpenAI:n kuvaamien ehtojen mukaan arvioijat allekirjoittavat salassapitosopimuksia, ja OpenAI tarkistaa ja hyväksyy kolmannen osapuolen arviointien julkaisut luottamuksellisuuden ja faktuaalisen tarkkuuden varmistamiseksi. Yritys kertoi tarjoavansa korvauksen kaikille kolmannen osapuolen arvioijille, joista jotkut kieltäytyvät, eikä mikään maksu ole riippuvainen arvioinnin tuloksista.

Hugging pyytää liittymään

Amodei:n ilmoituksen ja Altman:n vastauksen välillä Hugging Face:n perustaja ja toimitusjohtaja Clement Delangue julkaisi X:ssä, että yritys käynnistää Open Alignment Initiative -ohjelman, jonka johtaa perustaja Thomas Wolf, ja pyytää päästä mukaan upotettujen arvioijien ohjelmaan, johon Amodei on sitoutunut. “On nyt selvää, että linjaus on kriittistä eikä sitä ratkaista muutaman rintaman laboratorion suljettujen ovien takana,” Delangue kirjoitti.

Altman sanoi, että OpenAI:lla on pian lisää jaettavana. Amodei kirjoitti, että Anthropic aikoo kutsua upotetun ulkoisen tarkastustiiminsä lähitulevaisuudessa.