Anthropic ottaa kuusi METR-arvioijaa mukaan työntekijöihin rinnastettavilla käyttöoikeuksilla

Anthropic ilmoitti 15. lokakuuta 2026 alkaneensa myöntää frontier-tekoälymalleja arvioivan voittoa tavoittelemattoman METR:n tiimille työntekijöihin rinnastettavat käyttöoikeudet. Kuusi METR:n työntekijää on otettu mukaan järjestelyyn, ja heille on annettu yhtiön laitteet, työtilat sekä pääsy sisäisiin työkaluihin ja järjestelmiin.

Ilmoitusta edelsi Anthropicin syyskuussa 2026 tekemä sitoumus mallien ja turvallisuuskäytäntöjen riippumattoman kolmannen osapuolen arvioinnin vahvistamiseen sekä Valkoisen talon superälyä koskevan sopimuksen allekirjoittaminen. Sopimuksessa yhtiöt sitoutuivat tekemään yhteistyötä riippumattomien ulkopuolisten tarkastajien tai arvioijien kanssa. Anthropic kertoi tehneensä METR:n kanssa kuluneen vuoden aikana useita arviointeja riskiraporteistaan.

Työntekijöihin rinnastettavien käyttöoikeuksien ehdot

Anthropicin mukaan tiimin pääsy sisäisiin työkaluihin ja järjestelmiin on suunnilleen samalla tasolla kuin yhtiön omilla riskinarviointitiimeillä. Muutamaa tarkasti määriteltyä tietoryhmää lukuun ottamatta – asiakkaisiin liittyvät tiedot, asianajajan ja asiakkaan välisen luottamuksellisen viestinnän suojaamat tiedot sekä mallien arkkitehtuureja koskevat tiedot – Anthropicin työntekijöitä kannustetaan jakamaan tiimille tietoja aivan kuten he jakaisivat niitä kollegalle, joka työskentelee linjautumisriskien parissa.

Ilmoituksen alaviitteessä selitetään arkkitehtuureja koskeva poikkeus. Koska arvioijat saattavat pankkitarkastajien tavoin työskennellä myös muiden yhtiöiden kanssa, Anthropic kertoi varovansa tietojen tahattoman vuotamisen mahdollisuutta: arkkitehtuureja koskeviin tietoihin liittyy suuri vuotoriski, ja niiden merkitys riskinarvioinnille on yleensä vähäinen. Kun arkkitehtuureja koskevat tiedot ovat erittäin olennaisia, Anthropic pyrkii yleensä jakamaan niitä, mutta siihen tarvitaan nimenomainen sisäinen hyväksyntä.

Järjestelyn julkaisuehtojen mukaan METR julkaisee analyysinsa Anthropicin riskitasoista, vaaratilanteista tai käytännöistä. Anthropic ei voi estää julkaisua, mutta se voi vaatia METR:ää peittämään tiedot, jotka kuuluvat tarkasti rajattuihin, ennalta määriteltyihin luokkiin. METR voi vapaasti kuvailla peitettyjä tietoja julkisesti ja kertoa, pitääkö se peittämistä perusteltuna, kunhan se ei paljasta peitettyjä tietoja.

Yhteistyöhön osallistuu vain pieni tiimi, joka toimii sitovien sopimusten nojalla. Muut METR:n työntekijät, myös tutkijat, jotka työskentelevät Anthropicin kanssa muissa hankkeissa, pidetään erillään tähän tiimiin kuuluvien työstä. Anthropicin mukaan arvioijien sijoittaminen yhtiön tiloihin antaa muutamalle pätevälle henkilölle, jotka noudattavat sen turvallisuusvaatimuksia, mahdollisuuden tutustua läheltä yhtiön toimintaan. Järjestely ei kuitenkaan ole keino, jolla muut organisaatiot voisivat saada haltuunsa Anthropicin, sen asiakkaiden tai kumppaneiden tietoja.

Anthropicin perustelut riippumattomalle arvioinnille

Yhtiön mukaan mallien tehon kasvaessa on tarvittu vahvempia suojatoimia ja vaativampia riskinarviointeja. Anthropic kertoi haluavansa kantaa julkisesti vastuun tekemistään päätöksistä, mutta ei voi jakaa julkisesti kaikkea turvallisuustyönsä kannalta olennaista tietoa, sillä osa siitä voisi olla hyödyllistä pahantahtoisille toimijoille tai olla kaupallisesti arkaluonteista, kuten laskentaan tai koulutukseen liittyvät tiedot. Sen sijaan yhtiö antaa kolmannen osapuolen arvioijille laajan pääsyn tietoihinsa ja pyytää heitä esittämään näyttöä ja perusteltuja johtopäätöksiä mallien rakentamiseen liittyvistä riskeistä. Tavoitteena on kaventaa eroa sen välillä, mitä arvioijat ymmärtävät frontier-tekoäly-yhtiön järjestelmistä ja mitä yhtiö itse niistä ymmärtää.

Ilmoituksessa luetellaan neljä asiaa, joita arvioijat tarvitsevat frontier-mallien arviointiin: asiantuntemusta frontier-mallien kykyjen arvioinnissa, mukaan lukien ymmärrys siitä, miten arvioinnit voivat epäonnistua, esimerkiksi linjautumisen teeskentelyn vuoksi; riippumattomuutta eli sitä, etteivät arvioijat omista arvioimansa yhtiön osakkeita tai ole siitä taloudellisesti tai toiminnallisesti riippuvaisia; riittävästi pääsyä tietoihin, jotta he voivat arvioida riskejä mielekkäästi – tämä tarkoittaa muutakin kuin uusimpia malleja ja edellyttää näkyvyyttä siihen, miten mallit on koulutettu ja miten suojatoimet toimivat; sekä vapautta julkaista mallia tai prosessia koskevia havaintoja ja arvioita.

Anthropic vertasi järjestelyä pankkivalvontaan mutta myönsi, ettei vertaus ole täsmällinen: pankeilla on omasta riskiasemastaan enemmän tietoa kuin ulkopuolisilla, joten viranomaiset sijoittavat suurimpiin pankkeihin paikan päällä työskenteleviä tarkastajia. Jos pankin riskinotto voisi uhata yleistä etua, ulkopuoliset pyrkivät havaitsemaan sen ennalta.

Kolme käyttöoikeustasoa

Anthropic kertoi kehittävänsä arvioijille kolmea käyttöoikeustasoa. Ensimmäisellä tasolla arvioijat tekevät tarkasti rajattuja riskiselvityksiä. Anthropic päättää, mihin tietoihin heillä on pääsy, ja arvioijat voivat julkaista havaintonsa Anthropicin hyväksynnällä. Toisella tasolla arvioijat voivat julkaista ilman Anthropicin hyväksyntää ja saavat käyttöönsä enemmän tietoa, vaikka Anthropic voi edelleen vaatia tiettyihin luokkiin kuuluvien tietojen poistamista. Arvioijat voivat julkaista näkemyksensä siitä, olivatko peittämiset perusteltuja. Kolmas taso vastaa METR:n kanssa tehtyä järjestelyä: käyttöoikeudet rinnastuvat työntekijöiden käyttöoikeuksiin, ja julkaisuoikeudet ovat samankaltaiset kuin toisella tasolla.

Anthropic kertoi toivovansa, että ajan mittaan kolmannella tasolla toimisi useita arvioijia, joista kukin tiimi julkaisisi oman analyysinsa yhtiön riskiprofiilista ja keskeisistä päätöksistä.

SecureBio, Accenture ja alkuvaiheen keskustelut

SecureBio kuuluu tällä hetkellä ensimmäiseen tasoon. Se arvioi Anthropic’s elokuu 2026 Risk Report -raportin kemiallisia ja biologisia aseita käsittelevää lukua, kun se on ensin saanut valmiiksi edellisen riskiraportin pilottiarvioinnin ja julkaissut sen. Anthropic kertoi harkitsevansa arvioinnin valmistuttua siirtymistä hankkeisiin, joissa arvioijilla on laajemmat käyttöoikeudet ja julkaisuoikeudet.

Anthropic kertoi työskentelevänsä Accenture ja Faculty kanssa kohti kumppanuutta, johon kuuluu mallien arviointia ja red team -testausta, linjaustenmukaisuuden arviointeja, mallien suojatoimien testaamista sekä valmiuksien kehittämistä organisaatioissa.

Anthropic kertoi myös käyvänsä alustavia keskusteluja useiden muiden organisaatioiden, kuten Hugging Face, kanssa. Koska kumppanuudet ovat vielä alkuvaiheessa, Anthropic antaa näille arvioijille rajallisemmin tietoa, ja heidän julkaisuoikeutensa ovat suppeammat. Samalla Anthropic varmistaa, että kumppanit suojaavat luottamuksellisia tietoja ja että niillä on tarvittavat resurssit ja asiantuntemus. Anthropic kertoi tavoittelevansa useampien riippumattomien arvioijien täysimääräistä integroimista kumppanuuksien edetessä ja luottamuksen kasvaessa.

Syyskuun sitoumus

Syyskuussa 2026 Anthropicin perustaja Dario Amodei julkaisi esseen ”Meidän on hillittävä eturintaman tahtia”, jossa työntekijöihin rinnastettavat käyttöoikeudet saavat ulkopuolisille arvioijille kolmivaiheisen suunnitelman ensimmäisenä askeleena eturintaman tekoälyn kehityksen tahdittamiseksi. Amodei kirjoitti, että Anthropic sitoutuu tähän askeleeseen yksipuolisesti, ja kehotti hallituksia vaatimaan myös muita eturintaman yrityksiä tekemään samoin. Hän kirjoitti, että ”meidän on hidastettava tahtia, jolla parannamme tekoälymallien kyvykkyyksiä”, jotta riskien ehkäisemiseen jää aikaa pysyä kyvykkyyksien kehityksen vauhdissa.

Esseessä kerrottiin, että Anthropic aikoo kutsua yrityksen tiloihin ulkopuolisen arviointiryhmän, jolle tarjotaan työpisteet, kulkukortit ja yrityksen kannettavat tietokoneet. Ryhmä saisi käyttöoikeudet työtiloihin, työkaluihin ja toimintoihin, jotka vastaisivat pääosin sisäisten riskinarviointiryhmien käyttöoikeuksia. Poikkeuksia tehtäisiin silloin, kun laki tai sopimukset sitä edellyttävät tai kun on suojattava asiakkaiden ja kumppaneiden yksityisiä tietoja. Sopimuksella ulkopuolisille arvioijille annettaisiin oikeus julkaista keskeisiä havaintoja riskitasoista, vaaratilanteista, toimintatavoista sekä siitä, mitä käyttöoikeuksia he saivat tai eivät saaneet; Anthropicilla ei olisi julkaisuihin toimituksellista määräysvaltaa. Näiden suunniteltujen ehtojen mukaan Anthropicilla olisi rajattu oikeus poistaa tietoja, jotka ovat turvallisuuden kannalta arkaluonteisia, oikeudellisesti luottamuksellisia, kaupallisesti arkaluonteisia tai kolmansien osapuolten luottamuksellisia tietoja. Se ei kuitenkaan saisi poistaa havaintoja vain siksi, että ne ovat sille epäedullisia. Arvioijat voisivat kertoa julkisesti, jos poistettu tieto oli heidän johtopäätöstensä kannalta tärkeä.

Anthropic kertoi integroivansa arvioijia vapaaehtoisesti ja uskovansa, että kaikkien eturintaman tekoälyyritysten pitäisi tehdä samoin. Se kertoi etenevänsä nopeasti useiden arvioijien kanssa, selvittävänsä aktiivisesti, millaiset kumppanuudet toimivat, ja sitoutuvansa jakamaan tilannepäivityksiä työn edetessä.