Anthropic tar imot seks METR-evaluatorer med tilgang på nivå med ansatte

Anthropic kunngjorde 15. oktober 2026 at selskapet har begynt å gi et integrert team fra METR tilgang på nivå med ansatte. METR er en ideell organisasjon som evaluerer banebrytende KI-modeller. Seks METR-ansatte har fått tilgang til selskapets maskinvare, kontorlokaler og interne verktøy og systemer.

Kunngjøringen kommer etter at Anthropic i september 2026 forpliktet seg til sterkere uavhengig tredjepartsvurdering av modellene og sikkerhetspraksisen sin, og undertegnet White House-avtalen om superintelligens, der selskaper lovet å samarbeide med uavhengige eksterne revisorer eller evaluatorer. Anthropic opplyste at selskapet har samarbeidet med METR det siste året om flere gjennomganger av risikorapportene sine.

Vilkårene for tilgang på nivå med ansatte

Anthropic opplyste at det integrerte teamets tilgang til interne verktøy og systemer omtrent tilsvarer tilgangen selskapets egne risikovurderingsteam har. Bortsett fra et lite antall klart definerte kategorier – kundedata, informasjon som er underlagt advokat-klient-fortrolighet, og informasjon om modellarkitekturer – oppfordres ansatte i Anthropic til å dele informasjon med teamet på samme måte som de ville gjort med en kollega som arbeider med risiko knyttet til KI-tilpasning.

En fotnote i kunngjøringen forklarer unntaket for arkitekturinformasjon. Siden evaluatorer, i likhet med bankinspektører, også kan arbeide for andre selskaper, opplyste Anthropic at selskapet er forsiktig med tanke på utilsiktede lekkasjer: Informasjon om arkitekturer innebærer høy risiko for slike lekkasjer, og er vanligvis av begrenset relevans for risikovurderingen. Når arkitekturinformasjon er svært relevant, vil Anthropic som regel forsøke å dele den, men det krever uttrykkelig intern godkjenning.

I henhold til vilkårene for publisering skal METR offentliggjøre analysen sin av Anthropics risikonivåer, hendelser eller praksis. Anthropic kan ikke nedlegge veto mot publisering, men kan kreve at METR sladder informasjon som faller inn under snevert definerte kategorier. METR står fritt til å beskrive sladdingene offentlig og si om organisasjonen mener de var berettigede, så lenge den ikke røper informasjonen som er sladdet.

Samarbeidet er begrenset til et lite team som arbeider under bindende avtaler, og andre METR-ansatte – inkludert forskere som samarbeider med Anthropic om andre prosjekter – holdes atskilt fra arbeidet til det integrerte teamet. Anthropic beskrev evaluering i integrerte team som en måte å gi noen få kvalifiserte personer, som arbeider etter selskapets sikkerhetsstandarder, et inngående innblikk i hvordan selskapet arbeider. Selskapet understreket at dette ikke er en måte for andre organisasjoner å få tilgang til informasjonen deres, eller kundenes og partnernes informasjon.

Anthropics begrunnelse for uavhengig evaluering

Etter hvert som modellene er blitt kraftigere, har det vært nødvendig med sterkere sikkerhetstiltak og mer krevende risikovurderinger, opplyste selskapet. Anthropic sa at selskapet ønsker å stå til ansvar offentlig for beslutningene det tar, men ikke kan dele all informasjon som er relevant for sikkerhetsarbeidet offentlig, fordi noe av den kan være nyttig for ondsinnede aktører eller være kommersielt sensitiv, for eksempel informasjon om beregningsressurser eller trening. I stedet gir selskapet tredjepartsevaluatorer inngående tilgang til informasjonen sin og ber dem dele dokumentasjon og velbegrunnede konklusjoner om risikoene ved å utvikle modellene, med mål om å redusere gapet mellom evaluatorenes forståelse av systemene til et selskap som utvikler banebrytende KI, og selskapets egen forståelse.

Kunngjøringen lister opp fire ting evaluatorer trenger for å evaluere banebrytende modeller: ekspertise i å vurdere egenskapene til slike modeller, inkludert forståelse av hvordan evalueringer kan slå feil, for eksempel ved at en modell gir et forstilt inntrykk av å være tilpasset; uavhengighet, som innebærer at de ikke bør eie aksjer i selskapet de evaluerer eller være økonomisk eller operasjonelt avhengige av det; tilstrekkelig tilgang til å kunne vurdere risikoene på en meningsfull måte, med innsyn ikke bare i de nyeste modellene, men også i hvordan modellene ble trent og hvordan sikkerhetstiltakene fungerer; og frihet til å publisere observasjoner og vurderinger av en modell eller en prosess.

Anthropic sammenlignet dette med banktilsyn, samtidig som selskapet erkjente at sammenligningen ikke er helt treffende: Banker vet mer om sine egne risikoposisjoner enn utenforstående, og derfor utplasserer tilsynsmyndighetene inspektører ved de største bankene. Hvis en banks risikotaking kan utgjøre en trussel mot offentligheten, forsøker tredjeparter å oppdage dette på forhånd.

Tre tilgangsnivåer

Anthropic opplyste at selskapet utvikler tre tilgangsnivåer for evaluatorer. På det første nivået gjennomfører evaluatorene avgrensede risikoundersøkelser. Anthropic bestemmer hvilken tilgang de får, og evaluatorene kan publisere funnene sine med Anthropics godkjenning. På det andre nivået kan evaluatorene publisere uten Anthropics godkjenning og får tilgang til mer informasjon, selv om Anthropic fortsatt kan kreve at bestemte kategorier informasjon fjernes. Evaluatorene kan samtidig offentliggjøre sine synspunkter på om sladdingene var berettigede. Det tredje nivået er ordningen med METR: tilgang på nivå med ansatte og publiseringsrettigheter som ligner dem på det andre nivået.

Anthropic håper, opplyste selskapet, at flere evaluatorer etter hvert vil være på det tredje nivået, og at hvert team publiserer sin egen analyse av selskapets risikoprofil og viktige beslutninger.

SecureBio, Accenture og tidlige samtaler

SecureBio er for øyeblikket på første nivå. Organisasjonen gjennomgår kapittelet om kjemiske og biologiske våpen i Anthropic’s Risk Report fra august 2026, etter å ha fullført og publisert en pilotgjennomgang av den forrige risikorapporten. Anthropic sa at de etter at denne gjennomgangen er fullført, vil vurdere å gå videre til prosjekter med utvidet tilgang og større publiseringsrettigheter.

Anthropic sa at de sammen med Accenture og Faculty arbeider mot et partnerskap som omfatter evaluering og red-team-testing av modeller, vurderinger av modelltilpasning, testing av sikkerhetstiltak i modellene og oppbygging av kapasitet på tvers av organisasjonene.

Anthropic sa også at de er i innledende samtaler med flere andre organisasjoner, blant annet Hugging Face. Fordi disse partnerskapene fortsatt er på et tidlig stadium, gir Anthropic evaluatorene mer begrenset informasjon, og de har mer begrensede publiseringsrettigheter, samtidig som Anthropic forsikrer seg om at partnerne beskytter konfidensiell informasjon og har de nødvendige ressursene og den nødvendige kompetansen. Etter hvert som partnerskapene utvikler seg og tilliten vokser, sa Anthropic at målet er å integrere flere uavhengige evaluatorer fullt ut.

Forpliktelsen fra september

I september 2026 publiserte Anthropic-medgrunnlegger Dario Amodei et essay, «Vi må avpasse tempoet ved fronten», der integrerte evaluatorer med tilgang på linje med ansatte ble presentert som det første trinnet i en plan på tre trinn for å regulere tempoet i utviklingen av banebrytende KI. Amodei skrev at Anthropic ensidig forplikter seg til dette trinnet, og oppfordret myndighetene til å kreve at andre selskaper som utvikler banebrytende KI, gjør det samme. Han skrev at «vi må bremse tempoet i forbedringen av KI-modellenes evner», slik at risikoforebyggingen får tid til å holde tritt med utviklingen av modellenes evner.

I essayet sto det at Anthropic har til hensikt å invitere et eksternt gjennomgangsteam som skal være integrert i selskapet, og som får egne skrivebord på selskapets kontorer, adgangskort og bærbare datamaskiner fra selskapet; tilgang til arbeidsområder, verktøy og tillatelser som stort sett tilsvarer det interne risikovurderingsteam har, med noen unntak der loven eller kontrakter krever det, eller for å beskytte kundenes og partnernes private opplysninger; samt en kontrakt som gir eksterne evaluatorer rett til å publisere viktige funn om risikonivåer, hendelser, praksis og hvilken tilgang de fikk eller ikke fikk, uten at Anthropic har redaksjonell kontroll over publiseringen. I henhold til de planlagte vilkårene ville Anthropic beholde en begrenset mulighet til å sladde informasjon som er sikkerhetssensitiv, rettslig beskyttet, kommersielt sensitiv eller konfidensiell for tredjeparter, men kunne ikke sladde funn bare fordi de var ugunstige. Evaluatorene kunne dessuten offentlig si fra dersom en sladding fjernet noe som var viktig for konklusjonene deres.

Anthropic sa at de integrerer evaluatorer på frivillig basis, og at de mener alle selskaper som utvikler banebrytende KI, bør gjøre det samme. De sa at de raskt går videre med flere evaluatorer, aktivt lærer hvilke typer samarbeid som fungerer, og er forpliktet til å dele oppdateringer underveis.