Anthropic giver seks METR-evaluatorer adgang på medarbejderlignende vilkår

Anthropic meddelte den 15. oktober 2026, at virksomheden er begyndt at give et integreret team fra METR adgang på medarbejderlignende vilkår. METR er en nonprofitorganisation, der evaluerer førende AI-modeller. Seks METR-medarbejdere er blevet tilknyttet med virksomhedens hardware, kontorplads og adgang til interne værktøjer og systemer.

Meddelelsen følger efter Anthropic i september 2026 forpligtede sig til en stærkere uafhængig tredjepartsvurdering af virksomhedens modeller og sikkerhedspraksis og underskrev aftalen fra Det Hvide Hus om superintelligens, hvor virksomheder lovede at samarbejde med uafhængige eksterne revisorer eller evaluatorer. Anthropic oplyste, at virksomheden det seneste år har samarbejdet med METR om flere gennemgange af sine risikorapporter.

Vilkårene for adgang på medarbejderlignende betingelser

Anthropic oplyste, at det integrerede teams adgang til interne værktøjer og systemer stort set svarer til den adgang, virksomhedens egne risikovurderingsteams har. Bortset fra et lille antal klart definerede kategorier – kundedata, oplysninger omfattet af advokat-klient-fortrolighed og oplysninger om modelarkitekturer – opfordres Anthropic-medarbejdere til at dele oplysninger med teamet, ligesom de ville gøre med en kollega, der arbejder med tilpasningsrisici.

En fodnote i meddelelsen forklarer undtagelsen for oplysninger om arkitekturer. Da evaluatorer, ligesom banktilsynsførende, også kan arbejde for andre virksomheder, oplyste Anthropic, at virksomheden udviser forsigtighed med hensyn til risikoen for utilsigtede lækager: Oplysninger om arkitekturer indebærer en høj risiko for sådanne lækager, og deres relevans for risikovurderingen er typisk lav. Når oplysninger om arkitekturer er meget relevante, vil Anthropic som regel forsøge at dele dem, men det kræver udtrykkelig intern godkendelse.

I henhold til aftalens offentliggørelsesvilkår vil METR offentliggøre sin analyse af Anthropics risikoniveauer, hændelser eller praksis. Anthropic kan ikke nedlægge veto mod offentliggørelsen, men kan kræve, at METR redigerer oplysninger, der falder inden for snævert afgrænsede, på forhånd fastlagte kategorier. METR kan frit beskrive redigeringerne offentligt og oplyse, om organisationen mener, at de var berettigede, så længe den ikke afslører de redigerede oplysninger.

Samarbejdet er begrænset til et lille team, der arbejder under aftaler, som kan håndhæves juridisk, og andre METR-medarbejdere, herunder forskere, der arbejder sammen med Anthropic om andre projekter, holdes adskilt fra det integrerede teams arbejde. Anthropic beskrev evaluering med et integreret team som en måde at give nogle få kvalificerede personer, der arbejder efter virksomhedens sikkerhedsstandarder, et indgående indblik i dens arbejdsgange. Virksomheden understregede, at det ikke er en måde, hvorpå andre organisationer kan få adgang til dens oplysninger eller oplysninger om dens kunder og partnere.

Anthropics begrundelse for uafhængig evaluering

I takt med at modellerne er blevet mere avancerede, har de krævet stærkere sikkerhedsforanstaltninger og mere krævende risikovurderinger, oplyste virksomheden. Anthropic sagde, at virksomheden ønsker at stå til ansvar offentligt for de beslutninger, den træffer, men ikke kan offentliggøre alle oplysninger, der er relevante for sikkerhedsarbejdet, fordi nogle af dem kan være nyttige for ondsindede aktører eller være kommercielt følsomme, f.eks. oplysninger om beregningskapacitet eller træning. I stedet giver virksomheden tredjepartsevaluatorer dybdegående adgang til sine oplysninger og lader dem dele dokumentation og velbegrundede konklusioner om de risici, der er forbundet med at udvikle virksomhedens modeller. Målet er at mindske afstanden mellem evaluatorernes forståelse af en førende AI-virksomheds systemer og virksomhedens egen forståelse.

Meddelelsen opregner fire ting, evaluatorer har brug for for at kunne evaluere førende modeller: ekspertise i at vurdere modellernes egenskaber, herunder forståelse for, hvordan evalueringer kan slå fejl, f.eks. ved foregiven alignment; uafhængighed, hvilket betyder, at evaluatorerne ikke må eje aktier i den virksomhed, de evaluerer, eller være økonomisk eller driftsmæssigt afhængige af den; tilstrækkelig adgang til at kunne vurdere risici på meningsfuld vis, hvilket ikke blot omfatter de nyeste modeller, men også indblik i, hvordan modellerne blev trænet, og hvordan sikkerhedsforanstaltningerne fungerer; samt frihed til at offentliggøre observationer og vurderinger af en model eller en proces.

Anthropic sammenlignede ordningen med banktilsyn, men anerkendte, at sammenligningen ikke er helt præcis: Banker ved mere om deres egne risikopositioner end udenforstående, så tilsynsmyndigheder udstationerer fast tilknyttede tilsynsførende i de største banker. Hvis en banks risikovillighed kan true offentligheden, forsøger tredjeparter derfor at få øje på det på forhånd.

Tre adgangsniveauer

Anthropic oplyste, at virksomheden er ved at udvikle tre adgangsniveauer for evaluatorer. På det første niveau foretager evaluatorerne snævert afgrænsede risikoundersøgelser; Anthropic bestemmer, hvilken adgang de får, og evaluatorerne kan offentliggøre deres resultater med Anthropics godkendelse. På det andet niveau kan evaluatorerne offentliggøre uden Anthropics godkendelse og får adgang til flere oplysninger, selvom Anthropic stadig kan kræve, at bestemte kategorier af oplysninger fjernes. Evaluatorerne kan samtidig offentliggøre deres vurdering af, om redigeringerne var berettigede. Det tredje niveau er ordningen med METR: adgang på medarbejderlignende vilkår og offentliggørelsesrettigheder svarende til dem på det andet niveau.

Anthropic håber, at flere evaluatorer med tiden vil nå det tredje niveau, og at hvert team offentliggør sin egen analyse af virksomhedens risikoprofil og centrale beslutninger.

SecureBio, Accenture og indledende drøftelser

SecureBio befinder sig i øjeblikket på det første niveau. Organisationen gennemgår kapitlet om kemiske og biologiske våben i Anthropic’s risikorapport for august 2026, efter at have afsluttet og offentliggjort en pilotgennemgang af den foregående risikorapport. Anthropic sagde, at virksomheden efter afslutningen af denne gennemgang vil overveje at gå videre til projekter med større adgang og udvidede publiceringsrettigheder.

Anthropic sagde, at virksomheden sammen med Accenture og Faculty arbejder hen imod et partnerskab, der omfatter evaluering og red teaming af modeller, vurdering af alignment, test af modellernes sikkerhedsforanstaltninger og opbygning af kompetencer på tværs af organisationerne.

Anthropic sagde også, at virksomheden er i de indledende drøftelser med flere andre organisationer, herunder Hugging Face. Da disse partnerskaber stadig befinder sig på et tidligt stadie, giver Anthropic evaluatorerne mere begrænset information, og de har mere begrænsede publiceringsrettigheder, mens Anthropic sikrer sig, at partnerne beskytter fortrolige oplysninger og har de nødvendige ressourcer og den fornødne ekspertise. Anthropic sagde, at målet er at integrere flere uafhængige evaluatorer fuldt ud, efterhånden som partnerskaberne udvikler sig, og tilliden vokser.

Septembertilsagnet

I september 2026 offentliggjorde Anthropic-medstifteren Dario Amodei et essay, “Vi skal sætte tempoet for fronten”, hvor han gjorde indlejrede evaluatorer med adgang på niveau med medarbejdere til det første trin i en plan i tre trin for at styre tempoet i udviklingen af avanceret AI. Amodei skrev, at Anthropic ensidigt forpligter sig til dette trin, og opfordrede regeringer til at kræve, at andre virksomheder i frontlinjen gør det samme. Han skrev, at “vi må sænke tempoet, hvormed vi forbedrer AI-modellernes kapacitet”, så forebyggelsen af risici får tid til at følge med fremskridtene i modellernes kapacitet.

I essayet stod der, at Anthropic har til hensigt at invitere et eksternt gennemgangsteam, der arbejder tæt integreret i virksomheden, og som får skriveborde på virksomhedens kontorer, adgangskort og bærbare computere fra virksomheden; adgang til arbejdsområder, værktøjer og tilladelser, der for det meste svarer til dem, som interne risikovurderingsteams har, med visse undtagelser, hvor lovgivningen eller kontrakter kræver det, eller hvor det er nødvendigt for at beskytte kunders og partneres private oplysninger; samt en kontrakt, der giver de eksterne evaluatorer ret til at offentliggøre centrale resultater om risikoniveauer, hændelser, praksis og den adgang, de fik eller ikke fik, uden at Anthropic har redaktionel kontrol over offentliggørelsen. På de tilsigtede vilkår ville Anthropic have en begrænset mulighed for at fjerne sikkerhedsfølsomme, juridisk privilegerede, kommercielt følsomme eller fortrolige oplysninger fra tredjeparter, men ville ikke kunne udelade resultater, blot fordi de er ugunstige. Evaluatorerne ville offentligt kunne oplyse, hvis en sådan udeladelse fjernede noget, der var vigtigt for deres konklusioner.

Anthropic sagde, at virksomheden frivilligt integrerer evaluatorer, og at den mener, at alle virksomheder i frontlinjen inden for AI bør gøre det samme. Virksomheden sagde, at den arbejder hurtigt med flere evaluatorer, aktivt lærer, hvilke former for partnerskaber der fungerer, og er fast besluttet på at dele opdateringer undervejs.