Anthropic tar in sex METR-utvärderare med tillgång som liknar anställdas

Anthropic meddelade den 15 oktober 2026 att företaget har börjat ge ett inbäddat team från METR, en ideell organisation som utvärderar avancerade AI-modeller, tillgång på samma villkor som anställda. Sex METR-anställda har tagits in och fått företagets utrustning, kontorsplatser samt tillgång till interna verktyg och system.

Meddelandet kommer efter Anthropic åtagande i september 2026 att stärka den oberoende bedömningen av företagets modeller och säkerhetsrutiner genom tredje part, samt företagets undertecknande av Vita husets överenskommelse om superintelligens, där företagen åtog sig att samarbeta med oberoende externa revisorer eller utvärderare. Anthropic uppgav att företaget under det senaste året har samarbetat med METR kring flera granskningar av sina riskrapporter.

Villkoren för tillgång på samma villkor som anställda

Anthropic uppgav att det inbäddade teamets tillgång till interna verktyg och system i stort sett motsvarar den som företagets egna riskbedömningsteam har. Med undantag för ett fåtal tydligt avgränsade kategorier – kunduppgifter, information som omfattas av advokatsekretess och information om modellarkitekturer – uppmuntras Anthropics anställda att dela information med teamet på samma sätt som de skulle göra med en kollega som arbetar med risker kopplade till AI-anpassning.

En fotnot i meddelandet förklarar undantaget för information om arkitekturer. Eftersom utvärderare, liksom bankinspektörer, även kan arbeta med andra företag uppgav Anthropic att företaget är försiktigt med risken för oavsiktliga läckor: information om arkitekturer innebär en hög risk för sådana läckor, samtidigt som den vanligtvis har begränsad relevans för riskbedömningar. När information om arkitekturer är mycket relevant kommer Anthropic i regel att försöka dela den, men det kräver uttryckligt internt godkännande.

Enligt villkoren för publicering inom ramen för samarbetet kommer METR att publicera sina analyser av Anthropics risknivåer, incidenter eller rutiner. Anthropic kan inte lägga in veto mot publicering, men kan kräva att METR maskerar information som tillhör snävt avgränsade, på förhand fastställda kategorier. METR får offentligt beskriva maskeringarna och säga om organisationen anser att de var motiverade, så länge den inte röjer den maskerade informationen.

Uppdraget är begränsat till ett litet team som arbetar under rättsligt bindande avtal, och övriga METR-anställda – däribland forskare som arbetar med Anthropic i andra projekt – hålls åtskilda från det inbäddade teamets arbete. Anthropic beskrev inbäddad utvärdering som ett sätt att ge ett fåtal kvalificerade personer, som arbetar enligt företagets säkerhetsstandarder, en nära inblick i hur företaget fungerar. Företaget sade också att detta inte är ett sätt för andra organisationer att få tillgång till dess information eller information som tillhör dess kunder och partner.

Anthropics motiv för oberoende utvärdering

I takt med att modellerna har blivit kraftfullare har de krävt starkare skyddsåtgärder och mer krävande riskbedömningar, uppgav företaget. Anthropic sade att företaget vill kunna ställas till svars offentligt för de beslut det fattar, men inte kan offentliggöra all information som är relevant för säkerhetsarbetet, eftersom en del av den kan vara användbar för illvilliga aktörer eller vara kommersiellt känslig, till exempel information om beräkningsresurser eller träning. I stället ger företaget utvärderare från tredje part djupgående tillgång till sin information och låter dem dela belägg och välgrundade slutsatser om riskerna med att utveckla företagets modeller, i syfte att minska gapet mellan vad utvärderarna förstår om ett företag som utvecklar avancerad AI och dess system och vad företaget självt förstår.

I meddelandet listas fyra förutsättningar för att kunna utvärdera avancerade modeller: sakkunskap om hur sådana modellers förmågor bedöms, bland annat förståelse för hur utvärderingar kan gå fel, till exempel genom skenbar AI-anpassning; oberoende, vilket innebär att utvärderarna inte ska äga andelar i företaget de utvärderar eller vara ekonomiskt eller operativt beroende av det; tillräcklig tillgång för att kunna bedöma riskerna på ett meningsfullt sätt, vilket innebär mer än tillgång till de senaste modellerna och även insyn i hur de tränades och hur skyddsåtgärderna fungerar; samt frihet att publicera observationer och bedömningar av en modell eller en process.

Anthropic jämförde upplägget med banktillsyn, samtidigt som företaget medgav att jämförelsen inte är helt träffande: banker vet mer om sina egna risker än utomstående, så tillsynsmyndigheter placerar inspektörer på plats hos de största bankerna. Om en banks risktagande skulle kunna hota allmänheten försöker tredje parter dessutom upptäcka det i förväg.

Tre nivåer av tillgång

Anthropic uppgav att företaget utvecklar tre nivåer av tillgång för utvärderare. På den första nivån genomför utvärderarna avgränsade riskundersökningar; Anthropic avgör vilken tillgång de får, och utvärderarna kan publicera sina resultat med Anthropics godkännande. På den andra nivån kan utvärderarna publicera utan Anthropics godkännande och får tillgång till mer information, även om Anthropic fortfarande kan kräva att specifika informationskategorier tas bort. Utvärderarna kan samtidigt publicera sina åsikter om huruvida maskeringarna var motiverade. Den tredje nivån är upplägget med METR: tillgång på samma villkor som anställda och publiceringsrättigheter som liknar dem på den andra nivån.

Anthropic uppgav att företaget på sikt hoppas ha flera utvärderare på den tredje nivån, där varje team publicerar sin egen analys av företagets riskläge och viktiga beslut.

SecureBio, Accenture och samtal i ett tidigt skede

SecureBio befinner sig för närvarande på den första nivån. Organisationen granskar kapitlet om kemiska och biologiska vapen i Anthropics riskrapport från augusti 2026, efter att ha slutfört och publicerat en pilotgranskning av den föregående riskrapporten. Anthropic uppgav att bolaget, när granskningen är klar, kommer att överväga att gå vidare till projekt med större åtkomst och publiceringsrättigheter.

Anthropic uppgav att bolaget tillsammans med Accenture och Faculty arbetar för att få till stånd ett partnerskap som omfattar utvärdering och red team-tester av modeller, bedömningar av modellernas anpassning, testning av modellskydd och uppbyggnad av kapacitet inom organisationerna.

Anthropic uppgav också att bolaget för tidiga diskussioner med flera andra organisationer, däribland Hugging Face. Eftersom dessa partnerskap fortfarande befinner sig i ett tidigt skede ger Anthropic utvärderarna mer begränsad information, och de har mer begränsade publiceringsrättigheter. Samtidigt bekräftar Anthropic att partnerna skyddar konfidentiell information och har de resurser och den sakkunskap som krävs. Anthropic uppgav att målet är att fullt ut integrera fler oberoende utvärderare i takt med att partnerskapen utvecklas och förtroendet växer.

Åtagandet i september

I september 2026 publicerade Anthropics medgrundare Dario Amodei en essä, ”Vi måste styra takten vid AI-fronten”, där inbäddade utvärderare med åtkomst liknande den anställda har beskrevs som det första steget i en trestegsplan för att styra takten i utvecklingen av avancerad AI. Amodei skrev att Anthropic ensidigt åtar sig att genomföra det steget och uppmanade regeringarna att kräva att andra ledande AI-företag gör detsamma. Han skrev att ”vi måste bromsa takten i förbättringen av AI-modellernas förmågor” så att riskförebyggande åtgärder hinner hålla jämna steg med utvecklingen av modellernas förmågor.

I essän stod det att Anthropic avser att bjuda in ett externt granskningsteam som arbetar integrerat i företaget och får skrivbord på företagets kontor, passerkort och bärbara datorer från företaget. Teamet skulle få tillgång till arbetsytor, verktyg och behörigheter som i huvudsak motsvarar dem som interna riskbedömningsteam har, med vissa undantag när lagar eller avtal kräver det eller när det behövs för att skydda kunders och partnerorganisationers privata information. Enligt ett avtal skulle de externa granskarna ha rätt att publicera viktiga resultat om risknivåer, incidenter, praxis och vilken åtkomst de fått eller inte fått, utan att Anthropic skulle ha redaktionell kontroll över publiceringen. Enligt de planerade villkoren skulle Anthropic behålla en begränsad möjlighet att maskera information som är säkerhetskänslig, omfattas av rättsligt sekretesskydd, är kommersiellt känslig eller är konfidentiell information som tillhör tredje part. Bolaget skulle dock inte få maskera resultat bara för att de är ofördelaktiga, och granskarna skulle offentligt kunna säga till om en maskering tagit bort något som var viktigt för deras slutsatser.

Anthropic uppgav att bolaget frivilligt låter utvärderare arbeta integrerat i verksamheten och anser att alla ledande AI-företag bör göra detsamma. Bolaget sade att det går snabbt framåt med flera utvärderare, aktivt lär sig vilka typer av partnerskap som fungerar och åtar sig att dela uppdateringar under arbetets gång.