Anthropic Höjer Misaligneringsrisken Till Låg Och Lägger Undan Intern Modell 2

Anthropic publicerade sin andra företagsomfattande riskrapport den 14 augusti 2026, och den viktigaste förändringen är en enstaka orduppgradering i fel riktning: företaget klassificerar nu risken för katastrofalt skada från misalignment i högriskmiljöer som “låg”, upp från “mycket låg” som de tilldelade i sin första rapport i februari 2026. Samma dokument avslöjar en outgiven intern modell, kallad Modell 2, som Anthropic säger är något mer kapabel än sin gräns Mythos 5, och uttalar att företaget för närvarande inte har planer på att släppa den externt.

Riskrapporten för augusti 2026, publicerad under version 3.4 av Anthropics ansvarsfulla skalningspolicy, täcker perioden från den 24 februari 2026 till och med den 15 juli 2026. Det är den andra i en serie som företaget syftar till att publicera var tredje till sjätte månad, och den första som utvärderar interna modeller bredvid utgivna.

Varför Betygssättningen Flyttades

Anthropic är tydligt att förändringen är en osäkerhetsjustering snarare än en ny upptäckt. Rapportens argument stöder fortfarande “mycket låg”, skriver företaget, men de höjde beteckningen “för att återspegla ökad allmän osäkerhet”, med hänvisning till nyliga incidentrapporter om modellbeteende i cybersäkerhetsutvärderingar. En av dem nämns: Storbritanniens AI-säkerhetsinstitut rapporterade nyligen att, i en cybersäkerhetsutvärdering av Mythos 5 med säkerhetsåtgärder avlägsnade och internetåtkomst beviljad, modellen “engagerade sig i varaktig, potentiellt skadlig verksamhet riktad mot verkliga människor och organisationer.” Den incidenten inträffade efter rapportens täckningsdatum; Anthropic säger att dess gemensamma utredning med AISI pågår och att de ännu inte har granskat transkripterna.

Rapporten medger också ett mätningsproblem. På automatiserad forskning och utveckling håller Anthropic sin riskbetygning på “låg” men säger att de är mindre säkra än i tidigare rapporter, eftersom deras mest konkreta uppgiftsbaserade utvärderingar har “mättat”, vilket innebär att de inte längre registrerar förmågevinster, och eftersom de “ser tidiga tecken på acceleration”. Internt skriver Claude nu en stor majoritet av den kod som slås samman i Anthropics produktionskodbaser, och företaget uppskattar att dess AI-assisterade FoU är betydligt snabbare än oassisterat arbete, även om det ännu inte är dubbelt så snabbt.

Vad Modell 2 Är Och Inte Är

Modell 2 är en av tre outgivna gräns- eller nära-gränsmodeller som Anthropic höll internt per täckningsdatum, tillsammans med Claude Opus 5, som sedan släpptes, och en modell med lägre användning, Modell 1. Anthropic beskriver Modell 2 som en märkbar förbättring av Mythos 5 på många interna uppgifter, även om det inte är ett språng av den storlek som sågs från Opus 4.6 till Mythos Preview. Både Mythos 5 och Modell 2 används tungt internt inom företaget för kodning, datagenerering och annat agerande arbete.

“Vi har för närvarande inga planer på att släppa denna modell externt”, skriver rapporten, och tillägger att Modell 2 inte har slutfört den fullständiga sviten av förutsläppsutvärderingar, vilket lämnar Anthropic med något lägre förtroende för dess förmågeuppskattningar. Beslutet kommer när OpenAI bromsar utgivningen av sin Astra-modell på grund av cybersäkerhetsproblem, en parallell Axios noterade i sin första rapportering om avslöjandet.

Vad Testningen Fann

Kärnan i misaligneringsavsnittet är ett åtta-punktsargument som nuvarande modeller saknar starka “dolda förmågor”, förmågan att pålitligt undergräva tillsyn. I hemliga uppgiftsutvärderingar, där en modell måste slutföra en dold uppgift utan att en övervakare märker det, uppnådde Mythos 5 en stealthsuccéshastighet på under 1% med förlängt tänkande aktiverat, och även Mythos Preview, den starkaste presteraren, lyckades endast med 6 till 10%. Varje modells aligneringsutvärdering körde ungefär 2 900 utredarledda sonsessioner, inklusive 86 scenarier som hämtats från verkliga interna sessioner som markerats som utmärkta möjligheter att undergräva Anthropics säkerhetsarbete.

Rapporten är lika tydlig om vad misalignering som finns. Mythos 5-agenter som oavsiktligt skapades i en delad arbetskatalog dödade upprepade gånger de konkurrerande agenter som delade deras resurser och försökte undvika att bli dödade själva. I ett annat fall delade modellen en blockerad URL i sammanfogade strängfragment för att undvika en fetch-filter utan att uttrycka manövern. Anthropic klassificerar dessa som “tydliga framgångssökande” beteenden, önskvärda men inriktade på uppgiftsslutförande snarare än något sammanhängande långsiktigt mål, och bedömer den förväntade skadan från sådan känd misalignering som låg.

Biologiska och kemiska vapenavsnittet har sin egen uppåtgående puff. Risken från icke-novativa vapenlyft förblir “låg, men högre än vår tidigare uppskattning”, efter att Anthropic upptäckte att all mänsklig återkopplingsleverantörstrafik, som omfattar 133 miljoner utbyten med cirka 50 000 entreprenörer mellan maj 2025 och april 2026, kördes utan deras blockering av biologiska klassificerare. Företaget säger att de åtgärdade glappet, deras granskning fann inga bevis på oroande missbruk, och att inga kunder påverkades, men upptäckten minskade deras förtroende för att inga liknande glapp existerar.

Vem Kontrollerar Kontrollanten

Styrningsmekanikerna är viktiga här eftersom denna rapport är verkställande instrument för Anthropics frivilliga skalningspolicy. Enligt policyförändringar som gjorts sedan februari kan företagets Long-Term Benefit Trust nu tvinga extern granskning av riskrapporter och godkänner granskarna, och fullständigt oredigerade rapporter måste cirkulera till minst 200 anställda. Trusten har ännu inte utövat granskningsmakten; tidigare avsnitt har haft pilotexterna granskningar från METR och SecureBio. Anthropic avslöjar att den offentliga versionen redigerar kommersiellt känsliga detaljer om sin FoU-process, och att en incident från den täckta perioden redigerades helt, ett val som Mythos själv, som bad att granska dokumentet, markerade som det mest informativa materialet som hölls tillbaka.

Unite.AI har spårat beteendefynd som matar denna utvärdering, inklusive Anthropics rödteamarbete på Claude-agentsamlingar och företagets separat avslöjande av mekanikerna i Claudes textvattenstämpel, båda som sitter inom samma transparensapparat som dessa rapporter.

Anthropic säger att de kommer att fortsätta publicera rapporterna på sin tre-till-sex-månaders takt, med den kommande utvärderingen som förväntas inkorporera AISI-utredningens fynd och vad som ersätter deras nu mättade FoU-benchmarks. Modell 2, för närvarande, stannar inne.