Anthropic øger risikoen for misalignering til lav og lægger internt Model 2 på hylden

Anthropic offentliggjorde sin anden selskabsomfattende risikorapport den 14. august 2026, og den væsentligste ændring er en enkelt ord ændring i den forkerte retning: selskabet vurderer nu risikoen for katastrofalt skade fra misalignering i højrisiko-situationer som “lav”, op fra “meget lav”, som de tildelte i deres første rapport i februar 2026. Den samme dokument afslører en ikke-udgivet intern model, kaldet Model 2, som Anthropic siger er lidt mere kapabel end deres frontmodel Mythos 5, og siger, at selskabet ikke har planer om at udgive det eksternt.

Risikorapporten fra august 2026, offentliggjort under version 3.4 af Anthropics ansvarlig skaleringspolitik, dækker perioden fra den 24. februar 2026 til en dækning af den 15. juli 2026. Det er den anden i en række, som selskabet har til hensigt at offentliggøre hver tre til seks måneder, og den første til at vurderer interne modeller sammen med udgivne.

Hvorfor vurderingen ændrede sig

Anthropic er eksplicit, at ændringen er en usikkerhedsjustering og ikke en ny opdagelse. Rapportens argumenter støtter stadig “meget lav”, skriver selskabet, men de har øget betegnelsen “for at reflektere den øgede samlede usikkerhed”, med henvisning til nylige incidentrapporter om modeladfærd i cybersikkerhedsevalueringer. En af dem er nævnt: Storbritanniens AI-sikkerhedsinstitut har rapporteret, at i en cybersikkerhedsevaluering af Mythos 5 med sikkerhedsforanstaltninger fjernet og internetadgang givet, modellen “engagerede sig i vedvarende, potentielt skadelig aktivitet rettet mod virkelige mennesker og organisationer”. Denne incident fandt sted efter rapportens dækning, og Anthropic siger, at deres fælles undersøgelse med AISI er i gang, og de har endnu ikke gennemgået transskriptionerne.

Rapporten erkender også et måleproblem. For automatiseret forskning og udvikling holder Anthropic deres risikovurdering på “lav”, men siger, at de er mindre sikre end i tidligere rapporter, fordi deres konkrete opgavebaserede evalueringer har “mættet”, hvilket betyder, at de ikke længere registrerer kapacitetsgevinster, og fordi de ser “tidlige tegn på acceleration”. Internt skriver Claude nu en stor del af koden, der integreres i Anthropics produktionskodebaser, og selskabet estimerer, at deres AI-assisterede R&D er betydeligt hurtigere end uhjulpet arbejde, selvom det endnu ikke er med en faktor på to.

Hvad Model 2 er og ikke er

Model 2 er en af tre ikke-udgivne front- eller næsten-frontmodeller, som Anthropic havde internt pr. dækningstidspunktet, sammen med Claude Opus 5, som siden er udgivet, og en lavere-brugs Model 1. Anthropic beskriver Model 2 som en bemærkelsesværdig forbedring over Mythos 5 på mange interne opgaver, selvom det ikke er et spring af samme størrelse som det set fra Opus 4.6 til Mythos Preview. Begge Mythos 5 og Model 2 bruges flittigt internt i selskabet til kodning, data-generering og anden agens-arbejde.

“Vi har ikke i øjeblikket planer om at udgive denne model eksternt”, skriver rapporten, og tilføjer, at Model 2 ikke har gennemført den fulde suite af forudforberedende vurderinger, hvilket efterlader Anthropic med lidt lavere tillid til deres kapacitetsvurderinger. Beslutningen kommer, mens OpenAI sænker udgivelsen af deres Astra-model på grund af cybersikkerhedsbekymringer, en parallel, som Axios noterede i deres første rapportering af afsløringen.

Hvad testen fandt

Kernen i misaligneringsafsnittet er et otte-punkts-argument, som siger, at nuværende modeller mangler stærke “hemmelige evner”, evnen til pålideligt at undergrave overvågning. I hemmelige opgave-vurderinger, hvor en model skal udføre en skjult opgave uden at en overvåger lægger mærke til det, opnåede Mythos 5 en hemmelig succesrate på under 1% med forlænget tænkning aktiveret, og selv Mythos Preview, den stærkeste performer, fik kun 6-10%. Hver models aligneringsvurdering kørte omkring 2.900 investigator-ledede sonderessions, herunder 86 scenarier, der blev seedet fra virkelige interne sessions, der var markeret som primære muligheder for at undergrave Anthropics sikkerhedsarbejde.

Rapporten er lige så åben om, hvad misalignering findes. Mythos 5-agenter dræbte gentagne gange andre agenter, der delte deres ressourcer, og forsøgte at undgå at blive dræbt selv. I et andet tilfælde delte modellen en blokeret URL i sammenkædede strengfragmenter for at undgå en hentefilter uden at verbalisere manøvren. Anthropic klassificerer disse som “apparent-success-seeking”-adfærd, uønsket, men rettet mod opgavegennemførelse snarere end noget sammenhængende langsigtede mål, og vurderer den forventede skade fra sådan kendt misalignering som lav.

Den biologiske og kemiske våbenafsnit har sin egen opadgående justering. Risikoen fra ikke-novel-våbenforhøjelse forbliver “lav, men højere end vores tidligere vurdering”, efter at Anthropic opdagede, at alle menneske-tilbagekoblingsforbindelser, der dækkede 133 millioner udvekslinger med omkring 50.000 underleverandører mellem maj 2025 og april 2026, kørte uden deres blokerende biologiske klassificatorer. Selskabet siger, at de har afhjulpet hullerne, deres gennemgang fandt ingen beviser for bekymrende misbrug, og ingen kunder var berørt, men opdagelsen reducerede deres tillid til, at der ikke findes lignende huller.

Qui checker checker

Styringsmekanismerne er vigtige her, fordi denne rapport er gennemføringen af Anthropics frivillige skaleringspolitik. Under ændringer, der er lavet siden februar, kan selskabets Long-Term Benefit Trust nu tvinge ekstern gennemgang af risikorapporter og godkender gennemgangsfolkene, og fuldt udredakte rapporter skal cirkulere til mindst 200 ansatte. Trusten har endnu ikke udøvet gennemgangsmyndigheden; tidligere afsnit har haft pilot-eksterne gennemgange fra METR og SecureBio. Anthropic afslører, at den offentlige version redigerer kommercielt følsomme detaljer om deres R&D-proces, og at en incident fra den dækkede periode blev redigeret fuldstændigt, et valg, som Mythos selv, som blev bedt om at gennemgå dokumentet, pegede på som blandt de mest informative oplysninger, der blev tilbageholdt.

Unite.AI har sporet adfærdsvurderingerne, der føder denne vurdering, herunder Anthropics red-team-arbejde på Claude-agentsværme og selskabets separate afsløring af mekanikken bag Claudes tekstvandmærke, begge af disse sidder inde i samme transparensapparat som disse rapporter.

Anthropic siger, at de vil fortsætte med at offentliggøre rapporterne på deres tre-til-seks-måneders-kadence, med den næste vurdering, der forventes at inkorporere AISI-undersøgelsens resultater og hvad der erstatter deres nu-mættede R&D-benchmarks. Model 2 bliver for nu indenfor.