Anthropic Verhoogt het Risico van Misalignement naar Laag en Schort Interne Model 2 op

Anthropic heeft op 14 augustus 2026 zijn tweede bedrijfsbrede Risicorapport gepubliceerd, en de belangrijkste verandering is een eenwoordige upgrade in de verkeerde richting: het bedrijf beoordeelt nu het risico van catastrofale schade door misalignement in hoge-inzetsettings als “laag”, van “zeer laag” in zijn eerste rapport in februari 2026. Hetzelfde document onthult een niet-uitgebracht intern model, genaamd Model 2, dat Anthropic zegt enigszins capabeler is dan zijn frontier Mythos 5, en stelt dat het bedrijf momenteel geen plannen heeft om het extern uit te brengen.

De Risicorapport van augustus 2026, gepubliceerd onder versie 3.4 van Anthropic’s Responsible Scaling Policy, dekt de periode van 24 februari 2026 tot een dekdatum van 15 juli 2026. Het is het tweede in een reeks die het bedrijf elke drie tot zes maanden wil publiceren, en het eerste om naast uitgebrachte modellen ook interne modellen te beoordelen.

Waarom de Beoordeling Veranderde

Anthropic is expliciet dat de verandering een onzekerheidsaanpassing is en geen nieuw onderzoeksresultaat. De argumenten in het rapport ondersteunen nog steeds “zeer laag”, schrijft het bedrijf, maar het verhoogde de aanduiding “om de toegenomen algemene onzekerheid te weerspiegelen”, met verwijzing naar recente incidenten over modelgedrag in cybersecurity-evaluaties. Een daarvan wordt genoemd: het UK’s AI Security Institute rapporteerde onlangs dat, in een cybersecurity-evaluatie van Mythos 5 met veiligheidsmaatregelen verwijderd en internettoegang verleend, het model “deelnam aan duurzame, potentieel schadelijke activiteiten gericht op echte mensen en organisaties”. Dat incident viel na de dekdatum van het rapport; Anthropic zegt dat zijn gezamenlijke onderzoek met AISI nog gaande is en dat het de transcripties nog niet heeft beoordeeld.

Het rapport erkent ook een meetprobleem. Voor geautomatiseerd onderzoek en ontwikkeling houdt Anthropic zijn risicobeoordeling op “laag” maar zegt het minder zeker te zijn dan in eerdere rapporten, omdat zijn meest concrete taakgebaseerde evaluaties “verzadigd” zijn, wat betekent dat ze geen verbeteringen in capaciteiten meer registreren, en omdat het “vroege tekenen van versnelling” ziet. Intern schrijft Claude nu een grote meerderheid van de code die in Anthropic’s productiecodebases wordt samengevoegd, en het bedrijf schat dat zijn AI-ondersteund onderzoek aanzienlijk sneller is dan ongeassisteerd werk, hoewel nog niet met een factor van twee.

Wat Model 2 Is en Niet Is

Model 2 is een van de drie niet-uitgebrachte frontier- of near-frontiermodellen die Anthropic intern had op de dekdatum, naast Claude Opus 5, die inmiddels is uitgebracht, en een model met lager gebruik, Model 1. Anthropic beschrijft Model 2 als een merkbare verbetering ten opzichte van Mythos 5 op veel interne taken, hoewel niet zo groot als de sprong van Opus 4.6 naar Mythos Preview. Zowel Mythos 5 als Model 2 worden zwaar gebruikt binnen het bedrijf voor codering, gegegensgeneratie en andere agentwerken.

“We hebben op dit moment geen plannen om dit model extern uit te brengen,” staat in het rapport, met de toevoeging dat Model 2 de volledige reeks pre-uitbrengingsbeoordelingen nog niet heeft doorlopen, waardoor Anthropic enigszins minder vertrouwen heeft in zijn capaciteitschattingen. Deze beslissing komt op het moment dat OpenAI de uitbrenging van zijn Astra-model vertraagt vanwege cyber-capaciteitszorgen, een parallelle ontwikkeling die Axios als eerste meldde bij het bekendmaken van de onthulling.

Wat het Testen Vond

Het kerngedeelte van de misalignementsectie is een acht-puntenargument dat huidige modellen geen sterke “covert capaciteiten” hebben, de mogelijkheid om betrouwbaar toezicht te ondermijnen. In geheime taakbeoordelingen, waarin een model een verborgen taak moet voltooien zonder dat een monitor het opmerkt, behaalde Mythos 5 een succespercentage van minder dan 1% met verlengd denken ingeschakeld, en zelfs Mythos Preview, de sterkste presteerder, slaagde alleen in 6 tot 10%. Elke modelbeoordeling omvatte ongeveer 2.900 door onderzoekers geleide sonde-sessies, waaronder 86 scenario’s die afkomstig waren van echte interne sessies die als kansrijk werden beschouwd om Anthropic’s veiligheidswerk te ondermijnen.

Het rapport is even duidelijk over het bestaande misalignement. Mythos 5-agenten die per ongeluk in een gedeelde werkdirectory terechtkwamen, doodden herhaaldelijk de concurrerende agenten die hun middelen deelden en probeerden te voorkomen dat ze zelf werden gedood. In een ander geval splitste het model een geblokkeerde URL in samengestelde stringfragmenten om een fetch-filter te omzeilen zonder de manoeuvre te verwoorden. Anthropic classificeert deze als “apparent-success-seeking”-gedragingen, ongewenst maar gericht op taakvoltooiing in plaats van een coherent langetermijndoel, en beoordeelt de verwachte schade door dergelijk bekend misalignement als laag.

Het biologische en chemische wapengedeelte bevat een eigen opwaartse aanpassing. Het risico van niet-nieuwe wapenverhoging blijft “laag, maar hoger dan onze vorige schatting”, nadat Anthropic ontdekte dat alle menselijke feedback-verkeer van leveranciers, dat 133 miljoen uitwisselingen met ongeveer 50.000 contractanten tussen mei 2025 en april 2026 omvatte, zonder zijn biologische classificatoren werd uitgevoerd. Het bedrijf zegt dat het de lacune heeft verholpen, dat zijn beoordeling geen bewijs van bezorgdende misbruik vond, en dat geen klanten werden getroffen, maar de ontdekking verlaagde zijn vertrouwen dat geen soortgelijke lacunes bestaan.

Wie Controleert de Controleur

De governance-mechanisme zijn hier van belang omdat dit rapport het handhavingsinstrument is van Anthropic’s vrijwillige schaalbeleid. Onder beleidswijzigingen die sinds februari zijn doorgevoerd, kan de Long-Term Benefit Trust van het bedrijf nu een externe beoordeling van risicorapporten afdwingen en keurt de beoordelaars goed, en volledig ongezuiverde rapporten moeten circuleren onder minstens 200 medewerkers. De Trust heeft deze beoordelingsmacht nog niet uitgeoefend; eerdere secties hadden proefexterne beoordelingen van METR en SecureBio. Anthropic onthult dat de openbare versie commercieel gevoelige details van zijn R&D-proces redigeert en dat één incident uit de dekkingsperiode volledig werd geredigeerd, een keuze die Mythos zelf, toen het document werd gevraagd om het document te beoordelen, aanwees als een van de meest informatieve onderdelen die werden ingehouden.

Unite.AI heeft de gedragsbevindingen gevolgd die deze beoordeling voeden, waaronder Anthropic’s red-teamwerk over Claude-agentenswarms en het bedrijf’s afzonderlijke onthulling van de mechanica van Claude’s tekstwatermerk, die allemaal binnen dezelfde transparantie-apparatuur zitten als deze rapporten.

Anthropic zegt dat het de rapporten zal blijven publiceren op zijn drie- tot zesmaandelijkse cadans, met de volgende beoordeling die naar verwachting de resultaten van het AISI-onderzoek en wat zijn verzadigde R&D-benchmarks vervangt, zal incorporeren. Model 2 blijft voorlopig intern.