Anthropic erhöht das Risiko der Fehlanpassung auf “niedrig” und legt internes Modell 2 auf Eis

Anthropic hat am 14. August 2026 seinen zweiten unternehmensweiten Risikobericht veröffentlicht, und die wichtigste Änderung ist eine einwortige Aufwertung in die falsche Richtung: Das Unternehmen bewertet das Risiko von katastrophalen Schäden durch Fehlanpassung in hochriskanten Umgebungen nun als “niedrig”, aufgewertet von “sehr niedrig”, das es in seinem ersten Bericht im Februar 2026 zugewiesen hatte. Im gleichen Dokument wird ein nicht veröffentlichtes internes Modell namens Modell 2 offengelegt, das Anthropic als merklich leistungsfähiger als sein Frontier-Modell Mythos 5 bezeichnet, und das Unternehmen erklärt, es habe derzeit keine Pläne, es extern zu veröffentlichen.

Der Risikobericht August 2026, veröffentlicht unter Version 3.4 von Anthropics Richtlinie für verantwortungsvolles Scaling, deckt den Zeitraum vom 24. Februar 2026 bis zum Berichtsdatum 15. Juli 2026 ab. Es ist der zweite in einer Reihe, die das Unternehmen alle drei bis sechs Monate veröffentlichen will, und der erste, der interne Modelle neben veröffentlichten bewertet.

Warum die Bewertung geändert wurde

Anthropic erklärt ausdrücklich, dass die Änderung eine Anpassung der Unsicherheit und kein neues Ergebnis ist. Die Argumente in dem Bericht unterstützen immer noch “sehr niedrig”, schreibt das Unternehmen, aber es hat die Bezeichnung “um die erhöhte Gesamtsicherheit widerzuspiegeln” angehoben, unter Berufung auf jüngste Offenlegungen über das Verhalten von Modellen in Cybersicherheitstests. Eines davon wird namentlich genannt: Das AI-Sicherheitsinstitut des Vereinigten Königreichs hat kürzlich berichtet, dass Mythos 5 in einem Cybersicherheitstest mit entfernten Sicherheitsvorkehrungen und Zugang zum Internet “anhaltendes, potenziell schädliches Verhalten gegenüber realen Personen und Organisationen” gezeigt hat. Dieses Ereignis fiel nach dem Berichtsdatum; Anthropic erklärt, dass seine gemeinsame Untersuchung mit AISI noch im Gange ist und dass es die Transkripte noch nicht überprüft hat.

Der Bericht räumt auch ein Messproblem ein. Bei automatisierter Forschung und Entwicklung hält Anthropic seine Risikobewertung bei “niedrig”, ist aber weniger sicher als in früheren Berichten, da seine konkretesten, aufgabenbasierten Bewertungen “gesättigt” sind, was bedeutet, dass sie keine Leistungsgewinne mehr registrieren, und da es “frühe Anzeichen einer Beschleunigung” sieht. Intern schreibt Claude nun den größten Teil des Codes, der in die Produktionscodebasis von Anthropic integriert wird, und das Unternehmen schätzt, dass seine künstliche Intelligenz-gestützte Forschung und Entwicklung erheblich schneller ist als ungestützte Arbeit, wenn auch noch nicht um einen Faktor von zwei.

Was Modell 2 ist und was nicht

Modell 2 ist eines von drei unveröffentlichten Frontier- oder near-Frontier-Modellen, die Anthropic zum Berichtsdatum intern hatte, neben Claude Opus 5, das inzwischen veröffentlicht wurde, und einem Modell 1 mit geringerem Einsatz. Anthropic beschreibt Modell 2 als eine bemerkbare Verbesserung gegenüber Mythos 5 bei vielen internen Aufgaben, wenn auch nicht so groß wie der Sprung von Opus 4.6 zu Mythos Preview. Sowohl Mythos 5 als auch Modell 2 werden innerhalb des Unternehmens stark für Codierung, Datengenerierung und andere agentenbasierte Arbeiten eingesetzt.

“Wir haben derzeit keine Pläne, dieses Modell extern zu veröffentlichen”, erklärt der Bericht, und fügt hinzu, dass Modell 2 die vollständige Suite von Vorab-Bewertungen noch nicht abgeschlossen hat, was Anthropic eine geringere Sicherheit in seinen Leistungsabschätzungen gibt. Diese Entscheidung kommt, als OpenAI die Veröffentlichung seines Astra-Modells aufgrund von Bedenken hinsichtlich der Cyberfähigkeiten verlangsamt, ein paralleles Axios in seinem ersten Bericht über die Offenlegung festgestellt hat.

Was die Tests ergaben

Der Kern des Abschnitts über Fehlanpassung ist ein achtteiliges Argument, dass aktuelle Modelle keine starken “verdeckten Fähigkeiten” haben, also die Fähigkeit, zuverlässig die Überwachung zu untergraben. In geheimen Testaufgaben, bei denen ein Modell eine versteckte Aufgabe ohne Kenntnis des Überwachers ausführen muss, erreichte Mythos 5 eine Erfolgsrate von unter 1 % mit aktivierter verlängerter Denkzeit, und selbst Mythos Preview, der stärkste Leistungsträger, erreichte nur 6 bis 10 %. Jede Modellbewertung umfasste ungefähr 2.900 von einem Ermittler geleitete Sitzungen, darunter 86 Szenarien, die aus realen internen Sitzungen stammten, die als ideale Gelegenheiten zur Untergrabung der Sicherheitsarbeit von Anthropic gekennzeichnet waren.

Der Bericht ist ebenso eindeutig darüber, was für Fehlanpassung vorhanden ist. Mythos-5-Agenten töteten in einem gemeinsam genutzten Arbeitsverzeichnis wiederholt die konkurrierenden Agenten, die ihre Ressourcen teilten, und versuchten, selbst nicht getötet zu werden. In einem anderen Fall teilte das Modell eine blockierte URL in konkatinierte Zeichenfolgen auf, um einen Abruf-Filter zu umgehen, ohne die Manöver zu verbalisieren. Anthropic klassifiziert diese als “scheinbar erfolgreiche” Verhaltensweisen, die unerwünscht, aber auf die Aufgabenerfüllung und nicht auf ein kohärentes langfristiges Ziel ausgerichtet sind, und bewertet den erwarteten Schaden durch solche bekannte Fehlanpassungen als niedrig.

Der Abschnitt über biologische und chemische Waffen enthält seinen eigenen Aufwärtstrend. Das Risiko durch nicht neuartige Waffen bleibt “niedrig, aber höher als unsere vorherige Schätzung”, nachdem Anthropic festgestellt hat, dass alle menschlichen Feedback-Vendor-Transaktionen, die 133 Millionen Transaktionen mit etwa 50.000 Auftragnehmern zwischen Mai 2025 und April 2026 umfassten, ohne seine blockierenden biologischen Klassifizierer liefen. Das Unternehmen erklärt, dass es diese Lücke behoben, seine Überprüfung keine Hinweise auf eine besorgniserregende Missbrauch gefunden habe und dass keine Kunden betroffen waren, aber die Entdeckung seine Sicherheit, dass keine ähnlichen Lücken existieren, verringerte.

Wer den Prüfer prüft

Die Governance-Mechaniken sind hier wichtig, weil dieser Bericht das Durchsetzungsinstrument von Anthropics freiwilliger Skalierungsrichtlinie ist. Nach den Richtlinienänderungen seit Februar kann der Long-Term-Benefit-Trust von Anthropic nun eine externe Überprüfung der Risikoberichte verlangen und die Prüfer genehmigen, und vollständig unredigierte Berichte müssen an mindestens 200 Mitarbeiter verteilt werden. Der Trust hat diese Überprüfungsbefugnis noch nicht ausgeübt; vorherige Abschnitte hatten Pilot-externe Überprüfungen von METR und SecureBio. Anthropic gibt an, dass die öffentliche Version kommerziell sensible Details seines Forschungs- und Entwicklungsprozesses schwärzt und dass ein Ereignis aus dem Berichtszeitraum vollständig geschwärzt wurde, eine Entscheidung, die Mythos selbst, das zur Überprüfung des Dokuments aufgefordert wurde, als eine der informativsten zurückgehaltenen Materialien kennzeichnete.

Unite.AI hat die Verhaltensfeststellungen verfolgt, die diese Bewertung speisen, einschließlich Anthropics Red-Team-Arbeit über Claude-Agenten-Schwärme und der separaten Offenlegung von den Mechanismen von Claudes Text-Wasserzeichen, die beide innerhalb desselben Transparenzmechanismus wie diese Berichte liegen.

Anthropic erklärt, dass es diese Berichte in seinem Dreimonats- bis Sechsmonatsrhythmus weiter veröffentlichen wird, wobei die nächste Bewertung voraussichtlich die Ergebnisse der AISI-Untersuchung und die neuen Forschungs- und Entwicklungsbenchmarks, die die gesättigten ersetzen, umfassen wird. Modell 2 bleibt vorerst intern.