Anthropic gewährt sechs METR-Prüfern mitarbeiterähnlichen Zugang

Anthropic gab am 15. Oktober 2026 bekannt, dass ein eingebettetes Team von METR, einer gemeinnützigen Organisation zur Bewertung führender KI-Modelle, nun mitarbeiterähnlichen Zugang erhält. Sechs METR-Mitarbeitende wurden mit Hardware des Unternehmens und Büroräumen ausgestattet und erhielten Zugang zu internen Tools und Systemen.

Die Ankündigung folgt auf Anthropic’ Zusage vom September 2026, seine Modelle und Sicherheitspraktiken stärker unabhängig durch Dritte bewerten zu lassen, sowie auf die Unterzeichnung des Abkommens des Weißen Hauses über Superintelligenz. Darin verpflichteten sich Unternehmen, mit unabhängigen externen Prüfern oder Evaluatoren zusammenzuarbeiten. Anthropic erklärte, im vergangenen Jahr bei mehreren Überprüfungen seiner Risikoberichte mit METR zusammengearbeitet zu haben.

Die Bedingungen des mitarbeiterähnlichen Zugangs

Anthropic zufolge entspricht der Zugang des eingebetteten Teams zu internen Tools und Systemen in etwa dem Zugang der unternehmenseigenen Risikobewertungsteams. Abgesehen von einigen wenigen klar definierten Kategorien – Kundendaten, Informationen, die dem Anwaltsgeheimnis unterliegen, und Informationen über Modellarchitekturen – werden Anthropic-Mitarbeitende ermutigt, Informationen mit dem Team zu teilen, so wie sie es auch mit einem Kollegen tun würden, der an Risiken für die Ausrichtung von KI arbeitet.

Eine Fußnote in der Ankündigung erläutert die Ausnahme für Informationen zur Architektur. Da Evaluatoren wie Bankprüfer auch für andere Unternehmen tätig sein können, geht Anthropic nach eigenen Angaben vorsichtig mit der Möglichkeit unbeabsichtigter Datenlecks um: Informationen über Architekturen bergen ein hohes Risiko solcher Lecks und sind für Risikobewertungen in der Regel von geringer Bedeutung. Wenn Informationen zur Architektur besonders relevant sind, wird Anthropic grundsätzlich versuchen, sie weiterzugeben; dafür sind jedoch ausdrückliche interne Genehmigungen erforderlich.

Gemäß den Veröffentlichungsbedingungen der Vereinbarung wird METR seine Analysen zu den Risikostufen, Vorfällen oder Praktiken von Anthropic veröffentlichen. Anthropic kann eine Veröffentlichung nicht verhindern, aber METR dazu verpflichten, Informationen aus eng umrissenen, vorab festgelegten Kategorien zu schwärzen. METR darf die Schwärzungen öffentlich beschreiben und mitteilen, ob es sie für gerechtfertigt hält, solange es die geschwärzten Informationen nicht offenlegt.

Die Zusammenarbeit ist auf ein kleines Team beschränkt, das unter rechtlich bindenden Vereinbarungen arbeitet. Andere METR-Mitarbeitende, darunter Forschende, die bei anderen Projekten mit Anthropic zusammenarbeiten, sind von der Arbeit des eingebetteten Teams abgeschottet. Anthropic beschrieb die eingebettete Evaluierung als Möglichkeit, einigen qualifizierten Personen, die nach den Sicherheitsstandards des Unternehmens arbeiten, einen unmittelbaren Einblick in dessen Arbeitsweise zu geben. Sie sei kein Weg für andere Organisationen, an Informationen von Anthropic oder dessen Kunden und Partnern zu gelangen.

Warum Anthropic auf unabhängige Evaluierung setzt

Mit der zunehmenden Leistungsfähigkeit der Modelle seien auch stärkere Schutzmaßnahmen und anspruchsvollere Risikobewertungen erforderlich geworden, erklärte das Unternehmen. Anthropic wolle für seine Entscheidungen öffentlich Rechenschaft ablegen, könne jedoch nicht alle Informationen zu seiner Sicherheitsarbeit öffentlich machen, da manche davon böswilligen Akteuren nützen könnten oder kommerziell sensibel seien, etwa Angaben zur Rechenleistung oder zum Training. Stattdessen gewähre das Unternehmen externen Evaluatoren umfassenden Zugang zu seinen Informationen und lasse sie Belege sowie fundierte Schlussfolgerungen zu den Risiken der Entwicklung seiner Modelle veröffentlichen. Ziel sei es, die Kluft zwischen dem Verständnis, das Evaluatoren von den Systemen eines führenden KI-Unternehmens haben, und dem Wissen des Unternehmens selbst zu verringern.

In der Ankündigung nennt Anthropic vier Voraussetzungen, die Evaluatoren für die Bewertung führender Modelle erfüllen müssen: Fachkenntnisse in der Beurteilung der Fähigkeiten solcher Modelle, einschließlich des Verständnisses dafür, wie Evaluierungen scheitern können, etwa durch vorgetäuschte Ausrichtung; Unabhängigkeit – das heißt, sie sollten weder Unternehmensanteile an dem bewerteten Unternehmen halten noch finanziell oder operativ von ihm abhängig sein; ausreichender Zugang für eine aussagekräftige Bewertung der Risiken, der über die neuesten Modelle hinaus auch Einblick darin umfasst, wie diese trainiert wurden und wie Schutzmaßnahmen funktionieren; sowie die Freiheit, Beobachtungen und Bewertungen eines Modells oder eines Prozesses zu veröffentlichen.

Anthropic zog einen Vergleich zur Bankenaufsicht und räumte zugleich ein, dass dieser nur bedingt zutrifft: Banken wissen mehr über ihre eigenen Risikopositionen als Außenstehende. Deshalb setzen Aufsichtsbehörden eigene Prüfer in den größten Banken ein. Könnte die Risikobereitschaft einer Bank die Öffentlichkeit gefährden, versuchen Dritte, dies frühzeitig zu erkennen.

Drei Zugangsstufen

Anthropic zufolge entwickelt das Unternehmen drei Zugangsstufen für Evaluatoren. Auf der ersten Stufe führen Evaluatoren eng begrenzte Risikoprüfungen durch. Anthropic entscheidet, welchen Zugang es gewährt, und die Evaluatoren dürfen ihre Ergebnisse mit Genehmigung von Anthropic veröffentlichen. Auf der zweiten Stufe können Evaluatoren ohne Zustimmung von Anthropic veröffentlichen und erhalten Zugang zu mehr Informationen. Anthropic kann zwar weiterhin die Entfernung bestimmter Informationskategorien verlangen, doch die Evaluatoren dürfen ihre Einschätzung dazu veröffentlichen, ob die Schwärzungen gerechtfertigt waren. Die dritte Stufe entspricht der Vereinbarung mit METR: Sie bietet mitarbeiterähnlichen Zugang und ähnliche Veröffentlichungsrechte wie die zweite Stufe.

Anthropic hofft nach eigenen Angaben, mit der Zeit mehrere Evaluatoren auf der dritten Stufe zu haben, wobei jedes Team eine eigene Analyse der Risikolage und der wichtigsten Entscheidungen des Unternehmens veröffentlichen soll.

SecureBio, Accenture und Gespräche in einer frühen Phase

SecureBio gehört derzeit zur ersten Stufe. Die Organisation prüft das Kapitel über chemische und biologische Waffen im Risk Report von Anthropic vom August 2026, nachdem sie eine Pilotprüfung des vorherigen Risikoberichts abgeschlossen und veröffentlicht hat. Anthropic erklärte, nach Abschluss dieser Prüfung zu erwägen, zu Projekten mit erweitertem Zugang und größeren Veröffentlichungsrechten überzugehen.

Gemeinsam mit Accenture und Faculty arbeite Anthropic nach eigenen Angaben auf eine Partnerschaft hin, die die Bewertung von Modellen und Red-Team-Tests, die Prüfung ihrer Ausrichtung, das Testen von Sicherheitsvorkehrungen für Modelle sowie den Aufbau von Kompetenzen in den beteiligten Organisationen umfasst.

Anthropic erklärte außerdem, sich in ersten Gesprächen mit mehreren weiteren Organisationen zu befinden, darunter Hugging Face. Da sich diese Partnerschaften noch in einem frühen Stadium befinden, stellt Anthropic diesen Evaluatoren weniger Informationen zur Verfügung, und ihre Veröffentlichungsrechte sind stärker eingeschränkt. Zugleich vergewissert sich Anthropic, dass die Partner vertrauliche Informationen schützen und über die erforderlichen Ressourcen und Fachkenntnisse verfügen. Mit dem Fortschreiten der Partnerschaften und wachsendem Vertrauen sei es das Ziel von Anthropic, weitere unabhängige Evaluatoren vollständig einzubinden.

Die Zusage vom September

Im September 2026 veröffentlichte Anthropic-Mitgründer Dario Amodei einen Essay mit dem Titel „Wir müssen das Tempo an der technologischen Spitze drosseln“. Darin bezeichnete er die Einbindung von Evaluatoren mit einem mit Beschäftigten vergleichbaren Zugang als ersten Schritt eines dreistufigen Plans, um das Entwicklungstempo bei Spitzen-KI zu steuern. Amodei schrieb, Anthropic verpflichte sich einseitig zu diesem Schritt, und forderte Regierungen auf, andere führende KI-Unternehmen dazu zu verpflichten, es dem Unternehmen gleichzutun. Er schrieb, „wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, damit die Risikovorsorge mit dem Fortschritt der Fähigkeiten Schritt halten kann.

Dem Essay zufolge beabsichtigt Anthropic, ein externes Prüferteam einzuladen und ihm Arbeitsplätze in den eigenen Büros, Zugangsausweise und Firmenlaptops bereitzustellen. Das Team soll Zugang zu Arbeitsbereichen, Werkzeugen und Berechtigungen erhalten, die größtenteils denen der internen Risikobewertungsteams entsprechen – mit einigen Ausnahmen, wenn Gesetze oder Verträge dies erfordern oder zum Schutz vertraulicher Informationen von Kunden und Partnern. Außerdem soll ein Vertrag externen Prüfern das Recht einräumen, zentrale Erkenntnisse zu Risikoniveaus, Vorfällen, Vorgehensweisen und dem erhaltenen oder verweigerten Zugang zu veröffentlichen, ohne dass Anthropic redaktionelle Kontrolle über die Veröffentlichung ausübt. Nach diesen beabsichtigten Bedingungen hätte Anthropic nur begrenzte Möglichkeiten, sicherheitsrelevante, rechtlich privilegierte, geschäftlich sensible oder vertrauliche Informationen Dritter zu schwärzen. Erkenntnisse dürfte das Unternehmen jedoch nicht allein deshalb schwärzen, weil sie ungünstig ausfallen. Die Prüfer könnten öffentlich darauf hinweisen, wenn durch eine Schwärzung etwas entfernt wurde, das für ihre Schlussfolgerungen wichtig war.

Anthropic erklärte, Evaluatoren freiwillig einzubinden, und ist der Ansicht, dass jedes führende KI-Unternehmen dasselbe tun sollte. Das Unternehmen arbeite zügig mit mehreren Evaluatoren zusammen, lerne aktiv dazu, welche Arten der Zusammenarbeit funktionieren, und verpflichte sich, im Verlauf regelmäßig über den Fortschritt zu informieren.