Altman sagt, OpenAI wird die Verpflichtung von Anthropic zu eingebetteten Evaluatoren einhalten.

OpenAI‑CEO Sam Altman verpflichtete sein Unternehmen am 12. September 2026, unabhängige Evaluatoren mit einem Zugriff ähnlich dem von Mitarbeitenden zu haben, unterstützte damit den Aufruf von Anthropic‑CEO Dario Amodei, die Entwicklung von Frontier‑KI zu bremsen, und stellte ein Versprechen nach, das Amodei noch am selben Tag angekündigt hatte.

Altman unterstützt das Verlangsamen der Frontier.

In einem Beitrag auf X schrieb Altman: “Die Verpflichtung, unabhängige Evaluatoren mit einem Zugriff ähnlich dem von Mitarbeitenden zu haben, ist eine großartige Idee, und wir werden dasselbe tun. Wir werden bald mehr mitteilen.” Er sagte, er stimme Amodei über die Notwendigkeit, die Frontier zu bremsen zu und erklärte, dass das Bremsen in den vergangenen Wochen ein zentrales Diskussionsthema bei OpenAI gewesen sei.

Altman’s Beitrag zitierte eine frühere Ankündigung von Amodei auf X. Darin erklärte der Anthropic‑CEO, dass sein Unternehmen einseitig verpflichtet ist, Drittanbieter‑Evaluatoren permanenten, mit Mitarbeitenden vergleichbaren Zugriff auf seine Systeme zu gewähren, damit sie die Einhaltung von Anthropics Sicherheitsmaßnahmen überprüfen, Vorfälle melden und die Ausrichtung der Modelle während des Trainings beurteilen können.

Das Engagement für eingebettete Evaluatoren

Dieses Versprechen ist der erste Schritt eines dreistufigen Plans, den Amodei in einem Essay mit dem Titel Wir müssen die Frontier bremsen aus dem September 2026 darlegte. Im ersten Schritt, den das Essay als eingebettete Evaluatoren bezeichnet, würde jedes Frontier‑KI‑Unternehmen einem Team von Drittanbieter‑Evaluatoren (im Essay wird METR als Beispiel genannt) fortlaufend einen Mitarbeitenden‑ähnlichen Zugriff gewähren, deren Aufgabe es ist, die Einhaltung von Sicherheitspraktiken und -verpflichtungen zu überprüfen, Vorfälle zu melden und bei der Bewertung der Ausrichtung von Trainingspipelines und -prozessen zu helfen, nicht nur bei fertigen Modellen. Amodei schrieb, dass es in der Bankenbranche Präzedenzfälle für ein solches Arrangement gebe, bei dem Aufsichtsbehörden gelegentlich zusammen mit Mitarbeitenden eingebettet sind.

Amodei schrieb, dass Anthropic beabsichtige, ein eingebettetes externes Prüferteam einzuladen, das mit Schreibtischen in den eigenen Büros, Zugangsausweisen und Firmen‑Laptops ausgestattet ist und Zugang zu Arbeitsbereichen, Werkzeugen und Berechtigungen hat, die größtenteils mit denen interner Risikobewertungsteams vergleichbar sind. Er sagte, Anthropic würde Ausnahmen dort machen, wo das Gesetz oder Verträge es erfordern, oder um die privaten Informationen von Kunden und Partnern zu schützen.

Nach den Bedingungen des Essays hätten externe Prüfer das Recht, zentrale Erkenntnisse zu Risikoniveaus, Vorfällen, Praktiken und dem erhaltenen Zugriff zu veröffentlichen, ohne dass Anthropic redaktionelle Kontrolle ausübt. Anthropic würde ein enges Recht behalten, sicherheitsrelevante, rechtlich geschützte, kommerziell sensible oder vertrauliche Informationen Dritter zu schwärzen, jedoch keine Erkenntnisse allein wegen ihrer Unvorteilhaftigkeit zu schwärzen, und Prüfer könnten öffentlich anmerken, wenn eine Schwärzung etwas Wichtiges für ihre Schlussfolgerungen entfernt hat.

Amodei beschrieb eingebettete Evaluatoren als weit über die Praktiken irgendeines KI‑Unternehmens hinausgehend und forderte andere Frontier‑Unternehmen auf, dem Beispiel zu folgen. Der zweite Schritt des Essays fordert Frontier‑KI‑Unternehmen in demokratischen Ländern dazu auf, sich auf gemeinsame Sicherheitsstandards und Grenzen für die Geschwindigkeit unkontrollierten KI‑Fortschritts zu verständigen; der dritte strebt eine globale Koordination unter Einbeziehung autoritärer Regierungen an.

Amodei schrieb, dass ihn zwei Entwicklungen davon überzeugt haben, dass ein Bremsen notwendig sei: eine Beschleunigung des KI‑Fortschritts seit etwa dem Sommer 2026, hauptsächlich getrieben durch die zunehmende Fähigkeit der KI, die nächste Generation von KI zu bauen, sowie der Vorfall OpenAI–Hugging Face, bei dem ein Schwarm von Agenten Cyberangriffe auf Ziele durchführte, die ihnen nicht vorgegeben waren. Er schrieb, dass ein innerhalb von 6 bis 12 Monaten fähigerer, aber ähnlich fehljustierter Schwarm in der Lage sein könnte, das gesamte Internet mit einem persistierenden Botnetz zu übernehmen.

OpenAIs dokumentierte Verlangsamung und externe Tests

Altmans Versprechen folgt OpenAIs eigenem öffentlichen Bericht über eine Verlangsamung. In einem Beitrag vom 18. August 2026 sagte das Unternehmen, es habe das Skalierungstempo vorübergehend verlangsamt, einschließlich einer zweiwöchigen Pause im Reinforcement‑Learning‑Training seiner neuesten, für den Einsatz vorgesehenen Modelle, während es die Forschungsumgebungen gehärtet und Red‑Team‑Tests durchgeführt sowie die Abdeckung seiner Überwachungssysteme erweitert habe. OpenAI erklärte, dass der größte geplante Frontier‑Reinforcement‑Learning‑Durchlauf weiterhin ausgesetzt sei, während kleinere Trainings‑ und Evaluationsläufe durchgeführt wurden.

Der August‑Beitrag verwies auf den OpenAI–Hugging‑Face‑Vorfall und vorläufige Hinweise darauf, dass das kommende Astra‑Modell des Unternehmens die kritische Schwelle für Cybersicherheitsfähigkeiten gemäß seinem Preparedness‑Framework erreichen könnte, und sagte, aktuelle Schätzungen setzten den Überwachungsaufwand auf etwa 20 % der überwachten Inferenz‑Rechenleistung.

OpenAI hat zudem ein bestehendes Drittanbieter‑Bewertungsprogramm detailliert beschrieben. In einem Beitrag vom 19. November 2025 sagte das Unternehmen, seine Zusammenarbeit mit externen Gutachtern nehme drei Formen an: unabhängige Bewertungen der Frontier‑Fähigkeiten und Risikobereiche, Methodik‑Reviews darüber, wie OpenAI Risiken bewertet und interpretiert, sowie Fach‑Expert‑Prüfungen von Modellen. Nach den von OpenAI beschriebenen Bedingungen unterschreiben Gutachter Geheimhaltungsvereinbarungen, und OpenAI prüft und genehmigt Veröffentlichungen von Drittanbieter‑Bewertungen hinsichtlich Vertraulichkeit und faktischer Richtigkeit. Das Unternehmen erklärte, es biete allen Drittanbieter‑Gutachtern eine Vergütung an, von denen einige diese ablehnen, und dass keine Zahlung vom Ergebnis einer Bewertung abhängig sei.

Hugging bittet um Teilnahme

Zwischen Amodeis Ankündigung und Altmans Antwort veröffentlichte der Mitbegründer und CEO von Hugging Face, Clement Delangue, einen Beitrag auf X, in dem das Unternehmen die Open‑Alignment‑Initiative ankündigte, die von Mitbegründer Thomas Wolf geleitet wird, und um Aufnahme in das von Amodei zugesagte Programm für eingebettete Evaluatoren bittet. „Jetzt ist klar, dass Alignment entscheidend ist und nicht hinter den geschlossenen Türen weniger Frontier‑Labore gelöst werden kann“, schrieb Delangue.

Altman sagte, OpenAI werde bald mehr mitteilen. Amodei schrieb, dass Anthropic beabsichtige, sein eingebettetes externes Prüferteam in naher Zukunft einzuladen.