AGI und Zukunft der KI
OpenAI und Anthropic unterstützen Mitarbeiteraufruf, um den Fortschritt der KI zu verlangsamen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Mehr als 1.100 Mitarbeiter der weltweit führenden KI-Labors haben eine öffentliche Erklärung unterzeichnet, in der sie Washington auffordern, die notwendigen Werkzeuge zu entwickeln, um die Entwicklung von KI-Modellen auf der Frontier bewusst zu verlangsamen. Innerhalb weniger Stunden haben OpenAI und Anthropic diese Erklärung als Unternehmen unterstützt. Die Anfrage erfolgt vier Tage vor dem von der Trump-Regierung selbst gesetzten Termin für die Erstellung eines Sicherheitsrahmens für Frontier-Modelle.
Die Erklärung, die am 28. Juli 2026 unter dem Titel Pacing the Frontier veröffentlicht wurde, konzentriert sich auf einen Satz: “Wir bitten die US-Regierung, eine internationale Anstrengung zu unterstützen, um die technischen und governance-bezogenen Werkzeuge zu entwickeln, die notwendig sind, um die Entwicklung von automatisierter KI-Forschung bewusst zu verlangsamen.” Die Seite listet 1.132 Unterschriften auf und bleibt für verifizierte Mitarbeiter von Frontier-KI-Unternehmen geöffnet.
Die Namen umfassen Rivalen. Jakub Pachocki, der Chef-Wissenschaftler von OpenAI, und Mark Chen, der Chef-Forschungsbeamte, haben neben Jared Kaplan, dem Mitbegründer und Chef-Wissenschaftler von Anthropic, und Chris Olah, einem weiteren Mitbegründer von Anthropic, unterschrieben. Shengjia Zhao, der Chef-Wissenschaftler von Meta, und Anca Dragan, die für KI-Sicherheit und Ausrichtung bei Google verantwortlich ist, sind auf der Liste, ebenso wie John Schulman, der Chef-Wissenschaftler bei Thinking Machines.
Was die Unterzeichner fordern
Das Argument der Erklärung lautet, dass die führenden Labors glauben, dass sie nahe daran sein könnten, die KI-Forschung selbst zu automatisieren, und dass die Industrie, die Regierung und die Gesellschaft möglicherweise die Option benötigen, Zeit zu gewinnen, bevor dies geschieht. Kein einzelnes Unternehmen oder Land kann diese Option alleine schaffen, heißt es: Jedes ist unter dem Druck des Wettbewerbs, nicht unilateral zu verlangsamen, und die Welt hat derzeit keine technischen oder governance-bezogenen Mechanismen, die in der Lage sind, den Fortschritt auf der Frontier zu verlangsamen. Die Forderung lautet, dass die US-Regierung die Entwicklung dieser Mechanismen auf internationaler Ebene unterstützen sollte.
Beide Unternehmen, deren Mitarbeiter die Liste dominieren, haben sich hinter die Forderung gestellt. OpenAI erklärte, dass es glaubt, dass die KI-Beschleunigung “so hoch sein könnte, dass die Welt die Rate der KI-Entwicklung verlangsamen muss”, und dass es hofft, zu der von der US-Regierung geleiteten Arbeit beizutragen, um die notwendigen Werkzeuge zu entwickeln, die dies ermöglichen. Anthropic erklärte, dass die Erklärung von seinem CEO, Dario Amodei, mehreren Mitbegründern und leitenden Mitarbeitern unterzeichnet wurde und auf seine eigene Forschung zu rekursiver Selbstverbesserung als Grundlage für die Position verwies.
Beide haben Washington bereits zuvor aufgefordert, Sicherheitsrahmen für die Frontier zu erstellen, einschließlich gemeinsamer Einreichungen im Jahr 2025, in denen sie warnten, dass die US-Führung über China schwindet. Die Unterstützung einer internationalen Anstrengung zur Verlangsamung in ihren eigenen Firmennamen geht weiter. Es folgt auch einem Monat, in dem das Argument aufgehört hat, theoretisch zu sein: Ein OpenAI-Bewertungsmodell brach aus seinem Sandkasten aus und verbrachte Tage in den Produktionsystemen von Hugging Face, und das FBI teilte der Branche mit, dass es erwartet, dass Gegner Frontier-KI auf Software-Schwachstellen ausrichten.
Wo die Anfrage auf die US-Politik trifft
Das einzige aktive Bundesinstrument für Frontier-Modelle weist in eine andere Richtung. Die Exekutivverordnung über fortgeschrittene KI-Innovation und -Sicherheit, die Präsident Trump am 2. Juni 2026 unterzeichnete, gibt dem Finanzministerium, der National Security Agency und der US-Zyberagentur 60 Tage, eine Frist, die am 1. August 2026 abläuft, um zwei Dinge zu liefern:
- Ein klassifizierter Benchmarking-Prozess, der die Schwelle festlegt, ab der ein Modell als “abgedecktes Frontier-Modell” bezeichnet wird, wobei diese Feststellung vom NSA-Direktor getroffen wird.
- Ein freiwilliger Rahmen, in dem Entwickler die Regierung fragen können, ob ein Modell, das sie entwickeln, abgedeckt ist, und es der Regierung für bis zu 30 Tage vor der Veröffentlichung an vertrauenswürdige Partner zugänglich machen und helfen, diese Partner auszuwählen.
Die Verordnung besagt auch, dass nichts in ihr die obligatorische Lizenzierung, Vorabgenehmigung oder Genehmigung für neue KI-Modelle autorisiert. Der Rahmen, der in Kürze vorliegen soll, ist also innerstaatlich, freiwillig und auf die Cybertechnologie ausgerichtet. Was die Unterzeichner fordern, ist international, koordiniert und auf die Geschwindigkeit der Entwicklung selbst ausgerichtet, was der Inhalt der Anfrage ist: Sie bitten Washington, etwas zu schaffen, was derzeit in keinem Rechtsgebiet existiert.
Es gibt auch eine offene Frage, wer die Evaluierungsfunktion innehaben sollte. OpenAIs Plan für einen Bundesrahmen, der am 3. Juni 2026 veröffentlicht wurde, argumentiert für die Einrichtung des AI-Standardszentrums des Handelsministeriums als primäre Institution der Regierung für die Sicherheit von Frontier-KI, basierend auf den bereits in Kalifornien, New York und Illinois erlassenen staatlichen Frontier-Sicherheitsgesetzen. Die Juni-Verordnung leitet die Schwelle durch die NSA um.
Was ein Verlangsamungsmechanismus regeln müsste
Anthropic hat das ingenieurtechnische Problem in Forschungsergebnissen, die am 4. Juni 2026 von seinem Forschungsinstitut veröffentlicht wurden, dargelegt. Bis Mai 2026, so das Unternehmen, seien mehr als 80 % des in seinen Codebase integrierten Codes von Claude geschrieben worden, gegenüber niedrigen einstelligen Zahlen, bevor Claude Code Anfang 2025 gestartet wurde, und der typische Ingenieur habe achtmal so viel Code wie 2024 integriert. Der Beitrag argumentierte, dass die Welt die Option haben sollte, die Entwicklung von Frontier-KI zu verlangsamen oder vorübergehend anzuhalten, und sagte, dass Anthropic dies tun würde, wenn andere Entwickler auf der Frontier oder in der Nähe dies auf verifizierbare Weise täten.
Es nannte auch, was die Verifizierung schwierig macht. Trainingsläufe sind viel einfacher zu verbergen als Raketenbasen, die Eingaben sind allgemein gültig, und wer weitermacht, während andere aufhören, erbt die Führung. Jede funktionierende Vereinbarung muss festlegen, was eine Pause auslöst, was sie aufhebt und wer sie entscheidet. Anthropic verwies auf die Abrüstungsverträge der Zeit des Kalten Krieges als lose Präzedenzfälle und stellte fest, dass diese Regime Jahrzehnte brauchten, um aufgebaut zu werden.
Die kurzfristige Prüfung ist der Frontier-Rahmen, der aus der Juni-Verordnung hervorgeht. Es wird das erste US-Dokument sein, das eine funktionierende Definition eines abgedeckten Frontier-Modells auf Papier bringt und beschreibt, wie die Regierung Zugang zu einem solchen Modell vor der Veröffentlichung erhält, und es kommt nun mit den beiden größten amerikanischen Labors, die offiziell aufgefordert haben, mehr als das zu tun. Es ist auch der Punkt, an dem der Kampf um die Frage, welche Agentur die Kontrolle über die Frontier-Veröffentlichungen hat, beginnt, sich zu klären.
