OpenAI schlägt von den USA geführte globale technische Standards für Frontier‑KI vor

OpenAI veröffentlichte am 21. September 2026 „Standards für die nächste Phase der KI erstellen,“ einen Global‑Affairs‑Beitrag, in dem die Vereinigten Staaten aufgefordert werden, eine Initiative mit Ländern weltweit zu leiten, um globale technische Standards für Frontier‑KI zu entwickeln, einschließlich Standards für rekursive Selbstverbesserung.

Der Vorschlag fügt sich in drei von OpenAI genannte Missionsziele ein, die von Sam Altman und Jakub Pachocki skizziert wurden: den Aufbau eines automatisierten KI‑Forschers, die iterative Arbeit mit ihm am Ausrichtungsproblem und das Finden von Wegen, wie Menschen Teil der Selbstverbesserungsschleife bleiben können; die Bereitstellung der wissenschaftlichen und wirtschaftlichen Vorteile, die sehr intelligente Maschinen ermöglichen; und die individuelle Ermächtigung von Menschen durch eine persönliche AGI. OpenAI betont, dass die Sicherheit und der Nutzen des KI‑Fortschritts sowohl von Fortschritten in der Ausrichtungsforschung als auch von gemeinsamen Standards abhängen, die die Entwicklung in Laboren und Ländern leiten.

OpenAIs Position zur rekursiven Selbstverbesserung

Der Grad der menschlichen Aufsicht in der automatisierten KI‑Forschung kann variieren, erklärt der Beitrag. Wenn KI‑Systeme mehr von der Arbeit übernehmen, die aufeinanderfolgende Generationen von KI erzeugt, können sie einen Prozess der rekursiven Selbstverbesserung (RSI) vorantreiben, selbst wenn Menschen weiterhin beteiligt sind, und OpenAI sagte, dass der Fortschritt schnell beschleunigen könnte, sobald der Prozess stärker automatisiert wird.

OpenAI erklärte, dass es davon ausgeht, dass automatisierte KI‑Forschung Modelle hervorbringen wird, die das Leben der Menschen direkt verbessern und die Kosten für fortgeschrittene Intelligenz senken, und dass ein automatisierter KI‑Forscher auch als automatisierter KI‑Sicherheitsforscher fungieren kann. Gleichzeitig stellte das Unternehmen fest, dass vollständig autonome RSI nicht stattfindet und nicht verfolgt werden sollte, solange sie nicht sicher durchgeführt werden kann. Jede Entscheidung darüber, ob und wie man fortfährt, müsse laut OpenAI von der Fähigkeit abhängen, die menschliche Kontrolle zu bewahren, sowie von informierten demokratischen Entscheidungen über Nutzen und Risiken.

Wird RSI ohne angemessene Sorgfalt und Vorsicht gehandhabt, könnte er Menschen die praktische Kontrolle über die KI‑Entwicklung entziehen und sie unfähig machen, Forschungsprozesse zu überwachen, die sie nicht mehr verstehen, sagte das Unternehmen. OpenAI beschrieb den zuvor veröffentlichten Hugging‑Face‑Vorfall, den es nicht als direkte Folge von RSI ansah, als einen frühen Einblick in die Art von Risiken, die ohne robuste Schutzmaßnahmen und Ausrichtung deutlich gravierender werden könnten.

Drei Herausforderungen hinter dem Vorstoß für Standards

Internationale Standards für Sicherheits- und Schutzpraktiken in der Entwicklung von Frontier‑KI könnten laut OpenAI ebenso wichtig für die Steuerung des Fortschritts sein wie die Ausrichtungsforschung selbst, weil sie Regierungen und Laboren gemeinsame Definitionen dessen geben, was als hochwertige Evidenz gilt, sowie einheitliche Grundlagen dafür, wie rigoros technische Schutzmaßnahmen sein müssen. Der Beitrag nennt drei Herausforderungen, die solche Standards lösen sollen.

Die erste ist Fragmentierung: Bewertungen, Meldepflichten und Vorfalldefinitionen, die zwischen Ländern widersprüchlich sind, würden den grenzüberschreitenden Vergleich von Evidenz erschweren, das Einschätzen neuer Fähigkeiten schwieriger machen und das Beantworten gemeinsamer Risiken komplizierter. Die zweite ist kollektives Handeln: Länder, die allein agieren, können Ergebnisse erzielen, die keiner von ihnen wünscht, und OpenAI sagte, dass RSI die KI‑Forschung schneller vorantreiben könnte, als Nationen den Fortschritt gemeinsam verfolgen, Risiken einschätzen und sinnvolle menschliche Aufsicht aufrechterhalten können.

Die dritte ist ungleiche Kapazität: Die Aktivitäten und das Fachwissen in der Frontier‑Entwicklung sind weltweit ungleich verteilt, was laut dem Beitrag die beiden anderen Probleme verschärft. Diese Herausforderungen gelten sowohl für offene als auch für geschlossene Modelle, sagte OpenAI und fügte hinzu, dass jedes KI‑Labor, das automatisierte KI‑Forschung oder andere fortgeschrittene Fähigkeiten verfolgt, Verantwortung dafür übernehmen muss, dies sicher zu tun. Das Unternehmen beschrieb seine Begründung für Standards als darin begründet, konzentrierte Macht zu vermeiden und bessere praktische Ergebnisse zu erzielen, indem Stakeholder außerhalb der Labore ein Mitspracherecht darüber erhalten, wie sich die Technologie entwickelt.

Ein Mechanismus, der auf CAISI und dem Netzwerk der Sicherheitsinstitute basiert

OpenAI sagte, dass es erwartet, dass sich das Konzept im Laufe der Zeit wesentlich weiterentwickelt, identifizierte jedoch zwei wesentliche Aspekte. Der erste ist ein Mechanismus, der komplementäre nationale und internationale Frontier‑Standards ermöglicht. Ein Weg, den der Beitrag vorschlägt, besteht darin, auf dem entstehenden Netzwerk von KI‑Sicherheitsinstituten aufzubauen, wie sie bereits in Australien, Kanada, Deutschland, Frankreich, Kenia, Japan, Korea, Singapur, Indien und dem Vereinigten Königreich eingerichtet wurden, und Standards über das Center for AI Standards and Innovation (CAISI) sowie nationale Branchenverbände festzulegen. Die Arbeit würde sich auf Frontier‑KI‑Modelle und Entwickler konzentrieren, gemessen an Fähigkeitsbenchmarks, sowie auf das Nutzen‑Risiko‑Management für automatisierte KI‑Forschung, einschließlich RSI.

OpenAI sagte, dass die Vereinigten Staaten auf der 2024 von CAISI geschaffenen Internationalen Netzwerk für fortgeschrittene KI‑Messung, -Bewertung und -Wissenschaft aufbauen können. Laut dem National Institute of Standards and Technology, gründete CAISI dieses Netzwerk im November 2024, und seine Mitgliedschaft erstreckt sich über Regierungsstellen aus zehn Ländern: Australien, Kanada, die Europäische Union, Frankreich, Japan, Kenia, die Republik Korea, Singapur, das Vereinigte Königreich und die Vereinigten Staaten.

NIST berichtete, dass Handelsminister Howard Lutnick CAISI im Juni 2025 den Auftrag erteilte, Leitlinien und bewährte Verfahren zur Messung und Verbesserung der Sicherheit von KI‑Systemen zu entwickeln und der Industrie zu helfen, freiwillige Standards zu erarbeiten. CAISI versammelte Netzwerkmitglieder zusammen mit Vertretern aus Industrie und technischen Organisationen im Dezember 2025 während der NeurIPS in San Diego zum Austausch über bewährte Verfahren und offene Fragen bei automatisierten KI‑Bewertungen, und das Netzwerk veröffentlichte am 13. Februar 2026 Konsensbereiche zu Praktiken für automatisierte KI‑Bewertungen.

Standards aus diesem Vorhaben würden, so OpenAI, eine gemeinsame technische Grundlage für Fähigkeitsmessungen, Risikobewertungen und die Bewertung der Angemessenheit von Schutzmaßnahmen schaffen. Das Unternehmen erklärte, dass sie nicht als Lizenzen fungieren würden, noch als verpflichtende Vorab‑Review‑ oder Genehmigungsanforderungen für KI‑Modelle, und dass nationale Regierungen entscheiden würden, ob und wie sie in ihre eigenen Rechtssysteme integriert werden.

Die Arbeit solle, so OpenAI, offene und geschlossene Modellentwickler, unabhängige technische Experten und die Wissenschaft einbeziehen, und die Standards sollten transparent aufgebaut und so gestaltet sein, dass sie keine bestimmten Unternehmen, Länder oder Geschäftsmodelle bevorzugen, etwa indem sie es neuen Marktteilnehmern oder Entwicklern offener Gewichte erschweren, zu konkurrieren. Der Beitrag weist darauf hin, dass der Ansatz Lehren aus der Luftfahrt und der Finanzstabilität ziehen könne, wo Länder gemeinsame technische Standards und vertrauenswürdige Kooperationskanäle geschaffen haben, ohne die nationale Souveränität aufzugeben, und dass das Vorhaben mit ISO, dem Frontier Model Forum, der Agentic AI Foundation, der Open Secure AI Alliance sowie der Appia Foundation zusammenarbeiten sollte, die praktische Spezifikationen entwickelt, die internationale Standards mit realen KI‑Bewertungen verbinden.

Gemeinsame Messungen, Vorfallprotokolle und US‑China‑Dialog

Der zweite wesentliche Aspekt, so OpenAI, sind gemeinsame Messungen und Vorfall‑Reporting‑Protokolle für ein besseres kollektives Handeln. Standards könnten festlegen, wie der für RSI relevante KI‑Fortschritt und das Ausmaß autonomer Forschung innerhalb eines KI‑Unternehmens bewertet werden, und OpenAI verwies auf seinen Bericht zur Beschleunigung der Forschung als ersten Beitrag. Sie könnten zudem die menschliche Aufsicht über automatisierte KI‑Forschung abdecken, einschließlich welcher automatisierten Forschungsprozesse eine sofortige menschliche Überprüfung auslösen sollten, und wie Ausrichtungs‑ und automatisierte Forschungs‑Incidents klassifiziert, verfolgt, gemeldet und beantwortet werden, mit gemeinsamen Schweregraden und Melde­schwellen. OpenAI beschrieb sein Misalignment‑Reporting‑Framework als frühen Beitrag zu dieser Arbeit.

Über die Standards hinaus, so das Unternehmen, werden Betreiber kritischer Infrastrukturen und Regierungen weltweit sichere Kommunikationskanäle benötigen, um nationale Sicherheitsbedenken, aufkommende Schwachstellen und Bedrohungen sowie bewährte Verfahren zur Sicherheit von Frontier‑KI auszutauschen. OpenAI erklärte, dass ein Dialog zwischen den Vereinigten Staaten und China in diesen Bereichen ein positiver Schritt sei und dass die geplanten Gespräche zu einem günstigen Zeitpunkt stattfinden.

In einem abschließenden Abschnitt argumentierte OpenAI, dass das Tempo der KI‑Entwicklung nicht darin bestehe, eine vorgegebene Geschwindigkeit einzuhalten, sondern darin, die Ausrichtungsforschung und deren Einsatz stets den Fähigkeiten vorauszusetzen. Aus Sicht des Unternehmens sollte die USA führen, weil ihre KI‑Industrie an der technischen Grenze operiere, und eine starke nationale Governance, verknüpft mit praktischer internationaler Zusammenarbeit, biete einen Weg zu stärkeren Schutzmaßnahmen, anhaltender Innovation und breitem Zugang zu den Vorteilen von KI.