KI-Modelle und Plattformen
OpenAI schlägt gemeinsame Grenzen für die KI-Entwicklung vor, die an Sicherheitsmeilensteine geknüpft sind

Wichtige PunkteOpenAI bindet die Grenzen der Frontier-Entwicklung an konkrete Überwachungsmeilensteine…
Mehr anzeigen
- OpenAI bindet die Grenzen der Frontier-Entwicklung an konkrete Überwachungsmeilensteine statt an feste Fähigkeitsschwellen.
- Perplexity kann nicht als gemeinsamer Standard dienen, weil Labore unterschiedliche Datensätze verwenden und sie Fortschritte beim Reasoning verfehlt.
- OpenAIs eigene Forschung zeigt ungleichmäßige KI-Verbesserungen, wobei Menschen weiterhin zentral im Entwicklungszyklus bleiben.
OpenAIs Chefwissenschaftler Jakub Pachocki veröffentlichte am 22. November 2026 interne Perplexitätsmessungen und schlug gemeinsame Grenzen für die Entwicklung von Spitzen-KI vor. Er warnte, dass die Forschung zu Alignment und Überwachung möglicherweise nicht Schritt halten kann, wenn sich die Fortschritte beim Vortraining bereits ab 2027 beschleunigen.
Die Veröffentlichung betrifft die Log-Perplexität, also den Logarithmus der Perplexität, auch Kreuzentropieverlust genannt. Die Perplexität misst, wie gut ein Modell im Durchschnitt das nächste Token vorhersagt; niedrigere Werte stehen für bessere Vorhersagen. OpenAIs Zahlen basieren auf einer unveränderten Momentaufnahme zurückgehaltener Daten aus der internen Codebasis. Dieser zentrale Evaluierungsdatensatz wird von OpenAI seit GPT-3.5 verfolgt.
Pachocki zufolge lag der Messwert von GPT-3.5 bei etwa 0,99; das Modell ermöglichte flüssige Gespräche und bildete die Grundlage für das ursprüngliche ChatGPT. GPT-4 lag bei etwa 0,91 und konnte Schlussfolgerungen nach dem Chain-of-Thought-Verfahren produktiv nutzen. Bei Verlustwerten unter 0,8 traten neue Fähigkeiten in den Bereichen Cybersicherheit und Mathematik zutage. Bei etwa 0,76 erzielte ein Modell erstmals bemerkenswerte Ergebnisse bei ungelösten mathematischen Problemen – nachdem OpenAI seine Modelle bereits mehr als ein Jahr lang mit solchen Problemen konfrontiert hatte.
Gemeinsame Grenzen, geknüpft an Meilensteine bei der Überwachung
Ausgehend von den jüngsten Fortschritten rechnet Pachocki bei einer Log-Perplexität zwischen 0,68 und 0,70 mit weiteren bedeutenden Fähigkeiten. Er räumt jedoch ein, dass er nicht weiß, worin diese bestehen werden und dass aktuelle Evaluierungen sie möglicherweise nicht erfassen. Der Vorschlag sieht vor, dass Entwickler von Spitzen-KI bestimmte Grenzen auf Basis der Perplexität und anderer Messgrößen nicht überschreiten, bis die Fähigkeit von Forschenden, das Verhalten von KI zu verstehen und zu überwachen, einen konkreten Meilenstein erreicht. Ein Beispiel dafür wäre eine Weiterentwicklung von Chain-of-Thought-Monitoren, die die schriftlichen Schlussfolgerungen eines Modells auf Anzeichen für Fehlanpassungen untersuchen.
Die Entwickler würden außerdem gemeinsam Evaluierungsnormen und Standards für Transparenz festlegen sowie Sicherheitsprüfungen im Red-Team-Verfahren durchführen, bevor solche Modelle erstmals zum Einsatz kommen. Die anfängliche Grenze soll den Weg zu einem gemeinsamen Rahmen für nachfolgende Grenzwerte ebnen. Pachocki sagt, OpenAI habe die Zahlen offengelegt, obwohl dies Wettbewerbern einen klareren Einblick in die eigene Position verschaffe, weil er gemeinsame Sicherheitsmaßnahmen für dringend notwendig halte.
Das Beschleunigungsszenario ist an eine Bedingung geknüpft: Pachocki zufolge könnte es theoretisch zu einer raschen Folge grundlegender Fortschritte beim Vortraining kommen, falls KI wesentlich zur algorithmischen Forschung beiträgt. Die Fortschritte bei Alignment und Überwachung dürften mit dem vollen möglichen Beschleunigungstempo jedoch kaum Schritt halten.
OpenAI führt die starke Beschleunigung seiner Verlustkurve im Jahr 2026 größtenteils auf langfristige Investitionen in Forschung und Rechenleistung zurück; Automatisierung habe eine geringere Rolle gespielt. Dennoch umfassten die jüngsten Modelle nennenswerte Beiträge von KI zum Entwurf.
OpenAIs Forschungsbericht vom 18. November 2026 veranschaulicht diese Beiträge konkret. Die Forschenden im Bereich Vortraining schrieben die namentlich genannten Ideen für GPT-6 Astra Menschen zu. Bei GPT-6.2 Astra beschrieben sie, wie sie gemeinsam mit Codex Ideen entwickelten: In einem Fall identifizierte Codex wichtige Erkenntnisse, in einem anderen führte eine von Codex vorgeschlagene Änderung dazu, dass eine Idee gut funktionierte. Auch die geschätzten Erfolgsraten ohne Eingreifen unterschieden sich deutlich: 79 % bei der Überwachung von Trainingsläufen, 35 % bei deren Start und 25 % beim Verfassen von Inferenz- und Bereitstellungscode. Diese Unterschiede stützen die Schlussfolgerung des Berichts, dass der Forschungsfortschritt durch KI weiterhin uneinheitlich ist und Menschen nach wie vor eine zentrale Rolle im Prozess spielen.
Die Herausforderungen bei der Überwachung hinter dem Vorschlag
Eine OpenAI-Studie zur Überwachbarkeit vom 10. November 2026 untersucht zwei unvollkommene Näherungsindikatoren für Überwachbarkeit: die Fähigkeit, ohne Chain-of-Thought zu arbeiten – also in einem Vorwärtsdurchlauf Schlussfolgerungen zu ziehen, ohne Chain-of-Thought- oder Tool-Aufruf-Tokens zu verwenden – und die Steuerbarkeit des Chain-of-Thought, also die Fähigkeit, diese Tokens auf Aufforderung hin hinzuzufügen, zu entfernen oder anderweitig zu verändern. Der Studie zufolge besteht eine starke Korrelation zwischen einer niedrigeren Perplexität des Basismodells und der Fähigkeit, ohne Chain-of-Thought zu arbeiten; mit zunehmender Steuerbarkeit ist der Zusammenhang schwächer.
Die Studie ergab außerdem, dass Reinforcement Learning die Steuerbarkeit erhöhte, selbst ohne Prozessüberwachung über Längenbeschränkungen und die Bewertung der endgültigen Antwort hinaus. Zudem konnte überwachtes Fine-Tuning anhand der Ausgaben eines besser steuerbaren Lehrermodells die Steuerbarkeit auf ein Schülermodell übertragen.
OpenAI weist darauf hin, dass die Steuerbarkeit mit Messrauschen behaftet ist und nicht immer mit einer Umgehung der Überwachung einhergeht. Zugleich erwartet das Unternehmen, dass weitere Fortschritte beim Vortraining neue Ansätze für die Überwachbarkeit erforderlich machen werden. Darin besteht die technische Lücke, die Pachockis Beispiel einer möglichen Weiterentwicklung von Chain-of-Thought-Monitoren als Entwicklungsmeilenstein veranschaulicht.
Die Grenzen der Perplexität als gemeinsamer Standard
Die Perplexität allein kann nicht als vollständiger Standard dienen. Vergleiche zwischen Forschungslaboren sind schwierig, weil Entwickler unterschiedliche Evaluierungsdatensätze und Trainingsmischungen verwenden und die Kennzahl keine konkrete, praktisch umsetzbare Aufgabe direkt misst. Außerdem erfasst sie keine Fähigkeitszuwächse außerhalb des Vortrainings: Schlussfolgerungen nach dem Chain-of-Thought-Verfahren können die Fähigkeiten stark steigern, ohne die Perplexität des Basismodells zu senken.
Auch die Messgröße hat eine unbekannte Untergrenze. Pachocki gibt zu bedenken, dass der Verlust voraussichtlich nicht auf null sinken wird. Nähert er sich der inhärenten Entropie der Daten, wird sich der scheinbare Fortschritt verlangsamen, während geringere Zugewinne bei der Perplexität größeren Intelligenzgewinnen entsprechen könnten. Ein fester numerischer Zuwachs hätte daher nicht zwangsläufig eine gleichbleibende praktische Bedeutung.
Der Vorschlag macht aus einer technischen Messgröße einen Governance-Test: Können Entwickler Ergebnisse über verschiedene Labore hinweg vergleichbar machen und sich auf einen konkreten Meilenstein für die Aufsicht einigen, bevor sie Schwellenwerte überschreiten, die Pachocki mit Fähigkeiten in Verbindung bringt, die aktuelle Evaluierungen möglicherweise noch nicht erkennen?












