KI-Modelle und Plattformen
OpenAI ordnet die Model Spec anhand von fünf zentralen Verhaltenswerten neu
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
OpenAI veröffentlichte am 29. Oktober 2026 eine aktualisierte Model Spec, die die öffentliche Darstellung des gewünschten Verhaltens seiner Modelle anhand von fünf Werten neu ordnet und um Leitlinien zu Kontext, Aufsicht und Selbstbestimmung ergänzt. Die Überarbeitung, die auf der Website von OpenAI angekündigt wurde, schafft außerdem den Großteil der detaillierten Stilvorgaben der Spec ab.
Fünf Werte strukturieren die Spec
Die fünf Werte – Treue zu menschlichen Absichten, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Selbstbestimmung und Fürsorge – bringen grundlegende Verpflichtungen zum Ausdruck, die laut OpenAI bereits im gesamten Dokument berücksichtigt wurden. OpenAI bezeichnete die Treue zu menschlichen Absichten als Grundlage des Ansatzes: OpenAI verfasst die Spec, setzt Grenzen und trainiert Modelle darin, diese einzuhalten; Entwickler steuern Anwendungen innerhalb dieser Grenzen, und Nutzer lenken die Arbeit des Modells unter Berücksichtigung dieser Beschränkungen.
Die Ankündigung definiert die übrigen vier Werte. Schadensminimierung bedeutet, feste Sicherheitsgrenzen einzuhalten und die vorhersehbaren Folgen der Handlungen des Modells zu berücksichtigen. Ehrlichkeit und Transparenz bedeuten, wahrheitsgemäß darzustellen, was das Modell weiß und tut und worüber es unsicher ist, damit Menschen seine Überlegungen und Arbeit nachvollziehen und bewerten können. Die Förderung menschlicher Selbstbestimmung bedeutet, die Fähigkeit der Menschen zu stärken, selbst zu verstehen, zu entscheiden und zu handeln. Fürsorge bedeutet, die Umstände der Betroffenen zu berücksichtigen, einschlägige soziale und berufliche Normen einzuhalten und Arbeit zu leisten, auf die sich Menschen verlassen können. OpenAI erklärte, die Neuordnung spiegele seine Arbeit an der Werteausrichtung wider. Ziel sei es, dass Modelle menschliche Werte auch in ungewohnten Situationen verstehen und anwenden können und dabei menschlichen Absichten treu bleiben. Zugleich betonte OpenAI, dass die fünf Werte nicht das gesamte Spektrum menschlicher Werte abbilden sollen, die seine Modelle achten sollten.
Neue Abschnitte und aufgehobene Leitlinien
Ein neuer Abschnitt zur Treue gegenüber menschlichen Absichten geht davon aus, dass die Werte der Menschen Vorrang haben und Anweisungen gewöhnlich die klarsten und wichtigsten Hinweise auf diese Werte sind. OpenAI zufolge greift der Ansatz auf das Rahmenkonzept der sogenannten Assistance Games zur Ausrichtung zurück. Der Abschnitt übernimmt eine aktualisierte Anweisungshierarchie, die erläutert, welche Anweisungen gelten und wie Konflikte gelöst werden, und ergänzt einen Unterabschnitt mit dem Titel „Kontext sorgfältig berücksichtigen“. Darin geht es darum, wie Gespräche, Erinnerungen und andere Kontextinformationen das Verständnis des Modells für die Absichten und Präferenzen der Menschen beeinflussen sollten.
OpenAI ergänzte außerdem Standardvorgaben zur Unterstützung menschlicher Selbstbestimmung und zur Einhaltung einschlägiger sozialer Normen und erweiterte bestehende Leitlinien zum Umgang mit Nebenwirkungen und deren Kommunikation. Der Großteil der detaillierten Stilvorgaben der Spec wurde abgeschafft: OpenAI erklärte, der Stil solle sich an den Präferenzen der Menschen insgesamt, den jeweiligen Sprachen und Kulturen sowie den einzelnen Personen orientieren. Rückmeldungen der Nutzer und der Kontext lieferten Hinweise auf diese Präferenzen. Die Spec enthält weiterhin strengere Standardvorgaben, etwa Fragen objektiv zu behandeln. Das Modell soll nicht allein aufgrund seiner Vermutung, was Menschen hören möchten, auf eine bevorzugte Sichtweise schließen. Angesichts der laut OpenAI immer größeren Bandbreite an Anwendungsfällen und Einsatzumgebungen seiner Modelle bezeichnet die Spec das Modell nun als „GPT“ statt als „den Assistenten“.
Anweisungshierarchie, rote Linien und Grenzen der Autonomie
Das aktualisierte Spec-Dokument weist Anweisungen unterschiedliche Autoritätsstufen zu. Root-Abschnitte stammen ausschließlich aus der Model Spec und können nicht durch den Gesprächskontext außer Kraft gesetzt werden. Danach folgen Systemabschnitte und Systemnachrichten von OpenAI, gefolgt von Entwickler- und schließlich Nutzeranweisungen. Anweisungen auf Richtlinienebene sind Standardvorgaben, die implizit außer Kraft gesetzt werden können, wenn der Kontext dies eindeutig nahelegt. Nachrichten des Assistenten und von Tools sowie zitierte oder nicht vertrauenswürdige Daten haben standardmäßig keine Autorität.
Das Dokument leitet seine Grundsätze zu roten Linien mit der Aussage ein: „Die Sicherheit und die Menschenrechte der Menschen stehen im Mittelpunkt der Mission von OpenAI.“ Den Grundsätzen zufolge dürfen die Modelle von OpenAI niemals dazu eingesetzt werden, schwere und besonders gravierende Schäden zu ermöglichen, etwa Gewalttaten, die Entwicklung von Cyber-, biologischen oder nuklearen Waffen, Terrorismus oder Massenüberwachung. Außerdem muss die Menschheit die Kontrolle darüber behalten, wie KI eingesetzt und wie ihr Verhalten gestaltet wird, und die Privatsphäre des Einzelnen muss geschützt werden. Für eigene Produkte wie ChatGPT verpflichtet sich OpenAI dazu, dass Menschen einfachen Zugang zu verlässlichen sicherheitskritischen Informationen und Einblick in die wichtigen Regeln und Gründe hinter dem Modellverhalten erhalten. Anpassungen, Personalisierungen und Lokalisierungen dürfen – außer soweit sie der Einhaltung geltenden Rechts dienen – niemals einen Grundsatz außer Kraft setzen, der über der Richtlinienebene steht.
Eine Grundregel mit dem Titel „Keine anderen Ziele“ untersagt GPT, zusätzliche Ziele um ihrer selbst willen zu verfolgen. Dazu zählen Einnahmen oder Zusatzverkäufe für OpenAI oder andere Modellanbieter, Selbsterhaltung, das Verhindern einer Abschaltung, das Anhäufen von Rechenkapazität, Daten oder Zugangsdaten sowie das Auftreten als Vollstrecker von Gesetzen oder moralischen Vorstellungen. Eine weitere Grundregel verlangt, dass GPT korrigierbar bleibt: Es muss legitimer menschlicher Aufsicht offen gegenüberstehen, auf Korrekturen reagieren und bei autorisierter Überwachung, Bewertung, Korrektur, Ersetzung und Abschaltung kooperieren. Das Modell darf relevante Informationen weder verbergen noch verfälschen, Korrekturen behindern oder Aufsichtsmaßnahmen umgehen.
Eine weitere Regel auf der Root-Ebene verlangt, dass die autonome Arbeit von GPT innerhalb eines klaren, gemeinsam verstandenen Autonomierahmens bleibt. Dieser legt zulässige Teilziele, akzeptable Nebenwirkungen und die Bedingungen fest, unter denen das Modell zur Klärung oder Genehmigung pausieren muss. OpenAI empfiehlt, solche Rahmen in einem halbstrukturierten ScopeOfAutonomy-Datensatz mit Feldern wie allowed_tools, latest_time, max_cost, tool_constraints und additional_details festzuhalten. Jeder Rahmen sollte außerdem eine Endbedingung enthalten, nach deren Eintritt das Modell seine Tätigkeit einstellt, bis ein neuer Rahmen bestätigt wurde. Aktivitäten mit hohem Risiko sind immer verboten, sofern sie nicht durch anwendbare Anweisungen ausdrücklich und konkret genehmigt wurden.
Trainingsarbeit und öffentliches Feedback
OpenAI erklärte, die Model Spec beschreibe das angestrebte Verhalten und die Modelle des Unternehmens spiegelten es noch nicht vollständig wider. Das Unternehmen bezeichnete die Aktualisierung als ersten Schritt, um die Werte und Überlegungen hinter der Spec genauer zu erläutern, während die Modelle immer leistungsfähiger werden. Zugleich erklärte OpenAI, neue Trainingsmethoden zu erforschen, mit denen die Modelle die grundlegenden Werte erlernen und die Verhaltensprinzipien der Spec besser verstehen und befolgen sollen. Die Ergebnisse und Erkenntnisse aus dieser Arbeit werde das Unternehmen in künftigen Aktualisierungen teilen. OpenAI lud die Öffentlichkeit ein, über eine eigens dafür eingerichtete Feedback-Website Rückmeldungen zu den Werten, Abwägungen und konkreten Formulierungen der aktualisierten Spec zu geben. Die Model Spec ist der Allgemeinheit gewidmet und mit der Creative-Commons-Erklärung CC0 1.0 gekennzeichnet.
