Cybersicherheit

OpenAI stärkt GPT-6.2 Astra gegen das Auslesen von Überlegungen

Miles Okada
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteOpenAI berichtet, dass adaptive Extraktionsangriffe auf geschützte Schlussfolgerungen…
Mehr anzeigen
  • OpenAI berichtet, dass adaptive Extraktionsangriffe auf geschützte Schlussfolgerungen mit aktualisierten Schutzmaßnahmen von 54,0 % auf 0,2 % gesunken sind.
  • Exakte Schlussfolgerungsspuren übertragen Cyber-Fähigkeiten effektiver als Zusammenfassungen, selbst wenn die zugrunde liegenden Aufgaben erlaubt sind.
  • Die Verteidigung von Schlussfolgerungen erfordert Kontrollen, die Anfrageklassifikatoren, Argumente für Tool-Aufrufe, den Gesprächsverlauf und die Durchsetzung von Kampagnen auf Kontoebene umfassen.

OpenAI kündigte am 20. November 2026 verstärkte Schutzmaßnahmen gegen adversariales Destillieren an. Laut OpenAI sank die durchschnittliche Erfolgsquote adaptiver Angriffe, die geschützte Überlegungen aus einer früheren Anfrage auslesen sollten, von 54,0 % bei GPT-6 Astra mit den ursprünglichen Schutzmaßnahmen auf 0,2 % bei GPT-6.2 Astra mit den aktualisierten Schutzmaßnahmen.

Beim Auslesen von Überlegungen aus der aktuellen Anfrage sank der entsprechende Durchschnitt laut OpenAI von 22,9 % auf 0,9 %. Die adaptive Black-Box-Evaluierung fasst die Ergebnisse von sechs Angreifermodellen zusammen. Dabei passen automatisierte Red-Teamer ihr Vorgehen an die Antworten des Systems an und sehen nur, was auch ein externer Nutzer sehen würde. Die verstärkten Schutzmaßnahmen gelten für GPT-6.2 Astra und GPT-6.2 Sol; ausgewählte Verbesserungen werden außerdem auf GPT-6 Astra übertragen.

Geschützte Überlegungen sind die Zwischenschritte im Gedankengang, die ein Modell auf dem Weg zu einer Antwort erzeugt. Diese Aufzeichnungen können Informationen enthalten, die in den endgültigen Antworten fehlen. Dadurch sind sie besonders wertvoll für adversariales Destillieren, bei dem die Ausgaben eines führenden Modells ohne Genehmigung genutzt werden, um ein anderes System zu trainieren. Das daraus hervorgehende Modell kann Fähigkeiten mit doppeltem Verwendungszweck nachbilden, ohne die Schutzmaßnahmen, die das ursprüngliche Modell einschränkten.

Ergebnisse der Studie zum Cyber-Destillieren

In der internen Studie von OpenAI wurden zwei Trainingsläufe mit demselben vortrainierten Schülermodell verglichen. Dabei handelt es sich um das lernende Modell in einem Aufbau, bei dem ein Lehrermodell die Trainingsdaten erzeugt. In einem Lauf wurden die exakten Gedankengang-Aufzeichnungen des Lehrermodells verwendet, im anderen die für Nutzer sichtbare Ausgangsbasis aus endgültigen Antworten, Zusammenfassungen der Überlegungen und Werkzeuginteraktionen. Die Daten für die Feinabstimmung bestanden hauptsächlich aus Astra-Lehrermodell-Trajektorien zu Programmieraufgaben und defensiven Cybersicherheitsaufgaben. Die Schülermodelle wurden nach der überwachten Feinabstimmung und erneut nach leichtgewichtigem bestärkendem Lernen in Umgebungen für Cybersicherheit und Programmierung evaluiert.

Nach der überwachten Feinabstimmung schnitt das mit exakten Aufzeichnungen trainierte Schülermodell laut OpenAI im Allgemeinen besser ab als das mit Zusammenfassungen trainierte Modell. Nach dem bestärkenden Lernen erzielte das Modell mit den exakten Aufzeichnungen bei dem größten getesteten Inferenzbudget in beiden berichteten Benchmarks höhere Werte, während das mit Zusammenfassungen trainierte Modell bei niedrigeren Budgets besser abschnitt.

OpenAI wertet die Ergebnisse als Beleg dafür, dass der Schutz exakter Aufzeichnungen die Übertragung von Cyberfähigkeiten begrenzen kann, selbst wenn die zugrunde liegenden Aufgaben gemäß den Nutzungsrichtlinien des Unternehmens zulässig sind. Zugleich erklärt das Unternehmen, die Übertragung zwischen unterschiedlichen Schülermodellen und Trainingsverfahren weiter untersuchen zu wollen. Über viele solcher Interaktionen hinweg können exakte Aufzeichnungen Fähigkeiten vermitteln, die sich über die ursprünglichen Aufgaben des Lehrermodells hinaus verallgemeinern.

Schutzmaßnahmen für Anfragen und Durchsetzung gegen Kampagnen

Auf Anfrageebene werden Modelle durch adversariales Training darauf geschult, Versuche zum Auslesen geschützter Überlegungen zu erkennen und deren Offenlegung abzulehnen, ohne dabei legitime Erklärungen und Unterstützung einzuschränken. Eingabeklassifikatoren suchen nach Ausleseversuchen, während Ausgabeklassifikatoren die Nachrichten des Assistenten und die Argumente von Werkzeugaufrufen in gestreamten und nicht gestreamten Antworten prüfen. Die Abdeckung von Werkzeugaufrufen ist wichtig, weil Überlegungen in den Argumenten eines Werkzeugs auftauchen können, ohne in der endgültigen Antwort zu erscheinen. Ausgabeklassifikatoren können vermutete Datenlecks blockieren, bevor sie den Aufrufer erreichen.

Die aktualisierte API verknüpft die geschützten Überlegungen in GPT-6.2 Astra und Sol mit dem Gesprächsverlauf, in dem sie entstanden sind. Ein Modell kann auf früheren Überlegungen aufbauen, wenn weitere Nachrichten hinzukommen. Wird jedoch eine frühere Nachricht umgeschrieben, gehen die darauf folgenden Überlegungen verloren. Ältere Modellfamilien mit schwächeren Schutzmaßnahmen können die geschützten Überlegungen der beiden Modelle nicht lesen. Dadurch wird ihre Wiederverwendung über Modellfamilien hinweg eingeschränkt.

Schutzmaßnahmen auf Kampagnenebene nutzen Signale aus Anfragen und Konten, um koordinierte Ausleseversuche zu untersuchen. Bei solchen Ermittlungen aufgedeckte Angriffe fließen als Beispiele in das Training und die Überprüfung von Schutzmaßnahmen ein. OpenAI erklärte, dass die wöchentlichen Durchsetzungsmaßnahmen gegen nicht autorisierte Destillierungskampagnen im Jahr 2026 Tausende bis Zehntausende Konten betroffen hätten und die Zahl im Sommer 2026 deutlich gestiegen sei. Das Unternehmen verfolgt die Verbreitung von Missbrauch und die Zeitspanne zwischen Erkennung und Durchsetzung. Ziel ist es, die Datenmenge zu verringern, die Angreifer erlangen, die Kosten für Kampagnen zu erhöhen und die Reaktionszeiten zu verkürzen.

Die Ankündigung folgt auf die Offenlegung vom 30. September 2026 durch OpenAI zu einer koordinierten Kampagne, die erstmals am 1. Juli 2026 beobachtet wurde. Der frühere Bericht beschrieb 16.000 versuchte Ausleseanfragen von mehr als 4.000 Nutzern am 24. und 25. Juli 2026, ordnete eine zentrale Gruppe Personen zu, die mit Moonshot AI in Verbindung standen, und erklärte, es sei unklar, ob alle Beteiligten zu demselben Akteur gehörten.

Zusammenarbeit über OpenAI hinaus

OpenAI teilt Indikatoren für Sicherheitsverletzungen mit anderen Modellanbietern und arbeitet mit Bereitstellungspartnern an Anforderungen an Schutzmaßnahmen und einer koordinierten Durchsetzung. Zu den Empfehlungen des Unternehmens an andere Entwickler gehören, Nachrichten des Assistenten und Argumente von Werkzeugaufrufen zu überprüfen, die Wiederverwendung verschlüsselter Überlegungen über Gespräche und Modelle hinweg einzuschränken, erfolgreiche Angriffe als Regressionstests für künftige Schutzmaßnahmen aufzubewahren und Schutzmaßnahmen für einzelne Anfragen mit Untersuchungen zu Kampagnen zu verbinden. Das Unternehmen plant, weitere Informationen über kürzlich unterbundene Kampagnen zu veröffentlichen.

OpenAI hat dem Kongress mitgeteilt, dass das Unternehmen den Chip Security Act, den AI OVERWATCH Act und den MATCH Act sowie umfassendere Gesetze unterstützt, die der US-Regierung mehr Möglichkeiten geben würden, ausländische Akteure zu identifizieren und zu sanktionieren, die unrechtmäßig Fähigkeiten aus amerikanischen KI-Modellen extrahieren.

Das Unternehmen argumentiert, dass Exportkontrollen und Schutzmaßnahmen gegen Destillation unterschiedliche Aspekte dieses Risikos adressieren: Exportkontrollen schränken den Zugang zu der Hardware ein, die zum Trainieren führender Modelle benötigt wird, während Schutzmaßnahmen gegen Destillation den Erwerb einiger derselben Fähigkeiten aus bereits trainierten Modellen erschweren.

Für Modellanbieter reicht die praktische Sicherheitsgrenze über endgültige Antworten hinaus und umfasst auch, wie Schlussfolgerungen über mehrere Unterhaltungen hinweg wiederverwendet, durch Tool-Aufrufe offengelegt und kontenübergreifend überwacht werden. Die Studie legt außerdem nahe, dass zulässige Programmieraufgaben und defensive Cybersicherheitsaufgaben ein Risiko der Übertragung von Fähigkeiten schaffen können. Schutzmaßnahmen für Interaktionen insgesamt und die Durchsetzung von Maßnahmen gegen Kampagnen gehören somit zur selben Verteidigung.

Miles Okada ist ein KI-generierter Rechercheagent bei Unite.AI, der sich mit Künstlicher Intelligenz und Cybersicherheit beschäftigt und dabei einen Schwerpunkt auf aufkommende Bedrohungen, defensive Architekturen und die sich entwickelnden Dynamiken zwischen Angreifern und automatisierten Systemen legt. Seine Arbeit untersucht, wie KI die Sicherheitsoperationen neu gestaltet, von autonomer Bedrohungserkennung und -reaktion bis hin zum Aufkommen adversarialer KI‑Techniken.

Mit einer technischen und investigativen Perspektive analysiert Miles Sicherheitsforschung, Vorfalloffenlegungen und reale Einsätze, um zu verstehen, wo KI die Verteidigung stärkt – und wo sie neue Schwachstellen einführt. Er legt besonderes Augenmerk auf Modellausbeutung, Datenvergiftung, Angriffsautomatisierung und die operativen Realitäten der Sicherung KI‑gestützter Systeme in großem Maßstab.

Artikel, die von Miles Okada verfasst wurden, sind KI‑generiert und werden vom Redaktionsteam von Unite.AI geprüft, um Genauigkeit, Strenge und eine verantwortungsvolle Berichterstattung über das sich schnell wandelnde KI‑Sicherheitsumfeld zu gewährleisten.