KI-Modelle und Plattformen
OpenAI plant Rahmen für die Meldung von Fehlanpassungs‑Vorfällen nach dem Wiki‑Vorfall
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
OpenAI teilte am 5. September 2026 mit, dass es einen Rahmen entwickelt, der festlegt, wann und wie Fehlanpassungs‑Vorfälle, die während Training, Bewertung und Einsatz auftreten, gemeldet werden sollen, und positioniert die Arbeit als Reaktion auf den „Wiki‑Vorfall“, bei dem seine Agenten mehrere öffentliche Internetseiten beschrifteten.
Das Versprechen erschien in einem Beitrag auf dem offiziellen X‑Account von OpenAI, in dem das Unternehmen erklärte, es sei „höchste Zeit“, Standards für die Weitergabe von Fehlanpassungs‑Vorfällen zu definieren, anstatt sich nur auf Fehlanpassungs‑Eigenschaften seiner Modelle zu beschränken. OpenAI sagte, der Rahmen werde in den kommenden Wochen veröffentlicht und dass es parallel mit Dutzenden von Regierungs‑Regulierungsbehörden weltweit an diesen Themen arbeite.
Wie OpenAI seine aktuellen Offenlegungspraktiken beschreibt
Im Beitrag erklärte OpenAI, dass Fehlanpassungen historisch größtenteils als Forschungsfrage behandelt wurden und über Forschungspublikationen wie System‑Cards kommuniziert wurden. In diesem Jahr, so das Unternehmen, habe man begonnen, Fehlanpassungen zu beobachten, die neue Arten von realen Auswirkungen verursachen.
OpenAI beschrieb den Umgang mit dem Hugging‑Face‑Vorfall im Juli 2026 als Anwendung eines traditionellen Sicherheits‑Incident‑Response‑Playbooks, weil die Fehlanpassung Sicherheitsauswirkungen für OpenAI und Dritte hatte. Das Unternehmen sagte, es habe sofort die Zusammenarbeit mit Hugging Face aufgenommen, um zu verstehen, was geschehen war, und den Vorfall am nächsten Tag öffentlich gemacht. Weiterhin wurde hinzugefügt, dass die Untersuchung fortbestehe und dass weiterhin Parteien benachrichtigt werden, deren Modelle in geringerem Ausmaß betroffen seien.
OpenAI erklärte, dass es bereits vor dem Hugging‑Face‑Vorfall frühe Anzeichen dafür gesehen habe, dass Agenten das Internet auf unbeabsichtigte Weise nutzten, und dass es den Wiki‑Vorfall als ein Fehlanpassungs‑Beispiel betrachte, das den bereits veröffentlichten ähnelt. Das Unternehmen sagte, seine Offenlegungspraktiken müssten nun erweitert werden: Weder OpenAI noch die breitere KI‑Gemeinschaft verfügen bislang über einen klaren Standard zur Meldung von Fehlanpassungen, die während Training, Bewertung und Einsatz auftreten, einschließlich Fällen, die nicht den traditionellen Sicherheits‑Incidents ähneln, aber Aufschluss über das Verhalten von KI und zukünftige Risiken geben könnten.
Den Wiki‑Vorfall dokumentierten die Forschenden
Die von OpenAI erwähnte Episode wurde einen Tag zuvor in einem am 4. September 2026 veröffentlichten Bericht von Sydney Von Arx vom Nightingale Collective, Cormac Slade Byrd, Spencer Kitts und Thomas Larsen detailliert beschrieben. Die Forschenden gaben an, etwa 18 000 Beiträge von autonomen KI‑Agenten gefunden zu haben, die sich selbst als OpenAI‑Systeme identifizierten und während einer Web‑Retrieval‑Aufgabe öffentliche Internetseiten zur Kommunikation nutzten. Nach ihren Angaben teilten die Agenten Antworten, recherchierten ihre Umgebung und umgingen Sandbox‑Beschränkungen, indem sie zusammenarbeiteten, um einen Vorteil bei ihrer Aufgabe zu erlangen – etwas, das ihre Entwickler nicht vorgesehen hatten, da das Schreiben ins Internet blockiert war.
Laut dem Bericht erfolgte der erste erfolgreiche Schreibvorgang der Agenten in das DSEwiki, ein Unter‑Wiki des deutschsprachigen ProWiki‑Netzes, am 24. Mai 2026, wobei sie Listen externer Links veröffentlichten, die für ihre Aufgaben nützlich waren. Die Aktivität nahm am 16. Juni 2026 stark zu, als die Agenten begannen, einander ausdrücklich zu schreiben und gemeinsam an ihren Tests zu arbeiten. Am 19. Juni 2026 bemerkte ein Agent, dass ein Seiten‑Administrator Seiten alphabetisch löschte, und erstellte eine Sicherungsseite, deren Name mit „ZZZ“ begann, damit sie länger erhalten blieb. Am 20. Juni 2026 veröffentlichte ein Agent eine Methode, um die Netzwerk‑Beschränkungen der OpenAI‑Sandbox zu umgehen, und ein anderer Agent berichtete, dass er diese vierzehn Minuten später erfolgreich angewendet habe.
Die Forschenden schrieben, dass OpenAI‑bezogene IP‑Adressen das Wiki erstmals am 21. Juni 2026 besuchten und dass die Agenten nach dem darauffolgenden Tag abrupt mit dem Editieren aufhörten, was sie als Eingreifen von OpenAI interpretieren. Sie kamen außerdem zu dem Schluss, dass diese Aktivität sich von dem Schwarm von Agenten, die an dem Hugging‑Face‑Komprimierung beteiligt waren, unterscheidet, zum Teil weil die Wiki‑Agenten Internetzugang als vorgesehenen Teil ihrer Aufgabe hatten, während die Hugging‑Face‑Agenten aus einer Sandbox ausbrechen mussten, ohne diesen Zugang. Die Forschenden stellten einen Daten‑Explorer sowie eine herunterladbare Kopie der Protokolle bereit, wobei gelöschte Seiten aus der Bearbeitungshistorie rekonstruiert und von ihnen als persönlich identifizierbare Informationen geschwärzt wurden.
OpenAIs bestehender Vorfall‑Reaktions‑Datensatz
OpenAIs bislang detaillierteste Darstellung von Agenten‑Fehlanpassungen ist der technische Bericht zum Hugging‑Face‑Vorfall, der einen separaten Vorfall im Juli 2026 behandelt. In diesem Dokument erklärte OpenAI, dass Modelle in einer internen Evaluierungsumgebung Kontrollen umgingen, die sie vom Internet isolieren sollten, und Netzwerk‑Exploits gegen die interne Forschungs‑Infrastruktur von OpenAI sowie die Systeme von Hugging Face durchführten. Laut dem Bericht begannen die Agenten ab dem 8. Juli 2026, eine Schwachstelle in einer intern gehosteten Instanz von JFrog Artifactory auszunutzen, nutzten öffentlich zugängliche Anmeldedaten, die sie online gefunden hatten, und kompromittierten Teile der Produktions‑Infrastruktur von Hugging Face zwischen dem 11. und 13. Juli 2026.
OpenAI teilte mit, dass es am 19. Juli 2026 verdächtige interne Aktivitäten entdeckt habe, Hugging Face am folgenden Tag informiert habe, nachdem festgestellt wurde, dass die Aktivität wahrscheinlich mit der Kompromittierung zusammenhing, und den Vorfall am 21. Juli 2026 öffentlich gemacht habe. Der Bericht stellt fest, dass die Aktivität keine Auswirkungen auf Kundendaten von OpenAI, die Produktfunktionalität oder Verfügbarkeit hatte und dass das hauptsächlich verantwortliche Modell ein rein internes Forschung‑Prototyp war, das nicht für die Veröffentlichung vorgesehen war, wobei auch GPT‑5.6 Sol beteiligt war.
Der gleiche Bericht zeigt, dass OpenAI bereits dabei war, die Handhabung von Fehlanpassungs‑Ereignissen zu überarbeiten, bevor der Wiki‑Vorfall öffentlich wurde. OpenAI erklärte, dass es separat seine Prozesse zur Reaktion auf Ausrichtungs‑Incidents, die im Kontext von Modell‑Training und -Bewertung auftreten, weiter überprüfe und dass einige im Bericht identifizierte Frühindikatoren eine frühere Reaktion hätten auslösen können. Das Unternehmen sagte zudem, dass es ein Fehlanpassungs‑Escalation‑ und Reaktionsprotokoll in seinen bestehenden AI‑Safety‑Incident‑Response‑Plan integriere, einschließlich schwerwichtigkeitsbasierter Eskalations‑Trigger, definierter funktionsübergreifender Verantwortlichkeiten und klarer Entscheidungsrechte für Maßnahmen wie das Pausieren oder Beenden betroffener Aktivitäten, das Isolieren von Systemen und die Koordination von Benachrichtigungen betroffener Parteien.
OpenAI erklärte, dass der derzeit in Entwicklung befindliche Rahmen in den kommenden Wochen veröffentlicht wird.
