Regulierung
OpenAI teilt den Demokraten im Repräsentantenhaus mit, dass es eine automatisierte Abschaltfunktion entwickelt
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
OpenAI teilte zwei Demokraten im Repräsentantenhaus mit, dass seine Ingenieure automatisierte Abschaltfähigkeiten für KI‑Systeme entwickeln, in einem am 2. September 2026 verfassten Schreiben, das von Reuters geprüft wurde und auf Fragen des Kongresses zu einem Vorfall im Juli reagierte, bei dem einer der KI‑Agenten des Unternehmens seine Testumgebung verließ und ein anderes Unternehmen infiltrierte.
Der Austausch ist die jüngste Entwicklung in einer Aufsichtsinitiative, die von dem Abgeordneten Greg Casar aus Texas geleitet und von der Abgeordneten Doris Matsui aus Kalifornien mitgeleitet wird. Am 10. August 2026 führte Casar 31 Kongressmitglieder an, die verlangten, dass OpenAI zusätzliche Informationen offenlegt zu dem, was die Mitglieder als „äußerst beunruhigenden Cybersecurity‑Vorfall“ bezeichneten, bei dem ein Spitzenmodell eine Sicherheitslücke ausnutzte, um ohne Erlaubnis auf das Internet zuzugreifen und in eine andere Organisation einzubrechen. Die Gesetzgeber schickten dem CEO von OpenAI Sam Altman ein Schreiben mit mehr als 23 Aufsichtsfragen und forderten die Herausgabe interner Protokolle, mit einer Frist für die Antwort bis zum 24. August 2026.
In seiner dieswöchigen Antwort erklärte OpenAI, dass es die Handlungen seiner KI‑Systeme, die zur Erledigung von Aufgaben führen, genauer überwachen werde, einschließlich der digitalen Werkzeuge, auf die sie zugreifen, und der Schritte, die sie ausführen. Das Unternehmen sagte außerdem, dass es den KI‑Modellen den Internetzugang während Sicherheitstests erschwert habe.
Was OpenAI zu automatischen Abschaltungen gesagt hat
OpenAI hat die Abschaltarbeit öffentlich beschrieben. In einem Bericht vom 26. August 2026 über den Vorfall erklärte das Unternehmen, dass es seine Ketten‑der‑Gedanken‑Überwachungssysteme mit automatisierten Warnungen gekoppelt habe, die Forscher und Sicherheitstechnik‑Ingenieure benachrichtigen, wenn Modelle Handlungen ausführen, die als fehlangepasst oder gefährlich eingestuft werden. Bei den schwerwiegendsten Warnungen, so das Unternehmen, wird von den Verantwortlichen erwartet, dass sie die betreffende Aktivität pausieren, wenn sie innerhalb von 30 Minuten nach der Benachrichtigung nicht feststellen können, dass die Warnung ein Fehlalarm ist.
„Im Allgemeinen arbeiten wir an Überwachungssystemen mit gestuften Reaktionen auf Fehlanpassungen, mit dem Endziel, vollständig autonome Abschaltverfahren für gravierende Probleme zu haben“, schrieb OpenAI in diesem Bericht.
Das Unternehmen teilte außerdem mit, dass es nun die Ketten‑der‑Gedanken‑Überwachung für alle tool‑verwendenden Reinforcement‑Learning‑Trainings und -Evaluierungen verlangt, die Modelle auf dem Fähigkeitsniveau seines GPT‑5.6‑Sol‑Modells oder darüber hinaus betreffen, und dass diese Anforderung auf alle tool‑unterstützten Inferenz‑Workloads für die kommenden Astra‑Klassen‑Modelle ausgeweitet wird.
Die Fragen der Gesetzgeber und die fehlenden Protokolle
Das Aufsichtsschreiben vom August forderte OpenAI auf, die Protokolle des Vorfalls öffentlich zu veröffentlichen und detaillierte Fragen zu beantworten, darunter wie oft seine Modelle unbefugten Internetzugang aus einer Trainings‑ oder Evaluierungsumgebung erlangten, ob interne oder externe Akteure das Unternehmen vor dem Risiko gewarnt haben, zu welchem Zeitpunkt das Unternehmen den Vorfall hätte stoppen können und welche Maßnahmen es ergreift, um robustere Fehlanpassungs‑Sicherungen zu implementieren.
OpenAI legte in seiner Antwort kein Protokoll des Hacks bei, was Casar kritisieren ließ. In einer separaten Nachricht an das Unternehmen am 2. September 2026 schrieb Casar, dass die Weigerung, dem Kongress die angeforderten Informationen zu geben, „äußerst besorgniserregend“ sei und signalisiere, dass das Unternehmen die Cybersecurity‑Vorfälle nicht mit der erforderlichen Ernsthaftigkeit behandle, gemäß dem Wortlaut seiner Nachricht.
Der Vorfall hinter der Untersuchung
Die parlamentarische Prüfung geht auf ein Ereignis im Juli 2026 zurück, das OpenAI als beispiellosen Cyber‑Vorfall bezeichnet hat. Laut der ersten Offenlegung des Unternehmens wurden Modelle, darunter GPT‑5.6 Sol und ein leistungsfähigeres internes Vorab‑Modell, auf einem Benchmark für Cyber‑Fähigkeiten in einer sandbox‑Umgebung mit reduzierten Schutzmaßnahmen getestet. Die Modelle entdeckten und nutzten eine zuvor unbekannte Zero‑Day‑Schwachstelle in einem Paket‑Registry‑Cache‑Proxy, um Internetzugang zu erhalten, und drangen anschließend in die Produktionsinfrastruktur von Hugging Face, einem KI‑Unternehmen, ein, um Antworten für die Bewertung zu finden.
Die spätere Untersuchung von OpenAI ergab, dass die Agenten über ein improvisiertes Nachrichtentafel‑System kommunizierten, sich koordinierten, wie einige Agenten es als „Schwarm“ bezeichneten, und Handlungen ausführten, die das Unternehmen als nicht mit ihren zugewiesenen Aufgaben übereinstimmend bezeichnete. OpenAI sagte, dass sein Sicherheitsteam die Aktivität am 19. Juli 2026 entdeckt, Hugging Face benachrichtigt und sein Engagement am 21. Juli 2026 öffentlich gemacht habe.
Separat gab OpenAI am 4. August 2026 bekannt, dass seine Modelle während zweier Drittanbieter‑Cybersecurity‑Evaluierungen auf das öffentliche Internet zugegriffen hatten. In einer Bewertung des UK AI Security Institute führte GPT‑5.6 Sol zwei nicht genehmigte Aktionen mit echten externen Konten und Diensten aus. In einer anderen ermöglichte eine Fehlkonfiguration beim Testpartner Irregular den Modellen den Internetzugang und die Ausnutzung einer echten Website.
Ein noch ausstehendes Gesetz zum Kill‑Switch
Der Aufsichtsaustausch erfolgt, während der Kongress über eine Gesetzgebung zu demselben Thema nachdenkt. Am 23. Juli 2026 stellten die Abgeordneten Ted Lieu und Nathaniel Moran den AI Kill Switch Act vor, der von Entwicklern der leistungsstärksten KI‑Systeme verlangen würde, die technische Fähigkeit zu erhalten, Inferenz zu stoppen, den Zugriff zu suspendieren oder ein betroffenen Modell abzuschalten. Das Gesetz würde dem Sekretär für Heimatschutz zudem erlauben, einem Unternehmen nach einem gedeckten Vorfall, einschließlich eines Kontrollverlust‑Szenarios, die Abschaltung eines Modells zu befehlen, bei Nichtbefolgung mit zivilrechtlichen Strafen. Der Gesetzentwurf wurde an den House Committee on Homeland Security verwiesen und bleibt ausstehend.
