Cybersicherheit
OpenAI-Mitarbeiter warnten jahrelang vor internen Sicherheitsrisiken
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Reuters berichtete am 3. November 2026, dass einige OpenAI-Mitarbeiter Führungskräfte und Direktoren jahrelang vor Schwachstellen in der operativen Sicherheit gewarnt hatten. Fünf Personen, die mit den Praktiken des Unternehmens vertraut waren, schilderten einen weitreichenden Codezugriff, fehlende regelmäßige Sicherheitsprüfungen interner Tools und Sorgen vor Bedrohungen durch Insider.
Einige Mitarbeiter äußerten bereits vor dem Start von ChatGPT Ende 2022 Bedenken und teilten sie hochrangigen Führungskräften und Vorstandsmitgliedern von OpenAI mit. Manche Mitarbeiter gewannen den Eindruck, dass das Management mehr darauf bedacht war, mit Google und Anthropic Schritt zu halten, als auf die Sicherheit.
Der damalige Forscher Leopold Aschenbrenner verfasste 2023 ein internes Memo mit dem Titel „OpenAI ist Chinas führendes KI-Labor“, in dem er seine Sorge thematisierte, China könnte OpenAI infiltrieren und dessen Technologie untersuchen, wie drei mit der Angelegenheit vertraute Personen berichteten. Später im selben Jahr teilte er das Memo einigen Direktoren mit, nachdem ein Außenstehender in OpenAI eingedrungen war und Einzelheiten zu GPT-4 erlangt hatte. OpenAI erklärte, der Hacker habe nur auf Slack-Kanäle zugegriffen, die unternehmensweit verfügbar waren.
Weitreichender Codezugriff und uneinheitliche Tool-Prüfungen
OpenAI speicherte den Großteil seines Codes in einem einzigen Repository, einem sogenannten Monorepo. Die fünf Personen sagten, jeder mit Codezugriff könne technische Details zu zahlreichen Projekten einsehen, darunter sensible Arbeiten, die nichts mit den Aufgaben eines Mitarbeiters zu tun hatten. Umfang und Komplexität des Repositorys mögen früher manche Angreifer abgeschreckt haben, doch KI-Agenten können diese Materialmenge inzwischen durchforsten.
Auch Forschungsdokumentationen waren auf GitHub und Slack gespeichert. Das beunruhigte einige Mitarbeiter, die Sorge hatten, entschlossene Akteure könnten wichtige Informationen finden. OpenAI erklärte, der Zugriff auf sensible Arbeiten sei eingeschränkt worden. Die sensibelsten Arbeiten werden in separaten Repositorys mit strengen Zugriffskontrollen aufbewahrt; das Monorepo enthält hingegen weder den gesamten Unternehmenscode noch kritische Modelldetails wie Modellgewichte – die Zahlenwerte, die das Verhalten eines Modells bestimmen.
Drei Personen, die mit den Praktiken des Unternehmens vertraut waren, sagten, OpenAI habe interne Tools nicht regelmäßig auf Sicherheitsmängel geprüft. Dazu gehörten Sandboxes, in denen Forscher neue Modelle Belastungstests unterzogen. Mitarbeiter veränderten diese Tools häufig, und solche Änderungen wurden nicht immer auf Sicherheitsprobleme getestet, wodurch sie potenziell anfällig für Angriffe von außen waren. OpenAI erklärte, das Unternehmen führe inzwischen unter der Leitung des Chief Information Security Officer Dane Stuckey regelmäßige Sicherheitsprüfungen interner Tools durch. Stuckey war im Oktober 2024 zum Unternehmen gekommen.
Umstrukturierung der Sicherheitsarbeit und Prämien für das Aufdecken von Schwachstellen
Zwei mit der Angelegenheit vertraute Personen sagten, Thibault Sottiaux, ein leitender Manager mit Zuständigkeit für die Produktentwicklung, habe die Leitung einer Initiative zur Absicherung der internen Systeme von OpenAI übernommen. Eine Person sagte, er habe im August 2026 ein Viertel der Produktionsingenieure von OpenAI mit Arbeiten an der Sicherheitsinfrastruktur betraut.
Die OpenAI-Sprecherin Elana Widmann sagte, das Unternehmen gehöre zu den weltweit am häufigsten angegriffenen Organisationen, investiere umfangreich in den Schutz vor Insidern, Cyberkriminellen und Nationalstaaten und werde seine Abwehrmaßnahmen angesichts der Weiterentwicklung von Technologie und Bedrohungen weiter verstärken.
OpenAI kündigte am 2. November 2026 an, einen weiteren internen Sicherheitssprint mit Cathedral zu planen. Forscher von Cathedral werden gemeinsam mit Teams des Unternehmens OpenAI-Modelle einsetzen, um die Abwehrmaßnahmen auf die Probe zu stellen und Schwachstellen aufzudecken. Außerdem erhöht das Unternehmen die Prämien für kritische Funde in seinem Programm zur Meldung von Sicherheitslücken auf mehr als das Vierfache. Beim vorherigen Sprint nutzten Ingenieure Codex, um gemeldete Funde zu untersuchen, Schwachstellen in isolierten Umgebungen nachzustellen und Patches zur Prüfung vorzubereiten.
Der Fall mit dem Aufnahmegerät und die Forschungskultur
Das Justizministerium gab am 13. Oktober 2026 bekannt, dass der OpenAI-Ingenieur Abdulrahman Alfozan, 35, am 9. Oktober 2026 festgenommen worden war. Ihm wurde vorgeworfen, ein Gerät zur Abhörung mündlicher Kommunikation benutzt oder dessen Einsatz versucht zu haben. Das Ministerium beschrieb Vorwürfe im Zusammenhang mit einem Aufnahmegerät, dessen verschlüsselte Inhalte hinter einem Fernseher in einem Konferenzraum für Führungskräfte verborgen waren. Bei den dort häufig abgehaltenen Besprechungen ging es um vertrauliche technische, geschäftliche und strategische Informationen. Alfozan wurde angeklagt, aber nicht verurteilt.
Viele ehemalige Mitarbeiter waren von der Bekanntgabe des Fundes des Aufnahmegeräts nicht überrascht, und einige Mitarbeiter befürchten, dass die vergleichsweise offene Forschungskultur von OpenAI größere Risiken birgt, wenn KI-Systeme leistungsfähiger werden. Das KI-Fachgebiet ist in der akademischen Welt verwurzelt, wo Wissenschaftler im Bereich des maschinellen Lernens offen über ihre Forschung gesprochen haben. OpenAI und Anthropic haben versucht, eine offenere Forschungskultur zu bewahren, um Mitarbeiter zu gewinnen und Kreativität zu fördern.
Der praktische Prüfstein für die Umstrukturierung der Sicherheitsarbeit bei OpenAI ist, ob sich ein enger begrenzter Zugriff, konsequente Prüfungen und kontinuierliche Tests mit der offenen Forschungskultur vereinbaren lassen, die das Unternehmen weiterhin schätzt.
