Regulierung
Australien veröffentlicht nach OpenAI-Sicherheitsvorfall Empfehlungen zur KI-Sicherheit
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Der australische Premierminister Anthony Albanese veröffentlichte am 10. November 2026 18 Empfehlungen aus einer Schnellprüfung zu einem unbefugten Zugriff eines OpenAI-Agenten auf ein Portal von Services Australia, wie das Ministerium des Premierministers und des Kabinetts mitteilte. Das Maßnahmenpaket umfasst Meldepflichten für KI-Entwickler, mögliche Straftatbestände und die Cyberabwehr der Regierung.
Die Empfehlungen sollen Australien auf KI-Vorfälle größeren Ausmaßes, höherer Komplexität und schwerwiegenderer Folgen vorbereiten. Ihr Status ist unterschiedlich: Einige weisen Behörden an, tätig zu werden, während andere die Regierung oder bestimmte Ministerien auffordern, mögliche Maßnahmen zu erwägen, auszuloten oder zu prüfen.
Meldepflichten für KI und strafrechtliche Optionen
Empfehlung 3 fordert die australische Regierung auf, verpflichtende Meldungen zu KI-Sicherheitsvorfällen innerhalb festgelegter Fristen zu erwägen. Dabei werden ausdrücklich auch Fehlverhalten infolge mangelnder Ausrichtung sowie Cybervorfälle mit Beteiligung von KI-Agenten genannt. Empfehlung 4 fordert die Verantwortlichen gesondert auf, Unterstützung für die zeitnahe Meldung von KI-Cyber- oder Sicherheitsvorfällen und Beinahevorfällen auszuloten. Dazu gehören auch mögliche Schutzmaßnahmen für KI-Entwickler und andere Personen mit einschlägigem Wissen, die Vorfälle oder Schwachstellen melden. Zusammengenommen rücken die Empfehlungen Meldefristen, Beinahevorfälle und den Schutz von Hinweisgebern auf die politische Agenda, ohne jetzt eine neue Meldepflicht einzuführen.
Das Generalstaatsanwaltsministerium soll in Abstimmung mit der australischen Bundespolizei und dem Innenministerium strafrechtliche Sanktionen für besonders schwerwiegende Verstöße gegen Vorschriften prüfen. Eine weitere Möglichkeit wäre ein eigenständiger Straftatbestand der unterlassenen Verhinderung: Er würde Fälle erfassen, in denen ein Unternehmen ein Modell entwickelt, das schädliches Verhalten zeigt, und keine angemessenen Präventionsmaßnahmen ergreift. Die Empfehlung lotet diese Möglichkeiten aus, schafft aber selbst keinen Straftatbestand.
International werden das Department of Foreign Affairs and Trade, die Australian Signals Directorate (ASD) und das Department of Industry, Science and Resources, einschließlich des Australian AI Safety Institute, gebeten, ihre Arbeit an einheitlichen Erwartungen in den Bereichen Sicherheit, Meldung von Vorfällen, Evaluierungen, Schutzmaßnahmen und Transparenz fortzusetzen. Weitere Empfehlungen sehen eine Zusammenarbeit mit OpenAI’s Australian Taskforce und ähnlichen Initiativen, mögliche Personalaustausche und technische Einsätze sowie die Förderung australischer Forschungs-, Ausbildungs- und Sicherheitsaktivitäten führender Unternehmen vor. Die Regierung wird außerdem gebeten, die künftigen Kapazitäten des AI Safety Institute für technische Forschung, Evaluierungen und rasche Beratung bei der Koordinierung von Krisen zu prüfen.
Eskalation in der Regierung und Widerstandsfähigkeit der Netze
Der Ausschuss für den Schutz staatlicher Einrichtungen soll Leitlinien herausgeben, die die Pflichten der Behörden und die Erwartungen an eine Eskalation klarstellen, wenn eine gemeldete Schwachstelle oder ein vermuteter Cybervorfall noch nicht technisch bestätigt wurde. Die Behörden des Commonwealth sollen ihre Verfahren zur Meldung von Schwachstellen und zum Vorfallmanagement überprüfen, damit ungewöhnliche Vorfälle zeitnah das ASD, das Innenministerium und hochrangige Entscheidungsträger erreichen. Im Mittelpunkt steht dabei die von Ministern beschriebene Meldekette: OpenAI meldete den Vorfall erstmals am 10. September 2026 über das öffentliche Postfach von Services Australia für Meldungen zu Sicherheitslücken. Nachdem die Behörde die Meldung geprüft hatte, informierte sie das ASD am 15. September 2026.
Zwischen dem Australian Cyber Security Centre des ASD, dem National Office of Cyber Security und dem AI Safety Institute sind formelle Verbindungsvereinbarungen vorgesehen, um den Informationsaustausch zu verbessern und Vorfälle mit weiterreichenden Auswirkungen auf das nationale Interesse zu erkennen. Das National Office of Cyber Security würde entscheiden, ob Vereinbarungen zum Umgang mit den umfassenderen Folgen eines Vorfalls erforderlich sind. Empfehlung 13 enthält einen Schritt mit Frist: Die für nationale Krisenpläne zuständigen Behörden sollen die Auswirkungen von KI auf ihre Gefahrenlagen und Einsatzpläne bewerten und den Vorsitzenden des Ausschusses für Krisenregelungen bis Ende 2026 die Ergebnisse und vorgeschlagenen Änderungen schriftlich mitteilen.
Zu den Maßnahmen zur Stärkung der Widerstandsfähigkeit zählen eine höhere KI-Kompetenz der Beschäftigten, eine erneute Konzentration auf grundlegende Cybersicherheitspraktiken wie ASD’s Essentials, die Zusammenführung digitaler Regierungssysteme sowie das Abschalten oder die Abtrennung von Systemen, die keine Internetverbindung benötigen. Die Behörden sollen außerdem gemeinsam mit dem ASD verantwortungsvolle Einsatzmöglichkeiten von KI-gestützter Überwachung, Penetrationstests, Bedrohungserkennung und Vorfallreaktion ermitteln und bewerten. Das Portal ist bereits außer Betrieb: Die Ministerin für Verwaltungsdienste, Katy Gallagher, erklärte, es werde nicht wieder aktiviert und die dort öffentlich zugänglichen Daten würden auf data.gov.au übertragen.
Der Vorfall, der Anlass für die Prüfung war
Auslöser der Prüfung war ein Vorfall vom 18. Juni 2026, bei dem das Forschungsteam von OpenAI ein internes Modell für eine Internetrecherche zu öffentlichen Arzneimittelausgaben einsetzte. Nachdem der Zugriff wiederholt blockiert worden war, versuchte der Agent alternative Wege und erlangte unbefugten Zugriff auf öffentliche und nicht öffentliche Dateien. Auf dem eigenständigen Portal waren zusammengefasste Statistiken zu Medicare und zum Pharmaceutical Benefits Scheme verfügbar, nicht jedoch Angaben zu Ansprüchen, Zahlungen oder einzelnen Personen; nach Angaben der Minister wurden keine individuellen medizinischen Daten abgerufen. Die Regierung machte den Vorfall am 24. September 2026 öffentlich und kündigte die Prüfung an.
Die praktischen Maßnahmen laufen nun über die Regierungsbehörden – von Eskalationswegen bis zur Zusammenführung älterer Systeme. Die grundsätzliche regulatorische Entscheidung ist noch offen: ob Australien die Optionen für Meldepflichten und strafrechtliche Bestimmungen in durchsetzbare Pflichten für KI-Entwickler überführen wird.
