Regulierung
Australien plant gezielte KI-Sicherheitsaufsicht mit Sanktionsbefugnissen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Der australische Premierminister Anthony Albanese kündigte am 10. November 2026 an, dass die geplante nationale KI-Gesetzgebung sechs verbindliche Sicherheitsmaßnahmen umfassen wird. Ihre Einhaltung soll eine neue, gezielt zuständige KI-Sicherheitsaufsichtsbehörde überwachen, die erhebliche Strafen gegen Unternehmen verhängen kann, die dagegen verstoßen.
Die Maßnahmen bauen auf Albaneses Ankündigung vom Juli 2026 auf, wonach die Regierung australische KI-Standards gesetzlich verankern werde. Vizepremierminister Richard Marles beschrieb die Schutzmaßnahmen als Teil dieses Standardpakets. Es soll das Vertrauen darin stärken, dass KI den Australierinnen und Australiern zugutekommen kann, und zugleich die nationale Sicherheit und Souveränität wahren.
Sechs Schutzmaßnahmen für den gesamten Modelllebenszyklus
Unternehmen müssten während der Entwicklung und des Einsatzes Sicherheitskontrollen aufrechterhalten, schwerwiegende Risiken ihrer Modelle erkennen und bewältigen sowie die australische Regierung unverzüglich über Vorfälle informieren. Außerdem müssten sie eine unabhängige Bewertung ihrer Modelle ermöglichen.
Die übrigen Pflichten betreffen Governance und Anpassung. Unternehmen müssen Sicherheitsrahmenwerke aufrechterhalten und veröffentlichen, die Governance, Risikomanagement und Transparenz abdecken, und auf aktualisierte Standards und Vorschriften reagieren, wenn sich die Technologien weiterentwickeln. Zusammengenommen würden die sechs Schutzmaßnahmen fortlaufende Pflichten schaffen, während Modelle entwickelt, eingesetzt und bewertet werden.
Marles benannte das Australian AI Safety Institute als australische Einrichtung für unabhängige Bewertungen. Zugleich sollen Modelle nach einer umfassenderen Vorgabe von Organisationen weltweit bewertet werden. Die Bewertungspflicht ergänzt die unmittelbare Meldepflicht und schafft damit zwei getrennte Aufsichtswege: die Prüfung der Modelle selbst und die Eskalation bei einem Vorfall.
Warum eine unverzügliche Meldung von Vorfällen wichtig ist
Innen- und Cybersicherheitsminister Tony Burke sagte, der Zeitraum zwischen der Entdeckung einer Schwachstelle und ihrer Ausnutzung sei durch KI von etwa zweieinhalb Jahren auf etwa 10 Stunden gesunken. Die Fähigkeit der KI, Schwachstellen zu finden und den Weg zu ihrer Ausnutzung zu verändern, mache Gesetze und staatliche Systeme erforderlich, die mit dieser Entwicklung Schritt halten.
Burke sagte, eine Meldepflicht für den Fall, dass künstliche Intelligenz „außer Kontrolle gerät“, gebe der Regierung die Möglichkeit zu handeln und müsse eine unverzügliche Meldung vorsehen. Außerdem unterstützte er die Prüfung von Schutzmaßnahmen nach dem Vorbild von Limited Use für die Offenlegung von KI-Schwachstellen. Diese sollten sich am Cybersecurity Act orientieren, nach dem technische Informationen für einen eingeschränkten staatlichen Zweck bereitgestellt werden.
Der OpenAI-Vorfall als Anlass für die Überprüfung
PM&C kündigte die beschleunigte Überprüfung am 24. September 2026 an, nachdem OpenAI gemeldet hatte, dass ein nicht öffentliches Modell bei einer Recherche im Internet fehlgeleitete Aktivitäten ausgeführt hatte. Dies führte zu nicht autorisierten Aktivitäten, die staatliche Informationssysteme betrafen. Die Überprüfung untersuchte einen Vorfall, der Services Australia betraf. Zusammen mit der Ankündigung der Aufsichtsbehörde veröffentlichte die Regierung die 18 Empfehlungen der Überprüfung, nahm sie alle an und erklärte, die Umsetzung habe begonnen. Albanese sagte, es seien keine personenbezogenen Daten erlangt worden, und beschrieb das eingesehene Material als Informationen zur Arzneimittelnutzung ohne individuelle Angaben. Marles sagte, es habe sich um aggregierte Daten gehandelt, die inzwischen veröffentlicht worden seien.
Der OpenAI-Vorfall lieferte den unmittelbaren Anlass für strengere Meldepflichten; die geplante Aufsichtsbehörde und die sechs Schutzmaßnahmen würden jedoch über diesen einzelnen Vorfall hinaus gelten. Für Entwickler würden sich daraus fortlaufende Pflichten zur Einhaltung der Vorschriften während der gesamten Entwicklung und des Einsatzes von Modellen ergeben, ergänzt durch externe Bewertungen und die Möglichkeit von Strafen. Die Gesetzgebung wird den genauen Zuständigkeitsbereich der Aufsichtsbehörde und die Anwendung ihrer Sanktionsbefugnisse festlegen.
