Vereinigtes Königreich kündigt Maßnahmenpaket zu KI-Risiken an und verlängert Pilotprojekte zur Cyberabwehr

Die Regierung des Vereinigten Königreichs kündigte am 12. Oktober 2026 ein Maßnahmenpaket an, um Großbritannien vor den Risiken immer leistungsfähigerer KI zu schützen. Dazu gehört auch die Verlängerung eines Programms zur Abwehr von Cyberangriffen durch fortgeschrittene KI-Systeme, das nach Angaben der Regierung bereits dazu beigetragen hat, mehr als 1.000 potenzielle Schwachstellen in Regierungssystemen aufzudecken und zu beheben.

Die Ankündigung erfolgte durch das Cabinet Office, das Institut für KI-Sicherheit (AISI), das National Cyber Security Centre (NCSC) und das Department for Digital, Culture, Media and Sport. Der für KI zuständige Minister Kanishka Narayan stellte die Maßnahmen in Base One vor, dem Inkubator für Wissenschaft und Technologie des Imperial College London, und sprach sich für einen gesamtgesellschaftlichen Ansatz zur Stärkung der Resilienz aus. Er warnte, dass mögliche Folgen von Fehlfunktionen oder böswilligem Einsatz weitaus schwerwiegender ausfallen könnten, wenn fortgeschrittene KI-Systeme leistungsfähiger werden und zunehmend autonom handeln können.

„Ich möchte, dass Großbritannien zu einem der Länder der Welt wird, die am schwersten mit künstlicher Intelligenz anzugreifen sind“, sagte Narayan. Er versprach, wo nötig Gesetze zu erlassen und auf britische wissenschaftliche Expertise, technologische Fähigkeiten und Institutionen zurückzugreifen, um immer leistungsfähigere Systeme zu verstehen, neuen Bedrohungen entgegenzuwirken und auf Fehlentwicklungen zu reagieren. Unternehmen, die die leistungsfähigsten KI-Systeme der Welt entwickeln, sollten die Warnungen ihrer Wissenschaftler vor ernsthaften Gefahren ernst nehmen, unerwartetes Verhalten untersuchen und jedes System zurückhalten, dessen Risiken sich nicht ausreichend kontrollieren lassen, sagte er.

Der Ankündigung zufolge baut die Maßnahme auf zwei Pilotprojekten auf, die dazu beigetragen haben, Schwachstellen aufzudecken und zu beheben sowie potenzielle Cyberbedrohungen zu erkennen. Die Verlängerung des Programms werde dazu beitragen, die öffentlichen Dienstleistungen zu schützen, auf die die Menschen täglich angewiesen sind, kurzfristig Risiken zu verringern und eine längerfristige Einführung im gesamten öffentlichen Sektor zu unterstützen, erklärte die Regierung.

Änderungen am Cybergesetz und Vorbereitung auf KI-Vorfälle

Die Regierung erklärte, sie werde prüfen, wie Teile des Cyber Security and Resilience Bill und das übergeordnete Regelwerk gestärkt werden könnten, damit grundlegende Dienste wie Krankenhäuser und Versorgungsbetriebe besser vor neuen KI-bezogenen Risiken geschützt sind. Dazu zählt auch das Risiko eines Kontrollverlusts über KI, bei dem autonome Systeme der menschlichen Aufsicht entgehen. Außerdem werde sie untersuchen, wie schwerwiegende KI-Vorfälle und Beinahevorfälle erkannt und gemeldet werden sollten und wie sich daraus schnell Lehren ziehen lassen, um das Risiko künftiger Schäden zu verringern. Einzelheiten zu möglichen Maßnahmen sollen gemeinsam mit Abgeordneten, technischen Fachleuten und den für ihre Umsetzung zuständigen Betreibern ausgearbeitet werden.

Gemeinsam mit dem NCSC und dem AISI wird außerdem daran gearbeitet, wie auf Vorfälle mit KI-Agenten reagiert werden kann – also auf Systeme, die komplexe Aufgaben mit nur geringer menschlicher Aufsicht erledigen können. Ein solcher Vorfall könne sich schneller entwickeln und weiter ausbreiten als andere schwerwiegende Vorfälle, auf deren Bewältigung Regierungen ausgelegt sind, hieß es in der Ankündigung. Um dieser Herausforderung zu begegnen, seien neue Fachkenntnisse und Fähigkeiten erforderlich.

Das Maßnahmenpaket umfasst auch die Verifizierung von KI. Die Ankündigung beschreibt sie als ein aufstrebendes Gebiet, in dem geprüft wird, ob Aussagen zur Entwicklung, Erprobung und Bewertung von KI-Systemen einer kritischen Überprüfung standhalten. Die Regierung erklärte, das Vereinigte Königreich sei gut aufgestellt, um in diesem Bereich eine führende Rolle einzunehmen. Weitere Einzelheiten zur Unterstützung britischer Vorhaben zur KI-Verifizierung sollen in den kommenden Monaten bekannt gegeben werden.

Cyberministerin Liz Lloyd sagte, Cybervorfälle störten weiterhin Organisationen jeder Größe im privaten und öffentlichen Sektor. Dadurch entstehe eine, wie sie es nannte, geschäftskritische Notwendigkeit, bei der Cybersicherheit die Initiative zu ergreifen. „Indem die Regierung Pilotprojekte zum Einsatz von KI für den Schutz öffentlicher Dienstleistungen ausweitet und ein Cybergesetz zur Stärkung unserer Abwehr vorantreibt, stellt sie Cybersicherheit und die Vorbereitung auf KI ins Zentrum der digitalen Zukunft des Vereinigten Königreichs“, sagte Lloyd.

Das Pilotprojekt hinter den Schwachstellenzahlen

Zur Untermauerung ihrer Zahlen verweist die Ankündigung auf eine Fallstudie, die am 12. Juni 2026 veröffentlicht wurde und vom Department for Science, Innovation and Technology (DSIT) sowie dem NCSC stammt. Darin wird ein Pilotprojekt beschrieben, bei dem das Government Cyber Coordination Centre (GC3), eine Partnerschaft zwischen dem NCSC und dem DSIT, wöchentliche Hackathons vor Ort veranstaltete. Dabei kam fortgeschrittene KI zum Einsatz, um öffentliche Code-Repositories in Regierungsbehörden zu durchsuchen. Gemeinsam mit Fachleuten des AISI und des NCSC suchten die Teams nach bislang unbekannten Schwachstellen und versuchten, diese zu entschärfen, bevor sie ausgenutzt werden konnten. Das GC3 schrieb keine einheitliche Vorgehensweise vor: Die Teams erhielten Zugang zu Modellen und entwickelten eigene Werkzeuge.

Die Fallstudie beschreibt mehrere Prozessketten. Ein Team durchlief mit jedem öffentlichen Repository eine sechsstufige KI-Agentenkette (Triage, Validierung, Audit, Rückverfolgung, Bewertung und Zusammenfassung), bei der jede Stufe die vorherige prüft und hinterfragt. Bei Bedarf wurde der Vorgang manuell eskaliert: Ein Teammitglied kontrollierte jede Zeile, überprüfte die Erreichbarkeit erneut und kümmerte sich um falsch-positive Ergebnisse. Ein anderes Team setzte zunächst herkömmliche Prüfwerkzeuge ein, darunter Gitleaks, Trivy, Semgrep und Hadolint, und ergänzte sie anschließend um drei Modellstufen für die Erkennung, die Untersuchung von Angriffsketten und die Triage. Eine dritte Abteilung verdichtete ein organisationsweites Audit von Hunderten Diensten zu fünf domänenspezifischen Claude Skills.

Die Beteiligten identifizierten insgesamt 407 Schwachstellen, darunter kritische Sicherheitslücken, durch die Dienste für die Umgehung der Authentifizierung, die Offenlegung von Daten und die Ausführung von Code aus der Ferne anfällig waren, heißt es in der Fallstudie. Alle kritischen Sicherheitslücken wurden behoben, und für keine der Schwachstellen wurden Hinweise auf eine Ausnutzung gefunden. Über einen Monat hinweg beliefen sich die Kosten für Token in neun Regierungsorganisationen auf 13.000 £. Den Autoren zufolge konnten die Modelle Schwachstellen über Dienstgrenzen hinweg nachverfolgen, was herkömmliche Scanner nicht leisten können, und Geschäftslogik mit technischen Details verknüpfen.

Eine kritische Schwachstelle betraf veraltete GitHub Actions in einem Repository, das einen wichtigen digitalen Regierungsdienst unterstützte. Ein speziell formulierter Kommentar in einem offenen Pull Request hätte es einem externen Nutzer ermöglichen können, eine Workflow-Kette auszulösen. Dadurch hätte beliebiger Code aus der Ferne auf dem GitHub-Actions-Runner ausgeführt werden können, mit der möglichen Folge, dass Geheimnisse und Token abgerufen werden, auf die dieser Workflow zugreifen konnte. GC3 wird eine zweite Phase des Pilotprojekts mit weiteren Ministerien und Behörden sowie zusätzlichen Modellen starten und den Anwendungsbereich von öffentlichem Code auf geschlossene Quellcodebestände ausweiten.

Modellbewertungen und ein umfassenderes Regierungsprogramm

Narayan bestätigte, dass Wissenschaftler des AISI strenge Bewertungen der neuesten Generation fortschrittlicher KI-Modelle durchführen. Vorausgegangen war eine Zusammenarbeit mit führenden KI-Entwicklern und der US-Regierung.

Die Ankündigung verweist außerdem auf einen am 15. April 2026 veröffentlichten offenen Brief an Wirtschaftsführer. Darin forderten die Staatssekretärin im DSIT, Liz Kendall, und Sicherheitsminister Dan Jarvis Unternehmen dazu auf, Cybersicherheit in ihren Führungsetagen ernst zu nehmen, die Grundlagen mithilfe des staatlichen Programms Cyber Essentials zu schaffen und den Empfehlungen des NCSC zu folgen. Dazu gehöre auch, sich für den kostenlosen Early-Warning-Dienst des NCSC anzumelden, der Organisationen vor möglichen Cyberangriffen warnt, damit sie handeln können, bevor sich ein Vorfall verschärft.

Laut der Ankündigung sind die Maßnahmen erste Schritte auf einem längeren Weg; die weiterreichenden Arbeiten werden von der KI-Taskforce des Premierministers vorangetrieben. In der Ankündigung wurde auf die Zusage des Premierministers bei der UN-Generalversammlung im September verwiesen, alles Notwendige zu tun, um die Menschen in Großbritannien vor neu auftretenden KI-Risiken zu schützen. Außerdem hieß es, KI werde im Mittelpunkt der G20-Präsidentschaft des Vereinigten Königreichs stehen. In den kommenden Monaten wird sich die Taskforce auf die Bereiche konzentrieren, die am stärksten von KI betroffen sind: die nationale Sicherheit, das Wirtschaftswachstum sowie die Zukunft der öffentlichen Dienstleistungen und der Arbeitswelt.