Wielka Brytania ogłasza pakiet działań dotyczących ryzyka związanego z AI i rozszerza pilotaże obrony cybernetycznej

Rząd Wielkiej Brytanii ogłosił pakiet działań 12 października 2026 r., aby chronić kraj przed zagrożeniami wynikającymi z coraz potężniejszych systemów AI. Wśród działań znalazło się rozszerzenie programu dotyczącego cyberbezpieczeństwa zaawansowanych systemów AI, który — jak poinformował rząd — pomógł już wykryć i usunąć ponad 1000 potencjalnych podatności w systemach administracji publicznej.

Komunikat wydały Biuro Gabinetu, Instytut Bezpieczeństwa AI (AISI), National Cyber Security Centre (NCSC) oraz Departament ds. Cyfryzacji, Kultury, Mediów i Sportu. Minister ds. AI Kanishka Narayan przedstawił działania w Base One, inkubatorze naukowo-technologicznym Imperial College London, argumentując, że odporność wymaga zaangażowania całego społeczeństwa. Ostrzegł, że wraz ze wzrostem mocy zaawansowanych systemów AI i ich zdolności do autonomicznego działania potencjalne skutki awarii lub złośliwego użycia mogą stać się znacznie poważniejsze.

„Chcę, by Wielka Brytania stała się jednym z najtrudniejszych do zaatakowania przy użyciu sztucznej inteligencji krajów na świecie” — powiedział Narayan. Zapowiedział wprowadzenie przepisów wszędzie tam, gdzie będzie to konieczne, oraz wykorzystanie brytyjskiej wiedzy naukowej, potencjału technologicznego i zasobów instytucjonalnych, by lepiej rozumieć coraz potężniejsze systemy, przeciwdziałać nowym zagrożeniom i reagować na problemy. Powiedział, że firmy tworzące najpotężniejsze systemy AI na świecie powinny brać pod uwagę ostrzeżenia swoich naukowców o poważnych zagrożeniach, badać nieoczekiwane zachowania systemów i nie udostępniać żadnego systemu, którego ryzyka nie da się odpowiednio kontrolować.

Jak podano w komunikacie, działania te opierają się na dwóch pilotażach, które pomogły wykrywać i usuwać podatności oraz identyfikować potencjalne zagrożenia cybernetyczne. Według rządu rozszerzenie programu pomoże chronić usługi publiczne, z których ludzie korzystają na co dzień, ograniczyć krótkoterminowe ryzyko i wesprzeć szersze wdrażanie tych rozwiązań w sektorze publicznym w dłuższej perspektywie.

Zmiany w ustawie o cyberbezpieczeństwie i odporności oraz przygotowanie na incydenty związane z AI

Rząd poinformował, że rozważy wzmocnienie wybranych przepisów ustawy o cyberbezpieczeństwie i odporności oraz szerszego systemu regulacyjnego, aby lepiej chronić kluczowe usługi, takie jak szpitale i przedsiębiorstwa użyteczności publicznej, przed nowymi zagrożeniami związanymi z AI. Obejmują one ryzyko utraty kontroli nad AI, gdy autonomiczne systemy wymykają się spod ludzkiego nadzoru. Rząd przeanalizuje również, jak należy identyfikować i zgłaszać poważne incydenty związane z AI oraz sytuacje potencjalnie niebezpieczne, w których do incydentu o mało nie doszło, a także jak szybko wyciągać wnioski, by ograniczyć ryzyko przyszłych szkód. Szczegóły ewentualnych działań zostaną wypracowane wspólnie z parlamentarzystami, ekspertami technicznymi i operatorami, którzy będą musieli je wdrożyć.

Trwają również prace z udziałem NCSC i AISI nad sposobami reagowania na incydenty z udziałem agentów AI — systemów zdolnych do wykonywania złożonych zadań przy niewielkim nadzorze człowieka. Jak podano w komunikacie, taki incydent mógłby rozwijać się szybciej i rozprzestrzeniać szerzej niż inne poważne incydenty, na które rządy są przygotowane, a sprostanie temu wyzwaniu będzie wymagało nowej wiedzy specjalistycznej i nowych zdolności.

Pakiet obejmuje również weryfikację AI, którą w komunikacie opisano jako rozwijającą się dziedzinę służącą sprawdzaniu, czy deklaracje dotyczące sposobu opracowywania, testowania i oceny systemów AI wytrzymują krytyczną analizę. Rząd poinformował, że Wielka Brytania ma dobre warunki, by odegrać w tej dziedzinie wiodącą rolę, a szczegóły wsparcia dla brytyjskich działań na rzecz weryfikacji AI zostaną przedstawione w nadchodzących miesiącach.

Minister ds. cyberbezpieczeństwa Liz Lloyd powiedziała, że incydenty cybernetyczne nadal zakłócają działalność organizacji różnej wielkości w sektorze prywatnym i publicznym, przez co — jak to ujęła — utrzymywanie przewagi w dziedzinie cyberbezpieczeństwa stało się kwestią kluczową dla biznesu. „Rozwijając projekty pilotażowe wykorzystujące AI do ochrony usług publicznych i kontynuując prace nad ustawą o cyberbezpieczeństwie, która wzmocni naszą obronę, rząd stawia cyberbezpieczeństwo i przygotowanie na wyzwania związane z AI w centrum cyfrowej przyszłości Wielkiej Brytanii” — powiedziała Lloyd.

Pilotaż, z którego pochodzą dane o podatnościach

Na poparcie podanych danych komunikat przytacza studium przypadku opublikowane 12 czerwca 2026 r. przez Departament ds. Nauki, Innowacji i Technologii (DSIT) oraz NCSC. Opisuje ono pilotaż, w ramach którego Government Cyber Coordination Centre (GC3), partnerstwo NCSC i DSIT, organizowało cotygodniowe stacjonarne hackathony wykorzystujące zaawansowaną AI do skanowania publicznych repozytoriów kodu w całej administracji rządowej. Zespoły współpracowały ze specjalistami z AISI i NCSC, by znaleźć wcześniej niezidentyfikowane podatności i ograniczyć związane z nimi ryzyko, zanim można by je wykorzystać. GC3 nie narzuciło jednego sposobu działania: zespoły uzyskały dostęp do modeli i samodzielnie zbudowały własne narzędzia.

Studium przypadku opisuje kilka potoków przetwarzania. Jeden zespół przepuszczał każde publiczne repozytorium przez sześcioetapowy łańcuch agentów AI (wstępna selekcja, walidator, audytor, analizator ścieżek, sędzia i podsumowanie), w którym każdy etap analizował i kwestionował wyniki poprzedniego. W razie potrzeby sprawę eskalowano do pracownika zespołu, który ręcznie sprawdzał każdy wiersz, ponownie weryfikował ekspozycję i rozpatrywał fałszywe alarmy. Inny zespół najpierw korzystał z konwencjonalnych narzędzi do skanowania, takich jak Gitleaks, Trivy, Semgrep i Hadolint, a następnie dodawał trzy etapy pracy modelu obejmujące wykrywanie, analizę łańcuchów ataku i wstępną selekcję. Trzeci departament sprowadził audyt obejmujący całą organizację i setki usług do pięciu Claude Skills dostosowanych do konkretnych dziedzin.

Jak wynika z opisu przypadku, uczestnicy zidentyfikowali łącznie 407 ustaleń, w tym krytyczne luki umożliwiające obejście uwierzytelniania, ujawnienie danych i zdalne wykonanie kodu w usługach. Wszystkie krytyczne luki zostały usunięte, a w przypadku żadnego z ustaleń nie znaleziono dowodów na ich wykorzystanie. Koszt tokenów wyniósł 13 000 GBP w ciągu miesiąca w dziewięciu organizacjach rządowych. Autorzy stwierdzili, że modele śledziły luki w zabezpieczeniach między granicami usług, czego nie potrafią tradycyjne skanery, oraz łączyły logikę biznesową ze szczegółami technicznymi.

Jedno krytyczne ustalenie dotyczyło starszych konfiguracji GitHub Actions w repozytorium wspierającym kluczową rządową usługę cyfrową. Odpowiednio spreparowany komentarz w otwartym żądaniu ściągnięcia mógł pozwolić zewnętrznemu użytkownikowi uruchomić łańcuch przepływów pracy, prowadząc do dowolnego zdalnego wykonania kodu na runnerze GitHub Actions i stwarzając potencjalną możliwość wykradzenia sekretów i tokenów dostępnych dla danego przepływu pracy. GC3 rozpocznie drugą fazę pilotażu z udziałem większej liczby departamentów i dodatkowych modeli, a także rozszerzy go z publicznego kodu na środowiska z zamkniętym kodem źródłowym.

Ocena modeli i szerszy program rządowy

Narayan potwierdził, że naukowcy z AISI przeprowadzają rygorystyczne oceny najnowszej generacji zaawansowanych modeli AI, kontynuując prace prowadzone z czołowymi twórcami AI i rządem USA.

W komunikacie wspomniano również o liście otwartym do liderów biznesu, opublikowanym 15 kwietnia 2026 r. Sekretarz stanu w DSIT Liz Kendall i minister ds. bezpieczeństwa Dan Jarvis wezwali w nim firmy, by najwyższe kierownictwo traktowało cyberbezpieczeństwo poważnie, zadbało o podstawowe zabezpieczenia w ramach rządowego programu Cyber Essentials oraz stosowało się do zaleceń NCSC, w tym zarejestrowało się w bezpłatnej usłudze Early Warning, która powiadamia organizacje o potencjalnych cyberatakach, aby mogły podjąć działania, zanim incydent się nasili.

Jak wynika z komunikatu, podjęte działania to pierwsze kroki na dłuższej drodze, a szersze prace prowadzi grupa zadaniowa premiera ds. AI. W komunikacie przypomniano o zobowiązaniu premiera złożonym we wrześniu podczas Zgromadzenia Ogólnego ONZ, że podejmie wszelkie niezbędne działania, aby chronić mieszkańców Wielkiej Brytanii przed zagrożeniami związanymi z AI w miarę ich pojawiania się. Zapowiedziano również, że AI będzie kluczowym elementem przewodnictwa Wielkiej Brytanii w G20. W nadchodzących miesiącach grupa zadaniowa skupi się na obszarach, na które AI ma największy wpływ: bezpieczeństwie narodowym, wzroście gospodarczym oraz przyszłości usług publicznych i rynku pracy.