Spojené království oznamuje soubor opatření ke zmírnění rizik spojených s AI a rozšiřuje pilotní programy kybernetické obrany

Vláda Spojeného království oznámila soubor opatření na ochranu Británie před riziky, která přináší stále výkonnější AI. Součástí je také rozšíření programu kybernetické obrany zaměřeného na nejpokročilejší AI, který podle vlády již pomohl odhalit a odstranit více než 1 000 potenciálních zranitelností ve vládních systémech.

Oznámení vydaly Cabinet Office, AI Security Institute (AISI), National Cyber Security Centre (NCSC) a Department for Digital, Culture, Media and Sport. Ministr pro AI Kanishka Narayan představil opatření v Base One, vědeckotechnickém inkubátoru Imperial College London, a zasazoval se o přístup k odolnosti, do něhož se zapojí celá společnost. Varoval, že s rostoucím výkonem systémů nejpokročilejší AI a jejich schopností jednat autonomně mohou být následky selhání nebo zneužití mnohem závažnější.

„Chci, aby se Británie stala jednou z nejobtížněji napadnutelných zemí na světě, pokud jde o útoky využívající umělou inteligenci,“ řekl Narayan. Zavázal se přijmout zákony všude, kde to bude nutné, a opírat se o britské vědecké znalosti, technologické schopnosti a instituce, aby bylo možné porozumět stále výkonnějším systémům, čelit novým hrozbám a reagovat, když se něco pokazí. Uvedl, že společnosti vyvíjející nejvýkonnější systémy AI na světě by měly brát vážně varování svých vědců před závažnými riziky, prověřovat neočekávané chování a neuvádět na trh žádný systém, jehož rizika nelze dostatečně kontrolovat.

Podle oznámení tato iniciativa navazuje na dva pilotní projekty, které pomohly odhalit a odstranit zranitelnosti a zjistit potenciální kybernetické hrozby. Vláda uvedla, že rozšíření programu pomůže chránit veřejné služby, na něž se lidé každý den spoléhají, krátkodobě snížit rizika a podpořit dlouhodobější zavádění AI ve veřejném sektoru.

Změny kybernetického zákona a připravenost na incidenty související s AI

Vláda uvedla, že prověří možnosti posílení některých částí zákona o kybernetické bezpečnosti a odolnosti i širšího regulačního rámce, aby byly základní služby, například nemocnice a dodavatelé energií a dalších veřejných služeb, lépe chráněny před novými riziky souvisejícími s AI. Patří mezi ně i riziko ztráty kontroly nad AI, kdy autonomní systémy uniknou lidskému dohledu. Vláda také posoudí, jak mají být závažné incidenty související s AI a situace, kdy k nim téměř došlo, rozpoznávány a oznamovány a jak lze rychle vyvodit poučení, aby se snížilo riziko budoucí újmy. Podrobnosti případných opatření se projednají s poslanci, technickými odborníky a provozovateli, kteří by je měli uskutečňovat.

Ve spolupráci s NCSC a AISI se také pracuje na přípravě reakce na incidenty zahrnující agenty AI, tedy systémy schopné plnit složité úkoly s minimálním lidským dohledem. Jak uvedlo oznámení, takový incident by se mohl rozvinout rychleji a zasáhnout širší oblast než jiné závažné incidenty, na něž jsou vlády připraveny reagovat. Zvládnutí této výzvy si vyžádá nové odborné znalosti a schopnosti.

Soubor opatření se týká také ověřování AI, které oznámení popisuje jako rozvíjející se obor zkoumající, zda tvrzení o vývoji, testování a hodnocení systémů AI obstojí při důkladném prověřování. Vláda uvedla, že Spojené království má dobré předpoklady stát se v tomto oboru vůdčí zemí a že podrobnosti o podpoře britských aktivit v oblasti ověřování AI představí v nadcházejících měsících.

Ministryně pro kybernetickou bezpečnost Liz Lloydová uvedla, že kybernetické incidenty nadále narušují činnost velkých i malých organizací v soukromém i veřejném sektoru, a vytvářejí tak podle ní zásadní potřebu být v oblasti kybernetické bezpečnosti vždy o krok napřed. „Vláda rozšiřuje projekty, které pilotně ověřují využití AI k ochraně veřejných služeb, a zároveň prosazuje kybernetický zákon na posílení naší obrany. Kybernetická bezpečnost a připravenost na AI se tak stávají ústřední součástí digitální budoucnosti Spojeného království,“ uvedla Lloydová.

Pilotní projekt, z něhož pocházejí údaje o zranitelnostech

Oznámení na podporu uváděných čísel cituje případovou studii zveřejněnou 12. června 2026 Department for Science, Innovation and Technology (DSIT) a NCSC. Popisuje pilotní projekt, v němž Government Cyber Coordination Centre (GC3), společný projekt NCSC a DSIT, pořádalo každý týden prezenční hackathony využívající nejpokročilejší AI ke skenování veřejných repozitářů kódu napříč vládními institucemi. Týmy ve spolupráci s odborníky z AISI a NCSC hledaly dosud neodhalené zranitelnosti a snažily se je odstranit dříve, než by mohly být zneužity. GC3 nenařídilo jednotný postup; týmy získaly přístup k modelům a vytvořily si vlastní nástroje.

Případová studie popisuje několik pracovních postupů. Jeden tým zpracovával každý veřejný repozitář v šestistupňovém řetězci agentů AI (prvotní třídění, ověřování, audit, trasování, posouzení a shrnutí), v němž každá fáze četla výstup předchozí fáze a kriticky ho prověřovala; při ruční eskalaci člen týmu kontroloval každý řádek, znovu ověřoval, zda je zranitelnost vystavena riziku, a řešil falešně pozitivní nálezy. Jiný tým nejprve použil běžné skenovací nástroje, včetně Gitleaks, Trivy, Semgrep a Hadolint, a poté přidal tři fáze využívající modely, zaměřené na vyhledávání, zkoumání řetězců útoků a prvotní třídění. Třetí oddělení převedlo audit napříč organizací, který zahrnoval stovky služeb, do pěti oborově zaměřených dovedností Claude Skills.

Účastníci podle případové studie identifikovali celkem 407 zjištění, včetně kritických slabin, které umožňovaly obejít ověřování totožnosti, vystavit data a vzdáleně spustit kód. Všechny kritické slabiny byly odstraněny a u žádného zjištění nebyly nalezeny důkazy o zneužití; náklady na tokeny činily během jednoho měsíce napříč devíti vládními organizacemi 13 000 £. Autoři uvedli, že modely dokázaly vysledovat zranitelnosti napříč hranicemi služeb, což tradiční skenery neumějí, a propojit obchodní logiku s technickými podrobnostmi.

Jedno kritické zjištění se týkalo zastaralých GitHub Actions v repozitáři podporujícím klíčovou digitální službu státní správy. Speciálně vytvořený komentář k otevřenému požadavku na začlenění změn mohl externímu uživateli umožnit spustit řetězec pracovních postupů, který by vedl k libovolnému vzdálenému spuštění kódu na běhovém prostředí GitHub Actions a potenciálně umožnil získat tajné údaje a tokeny dostupné danému pracovnímu postupu. GC3 zahájí druhou fázi pilotního projektu, do níž zapojí více ministerstev, přidá další modely a rozšíří její záběr z veřejného kódu na uzavřené systémy.

Hodnocení modelů a širší vládní program

Narayan potvrdil, že vědci z AISI provádějí důkladná hodnocení nejnovější generace pokročilých modelů AI v návaznosti na spolupráci s předními vývojáři AI a vládou USA.

Oznámení odkazuje také na otevřený dopis vedoucím pracovníkům firem zveřejněný 15. dubna 2026, v němž státní tajemnice DSIT Liz Kendall a ministr pro bezpečnost Dan Jarvis vyzvali firmy, aby kybernetickou bezpečnost braly vážně na nejvyšší úrovni svých organizací, řádně zvládly základní opatření prostřednictvím vládního programu Cyber Essentials a řídily se doporučeními NCSC. K nim patří i registrace do bezplatné služby Early Warning, která organizace upozorňuje na potenciální kybernetické útoky, aby mohly zasáhnout dříve, než incident přeroste v závažnější problém.

Podle oznámení jsou tato opatření prvními kroky na delší cestě a širší úsilí vede premiérova pracovní skupina pro AI. Oznámení připomnělo závazek premiéra, který zazněl v září na Valném shromáždění OSN: učinit vše nezbytné pro ochranu obyvatel Británie před riziky AI, jakmile se objeví. Uvedlo také, že AI bude ústředním tématem předsednictví Spojeného království ve skupině G20. V nadcházejících měsících se pracovní skupina zaměří na oblasti, na které má AI největší dopad: národní bezpečnost, hospodářský růst a budoucnost veřejných služeb a pracovních sil.