Storbritannia varsler KI-risikopakke og utvider pilotprosjekter innen cyberforsvar

Den britiske regjeringen kunngjorde en tiltakspakke 12. oktober 2026 for å beskytte Storbritannia mot risikoene som stadig kraftigere KI utgjør. Tiltakene omfatter blant annet en utvidelse av et cybersikkerhetsprogram for avansert KI, som regjeringen sier allerede har bidratt til å avdekke og utbedre mer enn 1 000 potensielle sårbarheter i offentlige systemer.

Kunngjøringen ble sendt ut av Cabinet Office, AI Security Institute (AISI), National Cyber Security Centre (NCSC) og Department for Digital, Culture, Media and Sport. KI-minister Kanishka Narayan presenterte tiltakene på Base One, Imperial College Londons inkubator for vitenskap og teknologi, og argumenterte for en samfunnsomfattende tilnærming til motstandsdyktighet. Han advarte om at konsekvensene av feil eller ondsinnet bruk kan bli langt mer alvorlige etter hvert som avanserte KI-systemer blir kraftigere og i stand til å handle autonomt.

«Jeg vil at Storbritannia skal bli et av landene i verden som er vanskeligst å angripe ved hjelp av kunstig intelligens», sa Narayan. Han lovet å lovfeste der det er nødvendig og å støtte seg på britisk vitenskapelig ekspertise, teknologisk kapasitet og institusjoner for å forstå stadig kraftigere systemer, motvirke nye trusler og håndtere situasjoner der noe går galt. Han sa at selskaper som utvikler verdens kraftigste KI-systemer, bør ta forskernes advarsler om alvorlige farer på alvor, undersøke uventet atferd og holde tilbake systemer som ikke kan risikokontrolleres godt nok.

Ifølge kunngjøringen bygger tiltaket videre på to pilotprosjekter som har bidratt til å avdekke og utbedre sårbarheter og oppdage potensielle cybertrusler. Regjeringen sier at en utvidelse av programmet vil bidra til å beskytte de offentlige tjenestene folk er avhengige av hver dag, redusere risikoen på kort sikt og støtte en bredere innføring i offentlig sektor på lengre sikt.

Endringer i cybersikkerhetsloven og beredskap for KI-hendelser

Regjeringen sa at den vil undersøke om deler av lovforslaget om cybersikkerhet og motstandsdyktighet og det bredere regelverket bør styrkes, slik at kritiske tjenester som sykehus og forsyningsselskaper blir bedre beskyttet mot nye KI-relaterte risikoer. Dette omfatter risikoen for tap av kontroll over KI, der autonome systemer unndrar seg menneskelig tilsyn. Regjeringen vil også se på hvordan alvorlige KI-hendelser og nestenulykker bør identifiseres og rapporteres, og hvordan erfaringer raskt kan omsettes i læring for å redusere risikoen for framtidig skade. Detaljene i eventuelle tiltak skal utarbeides i samarbeid med parlamentarikere, tekniske eksperter og aktørene som skal gjennomføre dem.

Det pågår også et arbeid med NCSC og AISI for å finne ut hvordan hendelser som involverer KI-agenter, altså systemer som kan utføre komplekse oppgaver med lite menneskelig tilsyn, skal håndteres. Ifølge kunngjøringen kan slike hendelser utvikle seg raskere og spre seg bredere enn andre større hendelser myndighetene er rustet til å håndtere. Å møte denne utfordringen vil kreve ny ekspertise og nye kapasiteter.

Tiltakspakken omfatter også KI-verifisering, som kunngjøringen beskriver som et framvoksende fagfelt der man undersøker om påstander om hvordan KI-systemer er utviklet, testet og evaluert, tåler nærmere granskning. Regjeringen sa at Storbritannia ligger godt an til å ta en ledende rolle på feltet, og at flere detaljer om støtte til britisk KI-verifisering vil bli lagt fram i løpet av de kommende månedene.

Cybersikkerhetsminister Liz Lloyd sa at cyberhendelser fortsatt rammer organisasjoner av alle størrelser i både privat og offentlig sektor, og skaper det hun beskrev som et forretningskritisk behov for å ligge i forkant innen cybersikkerhet. «Ved å trappe opp prosjekter der KI prøves ut for å beskytte offentlige tjenester, og ved å arbeide videre med en cybersikkerhetslov for å styrke forsvaret vårt, setter regjeringen cybersikkerhet og KI-beredskap i sentrum for Storbritannias digitale framtid», sa Lloyd.

Pilotprosjektet bak tallene for sårbarheter

Kunngjøringen viser til en casestudie publisert 12. juni 2026 av Department for Science, Innovation and Technology (DSIT) og NCSC som grunnlag for tallene. Studien dokumenterer et pilotprosjekt der Government Cyber Coordination Centre (GC3), et samarbeid mellom NCSC og DSIT, arrangerte ukentlige hackatoner med fysisk oppmøte. Der brukte deltakerne avansert KI til å skanne offentlige kodearkiver på tvers av statsforvaltningen. Teamene samarbeidet med AISI- og NCSC-spesialister for å finne og redusere tidligere uidentifiserte sårbarheter før de kunne utnyttes. GC3 påla ikke teamene én bestemt framgangsmåte; de fikk tilgang til modeller og utviklet sine egne verktøy.

Casestudien beskriver flere arbeidsflyter. Ett team kjørte hvert offentlig kodearkiv gjennom en kjede med seks trinn av KI-agenter (førstesortering, validering, revisjon, sporing, vurdering og oppsummering), der hvert trinn leser og utfordrer det foregående. I tillegg var det en manuell eskaleringsprosess: Et teammedlem kontrollerte hver linje, verifiserte eksponeringen på nytt og håndterte falske positive. Et annet team brukte først tradisjonelle skanneverktøy, blant annet Gitleaks, Trivy, Semgrep og Hadolint, og la deretter til tre modelltrinn for henholdsvis kartlegging, undersøkelse av angrepskjeder og førstesortering. En tredje etat sammenfattet en gjennomgang av hele organisasjonen, som omfattet hundrevis av tjenester, i fem domenespesifikke Claude Skills.

Deltakerne identifiserte til sammen 407 funn, inkludert kritiske sårbarheter som kunne føre til omgåelse av autentisering, dataeksponering og kjøring av kode på avstand, ifølge casestudien. Alle kritiske sårbarheter ble utbedret, og det ble ikke funnet bevis for at noen av funnene var utnyttet. Dette kostet 13 000 pund i tokens fordelt på ni offentlige organisasjoner i løpet av måneden. Forfatterne sa at modellene sporet sårbarheter på tvers av tjenestegrenser, noe tradisjonelle skanneverktøy ikke kan gjøre, og koblet forretningslogikk med tekniske detaljer.

Ett kritisk funn gjaldt eldre GitHub Actions i et kodelager som støtter en viktig digital tjeneste for myndighetene. En spesiallaget kommentar i en åpen pull-forespørsel kunne gjøre det mulig for en ekstern bruker å utløse en kjede av arbeidsflyter, som kunne føre til vilkårlig kjøring av kode på avstand på GitHub Actions-runneren og gi en mulig vei til å hente ut hemmelighetene og tilgangstokenene som var tilgjengelige for arbeidsflyten. GC3 starter en andre fase av pilotprosjektet med flere departementer, flere modeller og en utvidelse fra offentlig kode til kodebaser med lukket kildekode.

Evaluering av modeller og et bredere regjeringsprogram

Narayan bekreftet at forskere ved AISI gjennomfører grundige evalueringer av den nyeste generasjonen avanserte KI-modeller, etter arbeid med ledende KI-utviklere og den amerikanske regjeringen.

I kunngjøringen vises det også til et åpent brev til næringslivsledere, publisert 15. april 2026, der DSIT-minister Liz Kendall og sikkerhetsminister Dan Jarvis oppfordret bedrifter til å ta cybersikkerhet på alvor på øverste nivå i organisasjonene, sørge for at grunnleggende tiltak er på plass gjennom myndighetenes Cyber Essentials-ordning og følge rådene fra NCSC. Dette omfatter å melde seg på den kostnadsfrie varslingstjenesten Early Warning, som varsler organisasjoner om mulige cyberangrep slik at de kan handle før en hendelse eskalerer.

Ifølge kunngjøringen er tiltakene de første stegene på en lengre reise, og det bredere arbeidet ledes av statsministerens arbeidsgruppe for kunstig intelligens. I kunngjøringen ble det vist til statsministerens løfte i FNs generalforsamling i september om å gjøre det som er nødvendig for å beskytte britene mot KI-risikoer etter hvert som de oppstår. Det ble også sagt at KI vil stå sentralt under Storbritannias G20-formannskap. I månedene som kommer, vil arbeidsgruppen rette oppmerksomheten mot områdene som påvirkes mest av KI, blant annet nasjonal sikkerhet, økonomisk vekst og framtiden for offentlige tjenester og arbeidslivet.