CYGNVS’ benchmarkrapport om robusthed afslører mangler i beredskabet over for AI-hændelser

CYGNVS’ benchmarkrapport om robusthed, udarbejdet af CYGNVS i samarbejde med Marsh Risk, viser, at kløften vokser mellem organisationers brug af AI og deres evne til at håndtere hændelser, der involverer teknologien. Rapporten bygger på mere end 9.500 selvrapporterede besvarelser og oplyser, at 89 % af de adspurgte organisationer har oplevet en eller anden form for AI-hændelse, mens 46 % ville improvisere deres håndtering af en sådan hændelse.

Rapporten, der blev offentliggjort den 13. oktober 2026, undersøger et problem, der får større konsekvenser, efterhånden som AI går fra at generere indhold til at udføre arbejdsprocesser i virksomheder. En agent kan blive nyttig, når den får adgang til dokumenter, e-mail og virksomhedens systemer. Samtidig bliver det sværere at begrænse følgerne af en fejlagtig instruktion, kompromitterede loginoplysninger eller en ukontrolleret række handlinger.

Resultaterne tyder på, at indførelsen af AI og forberedelserne på at komme sig efter fejl udvikler sig i forskelligt tempo. Omkring 80 % af organisationerne i datasættet bruger generativ AI, men kun hver tredje tester deres AI mod angreb. Tre fjerdedele af organisationerne, der bruger AI, oplyste, at de har et udvalg for AI-styring, men det betyder ikke nødvendigvis, at de har afprøvet deres operationelle forsvar.

Hvad rapporten regner for en AI-hændelse

Hovedtallet skal ses i sammenhæng. Rapporten anvender en bred definition af AI-hændelser, der omfatter skadelige hallucinationer, bias, modeldrift, datalæk, agenter, der forfølger utilsigtede mål, fejl mellem agenter, der interagerer, og utilstrækkelige sikkerhedsforanstaltninger. Disse hændelser kan have meget forskellige årsager og konsekvenser.

Et upræcist svar til en kunde og en agent, der afslører fortrolige oplysninger, falder begge ind under denne bredere forståelse, men de er ikke ensartede sikkerhedshændelser. Tallet på 89 % bør derfor læses som en rapporteret erfaring med en eller anden form for AI-hændelse, ikke som belæg for, at næsten ni ud af ti organisationer har været udsat for et AI-forårsaget sikkerhedsbrud. Rapporten oplyser også, at 16 % oplever en AI-hændelse mindst én gang om ugen, uden at det dermed fastslås, at hændelserne alle har samme alvorlighedsgrad.

Denne forskel har betydning for planlægningen af håndteringen. Et skadeligt modeloutput kan kræve, at indholdet trækkes tilbage, og at berørte beslutninger gennemgås. Hvis en agent handler via tilsluttede værktøjer, kan det være nødvendigt at tilbagekalde tilladelser, bevare aktivitetslogge og kortlægge ændringer på tværs af flere systemer. En traditionel beredskabsplan for sikkerhedsbrud kan dække dele af begge typer håndtering, men teams skal stadig vide, hvilke AI-specifikke handlinger de kan iværksætte, og hvem der har bemyndigelse til at gøre det.

Planer er almindelige. Planer, der kan føres ud i livet, er mindre udbredte.

Rapporten opdeler beredskabet i fire faser: forberedelse, øvelse, håndtering og rapportering. På tværs af faserne går den samme svaghed igen: afstanden mellem at have dokumentation og at kunne føre den ud i livet under pres.

• Forberedelse: 92 % har dokumenterede processer for håndtering af hændelser, men kun 37 % har beredskabsplaner specifikt for ransomware, og 29 % har planer for hændelser hos tredjeparter.
• Øvelse: 17 % afholder ikke øvelser baseret på scenarier. Yderligere 66 % afholder dem hvert år eller hvert andet år.
• Håndtering: 67 % har ikke udpeget tydelige ansvarlige for deres vigtigste processer og afhængigheder.
• Rapportering: 69 % erkender, at der er betydelige mangler i registreringen af, hvem der gjorde hvad og hvornår.

Samtidig oplyser mere end seks ud af ti organisationer, at antallet af hændelser steg i de foregående 12 måneder, og 84 % gennemgår deres beredskabsplaner højst én gang om året. Tallene beskriver forskellige aspekter af beredskabet, men rejser tilsammen et praktisk spørgsmål: Hvor hurtigt bliver en plan forældet, når de systemer, leverandører og tilladelser, den beskriver, hele tiden ændrer sig?

Når AI indføres, kan ændringerne omfatte en ny model, en ekstra datakilde eller tilladelse til at udføre en opgave, der tidligere blev udført manuelt. Hver af disse ændringer kan påvirke, hvilken håndtering der er nødvendig, når noget går galt. En plan skal udpege den relevante systemansvarlige, de tilgængelige foranstaltninger til at begrænse hændelsen og den dokumentation, der skal bevares, mens hændelsen begrænses.

Hvorfor beredskabsinfrastrukturen skal have sin egen afgrænsning

Kun 33 % af de adspurgte organisationer har et dedikeret kommandmiljø via en separat kanal, som den AI, der undersøges, ikke kan observere eller påvirke. Det arkitektoniske problem er enkelt: Et beredskabsteam har brug for et sted at koordinere indsatsen, som forbliver pålideligt, når det berørte miljø ikke gør.

Forestil dig en agent med adgang til delte dokumenter og virksomhedens beskedsystem. Hvis de ansvarlige for hændelsen skriver deres undersøgelsesnotater og planer for at begrænse den i de samme systemer, kan agentens tilladelser også give den adgang til håndteringen. Det betyder ikke, at enhver agent, der fungerer forkert, vil skjule sin adfærd. Det betyder, at beredskabsarkitekturen ikke bør være afhængig af, at det berørte system fungerer korrekt.

CYGNVS tilbyder en platform til koordinering af sikkerhedsteams, virksomhedsledere og eksterne specialister. Deres kommandocenter for håndtering af AI-hændelser omfatter AI-specifikke beredskabsplaner, øvelsesscenarier og vejledning i håndtering. Virksomheden oplyser, at miljøet fungerer uafhængigt af kundernes virksomheders single sign-on, e-mail og infrastruktur.

Dens funktioner uden for det primære system omfatter separate brugeridentiteter og Isolate Mode, som begrænser hændelsesarbejdsområdet til autoriserede deltagere. Virksomheden beskriver også historiske snapshots og digitalt signerede adgangscertificeringer, der dokumenterer reaktionsaktiviteter. Det er funktioner til koordinering og håndtering af dokumentation; hvor effektive de er, afhænger stadig af, hvordan organisationer konfigurerer adgangen, fordeler ansvaret og øver sig i at bruge dem.

Øvelser skal omfatte de personer, der træffer beslutninger

Kun 15 % af organisationerne i rapporten gennemfører fuldt tværgående tabletopøvelser med deltagelse af juridiske medarbejdere, ledere og kommunikationsfolk. Næsten halvdelen betragter stadig primært øvelserne som sikkerheds- og it-øvelser og inddrager andre funktioner efter behov.

Det betyder, at vigtige beslutninger ikke bliver øvet tilstrækkeligt. Et sikkerhedsteam kan muligvis deaktivere en integration, men en virksomhedsleder skal måske godkende afbrydelsen af en tjeneste, der henvender sig til kunder. Juridiske medarbejdere og kommunikationsfolk skal måske vurdere, hvad man kan sige, før undersøgelsen er afsluttet. Ved at øve disse overdragelser bliver det lettere at afdække manglende beslutningskompetence og modstridende antagelser.

Eksterne leverandører er en anden afhængighed. Selvom 88 % oplyser, at de har krisekommunikationsplaner, har mere end fire ud af ti ikke sikret sig den eksterne ekspertise, som planerne bygger på. Kontaktlister og kontraktlige aftaler er operationelle dele af beredskabet, især når flere organisationer kan få brug for de samme specialister under en omfattende hændelse.

Sådan læses benchmarkrapporten

Metodebeskrivelsen omfatter mere end 9.500 spørgeskemabesvarelser indsamlet fra januar 2023 til september 2026 på tværs af 21 brancher i lande i Asien, Europa og Nordamerika. Besvarelserne var selvrapporterede, anonymiserede og analyseret samlet. Datasættet omfatter organisationer både med og uden en kritisk cyber- eller AI-hændelse inden for de foregående 24 måneder.

Der er tale om en flerårig indsamling af spørgeskemabesvarelser, ikke én ny meningsmåling blandt 9.500 forskellige virksomheder. Den offentliggjorte metodebeskrivelse fastslår ikke, at der er tale om en sandsynlighedsbaseret stikprøve, der repræsenterer alle organisationer, og angiver heller ikke stikprøvens størrelse for hvert af de fremhævede resultater. Procenterne er nyttige indikatorer i datasættet, men bør ikke opfattes som præcise estimater af den generelle forekomst af hændelser.

Rapporten konkluderer, at organisationer, der for nylig har oplevet kritiske hændelser, har tendens til at være bedre forberedt på flere områder. Denne sammenhæng taler for at undersøge, hvad disse organisationer har ændret, men beviser ikke i sig selv, at erfaringerne med hændelser har ført til forbedringerne. CYGNVS sælger også software til håndtering af hændelser, og virksomhedens kommercielle interesse er derfor relevant, når dens anbefalinger vurderes.

Fra resultater til operationelle ændringer

Sammen med rapporten lancerer CYGNVS funktionen Resilience Benchmark, som ifølge virksomheden giver kunderne mulighed for at sammenligne deres beredskab efter branche, størrelse og geografi. Ikke-kunder kan gennemføre en gratis vurdering og få en personlig benchmarkrapport. Rapporten og vurderingen er tilgængelige via CYGNVS’ ressource om modstandsdygtighed.

Det mest nyttige er at afprøve konkrete handlinger: hvem der kan sætte en agent ud af drift, hvor beredskabspersonalet kommunikerer, hvis virksomhedens systemer er kompromitteret, hvilke optegnelser der bevares, og om eksterne specialister kan tilslutte sig uden improviserede nødadgange. Når disse evner måles, får bestyrelser og sikkerhedsledere et klarere billede af beredskabet, end en politik alene kan give.

I takt med at organisationer udvider AI’s beføjelser, skal beredskabet udvides tilsvarende. CYGNVS Resilience Benchmark Report synliggør dette gab. For at lukke det skal teams omsætte skriftlige hensigtserklæringer til beslutninger og kontroller, som de allerede har øvet.