Genovervej AI-modstandsdygtighed: Hvorfor det er tid til at opgive ‘Sæt og glem’-modellen

En nylig Gallup-undersøgelse peger på en tendens med stigende AI‑adoption, da mere end halvdelen af de beskæftigede voksne siger, de bruger teknologien mindst et par gange om året. Disse data er kun et fingerpeg på den hurtige AI‑adoption, der foregår i virksomhedsmiljøer. Selvom flere ledere i store virksomheder begynder at stille spørgsmålstegn ved AI‑afkastet, har det ikke stoppet organisationer fra at læne sig op ad teknologien for at strømlinet manuelle opgaver og maksimere produktiviteten.

Mens denne adoption fortsætter, kan organisationer fristes til at overse skadelige fejltrin i automatiserede arbejdsgange. De ser på AI som en færdig løsning, der kun kræver, at IT‑teams sætter teknologien op, lader den køre og “glemmer”, at den eksisterer. Nogle sikkerhedsteams forsøger at modvirke denne tankegang ved at skabe automatiserings‑playbooks, der skal fremme sikker og tryg AI‑brug. Alligevel efterlader selv de bedste IT‑ og sikkerhedsteams kun lidt plads til justering i disse playbooks. Derfor kan virksomheder ikke sikkert udvikle sig sammen med AI, mens teknologien selv udvikler sig.

Som virksomheder giver AI større myndighed i forretningskritiske arbejdsgange, skal operationel smidighed blive den nye mandat for nutidens organisationer. For at dette kan blive en universel praksis, må sikkerhedslederne i store virksomheder opgive en “sæt‑og‑glem”-mentalitet og bygge for modstandsdygtighed.

Forståelse af automatiseringsparadokset

AI‑drevet automatisering leverer massive produktivitetsgevinster på tværs af mange virksomhedsfunktioner. Lad os tage cybersikkerhed som eksempel. AI‑værktøjer gør det muligt for analytikere at tage ekstra skridt, som de aldrig havde tid til i overbelastede og overvældede sikkerheds‑operationscentre. Dette inkluderer opgaver som prioritering af alarmer, gennemgang af hændelser, trusselsdetektion, krydsreferencetjek og at få en second opinion. I modsætning til nogle topledere i C‑suite forbliver CISOs generelt optimistiske omkring den værdi, AI vil levere i fremtiden. Ifølge data fra “The CISO Report: From Risk to Resilience in the AI Era”, mener 83 % af CISOs, at automatisering er den investering, der mest sandsynligt vil overgå forventningerne.

I lyset af disse fordele forbliver et paradoks. Den samme rapport fremhæver den skepsis, som CISOs har over for AI, fordi de frygter konsekvenserne af autonome fejl. 83 % af CISOs rangerer påvirkninger fra hallucinationer, såsom missede alarmer eller falske positiver, som deres største bekymring ved agentisk AI. Der er tilstrækkelige beviser, der understøtter disse bekymringer om hallucinationer. Et stort kommercielt flyselskab blev juridisk ansvarliggjort og pålagt at betale erstatning, efter at deres kundeservice‑chatbot hallucinerede en politik om refusion af sorgpriser. Et trussels‑intelligens‑firma står over for juridiske problemer, fordi det angiveligt udgav en rapport, der forbinder en startup med hackere fra en fremmed magt. Når AI tager fejl, kan konsekvenserne række ud over interne systemer til både kapital og omdømme.

Problemet med forældede playbooks

AI‑fokuserede sikkerheds‑playbooks er grundlaget for en vellykket, sikker AI‑adoption. Problemer opstår dog, når disse playbooks aldrig ændres. Trusler, IT‑infrastruktur og forretningsmiljøer er i konstant udvikling. AI gør det muligt for trusselsaktører at skalere angreb, mens voksende og stadig mere komplekse IT‑miljøer gør det sværere at opdage dem. Samtidig, når virksomheder giver AI større ansvar, bliver konsekvenserne af fejl mere betydningsfulde.

Hvis alle disse faktorer fortsætter med at udvikle sig, skal automatiseringslogikken også udvikle sig. Frosne automatiserings‑playbooks forhindrer dette. De lader sikkerhedsteams stå over for aktuelle problemer med forældet logik. På visse tidspunkter kan dette scenario ende værre end hvis sikkerhedsteamet slet ikke havde en playbook.

For at playbooks skal blive levende organismer, der passer til den aktuelle AI‑implementering og dermed fremmer intern modstandsdygtighed, skal de:

• Testes løbende mod ny trussels‑intelligens
• Opdateres efter reelle hændelser
• Udrulles, når de ikke længere er effektive eller giver værdi

Denne tankegang stemmer overens med vejledningen fra Cybersecurity and Infrastructure Security Agency (CISA) og andre globale cybersikkerheds‑agenturer, som fremmer kontinuerlig overvågning af AI‑systemer og løbende menneskelig indgriben.

Implementering af modstandsdygtigheds‑formlen

AI‑æraen kræver, at virksomheder bevæger sig væk fra en tankegang, hvor AI betragtes som en punktløsning, eller blot “slår automatisering på” eksisterende brugssager. Organisationer skal i stedet opbygge en kultur for modstandsdygtighed, der gør det muligt for både IT‑personale og systemer at forstærke, hvor AI fungerer korrekt — og reagere effektivt, når teknologien fejler.

En tre‑delers praktisk formel kan hjælpe med at indlejre denne modstandsdygtighed i automatiserede handlinger:

• Selvtillid: For hver automatiseret arbejdsgang bør teamet spørge sig selv: Hvor sikre er vi på den udløser, der initierede den automatiserede respons?
• Omvendelighed: Er handlingen omvendelig? I så fald, hvor hurtigt og sikkert kan vi gøre det?
• Eksplosionsradius: Hvor vidtrækkende er konsekvenserne, hvis en fejl spreder sig, og hvor forretningskritisk er den berørte ressource?

De rette observabilitets‑ og overvågningsværktøjer er afgørende for at besvare disse spørgsmål. Teamet bør udnytte en samlet observabilitets‑ og datastyringsplatform, så de fuldt ud kan forstå, hvor i et IT‑miljø en automatiseret respons kan forekomme, hvilke andre aktiver den påvirker, og de tilknyttede forretningsmæssige konsekvenser. At udføre denne øvelse regelmæssigt gør det muligt for sikkerhedsteams at holde AI‑playbooks opdaterede. Desuden muliggør det korrekte “human‑in‑the‑loop”-praksisser, da IT‑teams ved, hvor og hvordan de skal gribe ind for at forhindre, at uhensigtsmæssige automatiserede handlinger får omfattende og kostbare virkninger.

Sæt‑og‑glem‑modellen er forbi

Det er vigtigt for den moderne CISO og IT‑ledere at indse, at ansvaret hviler på dem, når AI‑adfærd skal kontrolleres. Jo mere AI berører vigtige virksomhedsopgaver, desto større byrde på chef‑cybersikkerhedschefer. En god tommelfingerregel er: “Automatisering ændrer, hvem der trykker på knappen. Den ændrer ikke, hvem der er ansvarlig for, at knappen bliver trykket.”

Risikoen og ansvaret for nutidens CISO er for højt til at fortsætte med “sæt‑og‑glem”-playbooks. I stedet skal modstandsdygtighed både være en praksis og en kultur, der gennemsyrer en virksomhed og gør den i stand til at komme sig efter, at AI begår en fejl. Når teams indarbejder kontinuerlig overvågning, omvendelighed, inddæmning og menneskelig ejerskab i automatiserings‑playbooken, kan virksomheder forhindre, at en automatiseret beslutning udvikler sig til et problem på tværs af hele forretningen.