Tenke nytt om AI‑resiliens: Hvorfor det er på tide å avskaffe «Sett‑det‑og‑glem‑det»-modellen

En nylig Gallup-undersøkelse viser en trend med økende AI‑adopsjon, ettersom mer enn halvparten av arbeidende voksne sier de bruker teknologien minst noen få ganger i året. Disse dataene er bare et hint om den raske AI‑adopsjonen som skjer i bedriftsmiljøer. Selv om flere bedriftsledere har begynt å stille spørsmål ved avkastningen på AI, har det ikke hindret organisasjoner i å lene seg på teknologien for å strømlinjeforme manuelle oppgaver og maksimere produktiviteten.

Mens denne adopsjonen fortsetter, kan organisasjoner bli fristet til å overse skadelige feiltrinn når det gjelder automatiserte arbeidsflyter. De ser på AI som en nøkkelferdig løsning, der IT‑teamene bare trenger å sette opp teknologien, la den kjøre og “glemme” at den finnes. Noen sikkerhetsteam prøver å motvirke denne tankegangen ved å lage automatiserings‑playbooks som skal fremme sikker og trygg bruk av AI. Likevel gir selv de beste IT‑ og sikkerhetsteamene lite rom for justering i disse playbooks. Derfor kan ikke virksomheter trygt utvikle seg sammen med AI, akkurat som teknologien selv utvikler seg.

Etter hvert som virksomheter gir AI mer myndighet i forretningskritiske arbeidsflyter, må operasjonell smidighet bli det nye mandatet for dagens organisasjoner. For at dette skal bli en universell praksis, må sikkerhetsledere i bedrifter avskaffe en «sett‑det‑og‑glem‑det»-tankegang og bygge inn resiliens.

Forståelse av automatiseringsparadokset

AI‑drevet automatisering gir enorme produktivitetsgevinster på tvers av flere bedriftsfunksjoner. La oss bruke cybersikkerhet som eksempel. AI‑verktøy gjør det mulig for analytikere å ta ekstra steg de aldri hadde tid til i overarbeidede og overveldet sikkerhets‑operasjons‑sentre. Dette inkluderer oppgaver som prioritering av varsler, gjennomgang av hendelser, trusseldeteksjon, kryssreferansevalidering og å innhente en second opinion. I motsetning til noen ledere i toppledelsen, er CISO‑ene generelt optimistiske med tanke på verdien AI vil levere i fremtiden. Ifølge data fra “The CISO Report: From Risk to Resilience in the AI Era,” mener 83 % av CISO‑ene at automatisering er den investeringen som mest sannsynlig vil overgå forventningene.

Til tross for disse fordelene, vedvarer et paradoks. Den samme rapporten fremhever skepsisen CISO‑ene har til AI, fordi de frykter konsekvensene av autonome feil. 83 % av CISO‑ene rangerer påvirkninger fra hallusinasjoner, som savnede varsler eller falske positive, som deres største bekymring knyttet til agentisk AI. Det finnes tilstrekkelig bevis som støtter disse bekymringene om hallusinasjoner. Et stort kommersielt flyselskap ble holdt juridisk ansvarlig og pålagt å betale erstatning etter at kundeservice‑chatboten deres hallusinerte en refusjonspolicy for sorgfare. Et trussel‑intelligens‑firma står overfor juridiske problemer fordi det angivelig publiserte en rapport som knyttet en oppstartsbedrift til hackere fra en utenlandsk makt. Når AI tar feil, kan konsekvensene spre seg utover interne systemer til både kapital og omdømme.

Problemet med utdaterte playbooks

Sikkerhets‑playbooks med fokus på AI er et grunnlag for vellykket og sikker AI‑adopsjon. Problemer oppstår imidlertid når disse playbooks aldri endres. Trusler, IT‑infrastruktur og forretningsmiljøer er i konstant utvikling. AI gjør det mulig for trusselaktører å skalere angrep, mens stadig mer omfattende og komplekse IT‑miljøer gjør det vanskeligere å oppdage dem. Samtidig, etter hvert som virksomheter gir AI større ansvar, blir konsekvensene av feil mer betydningsfulle.

Hvis alle disse faktorene fortsetter å utvikle seg, må også automatiserings‑logikken utvikle seg i takt med dem. Frosne automatiserings‑playbooks hindrer dette. De tvinger sikkerhetsteamene til å møte nåværende problemer med utdaterte logikker. Noen ganger kan dette scenarioet ende enda verre enn om sikkerhetsteamet ikke hadde noen playbook i det hele tatt.

For at playbooks skal bli levende organismer som passer til dagens AI‑implementering, og dermed fremme intern resiliens, må de være:

• Kontinuerlig testet mot fersk trusselinformasjon
• Oppdatert etter at reelle hendelser inntreffer
• Utradd når de ikke lenger er effektive eller gir verdi

Dette tankesettet er i tråd med veiledning fra Cybersecurity and Infrastructure Security Agency (CISA) og andre globale cybersikkerhetsbyråer, som fremmer kontinuerlig overvåking av AI‑systemer og kontinuerlig menneskelig inngripen.

Implementering av resiliensformelen

AI‑æraen krever at virksomheter går bort fra en tankegang der AI ses som en punktløsning, eller bare blir påført automatisering på eksisterende bruksområder. Organisasjoner må i stedet bygge en kultur for resiliens som gjør at både IT‑personell og systemer kan styrke det AI gjør riktig — og svare effektivt når teknologien gjør noe galt.

En tre‑delt praktisk formel kan hjelpe med å innarbeide denne resiliensen i automatiserte handlinger.

• Selvtillit: teamene bør spørre seg selv: Hvor sikre er vi på utløsningen som startet den automatiserte responsen?
• Reversibilitet: Er handlingen reversibel? I så fall, hvor raskt og trygt kan vi gjøre dette?
• Eksplosjonsradius: Hvor omfattende er konsekvensene dersom en feil sprer seg, og hvor forretningskritisk er den berørte ressursen?

Riktige observasjons‑ og overvåkingsverktøy er avgjørende for å besvare disse spørsmålene. Teamene bør utnytte en samlet observasjons‑ og datastyringsplattform slik at de fullt ut kan forstå hvor i et IT‑miljø en automatisert respons kan oppstå, hvilke andre ressurser den påvirker, og de tilhørende forretningskonsekvensene. Å gjennomføre denne øvelsen jevnlig vil gjøre det mulig for sikkerhetsteamene å holde AI‑playbooks oppdatert. Videre vil det legge til rette for riktige menneske‑i‑sløyfen‑prosesser, ettersom IT‑teamene vil vite hvor og hvordan de skal gripe inn for å hindre at feilaktige automatiserte handlinger får omfattende og kostbare virkninger.

Sett‑det‑og‑glem‑det‑ikke‑lenger

Det er viktig for moderne CISO‑er og IT‑ledere å innse at ansvaret hviler på dem når det gjelder AI‑atferd. Jo mer AI berører viktig bedriftsarbeid, desto større blir byrden for sikkerhetssjefene. En god tommelfingerregel å huske er: «Automatisering endrer hvem som trykker på knappen. Den endrer ikke hvem som er ansvarlig for at knappen blir trykket på.»

Risikoen og ansvaret for dagens CISO er for høyt til å beholde «sett‑det‑og‑glem‑det»-playbooks. I stedet må resiliens være både en praksis og en kultur som gjennomtrenger en virksomhet og gjør den i stand til å komme seg igjen etter at AI gjør en feil. Når teamene innfører kontinuerlig overvåking, reversibilitet, innkapsling og menneskelig eierskap i automatiserings‑playbooken, kan virksomheter hindre at en automatisert beslutning blir et bedriftsomfattende problem.