Ompröva AI‑resiliens: Varför det är dags att överge modellen ‘Ställ in och glöm’

En senaste Gallup‑undersökningen pekar på en trend av ökande AI‑adoption, då mer än hälften av de anställda vuxna säger att de använder tekniken minst ett par gånger per år. Dessa data är bara en fingervisning av den snabba AI‑adoptionen som sker i företagsmiljöer. Även om flera företagsledare har börjat ifrågasätta AI:s avkastning, har det inte hindrat organisationer från att förlita sig på tekniken för att effektivisera manuella uppgifter och maximera produktiviteten.

När adoptionen fortsätter kan organisationer frestas att ignorera skadliga misstag när det gäller automatiserade arbetsflöden. De ser AI som en färdig lösning som bara kräver att IT‑teamet installerar tekniken, låter den köras och “glömmer” att den finns. Vissa säkerhetsteam försöker motverka detta tänkesätt genom att skapa automatiserings‑handböcker som ska främja säker och trygg AI‑användning. Ändå lämnar även de bästa IT‑ och säkerhetsteamen lite utrymme för justeringar i dessa handböcker. Därför kan företag inte säkert utvecklas med AI på samma sätt som tekniken själv utvecklas.

När företag ger AI mer befogenhet i affärskritiska arbetsflöden måste operativ agilitet bli den nya mandatet för dagens organisationer. För att detta ska bli en universell praxis måste säkerhetsledare i företag överge ett “ställ‑in‑och‑glöm‑det”-tänkande och konstruera för resiliens.

Förståelse av automatiseringsparadoxen

AI‑driven automation ger enorma produktivitetsvinster i flera företagsfunktioner. Låt oss använda cybersäkerhet som exempel. AI‑verktyg gör det möjligt för analytiker att ta extra steg som de aldrig haft tid för i överarbetade och överbelastade säkerhetsoperationscenter. Detta inkluderar uppgifter såsom prioritering av larm, granskning av händelser, hotdetektering, korsreferensvalidering och att få en andra åsikt. Till skillnad från vissa ledare i ledningsgruppen är CISO:er i allmänhet optimistiska kring det värde AI kommer att leverera i framtiden. Enligt data från “The CISO Report: From Risk to Resilience in the AI Era, tror 83 % av CISO:er att automation är den investering som mest sannolikt kommer att överträffa förväntningarna.

Trots dessa fördelar kvarstår en paradox. Samma rapport belyser den skepsis som CISO:er har mot AI, rädda för konsekvenserna av autonoma fel. 83 % av CISO:er rankar effekterna av hallucinationer, såsom missade larm eller falska positiva, som deras största oro kring agentisk AI. Det finns tillräckligt med bevis som stödjer dessa farhågor om hallucinationer. Ett stort kommersiellt flygbolag blev hålls juridiskt ansvarigt och beordrades att betala skadestånd efter att deras kundtjänst‑chatbot hallucinerade en policy för återbetalning av sorgfärdiga biljetter. Ett hotintelligens‑företag står inför juridiska problem eftersom det påstås ha släppt en rapport som kopplade ett startup till hackare från en främmande makt. När AI gör fel kan följderna sträcka sig bortom interna system till både kapital och rykte.

Problemet med föråldrade handböcker

AI‑inriktade säkerhetshandböcker är en grund för framgångsrik, säker AI‑adoption. Problem uppstår dock när dessa handböcker aldrig förändras. Hot, IT‑infrastruktur och affärsmiljöer utvecklas ständigt. AI möjliggör för hotaktörer att skala attacker, medan expanderande och allt mer komplexa IT‑miljöer gör det svårare att upptäcka dem. Samtidigt, när företag ger AI större ansvar, blir konsekvenserna av fel mer betydande.

Om alla dessa faktorer fortsätter att utvecklas, måste automatiseringslogiken utvecklas i takt med dem. Frusna automatiseringshandböcker förhindrar detta. De lämnar säkerhetsteamet att möta aktuella problem med föråldrad logik. I vissa fall kan detta scenario sluta ännu sämre än om säkerhetsteamet inte hade någon handbok alls.

För att handböcker ska bli levande organismer som passar den nuvarande AI‑implementeringen, och därigenom främja intern resiliens, måste de vara:

• Kontinuerligt testade mot färsk hotinformation
• Uppdaterade efter att verkliga incidenter inträffat
• Uttjänta när de inte längre är effektiva eller ger värde

Detta tankesätt stämmer överens med vägledning från Cybersecurity and Infrastructure Security Agency (CISA) och andra globala cybersäkerhetsmyndigheter, som främjar kontinuerlig övervakning av AI‑system och kontinuerlig mänsklig intervention.

Implementering av resiliensformeln

AI‑eran kräver att företag lämnar ett tänkesätt där AI ses som en punktlösning, eller bara lägger till automation på befintliga användningsfall. Organisationer måste istället bygga en kultur av resiliens som låter både IT‑personal och system förbättras där AI fungerar rätt — och svara effektivt när tekniken gör fel.

En praktisk trestegsformel kan hjälpa till att integrera denna resiliens i automatiserade åtgärder.

• Förtroende: För varje automatiserat arbetsflöde bör teamet fråga sig själva: Hur säkra är vi på den trigger som initierade det automatiserade svaret?
• Omvändbarhet: Är åtgärden omvändbar? I så fall, hur snabbt och säkert kan vi göra detta?
• Spridningsradie: Hur långtgående är konsekvenserna om ett fel sprider sig, och hur affärskritiskt är den drabbade tillgången?

Rätt verktyg för observabilitet och övervakning är avgörande för att besvara dessa frågor. Team bör utnyttja en enhetlig plattform för observabilitet och datamanagement så att de helt kan förstå var i en IT‑miljö en automatiserad respons kan inträffa, vilka andra tillgångar den påverkar och de affärsmässiga konsekvenserna. Att regelbundet genomföra denna övning gör det möjligt för säkerhetsteam att hålla AI‑handböcker uppdaterade. Dessutom möjliggör det korrekta mänskliga‑i‑loopen‑praktiker, eftersom IT‑team vet var och hur de ska ingripa för att förhindra att felaktiga automatiserade åtgärder får omfattande och kostsamma effekter.

Ställ in och glöm inte längre

Det är viktigt för moderna CISO:er och IT‑ledare att inse att ansvaret faller på dem när det gäller AI‑beteende. Ju mer AI berör viktig företagsverksamhet, desto större blir bördan för chefer för cybersäkerhet. En bra tumregel att komma ihåg är: ”Automation förändrar vem som trycker på knappen. Det förändrar inte vem som är ansvarig för att knappen trycks ned.”

Insatserna och ansvaret för dagens CISO är för stora för att behålla set‑it‑and‑forget‑it‑handböcker. Istället måste resiliens vara både en praxis och en kultur som genomsyrar ett företag och gör det möjligt att återhämta sig efter att AI gjort ett misstag. När team inför kontinuerlig övervakning, omvändbarhet, begränsning och mänskligt ägande i automatiseringshandboken kan företag förhindra att ett automatiserat beslut blir ett affärsomfattande problem.