AI behöver inte en ny instrumentpanel. Det behöver tillstånd att agera

I åratal har cybersäkerhet varit besatt av synlighet. Vi ville se mer av nätverket, samla in mer telemetri, korrelera fler händelser och upptäcka hot tidigare. Så vi byggde instrumentpaneler. Sedan byggde vi bättre instrumentpaneler. Sedan lade vi till maskininlärning i dessa instrumentpaneler. Nu lägger vi till AI.

Men vid någon tidpunkt måste vi ställa den uppenbara frågan: när vi kan se attacken, vad är vi egentligen beredda att göra åt den? Jag tror inte att nästa stora cybersäkerhetsproblem blir detektering. Jag tror att det blir auktoritet.

AI kan potentiellt ge oss något som säkerhetsteam har önskat i årtionden: förmågan att identifiera, förstå och svara på en attack i maskinhastighet. Det är viktigt eftersom attacker allt oftare sker i en hastighet som den traditionella SOC-modellen helt enkelt inte kan hålla jämna steg med.

Ändå implementerar många organisationer AI i exakt samma driftmodell som de hade tidigare. Tekniken kan upptäcka något på sekunder, kanske förstå vad som händer och rekommendera lämplig respons, men någon måste fortfarande godkänna vad som sker härnäst.

Vid den tidpunkten har du egentligen inte byggt ett autonomt försvar. Du har byggt ett extraordinärt sofistikerat larmsystem. Det finns en motsägelse här som vi måste konfrontera. Vi har i åratal sagt att säkerhetsteam är överväldigade. Det finns för många larm, för mycket infrastruktur, för få kompetenta personer och inte tillräckligt med tid för att undersöka allt. Vi klagar på att människor inte kan svara tillräckligt snabbt.

Sedan introducerar vi teknik som kan svara snabbare än människor och vägrar ge den tillstånd att agera.

Det är inte logiskt. Om jag inte har ett mandat att svara på något medan det pågår, kommer jag alltid att göra en efterhandsanalys i efterhand. Det spelar ingen roll hur intelligent detekteringstekniken är. Om svarsmekanismen fortfarande väntar på att någon ska fatta ett beslut, behåller angriparen fördelen.

Autonomt försvar kräver tydlig svarauktoritet

Och detta är inte bara ett problem som skapats av AI. De flesta organisationer har inte heller löst frågan om svarauktoritet för sina mänskliga säkerhetsteam på ett korrekt sätt.

Vem får egentligen isolera en maskin? Vem kan ta en server offline? Vem har befogenhet att avbryta en produktionsprocess eftersom det finns bevis på en attack? I många organisationer är dessa beslut fortfarande oklara, förhandlas under en incident eller eskaleras genom ledningsnivåer.

AI avslöjar helt enkelt hur ohållbar den modellen har blivit.

Om vi verkligen vill ha autonomt försvar måste mandatet komma från toppen. Styrelser och ledningsgrupper måste besluta vilken befogenhet de är beredda att ge sina säkerhetssystem innan en attack inträffar, inte medan alla ser den utvecklas. Men att ge AI tillstånd att agera skapar ett annat problem.

AI behöver tillgångsintelligens och affärskontext

Du måste också ge den tillräckligt med kontext för att fatta rätt beslut. Föreställ dig ett AI‑system som upptäcker en infiltration på en maskin och fastställer att den säkraste tekniska responsen är att isolera den. Ur ett cybersäkerhetsperspektiv kan det vara helt korrekt.

Föreställ dig nu att den maskinen styr en produktionslinje som genererar en miljon pund per timme.

Plötsligt kan det tekniskt korrekta beslutet vara fel affärsbeslut.

Kanske är hotet tillräckligt inneslutet så att åtgärden kan ske under flera timmar utan att stänga av maskinen. Kanske orsakar avstängning av den mycket mer skada än att låta den fortsätta att fungera tillfälligt under striktare kontroller.

AI kan inte göra den distinktionen om inte organisationen har berättat för den vad den tillgången är, vad den gör och vad som händer med verksamheten om den försvinner. Det är därför kunskap om tillgångar och affärskontext blir så viktig i ett AI‑drivet SOC.

Säkerhetsteam har pratat om tillgångshantering i årtionden och, ärligt talat, många organisationer vet fortfarande inte vad de har.

Shadow‑IT har gjort det tillräckligt svårt. Affärsenheter köper servrar, distribuerar applikationer och ansluter enheter utan att säkerheten nödvändigtvis är medveten om dem. Sedan lade vi till molninfrastruktur, distansarbete, SaaS och alltmer distribuerade miljöer. Idén om en prydlig perimeter som innehåller ett perfekt underhållet inventarium försvann för flera år sedan.

Vi tolererade det när driftmodellen i huvudsak var reaktiv. När något allvarligt inträffade undersökte en analytiker det och försökte fastställa kontexten.

Det blir mycket svårare när AI förväntas fatta beslut autonomt.

Ett autonomt system måste veta att detta inte bara är IP‑adress X eller slutpunkt Y. Det måste förstå att denna maskin styr en tillverkningsprocess, att denna server stödjer SAP, att denna databas innehåller kritisk kundinformation, eller att nedstängning av just detta system kommer att stoppa en intäktsgenererande verksamhet.

Utan den kunskapen blir autonomi ett gissningsarbete. Ironiskt nog är detta också ett område där AI själv kan hjälpa till. Den kan upptäcka och klassificera tillgångar, identifiera relationer, hitta system som ingen insett fanns och kontakta affärsägare för saknad kontext. Att upprätthålla en korrekt tillgångsdatabas behöver inte längre vara den fruktansvärda, manuella, fleråriga övning som organisationer historiskt har gjort av det.

Informationen måste dock finnas någonstans. Om organisationen själv inte förstår vad en tillgång gör eller hur viktig den är, kan vi inte rimligtvis förvänta oss att ett AI‑system ska fatta ett intelligent affärsbeslut om den.

Definiera gränserna för autonom cybersäkerhet

Det är därför jag anser att diskussionen om AI i SOC måste gå bortom modeller och detektionsfrekvenser.

Tekniken blir tillräckligt kapabel.

Den större frågan är om organisationer är operativt redo att utnyttja den förmågan.

Detta innebär att svara på några obekväma frågor. Vilka beslut kan AI:n fatta självständigt? Vad kan den isolera? Vad kan den blockera? Under vilka omständigheter bör den vänta på mänskligt godkännande? Vilka tillgångar är så kritiska att olika regler gäller? Och vem inom organisationen har befogenhet att fastställa dessa regler?

Det är styrningsfrågor, men de är också cybersäkerhetsfrågor.

Svaret kan inte bara vara att en människa måste godkänna allt som är avgörande. Det låter säkert tills man tänker på den miljö vi försöker försvara.

När en attack kan utvecklas på mindre än en minut är det inte försiktigt att vänta tio minuter på att någon ska förstå en varning, hitta rätt person och godkänna ett svar. Det är en sårbarhet.

Det kommer naturligtvis att bli misstag. Autonoma system kommer ibland att fatta beslut som vi hellre hade velat att de inte gjort. Det är exakt därför organisationer behöver tydliga mandat, god tillgångsintelligens, affärskontext och noggrant definierade gränser.

Men att eliminera autonomi för att vi är rädda för konsekvenserna missar poängen.

Målet bör inte vara att bygga AI som aldrig kan fatta ett felaktigt beslut. Målet bör vara att ge AI tillräcklig kunskap, kontext och befogenhet för att fatta rätt beslut tillräckligt snabbt för att vara betydelsefullt.

Annars kommer vi fortsätta göra det som säkerhetsbranschen har gjort i åratal: upptäcka attacker, generera varningar, fylla dashboards och förklara i efterhand vad som hände.

AI ger oss möjlighet att förändra detta, men bara om vi slutligen ger det tillstånd att agera.