Omdefiniera auktoritet i ledningsgruppen: Vad det faktiskt kräver att odla ett förhållande med AI

Jag har tillbringat 25 år på köparens sida av säkerhetsoperationer och har aldrig någon gång förlorat sömn över en brandväggsregel. Däremot har jag förlorat sömn över AI. Traditionell automatisering, oavsett hur komplex den är, följer logik som du kan spåra. Men i denna utan motstycke stora skala av agentisk AI litar man på att systemen fattar bedömningsbeslut som ingenjörer inte alltid kan förklara fullt ut – den här bristen på transparens är exakt varför så många CISO:er sitter fast.

97% av säkerhetsledare är säkra på att AI kan hantera triage, men endast 35 % använder den faktiskt där. Denna vändpunkt är ett förtroendeproblem, och förtroende kan bara lösas på det sätt det alltid har gjort, genom struktur, bevis och tid.

Du kan se automatiseringen, men kan du lita på AI:n?

Med traditionell automatisering kan praktikerna med säkerhet veta vad som kommer att hända innan det händer. Denna transparens är anledningen till att SOC‑team har tillbringat ett decennium med att bygga förtroende för automatiserade arbetsflöden utan mycket intern debatt, men agentisk AI har brutit mönstret genom att introducera ett inlärt bedömningslager – ett system som väger in kontext, gör förutsägelser och drar slutsatser genom en process som inte alltid är fullt läsbar, inte ens för dem som skapade den.

Endast 21% av organisationerna säger att de har en mogen styrningsmodell för agentisk AI, trots att 74 % förväntar sig att använda AI‑agenter åtminstone ”måttligt” år 2027. När säkerhetspraktiker inte kan förklara detta slags “black box AI” på ett transparent sätt, är det ett bevis på svårigheten att styra AI‑verktyg. Det beror inte på att verktygen inte säkras korrekt, utan på att AI‑verktygets inre funktioner bygger på bedömning snarare än ett flödesschema.

I styrelserummen utvärderar ledare AI på samma sätt som de skulle utvärdera automatisering, och frågar ”kan jag se logiken” snarare än ”hur kan jag vinna förtroende för en beslutsfattare vars logik utvecklas?” De flesta CISO:er vet sannolikt redan svaret, men utmaningen är att tillämpa det i praktiken.

Behandla AI som en höginsatsrekrytering

Tänk på att introducera en ny senioranalytiker. En CISO skulle inte ge en helt ny analytiker produktionsnycklarna på dag ett, oavsett hur starkt CV de har. De skulle börja med lågriskuppgifter, observera hur de hanterar osäkerhet och utöka deras befogenheter i takt med att de förtjänar dem. AI förtjänar samma introduktion, byggd på evidensbaserat förtroende som växer över tid.

Vi har redan sett effekterna i praktiken när en autonom Meta AI‑agent utlöst ett företagsskaligt säkerhetsincident efter att ha agerat utan mänskligt godkännande, vilket exponerade känslig företags- och användardata för obehöriga anställda i ungefär två timmar innan problemet kontrollerades. Grundorsaken var avsaknad av mänsklig översyn i beslutssteget där ett explicit godkännande skulle ha krävts. Det är exakt det felsteg som strikta skyddsräcken är avsedda att förhindra, och det påminner om att disciplin kring omfattning är viktigare än modellens sofistikering.

AI förtjänar samma uppmärksamhet, och vi kan betrakta det som en evidensbaserad upptrappning:

• Förstå beslutslogiken innan du distribuerar den. Du behöver inte se varje vikt i modellen, men du måste veta vilka data den resoneras på, vilka resultat den optimerar för och var dess blinda fläckar sannolikt finns.
• Sätt strikta skyddsräcken redan från dag ett. Definiera exakt vad systemet kan agera på självständigt och vad som kräver mänsklig inblandning. En snäv omfattning är grunden som förtroendet byggs på.
• Utvidga gränserna endast när bevisen samlas. Varje korrekt beslut är en datapunkt, och varje fel är också en datapunkt. Vidga öppningen i proportion till historiken, inte i proportion till leverantörens entusiasm eller budgetcykler.

Att följa dessa som ett protokoll hjälper till att skydda mot CISO‑rädslor, inklusive att förhindra att ett autonomt system opererar längre än den punkt där någon faktiskt verifierat att det förtjänar att litas på.

Den trelagersmodellen: Där AI förtjänar sin plats

SANS’ Secure AI Blueprint beskriver en styrningsstruktur byggd kring tre spår – skydda AI, utnyttja AI, styra AI – som omfattar sex kontrollkategorier inklusive åtkomst, data, distribution, inferens, övervakning och modell‑säkerhet. Detta är en användbar utgångspunkt, och för att gå ett steg längre är det hjälpsamt att strukturera relationen genom att dela upp SOC i tre lager för att lösa AI‑förtroendeproblemet.

1. Resultat. Detta är lagret där affärsrisker finns. Vad anser organisationen vara ett acceptabelt resultat? Vad är toleransen för falska negativa kontra falska positiva? Detta är ett mänskligt beslut, punkt slut. Ingen modell får rösta om vad organisationen är villig att riskera.
2. Bedömning. Här sätts prioriteringar och avvägningar görs under osäkerhet. Ska denna varning eskaleras nu eller hållas för mer kontext? Är denna avvikelse värd att avbryta någons natt för? Bedömning kan informeras av AI, och i ökande grad bör den det, men den slutgiltiga myndigheten förblir mänsklig. Detta är det lager som de flesta organisationer frestas att överlämna för tidigt, och det är det som kommer att skada dem om de gör det.
3. Genomförande. Detta är där AI bör utföra det tunga arbetet, och göra det med en hastighet som inget mänskligt team kan matcha. Berika en varning, korrelera signaler över ett dussin verktyg, utarbeta en isoleringsåtgärd, köra spelboken när en människa eller ett pålitligt bedömningslager har godkänt vägen. Maskinhastighet, deterministisk när den triggas, utan någon ego.

Mognad i partnerskapet, inte bara hantering av verktyget

När AI:s relation inom SOC byggs som ett partnerskap snarare än att övervaka ett verktyg kan CISO:er börja betrakta AI som en utvecklande lagkamrat, vilket leder till en grundläggande förändring i hur CISO:n spenderar sin tid.

De SOC‑team som kan balansera denna relation är de med den mest disciplinerade förtroende‑byggande processen. Den disciplinen möjliggör att en säkerhetsoperation kan skala i maskinhastighet på genomförandelagret utan att förlora den mänskliga bedömning som beslut på resultatnivå fortfarande kräver, och alltid kommer att göra.

Vi har passerat den tidpunkt då AI sågs som det blänkande nya verktyget för att imponera på styrelserum. AI:s kapacitet och potential har förtjänat myndigheten att behandlas på samma sätt som alla i en SOC alltid har behandlat avancerad teknik, ett verifierat beslut i taget.