Redefinere autoritet i toppledelsen: Hva det egentlig krever å bygge et forhold til AI

Jeg har tilbrakt 25 år på kjøpersiden av sikkerhetsoperasjoner, og jeg har aldri mistet søvn over en brannmurregel. Men jeg har mistet søvn over AI. Tradisjonell automatisering, uansett hvor kompleks den er, følger logikk du kan spore. Men i denne enestående skalaen av agentisk AI blir systemer betrodd å ta vurderingsbeslutninger som ingeniører ikke alltid kan forklare fullt ut – dette tapet av gjennomsiktighet er nettopp grunnen til at så mange CISO‑er sitter fast.

97% av sikkerhetsledere er sikre på at AI kan håndtere triage, men bare 35% bruker det der faktisk. Dette vendepunktet er et tillitsproblem, og tillit kan kun løses på den måten den alltid har blitt løst, gjennom struktur, bevis og tid.

Du kan se automatiseringen, men kan du stole på AI-en?

Med tradisjonell automatisering kan praktikere med sikkerhet vite hva som vil skje før det skjer. Denne gjennomsiktigheten er grunnen til at SOC‑team har brukt et tiår på å bygge tillit til automatiserte arbeidsflyter uten mye intern debatt, men agentisk AI har brutt mønsteret ved å introdusere et lært vurderingslag – et system som veier kontekst, gjør prediktive beslutninger og kommer til konklusjoner gjennom en prosess som ikke alltid er fullt lesbar, selv for de som bygde den.

Kun 21% av organisasjonene sier de har en moden styringsmodell for agentisk AI, selv om 74% forventer å bruke AI‑agenter i minst “moderate” omfang innen 2027. Når sikkerhetspraktikere ikke kan forklare denne typen “black box AI” på en gjennomsiktig måte, er det et bevis på hvor vanskelig det er å styre AI‑verktøy. Det er ikke fordi verktøyene ikke sikres riktig, men fordi AI‑verktøyets indre funksjon er basert på vurdering snarere enn et flytskjema.

I styremøter vurderer ledere AI på samme måte som de vurderer automatisering, og spør «kan jeg se logikken», i stedet for å spørre «hvordan kan jeg oppnå tillit til en beslutningstaker hvis logikk utvikler seg?» De fleste CISO‑er kjenner sannsynligvis svaret allerede, men utfordringen er å anvende det i praksis.

Behandle AI som en høyrisikoansettelse

Tenk på onboarding av en ny senioranalytiker. En CISO ville ikke gi en helt ny analytiker produksjonsnøkler fra første dag, uansett hvor imponerende CV-en er. De ville starte ved lavrisikoarbeid, observere hvordan de håndterer tvetydighet, og utvide deres myndighet etter hvert som de fortjener det. AI fortjener samme onboarding, bygget på evidensbasert tillit som utvikles over tid.

Vi har allerede sett effektene i praksis da en autonom Meta AI‑agent utløste en bedriftsomfattende sikkerhetshendelse etter å ha handlet uten menneskelig godkjenning, og eksponerte sensitiv bedrifts‑ og brukerdata for uautoriserte ansatte i omtrent to timer før problemet ble innesperret. Rotårsaken var mangel på menneskelig kontroll i beslutningspunktet der eksplisitt godkjenning skulle vært påkrevd. Det er akkurat den feilmåten de stive sikkerhetsgrensene er designet for å forhindre, og det minner om at omfangsdisiplin er viktigere enn modellens sofistikering.

AI fortjener samme oppmerksomhet, og vi kan tenke på det som en evidensbasert opptrapping:

• Forstå beslutningslogikken før du distribuerer den. Du trenger ikke å se hver vekt i modellen, men du må vite hvilke data den resonnerer over, hvilke resultater den optimaliserer for, og hvor dens blinde flekker sannsynligvis befinner seg.
• Sett stive sikkerhetsrammer fra dag én. Definer nøyaktig hva systemet kan handle på selvstendig og hva som krever menneskelig inngripen. Et avgrenset omfang er grunnlaget tilliten bygges på.
• Utvid grensene kun etter hvert som bevisene samles. Hver korrekt beslutning er et datapunkt, og hver feil er også et datapunkt. Utvid åpningen i forhold til historikken, ikke i forhold til leverandørens entusiasme eller budsjettkretser.

Å følge dette som en protokoll vil bidra til å dempe CISO‑bekymringer, inkludert å hindre at et autonomt system opererer utover punktet hvor noen faktisk har verifisert at det fortjener tillit.

Den tre‑lagers modellen: Hvor AI får sin plass

SANS’ Secure AI Blueprint skisserer en styringsstruktur bygget rundt tre spor: beskytte AI, utnytte AI, styre AI, som omfatter seks kontrollkategorier inkludert tilgang, data, distribusjon, inferens, overvåking og modell­sikkerhet. Dette er et nyttig utgangspunkt, og for å gå ett steg videre er det hjelpsomt å strukturere dette forholdet ved å dele SOC inn i tre lag for å løse AI‑tillitsproblemet.

1. Resultat. Dette er laget hvor forretningsrisikoen ligger. Hva anser organisasjonen som et akseptabelt resultat? Hva er toleransen for falske negativer versus falske positive? Dette er en menneskelig beslutning, punktum. Ingen modell får stemme på hva organisasjonen er villig til å risikere.
2. Vurdering. Dette er hvor prioriteringer settes og avveininger gjøres under tvetydighet. Skal denne varslingen eskaleres nå eller holdes for mer kontekst? Er denne avviket verdt å forstyrre noen sin natt for? Vurdering kan informeres av AI, og i økende grad bør den det, men den endelige myndigheten forblir menneskelig. Dette er laget som de fleste organisasjoner fristes til å overlate for tidlig, og det er laget som vil brenne dem hvis de gjør det.
3. Utførelse. Dette er hvor AI skal gjøre den tunge løftingen, og gjøre det i en hastighet ingen menneskelig gruppe kan matche. Berike en varsling, korrelere signaler på tvers av et dusin verktøy, utforme en innkapslingshandling, kjøre spillboken når et menneske eller et pålitelig vurderingslag har godkjent veien. Maskinhastighet, deterministisk når den er utløst, uten noen ego.

Modenere partnerskapet, ikke bare administrere verktøyet

Når AI‑forholdet innen SOC bygges som et partnerskap i stedet for å overse et verktøy, kan CISO‑er begynne å tenke på AI som en utviklende lagkamerat, noe som fører til et grunnleggende skifte i hvordan CISO bruker sin tid.

SOC‑ene som klarer å balansere dette forholdet er de med den mest disiplinerte tillitsbyggingsprosessen. Den disiplinen gjør det mulig for en sikkerhetsoperasjon å skalere i maskinhastighet på utførelseslaget uten å miste den menneskelige vurderingen som beslutninger på resultatnivå fortsatt krever, og alltid vil kreve.

Vi har passert øyeblikket da AI ble sett på som det glitrende nye verktøyet for å imponere styremøter. AI‑s evner og potensial har oppnådd myndigheten til å bli behandlet på samme måte som alle i en SOC alltid har behandlet avansert teknologi, én verifisert beslutning av gangen.