AI vil ikke fikse svake sikkerhetsgrunnlag

AI skarper synlighet, analyse og beslutning, men dens effektivitet er begrenset av kvaliteten på den underliggende omgivelsen

“Bruker det AI?” har blitt det vanlige spørsmålet i samtaler om sikkerhetsprodukter, reist av sikkerhetsledere og gjentatt i nesten hver enkelt leverandørpresentasjon.  

Problemet er at det er feil spørsmål. Om et produkt bruker AI, betyr ikke at det vil hjelpe å styrke en organisasjons sikkerhetsstilling. AI er ikke en universell løsning for alle sikkerhetsproblemer. Dens verdi avhenger av hvordan den brukes, som starter med å definere problemet du ønsker å løse. 

 Det bedre spørsmålet er: “Hvilket spesifikt sikkerhetshull prøver vi å lukke, og hjelper denne AI-drevne teknologien virkelig å lukke det?”  

Hva AI gjør bra 

AI leverer verdi i sikkerhet på tre viktige områder. Først fyller den hull i data. Sikkerhetsteam henter data fra dusinvis av kilder, inkludert foreldede aktivumslister, identitetssystemer som ikke fanger alle tilgangsforhold, og nettverks-telemetri som ikke fanger all trafikk. AI kan slutte kontekst fra ufullstendige datasett for å bygge en mer komplett bilde av aktivum, identiteter, tilkobling og arbeidsbelastning.  

AI forbedrer også analyse i stor skala. Signalet-til-støy-problemet i sikkerhetsoperasjoner er alvorlig og forverrer. AI kan korrelere hendelser over flere datakilder, fremheve varslinger som fortjener oppmerksomhet og skyve lav-prioritets støy utenfor analysens synsfelt. Dette er der de fleste sikkerhetsleverandører har fokusert sine AI-investeringer. SOC-teamene bruker mindre tid på å triage lav-verdi varslinger og mer tid på aktiviteter som krever menneskelig dømmekraft. 

Tredje, når AI har beriket data og analyser, kan den guide handling ved å anbefale neste skritt, som hvilken politikkendring som vil mildne risiko, hvilken responsaksjon som passer med atferdsmønsteret, eller hvor en konfigurasjon trenger å endres.  

AI leverer mest verdi når den forbedrer kontekst, analyse og beslutning. Den forsterker sterke sikkerhetspraksiser, men den kan ikke kompensere for manglende ene. 

Hvorfor svake grunnlag fortsatt feiler 

AI er begrenset av innputtene en organisasjon matet den. Disse innputtene (f.eks. telemetri, arkitektur, politikker, kontroller og eksisterende verktøy) definerer grensene for hva AI kan gjøre. Skarpe disse innputtene, og AI produserer skarpere resultater. Svake dem, og utgangen forringes. 

Uten konteksten til å identifisere et fravær, har AI ingen måte å rapportere det på. Den vil ikke ta det på seg å undersøke en omgivelse og flagge hva som mangler. Den vil ikke si til et sikkerhetsteam at nettverket mangler adekvat segmentering, at tilgangskontrollene er for permissive, eller at synlighetshullene etterlater hele segmenter av omgivelsen uovervåket.  

AI unngår ikke det gamle datakvalitetsprinsippet, “skralle inn, skralle ut,” det forsterker det. Svak telemetri produserer svak analyse. Feil kontroller gir AI noe å optimere i feil retning. Ufullstendig synlighet betyr at beslutninger tas fra et delvis bilde, og AI tar disse beslutningene raskere, ikke mer nøyaktig. Hastighet er ikke en forbedring når den underliggende informasjonen er u pålitelig. 

Det er derfor kvaliteten på grunnlaget betyr før noen AI-kapasitet kommer i spill. Et sterkt grunnlag inkluderer identitet og tilgangskontroll som påtvinger meningsfulle grenser, minst privilegium over brukere, arbeidsbelastninger, applikasjoner, data, mikrosegmentering for å begrense lateral bevegelse og omfattende synlighet/observabilitet over omgivelsen. Det krever også pålitelig telemetri og en klar forståelse av hvordan systemer kobles sammen og avhenger av hverandre. 

Ingenting av dette er nytt. Disse er de samme disiplinene sikkerhetsteam har diskutert i år, fra skiftet til mobil til flyttingen til skyen. Hva som har endret seg er kostnaden av å neglisjere dem. AI kan forsterke et sterkt sikkerhetsgrunnlag, men den kan ikke erstatte ett. 

Agens AI endrer risikoequasjonen 

Skiftet ikke fra ingen AI til AI; det er fra AI som assisterer AI som handler. Tradisjonell AI analyserer data, fremhever innsikter og anbefaler neste skritt. Agens AI utfører over systemer, data og arbeidsflyter uten å vente på et menneskelig avgjørelse. 

Tenk på det på denne måten: å deployere 100 AI-agenter over natten er effektivt som å ansette 100 nye ansatte som aldri logger av, opererer på maskin hastighet og har tilgang til hvilke systemer deres tillatelser tillater. Men til forskjell fra menneskelige ansatte, stopper disse agentene ikke, stiller ikke spørsmål eller anvender dømmekraft om når denne tilgangen skal brukes. De utfører kontinuerlig, flytter over systemer og berører flere applikasjoner eksakt som de er tillatt. 

Det er gapet. Din tilgangsmodell antar menneskelig atferd (f.eks. diskrete handlinger, langsommere tempo og en viss grad av dømmekraft). AI-agenter fjerner disse begrensningene. Så, hvis tillatelser er for brede (eller uriktige), sitter de ikke bare ubrukte eller misbrukes av og til; de øver dem kontinuerlig, i stor skala, over hver system de berører. 

Risikoen forverres når en organisasjon tildeler en agent samme tilgangsprofil som en bestemt bruker, de skaper en kopi, ikke en nyttig proxy. Denne kopian har samme brede tillatelser som originalen, kjører kontinuerlig og kan eksponere organisasjonen for samme risiko, enten dens atferd er skadelig eller bare feilkonfigureret. 

I AI-alderen er identitet, tilgangskontroll, minst privilegium, segmentering og observabilitet ikke lenger bare beste praksis – de er grunnleggende sikkerhetskrav. En nylig Cloud Security Alliance briefing utviklet med SANS, OWASP Gen AI Security Project og en samfunn av praktikere, forsterker poenget at agens AI ikke gjør disse grunnleggende sikkerhetskravene foreldet. Den gjør dem ikke-forhandlbare.  

Hva AI-klar sikkerhet ser ut som 

Å behandle AI-klarhet som et innkjøpsspørsmål og fokusere på hvilke AI-aktiverede verktøy å implementere, ignorerer faktum at AI-klarhet er et arkitektur-, styrings- og kontrollspørsmål. Spørsmålet er ikke hvilke verktøy å kjøpe, men om omgivelsen vil støtte AI som opererer trygt. 

Start med synlighet. Før du deployer noen AI-kapasitet, trenger sikkerhetsteamene et klart bilde av hva som eksisterer i omgivelsen: aktivum, arbeidsbelastninger, identiteter, applikasjoner, data, AI-modeller, agenter og tredjepartsforbindelser. Denne inventaren er ikke noe AI kan bygge for deg. Det er utgangspunktet AI trenger for å gjøre noe nyttig. 

Deretter definer problemet. Identifiser kontrollhullet eller det spesifikke risikoen først. Bestemm hvilken utfall som må forbedres. Så spør om AI kan hjelpe med å lukke det hullet bedre enn andre tilnærminger. Organisasjoner som reverserer denne rekkefølgen ved å starte med et AI-verktøy og deretter lete etter et problem å bruke det på, tenderer til å generere aktivitet uten å forbedre sikkerheten. 

Å anvende null-tillit-prinsipper til AI-agenter er der dette blir operasjonelt. Instinktet er ofte å definere hva agenter ikke skal gjøre, men den listen vil alltid være ufullstendig. En mer pålitelig tilnærming er å være presis om hva hver agent kan gjøre, gi den bare den tilgangen en definert oppgave krever og påtvinge disse grensene over hver lag av staken. Segmenter systemene agentene kan nå, så hvis en agent oppfører seg utenfor sine definerte grenser eller en angriper misbruker den, skader det holder seg innenfor. 

Til slutt er en økning i aktivitet ikke en suksessmetrik. AI vil øke volumet av handlinger et sikkerhetsteam tar, men det betyr ikke at det forbedrer sikkerheten. En dashboard som presenterer mye aktivitet, indikerer ikke at AI leverer verdi. 

Mål utfall, som om varslingvolumer faller på måter som reflekterer ekte signal og risikonivået synker raskere i områdene som teller mest. Sikre at politikk-anbefalinger styrker kontroller, muliggjør at sikkerhetsteam kan begrense hendelser raskere og tillater SOC-analytikere å bruke mer tid på arbeid som krever menneskelig dømmekraft.  

Grunnlaget kommer først 

AI er ikke grunnlaget for en sterk sikkerhetsstilling. Det er en multiplikator, og som enhver multiplikator, avhenger dens verdi helt av hva du anvender det på. 

Organisasjoner som har bygget solide arkitektur med klar synlighet, påtvinget minst privilegium, segmentering og sterke identitetskontroller, kan bruke AI til å skarpe sin kontekst, akselerere analyse og handle på bedre informasjon. De som ikke har det, vil finne at AI flytter dem raskere i feil retning, optimaliserer feil kontroller og fremhever innsikter fra et ufullstendig bilde. 

Spørsmålet som må stilles før noen AI-investering, er det samme som bør drive hver sikkerhetsbeslutning: Hva problem prøver vi å løse? Hvis svaret er klart, og arkitekturen for å støtte det er på plass, da kan AI gjøre løsningen mer effektiv. Hvis svaret er vagt eller grunnlaget er svakt, vil tilføyelse av AI ikke endre det. Det vil bare gjøre gapet harder å se. 

AI vil ikke fikse et svakt grunnlag. Det vil bare gjøre sprekker synlig raskere.