AI kan inte fixa trasiga säkerhetsgrunder

AI skärper synlighet, analys och beslutsfattande, men dess effektivitet begränsas av kvaliteten på den underliggande miljön

“Använder det AI?” har blivit den standardfråga i samtal om säkerhetsprodukter, ställd av säkerhetsledare och ekat i nästan varje leverantörs pitch.

Problemet är att det är fel fråga. Om en produkt använder AI betyder det inte att den kommer att hjälpa till att stärka organisationens säkerhetsposition. AI är inte en universallösning för alla cybersäkerhetsproblem. Dess värde beror på hur det tillämpas, vilket börjar med att tydligt definiera problemet man vill lösa.

Den bättre frågan är: “Vilken specifik säkerhetslucka försöker vi stänga, och hjälper den här AI-drivna tekniken verkligen till att stänga den?”

Vad AI gör bra

AI levererar värde inom säkerhet inom tre viktiga områden. Först fyller den i dataluckor. Säkerhetsteam hämtar data från dussintals källor, inklusive föråldrade tillgångsinventeringar, identitetssystem som inte fångar alla åtkomstrelationer och nätverksövervakning som missar viss trafik. AI kan härleda sammanhang från ofullständiga datamängder för att bygga en mer komplett bild av tillgångar, identiteter, anslutningar och arbetsbelastningsbeteende.

AI förbättrar också analys i stor skala. Signal-till-brus-problemet i säkerhetsoperationer är allvarligt och förvärras. AI kan korrelera händelser över flera datakällor, presentera de varningar som förtjänar uppmärksamhet och skjuta lågprioriterat brus ut ur analysens synfält. Det är här de flesta säkerhetsleverantörer har fokuserat sina AI-investeringar. SOC-team tillbringar mindre tid med att triagera lågvärdesvarningar och mer tid på aktiviteter som kräver mänsklig bedömning.

Tredje, när AI har berikat data och analyserat signaler, kan det vägleda åtgärder genom att rekommendera nästa steg, såsom vilken policyändring som kommer att mildra risken, vilken responsåtgärd som passar beteendemönstret eller var en konfigurationsändring behövs.

AI levererar mest värde när det förbättrar sammanhang, analys och beslutsfattande. Det förbättrar starka säkerhetspraxis, men det kan inte kompensera för saknade.

Varför svaga grunder fortfarande misslyckas

AI är begränsat av de indata en organisation matar in. Dessa indata (t.ex. telemetri, arkitektur, policys, kontroller och befintliga verktyg) definierar gränserna för vad AI kan göra. Skärpa dessa indata, och AI producerar skarpare resultat. Försvaga dem, och utdata försämras.

Utan sammanhang för att identifiera en frånvaro, har AI ingen möjlighet att rapportera en. Det kommer inte att undersöka en miljö och flagga för vad som saknas. Det kommer inte att berätta för ett säkerhetsteam att nätverket saknar tillräcklig segmentering, att åtkomstkontroller är för generösa eller att synlighetsluckor lämnar hela segment av miljön oövervakade.

AI undkommer inte den gamla datakvalitetsprincipen “skräp in, skräp ut”, den förstärker den. Svag telemetri producerar svag analys. Felaktiga kontroller ger AI något att optimera i fel riktning. Ofullständig synlighet innebär att beslut fattas från en ofullständig bild, och AI fattar dessa beslut snabbare, inte mer exakt. Hastighet är inte en förbättring när den underliggande informationen är opålitlig.

Det är därför kvaliteten på grunden är viktig innan någon AI-funktion kommer in i spel. En stark grund inkluderar identitets- och åtkomstkontroller som tillämpar meningsfulla gränser, minsta behörighet för användare, arbetsbelastningar, applikationer, data, mikrosegmentering för att begränsa lateralt rörelse och omfattande synlighet/övervakbarhet över miljön. Det kräver också tillförlitlig telemetri och en tydlig förståelse för hur system ansluter och är beroende av varandra.

Inget av detta är nytt. Detta är samma discipliner som säkerhetsteam har diskuterat i år, från skiftet till mobil till flytten till moln. Vad som har ändrats är kostnaden för att försumma dem. AI kan förstärka en stark säkerhetsgrund, men det kan inte ersätta en.

Agentic AI förändrar risk ekvationen

Skiftet är inte från ingen AI till AI, utan från AI som assisterar till AI som agerar. Traditionell AI analyserar data, presenterar insikter och rekommenderar nästa steg. Agentic AI utför över system, data och arbetsflöden utan att vänta på ett mänskligt beslut.

Tänk på det så här: att distribuera 100 AI-agenter över natten är i princip som att anställa 100 nya anställda som aldrig loggar av, fungerar i maskinhastighet och har tillgång till vilka system deras behörigheter tillåter. Men till skillnad från mänskliga anställda, dessa agenter pausar inte, ifrågasätter inte eller tillämpar bedömning om när den åtkomsten ska användas. De utför kontinuerligt, flyttar över system och berör flera applikationer exakt som de tillåts.

Det är gapet. Er åtkomstmodell antar mänskligt beteende (t.ex. diskreta åtgärder, långsammare takt och viss bedömning). AI-agenter tar bort dessa begränsningar. Så, om behörigheter är för breda (eller inkorrekta), sitter de inte bara outnyttjade eller används felaktigt ibland, de utövas kontinuerligt, i stor skala, över alla system de berör.

Risken förvärras när en organisation tilldelar en agent samma åtkomstprofil som en specifik användare, de skapar en klon, inte en hjälpsam proxy. Den klonen har samma breda behörigheter som originalet, körs kontinuerligt och kan utsätta organisationen för samma risker, oavsett om dess beteende är skadligt eller bara felkonfigurerat.

I AI-eran är identitet, åtkomstkontroll, minsta behörighet, segmentering och övervakbarhet inte längre bara bästa praxis – de är grundläggande säkerhetskrav. En nyligen Cloud Security Alliance briefing utvecklad med SANS, OWASP Gen AI Security Project och en grupp praktiker, förstärker punkten att agentic AI inte gör dessa grundläggande principer föråldrade. Det gör dem oeftergivliga.

Vad AI-klar säkerhet ser ut som

Att behandla AI-beredskap som en inköpsfråga och fokusera på vilka AI-aktiverade verktyg som ska implementeras, ignorerar faktum att AI-beredskap är en arkitektur-, styrnings- och kontrollfråga. Frågan är inte vilka verktyg man ska köpa, utan om miljön kommer att stödja AI som fungerar säkert.

Börja med synlighet. Innan någon AI-funktion distribueras, behöver säkerhetsteam en tydlig bild av vad som finns i miljön: tillgångar, arbetsbelastningar, identiteter, applikationer, data, AI-modeller, agenter och tredjepartsanslutningar. Den inventeringen är inte något som AI kan bygga för er. Det är utgångspunkten som AI behöver för att göra något användbart.

Därefter definiera problemet. Identifiera kontrollgapet eller specifik risk först. Bestäm vilken utgång som behöver förbättras. Då fråga om AI kan hjälpa till att stänga den luckan bättre än andra tillvägagångssätt. Organisationer som vänder på den ordningen genom att börja med ett AI-verktyg och sedan leta efter ett problem att tillämpa det på, tenderar att generera aktivitet utan att förbättra säkerheten.

Att tillämpa principer för nolltillit på AI-agenter är där detta blir operativt. Instinkten är ofta att definiera vad agenter inte ska göra, men den listan kommer alltid att vara ofullständig. En mer tillförlitlig metod är att vara preskriptiv om vad varje agent kan göra, ge den endast den åtkomst som en definierad uppgift kräver och verkställa dessa gränser över alla lager i stacken. Segmentera systemen agenter kan nå så att om en agent beter sig på sätt som ligger utanför dess definierade gränser eller en angripare utnyttjar den, skadan förblir innesluten.

Till sist är en ökning av aktivitet inte en framgångsmätare. AI kommer att öka volymen av åtgärder som ett säkerhetsteam vidtar, men det betyder inte att det förbättrar säkerheten. En instrumentpanel som presenterar en hel del aktivitet signalerar inte att AI levererar värde.

Mät utgångar, såsom om varningsvolymer minskar på sätt som återspeglar genuint signal och risken minskar snabbare i de områden som räknas mest. Se till att policyrekommendationer stärker kontroller, möjliggör för säkerhetsteam att innesluta incidenter snabbare och låter SOC-analytiker tillbringa mer tid på arbete som kräver mänsklig bedömning.

Grunden kommer först

AI är inte grunden för en stark säkerhetsposition. Det är en multiplikator, och som alla multiplikatorer, dess värde beror helt på vad man tillämpar det på.

Organisationer som har byggt en sund arkitektur med tydlig synlighet, tillämpad minsta behörighet, segmentering och starka identitetskontroller kan använda AI för att skärpa sitt sammanhang, påskynda analys och agera på bättre information. De som inte har det, kommer att upptäcka att AI flyttar dem snabbare i fel riktning, optimerar felaktiga kontroller och presenterar insikter från en ofullständig bild.

Frågan som måste ställas innan någon AI-investering görs är samma fråga som bör driva varje säkerhetsbeslut: Vilket problem försöker vi lösa? Om svaret är tydligt och arkitekturen för att stödja det är på plats, då kan AI göra lösningen mer effektiv. Om svaret är otydligt eller grunden är svag, kommer tillägg av AI inte att förändra det. Det kommer bara att göra luckan svårare att se.

AI kommer inte att fixa en trasig grund. Det kommer bara att göra sprickorna synliga snabbare.