Tankeledare
AI kan skala upp säkerheten. Men vad är det som ska skalas upp?

Viktiga punkterAtt bearbeta mer data förbättrar inte automatiskt hotdetektering utan organisatorisk…
Visa mer
- Att bearbeta mer data förbättrar inte automatiskt hotdetektering utan organisatorisk kontext.
- Finjusterade modeller kan stödja storskaliga utredningar till mer förutsägbar kostnad än frontiermodeller.
- Autonomi bör vara proportionell mot risk med styrning utformad innan agenter skalas upp.
Säkerhetsteam i företag måste i dag hantera mer aktivitet, telemetri och fler larm än de rimligen kan utreda manuellt. Uppskattningarna varierar, men viss forskning tyder på att ett genomsnittligt säkerhetsoperationscenter får in fler än 4 400 larm om dagen. I takt med att organisationer växer och lägger till fler verktyg, och AI möjliggör fler angrepp, kommer den siffran oundvikligen att öka. Vi ser redan exempel på företag med två miljoner slutpunkter i sin miljö, där säkerhetsteamen utreder dessa larm manuellt. De har inte en rättvis chans mot angripare som i allt högre grad agerar med hjälp av AI-agenter.
För försvarare kan AI-agenter förändra den ekvationen genom att ta hand om utredningar och andra repetitiva uppgifter i hela miljön. Men förmågan att behandla mer data leder inte automatiskt till bättre hotdetektering eller incidenthantering. Det som behövs är inte bara skala, utan också sammanhang.
Därför är sammanhang viktigt när man bedömer skalbarhet
En agent som utreder miljontals slutpunkter måste förstå vad den letar efter, vad som utgör avvikande beteende i just den miljön och vilka fynd som motiverar ytterligare utredning. Utan detta sammanhang riskerar automatiseringen att skala upp bruset och leda till irrelevanta eller missvisande slutsatser.
Det är också viktigt att komma ihåg att alla organisationer inte kommer att kunna förlita sig på utredningar med de mest avancerade modellerna för varje larm; det skulle bli alldeles för dyrt.
Säkerhetsmiljöer skiljer sig åt när det gäller infrastruktur, applikationer, operativa krav, regulatoriska skyldigheter och risktolerans. Försvarare måste hålla applikationerna i gång samtidigt som de hanterar efterlevnadskrav och undviker driftstörningar.
För att vara effektiva måste agenter ta hänsyn till organisationens kunskap, däribland tidigare utredningar, etablerade rutiner och erfarna analytikers bedömningar. Mycket av den här kunskapen går inte att bara mata in i en agent i ett kalkylblad eller något annat format; den måste i stället förvärvas genom att observera hur erfarna försvarare arbetar.
För företag är den stora frågan hur man tar till vara på den här institutionella kunskapen och omsätter den i system som kan fatta konsekventa beslut anpassade efter sammanhanget, med maskinens hastighet.
Så omsätter man organisationens kunskap i praktiken
Organisationer behöver metoder för att fånga upp och tillämpa den kunskap som ligger till grund för utredningar, däribland tidigare beslut i ärenden, etablerade rutiner och hur analytiker tolkar bevis. Företag kan också ha ”specialanpassade” processer och verktyg samt intern, erfarenhetsbaserad kunskap som behöver dokumenteras.
Specialisering av modeller är en möjlig metod. Finjustering av modeller för enskilda företagskunder kan möjliggöra storskaliga utredningar till en mer förutsägbar kostnad, samtidigt som prestandan förblir hög. Finjusterade modeller med öppen källkod kan vara särskilt användbara för uppgifter som omfattar mycket stora mängder slutpunkter.
Organisationer måste också utvärdera agenternas prestanda i takt med att modeller, arbetsflöden och företagsmiljöer förändras. Syntetiska miljöer, eller digitala tvillingar, kan ge representativa förhållanden för att testa olika versioner av agenter när produktionsdata inte längre är tillgängliga eller har blivit inaktuella.
Finjustering är inte det enda sättet att tillföra sammanhang. Hämtning av information, minne, orkestrering av arbetsflöden och uttryckliga policykontroller är alternativa metoder. Det centrala kravet är att den valda metoden förbättrar agentens prestanda i den miljö där den ska användas.
Autonomi i stor skala kräver tydliga gränser, tillsyn och samordning
Att identifiera ett hot korrekt är bara en del av utmaningen. Agenter måste förstå vilka åtgärder de har befogenhet att vidta, när mänskligt godkännande krävs och hur de undviker att störa den ordinarie verksamheten. För att driftsättningen ska vara tillförlitlig är det avgörande att fastställa när agenter får agera autonomt och när mänskliga beslut krävs.
Autonomi i stor skala kräver också stordriftsfördelar. Företag som använder de mest avancerade modellerna för miljontals utredningar kommer att gå i konkurs. Därför är det avgörande att hitta det effektivaste sättet att genomföra utredningar med en AI-modell, oavsett om det är en Small Language Model (SLM) eller en proprietär modell.
Graden av autonomi bör stå i proportion till risken. Rutinuppgifter som man känner väl till kan lämpa sig för autonomt utförande, medan åtgärder med stora konsekvenser eller risk för störningar kan kräva mänskligt godkännande eller ytterligare behörighet. Företagssäkerhet är också beroende av samordning mellan team. Om en utredning identifierar ett hot som kräver en ändring av brandväggskonfigurationen måste ärendet smidigt överlämnas till teamet som ansvarar för systemet, med lämplig behörighet och tydligt ansvar för åtgärderna.
Styrning och utformning av arbetsflöden är därför avgörande delar av driftsättningen av agenter, inte kontroller som kan läggas till efter att tekniken har skalats upp.
Nästa mått på framgång för AI inom säkerhet är kvaliteten på resultaten
Organisationer bör utvärdera agenter med hjälp av resultatbaserade mått, däribland utredningarnas träffsäkerhet, andelen falskt positiva och falskt negativa resultat, tiden det tar att utreda och åtgärda problem, kostnaden per utredning, kvaliteten på eskaleringar och efterlevnaden av auktoriseringspolicyer.
Kontinuerlig utvärdering är avgörande när modeller och arbetsflöden förändras. Genom att testa olika agentversioner mot representativa fall och använda syntetiska miljöer kan organisationer upptäcka försämringar innan uppdateringar driftsätts i produktionsmiljön.
Säkerhetsansvariga måste väga automatiseringens fördelar mot de operativa riskerna med driftsättning. Applikationernas tillgänglighet, efterlevnadskrav, organisationens risktolerans och tidsplanerna för införandet påverkar alla hur snabbt nya funktioner kan tas i bruk.
AI ger säkerhetsteam möjlighet att tackla ett långvarigt kapacitetsproblem, men ökad skala i sig är inte slutmålet. Den verkliga möjligheten ligger i att förena maskinernas hastighet med organisatorisk kontext, lämpliga befogenheter och mänskligt omdöme, så att agenter kan avgöra vad som är viktigt, vidta rätt åtgärder och involvera rätt personer när det behövs.












