Tankeledere
AI kan opskalere sikkerheden. Men hvad er det, der opskaleres?

NøglepunkterBehandling af mere data forbedrer ikke automatisk trusselsdetektion uden organisatorisk…
Vis mere
- Behandling af mere data forbedrer ikke automatisk trusselsdetektion uden organisatorisk kontekst.
- Finjusterede modeller kan understøtte store undersøgelser til mere forudsigelige omkostninger end frontiermodeller.
- Autonomi bør stå i forhold til risikoen, med styring designet før agenter skaleres.
Sikkerhedsteams i virksomheder står i dag over for mere aktivitet, flere telemetridata og flere alarmer, end de realistisk kan undersøge manuelt. Estimaterne varierer, men undersøgelser tyder på, at et gennemsnitligt sikkerhedsdriftsteam modtager mere end 4.400 alarmer om dagen. I takt med at organisationer vokser og tilføjer flere værktøjer, og AI muliggør flere angreb, vil tallet nødvendigvis stige. Vi ser allerede eksempler på virksomheder med to millioner slutpunkter i deres miljø, hvor sikkerhedsteams, der undersøger disse alarmer manuelt, ikke har en fair chance mod angribere, der i stigende grad bruger agenter.
For forsvarere kan AI-agenter ændre på det ved at påtage sig undersøgelser og andre gentagne opgaver på tværs af miljøet. Evnen til at behandle flere data fører dog ikke automatisk til bedre trusselsdetektion eller -håndtering. Det handler ikke kun om skala, men også om kontekst.
Kontekstens betydning, når skalaen skal vurderes
En agent, der undersøger millioner af slutpunkter, skal forstå, hvad den leder efter, hvad der udgør usædvanlig adfærd i netop det pågældende miljø, og hvilke fund der kræver yderligere undersøgelse. Uden denne kontekst risikerer automatisering at opskalere støjen og føre til irrelevante eller vildledende konklusioner.
Det er også vigtigt at huske på, at ikke alle organisationer vil kunne basere sig på undersøgelser udført af de mest avancerede modeller for hver enkelt alarm; det bliver alt for dyrt.
Sikkerhedsmiljøer er forskellige, hvad angår infrastruktur, applikationer, driftskrav, regulatoriske forpligtelser og risikovillighed. Forsvarere skal holde applikationerne kørende, samtidig med at de håndterer krav til efterlevelse og undgår driftsforstyrrelser.
For at være effektive skal agenter inddrage organisationens viden, herunder tidligere undersøgelser, etablerede procedurer og erfarne analytikeres dømmekraft. Meget af denne viden kan ikke bare gives til en agent i et regneark eller et andet format; den skal observeres i praksis ved at lære af erfarne forsvarere i arbejde.
For virksomheder er det store spørgsmål, hvordan denne organisatoriske viden kan omsættes til systemer, der kan træffe ensartede og kontekstuelt passende beslutninger i maskinhastighed.
Sådan omsættes organisatorisk viden til praksis
Organisationer har brug for metoder til at indsamle og anvende den viden, der ligger til grund for undersøgelser, herunder tidligere afgørelser i sager, etablerede procedurer og analytikernes fortolkning af beviser. Virksomheder kan også have egne processer, værktøjer og uudtalt intern viden, der skal indsamles.
Specialisering af modeller er én mulig tilgang. Finjustering af modeller til enkelte virksomhedskunder kan understøtte undersøgelser i stor skala til en mere forudsigelig pris, samtidig med at den høje ydeevne bevares. Finjusterede open source-modeller kan være særligt nyttige til opgaver, der omfatter meget store mængder slutpunkter.
Organisationer skal også evaluere agenternes ydeevne, efterhånden som modeller, arbejdsgange og virksomhedsmiljøer ændrer sig. Syntetiske miljøer eller digitale tvillinger kan skabe repræsentative rammer til afprøvning af forskellige agentversioner, når produktionsdata ikke længere er tilgængelige eller er blevet forældede.
Finjustering er ikke den eneste måde at tilføre kontekst på. Søgning, hukommelse, orkestrering af arbejdsgange og eksplicitte politikstyringer er alternative tilgange. Det afgørende er, at den valgte metode forbedrer agentens ydeevne i det miljø, hvor den skal fungere.
Autonomi i stor skala kræver klare grænser, tilsyn og koordinering
At identificere en trussel korrekt er kun en del af udfordringen. Agenter skal forstå, hvilke handlinger de har tilladelse til at udføre, hvornår menneskelig godkendelse er nødvendig, og hvordan de undgår at forstyrre den legitime forretningsdrift. Det er afgørende for en tillidsvækkende implementering at fastlægge, hvor agenter kan handle autonomt, og hvor der kræves menneskelig beslutningstagning.
Autonomi i stor skala kræver også stordriftsfordele. Virksomheder, der bruger de mest avancerede modeller til millioner af undersøgelser, vil ruinere sig selv økonomisk. Derfor er det altafgørende at finde den mest effektive metode til at foretage undersøgelser med en AI-model, uanset om det er en lille sprogmodel (SLM) eller en proprietær model.
Graden af autonomi bør stå i forhold til risikoen. Rutineopgaver, der er velkendte, kan egne sig til autonom udførelse, mens handlinger med store konsekvenser eller risiko for driftsforstyrrelser kan kræve menneskelig godkendelse eller yderligere tilladelse. Virksomheders sikkerhed afhænger også af koordinering på tværs af teams. En undersøgelse, der identificerer en trussel, som kræver en ændring af firewallkonfigurationen, skal overdrages gnidningsløst til det team, der er ansvarligt for systemet, med passende tilladelser og ansvar for afhjælpningen.
Styring og udformning af arbejdsgange er derfor afgørende dele af implementeringen af agenter – ikke kontrolforanstaltninger, der kan tilføjes, efter at teknologien er blevet opskaleret.
Det næste mål for succes med AI inden for sikkerhed er kvaliteten af resultaterne
Organisationer bør evaluere agenter ud fra resultatbaserede mål, herunder undersøgelsesnøjagtighed, andelen af falske positiver og falske negativer, tiden det tager at undersøge og afhjælpe problemer, omkostninger pr. undersøgelse, kvaliteten af eskaleringer og overholdelsen af autorisationspolitikker.
Løbende evaluering er afgørende, efterhånden som modeller og arbejdsgange ændrer sig. Ved at teste forskellige agentversioner på repræsentative sager og bruge syntetiske miljøer kan organisationer identificere regressioner, før de implementerer opdateringer i produktionen.
Sikkerhedsledere skal afveje fordelene ved automatisering mod de operationelle risici ved implementeringen. Applikationers tilgængelighed, krav til regeloverholdelse, organisationens risikotolerance og tidsplaner for implementering påvirker alle, hvor hurtigt nye funktioner kan tages i brug.
AI giver sikkerhedsteams mulighed for at håndtere et langvarigt kapacitetsproblem, men stor skala i sig selv er ikke målet. Den reelle mulighed ligger i at kombinere maskinens hastighed med organisatorisk kontekst, passende beføjelser og menneskelig dømmekraft, så agenter kan skelne mellem, hvad der er vigtigt, træffe de rigtige foranstaltninger og inddrage de rette personer, når det er nødvendigt.












