Tankeledere
KI kan skalere sikkerheten. Men hva er det som skaleres?

Viktige punkterÅ behandle mer data forbedrer ikke automatisk trusseldeteksjon uten organisatorisk…
Vis mer
- Å behandle mer data forbedrer ikke automatisk trusseldeteksjon uten organisatorisk kontekst.
- Finjusterte modeller kan støtte storskalaundersøkelser til mer forutsigbar kostnad enn frontiermodeller.
- Autonomi bør stå i forhold til risiko, med styring utformet før agenter skaleres.
Sikkerhetsteam i virksomheter står i dag overfor mer aktivitet, telemetri og flere varsler enn de realistisk sett kan undersøke manuelt. Anslagene varierer, men noe forskning tyder på at et gjennomsnittlig sikkerhetsoperasjonsteam mottar over 4 400 varsler om dagen. Etter hvert som organisasjoner vokser og tar i bruk flere verktøy, og KI legger til rette for flere angrep, vil dette tallet uunngåelig øke. Vi ser allerede eksempler på virksomheter med to millioner endepunkter i miljøet sitt. Sikkerhetsteam som undersøker disse varslene manuelt, har ikke en fair sjanse mot angripere som i stadig større grad bruker agenter.
For forsvarere kan KI-agenter endre dette ved å ta seg av undersøkelser og andre gjentakende oppgaver på tvers av miljøet. Evnen til å behandle mer data fører imidlertid ikke automatisk til bedre trusseldeteksjon eller -respons. Det som trengs, er ikke bare skala, men også kontekst.
Hvorfor kontekst er viktig når man vurderer skala
En agent som undersøker millioner av endepunkter, må forstå hva den leter etter, hva som regnes som uvanlig atferd i akkurat dette miljøet, og hvilke funn som bør undersøkes nærmere. Uten denne konteksten risikerer automatisering å skalere opp støyen og føre til irrelevante eller misvisende konklusjoner.
Det er også viktig å huske at ikke alle organisasjoner vil kunne basere seg på undersøkelser med de mest avanserte modellene for hvert varsel. Det blir altfor kostbart.
Sikkerhetsmiljøer varierer med hensyn til infrastruktur, applikasjoner, driftskrav, regulatoriske forpliktelser og risikotoleranse. Forsvarere må holde applikasjonene i gang samtidig som de håndterer krav til etterlevelse og unngår driftsforstyrrelser.
For at agenter skal være effektive, må de ta hensyn til organisasjonens kunnskap, blant annet tidligere undersøkelser, etablerte prosedyrer og erfarne analytikeres vurderinger. Mye av denne kunnskapen kan ikke bare mates inn i en agent i et regneark eller et annet format. Den må observeres i praksis, ved at agenten lærer av erfarne forsvarere i arbeid.
For virksomheter er det store spørsmålet hvordan de kan ta denne institusjonelle kunnskapen og omsette den til systemer som kan ta konsekvente, kontekstuelt passende beslutninger i maskinhastighet.
Slik gjør du organisasjonens kunnskap operativ
Organisasjoner trenger mekanismer for å fange opp og bruke kunnskapen som ligger til grunn for undersøkelser, blant annet tidligere beslutninger i saker, etablerte prosedyrer og hvordan analytikere tolker bevis. Virksomheter kan også ha egne prosesser, verktøy og erfaringsbasert kunnskap som må fanges opp.
Spesialisering av modeller er én mulig tilnærming. Finjustering av modeller for enkeltkunder i virksomhetsmarkedet kan støtte undersøkelser i stor skala til mer forutsigbare kostnader, samtidig som høy ytelse opprettholdes. Finjusterte modeller med åpen kildekode kan være særlig nyttige for oppgaver som omfatter svært store mengder endepunkter.
Organisasjoner må også evaluere agentenes ytelse etter hvert som modeller, arbeidsflyter og virksomhetsmiljøer endres. Syntetiske miljøer, eller digitale tvillinger, kan gi representative omgivelser for testing av ulike agentversjoner når produksjonsdata ikke lenger er tilgjengelige eller er blitt utdaterte.
Finjustering er ikke den eneste måten å tilføre kontekst på. Gjenfinning, minne, orkestrering av arbeidsflyter og eksplisitte policykontroller er alternative tilnærminger. Hovedkravet er at den valgte metoden forbedrer agentens ytelse i miljøet der den skal operere.
Autonomi i stor skala krever tydelige grenser, tilsyn og koordinering
Å identifisere en trussel korrekt er bare en del av utfordringen. Agenter må forstå hvilke handlinger de har fullmakt til å utføre, når menneskelig godkjenning er nødvendig, og hvordan de kan unngå å forstyrre legitim virksomhetsdrift. Det er avgjørende for en pålitelig innføring å fastslå hvor agenter kan handle autonomt, og hvor det kreves menneskelige beslutninger.
Autonomi i stor skala krever også stordriftsfordeler. Selskaper som bruker de mest avanserte modellene til millioner av undersøkelser, kommer til å ruinere seg selv økonomisk. Derfor er det helt avgjørende å finne den mest effektive metoden for å gjennomføre undersøkelser med en KI-modell, enten det er en Small Language Model (SLM) eller en proprietær modell.
Graden av autonomi bør stå i forhold til risikoen. Rutineoppgaver som er godt forstått, kan egne seg for autonom utførelse, mens handlinger med store konsekvenser eller som kan skape forstyrrelser, kan kreve menneskelig godkjenning eller ytterligere fullmakt. Sikkerhet i virksomheter avhenger også av koordinering på tvers av team. En undersøkelse som avdekker en trussel som krever en endring i brannmurkonfigurasjonen, må overføres sømløst til teamet som har ansvar for systemet, med nødvendig fullmakt og tydelig ansvar for utbedringen.
Styring og utforming av arbeidsflyter er derfor viktige deler av innføringen av agenter, ikke kontroller som kan legges til etter at teknologien er skalert opp.
Det neste målet på om KI lykkes innen sikkerhet, er kvaliteten på resultatene
Organisasjoner bør evaluere agenter ved hjelp av resultatbaserte måltall, blant annet nøyaktighet i undersøkelser, andel falske positive og falske negative, tid brukt på å undersøke og utbedre, kostnad per undersøkelse, kvaliteten på eskaleringer og etterlevelse av autorisasjonspolicyer.
Kontinuerlig evaluering er avgjørende etter hvert som modeller og arbeidsflyter endres. Ved å teste ulike agentversjoner mot representative saker og bruke syntetiske miljøer kan organisasjoner identifisere regresjoner før de tar oppdateringer i bruk i produksjon.
Sikkerhetsledere må veie fordelene ved automatisering opp mot de operative risikoene ved utrulling. Tilgjengeligheten til applikasjoner, etterlevelsesforpliktelser, organisasjonens risikotoleranse og tidsplaner for implementering påvirker alle hvor raskt nye funksjoner kan tas i bruk.
KI gir sikkerhetsteam mulighet til å håndtere et langvarig kapasitetsproblem, men ren skalering er ikke målet. Den reelle muligheten ligger i å kombinere maskiners hastighet med organisatorisk kontekst, passende fullmakter og menneskelig skjønn, slik at agenter kan skille mellom hva som er viktig, iverksette riktige tiltak og involvere de rette personene når det er nødvendig.












