Er AI-agenter tilstrækkeligt troværdige til min virksomhed?

Store sprogmodeller (LLM) og AI-agenter har en betydelig indvirkning på mange områder, herunder cybersikkerhed. Deres potentiale virker ubegrænset. Men i praksis, når LLM’er integreres i de centrale arbejdsgange, hvor forretningsbeslutninger træffes, er der opstået mange problemer, især omkring privatliv og datanøjagtighed. Vi er tilbage ved spørgsmålet: Er AI-agenter tilstrækkeligt troværdige til min forretning?

Når det kommer til cybersikkerhed og Security Operations Centers (SOC), er det hurtige svar, som vi har hørt hele vores karriere: Ja, med ordentlige kontroller og risikobegrænsende foranstaltninger i SOC, kan AI-agenter indføres med succes og på sikker vis i produktionsmiljøer, hvor de tilføjer betydelig værdi ved at arbejde sammen med menneskelige SOC-analytikere.

AI-cybersikkerhedsudfordringer

Færdigudviklede LLM’er, der bruges som en selvstændig løsning, har flere kerneproblemer, såsom hallucinationer, dataforgiftning og prompt-injektion. Disse problemer kan forårsage alvorlige problemer i et autonomt SOC, herunder:

Begrænset data, der fører til unøjagtige vurderinger – AI-agenter har brug for alle relevante oplysninger fra miljøet for at udføre deres arbejde godt – mindst lige så meget data, som menneskelige sikkerhedsanalytikere har, og helst mere. Utilstrækkelig data fører til, at AI-agenter gør forkerte antagelser, der kan variere mellem gentagne undersøgelser. Hvis du begrænser dataadgang på grund af sikkerhedsbekymringer eller begrænser, hvor meget AI kan gøre af budgetmæssige årsager, kan du forvente, at nøjagtigheden tager skade.

Inkonsistente vurderinger – AI-agenter skal træffe beslutninger og udføre opgaver på baggrund af de data, de har indsamlet. På grund af den store mængde sikkerhedsdata i typiske miljøer er det almindeligt at bruge en stikprøve-tilgang for at balancere nøjagtighed med budget. Når undersøgelser køres flere gange, kan der optræde forskelle i dommen, dens fastsatte alvorlighed og de anbefalede handlinger. Dette er normalt, så længe forskellen er inden for en tolerancegrænse, og det sker også, når to forskellige menneskelige analytikere ser på samme alarm.

Uigennemsigtige ræsonnementer, eller problemet med den ”sorte boks (BBOX.BO ) ” – Nogle AI-agenter fungerer som uigennemsigtige systemer. Disse AI-drevne SOC-resultater kan se meget imponerende ud til at starte med, men til vigtige forretningsbeslutninger har du brug for at forstå, hvad der fik det AI-drevne SOC til at anbefale bestemte handlinger. Dette er dog ikke en indbygget begrænsning af AI, da nogle AI-agenter går langt for at være gennemsigtige. Det anbefales, at du validerer AI-agenter grundigt i en Proof of Value, før du beslutter dig for at tage dem i brug.

Hvordan AI i cybersikkerhed er forbedret

AI-drevne cybersikkerheds-tilgange har gjort betydelige fremskridt mod forbedring siden de først blev introduceret. Overvej følgende:

Konsensus ved hjælp af stikprøver afhjælper inkonsistens – Inkonsistenser i beslutninger eller resultater kan effektivt afhjælpes ved at udnytte flere AI-agenter med forskellige konfigurationer (f.eks. forskellige modeller med forskellige temperaturindstillinger) til at fortolke de data, der er indsamlet af tidligere agent-operationer.

Brug af stikprøver lader organisationer forstå, hvor de forskellige AI-modeller er enige og hvor de afviger. Som resultat kan man stole på de oplysninger, hvor alle modeller er enige, og tillægge de oplysninger, hvor de afviger, mindre vægt. Dette kan væsentligt afhjælpe inkonsistens.

Det er vigtigt at bemærke, at oplysninger, hvor stikprøve-agenter er uenige, også er værdifulde, da de identificerer usikkerhed og behov for bedre data eller input. Disse inkonsistente oplysninger kan hjælpe organisationer med at prioritere adgang til væsentlige data til bedre beslutningstagning.

Konsistente procedurer med undersøgelses-playbooks – En af de vigtigste årsager til, at flere kørsler af en AI SOC-undersøgelse resulterer i inkonsistente resultater, er variationen i ikke kun de data, der er indsamlet, men også i de hypoteser, der er oprettet eller ændret under AI-agent-undersøgelsen. At etablere en overordnet undersøgelsesguide baseret på standardprocedurer (SOP) for bestemte kategorier hjælper agenterne med at danne mere konsistente hypoteser og forbedrer den samlede konsistens i resultaterne. Dette er ikke en ny tilgang – de fleste menneskelige SOC-analytikere stoler allerede på SOP’er for at sikre effektive og konsistente undersøgelser. AI-agenter kan bruge SOP’er på samme måde.

Sporbare beviser afklarer den sorte boks – Som god praksis bør et AI-baseret SOC fra starten designes med understøttende beviser for øje. Hver beslutning, en agent træffer, og hver hypotese, den opstiller, skal være bakket op af støttende oplysninger, herunder spor af ræsonnementerne og de rå log-data, der underbygger disse ræsonnementer.

AI til cybersikkerhed, der er troværdig

AI-agenter kan fremskynde opdagelse, triage og trusselsrespons i cybersikkerhed, men de introducerer også reelle risici – herunder inkonsistente resultater, uigennemsigtige beslutninger og følsomhed over for datakvalitet. Tillid til brug i mission-kritiske miljøer kræver evidensbaseret ræsonnement, herunder spor og rå artefakter; strukturerede SOP’er til at reducere variation; multi-agent-stikprøver til at adskille konsensus fra usikkerhed; og sikkerhedsforanstaltninger for dataintegritet, mod prompt-injektion og for grænser for antal trin og budget.

Alle disse afgørende forbedringer kan gennemføres med avancerede metoder baseret på LLM-AI-agenter, der er designet til at tackle kompleksiteten af moderne AI-drevne sikkerhedsoperationer. For eksempel bruger nogle avancerede LLM-tilgange avanceret multi-agent-stikprøve for at lade organisationer udnytte den kollektive intelligens af forskellige AI-modeller, der samarbejder for at opnå konsensus, minimere inkonsistens og pege på områder med usikkerhed. Deres strukturerede og klare undersøgelsesguider sikrer, at analyse-trin følger bedste praksis og standardiserede procedurer, hvilket driver konsistens og pålidelighed i hver operation.

End-to-end beslutnings-sporbarhed resulterer i, at hver dom, anbefaling og automatiseret handling er auditeret og forstået for at give fuld gennemsigtighed til sikkerhedsteams, samtidig med at tillid bygges op med stakeholdere. Ved at integrere disse nøgle-elementer – og implementere robuste kontroller for kvaliteten af promptdata, sikkerhed og operationelle guardrails – giver avancerede metoder baseret på LLM-AI-agenter SOC mulighed for at opnå resultater, der ikke kun er pålidelige og gennemsigtige, men også produktionsklare for virkelige miljøer og dine mest mission-kritiske aktiviteter.