Steve Wilson, Chief AI og Product Officer hos Exabeam – Interview Serie

Steve Wilson er Chief AI og Product Officer hos Exabeam, hvor hans team anvender avancerede AI-teknologier til at tackle virkelige cybersecurity-udfordringer. Han grundlagde og co-formand for OWASP Gen AI Security Project, organisationen bag den branchestandard, OWASP Top 10 for Large Language Model Security-listen.

Hans prisvindende bog, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), blev valgt som den bedste bog om cybersecurity af Cyber Defense Magazine.

Exabeam er en leder inden for intelligens og automation, der driver sikkerhedsoperationer for verdens mest avancerede virksomheder. Ved at kombinere skalaen og kraften af AI med styrken af vores brancheførerende behavioral analytics og automation, får organisationer en mere holistisk visning af sikkerhedsincidenser, afslører anomalier, der bliver overset af andre værktøjer, og opnår hurtigere, mere præcise og gentagne svar. Exabeam giver globale sikkerhedshold mulighed for at bekæmpe cybertrusler, mindske risiko og strømlinje operationer.

Din nye titel er Chief AI og Product Officer hos Exabeam. Hvordan afspejler dette den udvikling, der sker inden for AI i forhold til cybersecurity?

Cybersecurity var blandt de første områder, der virkelig omfattede machine learning – hos Exabeam har vi brugt ML som kernen i vores detektionssystem i over et årti for at identificere anomalt adfærd, som mennesker alene måske ikke ville have bemærket. Med ankomsten af nyere AI-teknologier, såsom intelligente agenter, er AI gået fra at være vigtigt til at være absolut centralt.

Min kombinerede rolle som Chief AI og Product Officer hos Exabeam afspejler netop denne udvikling. I et firma, der er dybt engageret i at integrere AI i sine produkter, og i en branche som cybersecurity, hvor AI’s rol er stadig mere kritisk, var det logisk at samle AI-strategi og produktstrategi under en enkelt rol. Denne integration sikrer, at vi er strategisk samordnet for at levere transformative AI-drevne løsninger til sikkerhedsanalytikere og operationshold, der afhænger af os mest.

Exabeam er pioner inden for “agentic AI” i sikkerhedsoperationer. Kan du forklare, hvad det betyder i praksis, og hvordan det adskiller sig fra traditionelle AI-tilgange?

Agentic AI repræsenterer en betydelig udvikling fra traditionelle AI-tilgange. Det er handlingsorienteret – proaktivt initierer processer, analyserer information og præsenterer indsigt, før analytikere overhovedet beder om det. Ud over blot dataanalyse fungerer agentic AI som en rådgiver, der tilbyder strategiske anbefalinger på tværs af hele SOC, guider brugere mod de letteste sejre og giver trin-for-trin-vejledning til at forbedre deres sikkerhedsstilling. Desuden fungerer agenter som specialiserede pakker, ikke en enkelt, tung chatbot, hver tilpasset med specifikke personligheder og datasæt, der integrerer nærmest i arbejdsgangen hos analytikere, ingeniører og ledere for at levere målrettede, effektive hjælp.

Med Exabeam Nova, der integrerer multiple AI-agenter på tværs af SOC-arbejdsgangen, hvilket ser fremtiden for sikkerhedsanalytikerrollen ud som?

Sikkerhedsanalytikerrollen er bestemt under udvikling. Analytikere, sikkerhedsingeniører og SOC-chefer er overvældede af data, alarmer og sager. Den virkelige fremtidsskift er ikke kun om at spare tid på rutineopgaver – selvom agenter bestemt hjælper der – men om at hæve alle roller til niveauet for en holdleder. Analytikere vil stadig have brug for stærke tekniske færdigheder, men nu vil de lede et hold af agenter, der er klar til at accelerere deres opgaver, forstærke deres beslutninger og virkelig drive forbedringer i sikkerhedsstillingen. Denne transformation giver analytikere mulighed for at blive strategiske orkestratorer snarere end taktiske respondenter.

Seneste data viser en diskonnektion mellem direktører og analytikere omkring AI’s produktivitetsindvirkning. Hvorfor tror du, denne perceptionsgap findes, og hvordan kan den være til at løse?

Seneste data viser en klar diskonnektion: 71% af direktører mener, at AI betydeligt forbedrer produktiviteten, men kun 22% af frontline-analytikere, de daglige brugere, er enige. Hos Exabeam har vi set denne gap vokse sammen med den seneste AI-frenzy i cybersecurity. Det er aldrig blevet lettere at skabe imponerende AI-demonstrationer, og leverandører er hurtige til at påstå, at de har løst alle SOC-udfordringer. Mens disse demonstrationer imponerer direktører i starten, falder mange kort, hvor det tæller – i hænderne på analytikere. Potentialet er der, og lommer af ægte gevinst findes, men der er stadig for meget støj og for få meningsfulde forbedringer. For at brokke denne perceptionsgap skal direktører prioritere AI-værktøjer, der virkelig giver analytikere magt, ikke kun imponerer i en demonstration. Når AI virkelig forbedrer analytikeres effektivitet, vil tillid og virkelige produktivitetsforbedringer følge.

AI accelererer trusselsdetektion og respons, men hvordan opretholder du balancen mellem automation og menneskelig dømmekraft i højrisiko-cybersecurity-episoder?

AI-kapaciteter udvikler sig hurtigt, men i dag grundlæggende “sprogmodeller” under intelligent agenter blev oprindeligt designet til opgaver som sprogoversættelse – ikke nuanceret beslutningstagning, spilteori eller håndtering af komplekse menneskelige faktorer. Dette gør menneskelig dømmekraft endnu mere essentiel i cybersecurity. Analytikerrollen formindskes ikke af AI; det er hævet. Analytikere er nu holdledere, der udnytter deres erfaring og indsigt til at guide og lede multiple agenter, sikrer, at beslutninger forbliver informeret af kontekst og nuance. Til sidst handler balancen mellem automation og menneskelig dømmekraft om at skabe en symbiotisk relation, hvor AI forstærker menneskelig ekspertise, ikke erstatter den.

Hvordan udvikler din produktstrategi, når AI bliver en kerne-designprincip snarere end et tilføjelse?

Hos Exabeam er vores produktstrategi grundlæggende formet af AI som en kerne-designprincip, ikke et overfladisk tilføjelse. Vi byggede Exabeam fra bunden for at støtte machine learning – fra log-indtagelse, parsing, berigelse og normalisering – for at befolke en robust fælles informationsmodel, der er specifikt optimeret til at føde ML-systemer. Højkvalitets-, struktureret data er ikke kun vigtigt for AI-systemer – det er deres livsblod. I dag integrerer vi direkte vores intelligente agenter i kritiske arbejdsgange, undgår generiske, klodsede chatbots. I stedet målretter vi præcist kritiske brugsområder, der leverer virkelige, konkrete fordele til vores brugere.

Med Exabeam Nova sigter du mod at “gå fra assistent til autonom”. Hvad er de vigtigste milepæle for at nå fuldt autonome sikkerhedsoperationer?

Idéen om fuldt autonome sikkerhedsoperationer er interessant, men for tidlig. Fuldautonome agenter, på tværs af enhver domæne, er simpelthen ikke endnu effektive eller sikre. Mens beslutningstagning i AI forbedres, har det ikke nået menneskelig niveau af pålidelighed og vil ikke i lang tid. Hos Exabeam er vores tilgang ikke at jage total autonomi, som min gruppe hos OWASP identificerer som en kernevulnerabilitet kendt som Excessive Agency. At give agenter mere autonomi, end det kan være pålideligt testet og valideret, sætter operationer på risikabelt grund. I stedet er vores mål hold af intelligente agenter, der er i stand til, men omhyggeligt vejledt, arbejder under tilsyn af menneskelige eksperter i SOC. Den kombination af menneskelig tilsyn og målrettet agentic assistance er den realistiske, effektive vej frem.

Hvad er de største udfordringer, du har mødt ved at integrere GenAI og machine learning i den skala, der kræves til cybersecurity i realtid?

En af de største udfordringer ved at integrere GenAI og machine learning i skala til cybersecurity er at balancere hastighed og præcision. GenAI alene kan ikke erstatte den rene skala af, hvad vores high-speed ML-motor håndterer – bearbejder terabyte af data kontinuerligt. Selv de mest avancerede AI-agenter har et “kontekstvindue”, der er væsentligt utilstrækkeligt. I stedet består vores recept af at bruge ML til at destillere massive data til handlebare indsigt, som vores intelligente agenter derefter oversætter og operationaliserer effektivt.

Du co-grundlagde OWASP Top 10 for LLM Applications. Hvad inspirerede dette, og hvordan ser du, det former AI-sikkerhedsbedste praksis?

Da jeg lancerede OWASP Top 10 for LLM Applications i starten af 2023, var struktureret information om LLM og GenAI-sikkerhed sjælden, men interessen var utrolig høj. Inden for få dage havde over 200 frivillige tilsluttet sig initiativet, bragte diverse meninger og ekspertise for at forme den oprindelige liste. Siden da er det blevet læst over 100.000 gange og er blevet grundlæggende for internationale branchestandarder. I dag har indsatsen udvidet sig til OWASP Gen AI Security Project, der dækker områder som AI Red Teaming, sikring af agentic systemer og håndtering af offensiv brug af Gen AI i cybersecurity. Vores gruppe har for nylig overhalet 10.000 medlemmer og fortsætter med at avancere AI-sikkerhedspraksis globalt.

Din bog, ‘The Developer’s Playbook for LLM Security‘, vandt en top-pris. Hvad er den vigtigste takeaway eller princip fra bogen, som hver AI-udvikler skal forstå, når de bygger sikre applikationer?

Den vigtigste takeaway fra min bog, “The Developer’s Playbook for LLM Security”, er simpelt: “med stor magt følger stor ansvarlighed”. Mens forståelse af traditionelle sikkerhedsbegreber stadig er essentiel, står udviklere over for en helt ny sæt udfordringer, der er unikke for LLM’er. Denne kraftfulde teknologi er ikke en frikort, det kræver proaktive, tankefulde sikkerhedspraksis. Udviklere må udvide deres perspektiv, erkende og adressere disse nye sårbarheder fra starten, integrere sikkerhed i hvert trin af deres AI-applikations livscyklus.

Hvordan ser du, cybersecurity-arbejdskraften udvikler sig de næste 5 år, mens agentic AI bliver mere mainstream?

Vi er i øjeblikket i en AI-kapløb. Modstandere deployerer aggressivt AI for at fremme deres ondsindede mål, hvilket gør cybersecurity-professionelle endnu mere kritiske. De næste 5 år vil ikke formindske cybersecurity-arbejdskraften, de vil hæve den. Professionelle må omfavne AI, integrere det i deres hold og arbejdsgange. Sikkerhedsroller vil skifte mod strategisk kommando – mindre om individuel indsats og mere om at orkestrere en effektiv respons med et hold af AI-drevne agenter. Denne transformation giver cybersecurity-professionelle mulighed for at lede beslutsomt og med tillid i kampen mod stadig udviklende trusler.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge Exabeam.