Steve Wilson, Chief AI och Produktchef på Exabeam – Intervjuserie

Steve Wilson är Chief AI och Produktchef på Exabeam, där hans team tillämpar banbrytande AI-teknologier för att tackla verkliga utmaningar inom cybersäkerhet. Han grundade och är medordförande för OWASP Gen AI Security Project, organisationen bakom branschstandardlistan OWASP Top 10 för Large Language Model Security.

Hans prisbelönta bok, “The Developer’s Playbook för Large Language Model Security” (O’Reilly Media), valdes som den bästa boken om banbrytande cybersäkerhet av Cyber Defense Magazine.

Exabeam är en ledare inom intelligens och automation som driver säkerhetsoperationer för världens smartaste företag. Genom att kombinera skalan och kraften i AI med styrkan i vår branschledande beteendeanalys och automation, får organisationer en mer holistisk vy över säkerhetsincidenter, upptäcker avvikelser som andra verktyg missar och uppnår snabbare, mer exakta och upprepningsbara svar. Exabeam ger globala säkerhetsteam möjlighet att bekämpa cyberhot, mildra risker och effektivisera verksamheten.

Din nya titel är Chief AI och Produktchef på Exabeam. Hur speglar detta den växande betydelsen av AI inom cybersäkerhet?

Cybersäkerhet var ett av de första områdena som verkligen antog maskinlärning – på Exabeam har vi använt ML som kärnan i vår upptäcktsmotor i över ett decennium för att identifiera avvikande beteende som människor ensamma kanske missar. Med ankomsten av nyare AI-teknologier, som intelligenta agenter, har AI växt från att vara viktigt till att vara absolut centralt.

Min kombinerade roll som Chief AI och Produktchef på Exabeam speglar exakt denna utveckling. I ett företag som är djupt engagerat i att införliva AI i sina produkter och inom en bransch som cybersäkerhet där AI:s roll är alltmer kritisk, var det logiskt att förena AI-strategi och produktstrategi under en roll. Denna integration säkerställer att vi är strategiskt anpassade för att leverera omvälvande AI-drivna lösningar till säkerhetsanalytiker och driftsteam som förlitar sig på oss mest.

Exabeam är banbrytande inom “agentic AI” inom säkerhetsoperationer. Kan du förklara vad det innebär i praktiken och hur det skiljer sig från traditionella AI-ansatser?

Agentic AI representerar en meningsfull utveckling från traditionella AI-ansatser. Det är handlingsinriktat – proaktivt initierar processer, analyserar information och presenterar insikter innan analytiker ens ber om dem. Utöver ren dataanalys fungerar agentic AI som en rådgivare, erbjuder strategiska rekommendationer över hela SOC, guidar användare mot de enklaste vinsterna och tillhandahåller steg-för-steg-vägledning för att förbättra deras säkerhetsläge. Dessutom fungerar agenter som specialiserade paket, inte en tung chatbot, var och en anpassad med specifika personligheter och datamängder som integreras sömlöst i analytikers, ingenjörers och chefer arbetsflöde för att tillhandahålla riktad, effektiv hjälp.

Med Exabeam Nova som integrerar flera AI-agenter över SOC-arbetsflödet, vad ser framtiden ut för säkerhetsanalytikerns roll? Är den under utveckling, minskning eller blir mer specialiserad?

Säkerhetsanalytikerns roll utvecklas definitivt. Analytiker, säkerhetsingenjörer och SOC-chefer är överväldigade av data, larm och ärenden. Den verkliga framtida skiftningen är inte bara att spara tid på tråkiga uppgifter – även om agenter verkligen hjälper där – utan att höja alla roller till att bli teamledare. Analytiker kommer fortfarande att behöva starka tekniska färdigheter, men nu kommer de att leda ett team av agenter redo att accelerera deras uppgifter, förstärka deras beslut och genuint driva förbättringar av säkerhetsläget. Denna transformation positionerar analytiker för att bli strategiska orkestrerare snarare än taktiska svarare.

Senaste data visar en diskrepans mellan chefer och analytiker när det gäller AI:s produktivitetseffekt. Varför tror du att denna perceptionsGap finns, och hur kan den åtgärdas?

Senaste data visar en tydlig diskrepans: 71% av chefer tror att AI avsevärt ökar produktiviteten, men bara 22% av analytiker på frontlinjen, de dagliga användarna, håller med. På Exabeam har vi sett att denna klyfta växer tillsammans med den senaste AI-hysterin inom cybersäkerhet. Det har aldrig varit enklare att skapa imponerande AI-demonstrationer, och leverantörer är snabba att hävda att de har löst varje SOC-utmaning. Medan dessa demonstrationer imponerar på chefer initialt, faller de många gånger kort där det räknas – i händerna på analytiker. Potentialen finns där, och det finns fickor av verklig avkastning, men det finns fortfarande för mycket brus och för få meningsfulla förbättringar. För att brottas med denna perceptionsGap måste chefer prioritera AI-verktyg som verkligen ger analytiker makt, inte bara imponerar i en demonstration. När AI verkligen förbättrar analytikers effektivitet, kommer förtroende och verkliga produktivitetsförbättringar att följa.

AI accelererar hotdetektering och svar, men hur upprätthåller du balansen mellan automation och mänskligt omdöme i högriskcybersäkerhetsincidenter?

AI-kapaciteter utvecklas snabbt, men dagens grundläggande “språkmodeller” som ligger till grund för intelligenta agenter var ursprungligen utformade för uppgifter som språköversättning – inte nyanserat beslutsfattande, spelteori eller hantering av komplexa mänskliga faktorer. Detta gör mänskligt omdöme mer nödvändigt än någonsin inom cybersäkerhet. Analytikerns roll är inte förminskad av AI; den är förhöjd. Analytiker är nu teamledare, som utnyttjar sin erfarenhet och insikt för att vägleda och styra flera agenter, säkerställande att besluten förblir informerade av kontext och nyans. I slutändan handlar det om att skapa en symbiotisk relation där AI förstärker mänsklig expertis, inte ersätter den.

Hur utvecklas din produktstrategi när AI blir en kärndesignprincip snarare än ett tillägg?

På Exabeam är vår produktstrategi grundläggande formad av AI som en kärndesignprincip, inte ett yttre skikt. Vi byggde Exabeam från grunden för att stödja maskinlärning – från loggimport, parsing, berikning och normalisering – för att fylla en robust gemensam informationsmodell som är specifikt optimerad för att mata ML-system. Högkvalitativ, strukturerad data är inte bara viktig för AI-system – det är deras livsluft. Idag integrerar vi direkt våra intelligenta agenter i kritiska arbetsflöden, undviker generiska, otympliga chatbots. Istället riktar vi oss mot specifika användningsfall som ger verkliga, mätbara fördelar för våra användare.

Med Exabeam Nova syftar ni till att “gå från assistent till autonom”. Vilka är de viktigaste milstolparna för att uppnå fullt autonoma säkerhetsoperationer?

Idén om fullt autonoma säkerhetsoperationer är intressant men förhastad. Fullt autonoma agenter, överallt, är helt enkelt inte effektiva eller säkra. Medan beslutsfattande i AI förbättras, har det inte nått mänsklig tillförlitlighet och kommer inte att göra det under en lång tid. På Exabeam är vår strategi inte att jaga total autonomi, som min grupp på OWASP identifierar som en kärnvulnerabilitet känd som Excessive Agency. Att ge agenter mer autonomi än som kan testas och valideras på ett tillförlitligt sätt sätter verksamheten på osäkert territorium. Istället är vårt mål att ha team av intelligenta agenter, kapabla men noggrant guidade, som arbetar under övervakning av mänskliga experter i SOC. Den kombinationen av mänsklig övervakning och riktad agenter-assistans är den realistiska, effektiva vägen framåt.

Vilka är de största utmaningarna du har mött när du integrerar GenAI och maskinlärning i den skala som krävs för realtidscybersäkerhet?

En av de största utmaningarna när man integrerar GenAI och maskinlärning i skala för cybersäkerhet är att balansera hastighet och precision. GenAI ensam kan inte ersätta den ren skala som vår höghastighets-ML-motor hanterar – bearbetning av terabyte data kontinuerligt. Även de mest avancerade AI-agenterna har ett “kontextfönster” som är otroligt otillräckligt. Istället består vår recept av att använda ML för att destillera massiva data till agerbara insikter, som våra intelligenta agenter sedan översätter och operationaliserar effektivt.

Du var med och grundade OWASP Top 10 för LLM-applikationer. Vad inspirerade detta, och hur ser du att det kommer att forma AI-säkerhetsbästa praxis?

När jag lanserade OWASP Top 10 för LLM-applikationer i början av 2023, var strukturerad information om LLM- och GenAI-säkerhet knapp, men intresset var otroligt högt. Inom dagar anslöt sig över 200 volontärer till initiativet, som förde med sig olika åsikter och expertis för att forma den ursprungliga listan. Sedan dess har den lästs över 100 000 gånger och har blivit grundläggande för internationella branschstandarder. Idag har insatsen utvidgats till OWASP Gen AI Security Project, som täcker områden som AI Red Teaming, säkring av agenter och hantering av offensiva användningar av GenAI inom cybersäkerhet. Vår grupp har nyligen passerat 10 000 medlemmar och fortsätter att driva AI-säkerhetspraxis globalt.

Din bok, ‘The Developer’s Playbook för LLM-säkerhet‘, vann en topputmärkelse. Vad är den viktigaste slutsatsen eller principen från boken som varje AI-utvecklare bör förstå när de bygger säkra applikationer?

Den viktigaste slutsatsen från min bok, “The Developer’s Playbook för LLM-säkerhet”, är enkel: “med stor makt följer stort ansvar”. Medan det fortfarande är viktigt att förstå traditionella säkerhetskoncept, står utvecklare inför en helt ny uppsättning utmaningar som är unika för LLM. Denna kraftfulla teknologi är inte en frikort, den kräver proaktiva, genomtänkta säkerhetspraxis. Utvecklare måste expandera sin syn, erkänna och hantera dessa nya sårbarheter från början, införliva säkerhet i varje steg av deras AI-applikations livscykel.

Hur ser du att cybersäkerhetsarbetaren utvecklas under de kommande 5 åren när agentic AI blir mer mainstream?

Vi är för närvarande i en AI-kapprustning. Angripare är aggressivt utplacerade AI för att främja sina skadliga mål, vilket gör cybersäkerhetsproffs mer avgörande än någonsin. De kommande fem åren kommer inte att minska cybersäkerhetsarbetaren, de kommer att höja den. Proffs måste omfamna AI, integrera den i sina team och arbetsflöden. Säkerhetsroller kommer att skifta mot strategisk ledning – mindre om individuellt arbete och mer om att orkestrera ett effektivt svar med ett team av AI-drivna agenter. Denna transformation ger cybersäkerhetsproffs möjlighet att leda beslutsamt och med tillförsikt i kampen mot ständigt utvecklande hot.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka Exabeam.