David Kellerman, Field CTO på Cymulate – Intervjuserie

David Kellerman är Field CTO på Cymulate och en senior teknisk kundansvarig professionell inom området information och cybersäkerhet. David leder kunder till framgång och höga säkerhetsstandarder.

Cymulate är ett cybersäkerhetsföretag som tillhandahåller hotexponeringsvalidering för organisationer som vill stänga säkerhetshål innan angripare kan utnyttja dem. Dess plattform möjliggör för organisationer att fastställa sin säkerhetsposition och stärka cybersäkerheten genom kontinuerlig upptäckt, validering, prioritering och vägledning för avhjälpande av säkerhetsbrister. Genom automatisering och artificiell intelligens erbjuder Cymulate avancerad offensiv säkerhetstestning för att validera kontroller, hot och angreppsvägar. Som en öppen plattform integrerar Cymulate med befintlig säkerhets- och IT-infrastruktur för att driva arbetsflödet för exponeringshanteringsprocessen och förbättra försvar i realtid. Genom att erbjuda Breach and Attack Simulation (BAS), exponeringshantering och säkerhetspositionshantering hjälper Cymulate företag att identifiera sårbarheter.

Vad ser du som den primära drivkraften bakom den ökande förekomsten av AI-relaterade cybersäkerhetshot i 2025?

AI-relaterade cybersäkerhetshot ökar på grund av AI:s ökade tillgänglighet. Hotaktörer har nu tillgång till AI-verktyg som kan hjälpa dem att iterera på skadlig kod, skapa mer övertygande phishing-e-post och öka sina attacker för att öka sin räckvidd. Dessa taktiker är inte “nya”, men hastigheten och noggrannheten med vilken de används har tillfört betydligt till den redan långa kön av cybersäkerhetshot som säkerhetsteam måste hantera. Organisationer skyndar sig att implementera AI-teknik, medan de inte fullständigt förstår att säkerhetskontroller måste införas runt den, för att säkerställa att den inte utnyttjas av hotaktörer.

Finns det några specifika branscher eller sektorer som är mer sårbara för dessa AI-relaterade hot, och varför?

Branscher som kontinuerligt delar data över kanaler mellan anställda, kunder eller kunder är sårbara för AI-relaterade hot eftersom AI gör det lättare för hotaktörer att engagera sig i övertygande sociala ingenjörssystem. Phishingbedrägerier är i princip ett nummerspel, och om angripare nu kan skicka mer autentiskt liknande e-post till ett större antal mottagare, kommer deras framgångsgrad att öka betydligt. Organisationer som exponerar sina AI-drivna tjänster för allmänheten inbjuder potentiellt angripare att försöka utnyttja dem. Medan det är en ärftlig risk att göra tjänster offentliga, är det viktigt att göra det på rätt sätt.

Vilka är de viktigaste sårbarheterna som organisationer står inför när de använder offentliga LLM:er för affärsfunktioner?

Dataläckage är troligen den främsta oron. När du använder en offentlig stor språkmodell (LLM) är det svårt att säga var den datan kommer att hamna – och det sista du vill göra är att oavsiktligt ladda upp känslig information till ett offentligt tillgängligt AI-verktyg. Om du behöver konfidentiell data analyserad, håll den internt. Använd inte offentliga LLM:er som kan vända sig om och läcka den datan till den bredare internet.

Hur kan företag effektivt skydda känslig data när de testar eller implementerar AI-system i produktion?

När du testar AI-system i produktion bör organisationer anta en offensiv inställning (i stället för en defensiv). Det vill säga att säkerhetsteam bör proaktivt testa och validera säkerheten för sina AI-system, snarare än att reagera på inkommande hot. Kontinuerlig övervakning av attacker och validering av säkerhetssystem kan hjälpa till att säkerställa att känslig data skyddas och säkerhetslösningar fungerar som avsett.

Hur kan organisationer proaktivt försvara sig mot AI-drivna attacker som kontinuerligt utvecklas?

Medan hotaktörer använder AI för att utveckla sina hot, kan säkerhetsteam också använda AI för att uppdatera sina intrångs- och angreppssimuleringsverktyg (BAS) för att säkerställa att de är skyddade mot nya hot. Verktyg som Cymulates dagliga hotflöde laddar de senaste hoten till Cymulates intrångs- och angreppssimuleringsprogram dagligen för att säkerställa att säkerhetsteam validerar organisationens cybersäkerhet mot de senaste hoten. AI kan hjälpa till att automatisera processer som dessa, vilket möjliggör för organisationer att förbli agila och redo att möta även de nyaste hoten.

Vilken roll spelar automatiserade säkerhetsvalideringsplattformar, som Cymulate, för att mildra riskerna som orsakas av AI-drivna cybersäkerhetshot?

Automatiserade säkerhetsvalideringsplattformar kan hjälpa organisationer att hålla sig på toppen av de nya AI-drivna cybersäkerhetshoten genom verktyg som syftar till att identifiera, validera och prioritera hot. Med AI som en kraftmultiplikator för angripare är det viktigt att inte bara upptäcka potentiella sårbarheter i nätverk och system, utan också validera vilka som utgör ett verkligt hot mot organisationen. Först då kan exponeringar effektivt prioriteras, vilket möjliggör för organisationer att mildra de farligaste hoten först och sedan gå vidare till mindre pressande punkter. Angripare använder AI för att undersöka digitala miljöer för potentiella svagheter innan de lanserar högt anpassade attacker, vilket innebär att förmågan att hantera farliga sårbarheter på ett automatiserat och effektivt sätt aldrig har varit viktigare.

Hur kan företag införliva intrångs- och angreppssimuleringsverktyg för att förbereda sig för AI-drivna attacker?

BAS-programvara är ett viktigt inslag i exponeringshantering, vilket möjliggör för organisationer att skapa realistiska angreppsscenarier som kan användas för att validera säkerhetskontroller mot dagens mest pressande hot. Den senaste hotinformationen och primärforskningen från Cymulate Threat Research Group (i kombination med information om nya hot och nya simuleringar) tillämpas dagligen på Cymulates BAS-verktyg, vilket varnar säkerhetsledare om ett nytt hot inte blockeras eller upptäcks av deras befintliga säkerhetskontroller. Med BAS kan organisationer också anpassa AI-drivna simuleringar till sina unika miljöer och säkerhetspolicys med en öppen ram för att skapa och automatisera anpassade kampanjer och avancerade angreppsscenarier.

Vilka är de tre främsta rekommendationerna du skulle ge till säkerhetsteam för att ligga före de nya hoten?

Hoten blir alltmer komplexa varje dag. Organisationer som inte har ett effektivt exponeringshanteringsprogram på plats riskerar att hamna farligt efter, så min första rekommendation skulle vara att implementera en lösning som möjliggör för organisationen att effektivt prioritera sina exponeringar. Nästa, se till att exponeringshanteringslösningen innehåller BAS-funktioner som möjliggör för säkerhetsteam att simulerar nya hot (AI och annat) för att bedöma hur organisationens säkerhetskontroller fungerar. Slutligen skulle jag rekommendera att använda automatisering för att säkerställa att validering och testning kan ske kontinuerligt, inte bara under periodiska granskningar. Med tanke på att hotlandskapet förändras från minut till minut är det avgörande att ha uppdaterad information. Hotdata från förra kvartalet är redan föråldrad.

Vilka utvecklingar inom AI-teknik förutser du under de närmaste fem åren som kan antingen förvärra eller mildra cybersäkerhetsrisker?

Mycket kommer att bero på hur tillgänglig AI fortsätter att vara. Idag kan lågnivåangripare använda AI-kapacitet för att uppgradera och öka sina attacker, men de skapar inte nya, oöverträffade taktiker – de gör bara befintliga taktiker mer effektiva. Just nu kan vi (i huvudsak) kompensera för det. Men om AI fortsätter att växa mer avancerad och förblir högt tillgänglig, kan det förändras. Regleringar kommer att spela en roll här – EU (och, i mindre utsträckning, USA) har tagit steg för att reglera hur AI utvecklas och används, så det kommer att vara intressant att se om det har en effekt på AI-utveckling.

Förväntar du dig en förändring i hur organisationer prioriterar AI-relaterade cybersäkerhetshot jämfört med traditionella cybersäkerhetsutmaningar?

Vi ser redan organisationer som erkänner värdet av lösningar som BAS och exponeringshantering. AI möjliggör för hotaktörer att snabbt lansera avancerade, riktade kampanjer, och säkerhetsteam behöver alla fördelar de kan få för att hålla sig före dem. Organisationer som använder valideringsverktyg kommer att ha en betydligt lättare tid att hålla huvudet ovanför vattenytan genom att prioritera och mildra de mest pressande och farligaste hoten först. Kom ihåg att de flesta angripare letar efter en enkel poäng. Du kan inte stoppa varje attack, men du kan undvika att göra dig själv till en lätt måltavla.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Cymulate.