David Kellerman, Field CTO i Cymulate – Intervju-serie

David Kellerman er Field CTO i Cymulate, og en senior teknisk kundeorientert profesjonell i feltet informasjon og cybersikkerhet. David leder kundene til suksess og høye sikkerhetsstandarder.

Cymulate er et selskap for cybersikkerhet som tilbyr validering av trussel-exponering for organisasjoner som ønsker å lukke sikkerhetshull før angripere kan utnytte dem. Deres plattform gjør det mulig for organisasjoner å baseline sin sikkerhetsposture og styrke cyber-resiliensen gjennom kontinuerlig oppdagelse, validering, prioritering og veiledet remediering av sikkerhetssvakheter. Gjennom automatisering og kunstig intelligens tilbyr Cymulate avansert offensiv sikkerhetstesting for å validere kontroller, trusler og angrepsveier. Som en åpen plattform integrerer Cymulate med eksisterende sikkerhets- og IT-infrastruktur for å drive arbeidsflyten i eksponeringshåndteringsprosessen og forbedre forsvar i sanntid. Ved å tilby Breach and Attack Simulation (BAS), eksponeringshåndtering og sikkerhetsposture-håndtering hjelper Cymulate bedrifter med å identifisere sårbarheter.

Hva ser du som den primære driveren bak økningen av AI-relaterte cybersikkerhetstrusler i 2025?

AI-relaterte cybersikkerhetstrusler øker på grunn av AI sin økte tilgjengelighet. Trusselaktører har nå tilgang til AI-verktøy som kan hjelpe dem med å iterere på malware, lage mer overbevisende phishing-e-poster og øke omfanget av angrepene. Disse taktikkene er ikke “nye”, men hastigheten og nøyaktigheten med hvilken de blir deployert, har bidratt betydelig til den allerede lange listen over cybersikkerhetstrusler som sikkerhetsteamene må håndtere. Organisasjoner skynder seg å implementere AI-teknologi, uten å fullt ut forstå at sikkerhetskontroller må settes på plass for å sikre at den ikke lett kan utnyttes av trusselaktører.

Er det noen spesifikke industrier eller sektorer som er mer utsatt for disse AI-relaterte truslene, og hvorfor?

Industrier som kontinuerlig deler data over kanaler mellom ansatte, kunder eller kunder er utsatt for AI-relaterte trusler fordi AI gjør det lettere for trusselaktører å engasjere i overbevisende sosiale ingeniørskjemaer. Phishing-svindel er effektivt et tallspill, og hvis angripere nå kan sende mer autentiske e-poster til en større mengde mottakere, vil deres suksessrate øke betydelig. Organisasjoner som eksponerer sine AI-drevne tjenester for offentligheten, inviterer potensielt angripere til å prøve å utnytte dem. Selv om det er en arvet risiko ved å gjøre tjenestene offentlige, er det viktig å gjøre det riktig.

Hva er de viktigste sårbarhetene organisasjoner møter når de bruker offentlige LLM-er for forretningsfunksjoner?

Datalekkasje er sannsynligvis den største bekymringen. Når du bruker en offentlig stor språkmodell (LLM), er det vanskelig å si med sikkerhet hvor dataene kommer til å havne – og det siste du vil gjøre, er å utilsiktet laste opp sensitive opplysninger til et offentlig tilgjengelig AI-verktøy. Hvis du trenger konfidensielle data analyser, hold dem internt. Ikke vende deg til offentlige LLM-er som kan lekke dataene til det bredere internettet.

Hvordan kan bedrifter effektivt sikre sensitive data når de tester eller implementerer AI-systemer i produksjon?

Når du tester AI-systemer i produksjon, bør organisasjoner adoptere en offensiv holdning (i stedet for en defensiv). Det vil si at sikkerhetsteamene bør proaktivt teste og validere sikkerheten til deres AI-systemer, i stedet for å reagere på innkommende trusler. Kontinuerlig overvåking av angrep og validering av sikkerhetssystemer kan hjelpe til å sikre at sensitive data er beskyttet og sikkerhetsløsningene fungerer som ønsket.

Hvordan kan organisasjoner proaktivt forsvare seg mot AI-drevne angrep som kontinuerlig utvikler seg?

Mens trusselaktører bruker AI til å utvikle sine trusler, kan sikkerhetsteamene også bruke AI til å oppdatere sine breach og attack simulation (BAS)-verktøy for å sikre at de er beskyttet mot nye trusler. Verktøy som Cymulates daglige trussel-feed laster inn de nyeste truslene i Cymulates breach og attack simulation-programvare daglig for å sikre at sikkerhetsteamene validerer organisasjonens cybersikkerhet mot de nyeste truslene. AI kan hjelpe til å automatisere prosesser som disse, og gjøre det mulig for organisasjoner å forbli agile og klare til å møte selv de nyeste truslene.

Hva er rollen til automatiserte sikkerhetsvalideringsplattformer, som Cymulate, i å minimere risikoen for AI-drevne cybertrusler?

Automatiserte sikkerhetsvalideringsplattformer kan hjelpe organisasjoner å holde oversikt over nye AI-drevne cybertrusler gjennom verktøy som er rettet mot å identifisere, validere og prioritere trusler. Med AI som en multiplikator for angripere, er det viktig å ikke bare oppdage potensielle sårbarheter i nettverk og systemer, men også å validere hvilke som utgjør en reell trussel for organisasjonen. Først da kan eksponeringer effektivt prioriteres, og organisasjoner kan minimere de farligste truslene først, før de går videre til mindre presserende punkter. Angripere bruker AI til å sondere digitale miljøer for potensielle svakheter før de lanserer høyt tilpassede angrep, og det er derfor viktig å kunne håndtere farlige sårbarheter på en automatisert og effektiv måte.

Hvordan kan bedrifter inkorporere breach og attack simulation-verktøy for å forberede seg på AI-drevne angrep?

BAS-programvare er et viktig element i eksponeringshåndtering, og gjør det mulig for organisasjoner å lage realverden-angreps-scenarier som kan brukes til å validere sikkerhetskontroller mot dagens mest presserende trusler. Den nyeste trussel-intelligence og primær forskning fra Cymulate Threat Research Group (kombinert med informasjon om nye trusler og nye simuleringer) brukes daglig i Cymulates BAS-verktøy, og varsler sikkerhetsledere hvis en ny trussel ikke ble blokkert eller oppdaget av eksisterende sikkerhetskontroller. Med BAS kan organisasjoner også tilpasse AI-drevne simuleringer til deres unike miljøer og sikkerhetspolitikk med en åpen ramme for å lage og automatisere tilpassede kampanjer og avanserte angreps-scenarier.

Hva er de tre øverste anbefalingene du ville gi til sikkerhetsteam for å holde seg foran de nye truslene?

Truslene blir mer komplekse hver dag. Organisasjoner som ikke har en effektiv eksponeringshåndteringsprogram i plass, risikerer å falle farlig bak, så min første anbefaling ville være å implementere en løsning som gjør det mulig for organisasjonen å effektivt prioritere eksponeringer. Neste, sikre at eksponeringshåndteringsløsningen inkluderer BAS-kapasiteter som gjør det mulig for sikkerhetsteamet å simulere nye trusler (AI og andre) for å vurdere hvordan organisasjonens sikkerhetskontroller fungerer. Til slutt ville jeg anbefale å bruke automatisering for å sikre at validering og testing kan skje på en kontinuerlig basis, og ikke bare under periodiske gjennomganger. Med trussellandskapet som endrer seg fra minutt til minutt, er det kritisk å ha oppdatert informasjon. Trusseldata fra forrige kvartal er allerede håpløst foreldet.

Hva er utviklingen i AI-teknologi som du forutser i de neste fem årene som kan enten forverre eller minimere cybersikkerhetsrisiko?

Mye avhenger av hvor tilgjengelig AI fortsatt er. I dag kan lav-nivå-angripere bruke AI-kapasiteter til å øke og utvide angrepene, men de skaper ikke nye, uforutsette taktikker – de gjør bare eksisterende taktikker mer effektive. For tiden kan vi (nesten) kompensere for det. Men hvis AI fortsatt vokser mer avansert og forblir høyt tilgjengelig, kan det endre seg. Reguleringer vil spille en rolle her – EU (og, i mindre grad, USA) har tatt skritt for å regulere hvordan AI utvikles og brukes, så det vil være interessant å se om det har en effekt på AI-utviklingen.

Forventer du en endring i hvordan organisasjoner prioriterer AI-relaterte cybersikkerhetstrusler sammenlignet med tradisjonelle cybersikkerhetsutfordringer?

Vi ser allerede at organisasjoner erkjenner verdien av løsninger som BAS og eksponeringshåndtering. AI gjør det mulig for trusselaktører å raskt lansere avanserte, målrettede kampanjer, og sikkerhetsteamene trenger alle fordeler de kan få for å holde seg foran. Organisasjoner som bruker valideringsverktøy vil ha en mye lettere tid med å holde hodet over vannet ved å prioritere og minimere de mest presserende og farlige truslene først. Husk at de fleste angripere søker etter en enkel score. Du kan ikke stoppe hver enkelt angrep, men du kan unngå å gjøre deg selv til en enkel mål. Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Cymulate.