Paul Reid, VP of Adversary Research i AttackIQ – Intervju-serie

Paul Reid, VP of Adversary Research i AttackIQ, er en erfaren veteran fra den raske verden av cybersikkerhet. Med mer enn to tiår med erfaring som teknologistrateg for ledende teknologiselskaper, har Paul guidet kunder, partnere, analytikere og journalister gjennom den utviklende cybersikkerhetslandskapet. Hans ekspertise omfatter cybersikkerhet, biometri, nettverkssikkerhet og kryptografi.

Nylig har han ledet et team av Cyber Threat Hunters som har fokusert på å bruke behavioral analytics til å oppdage nye trusler i kundemiljøer. Paul er en publisert forfatter i Prentice Hall Series in Computer Networking and Distributed Systems og har flere patenter innen cybersikkerhet.

AttackIQ er et ledende cybersikkerhetsselskap som spesialiserer seg på breach og attack-simulering (BAS) og kontinuerlig sikkerhetsvalidering. Deres Adversarial Exposure Validation-plattform bruker MITRE ATT&CK-basert emulering til å teste sikkerhetskontroller, identifisere sårbarheter og prioritere reparasjon. Grunnlagt i 2013, hjelper AttackIQ organisasjoner med å forbedre sin defensive holdning, forbedre SOC-effektivitet og redusere risiko.

Du har hatt ledelsesroller over en rekke cybersikkerhetsdomener i over to tiår. Hva var det som først vekket din interesse for adversary research, og hvordan ledet denne reisen deg til AttackIQ?

Min reise inn i cybersikkerhet startet for over 25 år siden, da jeg satte opp Novell-nettverk og arbeidet i verden av directory services — Novell, Microsoft Active Directory, LDAP. Den tidlige erfaringen lærte meg viktigheten av identitet, autentisering og tilgang, grunnlaget for enhver sikkerhetsstrategi.

Deretter gikk jeg over til smart card-autentisering, hvor jeg hadde muligheten til å skrive PKCS #11-biblioteker og dykke ned i public key infrastructure (PKI) under dens raske vekst. Arbeidet med symmetrisk og asymmetrisk kryptografi under den perioden ga meg en virkelig forståelse av hvordan kryptering former tillit i digitale miljøer.

Senere i min karriere gikk jeg over til dataklassifisering, hvor jeg hjalp organisasjoner med å forstå verdien av deres data så de kunne beskytte det som betyr mest. Den erfaringen ledet naturlig til arbeid i user og entity behavior analytics (UEBA), hvor jeg fikk praktisk erfaring med data science og maskinlæring, inkludert programmering i R.

Til slutt var jeg heldig å lede et globalt threat hunting-team hvor vi utførte sanntids-sporing av nasjonale adversarial-aktører. Det var en intens og øyneåpnende periode. Det finnes ingen bedre måte å forstå taktikker, teknikker og prosedyrer (TTPs) enn å engasjere seg i daglige operasjoner mot dem.

Det var under den perioden at en gjentakende frustrasjon oppstod: vi ville ofte si, “Hvis bare de hadde gjort X eller hadde Y-kontroll på plass…” Det var et gap mellom trusselbevissthet og operasjonell forsvarberedskap.

Det var det som til slutt førte meg til AttackIQ. Muligheten til å anvende det jeg hadde lært — å emulere sanntids-adversaries gjennom breach og attack-simulering, og å validere om forsvar er virkelig effektive — var for godt til å nei til. Her, teoriserer vi ikke bare om trusler; vi tester, måler og forbedrer mot dem hver dag.

Vårt team opererer under en ledende prinsipp: “Tenk dårlig, gjør godt.” Vi tenker som adversarial-aktører ikke for å skade, men for å hjelpe våre kunder med å forberede seg på og beseire dem.

Etter å ha ledet team i TITUS, Interset og Micro Focus, hvordan har din erfaring med trusselintelligens og partner-aktivering formet din nåværende tilnærming til å operationalisere adversary-emulering?

Etter å ha arbeidet i både tekniske og markedsføringsroller i selskaper som TITUS, Interset og Micro Focus, har jeg utviklet en helhetlig forståelse av hvordan trusselintelligens må oversettes til operative resultater, ikke bare innsikt. Partner-aktivering, spesielt, lærte meg hvordan å kommunisere komplekse cybersikkerhetsproblemer på en måte som er handlebart og meningsfullt for diverse publikum, fra CISOer til frontline SOC-analytikere.

I AttackIQ er adversary-emulering ikke bare om å gjenta trussel-atferd. Det handler om å alignere med MITRE ATT&CK-rammeverket, emulere adversarial-aktører med trofasthet og hjelpe organisasjoner med å teste om deres forsvar vil holde i en sanntids-scenario. Det krever mer enn teknisk rigor; det krever utdanning, samarbeid og aktivering av interessenter over hele sikkerhetsøkosystemet.

Min tidligere rolle hjalp meg med å forstå hvordan å brokke gapet mellom intelligens og eksekvering — hvordan å operationalisere trussellandskapet på en måte som er proaktiv, målbart og forsvarbart. Det er essensen av vår misjon i AttackIQ.

Du leder nå adversary-forskning på et tidspunkt då angripere adopterer AI i stor skala. Hvordan har du sett offensiv AI-taktikk utvikle seg de siste årene — og hvordan sliter forsvarerne med å holde pace?

Adversarial-aktører utnytter AI til å øke hastigheten, presisjonen og skalaen av deres operasjoner. Vi ser mer personlige og troverdige phishing-lurer, AI-generert sosial ingeniørkunst og en større skala og effektivitet av angrep. Disse kapasitetene reduserer tiden mellom rekognosering og kompromiss, komprimerer forsvarernes vindu til å reagere. Mange organisasjoner er fortsatt avhengige av reaktive prosesser og statiske detekteringsregler, som ikke var designet for å håndtere adversarial-aktører som lærer og utvikler seg. Forsvarerne må adoptere kontinuerlig validering og eksponeringshåndtering for å lukke dette gapet, teste deres forsvar under realistiske forhold og iterere raskt i respons til nye adversarial-atferd.

Hva skiller adversarial AI fra tradisjonelle cyber-trusler, og hvorfor tror du en endring i mindset — ikke bare verktøy — er nødvendig for å respondere effektivt?

Tradisjonelle trusler følger ofte kjente mønster som forsvarerne kan spore og mitigere med regelbasert deteksjon. Adversarial AI-taktikker introduserer et nytt nivå av variasjon og tilpasning som utfordrer disse antagelsene. Det kan generere nye angrepsveier og unngå forsvar dynamisk. Å håndtere denne endringen krever mer enn å deployere nye verktøy. Det krever en strategisk endring i hvordan organisasjoner tenker om forsvar. Istedenfor å reagere på hendelser etter at de har skjedd, må sikkerhetsteamene simulere utviklende trusler ved å bruke kjente taktikker, teknikker og prosedyrer (TTPs), og proaktivt validere kontroller for å teste systemenes respons. En trussel-informert mindset, støttet av sanntids-emulering, er nøkkel til å forutse og motvirke disse nye risikoene.

Kan du forklare hvordan AttackIQ oversetter trusselintelligens til praktisk forsvar gjennom adversary-emulering, og hvordan denne prosessen har endret seg med oppkomsten av generativ AI?

Den tradisjonelle utfordringen med trusselintelligens er operationalisering, å brokke gapet mellom innsikt og handling. Adversary-emulering løser dette ved å ta intelligens om kjente trussel-atferd og omdanne det til eksekverbare tester som vurderer om nåværende forsvar kan motstå disse atferdene. Med generativ AI blir trussellandskapet mer flytende, med mer variabel atferd. Emuleringer må nå reflektere ikke bare statiske teknikker, men også adaptive og kontekst-avhengige atferd. I AttackIQ, live trusselintelligens som er tilpasset MITRE ATT&CK og modell-adversarial-atferd, blir innlemmet i emuleringsplaner for å speile sanntids-angrep. Disse emuleringer blir deployert i produksjons-lignende miljøer for å validere om sikkerhetskontroller detekterer, forhinder eller reagerer som forventet.

Kontinuerlig Trussel Eksponeringshåndtering (CTEM) blir en kjernekomponent i cybersikkerhetsstrategier. Hvordan bør organisasjoner nærme seg CTEM når de møter raskt-tilpassende AI-drevne trusler?

CTEM representerer en endring fra statiske risikovurderinger til dynamiske, intelligens-drevne sikkerhetsvalidering. Når organisasjoner møter AI-drevne trusler, må de behandle eksponering som et flytende mål. Det betyr å identifisere og prioritere eksponeringer basert på aktiv testing, ikke bare teoretisk risiko.

Røde og blå team må samarbeide om å simulere adaptive adversarial-aktører og kontinuerlig teste detekterings- og respons-kapasiteter. Organisasjoner som omfavner denne tilnærmingen er bedre utrustet til å tilpasse seg raskt, validere sine investeringer og sikkerhetskontroller, og opprettholde motstandskraft i et raskt foranderlig landskap.

Den “Foundations of AI Security” kurs fra AttackIQ dekker risikorammeverk som MITRE ATLAS og AI RMF. Hvilke aspekter av disse rammeverkene finner du mest underutnyttet eller misforstått i bedriftsmiljøer?

En av de mest vanlige misforståelsene vi ser, er tendensen til å behandle rammeverk som MITRE ATLAS og AI Risk Management Framework (AI RMF) som isolerte referansematerialer, snarere enn som operative verktøy for å bygge motstandskraft inn i AI-aktiverede systemer.

MITRE ATLAS, lignende ATT&CK i dens tidlige dager, blir ofte sett på som en statisk katalog over angreps-teknikker som tar mål på AI/ML-systemer. I virkeligheten er ATLAS et taktisk adversary-emulering-rammeverk designet for å hjelpe sikkerhetsteam med å simulere AI-spesifikke trusler — fra dataforgiftning og modell-unngåelse til inferens-manipulering — og validere deres detekterings-, logging- og respons-kapasiteter. Problemet er at de fleste bedrifter ennå ikke har bygget opp synlighet eller kontroller nødvendig for å detektere angrep mot ML-pipeline, gjør det proaktive bruk av ATLAS gjennom breach og attack-simulering-strategier enda mer kritisk. Det er et underutnyttet verktøy for å teste hvordan AI-systemer oppfører seg under adversarial-press.

På den andre siden, blir NISTs AI RMF ofte misforstått som en compliance-sjekkliste. I virkeligheten er det et strategisk styringsrammeverk — ett som støtter organisasjoner i å kartlegge AI-brukstilfeller, måle risiko (inkludert de som utgjøres av adversarial-aktører), håndtere dem gjennom prioritering og mitigering, og innlemme tilsyn over hele system-livssyklusen. Hvor ATLAS er taktisk, er AI RMF strategisk. De to rammeverkene er høyt komplementære: ATLAS muliggjør validering av risiko gjennom sanntids-simulering, mens AI RMF gir strukturen for å styre disse risikoene, definere eierskap og alignere AI-sikkerhet med forretnings-prioriteter.

I vår Foundations of AI Security-kurs lærer vi at en av de mest underutnyttede aspektene av AI RMF er “Map”- og “Measure”-funksjonene — spesielt i tidlige utrullinger. Disse funksjonene oppmuntre organisasjoner til å modellere ikke bare system-bruk og misbruk-scenarier, men også identifisere adversarial-trusler i kontekst. Å kombinere dette med ATLAS muliggjør organisasjoner å gå utover teoretiske bekymringer og begynne å operationalisere AI-sikkerhet på en meningsfull, testbar måte.

Ultimat, ligger den missede muligheten i å behandle disse rammeverkene som akademiske. Når de brukes sammen, AI RMF og ATLAS muliggjør en trussel-informert, risiko-drevet tilnærming til å sikre AI, og omdanner høyt-nivå-styring til sanntids-garanti.

Fra prompt-injeksjon til modell-tyveri, OWASP Top 10 for LLMs høydepunkt en ny klasse av sårbarheter. Hvilke av disse truslene tror du CISOer er mest uforberedt på — og hvorfor?

LLM03: 2025 Supply Chain-sårbarheter utnytter kritiske blinde flekker i eksisterende styring og bedrifts-tillitsantagelser ved å gli gjennom kontroller som ikke var designet for AI/ML-systemer. Tradisjonelle sikkerhetsprogrammer fokuserer på programvare-pakker og kode-avhengigheter, men AI-modeller, ofte behandlet som data-ressurser, mangler samme skruppel. Dette tillater kompromitterte forhånds-trente modeller, forgiftede LoRA-adaptere eller tampered Hugging Face-sammenslåinger å bli innlemmet i produksjons-miljøer uten verifisering, kode-signering eller atferdsevaluering. Fordi disse modellene ikke utløser statisk analyse eller malware-signaturer, oppfører de seg som sovende trusler, aktiverende bare under bestemte prompter eller betingelser som unngår deteksjon.

Bedrifts-antagelsen at anerkjente AI-økosystemer eller registre tvinger pålitelige standarder, forverrer problemet. Sikkerhetsteamene kan tro at deres DevSecOps-pipelines og TPRM-programmer dekker AI-risiko, men i virkeligheten, gjør de det ikke. Angripere utnytter denne feilplasserte tilliten, manipulerer åpne kilde-verktøy, bakdør-adaptere eller forgiftede data brukt i finjustering, for å stille inn skjult, skadelig atferd. Uten adversarial rød-lagning og styring som uttrykkelig regulerer disse gapene, risikerer selv godt sikrede bedrifter operasjonell kompromiss gjennom tillitsfulle, men uverifiserte AI-arter.

Som røde og blå team begynner å simulere AI-aktiverede adversarial-aktører, hvordan utvikler adversary-emulering seg? Er vi på vei inn i en ny æra av simulering-basert sikkerhetsvalidering?

Som adversarial-aktører integrerer AI i sine operasjoner, må adversary-emulering utvikle seg i takt, gått utover faste spillbøker. Røde team må simulere dynamiske, AI-lignende atferd: pivoting, privilegie-escalering og adaptive taktikker, teknikker og prosedyrer (TTPs) alle modellert for å reflektere hvordan en sanntids AI-drevet angriper kan opptre.

Vi er på vei inn i en ny æra hvor emulering blir kontinuerlig og intelligens-drevet. Ikke lenger episodiske øvelser, integrerer simuleringer sanntids-trusselintelligens og itererer produksjons-lignende miljøer, testende kontroller under fremvoksende, uforutsigbare forhold. Med CTEM, sikrer denne tilnærmingen at sikkerhetsvalidering blir en strategisk, operativ funksjon snarere enn en avkryssingsboks.

Ser fremover, hvilke fremvoksende AI-risiko bekymrer deg mest? Og hvor ser du den største muligheten for forsvarerne å komme foran kurven?

Den mest bekymringsfulle risikoen er hvordan AI senker terskelen for sofistikerte angrep i stor skala. Det som en gang krevde dyp teknisk ferdighet, er nå stadig mer tilgjengelig gjennom kommersialiserte AI-verktøy. AI kan automatisere rekognosering, generere eksploit-kode og skape tilpassede phishing-kampanjer, opererende raskere enn tradisjonelle forsvar kan tilpasse seg.

På den andre siden, har forsvarerne en parallell mulighet: å utnytte AI og automatisering for proaktivt forsvar. Ved å automatisere emulering, akselerere deteksjon og prioritere eksponeringer basert på sanntids-risiko, kan sikkerhetsteamene forutse adversarial-bevegelser snarere enn bare reagere på dem.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke AttackIQ.