Paul Reid, VP of Adversary Research hos AttackIQ – Interviewserie

Paul Reid, VP of Adversary Research hos AttackIQ, er en erfaren veteran fra den hurtige verden af cybersikkerhed. Med mere end to årtiers erfaring som teknologi-strateg for førende tech-virksomheder, har Paul vejledt kunder, partnere, analytikere og journalister gennem den udviklende cybersikkerheds-landskab. Hans ekspertise omfatter cybersikkerhed, biometri, netværkssikkerhed og kryptografi.

Mest nyligt har han ledet et hold af Cyber Threat Hunters, der fokuserer på at bruge behavioral analytics til at opdage nye trusler i kundernes miljøer. Paul er en publiceret forfatter i Prentice Hall Series in Computer Networking and Distributed Systems og har flere patenter inden for cybersikkerhed.

AttackIQ er en førende cybersikkerheds-virksomhed, der specialiserer sig i breach og attack-simulation (BAS) og kontinuerlig sikkerhedsvalidering. Deres Adversarial Exposure Validation-platform bruger MITRE ATT&CK-baseret emulation til at teste sikkerheds-kontroller, identificere sårbarheder og prioritere reparation. Grundlagt i 2013, hjælper AttackIQ organisationer med at forbedre deres defensive stilling, forbedre SOC-effektivitet og reducere risiko.

DU har haft ledelsesroller på tværs af en række cybersikkerheds-domæner i mere end to årtier. Hvad var det, der først fik din interesse for adversary research, og hvordan førte den rejse dig til AttackIQ?

Min rejse ind i cybersikkerhed startede for mere end 25 år siden, hvor jeg satte op Novell-netværk og arbejdede i verden af directory services — Novell, Microsoft Active Directory, LDAP. Den tidlige erfaring lærte mig vigtigheden af identitet, authentication og adgang, grundlaget for enhver sikkerhedsstrategi.

Herefter gik jeg over i smart card-authentication, hvor jeg havde mulighed for at skrive PKCS #11-biblioteker og dykke ned i offentlig nøgle-infrastruktur (PKI) under dens hurtige vækst. Arbejdet med symmetrisk og asymmetrisk kryptografi under den periode gav mig en rigtig forståelse for, hvordan kryptering former tillid i digitale miljøer.

Senere i min karriere skiftede jeg fokus til data-klassificering, hvor jeg hjalp organisationer med at forstå værdien af deres data, så de kunne beskytte, hvad der betyder mest. Den erfaring førte naturligt til arbejde med bruger- og enheds-adfærdshantering (UEBA), hvor jeg fik praktisk erfaring med datavidenskab og maskinlæring, herunder programmering i R.

Til sidst var jeg heldig at lede et globalt trussels-jagt-hold, hvor vi udførte realtids-sporing af nationale stats-aktører. Det var en intens og øjenåbner-periode. Der er ingen bedre måde at forstå taktikker, teknikker og procedurer (TTP’er) for aktører end at deltage i daglige operationer mod dem.

Det var under den periode, at en tilbagevendende frustration opstod: Vi ville ofte sige, “Hvis de bare havde gjort X eller havde Y-kontrol i stedet…” Der var et gap mellem trussels-bevidsthed og operationel forsvars-beredskab.

Det er det, der til sidst førte mig til AttackIQ. Muligheden for at anvende, hvad jeg havde lært — at emulerer virkelige aktører gennem breach og attack-simulation og at validere, om forsvaret virkelig er effektivt — var for godt til at lade gå. Her tester vi ikke bare teorier om trusler; vi tester, måler og forbedrer os mod dem hver dag.

Vores hold opererer under en retningslinje: “Tænk dårligt, gør godt.” Vi tænker som aktører, ikke for at skade, men for at hjælpe vores kunder med at forberede sig på og besejre dem.

Med din erfaring fra TITUS, Interset og Micro Focus, hvordan har din erfaring inden for trussels-intelligence og partner-aktivering formet din nuværende tilgang til operationalisering af adversary-emulation?

Med min erfaring fra både tekniske og go-to-market-roller i virksomheder som TITUS, Interset og Micro Focus, har jeg udviklet en helhedsforståelse af, hvordan trussels-intelligence skal oversættes til operationelle resultater, ikke kun indsigt. Partner-aktivering, især, lærte mig, hvordan man kommunikerer komplekse cybersikkerheds-problemer på en måde, der er handlebar og meningsfuld for diverse målgrupper, fra CISO’er til frontline SOC-analytikere.

Hos AttackIQ er adversary-emulation ikke kun om at genspille trussels-adfærd. Det handler om at tilpasse os MITRE ATT&CK-rammen, emulerer aktører med troværdighed og hjælper organisationer med at teste, om deres forsvaret kan holde til i en virkelig scenario. Det kræver mere end teknisk rigor; det kræver uddannelse, samarbejde og aktivering af interessenter på tværs af sikkerheds-økosystemet.

Min tidligere erfaring har hjulpet mig med at forstå, hvordan man brobygger mellem intelligence og eksekvering — hvordan man operationaliserer trussels-landskabet på en måde, der er proaktiv, målbar og forsvarbar. Det er essensen af vores mission hos AttackIQ.

DU er nu leder af adversary-forskning på et tidspunkt, hvor angribere adopterer AI i stor skala. Hvordan har du set offensiv AI-taktik udvikle sig i de seneste år — og hvordan kæmper forsvarere for at holde trit?

Aktører udnytter AI til at øge hastigheden, præcisionen og skalaen af deres operationer. Vi ser mere personlige og overbevisende phishing-løgne, AI-genereret social engineering og en større skala og effektivitet af angreb. Disse kapaciteter reducerer tiden mellem rekognoscering og kompromittering, komprimerer forsvarernes vindue til at reagere. Mange organisationer er stadig afhængige af reaktive processer og statiske detections-regler, der ikke var designet til at håndtere aktører, der lærer og udvikler sig. Forsvarere har brug for at adoptere kontinuerlig validering og eksponerings-styring for at lukke det gap, teste deres forsvaret under realistiske betingelser og iterere hurtigt i respons til nye aktør-adfærd.

Hvad adskiller adversarial AI fra traditionelle cyber-trusler, og hvorfor tror du, en skift i mindset — ikke kun værktøj — er nødvendig for at reagere effektivt?

Traditionelle trusler følger ofte kendte mønstre, som forsvarere kan spore og afværge med regel-baseret detection. Adversarial AI-taktikker introducerer et nyt niveau af variabilitet og tilpasning, der udfordrer disse antagelser. Det kan generere nye angrebsveje og undgå forsvaret dynamisk. At tackle denne skift kræver mere end at udrulle nye værktøjer. Det kræver en strategisk ændring i, hvordan organisationer tænker om forsvaret. I stedet for at reagere på incidenter efterfølgende, skal sikkerheds-teamene simulere udviklende trusler ved at bruge kendte taktikker, teknikker og procedurer (TTP’er) og proaktivt validere kontroller for at teste deres systemers svar. En trussels-informeret mindset, understøttet af real-verden-emulation, er nøglen til at forudse og modgå disse nye risici.

Kan du forklare, hvordan AttackIQ oversætter trussels-intelligence til praktisk forsvar gennem adversary-emulation, og hvordan den proces er ændret med opkomsten af generativ AI?

Den traditionelle udfordring med trussels-intelligence er operationalisering, brobygning mellem indsigt og handling. Adversary-emulation løser det ved at tage intelligence om kendte trussels-adfærd og omdanne det til eksekverbare tests, der vurderer, om nuværende forsvaret kan modstå den adfærd. Med generativ AI bliver trussels-landskabet mere flydende, med mere variable adfærder. Emulationer skal nu reflektere ikke kun statiske teknikker, men også adaptive og kontekst-afhængige adfærd. Hos AttackIQ indtages live-trussels-intelligence, der er tilpasset MITRE ATT&CK, og model-aktør-adfærd i emulation-planer for at spejle virkelige angreb. Disse emulationer udføres i produktions-lignende miljøer for at validere, om sikkerheds-kontroller detekterer, forhindrer eller reagerer, som forventet.

Kontinuerlig Trusselformidlings-Styring (CTEM) bliver en kernekomponent af cybersikkerheds-strategier. Hvordan skal organisationer tilgå CTEM, når de står over for hurtigt tilpasning AI-drevne trusler?

CTEM repræsenterer en skift fra statiske risiko-vurderinger til dynamiske, intelligence-drevne sikkerhedsvalidering. Over for AI-drevne trusler skal organisationer behandle eksponering som et flydende mål. Det betyder identificering og prioritering af eksponeringer baseret på aktiv testning, ikke kun teoretisk risiko.

Rød og blå hold skal samarbejde om at simulere adaptive aktører og kontinuerligt teste detections- og respons-kapaciteter. Organisationer, der omfavner denne tilgang, er bedre udstyret til at tilpasse sig hurtigt, validere deres investeringer og sikkerheds-kontroller og opretholde robusthed midt i et hurtigt skiftende landskab.

Den “Foundations of AI Security”-kursus fra AttackIQ dækker risiko-rammer som MITRE ATLAS og AI RMF. Hvilke aspekter af disse rammer finder du mest underudnyttede eller misforståede i enterprise-miljøer?

En af de mest almindelige misforståelser, vi ser, er tendensen til at behandle rammer som MITRE ATLAS og AI Risk Management Framework (AI RMF) som isolerede reference-materialer, snarere end som operationelle værktøjer til at bygge robusthed ind i AI-aktiverede systemer.

MITRE ATLAS, ligesom ATT&CK i dens tidlige dage, ses ofte som en statisk katalog over angrebs-teknikker rettet mod AI/ML-systemer. I virkeligheden er ATLAS en taktisk adversary-emulation-ramme designet til at hjælpe sikkerheds-teamene med at simulere AI-specifikke trusler — fra data-forgift og model-evasion til inference-manipulation — og validere deres detections-, logging- og respons-kapaciteter. Problemet er, at de fleste virksomheder endnu ikke har bygget den nødvendige synlighed eller kontroller til at detektere angreb mod ML-pipelines, hvilket gør den proaktive brug af ATLAS gennem breach og attack-simulation-strategier endnu mere kritisk. Det er et underudnyttet værktøj til at teste, hvordan AI-systemer opfører sig under adversarial-tryk.

På den anden side ses NIST’s AI RMF ofte som en compliance-checkliste. I virkeligheden er det en strategisk governance-ramme — en, der understøtter organisationer i at kortlægge AI-brugs-mål, måle risici (herunder de, der er årsaget af aktører), håndtere dem gennem prioritering og afværge dem og indbygge tilsyn på tværs af system-livscyklussen. Hvor ATLAS er taktisk, er AI RMF strategisk. De to rammer er højst komplementære: ATLAS muliggør validering af risiko gennem real-verden-simulation, mens AI RMF giver strukturen til at styre disse risici, definere ejerskab og tilpasse AI-sikkerhed med forretnings-prioriteter.

I vores Foundations of AI Security-kurs lærer vi, at en af de mest underudnyttede aspekter af AI RMF er “Map”- og “Measure”-funktionerne — især i tidlige implementations-faser. Disse funktioner opmuntrer organisationer til ikke kun at model-system-brug og misbrug-scenarier, men også at identificere adversarial-trusler i kontekst. At parre dette med ATLAS giver organisationer mulighed for at gå ud over teoretiske bekymringer og begynde at operationalisere AI-sikkerhed på en meningsfuld, testbar måde.

Ultimo ligger den missede mulighed i at behandle disse rammer som akademiske. Når de bruges sammen, giver AI RMF og ATLAS en trussels-informeret, risiko-drevet tilgang til at sikre AI, omformulerer høj-niveau-styring til real-verden-assurance.

Fra prompt-injektion til model-tyveri, fremhæver OWASP Top 10 for LLM’er en ny klasse af sårbarheder. Hvilke af disse trusler tror du, at CISO’er er mest uforberedt på — og hvorfor?

LLM03: 2025 Supply Chain-sårbarheder udnytter kritiske blinde pletter i eksisterende styring og virksomheds-tillids-antagelser ved at glide gennem kontroller, der ikke oprindeligt var designet til AI/ML-systemer. Traditionelle sikkerheds-programmer fokuserer på software-pakker og kode-afhængigheder, men AI-modeller, ofte behandlet som data-aktiver, mangler den samme skærping. Dette tillader kompromitterede forudindlærte modeller, forgiftede LoRA-adaptere eller manipulerede Hugging Face-sammenlægninger at blive indtaget i produktions-miljøer uden verificering, kode-signering eller adfærdsevaluering. Fordi disse modeller ikke udløser statisk analyse eller malware-signaturer, opfører de sig som sove-trusler, der aktiveres kun under bestemte prompter eller betingelser, der undgår detection.

Virksomhedens antagelse, at troværdige AI-økosystemer eller registre påtvinger troværdige standarder, forværrenger problemet. Sikkerheds-teamene kan tro, at deres DevSecOps-pipelines og TPRM-programmer dækker AI-risici, men i virkeligheden gør de det ikke. Angribere udnytter denne misplacerede tillid, manipulerer åbne kilde-værktøjer, bagdør-adaptere eller forgiftning af data, der bruges til fin-justering, for at stillede ind skjult adfærd. Uden adversarial red teaming og styring, der eksplicit regnskab for disse huller, risikerer selv godt sikrede virksomheder operationel kompromittering gennem troværdige, men ikke-verificerede AI-arter.

Da rød og blå hold begynder at simulere AI-aktiverede aktører, hvordan udvikler adversary-emulation sig? Er vi inde i en ny æra af simulation-baseret sikkerhedsvalidering?

Da aktører integrerer AI i deres operationer, skal adversary-emulation udvikle sig i takt, gå ud over faste playbooks. Rød hold skal simulere dynamiske, AI-lignende adfærder: pivoting, privilege-escalation og adaptive taktikker, teknikker og procedurer (TTP’er), alle modelleret til at reflektere, hvordan en rigtig AI-drevet angriber ville opføre sig.

Vi er inde i en ny æra, hvor emulation bliver kontinuerlig og intelligence-ledet. Ikke længere episodiske øvelser, men simulationer, der integrerer realtids-trussels-intelligence og itererer produktions-lignende miljøer, testende kontroller under fremvoksende, uforudsigelige betingelser. Med CTEM sikrer denne tilgang, at sikkerhedsvalidering bliver en strategisk, operationel funktion snarere end en afkrydsnings-boks.

Set fremad, hvilke opstående AI-risici bekymrer dig mest? Og hvor ser du den største mulighed for forsvarere at komme foran kurven?

Det mest bekymrende risiko er, hvordan AI sænker barrieren for indgang til sofistikerede angreb i stor skala. Hvad der tidligere krævede dyb teknisk færdighed, er nu mere tilgængeligt gennem kommercialiserede AI-værktøjer. AI kan automatisere rekognoscering, generere exploit-kode og skabe tilpassede phishing-kampagner, der opererer hurtigere end traditionelle forsvaret kan tilpasse sig.

På den anden side har forsvarere en parallel mulighed: at udnytte AI og automation til proaktivt forsvar. Ved at automatisere emulation, accelerere detection og prioritere eksponeringer baseret på real-verden-risiko, kan sikkerheds-teamene forudse adversarial-bevægelser snarere end blot reagere på dem.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge AttackIQ.