Paul Reid, VP of Adversary Research på AttackIQ – Intervju-serie

Paul Reid, VP of Adversary Research på AttackIQ, är en erfaren veteran inom den snabbt föränderliga världen av cybersäkerhet. Med mer än två decenniers erfarenhet som teknisk strateg för ledande techföretag har Paul guidat kunder, partners, analytiker och journalister genom den föränderliga cybersäkerhetslandskapet. Hans expertis omfattar cybersäkerhet, biometri, nätverkssäkerhet och kryptografi.

Nyligen har han lett ett team av Cyber Threat Hunters som fokuserar på att använda beteendeanalys för att upptäcka nya hot i kundernas miljöer. Paul är en publicerad författare i Prentice Hall Series in Computer Networking and Distributed Systems och har flera patent inom cybersäkerhet.

AttackIQ är ett ledande cybersäkerhetsföretag som specialiserar sig på intrångs- och attackssimulering (BAS) och kontinuerlig säkerhetsvalidering. Deras Adversarial Exposure Validation-plattform använder MITRE ATT&CK-baserad emulation för att testa säkerhetskontroller, identifiera sårbarheter och prioritera åtgärder. Grundat 2013 hjälper AttackIQ organisationer att förbättra sin defensiva hållning, förbättra SOC-effektivitet och minska risker.

Du har haft ledande roller inom en mängd olika cybersäkerhetsområden under mer än två decennier. Vad var det som först väckte ditt intresse för adversary research, och hur ledde den resan dig till AttackIQ?

Min resa inom cybersäkerhet började för över 25 år sedan, då jag satte upp Novell-nätverk och arbetade med directory services — Novell, Microsoft Active Directory, LDAP. Den tidiga erfarenheten lärde mig vikten av identitet, autentisering och åtkomst, grunderna för alla säkerhetsstrategier.

Sedan gick jag över till smart card-autentisering, där jag hade möjlighet att skriva PKCS #11-bibliotek och dyka ner i public key-infrastructure (PKI) under dess snabba tillväxt. Att arbeta med symmetrisk och asymmetrisk kryptografi under den tiden gav mig en riktig uppskattning för hur kryptering formar förtroende i digitala miljöer.

Senare i min karriär gick jag över till dataklassificering, där jag hjälpte organisationer att förstå värdet av deras data så att de kunde skydda det som var viktigast. Den erfarenheten ledde naturligt till arbete inom user and entity behavior analytics (UEBA), där jag fick hands-on-exponering för data science och maskinlärning, inklusive programmering i R.

Till slut var jag lycklig att leda ett globalt threat hunting-team där vi genomförde realtids-spårning av nationella statliga angripare. Det var en intensiv och ögonöppnande period. Det finns inget bättre sätt att förstå taktik, tekniker och förfaranden (TTP) för angripare än att engagera sig i dagliga operationer mot dem.

Under den tiden uppstod en återkommande frustration: vi sa ofta “Om de bara hade gjort X eller haft Y-kontroll på plats…” Det fanns ett gap mellan hotmedvetenhet och operativ försvarsberedskap.

Det var det som till slut förde mig till AttackIQ. Möjligheten att tillämpa det jag hade lärt mig — att emulera realistiska angripare genom intrångs- och attackssimulering, och att validera om försvar är verkligen effektiva — var för lockande för att avstå. Här teoriserar vi inte om hot; vi testar, mäter och förbättrar mot dem varje dag.

Vårt team opererar under en ledande princip: “Tänk illa, gör gott.” Vi tänker som angripare inte för att skada, utan för att hjälpa våra kunder att förbereda sig för och besegra dem.

Med tanke på att du har lett team på TITUS, Interset och Micro Focus, hur har din erfarenhet av hotintelligens och partneraktivering format din nuvarande tillvägagångssätt för att operationalisera adversary emulation?

Genom att ha arbetat i både tekniska och marknadsföringsroller på företag som TITUS, Interset och Micro Focus har jag utvecklat en holistisk förståelse för hur hotintelligens behöver översättas till operativa resultat, inte bara insikter. Partneraktivering, i synnerhet, lärde mig hur man kommunicerar komplexa cybersäkerhetsproblem på ett sätt som är handlingsbart och meningsfullt för olika målgrupper, från CISO:er till SOC-analytiker i frontlinjen.

På AttackIQ är adversary emulation inte bara att återge hotbeteenden. Det handlar om att anpassa sig till MITRE ATT&CK-ramverket, emulera angripare med trohet och hjälpa organisationer att testa om deras försvar kommer att hålla i en realistisk scenario. Det kräver mer än teknisk stränghet; det kräver utbildning, samarbete och att möjliggöra intressenter i hela säkerhets ekosystemet.

Min tidigare roll hjälpte mig att förstå hur man kan överbrygga gapet mellan intelligens och exekvering — hur man operationaliserar hotlandskapet på ett sätt som är proaktivt, mätbart och försvarbart. Det är kärnan i vår mission på AttackIQ.

Nu leder du adversary research vid en tidpunkt då angripare antar AI i stor skala. Hur har du sett offensiva AI-taktiker utvecklas under de senaste åren — och hur kämpar försvarare för att hålla jämna steg?

Angripare använder AI för att öka hastigheten, precisionen och omfattningen av sina operationer. Vi ser mer personliga och trovärdiga phishing-lurar, AI-genererad social ingenjörskonst och en större skala och effektivitet av attacker. Dessa förmågor minskar tiden mellan rekognosering och kompromiss, vilket komprimerar försvararens fönster att svara. Många organisationer är fortfarande beroende av reaktiva processer och statiska upptäcktsregler, som inte var avsedda att hantera angripare som lär sig och utvecklas. Försvarare behöver anta kontinuerlig validering och exponeringshantering för att stänga det gapet, testa sina försvar under realistiska förhållanden och iterera snabbt i svar på nya angriparbeteenden.

Vad skiljer sig adversarial AI från traditionella cyberrisker, och varför tror du att en förändring av mindset — inte bara verktyg — krävs för att svara effektivt?

Traditionella hot följer ofta kända mönster som försvarare kan spåra och mildra med regelbaserad upptäckt. Adversarial AI-taktiker introducerar en ny nivå av variabilitet och anpassningsförmåga som utmanar dessa antaganden. Det kan generera nya attackvägar och undvika försvar dynamiskt. Att hantera denna förändring kräver mer än att distribuera nya verktyg. Det kräver en strategisk förändring i hur organisationer tänker på försvar. Istället för att reagera på incidenter efteråt behöver säkerhetsteam simulerar utvecklande hot genom att använda kända taktik, tekniker och förfaranden (TTP) och proaktivt validera kontroller för att testa systemens svar. En hotinformrerad mindset, som stöds av realistisk emulation, är nyckeln till att förutse och motverka dessa nya risker.

Kan du förklara hur AttackIQ översätter hotintelligens till praktiskt försvar genom adversary emulation, och hur den processen har förändrats med uppkomsten av generativ AI?

Den traditionella utmaningen med hotintelligens är operationalisering, att överbrygga gapet mellan insikt och handling. Adversary emulation löser det genom att ta intelligens om kända hotbeteenden och omvandla den till exekverbara tester som utvärderar om nuvarande försvar kan motstå dessa beteenden. Med generativ AI blir hotlandskapet mer flytande, med mer variabelt beteende. Emulationer behöver nu återspegla inte bara statiska tekniker utan också adaptiva och kontextmedvetna beteenden. På AttackIQ tas live hotintelligens i kombination med MITRE ATT&CK och modelladversärbeteenden in i emulationsplaner för att spegla verkliga attacker. Dessa emuleringar distribueras i produktionsliknande miljöer för att validera om säkerhetskontroller upptäcker, förhindrar eller svarar som förväntat.

Kontinuerlig hotexponeringshantering (CTEM) blir en kärnkomponent i cybersäkerhetsstrategier. Hur bör organisationer närma sig CTEM när de står inför snabbt anpassande AI-drivna hot?

CTEM representerar en förändring från statiska riskbedömningar till dynamisk, intelligensdriven säkerhetsvalidering. När man står inför AI-drivna hot måste organisationer behandla exponering som ett rörligt mål. Det innebär att identifiera och prioritera exponeringar baserat på aktiv testning, inte bara teoretisk risk.

Röda och blå team behöver samarbeta i simulerandet av adaptiva angripare och kontinuerligt testa upptäckts- och svarsförmåga. Organisationer som antar detta tillvägagångssätt är bättre rustade att anpassa sig snabbt, validera sina investeringar och säkerhetskontroller och upprätthålla motståndskraft i ett snabbt föränderligt landskap.

AttackIQ:s kurs “Grundläggande AI-säkerhet” täcker riskramverk som MITRE ATLAS och AI RMF. Vilka aspekter av dessa ramverk tycker du är mest underutnyttjade eller missförstådda i företagsmiljöer?

En av de vanligaste missförstånden vi ser är tendensen att behandla ramverk som MITRE ATLAS och AI Risk Management Framework (AI RMF) som isolerade referensmaterial, snarare än som operativa verktyg för att bygga motståndskraft i AI-aktiverade system.

MITRE ATLAS, liknande ATT&CK i dess tidiga dagar, ses ofta som en statisk katalog av attacktekniker som riktar sig mot AI/ML-system. I verkligheten är ATLAS ett taktiskt adversary-emulationsramverk som är utformat för att hjälpa säkerhetsteam att simulera AI-specifika hot — från datapåverkan och modellundvikelse till inferensmanipulering — och validera deras upptäckts-, loggnings- och svarsförmåga. Problemet är att de flesta företag ännu inte har byggt upp den synlighet eller kontroller som behövs för att upptäcka attacker mot ML-pipelinen, vilket gör den proaktiva användningen av ATLAS genom intrångs- och attackssimuleringsstrategier allt viktigare. Det är ett underutnyttjat verktyg för att testa hur AI-system beter sig under adversativ press.

Å andra sidan ses NIST:s AI RMF ofta som en compliance-checklista. I själva verket är det ett strategiskt styrningsramverk — ett som stöder organisationer i att kartlägga AI-användningsfall, mäta risker (inklusive de som orsakas av angripare), hantera dem genom prioritering och mildring, och införa tillsyn över systemlivscykeln. Där ATLAS är taktiskt, är AI RMF strategiskt. De två ramverken är högt komplementära: ATLAS möjliggör validering av risk genom realistisk simulering, medan AI RMF tillhandahåller strukturen för att styra dessa risker, definiera ägarskap och anpassa AI-säkerhet till affärsprioriteringar.

I vår kurs “Grundläggande AI-säkerhet” lär vi att en av de mest underutnyttjade aspekterna av AI RMF är “Map”- och “Measure”-funktionerna — särskilt i tidiga distributionsfaser. Dessa funktioner uppmuntrar organisationer att modellera inte bara systemanvändning och missbruksscenario, utan också identifiera adversativa hot i sammanhang. Att kombinera detta med ATLAS möjliggör för organisationer att gå bortom teoretiska problem och börja operationalisera AI-säkerhet på ett meningsfullt, testbart sätt.

Slutligen ligger den missade möjligheten i att behandla dessa ramverk som akademiska. När de används tillsammans möjliggör AI RMF och ATLAS en hotinformrerad, riskdriven tillvägagångssätt för att säkra AI, omvandlar högnivåstyrning till realistiskt försvar.

Från promptinjektion till modulstöld, lyfter OWASP Top 10 för LLM upp en ny klass av sårbarheter. Vilket av dessa hot tycker du att CISO:er är mest oförberedda på — och varför?

LLM03: 2025 Supply Chain-vulnerabiliteter utnyttjar kritiska blindfläckar i befintlig styrning och företagsförtroendeförutsättningar genom att smyga förbi kontroller som inte ursprungligen var avsedda för AI/ML-system. Traditionella säkerhetsprogram fokuserar på mjukvarupaket och kodberoenden, men AI-modeller, ofta behandlade som dataresurser, saknar samma granskning. Detta tillåter komprometterade förtränade modeller, förgiftade LoRA-adapter eller manipulerade Hugging Face-sammanslagningar att infogas i produktionsmiljöer utan verifiering, kodsignering eller beteendeanalys. Eftersom dessa modeller inte utlöser statisk analys eller malwaresignaturer, beter de sig som sovande hot, aktiveras endast under specifika prompter eller villkor som undviker upptäckt.

Företagsantagandet att ansedda AI-ekosystem eller register upprätthåller tillförlitliga standarder förvärrar problemet. Säkerhetsteam kan tro att deras DevSecOps-pipelines och TPRM-program täcker AI-risker, men i verkligheten gör de det oftast inte. Angripare utnyttjar detta missplacering av förtroende, manipulerar öppen källkodsverktyg, bakdörrar adapter eller förgiftar data som används för finjustering, för att tyst infoga skadligt beteende. Utan adversarial red teaming och styrning som uttryckligen tar hänsyn till dessa gap riskerar även väl säkerhetsställda företag operativ kompromiss genom betrodda men overifierade AI-artefakter.

När röda och blå team börjar simulera AI-aktiverade angripare, hur utvecklas adversary emulation?

När angripare integrerar AI i sina operationer måste adversary emulation utvecklas i takt, flytta bortom fasta handböcker. Röda team måste simulera dynamiska, AI-liknande beteenden: pivoting, privilegie eskalering och adaptiva taktik, tekniker och förfaranden (TTP) alla modellerade för att återspegla hur en verklig AI-driven angripare kan agera.

Vi går in i en ny era där emulation blir kontinuerlig och intelligensdriven. Inga längre episodiska övningar, simuleringar integrerar realtids-hotintelligens och itererar produktionsliknande miljöer, testar kontroller under framväxande, oförutsägbara förhållanden. Med CTEM säkerställs att säkerhetsvalidering blir en strategisk, operativ funktion snarare än en kryssruta.

Om vi blickar framåt, vilka framväxande AI-risker oroar dig mest? Och var ser du den största möjligheten för försvarare att ligga före kurvan?

Den mest oroande risken är hur AI sänker tröskeln för sofistikerade attacker i stor skala. Vad som tidigare krävde djup teknisk kompetens är nu alltmer tillgängligt genom kommersialiserade AI-verktyg. AI kan automatisera rekognosering, generera exploatkod och skapa anpassade phishing-kampanjer, fungerande snabbare än traditionella försvar kan anpassa sig.

Å andra sidan har försvarare en parallell möjlighet: att utnyttja AI och automation för proaktivt försvar. Genom att automatisera emulation, accelerera upptäckt och prioritera exponeringar baserat på realistiska risker kan säkerhetsteam förutse adversativa drag snarare än att bara reagera på dem.

Tack för det underbara samtalet, läsare som vill lära sig mer bör besöka AttackIQ.