Paul Reid, VP of Adversary Research at AttackIQ – Interview Series

Paul Reid, VP of Adversary Research at AttackIQ, je zkušený veterán rychlého světa kybernetické bezpečnosti. S více než dvěma desetiletími zkušeností jako technologický stratég pro přední technologické společnosti, Paul vedl zákazníky, partnery, analytiky a novináře prostřednictvím se vyvíjejícího kybernetického bezpečnostního prostředí. Jeho odbornost zahrnuje kybernetickou bezpečnost, biometrii, síťovou bezpečnost a kryptografii.

V poslední době vedl tým kybernetických hrozeb zaměřených na používání behaviorální analýzy k detekci vznikajících hrozeb v zákaznických prostředích. Paul je publikovaný autor v Prentice Hall Series in Computer Networking and Distributed Systems a drží několik patentů v oblasti kybernetické bezpečnosti.

AttackIQ je přední kybernetická bezpečnostní společnost specializující se na simulaci průniku a útoku (BAS) a kontinuální validaci bezpečnosti. Jejich platforma Adversarial Exposure Validation používá emulaci založenou na MITRE ATT&CK k testování bezpečnostních kontrol, identifikaci zranitelností a prioritizaci nápravy. Založena v roce 2013, AttackIQ pomáhá organizacím zlepšit svou obrannou pozici, zvýšit efektivitu SOC a snížit riziko.

Máte vedení rolí napříč celou řadou kybernetických bezpečnostních domén po více než dvě desetiletí. Co vás poprvé zaujalo o výzkumu adversářů, a jak vás tato cesta nakonec dovedla k AttackIQ?

Moje cesta do kybernetické bezpečnosti začala před více než 25 lety, kdy jsem nastavoval Novell sítě a pracoval ve světě adresářových služeb — Novell, Microsoft Active Directory, LDAP. Tato raná zkušenost mě naučila důležitosti identity, autentizace a přístupu, základů každé bezpečnostní strategie.

Odtud jsem přešel do inteligentní karty pro autentizaci, kde jsem měl příležitost napsat knihovny PKCS #11 a ponořit se do veřejné infrastruktury klíčů (PKI) během jejího rychlého vzestupu. Práce se symetrickou a asymetrickou kryptografií během této éry mi dala skutečné pochopení toho, jak šifrování formuje důvěru v digitálních prostředích.

Později v mé kariéře jsem se otočil do klasifikace dat, pomáhaje organizacím pochopit hodnotu jejich dat, aby mohli chránit to, co je nejvíce důležité. Tato zkušenost mě přirozeně vedla k práci v uživatelské a entitní behaviorální analytice (UEBA), kde jsem získal praktické zkušenosti s datovou vědou a strojovým učením, včetně programování v R.

Nakonec jsem měl štěstí vést globální tým pro lov kybernetických hrozeb, kde jsme prováděli reálné sledování státních adversářů. To byla intenzivní a otevřená doba. Neexistuje lepší způsob, jak pochopit taktiky, techniky a postupy (TTP) adversářů, než se zapojit do denních operací proti nim.

Právě během této doby se objevil opakující se frustrace: často jsme říkali, “Kdyby pouze udělali X nebo měli Y kontrolu na místě…” Existovala mezera mezi povědomím o hrozbách a operační obrannou připraveností.

To je to, co mě nakonec dovedlo k AttackIQ. Možnost aplikovat to, co jsem se naučil — emulovat reálné světové adversáře prostřednictvím simulace průniku a útoku a validovat, zda obrany jsou skutečně efektivní — byla příliš lákavá, aby se jí vzdal. Zde neonly teoretizujeme o hrozbách; testujeme, měříme a zlepšujeme proti nim každý den.

Náš tým operuje pod vedením principu: “Myslete špatně, dělejte dobře.” Myslíme jako adversáři ne proto, aby způsobit škodu, ale aby pomoci našim zákazníkům se připravit a porazit je.

Máte vedení týmů v TITUS, Interset a Micro Focus, jak vaše zkušenosti s hrozbou inteligence a partnerem umožněním ovlivnily váš současný přístup k operationalizaci emulace adversářů?

Mít zkušenosti v technických a go-to-market rolích ve společnostech jako TITUS, Interset a Micro Focus, jsem vyvinul holistický pohled na to, jak hrozbou inteligence potřebuje přeložit do operačních výsledků, ne pouze vhledy. Partner enablement, zejména, mě naučil, jak komunikovat komplexní kybernetické bezpečnostní problémy způsobem, který je akční a smysluplný pro různé publikum, od CISO až po front-line SOC analytiky.

V AttackIQ, emulace adversářů není pouze o přehrávání hrozeb chování. Je to o zarovnání s rámcem MITRE ATT&CK, emulaci adversářů s věrností a pomoci organizacím testovat, zda jejich obrany budou držet v reálném scénáři. To vyžaduje více než technickou přísnost; vyžaduje vzdělávání, spolupráci a umožnění zúčastněných stran napříč bezpečnostním ekosystémem.

Moje předchozí role mi pomohly pochopit, jak most mezi inteligencí a výkonem — jak operationalizovat hrozbou krajinu způsobem, který je proaktivní, měřitelný a obhajitelný. To je podstata naší mise v AttackIQ.

Nyní vedete výzkum adversářů v době, kdy útočníci přijímají AI ve velkém měřítku. Jak jste viděl vývoj ofenzivních AI taktik v posledních letech — a jak se bránící strany potýkají s udržením tempa?

Adversáři využívají AI ke zvýšení rychlosti, přesnosti a rozsahu svých operací. Vidíme více personalizovaných a uvěřitelných phishingových lákadel, AI generovaných sociálních inženýrství a větší rozsah a efektivitu útoků. Tyto schopnosti snižují dobu mezi průzkumem a kompromisem, komprimují obráncův okno pro reakci. Mnoho organizací je stále závislých na reaktivních procesech a statických detekčních pravidlech, které nebyly navrženy pro zpracování adversářů, kteří se učí a vyvíjejí. Bránící se strany potřebují přijmout kontinuální validaci a expoziční management, aby uzavřely tuto mezeru, testovaly své obrany v realistických podmínkách a rychle reagovaly na nové adversářské chování.

Co odlišuje adversářskou AI od tradičních kybernetických hrozeb, a proč věříte, že je vyžadována změna myšlení — ne pouze nástrojů — aby se efektivně odpovědělo?

Tradiční hrozby často následují známé vzorce, které bránící se strany mohou sledovat a zmírnit pomocí pravidel založených na detekci. Adversářské AI taktiky představují novou úroveň variability a adaptability, která zpochybňuje tyto předpoklady. Může generovat nové útočné cesty a dynamicky se vyhnout obranám. Zmírnění této změny vyžaduje více než nasazení nových nástrojů. Vyžaduje strategickou změnu v tom, jak organizace myslí o obraně. Místo reakce na incidenty po faktu by bezpečnostní týmy měly simulovat se vyvíjejícími hrozbami pomocí známých taktik, technik a postupů (TTP) a proaktivně validovat kontroly, aby otestovaly reakce svých systémů. Myšlenka ohroženou inteligencí, podporovaná reálnou emulací, je klíčem k anticipaci a protiopatření proti těmto novým rizikům.

Můžete vysvětlit, jak AttackIQ překládá hrozbou inteligenci do praktické obrany prostřednictvím emulace adversářů, a jak se tento proces změnil s nástupem generativní AI?

Tradiční výzvou s hrozbou inteligencí je operationalizace, most mezi vhledem a akcí. Emulace adversářů řeší tuto výzvu tím, že přebírá inteligenci o známém chování hrozeb a mění ji na spustitelné testy, které hodnotí, zda současné obrany mohou odolat těmto chováním. S generativní AI se hrozbou krajina stává více tekutou, s více variabilními chováními. Emulace nyní musí odrážet nejen statické techniky, ale také adaptivní a kontextově závislé chování. V AttackIQ, živá hrozbou inteligence zarovnaná s MITRE ATT&CK a model adversářského chování jsou nasávány do emulačních plánů, aby odrážely reálné útoky. Tyto emulace jsou nasazeny v produkčních prostředích, aby ověřily, zda bezpečnostní kontroly detekují, předcházejí nebo reagují, jak se očekává.

Kontinuální Správa Expozičních Hrozeb (CTEM) se stává核心 součástí strategií kybernetické odolnosti. Jak by organizace měly přistupovat k CTEM, když čelí rychlému přizpůsobení se AI poháněným hrozbám?

CTEM představuje posun od statických rizikových hodnocení k dynamické, inteligence-vedené bezpečnostní validaci. Při čelení AI poháněným hrozbám by organizace měly považovat expozici za pohyblivý cíl. To znamená identifikovat a priorizovat expozice na základě aktivního testování, ne pouze teoretického rizika.

Červené a modré týmy potřebují spolupracovat při simulaci adaptivních adversářů a kontinuálním testování detekčních a reakčních schopností. Organizace, které přijmou tento přístup, jsou lépe vybaveny, aby se rychle adaptovaly, ověřily své investice a bezpečnostní kontroly a udržely odolnost uprostřed rychle se měnící krajiny.

“Základy AI Bezpečnosti” kurz od AttackIQ pokrývá rizikové rámce, jako je MITRE ATLAS a AI RMF. Které aspekty těchto rámců najdete nejvíce nevyužité nebo nepochopitelné v podnikových prostředích?

Jedním z nejčastějších nepochopení, které vidíme, je tendence považovat rámce, jako je MITRE ATLAS a AI Risk Management Framework (AI RMF), za izolované referenční materiály, spíše než za operační nástroje pro budování odolnosti do AI umožněných systémů.

MITRE ATLAS, podobně jako ATT&CK v jeho raných dnech, je často považován za statický katalog útočných technik zaměřených na AI/ML systémy. Ve skutečnosti je ATLAS taktický emulační rámec pro adversářů, navržený tak, aby pomáhal bezpečnostním týmům simulovat AI specifické hrozby — od otravy dat a modelového úniku až po manipulaci inferencí — a ověřit jejich detekční, záznamové a reakční schopnosti. Problém spočívá v tom, že většina podniků dosud nevyvinula dostatečnou viditelnost nebo kontroly, aby detekovala útoky proti ML potrubí, což činí proaktivní použití ATLAS prostřednictvím strategií simulace průniku a útoku ještě kritičtějším. Je to podhodnocený nástroj pro testování, jak AI systémy fungují pod adversářským tlakem.

Na druhé straně je NISTův AI RMF často nepochopen jako kontrolní seznam shody. Ve skutečnosti je to strategický rámec pro governance — jeden, který podporuje organizace v mapování AI použití, měření rizik (včetně těch, které představují adversáři), řízení jich prostřednictvím prioritizace a zmírnění a vkládání dohledu napříč systémem životním cyklem. Kde je ATLAS taktický, AI RMF je strategický. Oba rámce jsou vysoce komplementární: ATLAS umožňuje ověření rizika prostřednictvím reálné simulace, zatímco AI RMF poskytuje strukturu pro governance těchto rizik, definici vlastnictví a zarovnání AI zajištění s obchodními prioritami.

V našem Základě AI Bezpečnosti kurzu učíme, že jedním z nejvíce nevyužitých aspektů AI RMF je “Map” a “Measure” funkce — zejména v raných fázích nasazení. Tyto funkce povzbuzují organizace k modelování nejen systémového použití a zneužití scénářů, ale také identifikaci adversářských hrozeb v kontextu. Spárování tohoto s ATLAS umožňuje organizacím přesunout se za teoretické obavy a začít operationalizovat AI bezpečnost skutečným, testovatelným způsobem.

Ultimately, ztracená příležitost spočívá v tom, že se tyto rámce považují za akademické. Když se používají společně, AI RMF a ATLAS umožňují hrozbou informovaný, riziko-vedený přístup k zajištění AI, měnící se z vysoké úrovně governance do reálné jistoty.

Od prompt injekce až po model krádež, OWASP Top 10 pro LLMs zdůrazňuje novou třídu zranitelností. Které z těchto hrozeb si myslíte, že CISO jsou nejvíce nepřipraveni — a proč?

LLM03: 2025 Supply Chain zranitelnosti využívají kritické slepé skvrny v existujících governance a podnikových důvěrných předpokladech tím, že proklouznou kontrolami, které nebyly původně navrženy pro AI/ML systémy. Tradiční bezpečnostní programy se soustředí na software balíčky a kódové závislosti, ale AI modely, často považované za datové aktiva, postrádají stejnou kontrolu. To umožňuje kompromitované předem trénované modely, otrávené LoRA adaptéry nebo pozměněné Hugging Face merges, aby se dostaly do produkčních prostředí bez ověření, kódového podpisu nebo behaviorální evaluace. Protože tyto modely neaktivují statickou analýzu nebo malware signatury, chovají se jako spící hrozby, aktivující se pouze pod specifickými prompty nebo podmínkami, které unikají detekci.

Podnikový předpoklad, že renomované AI ekosystémy nebo registry vynucují důvěryhodné standardy, zhoršuje problém. Bezpečnostní týmy mohou věřit, že jejich DevSecOps potrubí a TPRM programy pokrývají AI rizika, ale ve skutečnosti je většina z nich neaudituje datovou genezi, neenforce modelové provenience nebo nepoužívá SBOM-ekvivalentní kontroly pro AI komponenty. Útočníci využívají tuto mylnou důvěru, manipulují otevřené modelové nástroje, zadní dveře adaptérů nebo otrávená data použitého při jemném ladění, aby tiše vložili škodlivé chování. Bez adversářského červeného týmu a governance, která explicitně zohledňuje tyto mezery, dokonce i dobře zabezpečené podniky riskují provozní kompromis prostřednictvím důvěryhodných, ale neověřených AI artifactů.

Jakmile červené a modré týmy začnou simulovat AI umožněné adversáře, jak se emulace adversářů vyvíjí? Vstupujeme do nové éry simulace-založené bezpečnostní validace?

Jakmile adversáři integrují AI do svých operací, emulace adversářů potřebuje evoluci, pohybující se za pevné playbooks. Červené týmy musí simulovat dynamické, AI-podobné chování: pivotování, eskalaci oprávnění a adaptivní taktiky, techniky a postupy (TTP), všechny modelované tak, aby odrážely, jak by se reálný AI-poháněný útočník mohl chovat.

Vstupujeme do nové éry, kde emulace se stává kontinuální a inteligence-vedenou. Již nejsou epizodické cvičení, simulace integrují reálnou časovou hrozbou inteligenci a iterují produkční prostředí, testují kontroly v emergentních, nepředvídatelných podmínkách. S CTEM, tento přístup zajišťuje, že bezpečnostní validace se stává strategickou, operační funkcí, spíše než zaškrtávacím políčkem.

Pohledem do budoucna, které vznikající AI rizika vás nejvíce znepokojují? A kde vidíte největší příležitost pro bránící se strany, aby se dostaly před křivku?

Nejvíce znepokojujícím rizikem je to, jak AI snižuje bariéru vstupu pro sofistikované útoky ve velkém měřítku. Co dříve vyžadovalo hluboké technické dovednosti, je nyní stále více dostupné prostřednictvím komoditizovaných AI nástrojů. AI může automatizovat průzkum, generovat exploit kód a vytvářet přizpůsobené phishingové kampaně, fungující rychleji, než tradiční obrany mohou adaptovat.

Na druhé straně mají bránící se strany paralelní příležitost: využít AI a automatizaci pro proaktivní obranu. Automatizací emulace, urychlením detekce a prioritizací expozic na základě reálného rizika, bezpečnostní týmy mohou anticipovat adversářské pohyby, spíše než jednoduše reagovat na ně.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit AttackIQ.