Paul Reid, VP de Cercetare a Adversarilor la AttackIQ – Seria de Interviuri

Paul Reid, VP de Cercetare a Adversarilor la AttackIQ, este un veteran experimentat al lumii rapide a securității cibernetice. Cu peste două decenii de experiență ca strategist tehnologic pentru companii tehnologice de top, Paul a ghidat clienți, parteneri, analiști și jurnaliști prin peisajul în schimbare al securității cibernetice. Expertiza sa acoperă securitatea cibernetică, biometria, securitatea rețelelor și criptografia.

Cel mai recent, el a condus o echipă de vânători de amenințări cibernetice axați pe utilizarea analizei comportamentale pentru a detecta amenințări emergente în mediile clienților. Paul este autor publicat în seria Prentice Hall Series in Computer Networking and Distributed Systems și deține mai multe brevete în domeniul securității cibernetice.

AttackIQ este o companie de securitate cibernetică de top, specializată în simularea breșelor și atacurilor (BAS) și validarea continuă a securității. Platforma sa de validare a expunerii adversarilor utilizează emularea bazată pe MITRE ATT&CK pentru a testa controalele de securitate, a identifica vulnerabilitățile și a prioritiza remedierea. Fondată în 2013, AttackIQ ajută organizațiile să îmbunătățească postura defensivă, să crească eficiența SOC și să reducă riscul.

Ați deținut roluri de conducere în diverse domenii de securitate cibernetică de-a lungul a peste două decenii. Ce v-a determinat să vă interesați de cercetarea adversarilor și cum v-a condus această călătorie la AttackIQ?

Călătoria mea în securitatea cibernetică a început acum peste 25 de ani, configurând rețele Novell și lucrând în lumea serviciilor de director. Acea experiență timpurie mi-a învățat importanța identității, autentificării și accesului, fundamentele oricărei strategii de securitate.

De acolo, am trecut la autentificarea cu carduri inteligente, unde am avut ocazia să scriu biblioteci PKCS #11 și să mă scufund în infrastructura cheii publice (PKI) în timpul creșterii sale rapide. Lucrul cu criptografia simetrică și asimetrică în acea perioadă mi-a dat o apreciere reală pentru modul în care criptarea modelează încrederea în mediile digitale.

Mai târziu în cariera mea, am pivotat către clasificarea datelor, ajutând organizațiile să înțeleagă valoarea datelor lor, astfel încât să poată proteja ceea ce contează mai mult. Acea experiență m-a condus în mod natural către lucrul cu analiza comportamentului utilizatorilor și entităților (UEBA), unde am obținut expunere practică la știința datelor și învățarea automată, inclusiv programarea în R.

În cele din urmă, am avut norocul să conduc o echipă globală de vânătoare de amenințări, unde am efectuat urmărirea în timp real a adversarilor naționali. A fost o perioadă intensă și revelatoare. Nu există o modalitate mai bună de a înțelege tactica, tehnicile și procedurile (TTP) ale adversarilor decât să te implici în operațiuni zilnice împotriva lor.

În acea perioadă, a apărut o frustrare recurentă: adesea spuneam: „Dacă numai ar fi făcut X sau ar fi avut controlul Y în loc…” A existat o lacună între conștientizarea amenințărilor și pregătirea operațională de apărare.

Aceasta m-a condus în cele din urmă la AttackIQ. Oportunitatea de a aplica ceea ce învățasem – de a emula adversari din lumea reală prin simularea breșelor și atacurilor și de a valida dacă apărările sunt cu adevărat eficiente – a fost prea convingătoare pentru a o refuza. Aici, nu doar speculăm despre amenințări; le testăm, le măsurăm și le îmbunătățim împotriva lor în fiecare zi.

Echipa noastră operează sub un principiu ghid: „Gândește rău, fă bine.” Ne gândim ca adversarii nu pentru a face rău, ci pentru a ajuta clienții noștri să se pregătească și să-i învingă.

Având în vedere că ați condus echipe la TITUS, Interset și Micro Focus, cum a influențat experiența dvs. în intelligence-ul amenințărilor și în activarea partenerilor abordarea dvs. actuală de operaționalizare a emulării adversarilor?

Lucrând atât în roluri tehnice, cât și în roluri de marketing la companii precum TITUS, Interset și Micro Focus, am dezvoltat o înțelegere holistică a modului în care intelligence-ul amenințărilor trebuie să se traducă în rezultate operaționale, nu doar în insight-uri. Activarea partenerilor, în special, m-a învățat cum să comunic complexe probleme de securitate cibernetică în moduri care sunt actionabile și semnificative pentru diverse audiențe, de la CISO la analiști SOC de linia întâi.

La AttackIQ, emularea adversarilor nu se rezumă doar la reproducerea comportamentului amenințărilor. Este vorba despre alinierea cu cadrul MITRE ATT&CK, emularea adversarilor cu fidelitate și ajutarea organizațiilor să testeze dacă apărările lor vor rezista într-un scenariu din lumea reală. Acest lucru necesită mai mult decât rigurozitatea tehnică; necesită educație, colaborare și împuternicirea părților interesate din întregul ecosistem de securitate.

Rolurile mele anterioare m-au ajutat să înțeleg cum să podim golul dintre intelligence și execuție – cum să operaționalizez peisajul amenințărilor într-un mod proactiv, măsurabil și defensiv. Acesta este esența misiunii noastre la AttackIQ.

Sunteți acum lider al cercetării adversarilor la un moment în care atacatorii adoptă IA la scară largă. Cum ați văzut evoluția tacticilor ofensive IA în ultimii ani și cum luptă apărătorii pentru a ține pasul?

Adversarii utilizează IA pentru a crește viteza, precizia și scala operațiunilor lor. Vedem capcane de phishing personalizate și convingătoare, inginerie socială generată de IA și o eficiență mai mare a atacurilor. Aceste capacități reduc timpul dintre recunoaștere și compromitere, comprimând fereastra de răspuns a apărătorilor. Multe organizații sunt încă dependente de procese reactive și reguli de detectare statice, care nu au fost proiectate pentru a face față adversarilor care învață și evoluează. Apărătorii au nevoie de validare continuă și gestionare a expunerii pentru a închide această lacună, testând apărările în condiții realiste și iterând rapid în răspuns la noi comportamente adversarilor.

Ce distinge IA adversarilor de amenințările cibernetice tradiționale și de ce credeți că o schimbare de mentalitate – și nu doar de instrumente – este necesară pentru a răspunde eficient?

Amenințările tradiționale adesea urmează modele cunoscute pe care apărătorii le pot urmări și mitiga cu reguli de detectare bazate pe reguli. Tacticile IA adversarilor introduc un nivel nou de variabilitate și adaptabilitate care provoacă aceste presupuneri. Ele pot genera noi căi de atac și evita apărările în mod dinamic. Abordarea acestei schimbări necesită mai mult decât implementarea de noi instrumente. Cere o schimbare strategică în modul în care organizațiile gândesc despre apărare. În loc de a reacționa la incidente după ce s-au întâmplat, echipele de securitate trebuie să simuleze amenințări în evoluție, utilizând tactici, tehnici și proceduri (TTP) cunoscute și să valideze proactiv controalele pentru a testa răspunsurile sistemelor lor. O mentalitate informată despre amenințări, sprijinită de emulare din lumea reală, este cheia pentru a anticipa și a contracara aceste noi riscuri.

Puteți explica cum AttackIQ traduce intelligence-ul amenințărilor în apărare practică prin emularea adversarilor și cum a fost modificat acest proces odată cu apariția IA generativă?

Provocarea tradițională cu intelligence-ul amenințărilor este operaționalizarea, podirea golului dintre insight și acțiune. Emularea adversarilor rezolvă această problemă, luând intelligence despre comportamentele cunoscute ale amenințărilor și transformându-le în teste executabile care evaluează dacă apărările actuale pot rezista acelor comportamente. Cu IA generativă, peisajul amenințărilor devine mai fluid, cu comportamente mai variabile. Emulările trebuie acum să reflecte nu doar tehnici statice, ci și comportamente adaptative și contextuale. La AttackIQ, intelligence-ul amenințărilor live, aliniat cu MITRE ATT&CK și modelarea comportamentului adversarilor, este încorporat în planurile de emulare pentru a reflecta atacuri din lumea reală. Aceste emulări sunt desfășurate în medii de producție pentru a valida dacă controalele de securitate detectează, previn sau răspund așa cum se așteaptă.

Managementul Continuu al Expunerii Amenințărilor (CTEM) devine o componentă cheie a strategiilor de reziliență cibernetică. Cum ar trebui organizațiile să abordeze CTEM în fața amenințărilor IA care se adaptează rapid?

CTEM reprezintă o schimbare de la evaluări de risc statice la validarea securității condusă de intelligence. În fața amenințărilor IA, organizațiile trebuie să trateze expunerea ca pe o țintă în mișcare. Acest lucru înseamnă identificarea și prioritizarea expunerilor pe baza testării active, nu doar a riscului teoretic.

Echipele roșii și albastre trebuie să colaboreze în simularea adversarilor adaptați și să testeze continuu capacitățile de detectare și răspuns. Organizațiile care adoptă această abordare sunt mai bine echipate pentru a se adapta rapid, a-și valida investițiile și controalele de securitate și a menține reziliența într-un peisaj în schimbare rapid.

Cursul „Fundamentele Securității IA” de la AttackIQ acoperă cadre de risc precum MITRE ATLAS și AI RMF. Care aspecte ale acestor cadre găsiți cel mai puțin utilizate sau înțelese greșit în mediile enterprise?

Una dintre cele mai comune neînțelegeri pe care le vedem este tendința de a trata cadrele precum MITRE ATLAS și AI Risk Management Framework (AI RMF) ca materiale de referință izolate, în loc de unelte operaționale pentru construirea rezilienței în sistemele activate de IA.

MITRE ATLAS, la fel ca ATT&CK în zilele sale de început, este adesea privit ca un catalog static de tehnici de atac vizând sistemele IA/ML. În realitate, ATLAS este un cadru tactic de emulare a adversarilor, proiectat pentru a ajuta echipele de securitate să simuleze amenințări specifice IA – de la otrăvirea datelor și evaziunea modelului la manipularea inferenței – și să valideze capacitățile lor de detectare, înregistrare și răspuns. Problema este că majoritatea organizațiilor nu și-au construit încă vizibilitatea sau controalele necesare pentru a detecta atacurile asupra pipeline-ului ML, făcând utilizarea proactivă a ATLAS prin strategii de simulare a breșelor și atacurilor și mai critică. Este un instrument subutilizat pentru testarea modului în care sistemele IA se comportă sub presiunea adversarilor.

Pe de altă parte, AI RMF al NIST este frecvent înțeles greșit ca o listă de verificare a conformității. În realitate, este un cadru strategic de guvernanță – unul care sprijină organizațiile în cartografierea cazurilor de utilizare a IA, măsurarea riscurilor (inclusiv a celor create de adversari), gestionarea lor prin prioritizare și mitigare și integrarea supravegherii pe parcursul întregului ciclu de viață al sistemului. În timp ce ATLAS este tactic, AI RMF este strategic. Cele două cadre sunt foarte complementare: ATLAS permite validarea riscului prin simulare din lumea reală, în timp ce AI RMF oferă structura pentru a guverna aceste riscuri, a defini proprietatea și a alinia asigurarea IA cu prioritățile de business.

În cursul nostru „Fundamentele Securității IA”, învățăm că unul dintre cele mai subutilizate aspecte ale AI RMF este funcția „Hartă” și „Măsură” – în special în implementările de început. Aceste funcții încurajează organizațiile să modeleze nu doar scenarii de utilizare și abuz a sistemului, ci și să identifice amenințări adversarilor în context. Asocierea acestuia cu ATLAS împuternicește organizațiile să treacă dincolo de preocupări teoretice și să înceapă să operaționalizeze securitatea IA într-un mod semnificativ și testabil.

În cele din urmă, oportunitatea ratată constă în tratarea acestor cadre ca fiind academice. Atunci când sunt utilizate împreună, AI RMF și ATLAS permit o abordare informată despre amenințări, condusă de risc, pentru securizarea IA, transformând guvernanța de nivel înalt în asigurare din lumea reală.

De la injectarea de prompturi la furtul de modele, OWASP Top 10 pentru LLM subliniază o nouă clasă de vulnerabilități. Care dintre aceste amenințări credeți că CISO-ii sunt mai puțin pregătiți să le facă față – și de ce?

LLM03: 2025 Vulnerabilitățile lanțului de aprovizionare exploatează puncte oarbe critice în guvernanța și ipotezele de încredere existente ale organizațiilor, strecurându-se prin controale care nu au fost proiectate inițial pentru sistemele IA/ML. Programele de securitate tradiționale se concentrează pe pachete de software și dependențe de cod, dar modelele IA, adesea tratate ca active de date, lipsesc aceeași examinare. Acest lucru permite modele compromise pre-antrenate, adaptori otrăviți LoRA sau fuziuni Hugging Face compromise să fie încorporate în medii de producție fără verificare, semnătură de cod sau evaluare comportamentală. Deoarece aceste modele nu declanșează analiza statică sau semnături de malware, ele se comportă ca amenințări dormante, activându-se doar sub anumite prompturi sau condiții care evită detectarea.

Asumpția organizațională că ecosistemele IA reputabile sau registrele impun standarde de încredere compune problema. Echipele de securitate pot crede că lanțurile lor de dezvoltare și programele TPRM acoperă riscurile IA, dar în realitate, majoritatea nu auditează linia de proveniență a datelor, nu impun proveniența modelului sau nu aplică controale echivalente cu SBOM pentru componente IA. Atacatorii exploatează această încredere greșită, manipulând uneltele de modelare deschise, compromițând adaptori sau otrăvind date utilizate în finisarea modelului, pentru a încorpora în mod clandestin comportamentul malign. Fără echipă roșie adversară și guvernanță care să țină cont explicit de aceste lacune, chiar și organizațiile bine securizate riscă compromiterea operațională prin artefacte IA de încredere, dar neverificate.

Pe măsură ce echipele roșii și albastre încep să simuleze adversari IA, cum evoluează emularea adversarilor? Intrăm într-o nouă eră de validare a securității bazată pe simulare?

Pe măsură ce adversarii integrează IA în operațiunile lor, emularea adversarilor trebuie să evolueze în același timp, depășind cărțile de joc fixe. Echipele roșii trebuie să simuleze comportamente dinamice, asemănătoare IA: pivotarea, escaladarea privilegiilor și tactici, tehnici și proceduri (TTP) adaptate, modelate pentru a reflecta modul în care un atacator condus de IA ar acționa în realitate.

Intrăm într-o nouă eră în care emularea devine continuă și condusă de intelligence. Nu mai sunt exerciții episodice, ci simulări care integrează intelligence-ul amenințărilor în timp real și se iterativă în medii de producție, testând controalele sub condiții emergente și imprevizibile. Cu CTEM, această abordare asigură că validarea securității devine o funcție operațională strategică, nu doar o căsuță de bifat.

Privind înainte, care sunt riscurile IA emergente care vă preocupă cel mai mult? Și unde vedeți cea mai mare oportunitate pentru apărători să iasă înainte?

Riscul cel mai îngrijorător este modul în care IA reduce bariera de intrare pentru atacuri sofisticate la scară. Ceea ce necesita anterior o profundă abilitate tehnică este acum din ce în ce mai accesibil prin intermediul uneltelor IA comercializate. IA poate automatiza recunoașterea, genera cod de exploatare și crea campanii de phishing personalizate, operând mai rapid decât apărările tradiționale pot adapta.

Pe de altă parte, apărătorii au o oportunitate paralelă: să utilizeze IA și automatizarea pentru apărare proactivă. Prin automatizarea emulării, accelerarea detectării și prioritizarea expunerilor pe baza riscului din lumea reală, echipele de securitate pot anticipa mișcările adversarilor, în loc să reacționeze pur și simplu la ele.

Mulțumim pentru acest interviu excelent. Citiitorii care doresc să afle mai multe despre AttackIQ pot vizita AttackIQ.