Paul Reid, VP of Adversary Research at AttackIQ – Wywiad z serii

Paul Reid, VP of Adversary Research at AttackIQ, to doświadczony specjalista w dziedzinie cyberbezpieczeństwa. Z ponad dwudziestoletnim doświadczeniem jako strateg technologii dla wiodących firm technologicznych, Paul prowadził klientów, partnerów, analityków i dziennikarzy przez ewoluujący krajobraz cyberbezpieczeństwa. Jego ekspertyza obejmuje cyberbezpieczeństwo, biometrię, bezpieczeństwo sieci i kryptografię.

Najnowsze osiągnięcia obejmują kierowanie zespołem Cyber Threat Hunters, którzy wykorzystują analizy behawioralne do wykrywania nowych zagrożeń w środowiskach klientów. Paul jest opublikowanym autorem w Prentice Hall Series in Computer Networking and Distributed Systems i posiada kilka patentów w dziedzinie cyberbezpieczeństwa.

AttackIQ to wiodąca firma specjalizująca się w symulacji naruszeń i ataków (BAS) oraz ciągłej walidacji bezpieczeństwa. Ich platforma Adversarial Exposure Validation wykorzystuje emulację opartą na ramie MITRE ATT&CK, aby testować kontrolę bezpieczeństwa, identyfikować słabości i priorytetyzować naprawy. Założona w 2013 roku, AttackIQ pomaga organizacjom poprawić ich postawę obronną, zwiększyć wydajność SOC i zmniejszyć ryzyko.

Pełniłeś role kierownicze w różnych dziedzinach cyberbezpieczeństwa przez ponad dwie dekady. Co najpierw zainteresowało Cię badaniami nad przeciwnikami, i jak ta podróż doprowadziła Cię do AttackIQ?

Moja podróż w dziedzinie cyberbezpieczeństwa rozpoczęła się ponad 25 lat temu, od ustalenia sieci Novell i pracy w środowisku usług katalogowych — Novell, Microsoft Active Directory, LDAP. Ten wczesny doświadczenie nauczył mnie znaczenia tożsamości, uwierzytelniania i dostępu, fundamentów każdej strategii bezpieczeństwa.

Następnie przeniosłem się do uwierzytelniania za pomocą kart inteligentnych, gdzie miałem okazję napisać biblioteki PKCS #11 i zanurzyć się w infrastrukturze kluczy publicznych (PKI) podczas jej szybkiego rozwoju. Praca z szyfrowaniem symetrycznym i asymetrycznym w tym okresie dała mi prawdziwe zrozumienie, jak szyfrowanie kształtuje zaufanie w środowiskach cyfrowych.

Później w mojej karierze przeniosłem się do klasyfikacji danych, pomagając organizacjom zrozumieć wartość ich danych, aby mogły chronić to, co jest najważniejsze. To doświadczenie naturalnie doprowadziło mnie do pracy w dziedzinie analizy zachowania użytkowników i jednostek (UEBA), gdzie zdobyłem praktyczne doświadczenie w dziedzinie nauki o danych i uczeniu maszynowym, w tym programowaniu w R.

Ostatecznie miałem szczęście kierować globalnym zespołem łowców zagrożeń, gdzie prowadziliśmy śledzenie państwowych przeciwników w czasie rzeczywistym. To był intensywny i otwierający oczy okres. Nie ma lepszego sposobu na zrozumienie taktyk, technik i procedur (TTP) przeciwników niż codzienne operacje przeciwko nim.

W tym czasie pojawiła się powtarzająca się frustracja: często mówiliśmy, “Gdyby tylko zrobili X lub mieli Y kontrolę na miejscu…” Była luka między świadomością zagrożeń a gotowością obronną.

To właśnie doprowadziło mnie do AttackIQ. Okazja do zastosowania tego, czego się nauczyłem — do emulacji realistycznych przeciwników za pomocą symulacji naruszeń i ataków, oraz do walidacji, czy obrony są naprawdę skuteczne — była zbyt kusząca, aby ją pominąć. Tutaj nie teoretyzujemy o zagrożeniach; testujemy, mierzymy i poprawiamy je każdego dnia.

Nasz zespół działa pod kierunkiem zasady: “Myśl źle, rób dobrze.” Myślimy jak przeciwnicy nie po to, aby szkodzić, ale aby pomóc naszym klientom przygotować się i pokonać ich.

Pełniąc role kierownicze w TITUS, Interset i Micro Focus, jak Twoje doświadczenie w dziedzinie wywiadu o zagrożeniach i umożliwiania partnerom kształtowało Twoje obecne podejście do operacjonalizacji emulacji przeciwników?

Pracując w rolach technicznych i marketingowych w firmach takich jak TITUS, Interset i Micro Focus, rozwinąłem całościowe zrozumienie, jak wywiad o zagrożeniach musi przekładać się na wyniki operacyjne, a nie tylko na wgląd. Umożliwianie partnerom, w szczególności, nauczyło mnie, jak komunikować złożone problemy cyberbezpieczeństwa w sposób, który jest działaniem i znaczący dla różnorodnych odbiorców, od CISO do analityków SOC.

W AttackIQ emulacja przeciwników nie jest tylko odtwarzaniem zachowań zagrożeń. Jest to o wyrównaniu z ramą MITRE ATT&CK, emulacji przeciwników z wiernością, oraz pomocy organizacjom w testowaniu, czy ich obrony będą trwałe w realistycznym scenariuszu. To wymaga więcej niż tylko rygor techniczny; wymaga edukacji, współpracy i umożliwiania interesariuszom w całym ekosystemie bezpieczeństwa.

Moje poprzednie role pomogły mi zrozumieć, jak mostem między wywiadem a wykonaniem — jak operacjonalizować krajobraz zagrożeń w sposób proaktywny, mierzalny i broniony. To jest istota naszej misji w AttackIQ.

Teraz kierujesz badaniami nad przeciwnikami w czasie, gdy atakujący przyjmują AI na dużą skalę. Jak widziałeś ewolucję taktyk ofensywnych AI w ostatnich latach — i jak obrońcy mają trudności z utrzymaniem tempa?

Przeciwnicy wykorzystują AI, aby zwiększyć szybkość, precyzję i skalę swoich operacji. Widzimy więcej spersonalizowanych i wiarygodnych pułapek phishingowych, AI-generowanych inżynierii społecznej i większą skalę oraz wydajność ataków. Te zdolności zmniejszają czas między rozpoznaniem a naruszeniem, kompresując okno obrony. Wiele organizacji nadal polega na reaktywnych procesach i statycznych regułach wykrywania, które nie zostały zaprojektowane do radzenia sobie z przeciwnikami, którzy uczą się i ewoluują. Obrońcy muszą przyjąć ciągłą walidację i zarządzanie narażeniem, aby zamknąć tę lukę, testując swoje obrony w realistycznych warunkach i iterując szybko w odpowiedzi na nowe zachowania przeciwników.

Co odróżnia AI przeciwników od tradycyjnych cyberzagrożeń, i dlaczego uważasz, że wymagana jest zmiana mentalności — a nie tylko narzędzi — aby odpowiedzieć skutecznie?

Tradycyjne zagrożenia często podążają za znanymi wzorcami, które obrońcy mogą śledzić i łagodzić za pomocą reguł wykrywania. Taktyki AI przeciwników wprowadzają nowy poziom zmienności i adaptacji, który wyzwala te założenia. Mogą one generować nowe ścieżki ataku i unikać obron dynamicznie. Rozwiązanie tego wymaga więcej niż wdrożenie nowych narzędzi. Wymaga strategicznej zmiany w tym, jak organizacje myślą o obronie. Zamiast reagowania na incydenty po fakcie, zespoły bezpieczeństwa muszą symulować ewoluujące zagrożenia, wykorzystując znane taktyki, techniki i procedury (TTP), oraz proaktywnie walidować kontrolę, aby przetestować reakcje ich systemów. Podejście informowane przez zagrożenia, wspierane przez emulację w świecie rzeczywistym, jest kluczem do przewidywania i przeciwdziałania tym nowym ryzykom.

Czy możesz wyjaśnić, jak AttackIQ tłumaczy wywiad o zagrożeniach na praktyczną obronę za pomocą emulacji przeciwników, i jak ten proces zmienił się z powodu pojawienia się generatywnej AI?

Tradycyjnym wyzwaniem z wywiadem o zagrożeniach jest operacjonalizacja, mostowanie między wglądem a działaniem. Emulacja przeciwników rozwiązuje to, biorąc wywiad o znanym zachowaniu zagrożeń i zmieniając go w wykonalne testy, które oceniają, czy obecne obrony mogą wytrzymać te zachowania. Z generatywną AI krajobraz zagrożeń staje się bardziej płynny, z bardziej zmiennymi zachowaniami. Emulacje muszą teraz odzwierciedlać nie tylko statyczne techniki, ale także adaptacyjne i kontekstowo-zależne zachowania. W AttackIQ żywy wywiad o zagrożeniach, wyrównany z ramą MITRE ATT&CK i modelowaniem zachowań przeciwników, jest pobierany do planów emulacji, aby odbić realistyczne ataki. Te emulacje są wdrożone w środowiskach produkcyjnych, aby sprawdzić, czy kontrola bezpieczeństwa wykrywa, zapobiega czy reaguje tak, jak oczekiwano.

Ciągłe Zarządzanie Narażeniem na Zagrożenia (CTEM) staje się kluczowym składnikiem strategii cyberodporności. Jak organizacje powinny podejść do CTEM w obliczu szybko adaptujących się zagrożeń zasilanych przez AI?

CTEM reprezentuje zmianę od statycznych ocen ryzyka do dynamicznej, napędzanej przez wywiad o zagrożeniach, walidacji bezpieczeństwa. W obliczu zagrożeń zasilanych przez AI organizacje muszą traktować narażenie jako ruchomy cel. To oznacza identyfikację i priorytetyzację narażenia na podstawie aktywnego testowania, a nie tylko teoretycznego ryzyka.

Czerwone i niebieskie zespoły muszą współpracować w symulowaniu adaptacyjnych przeciwników i ciągłym testowaniu możliwości wykrywania i reagowania. Organizacje, które przyjmują to podejście, są lepiej przygotowane do adaptacji, walidacji swoich inwestycji i kontroli bezpieczeństwa, oraz utrzymania odporności wśród szybko zmieniającego się krajobrazu.

Kurs “Podstawy bezpieczeństwa AI” z AttackIQ obejmuje ramy ryzyka, takie jak MITRE ATLAS i AI RMF. Jakie aspekty tych ram uważasz za najmniej wykorzystywane lub źle zrozumiane w środowiskach przedsiębiorstw?

Jednym z najczęstszych nieporozumień, których doświadczamy, jest tendencja do traktowania ram, takich jak MITRE ATLAS i AI RMF, jako izolowanych materiałów referencyjnych, a nie jako narzędzi operacyjnych do budowania odporności w systemach zasilanych przez AI.

MITRE ATLAS, podobnie jak ATT&CK we wczesnych dniach, jest często postrzegany jako statyczny katalog technik ataku ukierunkowanych na systemy AI/ML. W rzeczywistości ATLAS jest taktyczną ramą emulacji przeciwników, zaprojektowaną do pomocy zespołom bezpieczeństwa w symulowaniu AI-specyficznych zagrożeń — od zatrucia danych i unikania modelu do manipulacji inferencją — i walidacji ich możliwości wykrywania, logowania i reagowania. Problem polega na tym, że większość przedsiębiorstw jeszcze nie zbudowała widoczności ani kontroli niezbędnych do wykrywania ataków na ML-pipeline, co czyni proaktywne wykorzystanie ATLAS za pomocą strategii symulacji naruszeń i ataków jeszcze bardziej krytycznym. Jest to niedocenione narzędzie do testowania, jak systemy AI zachowują się pod presją przeciwników.