AttackIQ’de Adversary Research VP’si Paul Reid – Röportaj Serisi

Paul Reid, AttackIQ’de Adversary Research VP’si, siber güvenlik dünyasının hızlı tempolu dünyasında опытlı bir uzman. Önde gelen teknoloji şirketleri için teknoloji stratejisti olarak iki thập kỷdan fazla deneyim sahibi olan Paul, müşterileri, ortakları, analistleri ve gazetecileri siber güvenlik manzarasının değişimi boyunca yönlendirdi. Uzmanlığı siber güvenlik, biyometri, ağ güvenliği ve kriptografi alanlarını kapsıyor.

Son olarak, müşterilerin ortamlarında ortaya çıkan tehditleri davranışsal analitik kullanarak tespit etmeye odaklanan bir Siber Tehdit Avcıları ekibini yönetti. Paul, Prentice Hall Series in Computer Networking and Distributed Systems yayınında yayımlanmış bir yazar ve siber güvenlik alanında birkaç patent sahibi.

AttackIQ bir önde gelen siber güvenlik şirketi ve ihlal ve saldırı simülasyonu (BAS) ve sürekli güvenlik doğrulaması alanında uzmanlaşmış. Adversarial Exposure Validation platformu, MITRE ATT&CK tabanlı emülasyonu kullanarak güvenlik kontrollerini test ediyor, zafiyetleri tespit ediyor ve düzeltmeyi önceliklendiriyor. 2013 yılında kurulan AttackIQ, organizasyonların savunma duruşunu iyileştirmelerine, SOC verimliliğini artırmalarına ve riski azaltmalarına yardımcı oluyor.

Siber güvenlik alanındaki çeşitli alanlarda liderlik rollerini 20 yılı aşkın bir süredir sürdürüyorsunuz. Adversary araştırma alanına ilginiz ne zaman ve nasıl başladı ve bu yolculuk size AttackIQ’ye nasıl getirdi?

Siber güvenlik alanındaki yolculuğum 25 yıl önce, Novell ağlarını kurarak ve dizin hizmetleri dünyasında çalışarak başladı — Novell, Microsoft Active Directory, LDAP. O erken deneyim, kimlik, kimlik doğrulama ve erişimin güvenliği stratejisinin temellerinin önemini öğretti.

Oradan, akıllı kart kimlik doğrulamasına geçiş yaptım, burada PKCS #11 kütüphanelerini yazma fırsatı buldum ve kamu anahtarı altyapısı (PKI) hızlı yükselişini yaşadım. O dönemdeki simetrik ve asimetrik kriptografi çalışması, dijital ortamlarda güvenin nasıl şekillendiğini anlamamı sağladı.

Kariyerimin ilerleyen döneminde, veri sınıflandırmasına geçiş yaptım, burada organizasyonların verilerinin değerini anlamalarına yardımcı oldum, böylece en önemli verilerini koruyabilsinler. Bu deneyim, doğal olarak kullanıcı ve varlık davranış analitiğine (UEBA) yönlendirdi, burada veri bilimi ve makine öğrenimi hakkında elden experiencia kazandım, R programlama dili de dahil.

Sonunda, bir küresel tehdit avcıları ekibini yönetme fırsatı buldum, burada gerçek zamanlı olarak ulus-devlet düşmanlarını izledik. Bu, yoğun ve açıklık getirici bir dönemdi. Düşmanların taktik, teknik ve prosedürlerini (TTP’ler) anlamak için günlük operasyonlarda onlarla savaşmak gibi bir yol yoktur.

O dönem, tekrar eden bir hayal kırıklığı ortaya çıktı: “Keşke onlar X veya Y kontrolü olsaydı…” diye söylüyorduk. Tehdit farkındalığı ve operasyonel savunma hazırlığı arasında bir boşluk vardı.

Bu, beni AttackIQ’ye getiren şeydi. Gerçek dünya saldırı simülasyonu yoluyla neler öğrendiğimi uygulama ve savunmaları gerçekten etkili olup olmadığını doğrulama fırsatı çok cezbediciydi. Burada sadece teorik tehditlerden bahsetmiyoruz, onları her gün test ediyor, ölçüyor ve geliştiriyoruz.

Ekibimiz, “Kötü düşün, iyi yap” ilkesiyle çalışıyor. Düşman gibi düşünüyoruz, ancak müşterilerimizi hazırlamak ve onları yenmek için yapıyoruz.

TITUS, Interset ve Micro Focus’ta liderlik rollerinde bulundunuz. Tehdit istihbaratı ve iş ortağı etkinleştirme deneyiminiz, adversary emülasyonu operasyonelleştirme yaklaşımınızı nasıl şekillendirdi?

TITUS, Interset ve Micro Focus gibi şirketlerde teknik ve pazara çıkış rollerinde çalışarak, tehdit istihbaratının operasyonel sonuçlara nasıl dönüştürüleceğini理解 etmiş oldum. İş ortağı etkinleştirme, özellikle, kompleks siber güvenlik sorunlarını çeşitli kitleler için eyleme dönüştürülebilir ve anlamlı bir şekilde nasıl iletişim kuracağımı öğretti.

AttackIQ’de, adversary emülasyonu sadece tehdit davranışlarını yeniden oynamak değil, MITRE ATT&CK çerçevesine uyumlu olarak, düşmanların davranışlarını gerçekçi bir şekilde taklit etmek ve organizasyonların güvenlik kontrollerinin gerçek bir saldırıya karşı dayanıklı olup olmadığını test etmektir. Bu, sadece teknik bir titizlik değil, aynı zamanda eğitim, işbirliği ve güvenlik ekosistemindeki paydaşları etkinleştirmeyi gerektirir.

Önceki rollerim, tehdit manzarasını operasyonelleştirmeyi, yani nasıl proaktif, ölçülebilir ve savunulabilir bir şekilde yapacağımı anlamamı sağladı. Bu, AttackIQ’deki misyonumuzun özü.

Şu anda adversary araştırma liderliğini yürütüyorsunuz ve saldırganlar AI’ı büyük ölçekte benimsemekteler. Son yıllarda saldırı AI taktiklerinin nasıl evrimleştiğini gördünüz ve savunucular nasıl geride kalıyorlar?

Saldırganlar, operasyonlarının hızını, doğruluğunu ve ölçeklerini artırmak için AI’ı kullanıyorlar. Daha kişiselleştirilmiş ve inandırıcı phishing tuzakları, AI tarafından oluşturulan sosyal mühendislik ve saldırıların daha büyük bir ölçekte ve verimliliği görüyoruz. Bu yetenekler, keşif ve ihlal arasındaki zamanı azaltıyor ve savunucuların tepki verme penceresini daraltıyor. Birçok organizasyon hala reaktif süreçlere ve statik algılama kurallarına güveniyor, bunlar ise öğrenen ve evrimleşen düşmanlarla başa çıkmak için tasarlanmamış. Savunucular, gerçekçi koşullarda güvenlik kontrollerini test etmek ve yeni düşman davranışlarına hızla tepki vermek için sürekli doğrulama ve maruz kalma yönetimini benimsemelidir.

Adversarial AI, geleneksel siber tehditlerden nasıl farklıdır ve neden sadece araçlar değil, bir zihniyet değişikliği gerektirir?

Geleneksel tehditler genellikle bilinen desenleri takip eder, savunucular bunları izleyebilir ve kural tabanlı algılama ile hafifletebilir. Adversarial AI taktikleri, bu varsayımları zorlayan bir değişkenlik ve adaptasyon seviyesi getirir. Yeni saldırı yolları oluşturabilir ve savunmaları dinamik olarak atlatabilir. Bunu ele almak için sadece yeni araçlar değil, bir stratejik zihniyet değişikliği gerekir. Güvenlik ekipleri, gerçek dünya saldırılarını simüle ederek, bilinen taktik, teknik ve prosedürleri (TTP’ler) kullanarak ve proaktif olarak güvenlik kontrollerini test ederek savunma hakkında düşünmelidir. Tehdit bilgilendirilmiş bir zihniyet, gerçek dünya emülasyonu ile desteklenmelidir.

AttackIQ, tehdit istihbaratını nasıl pratik savunmaya çevirir ve bu süreç, AI’ın yükselişi ile nasıl değişti?

Geleneksel tehdit istihbaratı challenge’ı, operasyonelleştirmedir, yani görüş ve eylem arasındaki boşluğu kapatmaktır. Adversary emülasyonu, bilinen tehdit davranışları hakkında bilgiyi, güvenlik kontrollerinin gerçekten etkili olup olmadığını değerlendiren çalıştırılabilir testlere dönüştürür. AI’ın yükselişi ile tehdit manzarası daha akışkan hale gelir, daha değişken davranışlar ortaya çıkar. Emülasyonlar artık sadece statik teknikleri değil, aynı zamanda adaptif ve bağlamsal davranışları yansıtmalıdır. AttackIQ’de, canlı tehdit istihbaratı, MITRE ATT&CK’e hizalanmış ve model adversary davranışlarını emülasyon planlarına entegre ediyoruz, böylece gerçek dünya saldırılarını yansıtıyoruz. Bu emülasyonlar, üretim benzeri ortamlarda güvenlik kontrollerinin beklendiği gibi algılayıp, önleyip, yanıtlayıp olmadığını doğrulamak için dağıtılıyor.

Sürekli Tehdit Maruz Kalma Yönetimi (CTEM), siber dayanıklılık stratejilerinin temel bir bileşeni haline geliyor. AI güçlendirilmiş tehditlerle karşı karşıya kalan organizasyonlar, CTEM’ye nasıl yaklaşmalıdır?

CTEM, statik risk değerlendirmelerinden, dinamik, istihbarat tarafından yönlendirilen güvenlik doğrulamasına bir geçişi temsil ediyor. AI güçlendirilmiş tehditlerle karşı karşıya kalan organizasyonlar, maruz kalma olarak hareket eden bir hedef olarak düşünmelidir. Bu, aktif testlere dayanarak, sadece teorik risk değil, maruz kalmayı tanımlamak ve önceliklendirmek anlamına gelir.

Kırmızı ve mavi takımlar, adaptif düşmanları simüle ederek ve sürekli olarak algılama ve yanıt yeteneklerini test ederek işbirliği içinde çalışmalıdır. Bu yaklaşıma sahip organizasyonlar, hızlı bir şekilde adapte olma, yatırımlarını ve güvenlik kontrollerini doğrulama ve hızla değişen bir ortamda dayanıklılık sürdürme konusunda daha iyi donanımlıdır.

AttackIQ’nin “AI Güvenlik Temelleri” kursu, MITRE ATLAS ve AI RMF gibi risk çerçevelerini kapsıyor. Bu çerçevelerin hangi yönlerini şirketler en çok yanlış anlıyor veya yeterince kullanmıyor?

Görülen en yaygın yanlış anlama, bu çerçevelerin izole referans materyalleri olarak değil, operasyonel araçlar olarak görülmemesidir. MITRE ATLAS, özellikle, AI/ML sistemlerine yönelik saldırı tekniklerinin statik bir kataloğu olarak değil, güvenlik ekiplerinin AI özel tehditlerini simüle etmelerine, algılama, günlüğe kaydetme ve yanıt yeteneklerini doğrulamalarına yardımcı olan taktiksel bir adversary emülasyonu çerçevesi olarak görülmalıdır.

NIST’in AI RMF’si sık sık bir uyum kontrol listesi olarak yanlış anlaşılır. Aslında, AI sistemlerinin güvenliğini destekleyen bir stratejik yönetim çerçevesidir. ATLAS, güvenlik kontrollerinin gerçekçi koşullarda test edilmesine olanak tanır, AI RMF ise AI kullanım örneklerini haritalamak, riskleri ölçmek, önceliklendirmek ve azaltmak ve sistem yaşam döngüsü boyunca denetimi sağlamak için bir çerçeve sağlar. Bu iki çerçeve birbirini tamamlar: ATLAS, gerçek dünya simülasyonu yoluyla riski doğrulamaya olanak tanır, AI RMF ise bu riskleri yönetmek için bir yapı sağlar.

Kursumuzda, AI RMF’nin “Harita” ve “Ölçüm” işlevlerinin, özellikle erken aşamalarda, en çok yanlış anlaşılan yönleri olduğunu öğretiyoruz. Bu işlevler, organizasyonların sistem kullanım ve suistimal senaryolarını modellemelerine ve adversarial tehditleri bağlamında tanımlamalarına olanak tanır. ATLAS ile birlikte, AI güvenliğini anlamlı bir şekilde operasyonelleştirmeye olanak tanır.

Asıl kaçırılan fırsat, bu çerçevelerin akademik olarak görülmesidir. Birlikte kullanıldığında, AI RMF ve ATLAS, tehdit bilgilendirilmiş, risk odaklı bir AI güvenliği yaklaşımı sağlar, yüksek düzeyli yönetimden gerçek dünya güvencesine dönüşür.

OWASP LLM için En İyi 10,.prompt enjeksiyonundan model hırsızlığına kadar yeni bir tehdit sınıfı vurguluyor. Bu tehditlerden hangisine karşı CISO’lar en çok hazırlıksız?

LLM03: 2025 Tedarik Zinciri zafiyetleri, AI/ML sistemlerine yönelik kritik boşlukları ortaya çıkaran ve mevcut governance ve güven varsayımlarını slippedirir. Geleneksel güvenlik programları, yazılım paketlerine ve kod bağımlılıklarına odaklanır, ancak AI modelleri genellikle veri varlıkları olarak görülür ve aynı düzeyde inceleme yapılmaz. Bu, üretim ortamlarına, doğrulama, kod imzalama veya davranışsal değerlendirme olmadan ingres edilen, tehlike oluşturabilecek AI modellerinin, zehirlenmiş ön eğitimli modellerin, adapterlerin veya Hugging Face birleştirme işlemlerinin ortaya çıkmasına yol açar.

AI ekosistemlerinin veya kayıtlarının güvenilir standartlar uyguladığını varsayan şirketler, bu sorunu daha da artırır. Güvenlik ekipleri, DevSecOps pipeline’ları ve TPRM programlarının AI risklerini kapsadığını düşünebilir, ancak gerçekte, çoğu AI bileşenlerine SBOM benzeri kontroller uygulamaz, veri seti soykırımını denetlemez veya model kökenini uygulamaz. Saldırganlar, bu yanlış güveni sömürerek, açık kaynaklı model araçlarını, adapterleri veya verilerini zehirleyerek, sessizce kötü niyetli davranışları gömerek,Operasyonel tehlikeye neden olurlar.

AI güçlendirilmiş düşmanlar simüle etmeye başlayan kırmızı ve mavi takımlarla, adversary emülasyonu nasıl evrimleşiyor? Simülasyon tabanlı güvenlik doğrulamasının yeni bir dönemine giriyoruz mu?

AI’ı operasyonlarına entegre eden düşmanlarla birlikte, adversary emülasyonu da evrimleşmelidir, sabit playbook’lardan öteye geçmelidir. Kırmızı takımlar, dinamik, AI benzeri davranışları simüle etmelidir: pivot, ayrıcalık yükseltme ve adaptif taktik, teknik ve prosedürler (TTP’ler), gerçek bir AI güdümlü saldırganın nasıl davranabileceğini yansıtan bir şekilde modellenmelidir.

Simülasyonun sürekli ve istihbarat tarafından yönlendirilen bir döneme giriyoruz. Artık periyodik egzersizler değil, gerçek zamanlı tehdit istihbaratı entegre ediyor ve üretim benzeri ortamlarda güvenlik kontrollerini test ediyor, ortaya çıkan ve öngörülemez koşullarda. CTEM ile bu yaklaşım, güvenlik doğrulamasını stratejik, operasyonel bir fonksiyona dönüştürür.

İleriye bakıldığında, hangi AI riskleri en çok endişelendiriyor ve savunucuların öne geçmek için en büyük fırsatını nerede görüyorsunuz?

En endişe verici risk, AI’ın sofistike saldırıların engelleme barajını düşürmesidir. Önceden derin teknik beceri gerektiren şeyler artık daha erişilebilir AI araçları ile yapılabiliyor. AI, keşif, sömürme kodu oluşturma ve özelleştirilmiş phishing kampanyaları oluşturma gibi işlemleri otomatikleştirebiliyor ve geleneksel savunmalardan daha hızlı hareket edebiliyor.

Diğer yandan, savunucular da paralel bir fırsat buluyorlar: AI ve otomasyonu proaktif savunma için kullanma. Emülasyonu otomatikleştirerek, algılamayı hızlandırarak ve gerçek dünya riskine dayalı maruz kalma önceliklendirmesi yaparak, güvenlik ekipleri düşmanların hamlelerini önceden görebilir ve sadece reaksiyona değil, proaktif önlemlere odaklanabilir.

Harika bir röportaj için teşekkür ederiz. Daha fazla bilgi öğrenmek isteyen okuyucular AttackIQ ziyaret edebilir.