Paul Reid, Wakil Presiden Penelitian Musuh di AttackIQ – Seri Wawancara

Paul Reid, Wakil Presiden Penelitian Musuh di AttackIQ, adalah seorang veteran berpengalaman di dunia keamanan siber yang cepat. Dengan lebih dari dua dekade pengalaman sebagai strategi teknologi untuk perusahaan teknologi terkemuka, Paul telah membimbing pelanggan, mitra, analis, dan jurnalis melalui lanskap keamanan siber yang terus berkembang. Keahliannya mencakup keamanan siber, biometrik, keamanan jaringan, dan kriptografi.

Baru-baru ini, ia telah memimpin tim Pemburu Ancaman Siber yang fokus menggunakan analitik perilaku untuk mendeteksi ancaman yang muncul di lingkungan pelanggan. Paul adalah seorang penulis yang diterbitkan dalam Seri Prentice Hall tentang Jaringan Komputer dan Sistem Terdistribusi dan memegang beberapa paten dalam keamanan siber.

AttackIQ adalah sebuah perusahaan keamanan siber terkemuka yang mengkhususkan diri dalam simulasi pelanggaran dan serangan (BAS) dan validasi keamanan terus-menerus. Platform Validasi Paparan Musuhnya menggunakan emulasi berbasis MITRE ATT&CK untuk menguji kontrol keamanan, mengidentifikasi kerentanan, dan memprioritaskan perbaikan. Didirikan pada tahun 2013, AttackIQ membantu organisasi memperbaiki postur pertahanan mereka, meningkatkan efisiensi SOC, dan mengurangi risiko.

Anda telah memegang peran kepemimpinan di berbagai domain keamanan siber selama lebih dari dua dekade. Apa yang pertama kali membangkitkan minat Anda dalam penelitian musuh, dan bagaimana perjalanan itu akhirnya membawa Anda ke AttackIQ?

Perjalanan saya di keamanan siber dimulai lebih dari 25 tahun yang lalu, dengan mengatur jaringan Novell dan bekerja di dunia layanan direktori — Novell, Microsoft Active Directory, LDAP. Pengalaman awal itu mengajarkan saya pentingnya identitas, autentikasi, dan akses, dasar dari setiap strategi keamanan.

Dari sana, saya beralih ke autentikasi kartu pintar, di mana saya memiliki kesempatan untuk menulis perpustakaan PKCS #11 dan membenamkan diri dalam infrastruktur kunci publik (PKI) selama pertumbuhan pesatnya. Bekerja dengan kriptografi simetris dan asimetris selama era itu memberi saya penghargaan yang sebenarnya tentang bagaimana enkripsi membentuk kepercayaan di lingkungan digital.

Lebih lanjut dalam karir saya, saya bergeser ke klasifikasi data, membantu organisasi memahami nilai data mereka sehingga mereka bisa melindungi apa yang paling penting. Pengalaman itu secara alami membawa saya ke analitik perilaku pengguna dan entitas (UEBA), di mana saya mendapatkan paparan tangan tentang ilmu data dan pembelajaran mesin, termasuk pemrograman dalam R.

Akhirnya, saya beruntung memimpin tim pemburu ancaman global di mana kami melakukan pelacakan waktu nyata terhadap musuh negara. Itu adalah periode yang intens dan membuka mata. Tidak ada cara yang lebih baik untuk memahami taktik, teknik, dan prosedur (TTP) musuh daripada terlibat dalam operasi sehari-hari melawan mereka.

Itu adalah saat ketika frustrasi berulang muncul: kami sering mengatakan, “Jika saja mereka melakukan X atau memiliki kontrol Y…” Ada kesenjangan antara kesadaran ancaman dan kesiapan pertahanan operasional.

Itulah yang akhirnya membawa saya ke AttackIQ. Kesempatan untuk menerapkan apa yang saya pelajari — untuk meniru musuh dunia nyata melalui simulasi pelanggaran dan serangan, dan untuk memvalidasi apakah pertahanan benar-benar efektif — terlalu menggoda untuk dilewatkan. Di sini, kami tidak hanya memikirkan ancaman; kami mengujinya, mengukurnya, dan memperbaikinya setiap hari.

Tim kami beroperasi di bawah prinsip panduan: “Pikirkan yang buruk, lakukan yang baik.” Kami berpikir seperti musuh tidak untuk menyakiti, tetapi untuk membantu pelanggan kami mempersiapkan diri dan mengalahkan mereka.

Setelah memimpin tim di TITUS, Interset, dan Micro Focus, bagaimana pengalaman Anda dalam intelijen ancaman dan pemberdayaan mitra telah membentuk pendekatan Anda saat ini dalam mengoperasikan emulasi musuh?

Mengingat saya telah bekerja dalam peran teknis dan go-to-market di perusahaan seperti TITUS, Interset, dan Micro Focus, saya telah mengembangkan pemahaman yang holistik tentang bagaimana intelijen ancaman perlu diterjemahkan menjadi hasil operasional, bukan hanya wawasan. Pemberdayaan mitra, khususnya, mengajarkan saya bagaimana untuk mengkomunikasikan masalah keamanan siber yang kompleks dengan cara yang dapat diambil dan bermakna bagi berbagai audiens, dari CISO hingga analis SOC garis depan.

Di AttackIQ, emulasi musuh bukan hanya tentang memutar ulang perilaku ancaman. Ini tentang menyelaraskan dengan kerangka kerja MITRE ATT&CK, meniru musuh dengan kesetiaan, dan membantu organisasi menguji apakah pertahanan mereka akan bertahan dalam skenario dunia nyata. Itu membutuhkan lebih dari ketekunan teknis; itu membutuhkan pendidikan, kolaborasi, dan memungkinkan pemangku kepentingan di seluruh ekosistem keamanan.

Pengalaman sebelumnya saya membantu saya memahami bagaimana untuk menjembatani kesenjangan antara intelijen dan eksekusi — bagaimana untuk mengoperasikan lanskap ancaman dengan cara yang proaktif, terukur, dan dapat dipertahankan. Itulah inti dari misi kami di AttackIQ.

Sekarang Anda memimpin penelitian musuh pada saat penyerang mengadopsi AI secara besar-besaran. Bagaimana Anda telah melihat taktik AI ofensif berkembang dalam beberapa tahun terakhir — dan bagaimana para pembela berjuang untuk mengikuti?

Musuh menggunakan AI untuk meningkatkan kecepatan, presisi, dan skala operasi mereka. Kami melihat lebih banyak umpan phishing yang dipersonalisasi dan dapat dipercaya, teknik rekayasa sosial yang dihasilkan AI, dan skala yang lebih besar serta efisiensi serangan. Kemampuan ini mengurangi waktu antara pengintaian dan kompromi, mengompresi jendela waktu pembela untuk merespons. Banyak organisasi masih bergantung pada proses reaktif dan aturan deteksi statis, yang tidak dirancang untuk menangani musuh yang belajar dan berkembang. Pembela perlu mengadopsi validasi dan pengelolaan paparan yang terus-menerus untuk menutup kesenjangan itu, menguji pertahanan mereka di bawah kondisi realistis dan beriterasi dengan cepat dalam menanggapi perilaku musuh baru.

Apa yang membedakan AI musuh dari ancaman siber tradisional, dan mengapa Anda percaya bahwa pergeseran dalam mindset — bukan hanya alat — diperlukan untuk merespons secara efektif?

Ancaman tradisional sering mengikuti pola yang diketahui yang pembela dapat lacak dan mitigasi dengan aturan deteksi. Taktik AI musuh memperkenalkan tingkat variabilitas dan adaptabilitas yang baru yang menantang asumsi tersebut. Ini dapat menghasilkan jalur serangan baru dan menghindari pertahanan secara dinamis. Mengatasi pergeseran ini membutuhkan lebih dari sekadar penerapan alat baru. Ini menuntut perubahan strategis dalam cara organisasi berpikir tentang pertahanan. Alih-alih bereaksi terhadap insiden setelah terjadi, tim keamanan perlu mensimulasikan ancaman yang berkembang dengan menggunakan taktik, teknik, dan prosedur (TTP) yang diketahui, dan memvalidasi kontrol proaktif untuk menguji respons sistem mereka. Mindset yang terinformasi oleh ancaman, didukung oleh emulasi dunia nyata, adalah kunci untuk memprediksi dan mengatasi risiko baru ini.

Bisakah Anda menjelaskan bagaimana AttackIQ menerjemahkan intelijen ancaman menjadi pertahanan praktis melalui emulasi musuh, dan bagaimana proses itu telah berubah dengan munculnya AI generatif?

Tantangan tradisional dengan intelijen ancaman adalah operasionalisasi, menjembatani kesenjangan antara wawasan dan tindakan. Emulasi musuh memecahkan itu dengan mengambil intelijen tentang perilaku ancaman yang diketahui dan mengubahnya menjadi tes yang dapat dijalankan yang menilai apakah pertahanan saat ini dapat menahan perilaku tersebut. Dengan AI generatif, lanskap ancaman menjadi lebih fluid, dengan perilaku yang lebih bervariasi. Emulasi sekarang perlu mencerminkan tidak hanya teknik statis tetapi juga perilaku adaptif dan kontekstual. Di AttackIQ, intelijen ancaman langsung yang selaras dengan MITRE ATT&CK dan model perilaku musuh diintegrasikan ke dalam rencana emulasi untuk mencerminkan serangan dunia nyata. Emulasi ini diterapkan dalam lingkungan produksi seperti untuk memvalidasi apakah kontrol keamanan mendeteksi, mencegah, atau merespons seperti yang diharapkan.

Manajemen Paparan Ancaman Terus-Menerus (CTEM) menjadi komponen inti dari strategi ketahanan siber. Bagaimana organisasi harus mendekati CTEM ketika menghadapi ancaman AI yang beradaptasi cepat?

CTEM mewakili pergeseran dari penilaian risiko statis ke validasi keamanan yang didorong oleh intelijen dan dinamis. Menghadapi ancaman AI, organisasi harus memperlakukan paparan sebagai target yang bergerak. Itu berarti mengidentifikasi dan memprioritaskan paparan berdasarkan pengujian aktif, bukan hanya risiko teoretis.

Tim merah dan biru perlu berkolaborasi dalam mensimulasikan musuh adaptif dan terus-menerus menguji kemampuan deteksi dan respon. Organisasi yang mengadopsi pendekatan ini lebih siap untuk beradaptasi dengan cepat, memvalidasi investasi dan kontrol keamanan mereka, dan mempertahankan ketahanan di tengah lanskap yang berubah dengan cepat.

Kursus “Dasar Keamanan AI” dari AttackIQ mencakup kerangka risiko seperti MITRE ATLAS dan AI RMF. Mana aspek dari kerangka kerja ini yang Anda temukan paling tidak digunakan atau salah dipahami dalam pengaturan perusahaan?

Salah satu kesalahpahaman paling umum yang kami lihat adalah kecenderungan untuk memperlakukan kerangka kerja seperti MITRE ATLAS dan AI Risk Management Framework (AI RMF) sebagai referensi terisolasi, bukan sebagai alat operasional untuk membangun ketahanan ke dalam sistem yang diaktifkan AI.

MITRE ATLAS, seperti ATT&CK di awal hari, sering dilihat sebagai katalog statis teknik serangan yang menargetkan sistem AI/ML. Pada kenyataannya, ATLAS adalah kerangka emulasi musuh taktis yang dirancang untuk membantu tim keamanan mensimulasikan ancaman AI-spesifik — dari pencemaran data dan penghindaran model hingga manipulasi inferensi — dan memvalidasi kemampuan deteksi, logging, dan respon mereka. Masalahnya adalah bahwa sebagian besar perusahaan belum membangun visibilitas atau kontrol yang diperlukan untuk mendeteksi serangan terhadap pipa ML, membuat penggunaan proaktif ATLAS melalui strategi simulasi pelanggaran dan serangan menjadi sangat kritis. Ini adalah alat yang kurang dimanfaatkan untuk menguji bagaimana sistem AI berperilaku di bawah tekanan musuh.

Di sisi lain, AI RMF dari NIST sering salah dipahami sebagai daftar periksa kepatuhan. Pada kenyataannya, ini adalah kerangka pemerintahan strategis — satu yang mendukung organisasi dalam memetakan kasus penggunaan AI, mengukur risiko (termasuk yang ditimbulkan oleh musuh), mengelolanya melalui prioritisasi dan mitigasi, dan membenamkan pengawasan di seluruh siklus hidup sistem. Di mana ATLAS adalah taktis, AI RMF adalah strategis. Kedua kerangka kerja sangat komplementer: ATLAS memungkinkan validasi risiko melalui emulasi dunia nyata, sementara AI RMF menyediakan struktur untuk mengatur risiko tersebut, menentukan kepemilikan, dan menyelaraskan jaminan AI dengan prioritas bisnis.

Dalam kursus Dasar Keamanan AI kami, kami mengajarkan bahwa salah satu aspek yang paling kurang dimanfaatkan dari AI RMF adalah fungsi “Peta” dan “Ukur” — terutama dalam penerapan awal. Fungsi-fungsi ini mendorong organisasi untuk memodelkan tidak hanya skenario penggunaan dan penyalahgunaan sistem, tetapi juga mengidentifikasi ancaman musuh dalam konteks. Menggabungkan ini dengan ATLAS memungkinkan organisasi untuk bergerak melampaui kekhawatiran teoretis dan mulai mengoperasikan keamanan AI dengan cara yang bermakna dan dapat diuji.

Akhirnya, kesempatan yang terlewatkan terletak pada memperlakukan kerangka kerja ini sebagai akademis. Ketika digunakan bersama, AI RMF dan ATLAS memungkinkan pendekatan yang terinformasi oleh ancaman dan didorong oleh risiko untuk mengamankan AI, mengubah pemerintahan tingkat tinggi menjadi jaminan dunia nyata.

Dari injeksi prompt hingga pencurian model, OWASP Top 10 untuk LLM menyoroti kelas baru kerentanan. Mana ancaman yang Anda pikir CISO paling tidak siap — dan mengapa?

LLM03: 2025 Kerentanan Rantai Pasokan mengeksploitasi titik buta kritis dalam asumsi kepercayaan dan tata kelola perusahaan yang ada dengan melewati kontrol yang tidak dirancang untuk sistem AI/ML. Program keamanan tradisional fokus pada paket perangkat lunak dan ketergantungan kode, tetapi model AI, sering diperlakukan sebagai aset data, kekurangan pemeriksaan yang sama. Ini memungkinkan model pra-dilatih yang dikompromikan, adapter LoRA yang diracuni, atau penggabungan Hugging Face yang dipermainkan untuk dikonsumsi ke dalam lingkungan produksi tanpa verifikasi, tanda tangan kode, atau evaluasi perilaku. Karena model-model ini tidak memicu analisis statis atau tanda tangan malware, mereka berperilaku sebagai ancaman tidur, diaktifkan hanya di bawah prompt atau kondisi tertentu yang menghindari deteksi.

Asumsi perusahaan bahwa ekosistem AI atau registri terkemuka yang terpercaya memperkuat standar yang dapat dipercaya memperburuk masalah. Tim keamanan mungkin percaya bahwa pipa DevSecOps dan program TPRM mereka mencakup risiko AI, tetapi kenyataannya, sebagian besar tidak mengaudit garis keturunan dataset, memaksakan provenance model, atau menerapkan kontrol SBOM-setara untuk komponen AI. Penyerang mengeksploitasi kepercayaan yang salah ini, memanipulasi alat model sumber terbuka, membuka adapter, atau meracuni data yang digunakan dalam penyetelan halus, untuk menyematkan perilaku berbahaya secara diam-diam. Tanpa tim merah dan biru yang agresif dan tata kelola yang secara eksplisit memperhitungkan celah-celah ini, bahkan perusahaan yang terlindungi dengan baik berisiko mengalami kompromi operasional melalui artefak AI yang tepercaya tetapi tidak diverifikasi.

Seiring tim merah dan biru mulai mensimulasikan musuh yang diaktifkan AI, bagaimana emulasi musuh berkembang? Apakah kita memasuki era baru validasi keamanan berbasis simulasi?

Seiring musuh mengintegrasikan AI ke dalam operasi mereka, emulasi musuh perlu berkembang seiring, melampaui playbook yang tetap. Tim merah harus mensimulasikan perilaku AI-like yang dinamis: pivot, eskalasi privilegi, dan taktik, teknik, dan prosedur (TTP) adaptif yang dimodelkan untuk mencerminkan bagaimana penyerang yang didorong AI mungkin bertindak.

Kami memasuki era baru di mana emulasi menjadi terus-menerus dan dipimpin oleh intelijen. Tidak lagi latihan episodik, simulasi mengintegrasikan intelijen ancaman waktu nyata dan beriterasi lingkungan produksi seperti, menguji kontrol di bawah kondisi yang muncul dan tidak terduga. Dengan CTEM, pendekatan ini memastikan bahwa validasi keamanan menjadi fungsi operasional strategis daripada sekadar centang.

Menghadap ke depan, apa risiko AI yang muncul yang paling mengkhawatirkan Anda? Dan di mana Anda melihat kesempatan terbesar bagi pembela untuk mendahului kurva?

Risiko yang paling mengkhawatirkan adalah bagaimana AI menurunkan hambatan masuk untuk serangan canggih skala besar. Apa yang sebelumnya memerlukan keterampilan teknis yang mendalam sekarang semakin dapat diakses melalui alat AI yang dikomoditisasi. AI dapat mengotomatisasi pengintaian, menghasilkan kode eksploit, dan mengkraftkan kampanye phishing yang disesuaikan, beroperasi lebih cepat daripada pertahanan tradisional dapat beradaptasi.

Di sisi lain, pembela memiliki kesempatan paralel: untuk memanfaatkan AI dan otomatisasi untuk pertahanan proaktif. Dengan mengotomatisasi emulasi, mempercepat deteksi, dan memprioritaskan paparan berdasarkan risiko dunia nyata, tim keamanan dapat memprediksi langkah musuh daripada hanya bereaksi terhadapnya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi AttackIQ.