พอล รีด, VP of Adversary Research ที่ AttackIQ – สัมภาษณ์ ซีรีส์

พอล รีด VP of Adversary Research ที่ AttackIQ เป็นนักวิชาการที่มีประสบการณ์ยาวนานในโลกของความปลอดภัยทางไซเบอร์ โดยมีประสบการณ์มากกว่า 20 ปีในฐานะนักยุทธศาสตร์ทางเทคโนโลยีสำหรับบริษัทเทคโนโลยีชั้นนำ พอลได้แนะนำลูกค้า พันธมิตร นักวิเคราะห์ และนักข่าวผ่านภูมิทัศน์ความปลอดภัยทางไซเบอร์ที่เปลี่ยนแปลงอย่างรวดเร็ว ความเชี่ยวชาญของเขาพูดถึงความปลอดภัยทางไซเบอร์ ไบโอเมตริกส์ ความปลอดภัยเครือข่าย และการเข้ารหัสลับ

ล่าสุด เขาได้นำทีม Cyber Threat Hunters ที่มุ่งเน้นการใช้การวิเคราะห์ทางพฤติกรรมเพื่อตรวจจับภัยคุกคามที่เกิดขึ้นใหม่ใน môi trườngลูกค้า พอลเป็นผู้เขียนที่ตีพิมพ์งานใน Prentice Hall Series in Computer Networking and Distributed Systems และมีหลายสิทธิบัตรในด้านความปลอดภัยทางไซเบอร์

AttackIQ เป็นบริษัทความปลอดภัยทางไซเบอร์ที่มีชื่อเสียงซึ่งมีเชี่ยวชาญในด้านการจำลองการโจมตีและการตรวจสอบความปลอดภัยอย่างต่อเนื่อง (BAS) และการตรวจสอบความปลอดภัยอย่างต่อเนื่อง (CTEM) แพลตฟอร์ม Adversarial Exposure Validation ใช้การจำลอง MITRE ATT&CK เพื่อทดสอบการควบคุมความปลอดภัย ระบุความอ่อนแอ และจัดลำดับความสำคัญของการแก้ไขปัญหา ก่อตั้งขึ้นในปี 2013 AttackIQ ช่วยให้องค์กรปรับปรุงท่าทางป้องกัน เพิ่มประสิทธิภาพของ SOC และลดความเสี่ยง

คุณได้รับบทบาทผู้นำในหลายโดเมนของความปลอดภัยทางไซเบอร์มาเกือบ 20 ปีแล้ว สิ่งใดที่ช่วยกระตุ้นความสนใจของคุณในด้านการวิจัยผู้โจมตี และสิ่งนั้นได้นำคุณมาถึง AttackIQ อย่างไร?

การเดินทางของฉันในด้านความปลอดภัยทางไซเบอร์เริ่มต้นเมื่อ 25 ปีที่แล้ว โดยการตั้งค่าเครือข่าย Novell และทำงานในด้านบริการไดเรกทอรี — Novell, Microsoft Active Directory, LDAP ประสบการณ์ในช่วงแรกสอนให้ฉันเข้าใจถึงความสำคัญของอัตลักษณ์ การรับรองความถูกต้อง และการเข้าถึง ซึ่งเป็นพื้นฐานของกลยุทธ์ความปลอดภัยใดๆ

จากนั้น ฉันเปลี่ยนไปสู่การรับรองความถูกต้องโดยใช้สมาร์ทการ์ด โดยที่ฉันมีโอกาสเขียนไลบรารี PKCS #11 และจมอยู่ในโครงสร้างพื้นฐานสาธารณะ (PKI) ระหว่างการเติบโตอย่างรวดเร็ว การทำงานกับการเข้ารหัสลับแบบสมมาตรและไม่สมมาตรในช่วงเวลานั้นให้ความเข้าใจที่แท้จริงเกี่ยวกับวิธีการที่การเข้ารหัสลับกำหนดความเชื่อมั่นใน môi trườngดิจิทัล

ในช่วงหลังของอาชีพ ฉันเปลี่ยนไปสู่การจำแนกประเภทข้อมูล โดยช่วยให้องค์กรเข้าใจคุณค่าของข้อมูลเพื่อป้องกันสิ่งที่สำคัญที่สุด ประสบการณ์นี้นำไปสู่งานในด้านการวิเคราะห์ทางพฤติกรรมของผู้ใช้และหน่วย (UEBA) โดยที่ฉันได้รับการสัมผัสโดยตรงกับวิทยาศาสตร์ข้อมูลและเครื่องมือการเรียนรู้ของเครื่อง รวมถึงการเขียนโปรแกรมใน R

ในที่สุด ฉันมีโอกาสนำทีมการล่าภัยคุกคามระดับโลก โดยที่เราทำการตาม dõiภัยคุกคามของรัฐในแบบเรียลไทม์ ซึ่งเป็นช่วงเวลาที่เข้มข้นและเปิดเผย ไม่มีวิธีที่ดีกว่าในการเข้าใจยุทธวิธี เทคนิค และขั้นตอน (TTPs) ของผู้โจมตีมากกว่าการมีส่วนร่วมในปฏิบัติการรายวัน chống lạiพวกเขา

ในช่วงเวลานั้น ความ沮ใจที่เกิดขึ้นซ้ำๆ คือ เรามักจะพูดว่า “ถ้าพวกเขาได้ทำ X หรือมีการควบคุม Y แล้ว…” มีช่องว่างระหว่างความตระหนักถึงภัยคุกคามและความพร้อมของการป้องกัน

สิ่งนั้นคือสิ่งที่นำฉันมาถึง AttackIQ โอกาสในการนำสิ่งที่ฉันเรียนรู้มาใช้ — เพื่อจำลองผู้โจมตีในโลกแห่งความเป็นจริงผ่านการจำลองการโจมตีและการตรวจสอบความปลอดภัย — และเพื่อยืนยันว่าการป้องกันของเรามีประสิทธิภาพหรือไม่ เป็นสิ่งที่น่าดึงดูดเกินกว่าจะต้านทานได้ ที่นี่ เราไม่เพียงแต่พูดถึงภัยคุกคามเท่านั้น แต่ยังทดสอบ วัดผล และปรับปรุงการป้องกันของเราทุกวัน

ทีมของเราทำงานภายใต้หลักการเดียว: “คิดอย่างผู้โจมตี ทำอย่างผู้พิทักษ์” เราคิดอย่างผู้โจมตีไม่ใช่เพื่อทำอันตราย แต่เพื่อช่วยให้ลูกค้าของเราพร้อมและเอาชนะพวกเขา

หลังจากที่คุณได้นำทีมที่ TITUS, Interset และ Micro Focus แล้ว การทำงานของคุณในด้านข่าวกรองภัยคุกคามและการเปิดใช้งานพันธมิตรได้กำหนดแนวทางของคุณในการดำเนินการจำลองผู้โจมตีในปัจจุบันอย่างไร?

การทำงานในบทบาททางเทคนิคและตลาดในบริษัทต่างๆ เช่น TITUS, Interset และ Micro Focus ฉันได้พัฒนาความเข้าใจที่ครอบคลุมเกี่ยวกับวิธีการที่ข่าวกรองภัยคุกคามต้องแปลเป็นผลลัพธ์ในการดำเนินการ ไม่ใช่แค่ข้อมูลเท่านั้น การเปิดใช้งานพันธมิตรโดยเฉพาะสอนให้ฉันเข้าใจวิธีการสื่อสารปัญหาความปลอดภัยทางไซเบอร์ที่ซับซ้อนในลักษณะที่สามารถดำเนินการและมีความหมายสำหรับผู้ฟังต่างๆ ตั้งแต่ CISO ถึงนักวิเคราะห์ SOC

ที่ AttackIQ การจำลองผู้โจมตีไม่ใช่แค่การซ้ำยุทธวิธีของภัยคุกคามเท่านั้น แต่เป็นการสร้างความสอดคล้องกับเฟรมเวิร์ก MITRE ATT&CK การจำลองผู้โจมตีด้วยความซื่อสัตย์ และช่วยให้องค์กรทดสอบว่าการป้องกันของพวกเขาจะยืนหยัดในสถานการณ์จริงได้หรือไม่ สิ่งนี้ต้องใช้มากกว่าความเข้มงวดทางเทคนิค ต้องใช้การศึกษา การทำงานร่วมกัน และการทำให้ผู้มีส่วนได้ส่วนเสียต่างๆ ในระบบนิเวศของความปลอดภัยเข้าใจ

บทบาทก่อนหน้าของฉันช่วยให้ฉันเข้าใจวิธีการเชื่อมช่องว่างระหว่างข่าวกรองและผลลัพธ์ — วิธีการดำเนินการภัยคุกคามในลักษณะที่เป็นรูปแบบ proactively, วัดผลได้ และสามารถป้องกันได้ นั่นคือส่วนสำคัญของภารกิจของเรา tại AttackIQ

คุณกำลังนำการวิจัยผู้โจมตีในขณะนี้ที่ผู้โจมตีใช้ AI ในระดับใหญ่ คุณเห็นว่ายุทธวิธีของ AI ในด้านการโจมตีเปลี่ยนแปลงไปอย่างไรในช่วงไม่กี่ปีที่ผ่านมา — และผู้ป้องกันกำลังดิ้นรนเพื่อตามทันอย่างไร?

ผู้โจมตีใช้ AI เพื่อเพิ่มความเร็ว ความแม่นยำ และขนาดของการดำเนินการ เราเห็นเหยื่อของการหลอกลวงที่มีการปรับให้เหมาะสมและน่าเชื่อถือมากขึ้น การสร้างการหลอกลวงทางสังคมโดยใช้ AI และการโจมตีที่มีประสิทธิภาพและขนาดใหญ่มากขึ้น ความสามารถเหล่านี้ลดเวลาระหว่างการสำรวจและความเสียหาย ทำให้เวลาที่ผู้ป้องกันตอบสนองลดลง องค์กรหลายแห่งยังคงพึ่งพากระบวนการเชิงรับและกฎการตรวจจับที่คงที่ ซึ่งไม่ได้ออกแบบมาเพื่อจัดการกับผู้โจมตีที่เรียนรู้และพัฒนาได้ ผู้ป้องกันต้องใช้การตรวจสอบและจัดการการเปิดเผยอย่างต่อเนื่องเพื่อปิดช่องว่างนี้

สิ่งใดที่ทำให้ AI ของผู้โจมตีต่างจากภัยคุกคามทางไซเบอร์แบบดั้งเดิม — และคุณเชื่อว่าการเปลี่ยนแปลงความคิด — ไม่ใช่แค่เครื่องมือ — เป็นสิ่งจำเป็นในการตอบสนองอย่างมีประสิทธิภาพ?

ภัยคุกคามแบบดั้งเดิมมักจะตามรูปแบบที่ทราบซึ่งผู้ป้องกันสามารถติดตามและบรรเทาได้ด้วยการตรวจจับที่อาศัยกฎ การโจมตี AI ของผู้โจมตีมีความแปรผันและปรับเปลี่ยนได้ ซึ่งท้าทายสมมติฐานเหล่านั้น สามารถสร้างเส้นทางการโจมตีใหม่ๆ และหลบหลีกการป้องกันได้อย่างไดนามิก การจัดการกับการเปลี่ยนแปลงนี้ต้องใช้มากกว่าการนำเครื่องมือใหม่มาใช้ ต้องใช้การเปลี่ยนแปลงเชิงกลยุทธ์ในการคิดเกี่ยวกับการป้องกัน แทนที่จะตอบสนองต่อเหตุการณ์หลังจากระเบิด ผู้ป้องกันต้องจำลองภัยคุกคามที่กำลังพัฒนาโดยใช้ TTPs ที่ทราบ และตรวจสอบการควบคุมเพื่อทดสอบการตอบสนองของระบบ

คุณสามารถอธิบายได้อย่างไรว่า AttackIQ แปลข่าวกรองภัยคุกคามเป็นการป้องกันเชิงปฏิบัติผ่านการจำลองผู้โจมตี — และกระบวนการนี้เปลี่ยนแปลงไปอย่างไรพร้อมกับการเพิ่มขึ้นของ AI ที่สร้างขึ้น?

ความท้าทายดั้งเดิมของข่าวกรองภัยคุกคามคือการดำเนินการเชิงปฏิบัติ การเชื่อมช่องว่างระหว่างข้อมูลและการดำเนินการ การจำลองผู้โจมตีแก้ปัญหานี้โดยการนำข่าวกรองเกี่ยวกับพฤติกรรมภัยคุกคามที่ทราบมาเป็นการตรวจสอบที่สามารถประเมินได้ว่าการป้องกันปัจจุบันสามารถต้านทานได้หรือไม่ ด้วย AI ที่สร้างขึ้น ภูมิทัศน์ภัยคุกคามกลายเป็นของเหลวมากขึ้น โดยมีพฤติกรรมที่แปรผันมากขึ้น การจำลองต้องสะท้อนไม่ใช่แค่เทคนิคที่คงที่ แต่ยังรวมถึงพฤติกรรมที่ปรับเปลี่ยนและตระหนักถึงบริบทด้วย

การบริหารจัดการการเปิดเผยภัยคุกคามอย่างต่อเนื่อง (CTEM) กำลังกลายเป็นส่วนประกอบหลักของกลยุทธ์ความยืดหยุ่นของไซเบอร์ องค์กรควรเข้าใกล้ CTEM อย่างไรเมื่อต้องเผชิญกับภัยคุกคามที่ปรับเปลี่ยนได้ด้วย AI?

CTEM แสดงถึงการเปลี่ยนแปลงจากการประเมินความเสี่ยงที่คงที่ไปสู่การตรวจสอบความปลอดภัยที่ขับเคลื่อนด้วยข่าวกรองและไดนามิก เมื่อเผชิญกับภัยคุกคามที่ขับเคลื่อนด้วย AI องค์กรต้องรักษาการเปิดเผยให้เป็นเป้าหมายที่เคลื่อนไหวได้ ซึ่งหมายถึงการระบุและจัดลำดับความสำคัญของการเปิดเผยตามการตรวจสอบอย่างต่อเนื่อง ไม่ใช่แค่ความเสี่ยงที่คาดการณ์ไว้เท่านั้น

ทีมแดงและทีมน้ำเงินต้องร่วมมือกันในการจำลองผู้โจมตีที่ปรับเปลี่ยนได้ และทดสอบความสามารถในการตรวจจับและตอบสนองอย่างต่อเนื่อง องค์กรที่ยอมรับแนวทางนี้มีความพร้อมที่จะปรับตัวได้อย่างรวดเร็ว ตรวจสอบการลงทุนและควบคุมความปลอดภัย และรักษาความยืดหยุ่นในภูมิทัศน์ที่เปลี่ยนแปลงอย่างรวดเร็ว

หลักสูตร “Foundations of AI Security” จาก AttackIQ ครอบคลุมเฟรมเวิร์กความเสี่ยง เช่น MITRE ATLAS และ AI RMF คุณพบว่าส่วนใดของเฟรมเวิร์กเหล่านี้ถูกใช้น้อยหรือเข้าใจผิดในองค์กร?

ความเข้าใจผิดที่พบบ่อยที่สุดคือการรักษาเฟรมเวิร์กเหล่านี้เป็นเอกสารอ้างอิงที่แยกออกมา ไม่ใช่เครื่องมือการดำเนินการที่ใช้ในการสร้างความยืดหยุ่นเข้าไปในระบบ AI

MITRE ATLAS มักถูกมองว่าเป็นแคตตาล็อกการโจมตีแบบคงที่ที่มุ่งเป้าไปที่ระบบ AI/ML ในความเป็นจริง ATLAS คือเฟรมเวิร์กการจำลองผู้โจมตีเชิงยุทธวิธีที่ออกแบบมาเพื่อช่วยให้ทีมความปลอดภัยจำลองภัยคุกคามเฉพาะ AI — ตั้งแต่การปนเปื้อนข้อมูลและการหลบหลีกแบบจำลอง ไปจนถึงการควบคุมการอนุมาน — และตรวจสอบความสามารถในการตรวจจับ การบันทึก และการตอบสนองของพวกเขา

ในทางกลับกัน AI RMF ของ NIST มักถูกเข้าใจผิดว่าเป็นรายการตรวจสอบการปฏิบัติตามข้อกำหนด ในความเป็นจริง มันเป็นเฟรมเวิร์กการกำกับดูแลเชิงกลยุทธ์ที่สนับสนุนองค์กรในการทำแผนที่กรณีการใช้งาน AI การวัดความเสี่ยง (รวมถึงความเสี่ยงที่เกิดจากผู้โจมตี) การจัดการความเสี่ยงผ่านการลำดับความสำคัญและการบรรเทา และการฝังการกำกับดูแลตลอดวงจรชีวิตของระบบ

ในหลักสูตร Foundations of AI Security ของเรา เราสอนว่าส่วนหนึ่งที่ใช้น้อยที่สุดของ AI RMF คือฟังก์ชัน “Map” และ “Measure” — โดยเฉพาะอย่างยิ่งในการปรับใช้ระยะแรก ฟังก์ชันเหล่านี้กระตุ้นให้องค์กรสร้างแบบจำลองไม่เพียงแต่สถานการณ์การใช้งานและสถานการณ์การใช้งานที่ไม่เหมาะสมเท่านั้น แต่ยังรวมถึงการระบุภัยคุกคามของผู้โจมตีในบริบทด้วย การจับคู่สิ่งนี้กับ ATLAS ทำให้องค์กรสามารถเคลื่อนไหวจากความกังวลเชิงทฤษฎีไปสู่การดำเนินการความปลอดภัย AI ที่มีความหมายและทดสอบได้

จากการฉีดข้อมูลไปจนถึงการขโมยแบบจำลอง LLMs เน้นย้ำถึงชั้นใหม่ของช่องโหว่ คุณคิดว่า CISOs ไม่พร้อมสำหรับภัยคุกคามใดมากที่สุด — และทำไม?

LLM03: 2025 ช่องโหว่ของซัพพลายเชนใช้ประโยชน์จากจุดบอดที่สำคัญในความเชื่อมั่นและสมมติฐานขององค์กรโดยหลบเลี่ยงการควบคุมที่ไม่ได้ออกแบบมาเพื่อระบบ AI/ML ช่องโหว่ดังกล่าวทำให้แบบจำลองที่ถูกบุกรุก โหลดแอดapter ที่ถูกปนเปื้อน หรือการรวม Hugging Face ที่ถูกบุกรุกสามารถถูกนำเข้าไปใน môi trườngการผลิตโดยไม่มีการตรวจสอบ ลายเซ็นโค้ด หรือการประเมินพฤติกรรม เพราะแบบจำลองเหล่านี้ไม่กระตุ้นการวิเคราะห์แบบคงที่หรือลายเซ็นของมัลแวร์ พวกมันจึงแสดงพฤติกรรมที่ซ่อนเร้นและกระตุ้นการทำงานเฉพาะเมื่อได้รับคำสั่งหรือภายใต้สภาวะที่หลบเลี่ยงการตรวจจับ

เมื่อทีมแดงและทีมน้ำเงินเริ่มจำลองผู้โจมตีที่มี AI แล้ว การจำลองผู้โจมตีจะพัฒนาไปอย่างไร? เรากำลังเข้าสู่ยุคใหม่ของการตรวจสอบความปลอดภัยแบบจำลองหรือไม่?

เมื่อผู้โจมตีรวม AI เข้ากับการดำเนินการ การจำลองผู้โจมติต้องเปลี่ยนแปลงไปพร้อมๆ กัน โดยการเคลื่อนไหวไปไกลกว่าสมุดบัญชีแบบคงที่ ทีมแดงต้องจำลองพฤติกรรมที่มีลักษณะ AI: การเปลี่ยนแปลง การเพิ่มขีดความสามารถ และเทคนิคและขั้นตอนการปรับเปลี่ยนแบบไดนามิก

เรากำลังเข้าสู่ยุคใหม่โดยที่การจำลองกลายเป็นแบบต่อเนื่องและขับเคลื่อนด้วยข่าวกรอง การจำลองไม่ใช่การออกกำลังกายแบบครั้งคราว แต่รวมข่าวกรองภัยคุกคามแบบเรียลไทม์ และทำซ้ำใน môi trườngการผลิตที่ทดสอบการควบคุมภายใต้สภาวะที่คาดเดาไม่ได้ ด้วย CTEM แนวทางนี้รับประกันว่าการตรวจสอบความปลอดภัยกลายเป็นหน้าที่เชิงกลยุทธ์และการดำเนินการที่ไม่ใช่แค่การตรวจสอบ

เมื่อมองไปข้างหน้า คุณกังวลเกี่ยวกับความเสี่ยง AI ใหม่ๆ อะไรมากที่สุด — และคุณเห็นโอกาสที่ยิ่งใหญ่ที่สุดสำหรับผู้ป้องกันในการนำหน้าเส้นโค้ง?

ความเสี่ยงที่น่ากังวลที่สุดคือวิธีการที่ AI ลดข้อจำกัดในการโจมตีที่ซับซ้อนในระดับใหญ่ สิ่งที่ต้องใช้ทักษะทางเทคนิคที่ลึกซึ้งตอนนี้สามารถเข้าถึงได้มากขึ้นผ่านเครื่องมือ AI ที่ถูกบุกรุก AI สามารถทำให้การสำรวจ การสร้างโค้ดการเอ็กซ์พลอยต์ และแคมเปญการหลอกลวงแบบปรับให้เหมาะสมอัตโนมัติ และดำเนินการได้เร็วกว่าการป้องกันแบบดั้งเดิม

ในทางกลับกัน ผู้ป้องกันมีโอกาสที่สอดคล้องกัน: การใช้ AI และการทำให้การจำลองเป็นอัตโนมัติเพื่อป้องกันที่มีประสิทธิภาพ โดยการทำให้การจำลองเป็นอัตโนมัติ การตรวจจับอย่างรวดเร็ว และจัดลำดับความสำคัญของการเปิดเผยตามความเสี่ยงในโลกแห่งความเป็นจริง ทีมความปลอดภัยสามารถคาดการณ์การเคลื่อนไหวของผู้โจมตีได้ ไม่ใช่แค่ตอบสนองต่อพวกเขาเท่านั้น

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ AttackIQ