การต่อสู้กับ AI ด้วย AI ในภูมิทัศน์ภัยคุกคามสมัยใหม่

ไม่ใช่ข่าวที่น่าตกใจที่จะพูดว่า AI ได้เปลี่ยนแปลงอุตสาหกรรมความปลอดภัยทางไซเบอร์อย่างมาก ทั้งผู้โจมตีและผู้ป้องกันกำลังหันมาใช้ปัญญาประดิษฐ์เพื่อเพิ่มความสามารถของตนเอง โดยพยายามที่จะอยู่หนึ่งก้าวหนึ่งของอีกฝ่าย นี่เป็นเกมแมวและหนู ที่ผู้โจมตีพยายามที่จะหลอกลวงทีมความปลอดภัยมาเป็นเวลานาน แต่การเกิดขึ้นของ AI ได้นำเสนอองค์ประกอบใหม่และไม่คาดคิดเข้ามาในเกมนี้ ผู้โจมตีทั่วโลกกำลังยิ้มอย่างพอใจกับความเป็นไปได้ที่จะใช้เทคโนโลยีนี้เพื่อพัฒนาเทคนิคการโจมตีที่ไม่เคยเห็นมาก่อน

อย่างน้อยที่สุด นี่คือความเข้าใจ แต่ความเป็นจริงคือเล็กน้อยที่แตกต่าง ในขณะที่ผู้โจมตีใช้ AI มากขึ้น พวกเขาส่วนใหญ่ใช้เพื่อเพิ่มขนาดและความซับซ้อนของการโจมตีของตน โดยปรับปรุงแนวทางในการโจมตีแบบเดิมๆ มากกว่าที่จะสร้างสิ่งใหม่ๆ ที่คิดไม่ถึง การคิดนี้ชัดเจน – ทำไมต้องเสียเวลาและความพยายามในการพัฒนาวิธีการโจมตีของอนาคต เมื่อผู้ป้องกันกำลังดิ้นรนเพื่อหยุดยั้งการโจมตีแบบเดิมๆ แล้ว?

วิธีการที่ผู้โจมตีใช้ AI

แนวคิดเรื่อง AI ที่半อัตโนมัติซึ่งถูกใช้เพื่อโจมตีระบบป้องกันขององค์กรอย่างเป็นระบบนั้นเป็นเรื่องที่น่ากลัว แต่ ณ ตอนนี้ยังคงอยู่ในโลกของนิยายวิทยาศาสตร์ เช่น นิยายของวิลเลียม กิบสัน เป็นต้น แม้ว่า AI จะพัฒนาอย่างรวดเร็วในช่วงหลายปีที่ผ่านมา แต่ยังคงอยู่ห่างจากความสามารถของ ปัญญาประดิษฐ์ทั่วไป (AGI) ที่สามารถเลียนแบบรูปแบบการคิดและพฤติกรรมของมนุษย์ได้อย่างสมบูรณ์แบบ

ในทางปฏิบัติ สิ่งนี้หมายความว่าแทนที่จะพัฒนาวิธีการโจมตีใหม่ๆ ผู้โจมตีสามารถเพิ่มความสามารถในการโจมตีแบบเดิมๆ ได้ โดยใช้ AI พวกเขาอาจสามารถส่งอีเมลฉ้อโกงหลายล้านฉบับแทนหลายพันฉบับ และใช้ LLM เพื่อสร้างข้อความที่น่าเชื่อถือมากขึ้น ทำให้ผู้รับอีเมลตกหล่นมากขึ้น การโจมตีแบบฟิชชิ่งเป็นเกมแห่งตัวเลข – ผู้คนส่วนใหญ่จะไม่ตกหล่น แต่ถ้าอีเมลฉ้อโกงถูกส่งไปให้คนหลายล้านคน แม้ว่าจะมีอัตราความสำเร็จเพียง 1% ก็สามารถสร้างเหยื่อใหม่หลายพันคนได้

การหันมาใช้ AI เพื่อประโยชน์ของทีมความปลอดภัย

ผู้เชี่ยวชาญด้านความปลอดภัยทุกระดับในธุรกิจและรัฐบาลกำลังมองหาวิธีการใช้ AI เพื่อประโยชน์ของตนเอง ในเดือนสิงหาคม องค์การวิจัยและพัฒนาทางป้องกันขั้นสูงของกระทรวงกลาโหมสหรัฐ (DARPA) ได้ประกาศผู้เข้ารอบสุดท้ายของการแข่งขัน AI Cyber Challenge (AIxCC) ซึ่งมอบรางวัลให้กับทีมวิจัยด้านความปลอดภัยที่ทำงานในการฝึกอบรม LLM เพื่อระบุและแก้ไขช่องโหว่ด้านรหัส

การแข่งขัน AI เพิ่งเริ่มต้น

การแข่งขันเพื่อใช้ AI เป็นไปอย่างเต็มที่ โดยทั้งผู้โจมตีและผู้ป้องกันกำลังมองหาวิธีการใช้เทคโนโลยีนี้เพื่อประโยชน์ของตนเอง เมื่อผู้โจมตีใช้ AI เพื่อเพิ่มความเร็ว ขนาด และความซับซ้อนของการโจมตี ทีมความปลอดภัยจะต้องต่อสู้ด้วยไฟกับไฟ โดยใช้ AI เพื่อปรับปรุงความเร็วและความแม่นยำในการตรวจจับและแก้ไขปัญหา