สิ่งที่การมาถึงของโมเดล AI Frontier บอกเราถึงอนาคตของการค้นพบช่องโหว่

เมื่อ Claude Mythos เปิดตัวในเดือนเมษายน ได้กลายเป็นหนึ่งในหัวข้อที่ถูกพูดถึงมากที่สุดในยุค AI ของด้านความปลอดภัยไซเบอร์ โมเดล LLM ใหม่นี้พัฒนาโดย Anthropic และแสดงให้เห็นถึงความสามารถด้านไซเบอร์ที่ไม่เคยเห็นมาก่อน และทำให้เกิดปฏิกิริยาที่จัดให้เป็นหนึ่งในความก้าวหน้าทางเทคโนโลยีที่สำคัญที่สุด ร่วมกับการเตือน rằngความปลอดภัยไซเบอร์อาจเข้าสู่ยุคที่มีการเปลี่ยนแปลงอย่างไม่เคยเห็นมาก่อน

ตามที่ Anthropic ระบุ โมเดลนี้สามารถค้นพบช่องโหว่ zero-day ได้จำนวนมากโดยอัตโนมัติ และพบข้อบกพร่องในระบบปฏิบัติการและเว็บเบราว์เซอร์ที่สำคัญ รวมถึงตัวอย่างที่ไม่เคยถูกค้นพบมาก่อนในหลายทศวรรษ นอกจากนี้ยังสามารถเชื่อมโยงความอ่อนแอแต่ละรายการเข้ากับการใช้ประโยชน์แบบหลายขั้นตอนได้

ผลกระทบของมันมากจนกระทั่งวันที่ 12 มิถุนายน รัฐบาลสหรัฐฯ สั่งให้ Anthropic หยุดการเข้าถึงเทคโนโลยีนี้สำหรับคนต่างชาติทุกคนทั่วโลก รวมถึงพนักงานต่างชาติของ Anthropic ด้วย ซึ่งถูกมองว่าเป็นปฏิกิริยาต่อความกังวลที่ว่าความสามารถ AI ที่ใช้ในการโจมตีได้ถึงจุดที่การเข้าถึงที่ไม่มีการจำกัดอาจสร้างความเสี่ยงอย่างไม่ยอมรับได้

ภายใต้ โครงการ Glasswing โปรแกรมการเปิดเผยและแก้ไขของ Anthropic การเข้าถึงถูกจำกัดให้กับองค์กรประมาณ 50 แห่ง รวมถึง AWS, Apple, Google, Microsoft, CrowdStrike, Cisco และ Linux Foundation เป็นต้น องค์กรเหล่านี้ได้รับเวลาที่จะแก้ไขระบบสำคัญก่อนที่ช่องโหว่ที่พบโดย Mythos จะถูกเปิดเผยต่อสาธารณะตั้งแต่เดือนกรกฎาคมเป็นต้นไป ซึ่งเป็นจุดเริ่มต้นของการเข้าสู่ดินแดนใหม่ของอุตสาหกรรม

การข้ามแม่น้ำ Rubicon

หลายคนเห็นด้วยว่าการมาถึงของ โมเดล AI Frontier หมายความว่าเราได้ข้ามแม่น้ำ Rubicon ของความปลอดภัยแล้ว และให้เราชัดเจนประเด็นหลักไม่ใช่การเกิดขึ้นของโมเดลใดโมเดลหนึ่ง แต่ความเป็นไปได้ (หรือแม้กระทั่งความน่าจะเป็น) ที่การค้นพบช่องโหว่และการพัฒนาการใช้ประโยชน์อาจเข้าสู่ยุคใหม่ โดยที่ AI สามารถทำงานได้ที่ระดับและความเร็วที่超越ความสามารถของนักวิจัยมนุษย์

หากสิ่งนี้เป็นความจริง ผลกระทบจะขยายไปไกลเกินกว่าช่องโหว่เฉพาะเจาะจง และส่งผลต่อสมมติฐานที่กระบวนการบริหารจัดการและแก้ไขช่องโหว่ถูกสร้างขึ้นมาในยุคที่นักวิจัยมนุษย์จำกัดความเร็วของการค้นพบ AI มีศักยภาพที่จะเปลี่ยนแปลงสมการนั้นอย่าง根本

ผลลัพธ์หนึ่งที่น่าจะเกิดขึ้นคือการเพิ่มขึ้นของจำนวนช่องโหว่ที่เข้าสู่ระบบนิเวศด้านความปลอดภัย จำนวน CVE เพิ่มขึ้นอย่างมากในหลายปีที่ผ่านมา และทีมความปลอดภัยกำลังเผชิญกับความกดดันที่เพิ่มขึ้นแล้ว แม้ว่าจะยังไม่ได้รับผลกระทบเต็มที่จากโมเดล AI Frontier

ในบริบทนี้ การค้นพบช่องโหว่เองอาจไม่ใช่ตัวจำกัดอีกต่อไป แต่การคัดกรองและแก้ไขกลายเป็นจุดตัน การท้าทายนี้ยิ่งซับซ้อนขึ้นเนื่องจากเส้นเวลาในการใช้ประโยชน์ลดลงมาหลายปี และในบางกรณี การใช้ประโยชน์ปรากฏขึ้นก่อนที่แพตช์จะพร้อม ทำให้องค์กรเหล่านั้นมีเวลาน้อยที่จะตอบสนอง

การเตรียมพร้อมด้านการปฏิบัติงานกลายเป็นลำดับความสำคัญ

ดังนั้น วิธีการที่อัปเดตและเหมาะสมกับการบริหารจัดการช่องโหว่ในยุคใหม่จะมีลักษณะอย่างไร ก่อนอื่น มันจำเป็นต้องถูกมองว่าเป็นความสามารถในการปฏิบัติงานอย่างต่อเนื่อง เนื่องจากในช่วงเวลาที่ผ่านมา ระหว่างการค้นพบและติดตั้งแพตช์ มักจะช้าเกินไป ทีมความปลอดภัยต้องเข้าใจว่าช่องโหว่ใดที่สามารถใช้ประโยชน์ได้จริง และระบบใดที่ได้รับผลกระทบ

เมื่อจำนวนการค้นพบนั้นเพิ่มขึ้น และเวลาที่ใช้ในการใช้ประโยชน์ลดลง การใช้ AI สำหรับการรักษาความปลอดภัยจะกลายเป็นสิ่งจำเป็น ทีมที่ใช้ความสามารถในการตรวจจับ AI ที่ทันสมัย (ในขณะที่จัดการค่าใช้จ่ายด้านโทเคน) และทำให้การตรวจจับ การคัดกรอง และการแก้ไขเป็นอัตโนมัติ จะมีตำแหน่งที่ดีที่สุดในการลดช่วงเวลาของการเปิดเผยและผลกระทบทางธุรกิจในทางลบ สิ่งนี้ไม่ใช่เรื่องของการค้นพบช่องโหว่มากที่สุด แต่เป็นเรื่องของการระบุและแก้ไขปัญหาที่สำคัญที่สุดอย่างรวดเร็ว

ประเด็นที่สองและสำคัญกว่านั้น คือ โมเดล AI Frontier เป็นเครื่องมือสำหรับการป้องกันไซเบอร์ สมาชิกของ Glasswing สามารถใช้โมเดลเหล่านี้เพื่อตรวจจับและแก้ไขช่องโหว่ที่ไม่เคยถูกค้นพบมาก่อน โดยมีการเข้าถึงล่วงหน้าเพื่อให้สามารถเตรียมพร้อมก่อนที่ผู้โจมตีจะสามารถเข้าถึงความสามารถ AI Frontier ได้ โมเดล AI Frontier เป็นเครื่องมือตรวจจับที่มีค่า แต่ไม่ได้แก้ไขด้านการปฏิบัติงานของการบริหารจัดการสแกน AI (สิ่งที่ต้องสแกน เมื่อไหร่ วิธีการจัดลำดับความสำคัญของสแกน สิ่งที่ต้องทำกับผลลัพธ์ วิธีการจัดการค่าใช้จ่ายด้านโทเคน ฯลฯ) ไม่ว่าจะใช้โมเดลใด (และจะดีขึ้นตามเวลา) ทีมความปลอดภัยต้องสามารถใช้ความสามารถ AI Frontier สำหรับการรักษาความปลอดภัยได้เร็วกว่าที่ผู้โจมตีสามารถใช้ความสามารถเหล่านั้นเพื่อการโจมตี

ความท้าทายในระยะยาวที่องค์กรต้องเผชิญไม่ใช่การเตรียมพร้อมสำหรับโมเดลเดียวหรือการเปิดเผยในช่วงเวลาหนึ่ง แต่เป็นเรื่องของว่าโมเดลการดำเนินงานที่มีอยู่สามารถปรับตัวเข้ากับโลกที่ช่องโหว่ถูกค้นพบและใช้ประโยชน์ได้อย่างรวดเร็วอย่างไม่เคยเห็นมาก่อนหรือไม่ หากทำผิด องค์กรเหล่านั้นจะเผชิญกับโลกที่เต็มไปด้วยปัญหา