เอไอเอเจนต์กำลังเปลี่ยนวันศูนย์ให้เป็นการแข่งขันที่มนุษย์ไม่สามารถชนะได้เพียงลำพัง

มานานแล้วที่ช่องโหว่ในวันศูนย์ได้รับการพิจารณาว่าเป็นอันตราย แต่เดิมทีมันไม่ค่อยพบเห็นและยากที่จะใช้ประโยชน์จากมันในระดับใหญ่ การค้นหาช่องโหว่ในวันศูนย์หนึ่งครั้งต้องใช้ความอดทน ทักษะพิเศษ และความเข้าใจที่ลึกซึ้งเกี่ยวกับพฤติกรรมของซอฟต์แวร์ ตามที่ Nicole Perlroth และนักข่าวคนอื่นๆ รายงาน มีการซื้อขายช่องโหว่ในวันศูนย์ และประเทศต่างๆ พิจารณาว่ามันเป็นอาวุธไซเบอร์ที่มีค่ามาก

วันนี้ ช่องโหว่ในวันศูนย์สามารถพบได้ทั่วไป เกือบทุกคนสามารถค้นหาช่องโหว่ใหม่ๆ ได้ด้วยตนเอง โดยใช้โมเดล AI ที่เปิดเผยต่อสาธารณะ หรือโมเดล AI ที่เป็นของเอกชน เช่น Claude และ OpenAI

ความก้าวหน้าที่ทำให้ AI มีประโยชน์ในการเขียนโค้ด สรุปบันทึก และเร่งการดำเนินการด้านความปลอดภัย ยังสามารถใช้ในการค้นหาช่องโหว่ การเชื่อมช่องโหว่ และทดสอบเส้นทางการโจมตีในความเร็วของเครื่องจักร ผู้โจมตีไม่จำเป็นต้องตรวจสอบการอ้างอิงทุกครั้ง ถอยกลับแอปพลิเคชัน หรือใช้เวลาหลายสัปดาห์ในการค้นหาจุดอ่อน AI เอเจนต์สามารถทำการทำงานเหล่านี้ได้โดยอัตโนมัติ โดยการสำรวจฐานโค้ด ระบบที่ถูกเปิดเผย การสร้างสมมติฐาน และการทำซ้ำจนกว่าจะพบสิ่งที่มีประโยชน์

สิ่งนี้ เปลี่ยนแปลงเศรษฐศาสตร์ของการโจมตีช่องโหว่ในวันศูนย์ ผู้โจมตีมนุษย์อาจมีเวลาเพียงพอในการตามล่าเพียงเป้าหมายที่มีแนวโน้มมากที่สุดเท่านั้น ผู้โจมตีที่ได้รับการช่วยเหลือจาก AI สามารถตรวจสอบซอฟต์แวร์ได้มากขึ้นเร็วขึ้น และเหนื่อยน้อยลง แม้ว่าความพยายามส่วนใหญ่อาจล้มเหลว แต่ปริมาณความพยายามที่มากขึ้นจะทำให้ความสำเร็จมีแนวโน้มมากขึ้น ในด้านความปลอดภัยของไซเบอร์ มักจะเปลี่ยนเหตุการณ์ที่หายากให้เป็นเหตุการณ์ทั่วไป

เอไอกำลังขยายพื้นที่การค้นหาช่องโหว่ในวันศูนย์

นี่คือเหตุผลที่ช่องโหว่ในวันศูนย์กลายเป็นความเสี่ยงทางธุรกิจที่เร่งด่วนมากขึ้น ซอฟต์แวร์สมัยใหม่ใหญ่เกินไป มีการเชื่อมต่อเกินไป และพึ่งพาส่วนประกอบของบุคคลที่สามมากเกินไป ทำให้ไม่มีองค์กรใดสามารถเข้าใจจุดอ่อนทั้งหมดได้ก่อนที่ผู้โจมตีจะทำได้ ส่วนใหญ่ของบริษัทต่างๆ พึ่งพาแพลตฟอร์มเชิงพาณิชย์ ห้องสมุดโอเพ่นซอร์ส บริการคลาวด์ แอปพลิเคชัน SaaS API ระบบระบุตัวตน อุปกรณ์ขอบ และเครื่องมือภายใน แต่ละชั้นจะแนะนำช่องโหว่ที่อาจเกิดขึ้น แต่ละการรวมกันจะสร้างเส้นทางการโจมตีใหม่ๆ แต่ละการอัปเดตสามารถเปลี่ยนโปรไฟล์ความเสี่ยงได้อย่างเงียบๆ

ความเป็นจริงที่ไม่สบายใจคือมีช่องโหว่ที่ไม่ค้นพบมากมายอยู่ภายในซอฟต์แวร์ทุกประเภท บางส่วนอยู่ในโค้ดเก่า บางส่วนอยู่ในโค้ดใหม่ที่เขียนภายใต้แรงกดดัน บางส่วนมาจากความพึ่งพาที่หลายองค์กรติดตามไม่แม่นยำพอที่จะระบุได้ บางส่วนเกิดขึ้นจากวิธีที่ระบบโต้ตอบกัน แม้ว่าแต่ละส่วนประกอบจะดูปลอดภัย AI เอเจนต์เหมาะสมที่จะสำรวจความซับซ้อนนี้เพราะพวกมันสามารถค้นหาทางกว้าง อย่างต่อเนื่อง และปรับเปลี่ยนได้

ผู้ป้องกันต้องเผชิญกับปัญหาในการแก้ไขที่เป็นไปไม่ได้ คุณไม่สามารถแก้ไขช่องโหว่ที่คุณไม่ทราบว่ามีอยู่ คุณไม่สามารถจัดลำดับความสำคัญของความอ่อนแอที่เป็นไปได้ทั้งหมดเท่าๆ กัน คุณไม่สามารถทดสอบการรวมกันของซอฟต์แวร์ การกำหนดค่า และพฤติกรรมของผู้ใช้ก่อนการวางจำหน่ายได้ แม้ว่าโปรแกรมการบริหารจัดการช่องโหว่ที่มีความเป็นมาตรฐานจะถูกสร้างขึ้นรอบๆ ช่องโหว่ที่ทราบ คู่แนะนำของซัพพลายเออร์ และฟีดข่าวกรองภัยคุกคาม แต่สิ่งเหล่านั้นมาถึงหลังการค้นพบ ในโลกที่มีการค้นหาช่องโหว่วันศูนย์ที่เร่งด้วย AI การค้นพบอาจเกิดขึ้นก่อนในมือของผู้โจมตี

สิ่งนี้สร้างเกมที่ต้องตีกลับอย่างต่อเนื่อง ช่องโหว่หนึ่งถูกพบ แพตช์หนึ่งถูกเร่ง การโจมตีเปลี่ยนไปสู่ระบบที่อยู่ข้างๆ การพึ่งพาที่แตกต่าง หรืออินเทอร์เฟซที่ถูกเปิดเผยใหม่ ทีมความปลอดภัยตอบสนอง แต่คิวการแก้ไขยังคงเพิ่มขึ้น AI เพิ่มความเร็วของมือทั้งสองฝ่าย แต่ผู้โจมตีมักได้รับประโยชน์แรกเพราะพวกเขาเพียงต้องค้นหาวิธีหนึ่งที่ใช้ได้ ผู้ป้องกันต้องปกป้องทั้งหมด

คำตอบในระยะยาวอาจมาจาก AI เอง เมื่อระบบ AI มีความสามารถในการสร้างทบทวนและทดสอบโค้ดได้ดีขึ้น พวกมันควรช่วยกำจัดช่องโหว่ทั้งหลายก่อนที่ซอฟต์แวร์จะถึงการผลิต การพัฒนาที่ปลอดภัยตั้งแต่เริ่มต้นอาจกลายเป็นเรื่องที่เป็นไปได้มากขึ้นเมื่อ AI สามารถตรวจสอบโค้ดอย่างต่อเนื่อง ระบุรูปแบบที่ไม่ปลอดภัย แบบจำลองการโจมตี และแนะนำการแก้ไขในเวลาจริง ในที่สุด เราอาจถึงจุดที่ข้อผิดพลาดของหน่วยความจำ การฉีดข้อมูล การผิดพลาดในการรับรองตัวตน และการกำหนดค่าที่ไม่ปลอดภัยจะลดลงอย่างมากเพราะวิศวกรรมที่ได้รับการช่วยเหลือจาก AI จับพวกมันไว้ตั้งแต่เนิ่นๆ ในงานของเราใน DeepTempo เราได้เห็นการใช้ภาษาที่ปลอดภัยต่อหน่วยความจำ เช่น Rust ในซอฟต์แวร์ของเรา มากขึ้น แม้ว่า Rust จะยากกว่าในบางด้าน แต่ก็ปลอดภัยกว่า และการเขียนโค้ดมันกลายเป็นเรื่องที่ง่ายขึ้นมากขึ้น nhờ AI

ผู้ป้องกันต้องเปลี่ยนจากความเร็วในการแก้ไขไปสู่ความทนทานต่อการโจมตี

ในขณะที่อนาคตที่ซอฟต์แวร์ทั้งหมดถูกแก้ไขหรือเขียนใหม่ด้วยวิธีการที่ปลอดภัยยิ่งขึ้นเป็นสิ่งที่ต้องการ แต่ก็ไม่ชัดเจนว่ามันจะเป็นไปได้จริงๆ หรือไม่ ด้วยเหตุผลหลายประการ ใน bất kỳกรณี nào เรารู้ว่ามันไม่ได้มาถึงและจะไม่มาถึงในหลายปี โค้ดที่สร้างโดย AI ในปัจจุบันยังคงสามารถแนะนำช่องโหว่ และเครื่องมือความปลอดภัยของ AI ยังคงพลาดบริบทได้ สภาพแวดล้อมขององค์กรยังคงมีหนี้สินทางเทคนิคที่สะสมมาหลายทศวรรษ ผู้โจมตีกำลังใช้การทำงานอัตโนมัติเพื่อเคลื่อนที่เร็วขึ้น ในขณะที่ผู้ป้องกันยังคงรวม AI เข้ากับกระบวนการทำงานที่มีอยู่ สายการอนุมัติ และแบบจำลองความเสี่ยง และพบว่า LLMs ไม่มีประโยชน์เมื่อตรวจจับการโจมตีข้อมูลเพิ่มเติมเกี่ยวกับว่า LLMs ประเมินผลการตรวจจับอย่างไรสามารถพบได้ใน การประเมินแบบเปิดที่เพิ่งเผยแพร่ เช่น SOC Bench เพียงตัวอย่างเช่น วิศวกรเบื้องหลัง SOC Bench พบว่า LLMs ที่ดีที่สุดมีอัตราผลบวกลวงในระดับ 20% และจะมีค่าใช้จ่ายหลายร้อยล้านดอลลาร์ต่อวันในระดับของสภาพแวดล้อมความปลอดภัยขนาดใหญ่ เนื่องจากปัจจัยเหล่านี้ทั้งหมด การเพิ่มขึ้นของ AI ปัจจุบันเอื้อประโยชน์ต่อผู้โจมตี

ไม่幸ด้วย องค์กรต่างๆ ต้องถือว่าช่องโหว่ที่ไม่ทราบบางอย่างจะถูกค้นพบโดยผู้โจมตีก่อนที่จะถูกเปิดเผยต่อสาธารณะ นอกจากนี้ เนื่องจากการเพิ่มขึ้นของการฟิชชิงและการจับข้อมูลประจำตัวอย่างกว้างขวาง ผู้โจมตีสามารถเข้าสู่ระบบได้โดยตรงโดยสรุป ในระยะกลาง至少 ยุทธศาสตร์ด้านความปลอดภัยไม่สามารถพึ่งพาเพียงการป้องกันเท่านั้น การป้องกันยังคงสำคัญ แต่ต้องจับคู่กับการตรวจจับที่เร็วขึ้น การวิเคราะห์พฤติกรรมที่แข็งแกร่ง และการควบคุมที่เข้มงวด

ตามที่หลายองค์กรแนะนำเมื่อเร็วๆ นี้ รวมถึง NIST, Five Eyes และ National Academy of Sciences โดยคำนึงถึงการเพิ่มขึ้นของการโจมตีด้วย AI ทีมความปลอดภัยควรทบทวนแนวทางในการเข้าใจสิ่งที่ดูเป็นปกติสำหรับผู้ใช้ เครื่องจักร ตัวตน แอปพลิเคชัน และการไหลของข้อมูล การโจมตีในวันศูนย์มักจะสำเร็จเพราะพวกมันหลบเลี่ยงลายเซ็นที่ทราบ แต่พวกมันก็ทิ้งรอยเท้าไว้ ซึ่งโมเดลการจำแนกประเภทที่ทรงพลังที่สุดในปัจจุบันสามารถเห็นและแยกแยะได้ ตัวอย่างเช่น การโจมตีอาจแสดงรูปแบบการเข้าถึงที่ไม่ปกติ การใช้สิทธิพิเศษที่ผิดปกติ กิจกรรมกระบวนการที่ไม่คาดคิด การไหลของการรับรองตัวตนที่แปลก และการเคลื่อนย้ายข้อมูลที่ไม่ตรงกับบรรทัดฐานของสภาพแวดล้อม AI ที่ออกแบบมาโดยเฉพาะสามารถช่วยให้ผู้ป้องกันพบสัญญาณเหล่านั้นเร็วขึ้น โดยเฉพาะเมื่อการโจมตีเองเป็นเรื่องใหม่

นอกจากนี้ บริษัทต่างๆ ควรลดรัศมีของการถูกโจมตี การแบ่งส่วน การใช้สิทธิขั้นต่ำ การควบคุมตัวตน การติดตามอย่างต่อเนื่อง และการแยกออกอย่างรวดเร็วมีความสำคัญมากขึ้นเมื่อช่องโหว่ในวันศูนย์ถูกใช้ประโยชน์ หากผู้โจมตีใช้ช่องโหว่ในวันศูนย์ในการเข้าถึง ระบบต่อไปคือการเคลื่อนที่ได้ไกลแค่ไหนก่อนที่จะถูกตรวจจับ ช่องว่างที่เล็กกว่าทำให้การโจมตีมีค่าน้อยลง

ไม่มีปุ่มพักสำหรับช่วงเวลานี้ เอเจนต์ AI จะยังคงปรับปรุงตัวเอง การทดลองเชิงรุกจะยังคงเร่งความเร็ว จำนวนระบบที่มีค่าในการสืบค้นจะยังคงเพิ่มขึ้น งานของชุมชนความปลอดภัยคือการทำให้ AI สำหรับการป้องกันพัฒนาได้เร็วเท่ากัน

ช่องโหว่ในวันศูนย์เป็นรางวัลให้กับความเร็ว ความคิดสร้างสรรค์ และความไม่สมมาตร เอเจนต์ AI เพิ่มทั้งสามอย่าง องค์กรที่ปรับตัวจะรับ AI มากกว่าแค่ชั้นของการผลิตสำหรับทีมความปลอดภัย พวกเขายังจะใช้ AI ที่ออกแบบมาโดยเฉพาะเพื่อตรวจจับภัยคุกคามที่ไม่รู้จักได้อย่างมีประสิทธิภาพและแม่นยำ จัดลำดับความสำคัญของสัญญาณที่ดูอ่อนแอซึ่งเมื่อรวมกันแล้วบ่งบอกถึงการละเมิด และตอบสนองก่อนที่ช่องโหว่ที่ถูกใช้ประโยชน์จะกลายเป็นภัยคุกคามต่อธุรกิจทั้งหมด