อุตสาหกรรม AI ต้องการให้เราไว้วางใจ แต่สิ่งแรกที่ต้องทำคือวางมาตรการควบคุมให้ดีกว่านี้

ในงานด้านความปลอดภัย เราไม่รอให้เกิดเหตุผิดพลาดก่อนแล้วค่อยดูว่ามาตรการควบคุมได้ผลหรือไม่ แต่เราทดสอบและท้าทายมาตรการเหล่านั้น โดยตั้งสมมติฐานว่าในที่สุดจะต้องมีใครสักคนค้นพบจุดอ่อนที่เรามองข้ามไป

นี่คือหลักพื้นฐานด้านความปลอดภัยไซเบอร์

แล้วเหตุใด AI แนวหน้าจึงควรใช้มาตรฐานที่แตกต่างออกไป?

เมื่อระบบ AI ทำงานได้อย่างอิสระมากขึ้นและเข้าถึงระบบในโลกจริงได้มากขึ้น เราก็พบสิ่งที่ควรทำให้ทุกคนที่มีประสบการณ์ด้านการป้องกันภัยคุกคามทางไซเบอร์กังวล นั่นคือขีดความสามารถพัฒนาเร็วกว่าการควบคุม

ความเร็วไม่ใช่ข้ออ้างให้ลดมาตรฐานความปลอดภัย แต่เป็นเหตุผลที่เราต้องยกระดับมาตรฐานให้เข้มงวดยิ่งขึ้น

การประเมินล่าสุดโดยองค์กรไม่แสวงหากำไร Guidelight AI ได้ตรวจสอบหลักฐานที่เปิดเผยต่อสาธารณะเกี่ยวกับแนวปฏิบัติในการควบคุม AI ของ Anthropic, Google, Meta, OpenAI และ xAI โดยไม่มีบริษัทใดได้คะแนนรวมสูงกว่า C+

นั่นไม่ได้หมายความว่าบริษัทเหล่านี้ประมาทเลินเล่อ และไม่ได้หมายความว่าเบื้องหลังประตูที่ปิดอยู่จะไม่มีมาตรการควบคุมเพิ่มเติมทำงานอยู่

แต่การรักษาความปลอดภัยตั้งอยู่บนสมมติฐานไม่ได้ หากเราถูกขอให้ไว้วางใจระบบที่ทรงพลังขึ้นเรื่อย ๆ เราก็ควรคาดหวังหลักฐานว่ามาตรการควบคุมระบบเหล่านั้นจะผ่านการตรวจสอบอย่างเข้มงวดในระดับเดียวกับที่เราคาดหวังจากทุกที่

เลิกมองความล้มเหลวเป็นเพียงเรื่องน่าสนใจ

เมื่อเอเจนต์ AI ทำงานผิดไปจากที่คาด เข้าถึงสิ่งที่ไม่ควรเข้าถึง หรือเปิดเผยจุดอ่อน เรื่องราวมักมุ่งเน้นไปที่สิ่งที่เทคโนโลยีทำ

เรื่องนั้นน่าสนใจ

แต่ไม่ใช่คำถามที่สำคัญที่สุด

ผู้เชี่ยวชาญด้านความปลอดภัยย่อมอยากรู้ว่า มีการบันทึกกิจกรรมนั้นไว้หรือไม่ มีใครเห็นเหตุการณ์ขณะเกิดขึ้นหรือไม่ มีการกำหนดเงื่อนไขควบคุมการกระทำที่เป็นอันตรายหรือไม่ ใครสักคนหยุดระบบได้หรือไม่ มีแผนควบคุมเหตุการณ์หรือไม่ และมีใครเคยทดสอบแผนนั้นหรือยัง

คำถามเหล่านี้ไม่ได้มีเฉพาะในแวดวง AI แต่เป็นคำถามที่เราตั้งกันมาในวงการความปลอดภัยไซเบอร์นานหลายปีแล้ว

อย่างไรก็ตาม การป้องกันและการควบคุมเหตุการณ์ดูจะยังเป็นจุดอ่อนของกรอบการควบคุม AI แนวหน้าที่กำลังก่อตัวขึ้น หลักฐานสาธารณะเกี่ยวกับการกำหนดเงื่อนไขควบคุมการกระทำ กลไกตัดวงจร และการควบคุมเหตุฉุกเฉินยังมีจำกัด

เรื่องนี้ควรสำคัญกว่าความแปลกใหม่ของเหตุการณ์ เมื่อเกิดความผิดพลาด ฉันอยากรู้ว่าอะไรผิดพลาด อะไรช่วยไม่ให้สถานการณ์เลวร้ายลง และหลังจากนั้นมีการเปลี่ยนแปลงอะไรบ้าง

ความโปร่งใสมีประโยชน์ แต่การเรียนรู้ยิ่งสำคัญกว่า

ปัญหาความปลอดภัย AI ที่แท้จริงคือความเร็ว

ฉันไม่คิดว่าภัยคุกคามระยะใกล้ที่ใหญ่ที่สุดคือ AI จะคิดค้นการโจมตีทางไซเบอร์รูปแบบใหม่ทั้งหมดขึ้นมาอย่างฉับพลัน ปัญหาที่ใหญ่กว่านั้นเป็นเรื่องที่เกิดขึ้นได้จริงมากกว่า นั่นคือ AI อาจทำให้การโจมตีที่เรารู้จักอยู่แล้วเกิดขึ้นได้เร็วขึ้นมาก

งานวิจัยที่เคยใช้เวลาหลายชั่วโมงอาจ เสร็จได้ภายในไม่กี่นาที เทคนิคการโจมตีสามารถนำมาต่อกันได้เร็วขึ้น และสามารถระบุช่องโหว่แล้วลงมือใช้ประโยชน์จากช่องโหว่นั้นได้ ก่อนที่กระบวนการรักษาความปลอดภัยซึ่งต้องอาศัยมนุษย์จะดำเนินไปถึงการโทรยกระดับเหตุการณ์ครั้งแรก

นี่เป็นปัญหา เพราะโครงสร้างพื้นฐานด้านความปลอดภัยส่วนใหญ่ในปัจจุบันยังตั้งอยู่บนสมมติฐานว่าจะมีเวลาตอบสนอง

แต่บางครั้งก็อาจไม่มีเวลา

หากการโจมตีเกิดขึ้นอย่างรวดเร็ว กระบวนการรับมือที่ต้องผ่านใบงาน การประชุม การอนุมัติ และการยกระดับเรื่องด้วยตนเอง อาจล้าสมัยไปก่อนที่ใครจะไปถึงขั้นตอนที่สาม

และนี่คือจุดที่อุตสาหกรรม AI ยังต้องลงมือทำอีกมาก

หากห้องปฏิบัติการ AI แนวหน้าคาดหวังให้องค์กรต่าง ๆ ปรับทบทวนการมองเห็นระบบ การจัดการช่องโหว่ สถาปัตยกรรม และการรับมือเหตุการณ์ให้เหมาะกับยุค AI พวกเขาก็ควรแสดงให้เราเห็นว่าตนเองได้ทำเช่นเดียวกัน

คำว่า “ไว้ใจเรา” ไม่ใช่กรอบการควบคุม

ฉันทำงานเกี่ยวกับการทดสอบความปลอดภัยมาตลอดอาชีพ และมีหลักการข้อหนึ่งที่ยังใช้ได้ดีอย่างน่าทึ่ง นั่นคือเจตนาดีไม่ได้พิสูจน์ว่าระบบปลอดภัย แต่หลักฐานต่างหากที่พิสูจน์ได้

• ต้องทดสอบ
• ต้องเฝ้าติดตาม
• ต้องพยายามทำให้ระบบล้มเหลว

ต้องตรวจสอบว่าเกิดอะไรขึ้นเมื่อมาตรการควบคุมไม่ทำงานตามที่แผนภาพสถาปัตยกรรมระบุไว้ และต้องแน่ใจว่ามีใครสักคนมีอำนาจหยุดระบบได้เมื่อจำเป็น AI แนวหน้าควรต้องปฏิบัติตามมาตรฐานเดียวกัน

นั่นหมายถึงการทดสอบมาตรการควบคุมด้วยวิธีเชิงปฏิปักษ์ การมีหลักฐานที่วัดผลได้ว่ามาตรการเหล่านั้นใช้ได้ผล และการกำหนดอำนาจหน้าที่ในการปิดระบบให้ชัดเจนเมื่อเกิดข้อผิดพลาด

นอกจากนี้ยังหมายถึงการทบทวนแนวทางควบคุมเหตุการณ์ใหม่

ห้องปฏิบัติการ AI แนวหน้าไม่อาจคิดหาวิธีควบคุมเหตุการณ์เฉพาะหน้า หลังจากเอเจนต์ AI ทำงานนอกขอบเขตที่กำหนดไว้ได้ ขณะฝึกและทดสอบโมเดลที่มีขีดความสามารถเพิ่มขึ้นเรื่อย ๆ ห้องปฏิบัติการเหล่านี้ต้องรับผิดชอบต่อการกระทำที่ระบบเหล่านั้นอาจทำได้ ซึ่งจำเป็นต้องมีการทดสอบเชิงปฏิปักษ์อย่างเข้มงวด มาตรการป้องกันที่ได้รับอนุมัติไว้ล่วงหน้า ข้อจำกัดด้านอำนาจของเอเจนต์ที่ชัดเจน และวิธีการแทรกแซงหรือปิดระบบที่ผ่านการพิสูจน์แล้ว ก่อนที่ความล้มเหลวจะแพร่กระจาย

วิจารณญาณของมนุษย์ยังคงสำคัญ แต่ห้องปฏิบัติการที่พัฒนาระบบเหล่านี้ต้องกำหนดขอบเขต ทดสอบว่าขอบเขตนั้นใช้ได้ผลหรือไม่ และยังคงต้องรับผิดชอบเมื่อขอบเขตดังกล่าวใช้ไม่ได้ผล

ความรับผิดชอบของพวกเขาไม่ได้มีเพียงการแสดงให้เห็นว่าเอเจนต์ทำอะไรได้บ้าง แต่ต้องแสดงให้เห็นด้วยว่าเอเจนต์ทำงานได้อย่างปลอดภัย สามารถควบคุมพฤติกรรมได้ และขีดความสามารถใหม่ ๆ ช่วยให้โลกปลอดภัยยิ่งขึ้น ไม่ใช่ปลอดภัยน้อยลง

ความไว้วางใจต้องได้มาด้วยการพิสูจน์ตน

ผมไม่ได้เสนอให้ชะลอนวัตกรรม AI จนแทบหยุดชะงัก แต่กำลังบอกว่าการรักษาความปลอดภัยต้องก้าวให้ทัน หากเราทุ่มเททรัพยากรมหาศาลเพื่อทำให้ AI มีขีดความสามารถมากขึ้น เราก็ต้องเร่งดำเนินการในระดับเดียวกันเพื่อทำให้ AI ป้องกันและรับมือการโจมตีได้

แต่ขณะที่ห้องปฏิบัติการ AI ชั้นแนวหน้าเร่งฝึกและทดสอบโมเดล AI รุ่นใหม่ที่มีขีดความสามารถด้านไซเบอร์ พวกเขาต้องคำนึงถึงผู้ปกป้องระบบด้วย ประการแรก คือช่วยให้ผู้ปกป้องตรวจจับและตอบสนองต่อภัยคุกคามได้รวดเร็วยิ่งขึ้น ที่สำคัญกว่านั้น คือป้องกันไม่ให้ระบบเหล่านั้นกลายเป็นภัยคุกคามเสียเอง ความรับผิดชอบนี้ยังหมายถึงการยอมรับการตรวจสอบจากภายนอกด้วย

การทบทวนโดยอิสระต้องไม่กลายเป็นสิ่งที่บริษัทต่าง ๆ ยอมรับเฉพาะเมื่อช่วยสนับสนุนเรื่องราวที่พวกเขาต้องการนำเสนอ หากระบบ AI ชั้นแนวหน้ามีพลังมากพอที่จะเปลี่ยนภูมิทัศน์ของภัยคุกคาม มาตรการควบคุมของระบบเหล่านั้นก็ควรเข้มแข็งพอที่จะผ่านการทดสอบโดยอิสระอย่างจริงจัง

อุตสาหกรรม AI ต้องการความไว้วางใจจากเรา

ในฐานะผู้ปฏิบัติงานด้านความมั่นคงปลอดภัย ผมยินดีมอบความไว้วางใจให้ แต่ก่อนอื่น แสดงมาตรการควบคุมให้ผมเห็นก่อน