ทำไมบริษัท AI ถึงเร่งเปิดเผยข้อบกพร่องด้านความปลอดภัย

ในเกือบทุกอุตสาหกรรมอื่น ๆ คำว่า “ผลิตภัณฑ์ของเราถูกแทรกซึมเข้าสู่ระบบของบริษัทอื่น” เป็นเหตุการณ์ที่องค์กรพยายามเก็บเป็นความลับอย่างสุดความพยายาม อย่างไรก็ตามเมื่อ AI ก้าวหน้าอย่างรวดเร็ว ความล้มเหลวด้านความปลอดภัยของมันก็กลายเป็นข่าวหัวข้อประจำวัน บริษัทต่าง ๆ จึงอธิบายกิจกรรม AI ที่ไม่ได้วางแผนไว้ในบล็อกโพสต์ที่ร่างอย่างระมัดระวัง

ความรู้สึกว่ามันกลายเป็นเรื่องปกติเพิ่มขึ้นนี้ควรเป็นสัญญาณเตือนสีแดงสำหรับผู้นำธุรกิจ

เมื่อโมเดล AI มีความสามารถมากขึ้น มีอิสระมากขึ้น และถูกผสานเข้ากับการดำเนินงานขององค์กรอย่างลึกซึ้ง การเปิดเผยข้อมูลจึงกลายเป็นสกุลเงินที่มีค่าที่สุดของอุตสาหกรรม บริษัทต่างรู้ว่าลูกค้าไม่สามารถตรวจสอบข้ออ้างความปลอดภัยของโมเดลขั้นสูงได้ด้วยตนเอง ดังนั้นการยอมรับความล้มเหลวจึงเป็นสัญญาณว่าองค์กรจะตรวจสอบความผิดพลาดของตนต่อสาธารณะ แต่ความโปร่งใสไม่เท่ากับความรับผิดชอบ การเปิดเผยไม่อาจเป็นตัวทดแทนการป้องกันได้ ซึ่งการป้องกันจะมีความสำคัญยิ่งขึ้นเมื่อโมเดล AI พัฒนาอย่างต่อเนื่อง

เมื่อการเปิดเผยหนึ่งครั้งกระตุ้นการเปิดเผยครั้งต่อไป

รูปแบบดังกล่าวเริ่มชัดเจนในไม่กี่สัปดาห์ที่ผ่านมา โมเดลที่กำลังประเมินโดย OpenAI ได้รับการเข้าถึงระบบสดโดยไม่ได้ตั้งใจ รวมถึงโครงสร้างพื้นฐานการผลิตของ Hugging Face OpenAI ระบุว่าเอเจนต์ของตนเป็นผู้รับผิดชอบ และ เปิดเผย เหตุการณ์นี้ การยอมรับนั้นทำให้ Anthropic ตรวจสอบ การประเมินกว่า 141,000 ครั้ง ค้นพบสามกรณีที่โมเดล Claude เข้าถึงอินเทอร์เน็ตและละเมิดระบบการผลิตของสามองค์กร

จากนั้นก็มี Meta ซึ่งไม่ได้เริ่มด้วยการตรวจสอบสาธารณะ สื่อมวลชนเป็นผู้รายงานเหตุการณ์เป็นครั้งแรก และหลังจากนั้น Meta ยืนยันว่าการกำหนดค่าผิดพลาดระหว่างการทดสอบภายนอกทำให้หนึ่งในโมเดลของบริษัทเข้าถึงอินเทอร์เน็ตและใช้ช่องโหว่ในบริการของบุคคลที่สาม Meta กล่าวว่า บริษัทกำลังสอบสวนและจะให้ข้อมูลเพิ่มเติมในภายหลัง

เหตุการณ์เหล่านี้ไม่เหมือนกัน และโมเดลทำงานภายใต้เงื่อนไขการประเมินที่ไม่ปกติ ในบางกรณี การป้องกันปกติถูกลดหรือปิดใช้งานเพื่อวัดความสามารถทางไซเบอร์ดิบ แต่บทเรียนที่กว้างขึ้นนั้นยากต่อการละเลย: ระบบที่มีอิสระเพิ่มขึ้นเรื่อย ๆ ได้ก้าวข้ามขอบเขตที่ผู้ดำเนินการเชื่อว่าได้กำหนดไว้

ความโปร่งใสอาจเป็นข้อได้เปรียบเชิงการแข่งขัน (หรือจะเป็นเช่นนั้นหรือไม่?)

การตีความอย่างกว้างขวางคือบริษัท AI กำลังพัฒนาวัฒนธรรมการเปิดเผยที่สมบูรณ์ ด้านความปลอดภัยไซเบอร์ใช้เวลาหลายทศวรรษเรียนรู้ว่าการเก็บความลับมักทำให้ความเสียหายเพิ่มขึ้น องค์กรที่รายงานเหตุการณ์อย่างทันท่วงที อธิบายสิ่งที่เกิดขึ้นและช่วยให้ผู้อื่นเรียนรู้ มักได้รับความเชื่อถือมากกว่าผู้ที่พยายามลดความสำคัญหรือชักช้า 

การเปิดเผยของ Anthropic แสดงให้เห็นว่ามันเป็นอย่างไร มันอธิบายขอบเขตของการตรวจสอบของตน ยอมรับความล้มเหลวของตนเอง ติดต่อองค์กรที่ได้รับผลกระทบ และร่างแนวทางการควบคุมที่วางแผนจะเปลี่ยนแปลง มันจัดการการแก้ไขเหมือนว่าความรับผิดชอบเป็นของบริษัทเดียว แม้ว่าการกำหนดค่าการทดสอบของบุคคลที่สามจะมีส่วนร่วม การเปิดเผยที่สร้างสรรค์ไม่จำเป็นต้องทำให้เหมือนว่าองค์กรเดียวเป็นผู้ก่อให้เกิดความล้มเหลวทุกกรณี แต่ต้องรับผิดชอบต่อการควบคุมที่อยู่ในอำนาจของตน

การสารภาพอาจทำได้มากกว่าการสร้างความไว้วางใจ

อย่างไรก็ตามการเปิดเผยไม่เคยเป็นการทำเพื่อผู้อื่นอย่างเดียว การสารภาพต่อสาธารณะสามารถทำหน้าที่เชิงกลยุทธ์หลายอย่างพร้อมกัน

ประการแรก มันสามารถแสดงศักยภาพได้ “โมเดลของเราหนีการทดสอบและทำให้ระบบจริงถูกละเมิด” เป็นการสารภาพที่น่าตกใจ แต่ก็เป็นหลักฐานว่าโมเดลนั้นมีพลังเหนือปกติ เหตุการณ์นี้กลายเป็นการสาธิตผลิตภัณฑ์ ไม่ว่าจะโดยเจตนาหรือไม่ก็ตาม

ประการที่สอง มันทำให้บริษัทสามารถกำหนดเรื่องราวก่อนที่ผู้กำกับดูแล ลูกค้า หรือสื่อมวลชนจะทำเช่นนั้น องค์กรกำหนดคำศัพท์ อธิบายเงื่อนไขการทดสอบ และกำหนดกรอบการแก้ไข

ประการที่สาม การเปิดเผยซ้ำ ๆ อาจทำให้พฤติกรรมนี้เป็นเรื่องปกติ หากทุกห้องทดลอง AI ชั้นนำรายงานว่าเอเจนต์ได้ข้ามขอบเขตและทำให้ระบบสดถูกละเมิด อุตสาหกรรมอาจเริ่มมองว่าพฤติกรรมนี้เป็นผลข้างเคียงที่หลีกเลี่ยงไม่ได้ของความก้าวหน้า

มันไม่อาจกลายเป็นมาตรฐานได้ ซีเอสไอโอ (CISO) ที่ฉันพูดคุยต้องการรู้ว่าทำไมการควบคุมเชิงป้องกันไม่สามารถหยุดกิจกรรมนี้ พวกเขาถามว่าใครเป็นผู้อนุญาตให้โมเดลเข้าถึง ขอบเขตใดที่ถูกบังคับใช้อย่างไร การกระทำของมันถูกตรวจสอบอย่างไร และมีใครสามารถหยุดมันได้ก่อนที่มันจะถึงบุคคลที่สามหรือไม่ คำถามเหล่านี้เป็นคำถามเกี่ยวกับความรับผิดชอบ ไม่ใช่คำถามด้านการสื่อสาร

การเปิดเผยคือจุดเริ่มต้นของความรับผิดชอบ

ด้านความปลอดภัยไซเบอร์ได้เรียนแล้วว่าการประกาศเหตุการณ์ไม่เท่ากับการจัดการเหตุการณ์ การเปิดเผยที่น่าเชื่อถืออธิบายว่าอะไรเกิดขึ้น ใครได้รับผลกระทบ ผู้ตอบสนองทำอย่างไรเพื่อควบคุมเหตุการณ์ การควบคุมใดล้มเหลว และอะไรจะป้องกันกิจกรรมคล้ายกันในครั้งต่อไป

สำหรับเอเจนต์ AI มาตรฐานนั้นต้องก้าวไกลกว่านี้ เอเจนต์ไม่เดินตามเส้นทางที่คาดการณ์ได้ พวกเขาให้เหตุผล เลือกเครื่องมือ และปรับตัวตามบริบท วัตถุประสงค์ที่ถูกต้องไม่ได้รับประกันว่าทุกขั้นตอนที่ทำไปจะถูกต้องเช่นกัน องค์กรต้องมีการควบคุมเชิงป้องกันที่กำหนดว่าเอเจนต์สามารถเข้าถึงอะไรได้บ้าง เครื่องมือใดที่สามารถเรียกใช้ได้ และการกระทำใดที่สามารถทำได้ พร้อมกับการตรวจสอบอย่างต่อเนื่องว่เอเจนต์ทำอะไรจริง ๆ

งานนี้ต้องเริ่มต้นก่อนการใช้งานจริง ผู้นำควรกำหนดให้มีการสร้างโมเดลภัยคุกคามสำหรับกระบวนการทำงานของเอเจนต์ การเข้าถึงแบบน้อยที่สุด การกำหนดขีดจำกัดที่ชัดเจนต่อการเชื่อมต่อภายนอก การตรวจสอบอิสระของสภาพแวดล้อมการทดสอบ การบังคับใช้นโยบายแบบเรียลไทม์ และจุดชัดเจนสำหรับการแทรกแซงของมนุษย์ ไม่สามารถเพิ่มการป้องกันหลังจากเหตุการณ์สาธารณะครั้งแรกได้

ผู้นำควรตัดสินใจตอนนี้ว่าจะเกิดอะไรต่อไป

ทุกธุรกิจที่ใช้งานเอเจนต์ AI อาจในที่สุดต้องเผชิญกับช่วงเวลานี้ของตนเอง องค์กรอาจพบว่าเอเจนต์เข้าถึงข้อมูลที่ไม่ควรเข้าถึง ทำการเกินอำนาจ หรือเข้าถึงระบบภายนอกโดยไม่คาดคิด

ตัดสินใจตอนนี้ว่าคุณจะเปิดเผยอะไร ให้กับใคร และภายใต้เงื่อนไขใด สิ่งสำคัญยิ่งกว่าคือกำหนดความรับผิดชอบที่มาพร้อมกับมัน ใครเป็นผู้รับผิดชอบต่อการกระทำของเอเจนต์? ใครสามารถตัดการเข้าถึงของมันได้? คุณจะเก็บรักษาหลักฐานอะไร? คุณจะเพิ่มการควบคุมอะไรก่อนที่ระบบจะกลับมาออนไลน์อีกครั้ง?

การรีบเผยแพร่ความล้มเหลวของ AI สามารถเป็นสัญญาณของอุตสาหกรรมที่มีสุขภาพดีและเปิดกว้างมากขึ้น แต่การสารภาพไม่สามารถเป็นเรื่องราวทั้งหมดได้

ความไว้วางใจไม่ได้สร้างจากการยอมรับเพียงอย่างเดียว แต่สร้างจากการควบคุมที่ควรจะป้องกันเหตุการณ์นั้น การกระทำที่ทำทันทีหลังเหตุการณ์ และหลักฐานที่แสดงว่าความล้มเหลือเดียวกันจะไม่เกิดขึ้นอีก