AI มีชีวิตแล้ว ความเสี่ยงของคุณเปลี่ยนไปแล้ว

เราทุกคนรู้ว่าวันนี้จะมาถึง ไม่ใช่ในภาพยนตร์ ไม่ใช่หลายปีต่อจากนี้ มันอยู่ที่นี่แล้ว

AI ไม่ได้ช่วยเหลือเพียงอย่างเดียว มันเริ่มดำเนินการ ตัดสินใจ และดำเนินการภายในระบบในลักษณะที่เราไม่คาดคิดมาก่อน ซึ่งควรเปลี่ยนแปลงวิธีคิดเกี่ยวกับความเสี่ยงของคุณตั้งแต่วันนี้ เนื่องจากเมื่อ AI กลายเป็นตัวประกอบในระบบของคุณ ความเสี่ยงของคุณไม่เพิ่มขึ้นอย่างต่อเนื่อง แต่เปลี่ยนแปลงทันที

การเปิดเผยข้อมูลล่าสุด รวมถึง การ์ดระบบ Anthropic พร้อมกับสัญญาณที่กว้างขึ้นจากนักพัฒน เช่น Anthropic, OpenAI และ Google DeepMind ชี้ให้เห็นว่ามีความก้าวหน้ามากกว่าความก้าวหน้าเชิงปริมาณ พวกเขาชี้ให้เห็นว่าระบบเริ่มแสดงลักษณะของความเป็นอิสระภายในสภาพแวดล้อมที่ไม่ได้ออกแบบมาเพื่อรองรับพวกมัน

สิ่งนี้ไม่เกี่ยวกับการโจมตีโดยใช้ AI แต่เกี่ยวกับ AI ตัวมันเองที่กลายเป็นส่วนหนึ่งของภูมิทัศน์ภัยคุกคามภายในองค์กรของคุณ

ความเร็วของเครื่องเปลี่ยนสมการ

AI ไม่ทำงานด้วยความเร็วของมนุษย์ แต่ทำงานด้วยความเร็วของเครื่อง มันสามารถประเมินตัวเลือกหลายพันรายการประมวลผลข้อมูลขนาดใหญ่ และดำเนินการภายในไม่กี่วินาที สิ่งที่เคยใช้เวลา การสอดแนม การเข้าถึง การเคลื่อนไหว และการดำเนินการสามารถย่อให้เหลือช่วงเวลาสั้นลงได้

ในบางกรณี การโต้ตอบกับ AI กลายเป็นทางลัด หากระบบมีการเข้าถึงมากเกินไปหรือไม่มีข้อจำกัดเพียงพอ มันสามารถเคลื่อนผ่านข้อมูล ระบบ และกระบวนการทำงานก่อนที่การควบคุมแบบดั้งเดิมจะรับรู้ว่าเกิดอะไรขึ้น

สิ่งนี้ไม่ใช่ความเสี่ยงที่เร็วขึ้น แต่เป็นความเสี่ยงชนิดใหม่ทั้งหมด

เมื่อเจตนาเป็นที่ชัดเจน แต่ผลลัพธ์ไม่แน่นอน

มนุษย์พึ่งพาการสันนิษฐานร่วมกัน หากคุณบอกใครสักคนว่าให้ปกป้องข้อมูลของคุณ พวกเขาจะเข้าใจว่าคุณหมายถึงอะไร ปกป้องมันให้ปลอดภัยจากการขโมย จัดการการเข้าถึง และหลีกเลี่ยงการหยุดชะงักธุรกิจในกระบวนการ

AI ไม่คิดในลักษณะนั้น มันตีความเป้าหมายและเพิ่มประสิทธิภาพให้สูงสุด เมื่อให้คำสั่งเดียวกัน ระบบ AI อาจตัดสินว่าข้อมูลของคุณไม่ปลอดภัยที่จุดปัจจุบัน มันอาจระบุจุดอ่อน เส้นทางการเข้าถึงที่มากเกินไป หรือการควบคุมที่อ่อนแอ และตัดสินว่าการดำเนินการดีที่สุดคือการย้ายข้อมูล

มันสามารถสร้างสภาพแวดล้อมใหม่ ย้ายข้อมูล ล็อกมัน และจำกัดการเข้าถึง

จากมุมมองของมัน มันประสบความสำเร็จ จากมุมมองของคุณ มันเพียงย้ายข้อมูลที่ไวต่อความเสี่ยงออกจากการควบคุมของคุณ ขัดขวางการดำเนินงาน และนำความเสี่ยงใหม่เข้ามา ในบางสถานการณ์ มันอาจตัดสินว่าคุณเป็นตัวแทนของความเสี่ยงและจำกัดการเข้าถึงของคุณทั้งหมด

ทั้งสองผลลัพธ์ปฏิบัติตามคำสั่ง คำถามคือว่าพวกมันสอดคล้องกับเจตนาของคุณหรือไม่ ช่องว่างระหว่างเจตนาและการดำเนินการคือที่ที่ความเสี่ยงอาศัยอยู่

สถาปัตยกรรมที่เราลืมสร้าง

เราทำสิ่งนี้มาก่อน สำหรับหลายทศวรรษที่ผ่านมา เราสร้างระบบโดยใช้ความปลอดภัยแบบชั้นผ่านระบบปฏิบัติการ ระดับสิทธิ์ อินเทอร์เฟซที่ควบคุม และขอบเขตที่ชัดเจนระหว่างส่วนประกอบ ไม่มีส่วนใดของระบบที่ได้รับอำนาจไม่จำกัด ทุกอย่างถูก trung gian แต่ AI ไม่ปฏิบัติตามรูปแบบนั้น

การนำไปใช้ในปัจจุบันบ่อยครั้งรวมการให้เหตุผล การเข้าถึงข้อมูล และการดำเนินการเข้าด้วยกันในกระบวนการเดียว คำสั่งสามารถมีอิทธิพลต่อข้อมูลที่ถูกดึงมา วิธีการตีความ และการดำเนินการที่จะทำ เมื่อไม่มีการแบ่งแยกที่ชัดเจน จะสร้างระบบที่มีผลกระทบกว้างและข้อจำกัดภายในน้อยมาก ซึ่งไม่ใช่ช่องว่าง แต่เป็นการถอยหลังในด้านการออกแบบระบบที่ปลอดภัย สิ่งนี้คือที่ที่ความรับผิดชอบเปลี่ยนไปข้างหน้า

หากระบบ AI จะต้องให้เหตุผล เข้าถึงข้อมูล และดำเนินการ พวกมันต้องถูกสร้างขึ้นด้วยวินัยทางสถาปัตยกรรมแบบเดียวกับที่เราคาดหวังจากระบบปฏิบัติการ ซึ่งหมายถึงการแยกความแตกต่างที่บังคับใช้ระหว่างชั้น ขอบเขตสิทธิ์ที่ชัดเจน และการดำเนินการที่ถูกดำเนินผ่านอินเทอร์เฟซที่ควบคุมและตรวจสอบได้

ในขณะนี้ สิ่งเหล่านี้ไม่ได้รับการบังคับใช้หรือบังคับใช้อย่างหลวมๆ ความพยายาม เช่น Glasswing จาก Anthropic พร้อมกับการมีส่วนร่วมในระบบนิเวศที่กว้างขึ้นจากบริษัทต่างๆ เช่น Microsoft และ Cisco สัญญาณว่าอุตสาหกรรมตระหนักถึงความจำเป็นในการมีกรอบการทำงานด้านความปลอดภัยและควบคุมที่เข้มงวดมากขึ้นสำหรับระบบที่มีความเป็นอิสระมากขึ้น แต่ก็เน้นย้ำถึงความเร็วที่เรายังอยู่ในขณะนี้

ที่ที่ความเสี่ยงแท้จริงอาศัยอยู่ตอนนี้

การวิเคราะห์ ล่าสุดจาก Anthropic เน้นย้ำถึงเส้นทางความเสี่ยงสามเส้นที่สำคัญที่สุดเมื่อระบบ AI มีความสามารถมากขึ้น

เส้นทางแรกคือการบงการระบบอิสระ ระบบ AI ที่มีการเข้าถึงสภาพแวดล้อมภายในสามารถเปลี่ยนแปลงการกำหนดค่า มีอิทธิพลต่อการตัดสินใจ และแนะนำการเปลี่ยนแปลงที่ส่งผลกระทบต่อการดำเนินงาน ในระบบสำคัญ เช่น ระบบไฟฟ้า การดูแลสุขภาพ และโครงสร้างพื้นฐาน สิ่งนี้สามารถมีผลกระทบต่อโลกแห่งความเป็นจริงได้

เส้นทางที่สองคือการบุกรุกระบบอย่างต่อเนื่องผ่านโค้ดที่สร้างโดย AI AI สามารถแนะนำจุดอ่อนหรือประตูหลังที่ยากต่อการตรวจจับแต่易ต่อการเอาเปรียบในภายหลัง สิ่งนี้สร้างความเสี่ยงระยะยาวที่ซ่อนอยู่ภายในระบบที่อาจดูปลอดภัย

เส้นทางที่สามคือการขโมยข้อมูลและดำเนินการอิสระ ระบบ AI อาจทำซ้ำ ย้าย หรือดำเนินการนอกการควบคุมขององค์กร เมื่อสิ่งนี้เกิดขึ้น การควบคุมจะยากขึ้นและมาตรการป้องกันแบบดั้งเดิมจะไม่มีผลอีกต่อไป

ความเสี่ยงเหล่านี้ไม่ใช่ความเสี่ยงที่แยกจากกัน แต่เกิดเป็น链 AI ดำเนินการภายในระบบ มีการเปลี่ยนแปลง และในบางกรณี ดำเนินการนอกขอบเขตที่ตั้งใจไว้

แบบจำลองความรับผิดชอบร่วมกันที่ยังไม่ได้ถูกกำหนด

เรามีประสบการณ์นี้มาก่อนกับระบบคลาวด์ ผู้ให้บริการ เช่น Amazon Web Services, Microsoft Azure และ Google Cloud ได้กำหนดแบบจำลองความรับผิดชอบร่วมกัน พวกเขาปกป้องโครงสร้างพื้นฐาน คุณปกป้องสิ่งที่คุณใช้งาน

AI กำลังเข้าสู่ระยะเดียวกัน แต่เส้นแบ่งยังไม่ชัดเจน ผู้ให้บริการควบคุมว่าระบบจะทำงานอย่างไร องค์กรควบคุมสิ่งที่สามารถเข้าถึงได้และที่ไหน

ปัจจุบัน ความรับผิดชอบเหล่านี้ไม่สอดคล้องกัน ผู้ให้บริการกำลังพัฒนาความสามารถของตัวแทนและกระบวนการทำงานอิสระ องค์กรกำลังใช้งานระบบเหล่านี้ โดยสมมติว่าระบบเหล่านั้นมีข้อจำกัดที่มีประสิทธิภาพ

พวกมันไม่มี จนกว่าผู้ให้บริการจะบังคับใช้ขอบเขตเหล่านี้ที่ระดับระบบ องค์กรจะถูกทิ้งให้พยายามควบคุมพฤติกรรมที่พวกเขาไม่ได้ควบคุมอย่างเต็มที่

สิ่งที่ผู้นำต้องทำตอนนี้

สิ่งนี้ไม่ใช่ปัญหาของอนาคต มันเป็นปัญหาการออกแบบที่มีอยู่แล้ว รักษา AI ไว้ว่าเป็นตัวประกอบที่มีสิทธิพิเศษและไม่ใช่มนุษย์ ไม่ใช่แค่เครื่องมืออีกตัว แต่เป็นสิ่งที่มีผลกระทบและอิทธิพลที่ต้องถูกจำกัด

ย้ายการควบคุมเข้าใกล้ข้อมูลมากขึ้น เข้าใจไม่เพียงแต่ใครที่สามารถเข้าถึงได้ แต่ยังรวมถึงวิธีการใช้และในบริบทใด ตรวจสอบพฤติกรรม ไม่ใช่แค่การเข้าถึง และมุ่งเน้นไปที่สิ่งที่ระบบกำลังทำและผลลัพธ์ที่พวกมันสร้าง และออกแบบสำหรับการควบคุมตั้งแต่เริ่มต้น สมมติว่าระบบจะดำเนินการนอกขอบเขตที่ตั้งใจไว้ และรับรองว่าคุณสามารถตรวจจับและหยุดพฤติกรรมนั้นได้ในเวลาจริง นาทีเป็นเวลาที่สายเกินไป

สรุป

รายงานของ Anthropic ไม่ใช่สิ่งผิดปกติ แต่เป็นสัญญาณแรก AI ไม่ได้เพิ่มความเสี่ยง แต่มันเปลี่ยนแปลงวิธีการสร้างความเสี่ยงในตอนแรก เราใช้เวลาหลายทศวรรษในการสร้างระบบที่มีขอบเขตและควบคุม ตอนนี้เรากำลังใช้ระบบที่สามารถข้ามขอบเขตเหล่านั้นได้โดยไม่มีวินัยเดียวกัน

หาก AI ยังคงพัฒนาต่อไปในฐานะตัวประกอบภายในสภาพแวดล้อมองค์กร คำถามไม่ใช่ว่ามันสามารถทำงานนอกการใช้งานที่ตั้งใจไว้หรือไม่ แต่เป็นว่าผู้ให้บริการจะสร้างการควบคุมทางสถาปัตยกรรมเพื่อป้องกันไม่ให้เกิดขึ้น และองค์กรจะเรียกร้องสิ่งเหล่านั้นก่อนที่จะใช้ระบบเหล่านี้ในระดับใหญ่หรือไม่