ใครคอยดูแลตัวแทน AI: ยุคใหม่ของการกำกับดูแล AI

เมื่อพูดถึง ตัวแทน AI ความคิดของคนส่วนใหญ่จะนึกถึงระบบที่มีความฉลาดสูงและสามารถทำงานได้เองโดยไม่ต้องมีการควบคุม ซึ่งอาจทำให้เกิดการกระทำที่ไม่คาดคิดได้ เช่น ตัวแทนเลขานุการอาจมีประโยชน์มากในวันหนึ่ง แต่ในวันถัดไปอาจให้ข้อมูลธนาคารของคุณกับบุคคลอื่นโดยไม่ได้ตั้งใจ

สิ่งที่สำคัญที่สุดไม่ใช่ว่าตัวแทน AI มีความฉลาดมากน้อยเพียงใด แต่เป็นเรื่องของความสามารถในการเข้าถึงและควบคุมโครงสร้างพื้นฐาน

ในทางปฏิบัติ คุณค่าของตัวแทน AI ถูกกำหนดโดยขอบเขตของสิทธิ์และความสามารถในการเข้าถึงระบบและข้อมูลมากกว่าความฉลาดของมัน ตัวแทน AI ที่มีความสามารถในการเข้าถึงฐานข้อมูล ระบบองค์กร การดำเนินการทางการเงิน หรือ API ภายนอกสามารถมีอิทธิพลต่อกระบวนการต่างๆ ในระดับที่ต้องการการดูแลและกำกับดูแลเป็นพิเศษ

ดังนั้น ระบบการดูแลและควบคุมจึงมีความสำคัญมากขึ้น ไม่เพียงแต่ในระดับโมเดล แต่ยังรวมถึงพฤติกรรมของตัวแทน AI ภายในโครงสร้างพื้นฐานด้วย

ไม่ใช่เรื่องบังเอิญที่โครงการที่มุ่งเน้นการดูแลและควบคุมตัวแทน AI ได้รับความนิยมมากขึ้นในช่วงไม่กี่ปีที่ผ่านมา วิธีแก้ปัญหาเหล่านี้ได้รับการนำไปใช้แล้วโดยบริษัทเทคโนโลยีชั้นนำ

วิธีการทำงานของตัวแทน AI

เพื่อเข้าใจว่าการกำกับดูแลทำงานอย่างไร เราต้องดูตัวแทน AI ประกอบด้วยอะไร ในคำอธิบายที่เรียบง่าย ตัวแทน AI สามารถถูกมองเป็นชุดรวมของ “สมอง” และ “เครื่องมือ”

เครื่องมือคือบริการและอินเทอร์เฟซภายนอกที่ตัวแทน AI สามารถเข้าถึงได้ ตัวอย่างเช่น สำหรับตัวแทนการท่องเที่ยว อาจรวมถึง Booking.com หรือ Airbnb สำหรับการค้นหาที่พัก ตัวแทนการบินสำหรับการซื้อตั๋วเครื่องบิน และระบบการชำระเงินหรือบัตรเครดิตสำหรับการชำระเงิน เครื่องมือเหล่านี้ไม่ใช่ระบบที่มีความฉลาด แต่ช่วยให้ตัวแทน AI สามารถทำงานในโลกแห่งความเป็นจริงได้

“สมอง” คือ โมเดลภาษา (LLM) ซึ่งช่วยให้ตัวแทน AI สามารถทำงานร่วมกับคำขอที่กำหนดโดยมนุษย์ได้อย่างมี意义 ตัวอย่างเช่น คำขอ “ฉันอยากบินไปยุโรปเป็นเวลา 3 วันในเดือนหน้า โดยมีสภาพอากาศที่ดี” นั้นคลุมเครือเกินไป ตัวแทน AI จะขอให้ LLM “แบ่งคำขอออกเป็นหมวดหมู่” และจะได้รับพารามิเตอร์ที่มีโครงสร้าง: ที่ไหน, เมื่อไหร่, เป็นเวลากี่วัน และภายใต้เงื่อนไขใด

ก่อนหน้านี้ ChatGPT สามารถสร้างคำตอบข้อความได้เท่านั้น แต่เมื่อถูกฝังอยู่ในตัวแทน AI มันกลายเป็นชุด “สมอง + เครื่องมือ” ที่สามารถไม่เพียงแต่อธิบาย แต่ยังสามารถกระทำการได้ LLM จะจัดโครงสร้างงาน และเครื่องมือจะช่วยให้ตัวแทน AI สามารถดำเนินการเฉพาะเจาะจงได้

วิธีการทำงานของการกำกับดูแล

ในขั้นตอนนี้ ระบบการควบคุมเข้ามาเกี่ยวข้อง ซึ่งฉันเรียกว่า “ตัวดูแล” (watchdog) ซึ่งเป็นระบบความปลอดภัยที่ถูกสร้างเข้าไปในตัวแทน AI หน้าที่ของมันคือการดูแลการกระทำของตัวแทน AI และตรวจสอบว่ามันทำงานภายในขอบเขตที่ตั้งไว้หรือไม่

กลับมาที่ตัวอย่างการเดินทาง: สมมติว่าผู้ใช้ต้องการจองการเดินทาง 3 วันในยุโรป ตัวแทน AI จะโต้ตอบกับบริการสภาพอากาศ ตั๋วเครื่องบิน และบัญชีธนาคารสำหรับการชำระเงิน ทุกอย่างดูเหมือนปกติ แต่แล้ว “ตัวดูแล” ก็สังเกตเห็นว่าตัวแทน AI กำลังขอเข้าถึงฐานข้อมูลองค์กรหรือบัญชีธนาคารที่ไม่เกี่ยวข้องกับการชำระเงินสำหรับการเดินทาง ซึ่งจะทำให้เกิดการแจ้งเตือนความปลอดภัยและบ่งชี้ถึงพฤติกรรมที่น่าสงสัย

สิ่งสำคัญคือต้องเข้าใจถึงขนาด: ตัวแทน AI อาจให้บริการผู้ใช้หลายพันคนต่อวัน โดยแต่ละคำขออาจกระตุ้นการดำเนินการหลายร้อยครั้ง ซึ่งนำไปสู่การกระทำหลายล้านครั้ง “ตัวดูแล” จะวิเคราะห์ทุกการกระทำและสร้างสถิติ รายงานอาจแสดงว่า “13% ของการกระทำเป็นการกระทำที่ไม่จำเป็น 7% เกี่ยวข้องกับการรักษาความปลอดภัยทางการเงิน” รายละเอียดเพิ่มเติมจะอธิบายว่าการกระทำใดที่ดูเหมือนน่าสงสัย

ใครที่ได้รับประโยชน์จาก “ตัวดูแล”: ผู้พัฒนาหรือผู้ใช้?

โดยหลักการ “ตัวดูแล” ได้รับการออกแบบสำหรับผู้พัฒนาเพื่อให้แน่ใจว่าระบบทำงานได้อย่างถูกต้อง แต่ก็สามารถจินตนาการถึงรูปแบบภายนอกได้: ตัวแทน AI ที่แยกออกมาเพื่อดูแลตัวแทน AI หลัก ซึ่งจะเพิ่มชั้นความปลอดภัยของ AI อีกขั้นโดยการขยายการกำกับดูแลออกไปนอกเหนือจากภายในระบบ

มีข้อจำกัดที่สำคัญ: กระบวนการภายในของตัวแทน AI ยังคง “ปิด” เราสามารถสังเกตพฤติกรรมของมันได้ แต่ไม่สามารถเข้าใจกระบวนการคิดได้ การเปรียบเทียบกับมนุษย์: ฉันสามารถเห็นคนยกโทรศัพท์ขึ้นมา กดหมายเลข และพูดคุย แต่ฉันไม่รู้ว่าหมายเลขไหนถูกกดไป หรือพูดอะไรบ้าง ในทำนองเดียวกัน ผู้สังเกตการณ์ภายนอกสามารถเห็นการกระทำของตัวแทน AI แต่ไม่สามารถเข้าใจ “สมอง” ของมันได้

การคำนึงที่น่าสนใจอีกอย่างหนึ่งคือ ตัวแทน AI อาจพยายามหลบหลีกหรือปิดใช้งานผู้สังเกตการณ์เหล่านี้ในอนาคต เช่นเดียวกับที่มนุษย์มักจะไม่ชอบการถูกสอดส่องอยู่เสมอ แม้ว่าสิ่งนี้อาจดูเหมือนเป็นเรื่องในนิยายวิทยาศาสตร์ในปัจจุบัน แต่ก็เป็นเรื่องที่เป็นไปได้ การรวมระบบความปลอดภัย AI ภายใน ระบบการตรวจจับความผิดปกติ และการกำกับดูแลหลายชั้นสามารถช่วยลดความเสี่ยงเหล่านี้และรักษาการควบคุมระบบอัตโนมัติที่มีความซับซ้อนมากขึ้น

กฎเกณฑ์แบบเรียบง่ายหรือการวิเคราะห์ที่ตระหนักถึงบริบท?

ปัจจุบัน ระบบ “ตัวดูแล” เหล่านี้ทำงานบนหลักการง่ายๆ: “อนุญาต” หรือ “ไม่อนุญาต” ตัวอย่างเช่น หากกฎระบุว่า “การเข้าถึง Amazon เป็นสิ่งผิด” และตัวแทน AI เข้าไปที่นั่น จะถือว่าเป็นการละเมิด แต่วิธีนี้ไม่เข้าใจบริบト

ระบบที่มีความสามารถมากกว่าควรจะวิเคราะห์การละเมิดและเหตุผลที่อยู่เบื้องหลัง มันควรจะเข้าใจว่าทำไมตัวแทน AI จึงไปที่ Amazon และว่ามันถูกต้องตามบริบทของงานหรือไม่ นี่คือการกำกับดูแลที่ตระหนักถึงบริบท ซึ่งคล้ายกับการทำงานของนักจิตวิทยา

สำหรับตอนนี้ วิธีแก้ปัญหาเหล่านี้ยังคงเป็นเพียงแนวคิดเท่านั้น ระบบที่มีอยู่จำกัดอยู่ที่การควบคุมแบบขาว-ดำเท่านั้น แต่ในอนาคต เมื่อตัวแทน AI มีความซับซ้อนมากขึ้น ระบบ “ตัวดูแล” ที่สามารถพิจารณาบริบทจะเกิดขึ้น

ปัจจุบัน เรากำลังเห็นการเติบโตของความคิดริเริ่มในการติดตามตัวแทน AI ซึ่งกำลังถูกพัฒนาอย่างแข็งขันในระดับของบริษัทเทคโนโลยีที่ใหญ่ที่สุด ตัวอย่างเช่น ActiveFence ทำงานร่วมกับผู้เล่นรายใหญ่ๆ เช่น NVIDIA และ Amazon

นอกจากนี้ ยังสมเหตุสมผลที่จะถือว่า Google, OpenAI, Anthropic และ Amazon ใช้ระบบ “ตัวดูแล” ภายใน ระบบวิเคราะห์ และระบบวัดผลของตนเองแล้ว

ฉันสังเกตเห็นความต้องการนี้ในลูกค้าระดับองค์กรของ Keymakr เช่นกัน – การกำกับดูแลและการติดตามเป็นส่วนสำคัญของโครงสร้างพื้นฐาน AI ที่กำลังเติบโต และไม่สามารถนำไปใช้ได้หากไม่มีสิ่งเหล่านี้