ทำไมระบบ Multi-Agent Autonomy ต้องการแนวทางใหม่ในการกำกับดูแล

การเกิดขึ้นของระบบ Multi-Agent (MAS) เป็นการเปลี่ยนแปลงโครงสร้างที่สำคัญที่สุดในด้าน AI ขององค์กรนับตั้งแต่การเกิดขึ้นของโมเดลพื้นฐาน แต่ในขณะที่องค์กรต่างๆ ต้องการที่จะจับผลประโยชน์ในการเพิ่มผลผลิตและลดต้นทุนของระบบอัตโนมัติ แต่ไม่ได้เตรียมพร้อมสำหรับผลกระทบด้านการกำกับดูแล ตาม CIO Playbook 2026: การแข่งขัน AI ขององค์กร ของ Lenovo ระบบ Multi-Agent ทำให้เกิดช่องว่างในการกำกับดูแล เนื่องจากองค์กรส่วนใหญ่ขยายความสามารถอัตโนมัติได้เร็วกว่าที่จะพัฒนาระบบ AI ที่มีความรับผิดชอบได้ โครงสร้างการควบคุมแบบดั้งเดิมซึ่งถูกออกแบบมาเพื่อซอฟต์แวร์ที่มีการกำหนดหรือ AI แบบเดี่ยวไม่เพียงพอสำหรับสภาพแวดล้อมที่มีหลายตัวแทนทำงานร่วมกันและตัดสินใจอย่างอิสระ เมื่อระบบ Multi-Agent พัฒนาไปสู่การทำงานในระดับอุตสาหกรรม องค์กรต่างๆ ต้องคิดใหม่เกี่ยวกับความรับผิดชอบ การรักษาความปลอดภัย การปฏิบัติตามกฎระเบียบ และการทำงานร่วมกันขององค์กร การทำงานอัตโนมัติไม่ได้กำจัดความจำเป็นในการกำกับดูแล มันเพียงแต่เปลี่ยนรูปแบบของมัน

ความรับผิดชอบในฝูง

หนึ่งในความท้าทายด้านการกำกับดูแลที่เกิดขึ้นทันทีคือการกำหนดความรับผิดชอบ ในการทำงานของระบบ Multi-Agent งานจะถูกแบ่งออกเป็นงานย่อยและดำเนินการโดยตัวแทนเฉพาะที่อาจแก้ไขหรือตีความคำสั่งใหม่เมื่อใดก็ตามที่มีข้อผิดพลาด (เช่น คำแนะนำที่ไม่ถูกต้อง การเพิ่มระดับอย่างไม่คาดคิด การละเมิดนโยบาย ฯลฯ) มันไม่เคยชัดเจนว่าตัวแทนหรือผู้ดำเนินการคนใดที่รับผิดชอบ

ความไม่แน่นอนนี้ต้องการแบบจำลองการกำกับดูแลที่มีมนุษย์อยู่ในวงจรเพื่อดูแลรูปแบบของพฤติกรรมมากกว่าการพยายามอนุมัติการตัดสินใจทุกครั้ง การสนับสนุนต้องการให้ระบบ Multi-Agent มีการบันทึกการดำเนินการ – บันทึกที่สามารถติดตามได้ของการตัดสินใจของตัวแทน แหล่งข้อมูล และเงื่อนไขที่การตัดสินใจถูกทำขึ้น เช่นเดียวกับการตรวจสอบสำหรับบริการไมโคร การมีระดับความโปร่งใส่นี้เป็นสิ่งสำคัญสำหรับการแก้ปัญหา การตรวจสอบ และการปรับปรุงอย่างต่อเนื่อง

หากไม่มีการบันทึกที่ชัดเจน ความรับผิดชอบจะล้มเหลว – และความไว้วางใจจะหายไปพร้อมกัน

การรักษาความปลอดภัยและความเป็นส่วนตัวของข้อมูลในระบบ Multi-Agent

ในระบบ Multi-Agent ตัวแทนจะโต้ตอบกับเครื่องมือ API และระบบขององค์กรอย่างอิสระ ทำให้พื้นที่โจมตีเพิ่มขึ้นอย่างมาก แม้ว่าไม่มีเจตนาเลว แต่ตัวแทนสามารถเพิ่มสิทธิ์การเข้าถึงข้อมูลที่ไม่ได้รับอนุญาตหรือรั่วไหลข้อมูลที่ละเอียดอ่อนผ่านคำสั่งที่กว้างเกินไป การใช้งานระบบ Multi-Agent ที่ประสบความสำเร็จมุ่งเน้นไปที่โดเมนที่มีขอบเขตที่กำหนดไว้อย่างดีเป็นอันดับแรก รวมถึงความมั่นคงทางไซเบอร์ คุณภาพการควบคุม และการบริการลูกค้า ซึ่งกระบวนการทำงานมีโครงสร้างและผลลัพธ์ที่วัดผลได้ การรักษาความปลอดภัยและปกป้องข้อมูลต้องการให้องค์กรมุ่งเน้นไปที่การรักษาความปลอดภัยแบบ Zero-Trust สำหรับการโต้ตอบของตัวแทน:

• การขยายตัวของตัวตน เพื่อให้แน่ใจว่าทุกคำขอจะพกตัวตนและสิทธิ์การเข้าถึงของตัวแทนหรือผู้ดำเนินการคน
• ขอบเขตโดเมนที่เข้มงวด เพื่อป้องกันตัวแทนจากการขยายออกนอกขอบเขตการทำงานที่ตั้งใจไว้
• การเชื่อมต่อของตัวแทนแบบมีขอบเขตสิทธิ์ เพื่อให้แน่ใจว่าตัวแทนในกระบวนการรับข้อมูลจะรับสิทธิ์การเข้าถึงขั้นต่ำที่จำเป็น – ไม่ใช่สิทธิ์การเข้าถึงเต็มของตัวจัดทำ

เป้าหมายคือการควบคุมอำนาจอย่างรับผิดชอบ ไม่ใช่การจำกัดมัน เมื่อตัวแทนแต่ละตัวทำงานเหมือนกับบริการไมโครที่มีการจัดทำอย่างดี ระบบสามารถขยายขนาดได้อย่างปลอดภัยโดยไม่ต้องอาศัยการควบคุมด้วยมือ

พฤติกรรมแบบความน่าจะเป็นและการปฏิบัติตามกฎระเบียบในระดับใหญ่

ตัวแทนโดยธรรมชาติมีพฤติกรรมแบบความน่าจะเป็น ซึ่งหมายความว่าคำขอเดียวกันอาจให้ผลลัพธ์ที่แตกต่างกันขึ้นอยู่กับบริบทหรือสถานะของโมเดล นี่ทำให้การตรวจสอบความถูกต้องซับซ้อนมากขึ้น ร่างกฎหมายต้องการการตัดสินใจที่สม่ำเสมอและอธิบายได้ แต่ฝูงตัวแทนมีความเชี่ยวชาญในเรื่องความไม่แน่นอน – ไม่ใช่ความสม่ำเสมอ
การลดความเสี่ยงต้องการให้องค์กรใช้แนวทางปฏิบัติที่ดีที่สุดบางอย่าง:

• สร้างราวกั้น ที่กำหนดการกระทำที่อนุญาตและไม่อนุญาตอย่างชัดเจน
• กำหนดเส้นทางหลบหนีแบบกำหนด ที่จะถูกกระตุ้นเมื่อผลลัพธ์ความมั่นใจต่ำกว่าเกณฑ์ที่กำหนด
• พัฒนากฎ AI ระดับรัฐธรรมนูญ ที่กำหนดหลักการทางพฤติกรรมที่ใช้ร่วมกันสำหรับตัวแทนทั้งหมด

ร่วมกัน เหล็คนี้ประกอบเป็นโครงสร้างการปฏิบัติตามกฎระเบียบที่ยังคงยืดหยุ่นเพียงพอสำหรับการตัดสินใจอัตโนมัติ

การบริหารจัดการความรู้เป็นจุดล้มเหลวที่ซ่อนอยู่

ไม่ว่าจะมีความซับซ้อนสูงเพียงใด ตัวแทนก็ไม่สามารถหลีกเลี่ยงปัจจัยจำกัดที่ทุก AI ต้องเผชิญ – คุณภาพของข้อมูลเข้า เช่นเดียวกับโซลูชัน GenAI แบบเดี่ยว ข้อมูลที่เก่า ขัดแย้ง หรือไม่ได้รับการดูแลอย่างดีสามารถนำไปสู่การเห็นภาพหลอนหรือคำแนะนำที่มีอคติจากตัวแทน นอกจากนี้ ในการทำงานของระบบ Multi-Agent ข้อผิดพลาดเหล่านี้จะสะสมเมื่อตัวแทนสร้างผลลัพธ์จากกันและกัน
การรักษาความไว้วางใจและความน่าเชื่อถือต้องการให้องค์กรมุ่งเน้นไปที่การสร้างความรู้อย่างต่อเนื่อง:

• ตรวจสอบ ความสดใหม่และความถูกต้องของข้อมูล
• ตรวจจับและแก้ไข ข้อมูลที่ขัดแย้งกัน
• ใช้ประตูคุณภาพอัตโนมัติ ก่อนที่ข้อมูลจะเข้าสู่คลังข้อมูลที่ตัวแทนสามารถเข้าถึงได้

ระบบ Multi-Agent ต้องการความมุ่งมั่นและควรปฏิบัติตามโครงสร้างการรวมต่อเนื่อง/การปรับใช้ต่อเนื่อง (CI/CD) ที่ทีมซอฟต์แวร์สมัยใหม่นำมาใช้กับพายพ์ ซึ่งความแตกต่างคือระบบ Multi-Agent นำไปใช้กับความรู้มากกว่าโค้ด

อุปสรรคและความท้าทายทั่วไป

• การไม่สอดคล้องกันขององค์กร: สาเหตุหนึ่งที่ทำให้ระบบ Multi-Agent ล้มเหลวคือขอบเขตของตัวแทนไม่สอดคล้องกับฟังก์ชันทางธุรกิจในโลกแห่งความเป็นจริง การไม่สอดคล้องนี้ทำให้การนำไปใช้หยุดชะงัก เช่นเดียวกับการเป็นเจ้าของไมโครเซอร์วิสที่ติดตามโครงสร้างทีม การเป็นเจ้าของตัวแทนควรสะท้อนถึงกระบวนการทำงานจริง
• ภาวะตัวแทนล้นระบบ: บางองค์กรพยายามรวมตรรกะมากเกินไปในตัวแทนจัดทำลำดับเดียว ทำให้ระบบเปราะบางและกลายเป็นจุดล้มเหลวเดียว ระบบ Multi-Agent เจริญรุ่งเรืองเมื่อตัวแทนทำงานด้วยสัญญา API ที่ชัดเจน ขอบเขตและความเป็นอิสระ ระบบควรได้รับการออกแบบให้เสื่อมลงอย่างค่อยเป็นค่อยไป – ไม่ล่มเมื่อตัวจัดทำลำดับหนึ่งล้มเหลว
• การทำให้กระบวนการที่ไม่สมบูรณ์เป็นอัตโนมัติ: ตัวแทนจะทำซ้ำกระบวนการใดๆ ที่ได้รับโดยไม่คำนึงถึงประสิทธิภาพ โดยไม่มีการปรับปรุงกระบวนการและเอกสารล่วงหน้า ระบบ Multi-Agent อาจทำให้การทำงานที่ไม่ดีแย่ลงโดยไม่ตั้งใจ องค์กรต้องแน่ใจว่ากระบวนการของตนได้รับการปรับปรุงและให้เหตุผลก่อนที่จะทำให้พวกมันกลายเป็นอัตโนมัติ
• การเพิ่มประสิทธิภาพท้องถิ่นเทียบกับการเพิ่มประสิทธิภาพระดับโลก: การปรับปรุงความเร็วของตัวแทนเพียงตัวเดียวอาจไม่กำจัดปัญหาการขัดข้อง – เพียงแค่ผลักพวกมันไปทางด้านล่าง การเพิ่มผลผลิตที่แท้จริงมาจากการคิดที่มุ่งเน้นระบบ ซึ่งเพิ่มประสิทธิภาพของกระบวนการคุณค่าทั้งหมดจากจุดเริ่มต้นถึงจุดสิ้นสุด ไม่ใช่แค่งานที่แยกออกมา

ความได้เปรียบในการแข่งขันขององค์กร Multi-Agent

ระบบ Multi-Agent มากกว่าการปรับปรุงทางเทคนิค – พวกมันกำลังเปลี่ยนแปลงกลยุทธ์ในการดำเนินงาน การออกแบบองค์กร และความสามารถของกำลังงาน องค์กรที่เชี่ยวชาญในการดำเนินงานของตัวแทนจะทำงานแตกต่างไปจากเดิมอย่างพื้นฐาน ผู้นำรุ่นแรกๆ ได้เห็นการปรับปรุงที่เพิ่มขึ้นอย่างมากในความเร็วในการดำเนินงาน ผลผลิตของกำลังงาน และความมีประสิทธิภาพในการใช้จ่าย แต่ความได้เปรียบจริงๆ คือโครงสร้าง ระบบ Multi-Agent ช่วยให้องค์กรสามารถปรับตัวให้เข้ากับความซับซ้อนและเปลี่ยนแปลงได้แบบเรียลไทม์ องค์กรที่พัฒนาไปไกลกว่าการใช้ตัวแทนอัตโนมัติ – ไปสู่การกำกับดูแลพวกมัน – จะตั้งจังหวะการแข่งขันในรอบทศวรรษหน้า