ผู้นำทางความคิด

ระบบหลายเอเจนต์กำลังกำหนดผลตอบแทนจากการลงทุนขององค์กรใหม่อย่างไร: ตอนที่ 2

Ruodong Yang
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญระบบหลายตัวแทนต้องการรูปแบบการกำกับดูแลใหม่…
ดูเพิ่มเติม
  • ระบบหลายตัวแทนต้องการรูปแบบการกำกับดูแลใหม่ เนื่องจากการควบคุมแบบดั้งเดิมใช้ไม่ได้กับฝูงชนอัตโนมัติ
  • ความรับผิดชอบต้องอาศัยการบันทึกสายงานเพื่อติดตามการตัดสินใจของตัวแทนและรักษาการตรวจสอบได้
  • ความปลอดภัยต้องการแนวคิดแบบไม่ไว้วางใจ พร้อมขอบเขตโดเมนที่เข้มงวดสำหรับแต่ละตัวแทน

เหตุใดความเป็นอิสระของระบบหลายเอเจนต์จึงต้องใช้แนวทางใหม่ในการกำกับดูแล

การเกิดขึ้นของระบบ Multi-Agent (MAS) เป็นหนึ่งในการเปลี่ยนแปลงทางสถาปัตยกรรมที่สำคัญที่สุดในด้าน AI ขององค์กรนับตั้งแต่การเกิดขึ้นของโมเดลพื้นฐาน แต่ในขณะที่องค์กรต่างๆ ต้องการที่จะจับประโยชน์ด้านผลิตภาพและต้นทุนจากฝูงเอเจนต์ที่ทำงานได้อย่างอิสระ แต่มีเพียงไม่กี่แห่งที่พร้อมรับผลกระทบด้านการกำกับดูแล ตาม CIO Playbook 2026: การแข่งขัน AI ขององค์กร ของ Lenovo ระบบ Multi-Agent ทำให้เกิดช่องว่างในการกำกับดูแล เนื่องจากองค์กรส่วนใหญ่ขยายความสามารถอัตโนมัติได้เร็วกว่าที่จะพัฒนากรอบ AI ที่มีความรับผิดชอบ ความสามารถในการตรวจสอบย้อนหลัง และมาตรการควบคุมให้เติบโตทันได้ โครงสร้างการควบคุมแบบดั้งเดิมซึ่งถูกออกแบบมาเพื่อซอฟต์แวร์ที่ให้ผลแน่นอนหรือ AI ที่มีโมเดลเดียวไม่เพียงพอสำหรับสภาพแวดล้อมที่เอเจนต์หลายสิบตัวประสานงาน ให้เหตุผล และลงมือทำผ่านเวิร์กโฟลว์ที่กระจายอยู่หลายส่วน เมื่อระบบ Multi-Agent พัฒนาจากการทดลองนำร่องไปสู่กำลังคนดิจิทัลที่พร้อมใช้งานจริง องค์กรต่างๆ ต้องคิดใหม่เกี่ยวกับความรับผิดชอบ การรักษาความปลอดภัย การปฏิบัติตามกฎระเบียบ และการทำงานร่วมกันขององค์กร ความเป็นอิสระไม่ได้ทำให้หมดความจำเป็นในการกำกับดูแล มันเพียงแต่เปลี่ยนรูปแบบของมัน

ความรับผิดชอบในฝูง

หนึ่งในความท้าทายด้านการกำกับดูแลที่เกิดขึ้นทันทีคือการกำหนดความรับผิดชอบ ในการทำงานของระบบ Multi-Agent งานจะถูกแบ่งออกเป็นงานย่อยและมอบหมายและดำเนินการโดยเอเจนต์เฉพาะทาง ซึ่งอาจปรับแก้หรือตีความคำสั่งใหม่ระหว่างทำงาน เมื่อเกิดข้อผิดพลาด (เช่น คำแนะนำที่ไม่ถูกต้อง การเพิ่มระดับอย่างไม่คาดคิด การละเมิดนโยบาย ฯลฯ) มักไม่ชัดเจนว่าตัวแทนหรือผู้ดำเนินการคนใดที่รับผิดชอบ

ความไม่แน่นอนนี้ต้องการแบบจำลองการกำกับดูแลที่มีมนุษย์อยู่ในวงจรเพื่อดูแลรูปแบบของพฤติกรรมมากกว่าการพยายามอนุมัติการตัดสินใจทุกครั้ง การสนับสนุนต้องการให้ระบบ Multi-Agent มีการบันทึกการดำเนินการ – บันทึกที่สามารถติดตามได้ของการตัดสินใจของตัวแทน แหล่งข้อมูล และเงื่อนไขที่การตัดสินใจถูกทำขึ้น เช่นเดียวกับการตรวจสอบสำหรับบริการไมโคร การมีระดับความโปร่งใส่นี้เป็นสิ่งสำคัญสำหรับการแก้ปัญหา การตรวจสอบ และการปรับปรุงอย่างต่อเนื่อง

หากไม่มีการบันทึกที่ชัดเจน ความรับผิดชอบจะล้มเหลว – และความไว้วางใจจะหายไปพร้อมกัน

การรักษาความปลอดภัยและความเป็นส่วนตัวของข้อมูลในระบบ Multi-Agent

ในระบบ Multi-Agent ตัวแทนจะโต้ตอบกับเครื่องมือ API และระบบขององค์กรอย่างอิสระ ทำให้พื้นที่โจมตีเพิ่มขึ้นอย่างมาก แม้ว่าไม่มีเจตนาเลว แต่ตัวแทนสามารถเพิ่มสิทธิ์การเข้าถึงข้อมูลที่ไม่ได้รับอนุญาตหรือรั่วไหลข้อมูลที่ละเอียดอ่อนผ่านคำสั่งที่กว้างเกินไป การใช้งานระบบ Multi-Agent ที่ประสบความสำเร็จมุ่งเน้นไปที่โดเมนที่มีขอบเขตที่กำหนดไว้อย่างดีเป็นอันดับแรก รวมถึงความมั่นคงทางไซเบอร์ การควบคุมคุณภาพ และการบริการลูกค้า ซึ่งกระบวนการทำงานมีโครงสร้างและผลลัพธ์ที่วัดผลได้ การรักษาความปลอดภัยและปกป้องข้อมูลต้องการให้องค์กรมุ่งเน้นไปที่การรักษาความปลอดภัยแบบ Zero-Trust สำหรับการโต้ตอบของตัวแทน:

  • การส่งต่อข้อมูลระบุตัวตน เพื่อให้แน่ใจว่าทุกคำขอจะพกตัวตนและสิทธิ์การเข้าถึงของตัวแทนหรือผู้ดำเนินการคน
  • ขอบเขตโดเมนที่เข้มงวด เพื่อป้องกันตัวแทนจากการขยายออกนอกขอบเขตการทำงานที่ตั้งใจไว้
  • การเชื่อมต่อของตัวแทนแบบมีขอบเขตสิทธิ์ เพื่อให้แน่ใจว่าเอเจนต์ในขั้นตอนถัดไปจะรับสิทธิ์การเข้าถึงขั้นต่ำที่จำเป็น – ไม่ใช่สิทธิ์ทั้งหมดของตัวประสานงาน

เป้าหมายคือการควบคุมอำนาจอย่างรับผิดชอบ ไม่ใช่การจำกัดมัน เมื่อตัวแทนแต่ละตัวทำงานเหมือนกับไมโครเซอร์วิสที่ติดตั้งระบบติดตามการทำงานไว้อย่างดี ระบบสามารถขยายขนาดได้อย่างปลอดภัยโดยไม่ต้องอาศัยขั้นตอนอนุมัติด้วยคน

พฤติกรรมแบบความน่าจะเป็นและการปฏิบัติตามกฎระเบียบในระดับใหญ่

ตัวแทนโดยธรรมชาติมีพฤติกรรมแบบความน่าจะเป็น ซึ่งหมายความว่าคำขอเดียวกันอาจให้ผลลัพธ์ที่แตกต่างกันขึ้นอยู่กับบริบทหรือสถานะของโมเดล นี่ทำให้การตรวจสอบความถูกต้องซับซ้อนมากขึ้น หน่วยงานกำกับดูแลคาดหวังการตัดสินใจที่สม่ำเสมอและอธิบายได้ แต่ฝูงตัวแทนมีความเชี่ยวชาญในเรื่องความไม่แน่นอน – ไม่ใช่ความสม่ำเสมอ
การลดความเสี่ยงต้องการให้องค์กรใช้แนวทางปฏิบัติที่ดีที่สุดบางอย่าง:

  • สร้างราวกั้น ที่กำหนดการกระทำที่อนุญาตและไม่อนุญาตอย่างชัดเจน
  • กำหนดเส้นทางสำรองที่ให้ผลแน่นอน ที่จะถูกกระตุ้นเมื่อผลลัพธ์ความมั่นใจต่ำกว่าเกณฑ์ที่กำหนด
  • พัฒนากฎ AI ระดับรัฐธรรมนูญ ที่กำหนดหลักการทางพฤติกรรมที่ใช้ร่วมกันสำหรับตัวแทนทั้งหมด

กลไกเหล่านี้ร่วมกันสร้างโครงสร้างการปฏิบัติตามกฎระเบียบที่ยังคงยืดหยุ่นเพียงพอสำหรับการตัดสินใจอัตโนมัติ

การบริหารจัดการความรู้เป็นจุดล้มเหลวที่ซ่อนอยู่

ไม่ว่าจะมีความซับซ้อนสูงเพียงใด ตัวแทนก็ไม่สามารถหลีกเลี่ยงปัจจัยจำกัดที่ทุก AI ต้องเผชิญ – คุณภาพของข้อมูลเข้า เช่นเดียวกับโซลูชัน GenAI แบบเดี่ยว ข้อมูลที่เก่า ขัดแย้ง หรือไม่ได้รับการดูแลอย่างดีสามารถนำไปสู่การเห็นภาพหลอนหรือคำแนะนำที่มีอคติจากตัวแทน นอกจากนี้ ในการทำงานของระบบ Multi-Agent ข้อผิดพลาดเหล่านี้จะสะสมเมื่อตัวแทนสร้างผลลัพธ์จากกันและกัน
การรักษาความไว้วางใจและความน่าเชื่อถือต้องการให้องค์กรมุ่งเน้นไปที่การสร้างความรู้อย่างต่อเนื่อง:

  • ตรวจสอบ ความสดใหม่และความถูกต้องของข้อมูล
  • ตรวจจับและแก้ไข ข้อมูลที่ขัดแย้งกัน
  • ใช้ประตูคุณภาพอัตโนมัติ ก่อนที่ข้อมูลจะเข้าสู่คลังข้อมูลที่ตัวแทนสามารถเข้าถึงได้

ระบบ Multi-Agent ต้องการความมุ่งมั่นและควรปฏิบัติตามโครงสร้างการรวมต่อเนื่อง/การปรับใช้ต่อเนื่อง (CI/CD) ที่ทีมซอฟต์แวร์สมัยใหม่ใช้กับกระบวนการพัฒนา ซึ่งความแตกต่างคือระบบ Multi-Agent นำไปใช้กับความรู้มากกว่าโค้ด

อุปสรรคและความท้าทายทั่วไป

  • การไม่สอดคล้องกันขององค์กร: สาเหตุหนึ่งที่ทำให้ระบบ Multi-Agent ล้มเหลวคือขอบเขตของตัวแทนไม่สอดคล้องกับฟังก์ชันทางธุรกิจในโลกแห่งความเป็นจริง การไม่สอดคล้องนี้ทำให้การนำไปใช้หยุดชะงัก เช่นเดียวกับการเป็นเจ้าของไมโครเซอร์วิสที่ติดตามโครงสร้างทีม การเป็นเจ้าของตัวแทนควรสะท้อนถึงกระบวนการทำงานจริง
  • เอเจนต์ที่รับภาระมากเกินไป: บางองค์กรพยายามรวมตรรกะมากเกินไปในเอเจนต์ประสานงานเพียงตัวเดียว ทำให้ระบบเปราะบางและกลายเป็นจุดล้มเหลวเดียว ระบบ Multi-Agent เจริญรุ่งเรืองเมื่อตัวแทนทำงานด้วยสัญญา API ที่ชัดเจน ขอบเขตและความเป็นอิสระ ระบบควรได้รับการออกแบบให้เสื่อมลงอย่างค่อยเป็นค่อยไป – ไม่ล่มเมื่อตัวประสานงานหนึ่งตัวล้มเหลว
  • การทำให้กระบวนการที่ไม่สมบูรณ์เป็นอัตโนมัติ: ตัวแทนจะทำซ้ำกระบวนการใดๆ ที่ได้รับโดยไม่คำนึงถึงประสิทธิภาพ โดยไม่มีการปรับปรุงกระบวนการและเอกสารล่วงหน้า ระบบ Multi-Agent อาจทำให้การทำงานที่ไม่ดีแย่ลงโดยไม่ตั้งใจ องค์กรต้องแน่ใจว่ากระบวนการของตนได้รับการปรับปรุงให้ทันสมัยและจัดระบบอย่างเหมาะสมครบถ้วนก่อนที่จะทำให้พวกมันกลายเป็นอัตโนมัติ
  • การเพิ่มประสิทธิภาพเฉพาะส่วนเทียบกับทั้งระบบ: การปรับปรุงความเร็วของตัวแทนเพียงตัวเดียวอาจไม่กำจัดปัญหาการขัดข้อง – เพียงแค่ผลักพวกมันไปทางด้านล่าง ผลตอบแทนจากการลงทุนที่แท้จริงมาจากการคิดที่มุ่งเน้นระบบ ซึ่งเพิ่มประสิทธิภาพของกระบวนการคุณค่าทั้งหมดจากจุดเริ่มต้นถึงจุดสิ้นสุด ไม่ใช่แค่งานที่แยกออกมา

ความได้เปรียบในการแข่งขันขององค์กร Multi-Agent

ระบบ Multi-Agent มากกว่าการปรับปรุงทางเทคนิค – พวกมันกำลังเปลี่ยนแปลงกลยุทธ์ในการดำเนินงาน การออกแบบองค์กร และความสามารถของกำลังงาน องค์กรที่เชี่ยวชาญในการดำเนินงานของตัวแทนจะทำงานแตกต่างไปจากเดิมอย่างพื้นฐาน ผู้นำรุ่นแรกๆ ได้เห็นการปรับปรุงที่เพิ่มขึ้นอย่างมากในความเร็วในการดำเนินงาน ผลผลิตของกำลังงาน และความมีประสิทธิภาพในการใช้จ่าย แต่ความได้เปรียบจริงๆ คือโครงสร้าง ระบบ Multi-Agent ช่วยให้องค์กรสามารถปรับตัวให้เข้ากับความซับซ้อนและเปลี่ยนแปลงได้แบบเรียลไทม์ องค์กรที่พัฒนาไปไกลกว่าการใช้ตัวแทนอัตโนมัติ – ไปสู่การประสานการทำงานของพวกมัน – จะตั้งจังหวะการแข่งขันในรอบทศวรรษหน้า

รูโดง ยาง เป็น ผู้อำนวยการ กลยุทธ์ไอที สถาปัตยกรรมองค์กร และนวัตกรรม ที่ Lenovo โดยมีประสบการณ์ในอุตสาหกรรมมากกว่า 27 ปี โดยเชี่ยวชาญด้าน กลยุทธ์ไอที สถาปัตยกรรมองค์กร และการจัดการความรู้ รูโดงเคยดำรงตำแหน่งผู้นำและบทบาททางเทคนิคหลายตำแหน่ง รวมถึง ผู้เชี่ยวชาญอาวุโสด้านการพัฒนาซอฟต์แวร์ ผู้จัดการอาวุโสด้านการบูรณาการ ผู้อำนวยการด้านการบูรณาการและพัฒนา ผู้นำด้านเทคนิคสำหรับโครงสร้างพื้นฐานและบริการแอปพลิเคชัน และสถาปนิกองค์กร เขาเป็นคนรัก AI กลยุทธ์คลาวด์ และเทคโนโลยีที่เกิดขึ้นใหม่ และช่วยให้องค์กรขับเคลื่อนนวัตกรรมและการเปลี่ยนแปลงธุรกิจ รูโดงตั้งอยู่ที่ Morrisville, North Carolina