การเปลี่ยนแปลงทางสถาปัตยกรรมที่จำเป็นในการควบคุม AI Agents

AI ไม่ใช่แค่ชัตบอทที่สร้างข้อความอีกต่อไป ในสภาพแวดล้อมขององค์กร AI Agents ได้ดำเนินการ เช่น การดึงข้อมูลที่มีความละเอียดอ่อน การกระตุ้นการทำงาน การเรียกเครื่องมือ และการบันทึกกิจกรรมทั่วระบบ ระบบอัตโนมัติเปลี่ยนการอภิปรายเกี่ยวกับการควบคุมทั้งหมด; การควบคุมและขั้นตอนแรกที่ออกแบบมาเพื่อผู้ใช้และแอปพลิเคชันแบบดั้งเดิมไม่ได้ถูกสร้างขึ้นเพื่อควบคุมซอฟต์แวร์ที่สามารถดำเนินการหลายขั้นตอนในเวลารันไทม์

ความเสี่ยงไม่ใช่ทางทฤษฎี ช่องว่างเล็กๆ ในด้านการมองเห็น การควบคุมการเข้าถึง และการตรวจสอบสามารถเพิ่มขึ้นอย่างรวดเร็ว และเปลี่ยนเป็น การล้มเหลวในเวลารันไทม์ ที่ยากต่อการตรวจจับและยากต่อการย้อนกลับ

เพื่อให้ทันในยุคใหม่นี้ การควบคุม AI Agents ไม่สามารถทำได้โดยการเพิ่มเอกสารนโยบาย มันจำเป็นต้องมีการควบคุมโดยการออกแบบ: การเข้าใกล้สถาปัตยกรรมที่การควบคุมถูกฝังอยู่ในระนาบควบคุมและบังคับใช้อย่างต่อเนื่องในเวลารันไทม์ หากตัวแทนจะดำเนินการเหมือนเพื่อนร่วมงานดิจิทัล พวกเขาต้องมีเครื่องมือป้องกันขององค์กรเหมือนกับมนุษย์ บวกกับการดูแลในเวลารันไทม์ที่เข้มงวดขึ้น

ทำไมการควบคุมถึงล้มเหลวในยุคแห่งการรวมตัว

สถาปัตยกรรมองค์กรได้เข้าสู่ยุคแห่งการรวมตัว ข้อมูลและงานโหลดปัจจุบันครอบคลุมหลายคลาวด์ เซ็นเตอร์ข้อมูลส่วนตัว และสภาพแวดล้อมเอดจ์

มีองค์กรที่ดำเนินแพลตฟอร์มในระบบขนานเนื่องจากพวกเขามีหลายกระบวนการที่ต้องจัดการพร้อมๆ กัน ซึ่งรวมถึงระบบอัตลักษณ์ที่แยกจากกัน ปายพ์ไลน์สำหรับการบันทึก คาตาล็อก และกระบวนการที่ได้รับการอนุมัติ ผลลัพธ์คือสิ่งที่บางคนเรียกว่า “แพลตฟอร์มแฟรงเกนสไตน์” ที่มีการบูรณาการที่เพิ่มขึ้นพร้อมกับการเพิ่มเครื่องมือหรือสภาพแวดล้อมคลาวด์ ในความเป็นจริง การกระจายส่วนนี้ปรากฏขึ้นในความเป็นจริงทุกวัน

ตาม การสำรวจล่าสุด 47% ของผู้ตอบแบบสอบถามอ้างถึงข้อกำหนดการเข้าถึงที่ซับซ้อนและกระบวนการ และ 44% อ้างถึงการมองเห็นข้อมูลที่จำกัดว่าอยู่ที่ไหนเป็นอุปสรรคต่อการใช้ข้อมูลอย่างมีประสิทธิภาพ

นี่คือจุดที่ตัวแทนแสดงให้เห็นถึงรอยต่อระหว่างระบบ

เพื่อตอบคำถามทางธุรกิจ ตัวแทนอาจต้องดึงข้อมูลจากระบบ ERP ระบบบนพื้นฐานที่มีอยู่ ระบบ CRM ในคลาวด์ ตลอดจนข้อมูลการทำงานในคลาวด์อื่นและเอกสารในสวิตซ์ความร่วมมือ หากองค์กรบังคับใช้นโยบายที่แตกต่างกันในแต่ละสถานที่ ตัวแทนจะล้มเหลวหรือในทางที่เลวร้ายกว่านั้น จะสำเร็จในทางที่คุณไม่สามารถอธิบายหรือควบคุมได้

นี่คือช่วงเวลาที่ผู้นำองค์กรต้องให้ความสนใจ ตัวแทนกำลังบังคับให้มีมาตรฐานที่สูงกว่าที่ต้องการความสอดคล้องระหว่างสภาพแวดล้อมและความรับผิดชอบในเวลารันไทม์

การควบคุม ด้วยเหตุผลนี้ จึงถูกดึงเข้าสู่จุดสนใจโดยหน่วยงานกำกับดูแลและหน่วยงานรักษาความปลอดภัย ตัวอย่างเช่น NIST AI Risk Management Framework ซึ่งเน้นการจัดการความเสี่ยงตลอดวงจรชีวิตของ AI ไม่ใช่แค่ในเวลาที่สร้าง มันเป็นคำเตือนให้เห็นว่าการปฏิบัติตามและความไว้วางใจเป็นความรับผิดชอบในการดำเนินงาน ไม่ใช่แค่รายการตรวจสอบครั้งเดียว

จากนโยบายไปสู่แพลตฟอร์ม

การควบคุมโดยการออกแบบหมายความว่าการควบคุมเดินทางพร้อมกับงานโหลด ไม่ใช่การนำไปใช้ใหม่ในแต่ละซิลโล ในการปฏิบัติ นี่ขึ้นอยู่กับบล็อกการสร้างที่มีสามส่วน:

• ระนาบควบคุมที่รวมเป็นหนึ่ง

ที่เดียวในการกำหนดและบังคับใช้การระบุตัวตน การเข้าถึง นโยบาย คาตาล็อก และสิทธิ์ในการเข้าถึงข้อมูลทั่วคลาวด์และศูนย์ข้อมูล

เป้าหมายคือการเขียนนโยบายเพียงครั้งเดียวและบังคับใช้ทุกที่ที่ข้อมูลและโมเดลทำงาน ไม่ใช่การสร้างระบบควบคุมใหม่ในระบบต่อระบบ ซึ่งจะป้องกันการเปลี่ยนแปลงพฤติกรรมของตัวแทน โดยที่ตัวแทนเดียวกันจะดำเนินการอย่างปลอดภัยในสภาพแวดล้อมหนึ่ง แต่ดำเนินการอย่างอันตรายในอีกสภาพแวดล้อมหนึ่ง

การทดสอบแบบปฏิบัติคือเรื่องง่าย: หากผู้ใช้ไม่สามารถเข้าถึงคอลัมน์หนึ่งได้ ตรวจสอบว่าตัวแทนซึ่งดำเนินการแทนผู้ใช้ไม่สามารถเข้าถึงคอลัมน์นั้นได้เช่นกัน ซึ่งควรบ่งชี้ว่านโยบายที่เขียนไว้ได้รับการบังคับใช้ทั่วระนาบหรือไม่

• ผ้าใบข้อมูลที่มีมาตรฐานเปิด

ตัวแทนจำเป็นต้องมีบริบทในการดำเนินการ เมื่อบริบทนั้นกระจายอยู่ทั่วโครงสร้างที่เป็นเจ้าของโดยทีมต่างๆ ผ้าใบข้อมูลจะช่วยให้มาตรฐานทางคำศัพท์และรูปแบบการเข้าถึง เพื่อให้ตัวแทนไม่ต้องเรียนรู้ชุดกฎใหม่สำหรับแต่ละชุดข้อมูล

รูปแบบตารางแบบเปิด เช่น Apache Iceberg สนับสนุนสิ่งนี้โดยการอนุญาตให้หลายเครื่องมือใช้ข้อมูลที่ควบคุมเดียวกันโดยไม่ต้องคัดลอกเข้าสู่ซิลโลใหม่ ซึ่งสำคัญเพราะการคัดลอกข้อมูลคือที่ที่การควบคุมมักล้มเหลว เมื่อทีมเริ่มคัดลอก “แค่สิ่งที่ตัวแทนจำเป็นต้องมี” คุณได้สร้างสภาพแวดล้อมใหม่ที่มีการควบคุมน้อยลง

หากตัวแทนสามารถดำเนินการข้ามชุดข้อมูลโดยไม่แนะนำช่องว่างใหม่ในการอนุญาต การควบคุมก็ทำงานตามที่ตั้งใจ

• การมองเห็นและสายพันธุ์ในเวลาจริง

ตัวแทนสามารถควบคุมได้เฉพาะในกรณีที่คุณสามารถมองเห็นได้ว่าพวกมันกำลังทำอะไรอยู่ในเวลารันไทม์

การมองเห็นในกรณีนี้ไม่ใช่แค่ “สิ่งที่ดี” แต่เป็นพื้นฐานสำหรับการควบคุมในเวลารันไทม์และการตอบสนองต่อเหตุการณ์

โดยเฉพาะอย่างยิ่ง จำเป็นต้องมีหลักฐานที่สมบูรณ์เกี่ยวกับการดำเนินการของตัวแทน ตัวแทนควรสามารถพิสูจน์การดำเนินการ เช่น ข้อมูลใดที่ถูกเข้าถึงและเครื่องมือใดที่ถูกเรียก และจากนั้น สายพันธุ์สามารถเชื่อมต่อผลลัพธ์กลับไปยังอินพุตได้ ซึ่งช่วยให้ทีมสามารถตรวจสอบการตัดสินใจและแก้ไขความล้มเหลวได้หากจำเป็น โดยพิสูจน์ความสอดคล้องโดยรวม

ปฏิบัติตัวแทนเหมือน “เพื่อนร่วมงานดิจิทัล”

หนึ่งในรูปแบบที่มีประโยชน์ที่สุดคือการปฏิบัติตัวแทนเหมือน “เพื่อนร่วมงานดิจิทัล”

นี่คือการเปรียบเทียบที่แบ่งสิ่งนี้ออก: เช่นเดียวกับพนักงานที่มีเครื่องหมายการเข้าถึงที่ให้เข้าถึงอาคารและห้องบางแห่ง แต่ไม่ใช่ทั้งหมด การควบคุมช่วยให้ตัวแทนสามารถเข้าถึงได้พร้อมกับการจำกัดขอบเขต หนึ่งในการเพิ่มที่สำคัญคือตัวแทนจะต้องตระหนักถึงสถานการณ์ของสิ่งที่พวกมันถูก phépเปิดเผย

พิจารณาตัวแทนสนับสนุน มันอาจต้องเข้าถึงกรณีการสนับสนุนก่อนหน้านี้เพื่อแก้ปัญหา แต่ไม่สามารถรั่วไหลรายละเอียดส่วนตัวของลูกค้าอื่นในขณะทำเช่นนั้น กล่าวอีกนัยหนึ่ง ตัวแทนสามารถใช้ความรู้ที่จำกัดเพื่อเหตุผล แต่ยังคงต้องบังคับใช้ขอบเขตการเปิดเผย นี่ไม่ใช่ “ปัญหาในการเขียนคำสั่ง” ที่เรารู้วิธีจัดการในอดีต แต่เป็นปัญหาการระบุตัวตนและการบังคับใช้ในเวลารันไทม์

สิ่งที่เปลี่ยนแปลงในปี 2026: ตัวแทนย้ายจากการทดลองไปสู่การผลิต

2026 คือปีที่การทดลองสิ้นสุดลง และตัวแทนเข้าร่วมการผลิต

การเปลี่ยนแปลงนี้บังคับให้องค์กรมีการดำเนินการที่สองความเร็ว หนึ่งคือความเร็วในการนวัตกรรม โดยที่ทีมทดสอบโมเดลเครื่องมือและเวิร์กโฟลว์ของตัวแทนใหม่ๆ เพื่อให้ได้ข้อได้เปรียบในการแข่งขัน และอีกอย่างคือความเร็วในการรักษาความปลอดภัย โดยที่ระบบต้องตอบสนองข้อกำหนดในการปฏิบัติตามและดำเนินการ ซึ่งอาจรวมถึงการควบคุมการเข้าถึงที่เข้มงวดและจุดบอด

หากไม่มีการออกแบบการควบคุมทางสถาปัตยกรรมที่กำหนดไว้ ความเร็วเหล่านี้จะขัดแย้งกัน

หากทีมติดตั้งตัวแทนเหล่านี้ก่อนที่จะถูกควบคุม จะมีการควบคุมแบบพาร์ตไทม์และความล้มเหลวในการดำเนินงาน และหากสิ่งที่ตรงกันข้ามเกิดขึ้น คุณจะได้รับรูปแบบการล้มเหลวที่ความปลอดภัยจะขัดขวางทุกอย่าง และนวัตกรรมจะย้ายไปสู่ IT ที่ซ่อนอยู่ ซึ่งบ่อนทำลายการควบคุม

วัตถุประสงค์ไม่ใช่การเลือกความเร็ว แต่คือการสร้างสถาปัตยกรรมที่รองรับทั้งสองความเร็ว

รายการตรวจสอบเชิงปฏิบัติสำหรับการควบคุมตัวแทนในเวลารันไทม์

• หากคุณกำลังสร้างหรือปรับขนาดตัวแทน จะเป็นการจำเป็นที่ต้องถามตัวเองว่าคำถามต่อไปนี้เพื่อเปิดเผยว่าการควบคุมเป็นทางสถาปัตยกรรมจริงๆ หรือไม่: คุณสามารถอธิบายได้ว่าข้อมูลใดที่ตัวแทนเข้าถึงเพื่อสร้างคำตอบหรือดำเนินการ?
• การตัดสินใจในการเข้าถึงสอดคล้องกันระหว่างสภาพแวดล้อมไฮบริดหรือไม่ หรือแตกต่างกันไปตามแพลตฟอร์ม?
• คุณมีการติดตามตัวแทนสำหรับการดำเนินการ รวมถึงการเรียกเครื่องมือ การตรวจสอบนโยบาย และการยกเลิกไปยังมนุษย์หรือไม่?
• คุณสามารถลดความเร็ว หยุด หรือแยกตัวแทนในเวลารันไทม์หากมันแสดงพฤติกรรมที่ไม่คาดคิด?
• คุณมีแผนการตรวจสอบหลังการปรับใช้ที่สอดคล้องกับภาระผูกพันทางกฎระเบียบและความอยากได้ความเสี่ยงของคุณหรือไม่?

หากคุณไม่สามารถตอบคำถามเหล่านี้ได้ ให้รักษาการติดตั้งตัวแทนเหมือนกับเหตุการณ์การผลิตที่รอเกิดขึ้น

การเปลี่ยนแปลงการควบคุมต้องเป็นทางสถาปัตยกรรม หรือไม่เช่นนั้นจะไม่มีอยู่

ตัวแทนจะกลายเป็นส่วนเสริมมาตรฐานของการดำเนินงานองค์กร คำถามคือว่าพวกเขาจะกลายเป็นส่วนเสริมที่เชื่อถือได้ของการดำเนินงานองค์กรหรือไม่

หากตัวแทนไม่ได้รับการควบคุมอย่างมั่นใจ至少เท่ากับมนุษย์และซอฟต์แวร์ภารกิจที่สำคัญ ผลที่ตามมาจะเกิดขึ้นจริง เราจะเห็นผลกระทบเหล่านั้นในเรื่องการรั่วไหลของข้อมูล การล้มเหลวในการปฏิบัติตามข้อกำหนด การหยุดชะงักในการดำเนินงาน และการสูญเสียความไว้วางใจในโปรแกรม AI

ผู้นำต้องหยุดปฏิบัติต่อการควบคุมตัวแทนเหมือนกับการออกเอกสาร การควบคุมตัวแทนควรเป็นหนึ่งในสิ่งที่รับผิดชอบต่อการดูแลบทบาทอื่นๆ ซึ่งหมายถึงการฝังการควบคุมในระนาบควบคุม การทำให้การดำเนินการมองเห็นได้ และการตัดสินใจสามารถตรวจสอบได้ แล้วจึงขยายขนาด

นั่นคือวิธีที่คุณได้รับตัวแทนซึ่งเคลื่อนที่เร็วโดยไม่ทำลายองค์กร