ผู้นำทางความคิด

จากเจตนาสู่การลงมือทำอย่างอิสระ: กำกับดูแลเอเจนต์ AI ในองค์กร

Casey Kindiger
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญธรรมาภิบาลต้องอยู่ภายในผลิตภัณฑ์…
ดูเพิ่มเติม
  • ธรรมาภิบาลต้องอยู่ภายในผลิตภัณฑ์ เพราะมันกำหนดว่าองค์กรสามารถมอบหมายความรับผิดชอบใดได้อย่างปลอดภัย
  • ระนาบควบคุมแบบเอเจนติกเชื่อมโยงตัวตนของเอเจนต์และความสามารถที่ได้รับอนุมัติเข้ากับการบังคับใช้นโยบายและการกำกับดูแลการดำเนินการ
  • องค์กรควรเริ่มต้นด้วยเวิร์กโฟลว์ที่แคบและขยายอำนาจของเอเจนต์เฉพาะเมื่อมีหลักฐานเชิงปฏิบัติการสนับสนุน

คำสั่งอย่าง “กู้คืนบริการ” ฟังดูตรงไปตรงมา จนกระทั่งเอเจนต์ AI ต้องตัดสินใจว่าคำสั่งนั้นให้อำนาจทำอะไรบ้าง การเริ่มแอปพลิเคชันใหม่ การเปลี่ยนการกำหนดค่า และการจัดเตรียมโครงสร้างพื้นฐานอาจล้วนช่วยให้บรรลุเป้าหมายดังกล่าวได้ แต่แต่ละอย่างก็นำไปสู่ผลที่แตกต่างกัน เมื่อเอเจนต์เปลี่ยนจากการแนะนำการดำเนินการมาเป็นการลงมือทำจริง องค์กรจำเป็นต้องเชื่อมโยงเจตนาทางธุรกิจเข้ากับอำนาจในการปฏิบัติงานอย่างชัดเจน

การกำกับดูแลควรเป็นส่วนหนึ่งของผลิตภัณฑ์ เพราะเป็นตัวกำหนดว่าองค์กรจะมอบหมายความรับผิดชอบใดได้อย่างมั่นใจ เอเจนต์ที่ทำงานให้เสร็จได้อย่างน่าเชื่อถือ ภายใต้ขอบเขตที่ตกลงกันไว้ และมีหลักฐานการดำเนินการ ย่อมเป็นรากฐานที่แข็งแกร่งกว่าสำหรับการนำไปใช้ในองค์กร เมื่อเทียบกับเอเจนต์ที่ยังมีอำนาจไม่ชัดเจน ความท้าทายด้านสถาปัตยกรรมคือการทำให้ขอบเขตเหล่านี้เป็นส่วนหนึ่งของการทำงานของระบบ

การนำขอบเขตเหล่านี้ไปใช้จริงจำเป็นต้องมีแนวทางที่สอดคล้องกันในการกำกับดูแลการทำงานของเอเจนต์ ระนาบควบคุมสำหรับเอเจนต์สามารถเป็นรากฐานนี้ได้ โดยเชื่อมโยงตัวตนของเอเจนต์ ความสามารถที่ได้รับอนุมัติ การบังคับใช้นโยบาย การควบคุมหน่วยความจำ และการกำกับดูแลการดำเนินการเข้าด้วยกันทั่วทั้งระบบองค์กรที่มีอยู่ ระนาบดังกล่าวจะระบุว่าใครเป็นผู้ร้องขอการดำเนินการนั้น มีอำนาจใดรองรับ เอเจนต์ส่งผลกระทบต่อทรัพยากรใดได้บ้าง และจะตรวจสอบผลลัพธ์อย่างไร

แนวทางปฏิบัติ 3 ข้อที่เราแนะนำสำหรับการกำกับดูแลเอเจนต์ AI ในองค์กรมีดังนี้

เชื่อมโยงความสามารถเข้ากับอำนาจที่ระบุไว้อย่างชัดเจน

เอเจนต์ทุกตัวควรมีเจ้าของที่ระบุตัวได้ มีวัตถุประสงค์ที่กำหนดไว้ และมีสิทธิ์ที่เหมาะสมกับงาน แนวทางนี้สอดคล้องกับ กรอบการบริหารความเสี่ยงด้าน AI ของ NIST ซึ่งถือว่าการกำกับดูแลเป็นหน้าที่ที่ต้องดำเนินอย่างต่อเนื่องตลอดวงจรชีวิตของ AI สำหรับเอเจนต์ หลักการนี้ต้องครอบคลุมไปจนถึงช่วงเวลาที่การดำเนินการเปลี่ยนแปลงระบบองค์กรด้วย เมื่อเอเจนต์ตัวหนึ่งมอบหมายงานต่อให้อีกตัวหนึ่ง ขอบเขตเหล่านั้นก็ควรยังคงเดิม

การค้นหาความสามารถของเครื่องมือก็ต้องอาศัยวินัยในลักษณะเดียวกัน โดยควรมีแค็ตตาล็อกที่ได้รับอนุมัติ ซึ่งระบุวัตถุประสงค์ ข้อมูลนำเข้า ผลลัพธ์ สภาพแวดล้อมที่อนุญาต และผลข้างเคียงที่อาจเกิดขึ้นของเครื่องมือแต่ละรายการ การค้นพบเครื่องมือไม่ได้หมายความว่าได้รับอนุญาตให้เรียกใช้ จึงต้องตรวจสอบสิทธิ์เมื่อมีการพยายามดำเนินการ แนวทางเรื่องการมอบอำนาจแก่เอเจนต์มากเกินไปของ OWASPตอกย้ำความแตกต่างนี้ด้วยคำแนะนำให้จำกัดฟังก์ชันและสิทธิ์ พร้อมบังคับใช้การอนุญาตในระบบปลายทาง

ลองพิจารณาตัวอย่างขั้นตอนการกู้คืนบริการ ซึ่งเอเจนต์ตรวจสอบสาเหตุที่แอปพลิเคชันทำงานช้าลงและเสนอให้เริ่มองค์ประกอบหนึ่งใหม่ นโยบายอนุญาตให้เข้าถึงข้อมูลเทเลเมทรีที่ได้รับอนุมัติ ขณะที่การเริ่มระบบจริงใหม่ต้องมีหลักฐานว่าระบบสำรองยังทำงานได้ดี และต้องได้รับอนุมัติจากเจ้าของบริการ เงื่อนไขเหล่านี้เปลี่ยนคำสั่งกว้าง ๆ ให้เป็นการตัดสินใจด้านปฏิบัติการที่มีขอบเขตชัดเจน

เปลี่ยนเจตนาในการปฏิบัติงานให้เป็นเครื่องมือที่อยู่ภายใต้การกำกับดูแล

หากมีเครื่องมือกู้คืนที่ได้รับอนุมัติแล้ว เอเจนต์ก็สามารถเตรียมคำขอโดยใช้ความสามารถนั้นได้ หากยังไม่มีเครื่องมือดังกล่าว เอเจนต์อาจช่วยสร้างสคริปต์ คู่มือขั้นตอนการปฏิบัติงาน สคีมาข้อมูลนำเข้า และคำอธิบายเครื่องมือ เพื่อแปลงเจตนาในการปฏิบัติงานให้เป็นความสามารถที่เสนอขึ้นและเปิดให้ผู้อื่นตรวจสอบได้ นี่คือประโยชน์ในทางปฏิบัติของการเขียนโค้ดเครื่องมือโดยเอเจนต์ กล่าวคือ เอเจนต์มีส่วนช่วยสร้างกลไกสำหรับการปฏิบัติงานได้ ไม่ใช่เพียงนำกลไกเหล่านั้นไปใช้

อย่างไรก็ตาม การสร้างกลไกดังกล่าวไม่ควรทำให้กลไกนั้นพร้อมใช้งานจริงในระบบผลิตโดยอัตโนมัติ ความสามารถที่เสนอขึ้นต้องผ่านกระบวนการเผยแพร่แยกต่างหาก ซึ่งมีผู้รับผิดชอบที่ตรวจสอบได้ การตรวจสอบความปลอดภัย การควบคุมเวอร์ชัน และการทดสอบที่ครอบคลุมข้อมูลนำเข้าที่ไม่ถูกต้อง ขอบเขตการทำงานที่กว้างเกินไป ความล้มเหลวบางส่วน และการเรียกใช้ซ้ำ การทดสอบที่เอเจนต์สร้างขึ้นอาจใช้เป็นหลักฐานประกอบได้ แต่ต้องมีการตรวจสอบยืนยันอย่างเป็นอิสระเพื่อประเมินว่าความสามารถนั้นเป็นไปตามข้อกำหนดด้านปฏิบัติการหรือไม่ ก่อนนำเข้าสู่แค็ตตาล็อกที่ได้รับอนุมัติ

จากนั้น ขอบเขตการดำเนินการควรจำกัดขอบเขตของทรัพยากร การเข้าถึงเครือข่าย ระยะเวลา และค่าใช้จ่าย โดยต้องผูกการอนุมัติที่จำเป็นเข้ากับการดำเนินการ เป้าหมาย และเวอร์ชันนั้นโดยเฉพาะ การเตรียมการกู้คืนก็สำคัญไม่แพ้กัน เพราะการเปลี่ยนแปลงบางอย่างสามารถย้อนกลับได้ ขณะที่บางอย่างต้องใช้การดำเนินการชดเชยหรือไม่สามารถย้อนคืนได้ ความสามารถแต่ละรายการควรระบุข้อจำกัดเหล่านี้ให้ชัดเจน และจัดให้ผู้ปฏิบัติงานมีวิธีที่ผ่านการทดสอบแล้วสำหรับระงับการดำเนินการเพิ่มเติม

หน่วยความจำทำให้เกิดความรับผิดชอบด้านการกำกับดูแลอีกประการหนึ่ง เพราะข้อสังเกตที่เก็บรักษาไว้อาจส่งผลต่อการตัดสินใจในอนาคต แม้บริบทเดิมจะเปลี่ยนไปนานแล้ว องค์กรควรกำหนดว่าเอเจนต์เก็บข้อมูลอะไรได้บ้าง ข้อมูลจะยังคงเข้าถึงได้เป็นเวลานานเท่าใด และมีขอบเขตการเข้าถึงใดบ้างที่ต้องใช้ โดยมีกลไกสนับสนุนด้านที่มาของข้อมูลและการแก้ไขข้อมูล สิทธิ์ที่จดจำไว้ต้องไม่กลายเป็นอำนาจถาวร และความรู้ด้านปฏิบัติการที่ล้าสมัยต้องไม่ชี้นำการดำเนินการใหม่อย่างเงียบ ๆ

ขยายความเป็นอิสระโดยอาศัยหลักฐาน

การกำกับดูแลอย่างมีประสิทธิผลต้องอาศัยหลักฐานที่เชื่อมโยงคำขอเดิม นโยบายที่เกี่ยวข้อง การอนุมัติ เวอร์ชันของเครื่องมือ ผลการดำเนินการ และการตรวจสอบยืนยันภายหลังเข้าด้วยกัน ผู้ตรวจสอบที่เป็นมนุษย์ต้องมีบริบทเพียงพอที่จะประเมินการเปลี่ยนแปลงที่เสนอ ความไม่แน่นอน และทางเลือกในการกู้คืน โดยไม่ถูกข้อมูลที่ไม่จำเป็นถาโถม เพื่อสนับสนุนการกำกับดูแลดังกล่าว ควรกำหนดเงื่อนไขในการยกระดับเรื่องไว้อย่างชัดเจน เช่น เมื่อพบข้อสังเกตที่ขัดแย้งกันหรือสถานะระบบที่ไม่คุ้นเคย แทนที่จะอาศัยเพียงความมั่นใจที่เอเจนต์แสดงออกมา

ผู้นำด้านไอทีควรเริ่มจากเวิร์กโฟลว์ที่มีขอบเขตแคบ แล้วค่อยขยายอำนาจให้ตัวแทน AI เมื่อหลักฐานจากการปฏิบัติงานสนับสนุน โดยวัดผลลัพธ์ที่สำเร็จควบคู่ไปกับข้อยกเว้น เวลาที่ใช้ในการกู้คืน การละเมิดนโยบาย และภาระงานด้านการกำกับดูแล ตัวชี้วัดเหล่านี้ช่วยพิจารณาว่าตัวแทน AI พร้อมรับผิดชอบงานมากขึ้นหรือไม่ และจำเป็นต้องมีมาตรการป้องกันหรือการทดสอบเพิ่มเติมในจุดใด

โอกาสอยู่ที่การทำให้การมอบหมายงานเกิดขึ้นซ้ำได้อย่างเป็นระบบ โดยความสามารถแต่ละอย่างที่ได้รับอนุมัติจะกำหนดว่าตัวแทน AI ทำอะไรได้ ภายใต้เงื่อนไขใด และต้องรับผิดชอบอย่างไร แนวทางที่มีวินัยเช่นนี้ช่วยเสริมสร้างความยืดหยุ่นและประสิทธิภาพ พร้อมทั้งทำให้องค์กรมีหลักเกณฑ์ที่ชัดเจนและตรวจสอบได้ในการมอบอำนาจให้ตัวแทน AI มากขึ้น ประเด็นสำคัญที่สุดคือ การกำกับดูแลจะมีบทบาทในผลิตภัณฑ์ได้อย่างแท้จริง เพราะทำให้การพัฒนาสู่ขั้นต่อไปเป็นไปได้

Casey Kindiger เป็นผู้ก่อตั้งและซีอีโอของ Droma (เดิมชื่อ Grokstream), บริษัท AI ระดับองค์กรที่พัฒนาการดำเนินงานเชิงพยากรณ์และเชิงตัวแทน, และผู้ประกอบการต่อเนื่องที่เคยก่อตั้ง Resolve Systems. ด้วยประสบการณ์กว่า 25 ปีในเทคโนโลยีระดับองค์กร, หนึ่งทศวรรษที่เป็นหัวหน้าทีมวิจัย AI/ML ประยุกต์, และปริญญาโทด้านจิตวิทยาและประสาทวิทยาเกี่ยวกับสุขภาพจิตจาก King’s College London, เขานำมุมมองที่โดดเด่นเกี่ยวกับวิธีที่การรับรู้ของมนุษย์สามารถให้ข้อมูลแก่การพัฒนา AI ที่มีความสามารถและน่าเชื่อถือยิ่งขึ้น.