AI Agents สามารถทำงานได้. แต่ธุรกิจสามารถดำเนินการพวกมันได้หรือไม่?

เอเจนต์ AI กำลังทำได้ดีอย่างน่าประหลาดใจในการทำงานต่าง ๆ ให้เอเจนต์หนึ่งมีเป้าหมาย, การเข้าถึงเครื่องมือที่เหมาะสม, บริบทที่เพียงพอ, และเวิร์กโฟลว์ที่กำหนดไว้อย่างชัดเจน, แล้วมันจะสามารถค้นคว้าข้อมูล, วิเคราะห์เอกสาร, ตัดสินใจ, ปรับปรุงระบบ, และประสานงานกับเอเจนต์อื่นได้.

นั่นคือส่วนที่น่าตื่นเต้นของ Agentic AI และเป็นส่วนที่เรามักเห็นในการสาธิต

การดำเนินงานขององค์กรต่างกัน การสมัครสินเชื่อเปลี่ยนแปลงกลางกระบวนการตรวจสอบ ลูกค้าให้ข้อมูลใหม่หลังจากการตรวจสอบเสร็จสิ้น ระบบสองระบบไม่ตรงกันเกี่ยวกับบัญชีเดียว การอนุมัติที่ใช้ได้เมื่อวานอาจไม่ใช้ได้อีกต่อไป เอเจนต์สรุปกรณีก่อนส่งต่อให้เอเจนต์คนอื่นและรายละเอียดเล็ก ๆ ที่ดูเหมือนจะไม่สำคัญอาจหายไปในกระบวนการ.

เส้นทางที่ราบรื่นอาจเป็นตัวแทนของ 80% ของสิ่งที่เอเจนต์ต้องทำ ส่วนองค์กรดำเนินการใน 20% ที่เหลือ

การจัดกรอบ 80/20 ไม่ได้เป็นสถิติของอุตสาหกรรม แต่เป็นวิธีอธิบายว่าความซับซ้อนในการดำเนินงานมักซ่อนอยู่ที่ไหน ส่วนที่ยากของการดำเนินงานขององค์กรมักไม่ใช่กรณีปกติ แต่เป็นข้อยกเว้น, การส่งต่อ, การพึ่งพา, บริบทที่เปลี่ยนแปลง, และการตัดสินใจที่องค์กรต้องรับผิดชอบต่อผลลัพธ์

เมื่อ AI ย้ายจากการตอบคำถามไปสู่การกระทำ ความซับซ้อนในการดำเนินงานนี้จึงมีความสำคัญมากขึ้น องค์กรจะต้องคิดไกลกว่าการสร้างเอเจนต์และเริ่มพิจารณาวิธีการดำเนินงานของเอเจนต์

นั่นคือที่ Agentic Operationsเริ่มต้น

From Generating Answers to Taking Actions

คลื่นแรกของ Generative AI ในระดับองค์กรส่วนใหญ่เกี่ยวกับข้อมูล โมเดลสรุปเอกสาร, สร้างรายงาน, ตอบคำถาม, ค้นหาความรู้ขององค์กร, และช่วยพนักงานทำงานที่มีอยู่ให้เร็วขึ้น.

เอเจนต์นำเสนอสิ่งที่แตกต่างอย่างพื้นฐาน พวกเขาสามารถกระทำที่เปลี่ยนแปลงสถานะของกระบวนการธุรกิจได้ เอเจนต์สามารถอนุมัติหรือปฏิเสธสิ่งใดสิ่งหนึ่ง, ปรับปรุงระบบบันทึก, ส่งการสื่อสารถึงลูกค้า, เริ่มกระบวนการทำงานอื่น, เรียกเอเจนต์อื่น, หรือทำการตัดสินใจที่กำหนดสิ่งที่จะเกิดขึ้นต่อไป.

OpenAI อธิบายเอเจนต์ในคู่มือเชิงปฏิบัติของตนเป็นระบบที่ทำงานอย่างอิสระเพื่อดำเนินภารกิจแทนผู้ใช้, โดยใช้โมเดลเพื่อจัดการการดำเนินเวิร์กโฟลว์และเครื่องมือเพื่อโต้ตอบกับระบบภายนอก. ผลลัพธ์เชิงปฏิบัติของคำตอบที่ไม่ถูกต้องแตกต่างอย่างมากจากผลของการกระทำที่ไม่ถูกต้อง

ดังนั้นคำถามขององค์กรจึงเปลี่ยนไป ไม่เพียงพอที่จะถามว่าโมเดลสร้างคำตอบที่ดีหรือไม่ หรือว่าเอเจนต์ทำภารกิจที่มอบหมายสำเร็จหรือไม่แล้ว องค์กรต้องการทราบว่าการกระทำควรเกิดขึ้นหรือไม่เลย, ภายใต้บริบทธุรกิจ, นโยบาย, อำนาจ, และทุกสิ่งที่เกิดขึ้นก่อนหน้านั้นในกระบวนการ

รูปที่ 1: Generative AI สร้างผลลัพธ์. Agentic AI เปลี่ยนแปลงสถานะธุรกิจ.

เมื่อ AI สามารถเปลี่ยนแปลงสถานะธุรกิจและมีอิทธิพลต่อการตัดสินใจต่อไป ความน่าเชื่อถือจึงไม่สามารถวัดได้เพียงระดับโมเดลอีกต่อไป

เอเจนต์หนึ่งสามารถประสบความสำเร็จได้แม้กระบวนการทางธุรกิจล้มเหลว

ลองพิจารณากระบวนการตรวจสอบสินเชื่อที่ขับเคลื่อนด้วย AI เอเจนต์หนึ่งดึงเอกสารใบสมัคร, อีกเอเจนต์ตรวจสอบรายได้, อีกเอเจนต์ประเมินข้อมูลเครดิต, และเอเจนต์ต่อมาสรุปกรณีก่อนที่เอเจนต์ตรวจสอบสินเชื่อจะทำหรือแนะนำการตัดสินใจ.

แต่ละเอเจนต์มีความรับผิดชอบที่กำหนดอย่างชัดเจนและแต่ละเอเจนต์สามารถปฏิบัติความรับผิดชอบนั้นได้อย่างถูกต้อง เอเจนต์เอกสารสามารถดึงข้อมูลที่ถูกต้อง เอเจนต์ตรวจสอบรายได้สามารถทำภารกิจของตนสำเร็จ เอเจนต์สรุปสามารถสร้างสรุปที่แม่นยำของข้อมูลที่มีอยู่ให้ได้ เอเจนต์ตรวจสอบสินเชื่อสามารถปฏิบัติตามคำแนะนำของตนได้อย่างถูกต้อง

การตัดสินใจทางธุรกิจขั้นสุดท้ายอาจยังคงเป็น ผิด.

ลองนึกว่าข้อมูลรายได้ที่อัปเดตมาถึงหลังจากการตรวจสอบแรกเอกสารใหม่ถูกประมวลผล แต่ความสำคัญของมันลดลงเมื่อกรณีถูกสรุปสำหรับขั้นตอนต่อไป เอเจนต์ตรวจสอบสินเชื่อขั้นสุดท้ายได้รับสรุปที่สมเหตุสมผล แต่ไม่ได้รับบริบทธุรกิจทั้งหมดที่มีอยู่ตลอดกระบวนการ.

ไม่มีอะไรต้องพังอย่างจำเป็น ไม่มี API ใดล้มเหลว ไม่มีเอเจนต์ใดที่ต้องประสบกับการหลอนอย่างจำเป็น แต่ละส่วนอาจรายงานการดำเนินการสำเร็จในขณะที่กระบวนการธุรกิจไปสู่ผลลัพธ์ที่ผิด

Anthropic กล่าวถึงความท้าทายที่เกี่ยวข้องในแนวทางการสร้างเอเจนต์ที่มีประสิทธิภาพของตน, โดยระบุว่าระบบอัตโนมัติอาจเผชิญกับข้อผิดพลาดสะสมเมื่อทำขั้นตอนมากขึ้น. ปัญหานี้จึงกว้างกว่าความแม่นยำของโมเดล เนื่องจากสถานะ, บริบท, การตัดสินใจ, และสมมติฐานเคลื่อนย้ายผ่านเวิร์กโฟลว์

นี่สร้างความแตกต่างที่สำคัญระหว่าง ความน่าเชื่อถือของเอเจนต์และความน่าเชื่อถือของกระบวนการธุรกิจ. องค์กรไม่ได้ประสบกับเอเจนต์แต่ละตัวโดยตรง แต่ประสบกับผลลัพธ์ที่สร้างโดยกระบวนการทั้งหมด.

รูปที่ 2: ความสำเร็จในระดับท้องถิ่นไม่ได้รับประกันความสำเร็จของธุรกิจ

นี่เป็นหนึ่งในการเปลี่ยนแปลงสำคัญที่นำโดย AI แบบเอเจนต์ กระบวนการทำงานอาจล้มเหลวแม้ทุกส่วนประกอบดูเหมือนมีสุขภาพดีเมื่อประเมินแยกกัน

ความสามารถไม่เท่ากับอำนาจ

ส่วนใหญ่ของสแต็กเอเจนต์ในปัจจุบันมุ่งเน้นที่ความสามารถอย่างเข้าใจได้ ทีมต้องการรู้ว่าเอเจนต์สามารถให้เหตุผล เลือกเครื่องมือที่เหมาะสม ทำงานให้เสร็จ ฟื้นตัวจากข้อผิดพลาด และทำงานด้วยความแม่นยำและความหน่วงเวลาที่ยอมรับได้หรือไม่

องค์กรมีความต้องการเพิ่มเติมอีกประการหนึ่ง: อำนาจ

สมมติว่าเอเจนต์การประเมินสินเชื่อสามารถอนุมัติสินเชื่อได้ นั่นไม่ได้หมายความว่ามันควรอนุมัติสินเชื่อทุกกรณีที่มันสามารถประเมินได้ อำนาจของมันอาจขึ้นอยู่กับจำนวนเงินกู้ ประเภทความเสี่ยง ประเภทลูกค้า หลักฐานที่มีอยู่ ระดับความมั่นใจ การตัดสินใจก่อนหน้า หรือว่าการสมัครเปลี่ยนแปลงหลังจากการตรวจสอบครั้งก่อน

นี่สร้างขอบเขตระหว่างสิ่งที่เอเจนต์ ทำได้ กับสิ่งที่เอเจนต์ ได้รับอนุญาตให้ทำ.

OpenAI แนะนำให้ประเมินความเสี่ยงที่เกี่ยวข้องกับเครื่องมือเอเจนต์และเพิ่มมาตรการป้องกันหรือการแทรกแซงของมนุษย์ในกรณีของการกระทำที่อ่อนไหวและไม่สามารถย้อนกลับได้ Microsoft ใช้วิธีการที่คล้ายกันในแนวทางของตนสำหรับกระบวนการธุรกิจหลักที่ดำเนินโดยเอเจนต์, โดยที่เอเจนต์สามารถทำการตัดสินใจประจำวันภายในขอบเขตที่กำหนดไว้ในขณะที่สิทธิ์การตัดสินใจกำหนดว่าการกระทำใดสามารถทำได้โดยอิสระและการกระทำใดต้องได้รับการอนุมัติจากมนุษย์

เมื่อความสามารถของเอเจนต์พัฒนา ความแตกต่างนี้ยิ่งสำคัญมากขึ้น ไม่ใช่น้อยลง เอเจนต์ที่มีความสามารถมากขึ้นสามารถทำการกระทำที่มีผลสำคัญมากขึ้น ดังนั้นองค์กรจึงต้องการวิธีที่ชัดเจนยิ่งขึ้นในการกำหนดและบังคับขอบเขตที่อนุญาตให้ทำการกระทำนั้น

คำถามเปลี่ยนจาก เอเจนต์ทำสิ่งนี้ได้หรือไม่? ไปเป็น ภายใต้เงื่อนไขใดบ้างที่เอเจนต์ควรได้รับอนุญาตให้ทำสิ่งนี้?

นโยบายธุรกิจต้องเข้าใกล้การดำเนินการมากขึ้น

องค์กรมีกลไกที่กว้างขวางสำหรับควบคุมกระบวนการที่ดำเนินโดยมนุษย์ พวกเขาใช้ SOPs, ตารางการอนุมัติ, นโยบายการปฏิบัติตาม, เกณฑ์ความเสี่ยง, การฝึกอบรม, การแยกหน้าที่, การตรวจสอบ, และขั้นตอนการยกระดับ ส่วนใหญ่ของกลไกเหล่านี้ถูกออกแบบโดยอิงสมมติฐานง่าย: บุคคลอ่านกฎ, เข้าใจสถานการณ์, และนำกฎไปใช้ขณะทำงาน

เอเจนต์ทำให้สมมติฐานนั้นเปลี่ยนไป

พิจารณานโยบายที่กำหนดให้ต้องมีการอนุมัติรองสำหรับธุรกรรมที่เกินเกณฑ์ที่กำหนด เมื่อมนุษย์ทำงานนั้น นโยบายสามารถอยู่ในเอกสารที่ได้รับการสนับสนุนจากการฝึกอบรมและการควบคุมกระบวนการทำงาน เมื่อเอเจนต์สามารถดำเนินการหลายร้อยหรือหลายพันการกระทำอย่างรวดเร็ว การมีเอกสารนโยบายนั้นเองไม่ได้ป้องกันการกระทำที่ละเมิดนโยบาย

ระหว่างนโยบายที่เขียนไว้กับการกระทำทางธุรกิจ นโยบายต้องกลายเป็นการปฏิบัติได้

นี่ไม่ได้หมายความว่านโยบายทุกอย่างต้องกลายเป็นโค้ดที่กำหนดอย่างแน่นอน บางการควบคุมจะเป็นแบบกำหนดแน่นอนบางส่วนจะต้องการการตีความเชิงความหมายบางส่วนจะขึ้นอยู่กับความเสี่ยงหรือความมั่นใจ และส่วนอื่น ๆ จะยังคงต้องอาศัยการตัดสินใจของมนุษย์ การเปลี่ยนแปลงสถาปัตยกรรมที่ใหญ่ขึ้นคือ นโยบายธุรกิจเริ่มเคลื่อนตัวเข้าใกล้เส้นทางการดำเนินการ

AWS เน้นประเด็นนี้โดยเฉพาะในบริบทของ AI แบบเอเจนต์ในบริการทางการเงิน, รวมถึงความจำเป็นในการตรวจสอบความถูกต้องของการกระทำของเอเจนต์ตามนโยบายและเส้นทางการตรวจสอบรอบกิจกรรมที่มีผลสำคัญ

โดยประวัติศาสตร์ องค์กรสามารถกำหนดข้อกำหนดการกำกับดูแลหลายอย่างก่อนการดำเนินการและตรวจสอบความสอดคล้องภายหลังผ่านการตรวจสอบและการทบทวน เมื่อระบบอัตโนมัติทำงานอย่างต่อเนื่องและด้วยความเร็วของเครื่องบางการควบคุมจำเป็นต้องทำงานขณะกระบวนการกำลังดำเนินอยู่

การมีมนุษย์ในวงจรเป็นสิ่งจำเป็น แต่ไม่ใช่โมเดลการดำเนินงาน

การตอบสนองที่พบบ่อยที่สุดต่อความไม่แน่นอนในกระบวนการ AI คือการใส่มนุษย์เข้ามาในวงจร ซึ่งเป็นเรื่องที่สมเหตุสมผลโดยเฉพาะสำหรับการตัดสินใจที่มีผลสำคัญ แต่ก็กลายเป็นปัญหาเมื่อการตรวจสอบของมนุษย์ถูกมองว่าเป็นคำตอบสำหรับทุกข้อยกเว้น

จินตนาการถึงการดำเนินงานแบบเอเจนต์ที่ประมวลผลการตัดสินใจเป็นจำนวนพันหรือหลายล้าน หากสถานการณ์แปลกทุกกรณี ผลลัพธ์ที่มีความมั่นใจต่ำ ความคลุมเครือของนโยบาย หรือข้อยกเว้นทั้งหมดถูกส่งต่อให้คนจัดการ องค์กรไม่ได้กำจัดคอขวดการดำเนินงาน เพียงแต่ย้ายคอขวดไปยังคิวการตรวจสอบเท่านั้น เมื่อเวลาผ่านไป สิ่งนี้อาจสร้างปัญหาอีกประการหนึ่ง: เมื่อมนุษย์ต้องอนุมัติการตัดสินใจประจำวันจำนวนมาก การตรวจสอบของมนุษย์เองอาจสูญเสียความหมาย

มนุษย์ยังคงมีความสำคัญ แต่บทบาทของพวกเขาต้องเปลี่ยนไป แทนที่จะตรวจสอบทุกการตัดสินใจ พวกเขาควรมุ่งเน้นที่สถานการณ์ที่ต้องการการตัดสินใจจริง ๆ ที่อำนาจของเอเจนต์ถึงขีดจำกัด หรือเมื่อระบบเจอสภาวะที่ไม่ควรแก้ไขด้วยตนเอง

ดังนั้นโมเดลการดำเนินงานที่ขยายได้จึงไม่สามารถพึ่งพาการให้คะแนนความเสี่ยงและการตรวจสอบโดยมนุษย์เพียงอย่างเดียว ก่อนที่การกระทำของเอเจนต์จะกลายเป็นการกระทำทางธุรกิจ ระบบต้องพิจารณาบริบททางธุรกิจในปัจจุบัน นโยบายที่เกี่ยวข้อง อำนาจของเอเจนต์ และสิ่งที่เกิดขึ้นแล้วในกระบวนการทำงาน ผลลัพธ์อาจเป็นการดำเนินต่อไป การขอหลักฐานเพิ่มเติม การระงับการกระทำ หรือการส่งต่อการตัดสินใจให้กับมนุษย์

รูปที่ 3: การตรวจสอบโดยมนุษย์กลายเป็นหนึ่งในผลลัพธ์ของการควบคุมระหว่างการทำงาน

สิ่งนี้เปลี่ยนบทบาทของการกำกับดูแลโดยมนุษย์ คนไม่ถูกแทรกเข้าไปในทุกขั้นตอนที่ไม่แน่นอนโดยอัตโนมัติ การแทรกแซงของมนุษย์จึงกลายเป็นหนึ่งในผลลัพธ์ที่เป็นไปได้เมื่อบริบททางธุรกิจ นโยบาย อำนาจ หรือผลของการกระทำต้องการการตัดสินใจ

ความแตกต่างนี้สำคัญสำหรับระดับองค์กร การกระทำบางอย่างควรดำเนินต่อโดยอัตโนมัติเพราะอยู่ในขอบเขตของนโยบายและอำนาจอย่างชัดเจน บางอย่างควรหยุดชั่วคราวเพราะขาดหลักฐานที่จำเป็นหรือสถานะธุรกิจเปลี่ยนแปลงแล้ว ส่วนอื่น ๆ ควรส่งต่อเพราะการตัดสินใจได้ข้ามขอบเขตที่องค์กรตั้งใจสงวนไว้สำหรับคน

เป้าหมายไม่ใช่การตัดคนออกจากวงจร แต่คือการวางคนไว้ในวงจรที่เหมาะสม, ในขณะที่อนุญาตให้การตัดสินใจประจำวันดำเนินต่อภายในขอบเขตที่กำหนดอย่างชัดเจน เมื่อระบบเอเจนต์ขยายขนาด คุณภาพของการกำกับดูแลโดยมนุษย์อาจพึ่งพาน้อยลงว่ามีการตรวจสอบการตัดสินใจกี่รายการและพึ่งพามากขึ้นว่า ระบบปฏิบัติการสามารถระบุการตัดสินใจที่การตัดสินใจของมนุษย์มีความสำคัญจริงหรือไม่

การมองเห็นเป็นสิ่งจำเป็น แต่การเห็นไม่เท่ากับการควบคุม

อุตสาหกรรมได้ก้าวหน้ามากในด้านการมองเห็น AI ทีมงานสามารถตรวจสอบพรอมต์, การตอบสนองของโมเดล, ร่องรอย, การเรียกใช้เครื่องมือ, ความหน่วง, การใช้โทเคน, และโดยค่อยๆ ครอบคลุมเส้นทางเต็มที่เอเจนต์ทำตามก่อนสร้างผลลัพธ์

การมองเห็นนี้เป็นสิ่งจำเป็น. คำแนะนำของ OpenAI เกี่ยวกับความปลอดภัยและการประเมินของเอเจนต์ ยังเน้นเทคนิคเช่นการประเมินและการให้คะแนนร่องรอยเพื่อทำความเข้าใจพฤติกรรมของเอเจนต์

แต่การมองเห็นอย่างเดียวไม่สามารถแก้ปัญหาการดำเนินงานได้

ลองนึกถึงการค้นพบว่าเอเจนต์การประเมินความเสี่ยงละเมิดนโยบายการอนุมัติ 2,700 ครั้งเมื่อสัปดาห์ที่ผ่านมา นั่นจะแสดงถึงการมองเห็นที่ยอดเยี่ยมแต่การดำเนินงานที่แย่มาก

สำหรับกระบวนการธุรกิจที่มีผลสำคัญ บริษัทในที่สุดต้องการความสามารถไม่เพียงแค่เข้าใจพฤติกรรมของเอเจนต์ แต่ยังต้องตอบสนองขณะกระบวนการกำลังทำงาน

รูปที่ 4: วงจรการควบคุมการดำเนินงาน

การมองเห็นตอบว่า เอเจนต์ทำอะไร. การดำเนินงานแบบเอเจนต์ยังต้องตอบว่า เอเจนต์ควรดำเนินต่อหรือไม่.

ความแตกต่างนั้นมีความสำคัญเป็นพิเศษเมื่อการกระทำมีค่าใช้จ่ายสูง มีผลสำคัญ ยากต่อการย้อนกลับ หรือสามารถมีอิทธิพลต่อการตัดสินใจต่อเนื่องหลายรายการ

ความล้มเหลวที่ยากที่สุดอาจเกิดขึ้นระหว่างเอเจนต์

มีความท้าทายอีกประการที่ปรากฏเมื่อองค์กรก้าวสู่กระบวนการทำงานหลายเอเจนต์และดำเนินเวลานาน นโยบายธุรกิจหลายอย่างไม่ได้จำกัดอยู่ที่การกระทำเดียว

ลองพิจารณานโยบายที่จำกัดการเปิดเผยทางการเงินรวมทั้งหมดตลอดลำดับการตัดสินใจ ธุรกรรมแต่ละรายการอาจอยู่ต่ำกว่าขีดจำกัดที่กำหนดในขณะที่การเปิดเผยรวมเกินขีดจำกัด การมองแต่ละการกระทำแยกกันจะไม่พบการละเมิด

ปัญหาเดียวกันอาจเกิดขึ้นกับอำนาจ เอเจนต์อาจได้รับอนุญาตให้เก็บข้อมูลแต่ไม่สามารถตัดสินใจขั้นสุดท้ายได้ หลังจากการส่งต่อหลายครั้ง เอเจนต์ต่อเนื่องอาจได้รับข้อมูลโดยไม่รักษาข้อจำกัดอำนาจที่แนบมากับงานต้นทาง แต่ละขั้นตอนอาจดูสมเหตุสมผลในขณะที่ลำดับทั้งหมดละเมิดกระบวนการธุรกิจที่ตั้งใจ

บริบทสร้างปัญลักษณ์คล้ายกัน ข้อมูลที่สำคัญในขั้นตอนแรกของกระบวนการทำงานอาจถูกสรุป เปลี่ยนแปลง หรือละเว้นหลายขั้นตอนต่อมา เอเจนต์ต่อเนื่องไม่สามารถให้เหตุผลเกี่ยวกับข้อมูลที่ไม่มีแล้วได้ แม้ว่าการให้เหตุผลของมันจะถูกต้องในแง่อื่น

ความล้มเหลวเหล่านี้บ่งชี้ว่าหน่วยของความน่าเชื่อถือต้องขยายขอบเขต

เราจะยังคงประเมินโมเดลโดยถามว่าการตอบของพวกเขาถูกต้องหรือไม่ เราจะประเมินเอเจนต์โดยถามว่าพวกเขาทำงานของตนสำเร็จอย่างถูกต้องหรือไม่ แต่ในระดับกระบวนการทำงาน คำถามจะกลายเป็นว่าข้อมูล อำนาจ และนโยบายยังคงอยู่ตลอดลำดับการกระทำหรือไม่ ในระดับธุรกิจ คำถามจะเป็นว่าผลลัพธ์สุดท้ายนั้นถูกต้องและได้รับอนุญาตหรือไม่

สิ่งนี้สอดคล้องกับมุมมองวงจรชีวิตที่กว้างขึ้นใน NIST AI Risk Management Framework ซึ่งเน้นการวัดและการจัดการความเสี่ยงของ AI อย่างต่อเนื่อง แทนที่จะมองการประเมินเป็นกิจกรรมครั้งเดียวก่อนการปรับใช้

นี่คือจุดเริ่มต้นของการดำเนินงานแบบเอเจนต์

การกำกับดูแล AI, การประเมินโมเดล, LLMOps, การสังเกต, ความปลอดภัย, และ AI ที่รับผิดชอบได้แล้วจัดการส่วนสำคัญของการดำเนินระบบ AI อยู่แล้ว การดำเนินการแบบ Agentic ไม่ได้มาแทนที่สาขาเหล่านี้ มันมุ่งเน้นที่ชั้นการดำเนินงานซึ่งมีความสำคัญเมื่อระบบอัตโนมัติและกึ่งอัตโนมัติเข้าร่วมกระบวนการธุรกิจโดยตรง

การดำเนินการแบบ Agentic คือสาขาวิชาการดำเนินระบบ AI ที่อัตโนมัติและกึ่งอัตโนมัติภายในกระบวนการธุรกิจจริง รวมถึงวิธีการจัดการอำนาจ, บริบท, การตัดสินใจ, ข้อยกเว้น, การแทรกแซงของมนุษย์, และความรับผิดชอบระหว่างการดำเนินงาน

ความแตกต่างนี้สำคัญเพราะวัตถุที่กำลังจัดการไม่ได้เป็นเพียงโมเดลอีกต่อไป แต่เป็นกระบวนการธุรกิจที่ต่อเนื่องซึ่งซอฟต์แวร์สามารถตัดสินใจและดำเนินการได้โดยอิสระ

ในทางปฏิบัติ สิ่งนี้สร้างชุดคำถามการดำเนินงานที่แตกต่างออกไป สิ่งที่เอเจนต์ได้รับอนุญาตให้ทำคืออะไร? บริบททางธุรกิจต้องคงอยู่ตลอดเวิร์กโฟลว์ที่ยาวนานอย่างไร? จะเกิดอะไรขึ้นเมื่อหลักฐานใหม่ทำให้การตัดสินใจก่อนหน้านี้เป็นโมฆะ? องค์กรจะตรวจจับได้อย่างไรเมื่อการกระทำที่ยอมรับได้แต่ละรายการรวมกันละเมิดนโยบาย? เอเจนต์ควรดำเนินต่อ, หยุดชั่วคราว, หยุดทำงาน หรือส่งต่อเมื่อไหร่? หลายเดือนต่อมา องค์กรจะสามารถสืบค้นเหตุผลที่ทำให้การตัดสินใจเฉพาะเจาะจงนั้นเกิดขึ้นได้หรือไม่?

ยังมีคำถามเรื่องความเป็นเจ้าของอีกด้วย เมื่อเอเจนต์ทำงานด้านเทคนิคได้อย่างถูกต้องแต่ผลลัพธ์ทางธุรกิจผิดพลาด ใครเป็นผู้รับผิดชอบความล้มเหลว? การมอบหมายการดำเนินการให้เอเจนต์ไม่ได้หมายถึงการโอนความรับผิดชอบขององค์กรที่ดำเนินการนั้น

เอเจนต์อาจดำเนินงานได้ แต่ผลลัพธ์ยังคงเป็นขององค์กร

เป้าหมายคืออิสระภาพที่ควบคุมได้

อนาคตของ AI แบบ Agentic บางครั้งถูกอธิบายว่าเป็นการก้าวสู่ความอิสระเต็มรูปแบบ ซึ่งมนุษย์จะค่อย ๆ หายไปจากกระบวนการทำงานของธุรกิจ สำหรับองค์กรส่วนใหญ่ นั่นอาจเป็นเป้าหมายที่ผิด

เป้าหมายที่เป็นประโยชน์มากกว่าคือ อิสระภาพที่ควบคุมได้.

กระบวนการที่ได้รับความช่วยเหลือจาก AI หลายอย่างในวันนี้มักเป็นรูปแบบที่เอเจนต์เสนอการกระทำและบุคคลทำการตัดสินใจขั้นสุดท้าย เมื่อความมั่นใจเพิ่มขึ้น เวิร์กโฟลว์บางส่วนจะอนุญาตให้เอเจนต์ตัดสินใจภายในขอบเขตอำนาจที่กำหนดไว้ในขณะที่ระบบโดยรอบดูแลการดำเนินการและมนุษย์จัดการข้อยกเว้น เวิร์กโฟลว์ที่พัฒนามาแล้วและมีความเสี่ยงต่ำอาจในที่สุดอนุญาตให้เอเจนต์ตัดสินใจและทำการกระทำอย่างอิสระในขณะที่การตัดสินใจที่มีผลสำคัญยังคงได้รับการตรวจสอบและบันทึก

รูปที่ 5 : ระดับการอิสระที่เพิ่มขึ้น

ขอบเขตที่เหมาะสมจะแตกต่างตามกระบวนการ ธนาคารอาจอนุญาตให้มีอิสระอย่างมากในการจัดประเภทเอกสารในขณะที่ต้องมีการควบคุมเข้มงวดเกี่ยวกับการตัดสินใจด้านเครดิต บริษัทประกันอาจทำอัตโนมัติการเรียกร้องที่เป็นประจำในขณะที่ส่งต่อกรณีที่มีการผสมผสานหลักฐานที่แปลกประหลาด องค์กรด้านสุขภาพอาจให้เอเจนต์รวบรวมและสรุปข้อมูลในขณะที่สงวนการตัดสินใจที่มีผลสำคัญไว้ให้คนทำ

ดังนั้นคำถามสำคัญไม่ได้เป็นแค่เอเจนต์จะเป็นอิสระได้มากแค่ไหน แต่คือองค์กรจะสามารถดำเนินการอิสระได้อย่างรับผิดชอบมากแค่ไหน

สิ่งนี้ยังเปลี่ยนบทบาทของการควบคุมด้วย การควบคุมไม่ได้จำเป็นต้องเป็นกลไกที่ลดอิสระ หากทำอย่างดี พวกมันจะทำให้องค์กรขยายอิสระได้ด้วยความมั่นใจที่เพิ่มขึ้น

การดำเนินการเอเจนต์อาจยากกว่าการสร้างเอเจนต์

โมเดลจะพัฒนาอย่างต่อเนื่อง การใช้เครื่องมือจะดีขึ้น กรอบงานเอเจนต์จะพัฒนา การให้เหตุผลจะดีขึ้น และปัญหาหลายอย่างที่ดูยากในวันนี้ในที่สุดจะกลายเป็นเรื่องปกติ

อย่างไรก็ตาม โมเดลที่ดีกว่าไม่ได้ขจัดนโยบายธุรกิจ, บริบทที่เปลี่ยนแปลง, ข้อยกเว้น, ขอบเขตขององค์กร, หรือความรับผิดชอบ ในบางแง่มุม เอเจนต์ที่ดีกว่าจะทำให้ประเด็นเหล่านี้สำคัญยิ่งขึ้น ระบบที่ไม่สามารถทำงานอิสระได้มีอำนาจการดำเนินงานจำกัด ระบบที่สามารถดำเนินการตัดสินใจทางธุรกิจนับพันรายการสร้างความรับผิดชอบที่แตกต่างอย่างสิ้นเชิง

นี่คือเหตุผลที่ขั้นต่อไปของ AI ระดับองค์กรอาจไม่ได้กำหนดโดยองค์กรที่ติดตั้งเอเจนต์มากที่สุด แต่โดยองค์กรที่เรียนรู้วิธีการดำเนินการเอเจนต์เหล่านั้น

80% แรกแสดงให้เห็นว่าเอเจนต์ทำงานได้ ส่วนที่เหลือ 20% กำหนดว่าองค์กรจะเชื่อใจเอเจนต์นั้นกับธุรกิจได้หรือไม่

เมื่อเอเจนต์มีความสามารถมากขึ้น คำถามสำคัญขององค์กรอาจเปลี่ยนจาก เอเจนต์ของเราสามารถทำอะไรได้ ไปสู่สิ่งที่ยากกว่า:

เราพร้อมให้พวกเขาทำอะไรบ้าง ภายใต้เงื่อนไขอะไร และเราจะรู้ได้อย่างไรเมื่อเงื่อนไขเหล่านั้นเปลี่ยนแปลง?

นั่นคือจุดเริ่มต้นของการดำเนินการแบบ Agentic