ทำไมโครงการ Agentic AI จึงหยุดชะงักเมื่อขยายขนาด และสิ่งที่องค์กรต้องแก้ไขก่อน

Agentic AI กำลังเป็นส่วนสำคัญของธุรกิจทุกแห่งอย่างรวดเร็ว บริษัทต่างๆ กำลังรวมการนำไปใช้ในการดำเนินงาน สภาพแวดล้อมการดемоทำให้ผู้นำที่น่าประทับใจ และแผนการกำลังถูกเขียนใหม่รอบๆ การทำงานอัตโนมัติของ AI

แต่สำหรับโครงการเหล่านี้ สิ่งหนึ่งจะพังระหว่างการดемоที่ควบคุมและกระบวนการผลิต การโครงการจะหยุดชะงัก การเปิดตัวจะขยายจากเดือนเป็นปี และทีมที่รับผิดชอบในการส่งมอบจะถูกทิ้งไว้เพื่ออธิบายว่าทำไมตัวแทนการที่ทำงานได้ดีในการทดสอบจึงมีพฤติกรรมที่ไม่คาดคิดในโลกแห่งความเป็นจริง

ในเกือบทุกกรณี คำตอบไม่ใช่แบบจำลองเอง แต่เป็นอสังหาริมทรัพย์ข้อมูล ชั้นการบังคับบัญชา โครงสร้างการกำกับดูแล และโครงสร้างพื้นฐานที่ล้าสมัยที่ส่วนใหญ่ขององค์กรไม่ได้ปรับปรุงใหม่ก่อนที่จะสร้างตัวแทนอัจฉริยะบนพื้นฐานของมัน จนกว่าพื้นฐานเหล่านั้นได้รับการแก้ไข Agentic AI จะยังคงสร้างการดемоที่น่าประทับใจและกระบวนการผลิตที่ทำให้ผิดหวัง

สภาพแวดล้อม POC เป็นกับดัก

ส่วนใหญ่ขององค์กรประเมินแบบจำลอง มีไม่มากที่ประเมินพฤติกรรมของตัวแทนจากปลายถึงปลาย แบบจำลองอาจมีความแม่นยำสูง และตัวแทนสามารถสร้างบนพื้นฐานของมันได้ แต่ตัวแทนยังคงล้มเหลวได้ เนื่องจากตัวแทนเชื่อมโยงการเรียกฟังก์ชันตามลำดับ และขั้นตอนที่ไม่ดีจะสร้างคำตอบที่ไม่ถูกต้องที่ขั้นตอนถัดไปจะรับเป็นข้อมูลเข้าอย่างถูกต้อง ทำให้ข้อผิดพลาดสะสมลงไปก่อนที่ใครจะสังเกตเห็น

สภาพแวดล้อมการดемоถูกออกแบบมาเพื่อปกปิดสิ่งนี้ ข้อมูลเข้าถูกควบคุม พิสัยการทำงานแคบ และมีคนดูผลลัพธ์ ไม่มีเงื่อนไขเหล่านี้ในกระบวนการผลิต ตัวแทนการที่ได้รับการประเมินอย่างดีในการทดสอบตอนนี้กำลังจัดการคำสั่งที่ไม่ชัดเจน พบข้อผิดพลาดด้านสิทธิ์ และการตัดสินใจตามลำดับโดยใช้ข้อมูลที่ไม่เคยทดสอบมาก่อน ทีมที่สร้างมันกำลังพบว่าโครงสร้างการประเมินที่ออกแบบมาเพื่อประสิทธิภาพของแบบจำลองไม่ได้บอกว่าตัวแทนได้รับการยกเลิกอย่างถูกต้อง จัดการกรณีเชิงขอบเขตอย่างเหมาะสม หรือทราบว่าเมื่อใดควรหยุด

ตามรายงาน McKinsey’s State of AI 2025 report 88% ขององค์กรใช้ AI ในฟังก์ชันทางธุรกิจอย่างน้อยหนึ่งฟังก์ชัน แต่มีเพียงหนึ่งในสามที่ประสบความสำเร็จในการขยายขนาดทั่วทั้งองค์กร ช่องว่างระหว่างการนำไปใช้และการขยายขนาดเริ่มต้นจากการวางแผนและประเมินโครงการนำร่องขององค์กร ทีมที่ขยายขนาดได้สำเร็จมักจะพิจารณาการวิเคราะห์โมดการล้มเหลวเป็นข้อกำหนดในการออกแบบ ก่อนการนำไปใช้ พวกเขาจะสร้างแค็ตตาล็อกว่าตัวแทนคาดว่าจะล้มเหลวและตอบสนองอย่างไรเมื่อเกิดเหตุการณ์นั้น ซึ่งดูเหมือนจะชัดเจน แต่ไม่มากที่องค์กรทำเช่นนั้น

ข้อมูลที่ไม่ดี ตัวแทนการที่ไม่ดี

องค์กรต่างๆ ยังคงถามว่าทำไมตัวแทนของพวกเขาทำงานไม่ดีในกระบวนการผลิต คำตอบแทบจะเสมอเป็นข้อมูล ระบบข้อมูลไม่พร้อม อิฐที่กระจัดกระจายไปทั่วระบบหลายสิบระบบที่สร้างขึ้นในเวลาต่างๆ สำหรับวัตถุประสงค์ต่างๆ นิยามไม่สอดคล้องกันระหว่างหน่วยธุรกิจ ไม่มีชั้นเชิงсемантиค ไม่มีแหล่งข้อมูลเดียวที่ถูกต้อง มีเพียงหนี้สินข้อมูลที่สะสมมาหลายปีที่ไม่มีใครจัดลำดับความสำคัญเพราะระบบเก่าทำงานได้ดีพอ

หนี้สินนั้นไม่หายไปเมื่อคุณสร้างตัวแทนบนพื้นฐานของมัน มันกลายเป็นความเป็นจริงในการดำเนินงานของตัวแทน ตัวแทนการที่กำลังเดินผ่านแหล่งข้อมูลที่กระจัดกระจายไม่ได้ให้เหตุผลเกี่ยวกับภาพธุรกิจที่สอดคล้องกัน มันทำสิ่งที่ดีที่สุดด้วยสิ่งที่พบ และสร้างผลลัพธ์ที่ดูเหมือนสมเหตุสมผลจนกว่าใครที่รู้จักธุรกิจจะมองอย่างใกล้ชิด ตัวแทนไม่เสียหาย ข้อมูลที่มอบให้กับมันเสียหายตั้งแต่โครงการเริ่มต้น

การเปลี่ยนแปลงข้อมูลและการเปลี่ยนแปลงแนวคิดทำให้สิ่งนี้เลวร้ายลงเมื่อเวลาผ่านไป เมื่อการกระจายข้อมูลเข้าจริงเปลี่ยนแปลงไปจากที่แบบจำลองได้รับการฝึกอบรม ตัวแทนไม่ได้แสดงข้อผิดพลาด มันทำงานต่อไปและเริ่มสร้างผลลัพธ์ที่ไม่ถูกต้องอย่างมั่นใจและในระดับใหญ่ โดยไม่มี MLOps หรือ AIOps ที่รวมอยู่ในชั้นการบังคับบัญชาของตัวแทน ไม่มีกลไกในการจับก่อนที่ความเสียหายจะสะสม ตัวแทนการที่ทำงานได้อย่างยอมรับได้ในตอนเปิดตัวเสื่อมสภาพอย่างเงียบๆ เป็นเวลาหลายสัปดาห์ก่อนที่ใครจะเชื่อมโยงความเสียหายของผลลัพธ์กับปัญหาข้อมูลที่มีอยู่ตั้งแต่เริ่มต้น

การปรับปรุงข้อมูลและการปรับปรุง AI มักถูกมองว่าเป็นกระบวนการทำงานที่ขนานกัน ซึ่งจัดลำดับและให้ทุนแยกจากกัน แต่สิ่งเหล่านี้ไม่ขนานกัน คุณไม่สามารถสร้างตัวแทนการที่เชื่อถือได้บนโครงสร้างข้อมูลที่เสียหายตั้งแต่เริ่มต้น ลำดับเป็นสิ่งสำคัญมาก และการข้ามชั้นข้อมูลเพื่อเคลื่อนไหวเร็วขึ้นในชั้น AI เป็นหนึ่งในความผิดพลาดที่พบบ่อยที่สุดและแพงที่สุดขององค์กร

แผงควบคุมที่ไม่ถูกต้องจะทำให้ใครบางคนได้รับตัวเลขที่ไม่ถูกต้อง การดำเนินการของตัวแทนการที่ไม่ถูกต้องอาจกระตุ้นกระบวนการลง游ก่อนที่ใครจะสังเกตเห็น โดยการอนุมัติใบแจ้งหนี้ที่ไม่ควรได้รับการอนุมัติ การกำหนดตำแหน่งสัญญาณการปฏิบัติตามกฎระเบียบที่ไม่ถูกต้อง หรือการปรับเปลี่ยนราคานอกขอบเขตที่ตั้งใจไว้ ระบบ Agentic ต้องการการมองเห็นแบบเฉพาะที่ไม่ใช่แผงควบคุมทั่วไปที่นำมาใช้ใหม่

ข้อได้เปรียบของแพลตฟอร์มข้อมูลที่รวมเป็นหนึ่งเดียว

องค์กรที่ย้ายไปยังแพลตฟอร์มข้อมูลที่รวมเป็นหนึ่งเดียวก่อนที่จะเริ่มโครงการ Agentic AI ของตนกำลังขยายขนาดเร็วกว่าองค์กรที่ไม่ได้ทำเช่นนั้น เมื่อ Lakehouse, ห้องเก็บข้อมูล, แบบจำลองเชิงсемантиค และท่อข้อมูลทั้งหมดอาศัยอยู่ใน環境เดียวกัน เช่นใน Microsoft Fabric ตัวแทนจะมีพื้นผิวที่สอดคล้องกันในการค้นหา ซึ่งจะลบคลาสการล้มเหลวทั้งหมดที่เกิดจากตัวแทนการที่กระโดดระหว่างระบบที่มีสกีม่า ช่วงการอัปเดต และคำจำกัดความของเมตริกธุรกิจที่แตกต่างกัน

นี่คือเหตุผลที่แพลตฟอร์มที่องค์กรเลือกสำหรับการรวมข้อมูลมีความสำคัญอย่างมากต่อผลลัพธ์ของ Agentic AI ของพวกเขา แพลตฟอร์มที่รวมของ Microsoft Fabric นำ Lakehouse, ห้องเก็บข้อมูล, แบบจำลองเชิงсемантиค และท่อข้อมูลมารวมกันใน环境เดียว ให้ความได้เปรียบทางโครงสร้างแก่องค์กรที่ใช้ Microsoft (MSFT ) เมื่อเปลี่ยนจากการทดลองไปสู่การใช้งานจริง

Databricks ส่งมอบหลักการเดียวกันผ่านสถาปัตยกรรม Lakehouse และ Unity Catalog โดยให้ชั้นการกำกับดูแลที่รวมกันสำหรับข้อมูลที่มีโครงสร้างและไม่มีโครงสร้างด้วยการรวม MLflow เพื่อติดตามพฤติกรรมของแบบจำลองในกระบวนการผลิต Snowflake ใช้แนวทางที่ขึ้นอยู่กับ Cortex AI และการเชื่อมต่อที่แน่นหนาระหว่างเมฆข้อมูลและการอนุมาน AI ทำให้องค์กรสามารถรันงานตัวแทนโดยตรงบนข้อมูลที่มีการกำกับดูแลและสดใหม่โดยไม่มีความล่าช้าและความเสี่ยงของความสอดคล้องที่มาจากการย้ายข้อมูลระหว่างระบบ

แพลตฟอร์มแต่ละตัวแทนถึงเส้นทางที่แตกต่างกันสู่ผลลัพธ์เดียวกัน ชั้นข้อมูลที่สอดคล้อง มองเห็นได้ และเชื่อถือได้เพียงพอที่จะรองรับการตัดสินใจของตัวแทนในระดับใหญ่ การเลือกที่ถูกต้องขึ้นอยู่กับ chồngซ้อนขององค์กร สิ่งที่ไม่จำเป็นคือการทำความเข้าใจและมุ่งมั่นในการเลือกนั้นก่อนที่จะสร้างชั้นตัวแทนบนชั้นนั้น สิ่งที่แยกทีมที่ทำความก้าวหน้าออกจากทีมที่ยังคงติดอยู่ในการทดลองคือไม่ใช่แพลตฟอร์มที่พวกเขาเลือก แต่เป็นเพราะพวกเขาแก้ไขชั้นข้อมูลก่อน

การกำกับดูแลก่อน ไม่ใช่หลัง

การกำกับดูแลที่สร้างขึ้นหลังเหตุการณ์ไม่ใช่การกำกับดูแลเลย เมื่อตัวแทนการที่มีอำนาจในการตัดสินใจในกระบวนการผลิตและราวกั้นถูกเพิ่มเข้าไปหกเดือนหลังการเปิดตัว องค์กรได้สะสมการดำเนินการที่ไม่ได้รับการตรวจสอบมาเป็นเวลาหกเดือน แล้วเท่านั้น การติดตามการตรวจสอบต้องได้รับการออกแบบก่อนที่ตัวแทนจะเริ่มทำงาน ไม่ใช่การปรับเปลี่ยนหลังเกิดเหตุการณ์แรก

หลักการเดียวกันนี้ใช้กับการรักษาความปลอดภัยของ AI การควบคุมการเข้าถึงตามบทบาท และการกำหนดขอบเขตสิทธิ์ ตัวแทนการที่ไม่มีสิทธิ์ที่กำหนดอย่างเหมาะสมสามารถเข้าถึงข้อมูลที่ไม่ควรจะเข้าถึงได้ ดำเนินการนอกขอบเขตที่ตั้งใจไว้ หรือกลายเป็นพื้นผิวการโจมตีที่ใช้งานได้ สิ่งเหล่านี้เป็นความเสี่ยงที่ต้องได้รับการแก้ไขในระหว่างขั้นตอนพัฒนา ไม่ใช่การค้นพบในการทบทวนการเปิดตัว

หากการกำกับดูแลไม่ได้ถูกฝังไว้ก่อนที่จะสร้างท่อข้อมูล การฝึกอบรมแบบจำลองที่ไม่ถูกต้องหรือข้อมูลที่เป็นปฏิปักษ์สามารถเข้าสู่กระบวนการฝึกอบรมได้โดยไม่มีการตรวจจับ แบบจำลองที่ฝึกอบรมด้วยข้อมูลที่ถูกบุกรุกจะทำงานได้ดีบนมาตรฐานการประเมิน แต่จะเปลี่ยนแปลงไปในกระบวนการผลิต ซึ่งเป็นความล้มเหลวแบบเงียบๆ ที่อันตรายที่สุดเมื่อตัวแทนการที่ตัดสินใจมีผลกระทบทางธุรกิจจริง

กฎหมาย AI ของสหภาพยุโรป และกรอบการกำกับดูแลที่กำลังเติบโตรอบๆ ความรับผิดชอบของ AI ทำให้สิ่งนี้ยากที่จะเพิกเฉย องค์กรที่ไม่ได้สร้างการกำกับดูแลเข้าไปในโครงสร้างตัวแทนของตนกำลังสะสมความเสี่ยงด้านการปฏิบัติตามกฎระเบียบที่จะใช้เวลามากกว่าในการแก้ไขในภายหลัง

จากการทดลองไปสู่การผลิต: สิ่งที่ต้องใช้จริงๆ

องค์กรที่ปิดช่องว่างการผลิตคือองค์กรที่แก้ไขชั้นข้อมูลก่อนที่จะสร้างชั้นตัวแทน พวกเขาฝังการกำกับดูแลลงในดีไซน์ ไม่ใช่หลังจากที่ความเสียหายเกิดขึ้น พวกเขาสร้างการมองเห็นลงในโครงสร้างการบังคับบัญชา และรันการเปลี่ยนแปลงพร้อมกับการส่งมอบทางเทคนิค พวกเขาพิจารณาการวิเคราะห์โมดการล้มเหลวเป็นข้อกำหนดในการออกแบบที่สำคัญ

การวิจัย AI ขององค์กรของ Deloitte แสดงให้เห็นว่าการเข้าถึง AI ของพนักงานเพิ่มขึ้น 50% ในปี 2025 เพียงอย่างเดียว และส่วนแบ่งของบริษัทที่รันโครงการ AI มากกว่า 40% ในกระบวนการผลิตเต็มรูปแบบมีแนวโน้มที่จะเพิ่มเป็นสองเท่าในอีกหกเดือนข้างหน้า องค์กรที่ชนะในขณะนี้ไม่ใช่ผู้ที่มีแบบจำลองที่ทันสมัยที่สุด แต่เป็นผู้ที่สร้างโครงสร้างพื้นฐานการดำเนินงานเพื่อรัน AI ได้อย่างน่าเชื่อถือและทำเช่นนั้นก่อนที่จะสร้างตัวแทน

ทุกองค์กรที่ยังคงดำเนินการทดลองที่ไม่เชื่อมต่อกันควรเน้นย้ำให้แน่ใจว่าการลงทุนในแบบจำลองและอินเทอร์เฟซสอดคล้องกับการลงทุนในความพร้อมของข้อมูลและโครงสร้างการกำกับดูแลที่จะกำหนดว่าตัวแทนเหล่านั้นจะออกจากสภาพแวดล้อมการดемоหรือไม่ นี่คือจุดที่หลายองค์กรล้มเหลว

จนกว่าสิ่งนี้จะเปลี่ยนแปลง โครงการ Agentic AI หลายโครงการที่บริษัทต่างๆ ได้ลงทุนและหวังว่าจะให้ผลตอบแทนจะเสียชีวิตบนพุ่มไม้