เหตุใดข้อมูลที่ดีขึ้นเพียงอย่างเดียวจึงยังไม่เพียงพอสำหรับเอเจนต์ AI

เป็นเวลาหลายปีที่คำแนะนำข้อหนึ่งซึ่งพบได้บ่อยที่สุดสำหรับการนำ AI มาใช้ในองค์กรคือ ต้องจัดการข้อมูลให้ถูกต้องก่อน เหตุผลนั้นเข้าใจง่าย กล่าวคือ หากระบบต้องตัดสินใจได้อย่างเป็นประโยชน์ ระบบก็จำเป็นต้องใช้ข้อมูลที่ถูกต้องและเข้าถึงได้

คำกล่าวนี้ยังคงเป็นจริงในปัจจุบัน แต่เริ่มไม่ครอบคลุมอีกต่อไป เมื่อเอเจนต์ AI เปลี่ยนจากการตอบคำถามและสร้างเนื้อหาไปสู่การลงมือทำแทนพนักงานและองค์กร ข้อมูลอาจบอกเอเจนต์ได้ว่าอะไรเป็นความจริงเกี่ยวกับลูกค้า ธุรกรรม การเรียกร้อง หรือคำขอ แต่ไม่ได้บอกเสมอไปว่าควรทำอะไรต่อ หรือการลงมือทำจะส่งผลอย่างไร ความแตกต่างนี้มีความสำคัญเมื่อเอเจนต์ไม่ได้เพียงให้คำตอบอีกต่อไป แต่ต้องอนุมัติคำขอ ปรับปรุงข้อมูลในระเบียน ติดต่อกับลูกค้า หรือดำเนินการเรื่องหนึ่งให้คืบหน้า

พนักงานในองค์กรต้องเรียนรู้วิธีทำงานภายใต้โครงสร้างที่มีลำดับการอนุมัติ กฎทางธุรกิจ การพึ่งพากัน ข้อยกเว้น และแนวทางการส่งต่อเรื่อง ส่วนเอเจนต์ก็จำเป็นต้องมีวิธีทำเช่นเดียวกัน เมื่อ Gartner คาดการณ์ว่า ภายในสิ้นปี 2026 แอปพลิเคชันในองค์กร 40% จะมีเอเจนต์ AI ที่ออกแบบมาสำหรับงานเฉพาะ เพิ่มขึ้นจากไม่ถึง 5% ในปี 2025 ช่องว่างด้านความรู้ของเอเจนต์ก็จะยิ่งละเลยได้ยากขึ้น

Gartner ยังคาดการณ์ด้วยว่า ภายในปี 2028 ผลตอบแทนจากการลงทุนที่จับต้องได้ 80% จาก AI แบบเอเจนต์จะมาจากเอเจนต์เฉพาะทางที่เชี่ยวชาญในแต่ละสาขา ความเชี่ยวชาญเฉพาะด้านมีความสำคัญ แต่แก้ปัญหาได้เพียงส่วนหนึ่ง การรู้จักสาขาใดสาขาหนึ่งไม่ได้ทำให้เอเจนต์รู้โดยอัตโนมัติว่าความรับผิดชอบของตนเริ่มต้นและสิ้นสุดตรงไหน งานของตนเชื่อมโยงกับกระบวนการที่ใหญ่กว่าอย่างไร หรือใครควรรับช่วงต่อเมื่อมีเรื่องที่อยู่นอกขอบเขตหน้าที่ เพื่อให้เอเจนต์ทำงานในองค์กรได้อย่างน่าเชื่อถือ เอเจนต์จำเป็นต้องเข้าใจทั้งบริบทของกระบวนการทำงานและข้อมูลทางธุรกิจ

ข้อมูลที่ดีไม่ได้บอกเอเจนต์ว่าจะเกิดอะไรขึ้นต่อไป

ลองพิจารณาการสมัครสินเชื่อ ซึ่งเอเจนต์อาจเข้าถึงประวัติทางการเงิน ข้อมูลการจ้างงาน และเอกสารอื่น ๆ ที่เกี่ยวข้องของผู้สมัคร ข้อมูลเหล่านี้ช่วยให้เอเจนต์เข้าใจใบสมัครได้ แต่ไม่ได้บอกว่าองค์กรจัดการกับใบสมัครนั้นอย่างไร

ต้องตรวจสอบเรื่องใดก่อน? จะต้องทำอย่างไรเมื่อผู้สมัครมีคุณสมบัติตรงตามเงื่อนไขข้อหนึ่งแต่ไม่ตรงอีกข้อหนึ่ง? ต้องมีข้อมูลใดบ้างก่อนที่เรื่องจะดำเนินต่อได้? การตัดสินใจใดทำได้โดยอัตโนมัติ และเรื่องใดต้องส่งให้เจ้าหน้าที่พิจารณาสินเชื่อ?

กระบวนการทำงานส่วนใหญ่ในองค์กรเต็มไปด้วยเส้นทางแบบมีเงื่อนไขเหล่านี้ กระบวนการอาจดำเนินต่อโดยอัตโนมัติเมื่อเป็นไปตามเกณฑ์บางประการ หยุดชั่วคราวเพื่อรวบรวมข้อมูลเพิ่มเติม หรือเปลี่ยนไปใช้เส้นทางอื่นโดยสิ้นเชิงเมื่อเกิดข้อยกเว้น การดำเนินการถัดไปที่เหมาะสมไม่ได้ขึ้นอยู่กับข้อมูลที่มีอยู่เท่านั้น แต่ยังขึ้นอยู่กับว่างานอยู่ในขั้นตอนใดและเกิดอะไรขึ้นไปแล้วด้วย

สิ่งนี้เปลี่ยนความหมายของความน่าเชื่อถือสำหรับเอเจนต์ในองค์กร คำตอบที่ถูกต้องยังไม่เพียงพอ หากการดำเนินการถัดไปไม่ถูกต้อง เอเจนต์อาจตีความข้อมูลตรงหน้าได้อย่างถูกต้อง แต่ยังคงย้ายเรื่องไปยังขั้นตอนที่ไม่ถูกต้อง ข้ามการอนุมัติที่จำเป็น หรือดำเนินการก่อนที่เงื่อนไขที่ต้องทำให้เสร็จสิ้นจะครบถ้วน

McKinseyเพิ่งเผยแพร่ข้อมูลเชิงลึกเกี่ยวกับการทำงานร่วมกับบริษัทเทคโนโลยีการแพทย์แห่งหนึ่ง ซึ่งพบว่าแพลตฟอร์ม AI ที่บริษัทใช้อยู่ไม่สามารถรองรับกฎสำคัญหลายข้อในกระบวนการทำงานได้ แทนที่จะเลื่อนกำหนดเปิดตัวเพื่อแก้ไขช่องว่างเหล่านั้น บริษัทกลับดำเนินการตามแผนต่อไป และท้ายที่สุดไม่สามารถสร้างมูลค่าที่คาดหวังจาก AI ได้ประมาณ 30% ตัวอย่างนี้ชี้ให้เห็นว่าองค์กรจำเป็นต้องคำนึงถึงกระบวนการที่เกี่ยวข้องกับงานนั้น ไม่ใช่พิจารณาเพียงข้อมูลที่จำเป็นต่อการทำงานให้เสร็จ

กำหนดมาตรการควบคุมให้เหมาะกับการตัดสินใจที่เอเจนต์ทำได้

เมื่อเอเจนต์มีความสามารถในการลงมือทำมากขึ้น การกำกับดูแลก็ต้องมีความเฉพาะเจาะจงมากขึ้นด้วย เอเจนต์ที่เรียกดูเอกสารนโยบายมีความเสี่ยงไม่เท่ากับเอเจนต์ที่เปลี่ยนแปลงบัญชีของลูกค้า อนุมัติการชำระเงิน หรือเริ่มดำเนินธุรกรรม อย่างไรก็ตาม องค์กรอาจเผลอไปสุดโต่งทางใดทางหนึ่งได้ง่าย คือปล่อยให้เอเจนต์ดำเนินการอย่างอิสระเกินไป หรือกำหนดให้มนุษย์อนุมัติเกือบทุกเรื่อง

มาตรการควบคุมเอเจนต์ควรสอดคล้องกับการตัดสินใจที่เอเจนต์ทำได้และผลที่อาจตามมา การดำเนินการซ้ำ ๆ ที่มีความเสี่ยงต่ำอาจเหมาะที่จะให้เอเจนต์ทำได้โดยอิสระ ส่วนการดำเนินการอีกอย่างอาจต้องได้รับอนุมัติหากมีมูลค่าเกินเกณฑ์ที่กำหนด กรณีที่ผิดปกติอาจต้องส่งต่อให้พนักงานทันที

การกำกับดูแลโดยมนุษย์จะมีประโยชน์ที่สุดเมื่อมีการกำหนดไว้อย่างตั้งใจ หากต้องให้บุคคลอนุมัติทุกขั้นตอนตามปกติ ประโยชน์ส่วนใหญ่จากการนำเอเจนต์มาใช้ก็จะหายไป แต่การตัดจุดตรวจสอบออกจากการตัดสินใจที่ต้องอาศัยวิจารณญาณหรือความรับผิดชอบอย่างแท้จริงก็ทำให้เกิดปัญหาอีกแบบหนึ่ง

IBM Research สนับสนุนให้มีกฎที่ชัดเจนเกี่ยวกับการกระทำที่เอเจนต์ได้รับอนุญาตให้ทำ และจุดที่จำเป็นต้องมีการกำกับดูแลจากมนุษย์ มาตรการควบคุมเหล่านี้ยังต้องคำนึงถึงกระบวนการที่เอเจนต์มีส่วนร่วมด้วย อำนาจของเอเจนต์ไม่จำเป็นต้องคงเดิมตั้งแต่เริ่มต้นจนสิ้นสุดการจัดการเรื่องหนึ่ง สิ่งที่เอเจนต์ทำได้อย่างปลอดภัยอาจขึ้นอยู่กับขั้นตอนของกระบวนการ ข้อมูลที่ได้รับการตรวจสอบแล้ว การตัดสินใจที่เกิดขึ้นก่อนหน้านี้ และผลที่จะตามมาจากการดำเนินการถัดไป

นั่นหมายความว่าองค์กรต้องผนวกการกำกับดูแลไว้ในเวิร์กโฟลว์โดยตรง แทนที่จะกำหนดสิทธิ์ให้เอเจนต์อย่างกว้างขวางแล้วคาดหวังให้ใช้สิทธิ์เหล่านั้นได้ในทุกกรณี องค์กรสามารถระบุได้ว่าเอเจนต์ได้รับอนุญาตให้ดำเนินการได้เองในขั้นตอนใดบ้าง ขั้นตอนใดต้องเป็นไปตามเงื่อนไขเพิ่มเติม และขั้นตอนใดต้องส่งต่อความรับผิดชอบให้บุคคล คำถามจึงไม่ใช่แค่ว่าเอเจนต์ทำงานได้อย่างอิสระหรือไม่ แต่ยังรวมถึงจุดใดในกระบวนการที่การทำงานอย่างอิสระนั้นเหมาะสม

เอเจนต์ต้องทำงานร่วมกับระบบธุรกิจที่มีอยู่แล้ว

บริบทของกระบวนการยิ่งมีความสำคัญเมื่อเอเจนต์ต้องทำงานร่วมกับส่วนอื่น ๆ ขององค์กร องค์กรไม่ได้เริ่มต้นจากศูนย์ คำขอจากลูกค้าหนึ่งรายการอาจต้องผ่านทั้งระบบ CRM คลังเอกสาร แพลตฟอร์มจัดการกรณี และระบบ ERP อยู่แล้ว พร้อมกับเกี่ยวข้องกับพนักงานจากหลายแผนก

การนำเอเจนต์เข้าไปใช้ในส่วนหนึ่งของสภาพแวดล้อมดังกล่าวไม่ได้ทำให้กระบวนการโดยรวมมีประสิทธิภาพขึ้นโดยอัตโนมัติ เอเจนต์อาจทำงานเฉพาะหน้าที่ของตนได้อย่างสมบูรณ์แบบ แต่หากพนักงานยังต้องคัดลอกผลลัพธ์ไปใส่ในแอปพลิเคชันอื่น หาว่าใครควรรับงานต่อ หรือเริ่มกระบวนการใหม่ด้วยตนเองในระบบอื่น คอขวดก็เพียงแค่ย้ายตำแหน่ง

นี่คือเหตุผลที่องค์กรต้องมองเอเจนต์เป็นผู้มีส่วนร่วมในกระบวนการที่ใหญ่ขึ้น ไม่ใช่เครื่องมือที่แยกขาดจากกัน อะไรเป็นตัวกระตุ้นให้เอเจนต์เริ่มทำงาน เอเจนต์ได้รับข้อมูลอะไรบ้าง มีหน้าที่รับผิดชอบอะไร เมื่องานเสร็จแล้ว งานจะถูกส่งต่อไปที่ใด และจะเกิดอะไรขึ้นหากเอเจนต์ทำงานไม่สำเร็จ

คำถามเหล่านี้ยิ่งสำคัญเมื่อองค์กรเริ่มนำเอเจนต์เฉพาะทางหลายตัวมาใช้ Deloitteระบุว่าการประสานงานเป็นข้อกำหนดสำคัญสำหรับธุรกิจที่กำลังเปลี่ยนไปใช้ระบบหลายเอเจนต์ ซึ่งเอเจนต์แต่ละตัวสามารถรับบทบาทที่แตกต่างกันและประสานงานกันได้ การประสานงานในระดับองค์กรต้องครอบคลุมวิธีที่เอเจนต์สื่อสารและประสานงานระหว่างกัน ไม่ใช่แค่วิธีที่เอเจนต์แต่ละตัวทำงานโดยลำพัง หากขาดการกำกับดูแลเช่นนี้ เอเจนต์อาจดำเนินการโดยมีบริบทไม่ครบถ้วน ก่อให้เกิดการกระทำที่ขัดแย้งกัน หรือหลีกเลี่ยงกฎทางธุรกิจและขั้นตอนการอนุมัติที่กำหนดไว้ เอเจนต์ยังคงทำงานอยู่ภายในองค์กรที่มีแอปพลิเคชัน พนักงาน กฎทางธุรกิจ และกระบวนการเดิม ซึ่งอาจดำเนินต่อเนื่องเป็นวัน เป็นสัปดาห์ หรือเป็นเดือน

เริ่มจากกระบวนการที่ต้องทำให้เสร็จ แล้วพิจารณาว่าเอเจนต์ บุคลากร และระบบเดิมแต่ละส่วนจะเข้ามามีบทบาทตรงไหน เอเจนต์ตัวหนึ่งอาจจัดการขั้นตอนหนึ่งได้ด้วยตนเอง เอเจนต์อีกตัวอาจตรวจสอบเฉพาะทาง พนักงานอาจใช้วิจารณญาณตัดสินใจ และระบบเดิมอาจดำเนินธุรกรรมขั้นสุดท้าย สิ่งสำคัญคือ งานต้องส่งต่อระหว่างผู้มีส่วนร่วมแต่ละฝ่ายได้โดยไม่สูญเสียบริบทระหว่างทาง

การทำงานอย่างอิสระต้องมีโครงสร้าง

การกำหนดโครงสร้างให้เอเจนต์มากขึ้นไม่ได้หมายความว่าทุกการกระทำต้องถูกจำกัดเพิ่มอีกชั้นหนึ่ง ในความเป็นจริงอาจตรงกันข้ามก็ได้ กระบวนการที่ชัดเจนช่วยให้องค์กรมั่นใจมากขึ้นว่าเอเจนต์จะทำงานได้อย่างอิสระในจุดใด เพราะมีการกำหนดขอบเขต ข้อยกเว้น และจุดที่ต้องยกระดับเรื่องไว้แล้ว เอเจนต์ไม่จำเป็นต้องมีอิสระอย่างไร้ขีดจำกัดจึงจะสร้างคุณค่าได้อย่างมีนัยสำคัญ แต่ต้องได้รับความรับผิดชอบมากพอที่จะขับเคลื่อนงาน มีบริบทเพียงพอที่จะรู้ว่าขั้นตอนต่อไปคืออะไร และเข้าใจอย่างชัดเจนว่าเมื่อใดควรส่งต่อความรับผิดชอบให้ผู้อื่น

ข้อมูลที่ดีขึ้นจะช่วยเพิ่มขีดความสามารถของเอเจนต์ต่อไป แต่ความสามารถเพียงอย่างเดียวไม่ได้ทำให้เอเจนต์มีประโยชน์ในองค์กร บททดสอบที่แท้จริงคือ เอเจนต์สามารถดำเนินการได้ถูกต้อง ณ จุดที่เหมาะสมในกระบวนการ และอยู่ภายในขอบเขตที่ธุรกิจกำหนดไว้หรือไม่