เมื่อ AI ถูกต้อง แต่กระบวนการผิด

ลองนึกถึงสถานการณ์ที่พบบ่อยในธุรกิจบริการทางการเงิน ทีมหนึ่งนำ AI มาตรวจสัญญาหลายร้อยหน้า ซึ่งมีข้อสัญญาซ้ำ ๆ และเป็นงานประจำที่ปกติพนักงานใช้เวลาหลายวัน โมเดลระบุความเสี่ยงและอ้างถึงย่อหน้าที่ถูกต้อง แต่ผลลัพธ์กลับไม่สมเหตุสมผล

ปรากฏว่าปัญหาอยู่ในโฟลเดอร์สัญญา ซึ่งมีไฟล์วางอยู่ด้วยกันชื่อ contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx และ contract_finalfinal_THIS_ONE.docx

AI เลือกไฟล์ที่บันทึกล่าสุด แต่ไฟล์นั้นเป็นรุ่นเก่าที่มีคนเผลอเปิด แล้วระบบบันทึกอัตโนมัติเมื่อสัปดาห์ก่อน

โมเดลทำตามที่ออกแบบไว้ทุกประการ แต่กระบวนการกลับทำให้เกิดความผิดพลาด

เมื่อโมเดลไม่ใช่ต้นเหตุ

ในบทความก่อนของฉัน ฉันเสนอว่าความล้มเหลวของ AI มักเริ่มนอกโมเดล อยู่ในโครงสร้างการกำกับดูแล การกำหนดผู้รับผิดชอบ และการตัดสินใจที่ล้อมรอบมัน แต่การกำกับดูแลเป็นเพียงส่วนหนึ่งของปัญหา แม้ระบบ AI จะถูกกำกับอย่างดี ก็ยังทำงานได้ยากหากกระบวนการเบื้องหลังพึ่งเอกสารล้าสมัย ข้อยกเว้นไม่เป็นทางการ หรือเส้นทางอนุมัติที่ออกแบบสำหรับจังหวะงานที่ช้ากว่ามาก

เมื่อระบบ AI ให้ผลลัพธ์ไม่ดี โมเดลมักถูกสงสัยก่อน อาจแต่งข้อมูลขึ้นมา เข้าใจงานผิด หรือได้รับพรอมป์ต์ที่ไม่ดี แต่บางครั้งโมเดลทำสิ่งที่ควรทำทุกอย่าง ความผิดพลาดเกิดในกระบวนการที่ส่งข้อมูลให้มัน หรือในองค์กรที่ไม่สามารถดำเนินการตามผลลัพธ์ได้

การใช้ AI เผยปัญหาของกระบวนการที่มีอยู่เสมอแต่ไม่เคยมองเห็น คล้ายเครื่องมือวินิจฉัย มันเปิดเผยจุดอ่อนที่คนเคยชดเชยให้โดยไม่ทันคิด เช่น บริบทขาดหาย ผู้รับผิดชอบไม่ชัดเจน และวิธีแก้ขัดแบบไม่เป็นทางการที่ไม่เคยบันทึกไว้

ความเร็วที่เกินกำลังรองรับ

AI ไม่ได้เร่งเพียงการสร้างผลลัพธ์ แต่เร่งการส่งเรื่องให้ผู้มีอำนาจพิจารณา การขอคำตัดสิน และการค้นพบปัญหาด้วย โมเดลแจ้งความผิดปกติทันที ไม่ต้องรอถึงบ่ายวันศุกร์เมื่อมีคนหาเวลาตรวจบันทึกได้เสียที

องค์กรไม่ได้ถูกเตรียมไว้สำหรับจังหวะนี้ กระบวนการอนุมัติ เส้นทางส่งต่อปัญหา และอำนาจตัดสินใจล้วนปรับไว้ตามความเร็วของมนุษย์ เมื่อ AI สร้างผลลัพธ์เร็วเกินกว่าที่องค์กรจะรองรับได้ อาจเกิดสามอย่างดังนี้

• AI ต้องรอคำตัดสิน ทำให้ประโยชน์ด้านประสิทธิภาพหายไป
• พนักงานละเลยผลลัพธ์และกลับไปใช้สิ่งที่เชื่อว่าได้ผล นั่นคือกระบวนการเดิม
• พนักงานเดินหน้าตัดสินใจโดยตรวจไม่รอบคอบ เพราะรู้สึกกดดันให้รักษาความเร็ว

พนักงานบางคนกลับไปตรวจด้วยตนเองเพราะรู้สึกปลอดภัยกว่า ขณะที่คนอื่นอนุมัติผลลัพธ์ที่ยังไม่มีเวลาตรวจเพราะกดดันให้รักษาความเร็วตามที่เทคโนโลยีสัญญาไว้ ทั้งสองกรณี องค์กรจ่ายเงินเพื่อให้ได้ผลลัพธ์เร็วขึ้น แต่ไม่ได้ตัดสินใจอย่างรับผิดชอบได้เร็วขึ้น

ความรับผิดชอบอาจพร่าเลือนด้วย ใครต้องตรวจความผิดปกติที่ระบบแจ้ง ตัดสินว่าโมเดลผิดหรือไม่ และส่งต่อประเด็นเมื่อเกี่ยวข้องกับหลายทีม หากไม่มีคำตอบชัดเจน AI ก็ทำงานเบื้องหลังต่อไป สร้างผลลัพธ์ที่ไม่มีใครเป็นเจ้าของอย่างแท้จริง

สิ่งนี้สะท้อนปัญหาระดับองค์กรที่กว้างกว่า ตามที่ บทวิเคราะห์ของ Forbes ช่วงปลายปี 2025 ตั้งข้อสังเกตไว้ เมื่อเทคโนโลยีเปลี่ยนเวิร์กโฟลว์เร็วเกินกว่าองค์กรจะรับไหว ผลที่ได้ไม่ใช่ประสิทธิภาพ แต่เป็นภาระงานเกินกำลัง AI อาจเร่งขั้นตอนหนึ่งได้ แต่คุณค่ายังขึ้นกับว่าองค์กรโดยรอบรองรับและดำเนินการตามสิ่งที่มันผลิตได้หรือไม่

ความรู้ฝังลึกที่ไม่มีใครเขียนไว้

สมมติว่า Martin รู้ว่าสัญญาระหว่างบริษัทกับผู้ขายมีข้อยกเว้นสำหรับการชำระเงินต่ำกว่า 2,000 ยูโร ทั้งสองฝ่ายตกลงด้วยวาจาเมื่อสามปีก่อน แต่ไม่เคยบันทึกไว้ เมื่อบริษัทใช้ AI อนุมัติการจ่ายเงินอัตโนมัติ ระบบกลับระงับการจ่าย ซึ่งเป็นการทำถูกต้องตามสัญญาที่เขียนไว้

นี่คือความรู้ฝังลึก ความรู้ขององค์กรที่อยู่ในหัวคนแทนที่จะอยู่ในระบบ ทุกบริษัทมีความรู้แบบนี้ และส่วนใหญ่ไม่รู้ด้วยซ้ำว่ามีมากเพียงใด

AI ใช้ได้เฉพาะความรู้ที่เปิดให้เข้าถึง ข้อยกเว้นของ Martin ไม่มีอยู่ในมุมมองของระบบ เมื่อขาดบริบทนั้น การตัดสินใจอาจถูกต้องทางเทคนิค แต่ผิดในทางปฏิบัติ

McKinsey ระบุความท้าทายเดียวกันในการใช้ AI แบบเอเจนต์ การสร้างเอเจนต์ที่มีประสิทธิภาพต้องทำให้แนวปฏิบัติของผู้เชี่ยวชาญเป็นความรู้ที่บันทึกอย่างเป็นระบบ ซึ่งอาจอยู่ในขั้นตอนมาตรฐาน หรืออาจมีอยู่เพียงในหัวพนักงาน กล่าวอีกอย่าง การใช้ AI อาจเป็นครั้งแรกที่องค์กรเห็นว่ากระบวนการพึ่งพาสิ่งที่ Martin รู้มากเพียงใด

แหล่งข้อมูลหลักที่เชื่อถือผิด

ผลลัพธ์ AI ที่อันตรายที่สุดไม่จำเป็นต้องเป็นคำตอบที่เห็นชัดว่าผิด แต่อาจเป็นคำตอบที่ดูน่าเชื่อถือและนำเสนออย่างมืออาชีพ ซึ่งสร้างจากข้อมูลล้าสมัย

หลายแผนกทำงานกับเอกสารเดียวกันหลายรุ่นมาหลายปี เพราะ Jane จากฝ่ายกฎหมายรู้เสมอว่ารุ่นใดเป็นฉบับที่ใช้อ้างอิงได้ แต่น่าเสียดายที่ AI ไม่รู้

หากไม่ได้รับกฎให้แยกรุ่น ระบบก็ไม่มีเหตุให้ตั้งข้อสงสัยกับเอกสารที่ได้รับ การตรวจของ AI จึงทำงานถูกต้อง แต่กับเอกสารผิดฉบับ ซึ่งอาจแย่กว่าการไม่ตรวจเลย เพราะผลลัพธ์ดูน่าเชื่อถือ

พนักงานมีประสบการณ์อาจรู้ว่าข้อมูลที่ถูกต้องอยู่ที่ไหนและหาทางผ่านความยุ่งเหยิงได้ แต่ระบบต้องมีวิธีที่เชื่อถือได้ในการระบุว่าข้อมูลใดเป็นปัจจุบัน ผ่านการอนุมัติ และเกี่ยวข้อง

ความรู้ฝังลึก เอกสารที่เชื่อถือไม่ได้ และกระบวนการอนุมัติที่ออกแบบตามความเร็วของคน ดูเหมือนเป็นคนละปัญหา แต่มีรากเดียวกัน AI ไม่ได้สร้างปัญหาเหล่านี้ เพียงทำให้ยากที่จะมองข้าม

คำถามที่ต้องตอบก่อนสร้างเอเจนต์

ก่อนนำเอเจนต์ AI มาใช้ องค์กรควรตอบคำถามสามข้อได้

การตัดสินใจใดพึ่งพาความรู้ที่ไม่เคยบันทึกไว้

ต้องระบุข้อยกเว้น ทางลัด และการใช้ดุลยพินิจที่พนักงานมีประสบการณ์ทำโดยไม่ได้อธิบายออกมาอย่างตั้งใจ การสัมภาษณ์อย่างเดียวอาจไม่เผยความรู้ทั้งหมด องค์กรอาจต้องสังเกตการทำงานจริงและเทียบกับกระบวนการทางการ

ระบบจะระบุข้อมูลที่เป็นปัจจุบัน ผ่านการอนุมัติ และเกี่ยวข้องได้อย่างไร

การให้เอเจนต์เข้าถึงเอกสารมากขึ้นไม่แก้ปัญหา หากแยกสัญญาที่อนุมัติแล้วออกจากฉบับร่าง หรือนโยบายที่ใช้อยู่จากฉบับล้าสมัยไม่ได้ การจัดการรุ่น ผู้รับผิดชอบ สถานะอนุมัติ และกฎเก็บรักษาต้องชัดเจนพอให้ระบบรู้ว่าควรยึดแหล่งใดในการตัดสินใจ

กระบวนการอนุมัติและส่งต่อปัญหาเดิมรองรับปริมาณและความเร็วของผลลัพธ์ได้หรือไม่

ทีมควรประเมินไม่เพียงว่าเอเจนต์ทำงานได้มากเพียงใด แต่รวมถึงงานนั้นอาจสร้างภาระตรวจทาน ข้อยกเว้น และเรื่องที่ต้องส่งต่อมากเพียงใด กรอบบริหารความเสี่ยง AI ของ NIST แนะนำให้กำหนดบทบาทและความรับผิดชอบในการกำกับดูแลระบบ AI โดยมนุษย์ให้ชัดเจน ต้องออกแบบให้รองรับปริมาณที่คาดไว้ก่อนนำระบบไปใช้ ไม่ใช่หลังพนักงานรับภาระไม่ไหวแล้ว

คำถามเหล่านี้ตอบครั้งเดียวแล้วลืมไม่ได้ กระบวนการเปลี่ยน เอกสารเก่า และข้อยกเว้นที่ไม่บันทึกสะสมขึ้นใหม่ ความพร้อมจึงต้องได้รับการดูแลต่อเนื่อง ไม่ใช่สร้างขึ้นก่อนเปิดใช้งานเท่านั้น

ความพร้อมด้าน AI เริ่มที่กระบวนการ

ความพร้อมด้าน AI ไม่ได้ทดสอบแค่เทคโนโลยี แต่ทดสอบว่าองค์กรทำกระบวนการของตนให้ชัดเจนพอที่เทคโนโลยีจะทำงานภายในนั้นได้หรือไม่

การเตรียมองค์กรสำหรับ AI จึงมากกว่าการเลือกโมเดลหรือสร้างเอเจนต์ ต้องกำหนดผู้รับผิดชอบให้ชัด ระบุข้อมูลที่ใช้อ้างอิงได้ บันทึกข้อยกเว้น และออกแบบวิธีตรวจผลลัพธ์ ส่งต่อประเด็น และนำไปดำเนินการใหม่

งานนี้ยาก แต่หากการนำระบบไปใช้ล้มเหลว สุดท้ายองค์กรก็จะถูกบังคับให้ทำอยู่ดี สิ่งเดียวที่ต่างกันคือเวลา