ทำไมเอไอสำหรับองค์กรจึงล้มเหลวหลังการนำไปใช้ – และทำอย่างไรจึงจะแก้ไขได้

คำเตือน: ปัญหาไม่ได้อยู่ที่โมเดล

ในปี 2023 นครนิวยอร์กได้เปิดตัวแชทบอท MyCity เพื่อช่วยให้ธุรกิจสามารถนำทางกฎระเบียบที่ซับซ้อนได้ง่ายขึ้น ความคิดนี้เป็นเรื่องง่ายๆ: ทำให้ข้อมูลทางกฎหมายสามารถเข้าถึงได้ง่ายขึ้น

ในทางปฏิบัติ ระบบได้สร้างคำตอบที่ไม่เพียงแต่ไม่ถูกต้อง แต่ยังเป็นข้อมูลที่ทำให้เข้าใจผิดตามกฎหมายด้วย – ตั้งแต่กฎการให้คำแนะนำถึงการเลือกปฏิบัติทางที่อยู่อาศัยและการชำระเงิน

การตรวจสอบในภายหลังพบว่า 71.4% ของคำติชมของผู้ใช้เป็นลบ แทนที่จะแก้ไขปัญหาเบื้องหลัง ระบบตอบสนองด้วยการเพิ่มคำเตือน แชทบอทยังคงอยู่ใน “เบต้า” มากกว่าสองปีก่อนที่จะถูกปิดลง

ความล้มเหลวไม่ได้เกิดจากด้านเทคนิค ระบบล้มเหลวในการผลิตเพราะไม่มีกลไกที่จะรับรองความถูกต้อง ไม่มีการรับผิดชอบที่ชัดเจน และไม่มีวิธีการแทรกแซงเมื่อเกิดปัญหา

นั่นคือรูปแบบที่อยู่เบื้องหลังเอไอสำหรับองค์กรในปัจจุบัน: เทคโนโลยีทำงาน แต่องค์กรไม่ได้ถูกตั้งค่าให้ดำเนินการได้อย่างน่าเชื่อถือเมื่อระบบอยู่ในสถานะการผลิต

จากการทดลองไปสู่การผลิต: ที่ทุกอย่างล้มเหลว

การสร้างการทดลองเป็นเรื่องที่ตรงไปตรงมา – เลือกกรณีการใช้งาน เลือกโมเดล เตรียมข้อมูล หาสปอนเซอร์ การดำเนินการระบบในสถานะการผลิตเป็นลีกที่แตกต่างทั้งหมด

ช่องว่างนั้นคล้ายกับความแตกต่างระหว่างการกระโดดลงในบ่อและกระโดดจากชั้นบรรยากาศ เช่นเดียวกับที่เฟลิกซ์ บัมการ์ทเนอร์ทำในปี 2012 ฟิสิกส์แบบเดียวกัน แต่สภาพแวดล้อมที่แตกต่างกัน – และผลที่ตามมาของความล้มเหลวที่แตกต่างกัน

ในสถานะการผลิต เอไอเข้าสู่กระบวนการตัดสินใจที่แท้จริง สื่อสารกับลูกค้า และสร้างผลกระทบทางกฎหมายและด้านการดำเนินงาน นั่นคือที่ที่ช่องว่างเริ่มปรากฏ – ไม่ใช่ในโมเดล แต่ในด้านการบริหารจัดการ

ยุโรปทำให้สิ่งนี้เห็นได้ชัดเจนกว่าภูมิภาคอื่นๆ กฎระเบียบเช่น EU AI Act, GDPR และ NIS2 ไม่ชะลอการนำรับเอไอ – แต่ทำให้เห็นว่าองค์กรสามารถดำเนินการระบบเอไอได้ภายใต้ข้อจำกัดที่แท้จริง

ในปี 2025 55% ขององค์กรขนาดใหญ่ใน EU ได้นำเอไイมาใช้แล้ว การนำรับเอไイกำลังเกิดขึ้นในระดับที่สำคัญ ความท้าทายคือสิ่งที่เกิดขึ้นหลังการนำไปใช้

ในจุดนั้น คำถามการดำเนินงานพื้นฐานเริ่มปรากฏขึ้น และบ่อยครั้งไม่มีใครสามารถตอบได้: ใครรับผิดชอบต่อเอาต์พุตและตัดสินใจอัตโนมัติของเอไอ? สิ่งที่เกิดขึ้นเมื่อระบบแสดงพฤติกรรมที่ไม่คาดคิด? และใครจะจับได้ก่อนที่จะเกิดความเสียหาย?

ความรับผิดชอบอยู่กับบริษัท ไม่ใช่เทคโนโลยี แชทบอทของแอร์แคเนดา ให้ข้อมูลที่ไม่ถูกต้องแก่ลูกค้าเกี่ยวกับค่าธรรมเนียมการบำนาญ ลูกค้าเชื่อถือและถูกปฏิเสธการคืนเงินในภายหลัง องค์กรตัดสินว่าแอร์ไลน์มีความรับผิดชอบ – แชทบอทไม่ใช่หน่วยงานที่แยกจากกัน

ปัญหาเดียวกัน แต่ด้านที่แตกต่าง: ระบบ McHire ของแมคโดนัลด์ เปิดเผยข้อมูลที่ละเอียดอ่อนจากผู้สมัครเกือบ 64,000 คน สาเหตุไม่ใช่การโจมตีที่ซับซ้อน – การเข้าระบบใช้ “admin” และ “123456” ระบบดูเหมือนจะทันสมัย แต่ความล้มเหลวเป็นเรื่องพื้นฐาน

เมื่อคุณติดการบริหารจัดการเข้ากับระบบที่อยู่ในสถานะการผลิต มันคือเรื่องที่สายเกินไป การนำระบบไปใช้เป็นตัดสินใจด้านเทคนิค การดำเนินการระบบอย่างน่าเชื่อถือเป็นตัดสินใจด้านองค์กร และส่วนใหญ่ของบริษัทต่างๆ ต่ำกว่าความสามารถ

ใครเป็นเจ้าของความเสี่ยงของเอไอ? ไม่มีใคร

สิ่งนี้คือแก่นของปัญหา และในทางกลับกัน เป็นสิ่งที่ถูกพูดถนน้อยที่สุด นักเทคโนโลยีสารสนเทศจัดการโครงสร้างพื้นฐาน กฎหมายจัดการการปฏิบัติตามกฎระเบียบ ทีมธุรกิจผลักดันกรณีการใช้งาน แต่ไม่มีใครเป็นเจ้าของความเสี่ยงของเอไอทั้งหมด

สิ่งนี้สร้างปัญหาในทันทีสองประการ “การตัดสินใจไป” ชะลอลง – เพราะไม่มีใครต้องการที่จะรับผิดชอบ และ “การตัดสินใจหยุด” ชะลอลงเช่นกัน – เพราะไม่มีใครรู้ว่าใครสามารถทำได้

ข้อมูลสะท้อนให้เห็น น้อยกว่า 10% ของกรณีการใช้เอไอ สามารถไปถึงจากการทดลองไปสู่การผลิต และองค์กรส่วนใหญ่ต้องดิ้นรนเพื่อสร้างผลกระทบทางธุรกิจที่วัดได้ ในเวลาเดียวกัน หลายๆ องค์กรกำลังนำเอไイไปใช้ – แต่ตาม การสำรวจความต成熟ของการบริหารจัดการ เพียง 7% มีการบริหารจัดการที่มีโครงสร้างและใช้ได้สม่ำเสมอ

ทำไมสิ่งนี้จึงเกิดขึ้นอย่างต่อเนื่อง? เพราะเฟรมเวิร์กและนโยบายองค์กรมีกรอบว่าอะไรควรเกิดขึ้น – ไม่ใช่ใครที่รับผิดชอบเมื่อมันสำคัญ เมื่อระบบเริ่มสร้างเอาต์พุตที่ไม่ถูกต้องในเวลาเที่ยงคืนของวันศุกร์ คำถามไม่ใช่เรื่องทฤษฎี ใครที่จะดำเนินการ? และใครที่มีอำนาจในการตัดสินใจ?

สิ่งนี้ยังคงแย่ลงเมื่อมีการขยายขนาด ระบบหนึ่งสามารถจัดการได้อย่างไม่เป็นทางการ แต่เมื่อคุณมีสามสิบ ระบบ ความรับผิดชอบกระจายไปทั่วทีม และไม่มีใครมีภาพรวมทั้งหมด

เครือแบงก์แห่งออสเตรเลีย ให้ตัวอย่างที่ชัดเจน ธนาคารแทนที่พนักงานบริการลูกค้า 45 คน ด้วยบอทเสียงเอไอ โดยคาดหวังว่าความต้องการจะลดลง แต่ไม่ได้ ผู้จัดการเข้ามาจัดการการเกินความสามารถ และธนาคารต้องจ้างพนักงานทั้ง 45 คนกลับเข้ามาใหม่ เมื่อถูกท้าทาย ธนาคารไม่สามารถแสดงให้เห็นว่าระบบอัตโนมัติได้ลดภาระงานลง

ไม่มีใครตรวจสอบสมมติฐานก่อนการนำไปใช้ ไม่มีใครเป็นเจ้าของผลลัพธ์เมื่อสมมติฐานเหล่านั้นล้มเหลว นั่นคือสิ่งที่ว่างเปล่าด้านความรับผิดชอบในทางปฏิบัติ

การมีกฎไม่เพียงพอ คุณต้องการกลไก

องค์กรส่วนใหญ่ไม่ได้ขาดนโยบาย แต่ขาดระบบที่ทำงานเมื่อมีบางสิ่งผิดพลาด

นโยบายกำหนดว่าอะไรควรเกิดขึ้น กลไกกำหนดว่าอะไรเกิดขึ้นจริงๆ – เมื่อโมเดลสร้างเอาต์พุตที่ไม่ถูกต้อง เมื่อผู้ขายเปลี่ยนบางสิ่งในพื้นหลัง หรือเมื่อระบบเริ่มแสดงพฤติกรรมที่ไม่คาดคิด

ความแตกต่างนั้นเห็นได้ชัดเจนในสถานะการผลิต – เมื่อต้องตัดสินใจภายใต้สภาพแวดล้อมที่แท้จริง

ความล้มเหลวเหล่านี้ติดตามพลวัตที่สม่ำเสมอ ในแต่ละกรณี ช่องว่างการดำเนินงานเดียวกันปรากฏขึ้น – เพียงแต่ในรูปแบบที่แตกต่างกัน

ความเป็นเจ้าของมาเป็นอันดับแรก

ระบบเอไอที่ถูกนำไปใช้ทุกระบบต้องการเจ้าของที่รับผิดชอบอย่างชัดเจน – บุคคลหนึ่ง ไม่ใช่ทีมหรือแผนก ที่มีอำนาจในการอนุมัติ หยุดชั่วคราว และปิดระบบ

หากไม่มีสิ่งนั้น การนำไปใช้อย่างรวดเร็วหรือการแทรกแซงด้วยความปลอดภัยไม่สามารถเกิดขึ้นได้ ตามที่เห็นในตัวอย่างของเครือแบงก์แห่งออสเตรเลีย การไม่มีความเป็นเจ้าของที่ชัดเจนนำไปสู่ความล้มเหลวในการดำเนินงานโดยตรง

ความชัดเจนด้านข้อมูลและกฎหมายมักจะหายไป

หลายระบบเข้าสู่การผลิตโดยไม่มีการไหลของข้อมูลที่ได้รับการตรวจสอบ ฐานะทางกฎหมายที่ชัดเจน หรือความชัดเจนเกี่ยวกับภาระผูกพันที่ใช้เมื่อระบบอยู่ในสถานะการผลิต

การดำเนินการของหน่วยงานกำกับดูแลของอิตาลี đốiับ DeepSeek ในปี 2025 แสดงให้เห็นเรื่องนี้อย่างชัดเจน ปัญหาไม่ใช่คุณภาพของโมเดล – แต่เป็นการไม่สามารถอธิบายว่าข้อมูลส่วนบุคคลถูกจัดการอย่างไร ผลลัพธ์คือการหยุดบริการอย่างกะทันหันสำหรับผู้ใช้ในยุโรป

การทดสอบมักจะไม่สะท้อนการใช้งานในโลกแห่งความเป็นจริง

ระบบมักถูกประเมินตามสถานการณ์ที่มันทำงานได้ดี แต่ไม่ใช่ในกรณีที่ความล้มเหลวจะมีความสำคัญ

แชทบอท MyCity เป็นตัวอย่างที่ชัดเจน กรณีฐานที่ไม่ซับซ้อน – เกี่ยวกับกฎหมายแรงงาน การเลือกปฏิบัติทางที่อยู่อาศัย หรือกฎการชำระเงิน – ไม่ได้รับการจับก่อนการนำไปใช้ เมื่อถูกเปิดเผยต่อผู้ใช้จริง ความล้มเหลวเหล่านั้นกลายเป็นสาธารณะทันที

การทดสอบไม่ใช่แค่เรื่องประสิทธิภาพ – แต่เป็นการระบุจุดที่ระบบล้มเหลวก่อนที่ผู้ใช้ ผู้กำกับดูแล หรือนักข่าวจะทำ

การแทรกแซงเป็นเรื่องที่ไม่ชัดเจนหรือช้าเกินไป

แม้ว่าปัญหาเป็นที่รู้กัน แต่ก็ไม่มีการกระตุ้นหรืออำนาจที่ชัดเจนในการหยุดชั่วคราวหรือปิดระบบ

Zillow Offers แสดงให้เห็นเรื่องนี้ในระดับที่สำคัญ ระบบใช้อัลกอริทึมในการกำหนดราคาและซื้อขายบ้าน เมื่อตลาดเย็นลงในปี 2021 ระบบยังคงซื้อในราคาที่สูงเกินไป ไม่มีกลไกที่จะตรวจจับการเปลี่ยนแปลงในเวลาที่เหมาะสม และไม่มีจุดตัดสินใจที่ชัดเจนในการหยุด ระบบ ผลลัพธ์คือความสูญเสียที่เกิน 880 ล้านดอลลาร์และการปิดกิจการของแผนกทั้งหมด

การตรวจสอบไม่ใช่ความเป็นเจ้าของ

การตรวจสอบมักถูกย่อให้เหลือเพียงแผงควบคุม แต่นั่นไม่ใช่สิ่งที่ป้องกันความล้มเหลว

สิ่งที่สำคัญคือความรับผิดชอบที่กำหนดไว้อย่างชัดเจน: ใครติดตามสัญญาณอะไร ที่จะกระตุ้นการเพิ่มขึ้น และใครคาดหวังที่จะดำเนินการ?

กรณีของ Deloitte Australia แสดงให้เห็นถึงสิ่งที่เกิดขึ้นเมื่อสิ่งนั้นหายไป รายงานของรัฐบาลรวมถึงการอ้างอิงที่ไม่มีอยู่จริงและข้อมูลทางกฎหมายที่ไม่ถูกต้อง เนื่องจากไม่มีใครรับผิดชอบอย่างชัดเจนในการตรวจสอบเอาต์พุตก่อนที่จะส่งมอบ ผลลัพธ์คือการคืนเงินบางส่วนและความเสียหายต่อชื่อเสียง

เอไอแบบ Agentic: สิ่งที่กำลังจะมาถึงจะยากกว่านี้

เอไอแบบ Generative สร้างเอาต์พุต เอไอแบบ Agentic ดำเนินการ สิ่งนี้เปลี่ยนความเสี่ยงไปทั้งหมด

แทนที่จะเป็นการตอบสนองเดียวที่จะต้องประเมิน การสั่งการเดียวสามารถกระตุ้นการดำเนินการต่อเนื่องของการตัดสินใจข้ามระบบ – การเรียก API การเข้าถึงข้อมูล การทำธุรกรรม การอัปเดต – บ่อยครั้งโดยไม่มีการแทรกแซงของมนุษย์ในแต่ละขั้นตอน

เมื่อเกิดปัญหา ปัญหาไม่ใช่ความถูกต้องแล้ว แต่เป็นการติดตาม สิ่งใดที่ทำให้เกิดปัญหา? ข้อมูลอะไรที่ถูกใช้? ใครที่อนุญาตการดำเนินการ? ในหลายกรณี คำถามเหล่านี้ยากที่จะตอบหลังจากที่เกิดเหตุ

สัญญาณแรกๆ บ่งชี้ไปในทิศทางนี้แล้ว Gartner คาดการณ์ว่ามากกว่า 40% ของโครงการเอไอแบบ Agentic จะถูกยกเลิกภายในปี 2027 – ไม่ใช่เนื่องจากข้อจำกัดของโมเดล แต่เนื่องจากองค์กรต้องดิ้นรนในการควบคุมต้นทุน ความเสี่ยง และผลลัพธ์ นั่นคือรูปแบบเดียวกับที่เราเห็นในเอไอแบบ Generative หลังการนำไปใช้ เพียงแต่มีความเสี่ยงที่สูงกว่า

หน่วยงานกำกับดูแลกำลังตอบสนองด้วยหลักการง่ายๆ: การทำให้ระบบอัตโนมัติไม่ลบความรับผิดชอบออกไป สำหรับองค์กร สิ่งนี้ทำให้เกิดผลกระทบที่ชัดเจน: หากความเป็นเจ้าของและการควบคุมไม่ชัดเจนในวันนี้ การขยายขนาดไปสู่ระบบ Agentic จะไม่แก้ไขปัญหา แต่จะทำให้ปัญหายิ่งใหญ่ขึ้น

ดำเนินการ – หรือสูญเสีย

เอไอไม่ใช่ข้อจำกัดอีกต่อไป โมเดลมีจำหน่าย มีความสามารถ และมีการ commoditize เพิ่มมากขึ้น สิ่งที่แตกต่างที่แท้จริงไม่ใช่ว่าองค์กรสามารถสร้างเอไอได้ – แต่ว่าสามารถดำเนินการได้อย่างน่าเชื่อถือเมื่อระบบอยู่ในสถานะการผลิต

นั่นคือที่ที่ความล้มเหลวส่วนใหญ่เกิดขึ้น – ในวิธีการดำเนินการระบบ ไม่ใช่ในด้านการสร้างระบบ องค์กรที่ประสบความสำเร็จจะไม่ใช่ผู้ที่มีโมเดลที่ทันสมัยที่สุด แต่จะเป็นผู้ที่มีโครงสร้างการดำเนินการที่ชัดเจนที่สุดรอบๆ โมเดล

สิ่งนี้สามารถทดสอบได้โดยตรง ให้ระบบเอไอที่สำคัญที่สุดของคุณและตอบคำถามสามข้อ:

• ใครสามารถปิดระบบได้?
• คุณรู้ได้อย่างไรว่าระบบกำลังล้มเหลว?
• สิ่งใดที่เกิดขึ้นเมื่อระบบล้มเหลว?

หากคำตอบเหล่านั้นไม่ชัดเจน ระบบไม่พร้อมสำหรับการผลิต

โมเดลอาจพร้อม แต่องค์กรไม่พร้อม