ผู้นำทางความคิด
ทำไมเอไอสำหรับองค์กรจึงล้มเหลวหลังการนำไปใช้ – และทำอย่างไรจึงจะแก้ไขได้

ประเด็นสำคัญความรับผิดชอบที่ขาดหายไปเป็นสาเหตุหลักของความล้มเหลวของ AI ในองค์กร…
ดูเพิ่มเติม
- ความรับผิดชอบที่ขาดหายไปเป็นสาเหตุหลักของความล้มเหลวของ AI ในองค์กร ไม่ใช่ข้อบกพร่องของโมเดล
- สายการบินแอร์แคนาดาถูกตัดสินให้รับผิดชอบต่อคำแนะนำที่ไม่ถูกต้องเกี่ยวกับค่าโดยสารสำหรับการสูญเสียบุคคลอันเป็นที่รักจากแชทบอทของตน
- AI แบบเอเจนต์จะขยายช่องว่างด้านการกำกับดูแลที่มีอยู่ เนื่องจากการกระทำที่เป็นอิสระจะเพิ่มความเสี่ยงที่ทับซ้อน
คำเตือน: ปัญหาไม่ได้อยู่ที่โมเดล
ในปี 2023 นครนิวยอร์กได้เปิดตัวแชทบอท MyCity เพื่อช่วยให้ธุรกิจสามารถนำทางกฎระเบียบที่ซับซ้อนได้ง่ายขึ้น ความคิดนี้เป็นเรื่องง่ายๆ: ทำให้ข้อมูลทางกฎหมายสามารถเข้าถึงได้ง่ายขึ้น
ในทางปฏิบัติ ระบบได้สร้างคำตอบที่ไม่เพียงแต่ไม่ถูกต้อง แต่ยังเป็นข้อมูลที่ทำให้เข้าใจผิดตามกฎหมายด้วย – ตั้งแต่กฎเกี่ยวกับเงินทิปถึงการเลือกปฏิบัติทางที่อยู่อาศัยและการชำระเงิน
การตรวจสอบในภายหลังพบว่า 71.4% ของคำติชมของผู้ใช้เป็นลบ แทนที่จะแก้ไขปัญหาเบื้องหลัง ระบบตอบสนองด้วยการเพิ่มข้อจำกัดความรับผิด แชทบอทยังคงอยู่ใน “เบต้า” มากกว่าสองปีก่อนที่จะถูกปิดลง
ความล้มเหลวไม่ได้เกิดจากด้านเทคนิค ระบบล้มเหลวในการผลิตเพราะไม่มีกลไกที่จะรับรองความถูกต้อง ไม่มีการรับผิดชอบที่ชัดเจน และไม่มีวิธีการแทรกแซงเมื่อเกิดปัญหา
นั่นคือรูปแบบที่อยู่เบื้องหลังเอไอสำหรับองค์กรในปัจจุบัน: เทคโนโลยีทำงาน แต่องค์กรไม่ได้ถูกตั้งค่าให้ดำเนินการได้อย่างน่าเชื่อถือเมื่อระบบอยู่ในสถานะการผลิต
จากการทดลองไปสู่การผลิต: ที่ทุกอย่างล้มเหลว
การสร้างการทดลองเป็นเรื่องที่ตรงไปตรงมา – เลือกกรณีการใช้งาน เลือกโมเดล เตรียมข้อมูล หาสปอนเซอร์ การดำเนินการระบบในสถานะการผลิตเป็นลีกที่แตกต่างทั้งหมด
ช่องว่างนั้นคล้ายกับความแตกต่างระหว่างการกระโดดลงในสระว่ายน้ำและกระโดดจากชั้นสตราโตสเฟียร์ เช่นเดียวกับที่เฟลิกซ์ บัมการ์ทเนอร์ทำในปี 2012 ฟิสิกส์แบบเดียวกัน แต่สภาพแวดล้อมที่แตกต่างกัน – และผลที่ตามมาของความล้มเหลวที่แตกต่างกัน
ในสถานะการผลิต เอไอเข้าสู่กระบวนการตัดสินใจที่แท้จริง สื่อสารกับลูกค้า และสร้างผลกระทบทางกฎหมายและด้านการดำเนินงาน นั่นคือที่ที่ช่องว่างเริ่มปรากฏ – ไม่ใช่ในโมเดล แต่ในด้านการบริหารจัดการ
ยุโรปทำให้สิ่งนี้ปรากฏให้เห็นได้เร็วกว่าภูมิภาคอื่นส่วนใหญ่ กฎระเบียบเช่น EU AI Act, GDPR และ NIS2 ไม่ชะลอการนำเอไอมาใช้ – แต่ทำให้เห็นว่าองค์กรสามารถดำเนินการระบบเอไอได้ภายใต้ข้อจำกัดที่แท้จริง
ในปี 2025 55% ขององค์กรขนาดใหญ่ใน EU ได้นำเอไอมาใช้แล้ว การนำเอไอมาใช้กำลังเกิดขึ้นในระดับที่สำคัญ ความท้าทายคือสิ่งที่เกิดขึ้นหลังการนำไปใช้
ในจุดนั้น คำถามการดำเนินงานพื้นฐานเริ่มปรากฏขึ้น และบ่อยครั้งไม่มีใครสามารถตอบได้: ใครรับผิดชอบต่อเอาต์พุตและการตัดสินใจอัตโนมัติของเอไอ? สิ่งที่เกิดขึ้นเมื่อระบบแสดงพฤติกรรมที่ไม่คาดคิด? และใครจะตรวจพบก่อนที่ความเสียหายจะเป็นข่าวในสื่อ?
ความรับผิดชอบอยู่กับบริษัท ไม่ใช่เทคโนโลยี แชทบอทของแอร์แคเนดา (AC.TO ) ให้ข้อมูลที่ไม่ถูกต้องแก่ลูกค้าเกี่ยวกับค่าโดยสารเครื่องบินพิเศษกรณีญาติเสียชีวิต ลูกค้าเชื่อถือและถูกปฏิเสธการคืนเงินในภายหลัง คณะตุลาการวินิจฉัยว่าสายการบินต้องรับผิด – แชทบอทไม่ใช่หน่วยงานที่แยกจากกัน
ปัญหาเดียวกัน แต่ด้านที่แตกต่าง: ระบบ McHire ของแมคโดนัลด์ เปิดเผยข้อมูลที่ละเอียดอ่อนจากผู้สมัครเกือบ 64,000 คน สาเหตุไม่ใช่การโจมตีที่ซับซ้อน – การเข้าระบบใช้ “admin” และ “123456” ระบบดูเหมือนจะทันสมัย แต่ความล้มเหลวเป็นเรื่องพื้นฐาน
เมื่อคุณติดการบริหารจัดการเข้ากับระบบที่อยู่ในสถานะการผลิต มันคือเรื่องที่สายเกินไป การนำระบบไปใช้เป็นการตัดสินใจด้านเทคนิค การดำเนินการระบบอย่างน่าเชื่อถือเป็นการตัดสินใจด้านองค์กร และนี่คือส่วนที่บริษัทส่วนใหญ่ประเมินต่ำเกินไป
ใครเป็นเจ้าของความเสี่ยงของเอไอ? ไม่มีใคร
สิ่งนี้คือแก่นของปัญหา และในทางกลับกัน เป็นส่วนที่ถูกพูดถึงน้อยที่สุด นักเทคโนโลยีสารสนเทศจัดการโครงสร้างพื้นฐาน กฎหมายจัดการการปฏิบัติตามกฎระเบียบ ทีมธุรกิจผลักดันกรณีการใช้งาน แต่ไม่มีใครเป็นเจ้าของความเสี่ยงของเอไอทั้งหมด
สิ่งนี้สร้างปัญหาในทันทีสองประการ “การตัดสินใจไป” ชะลอลง – เพราะไม่มีใครต้องการที่จะรับผิดชอบ และ “การตัดสินใจหยุด” ชะลอลงเช่นกัน – เพราะไม่มีใครรู้ว่าใครสามารถทำได้
ข้อมูลสะท้อนให้เห็น น้อยกว่า 10% ของกรณีการใช้เอไอ สามารถไปถึงจากการทดลองไปสู่การผลิต และองค์กรส่วนใหญ่ต้องดิ้นรนเพื่อสร้างผลกระทบทางธุรกิจที่วัดได้ ในเวลาเดียวกัน หลายๆ องค์กรกำลังนำเอไอไปใช้ – แต่ตาม การสำรวจระดับความพร้อมด้านการกำกับดูแล เพียง 7% มีการบริหารจัดการที่มีโครงสร้างและใช้ได้สม่ำเสมอ
ทำไมสิ่งนี้จึงเกิดขึ้นอย่างต่อเนื่อง? เพราะเฟรมเวิร์กและนโยบายองค์กรมีกรอบว่าอะไรควรเกิดขึ้น – ไม่ใช่ใครที่รับผิดชอบเมื่อมันสำคัญ เมื่อระบบเริ่มสร้างเอาต์พุตที่ไม่ถูกต้องในเวลาเที่ยงคืนของวันศุกร์ คำถามไม่ใช่เรื่องทฤษฎี ใครที่จะดำเนินการ? และใครที่มีอำนาจในการตัดสินใจ?
สิ่งนี้ยังคงแย่ลงเมื่อมีการขยายขนาด ระบบหนึ่งสามารถจัดการได้อย่างไม่เป็นทางการ แต่เมื่อคุณมีสามสิบระบบ ความรับผิดชอบกระจายไปทั่วทีม และไม่มีใครมีภาพรวมทั้งหมด
ธนาคารคอมมอนเวลธ์แห่งออสเตรเลีย (CBA.AX ) ให้ตัวอย่างที่ชัดเจน ธนาคารแทนที่พนักงานบริการลูกค้า 45 คน ด้วยบอทเสียงเอไอ โดยคาดหวังว่าความต้องการจะลดลง แต่ความต้องการไม่ได้ลดลง จำนวนสายโทรเข้าเพิ่มขึ้น ผู้จัดการจึงเข้ามารับภาระส่วนเกิน และธนาคารต้องจ้างพนักงานทั้ง 45 คนกลับเข้ามาใหม่ เมื่อถูกท้าทาย ธนาคารไม่สามารถแสดงให้เห็นว่าระบบอัตโนมัติได้ลดภาระงานลง
ไม่มีใครตรวจสอบสมมติฐานก่อนการนำไปใช้ ไม่มีใครเป็นเจ้าของผลลัพธ์เมื่อสมมติฐานเหล่านั้นล้มเหลว นั่นคือช่องว่างด้านความรับผิดชอบในทางปฏิบัติ
การมีกฎไม่เพียงพอ คุณต้องการกลไก
องค์กรส่วนใหญ่ไม่ได้ขาดนโยบาย แต่ขาดระบบที่ทำงานเมื่อมีบางสิ่งผิดพลาด
นโยบายกำหนดว่าอะไรควรเกิดขึ้น กลไกกำหนดว่าอะไรเกิดขึ้นจริงๆ – เมื่อโมเดลสร้างเอาต์พุตที่ไม่ถูกต้อง เมื่อผู้ขายเปลี่ยนบางสิ่งในพื้นหลัง หรือเมื่อระบบเริ่มแสดงพฤติกรรมที่ไม่คาดคิด
ความแตกต่างนั้นเห็นได้ชัดเจนในสถานะการผลิต – เมื่อต้องตัดสินใจภายใต้สภาพแวดล้อมที่แท้จริง
ความล้มเหลวเหล่านี้ติดตามพลวัตที่สม่ำเสมอ ในแต่ละกรณี ช่องว่างการดำเนินงานเดียวกันปรากฏขึ้น – เพียงแต่ในรูปแบบที่แตกต่างกัน
ความเป็นเจ้าของมาเป็นอันดับแรก
ระบบเอไอที่ถูกนำไปใช้ทุกระบบต้องการเจ้าของที่รับผิดชอบอย่างชัดเจน – บุคคลหนึ่ง ไม่ใช่ทีมหรือแผนก ที่มีอำนาจในการอนุมัติ หยุดชั่วคราว และปิดระบบ
หากไม่มีสิ่งนั้น การนำไปใช้อย่างรวดเร็วหรือการแทรกแซงอย่างปลอดภัยไม่สามารถเกิดขึ้นได้ ตามที่เห็นในตัวอย่างของธนาคารคอมมอนเวลธ์แห่งออสเตรเลีย การไม่มีความเป็นเจ้าของที่ชัดเจนนำไปสู่ความล้มเหลวในการดำเนินงานโดยตรง
ความชัดเจนด้านข้อมูลและกฎหมายมักจะหายไป
หลายระบบเข้าสู่การผลิตโดยไม่มีเอกสารบันทึกเส้นทางการไหลของข้อมูล ฐานทางกฎหมายที่ตรวจสอบแล้ว หรือความชัดเจนเกี่ยวกับภาระผูกพันที่ใช้เมื่อระบบอยู่ในสถานะการผลิต
การดำเนินการของหน่วยงานกำกับดูแลของอิตาลี ต่อ DeepSeek ในปี 2025 แสดงให้เห็นเรื่องนี้อย่างชัดเจน ปัญหาไม่ใช่คุณภาพของโมเดล – แต่เป็นการไม่สามารถอธิบายว่าข้อมูลส่วนบุคคลถูกจัดการอย่างไร ผลลัพธ์คือการหยุดบริการอย่างกะทันหันสำหรับผู้ใช้ในยุโรป
การทดสอบมักจะไม่สะท้อนการใช้งานในโลกแห่งความเป็นจริง
ระบบมักถูกประเมินตามสถานการณ์ที่มันทำงานได้ดี แต่ไม่ใช่ในกรณีที่ความล้มเหลวจะมีผลกระทบร้ายแรงที่สุด
แชทบอท MyCity เป็นตัวอย่างที่ชัดเจน กรณีเฉพาะที่พื้นฐาน – เกี่ยวกับกฎหมายแรงงาน การเลือกปฏิบัติทางที่อยู่อาศัย หรือกฎการชำระเงิน – ไม่ได้รับการตรวจพบก่อนการนำไปใช้ เมื่อถูกเปิดเผยต่อผู้ใช้จริง ความล้มเหลวเหล่านั้นกลายเป็นสาธารณะทันที
การทดสอบไม่ใช่แค่เรื่องประสิทธิภาพ – แต่เป็นการระบุจุดที่ระบบล้มเหลวก่อนที่ผู้ใช้ ผู้กำกับดูแล หรือนักข่าวจะทำ
การแทรกแซงเป็นเรื่องที่ไม่ชัดเจนหรือช้าเกินไป
แม้ว่าปัญหาเป็นที่รู้กัน แต่ก็ไม่มีเงื่อนไขกระตุ้นหรืออำนาจที่ชัดเจนในการหยุดชั่วคราวหรือปิดระบบ
Zillow Offers แสดงให้เห็นเรื่องนี้ในระดับที่สำคัญ ระบบใช้อัลกอริทึมในการกำหนดราคาและซื้อบ้าน เมื่อตลาดเย็นลงในปี 2021 ระบบยังคงซื้อในราคาที่สูงเกินไป ไม่มีกลไกที่จะตรวจจับการเปลี่ยนแปลงในเวลาที่เหมาะสม และไม่มีจุดตัดสินใจที่ชัดเจนในการหยุดระบบ ผลลัพธ์คือความสูญเสียที่เกิน 880 ล้านดอลลาร์และการปิดกิจการของแผนกทั้งหมด
การตรวจสอบไม่ใช่ความเป็นเจ้าของ
การตรวจสอบมักถูกย่อให้เหลือเพียงแผงควบคุม แต่นั่นไม่ใช่สิ่งที่ป้องกันความล้มเหลว
สิ่งที่สำคัญคือความรับผิดชอบที่กำหนดไว้อย่างชัดเจน: ใครติดตามสัญญาณ อะไรกระตุ้นให้ยกระดับเรื่อง และคาดหวังให้ใครลงมือดำเนินการ?
กรณีของ Deloitte Australia แสดงให้เห็นถึงสิ่งที่เกิดขึ้นเมื่อสิ่งนั้นหายไป รายงานของรัฐบาลรวมถึงการอ้างอิงที่ไม่มีอยู่จริงและข้อมูลทางกฎหมายที่ไม่ถูกต้อง เนื่องจากไม่มีใครรับผิดชอบอย่างชัดเจนในการตรวจสอบเอาต์พุตก่อนที่จะส่งมอบ ผลลัพธ์คือการคืนเงินบางส่วนและความเสียหายต่อชื่อเสียง
เอไอแบบ Agentic: สิ่งที่กำลังจะมาถึงจะยากกว่านี้
เอไอแบบ Generative สร้างเอาต์พุต เอไอแบบ Agentic ดำเนินการ สิ่งนี้เปลี่ยนความเสี่ยงไปทั้งหมด
แทนที่จะเป็นการตอบสนองเดียวที่จะต้องประเมิน การสั่งการเดียวสามารถกระตุ้นการดำเนินการต่อเนื่องของการตัดสินใจข้ามระบบ – การเรียก API การเข้าถึงข้อมูล การทำธุรกรรม การอัปเดต – บ่อยครั้งโดยไม่มีการแทรกแซงของมนุษย์ในแต่ละขั้นตอน
เมื่อเกิดปัญหา ปัญหาไม่ใช่ความถูกต้องแล้ว แต่เป็นความสามารถในการตรวจสอบย้อนกลับ ขั้นตอนใดทำให้เกิดปัญหา? ข้อมูลอะไรที่ถูกใช้? ใครที่อนุญาตการดำเนินการ? ในหลายกรณี คำถามเหล่านี้ยากที่จะตอบหลังจากที่เกิดเหตุ
นี่คือจุดที่ช่องว่างเดิมกลายเป็นเรื่องวิกฤต ความไม่ชัดเจนของผู้รับผิดชอบ การติดตามที่อ่อนแอ และการขาดช่องทางแทรกแซงไม่ได้เพียงคงอยู่ แต่ผลกระทบยังทวีคูณร่วมกัน คำตอบที่ผิดแก้ไขได้ แต่การกระทำที่ผิดอาจสร้างผลตามมาก่อนมีใครสังเกตเห็น
สัญญาณแรกๆ บ่งชี้ไปในทิศทางนี้แล้ว Gartner คาดการณ์ว่ามากกว่า 40% ของโครงการเอไอแบบ Agentic จะถูกยกเลิกภายในปี 2027 – ไม่ใช่เนื่องจากข้อจำกัดของโมเดล แต่เนื่องจากองค์กรต้องดิ้นรนในการควบคุมต้นทุน ความเสี่ยง และผลลัพธ์ นั่นคือรูปแบบเดียวกับที่เราเห็นในเอไอแบบ Generative หลังการนำไปใช้ เพียงแต่มีความเสี่ยงที่สูงกว่า
หน่วยงานกำกับดูแลกำลังตอบสนองด้วยหลักการง่ายๆ: การทำให้ระบบอัตโนมัติไม่ลบความรับผิดชอบออกไป สำหรับองค์กร สิ่งนี้ทำให้เกิดผลกระทบที่ชัดเจน: หากความเป็นเจ้าของและการควบคุมไม่ชัดเจนในวันนี้ การขยายขนาดไปสู่ระบบ Agentic จะไม่แก้ไขปัญหา แต่จะทำให้ปัญหายิ่งใหญ่ขึ้น
ดำเนินการ – หรือสูญเสีย
เอไอไม่ใช่ข้อจำกัดอีกต่อไป โมเดลมีจำหน่าย มีความสามารถ และกลายเป็นสินค้ามาตรฐานที่ทดแทนกันได้มากขึ้น สิ่งที่สร้างความแตกต่างที่แท้จริงไม่ใช่ว่าองค์กรสามารถสร้างเอไอได้ – แต่ว่าสามารถดำเนินการได้อย่างน่าเชื่อถือเมื่อระบบอยู่ในสถานะการผลิต
นั่นคือที่ที่ความล้มเหลวส่วนใหญ่เกิดขึ้น – ในวิธีการดำเนินการระบบ ไม่ใช่ในด้านการสร้างระบบ องค์กรที่ประสบความสำเร็จจะไม่ใช่ผู้ที่มีโมเดลที่ทันสมัยที่สุด แต่จะเป็นผู้ที่มีโครงสร้างการดำเนินการที่ชัดเจนที่สุดรอบๆ โมเดล
สิ่งนี้สามารถทดสอบได้โดยตรง เลือกระบบเอไอที่สำคัญที่สุดของคุณและตอบคำถามสามข้อ:
- ใครสามารถปิดระบบได้?
- คุณรู้ได้อย่างไรว่าระบบกำลังล้มเหลว?
- เกิดอะไรขึ้นเมื่อระบบล้มเหลว?
หากคำตอบเหล่านั้นไม่ชัดเจน ระบบไม่พร้อมสำหรับการผลิต
โมเดลอาจพร้อม แต่องค์กรไม่พร้อม












