การล้าง AI กำลังทำให้ธุรกิจล้มเหลว

ทุกวันนี้ ธุรกิจทุกแห่งรู้สึกถึงแรงกดดันที่จะต้องมีเรื่องราวเกี่ยวกับ AI ผู้บริหารต้องการมัน นักลงทุนคาดหวังมัน ลูกค้าถามเกี่ยวกับมัน แต่แรงกดดันนี้ทำให้เกิดการ “ล้าง AI” – โดยที่ระบบอัตโนมัติกลายเป็น “AI” ระบบวิเคราะห์ถูกเปลี่ยนชื่อเป็น “การเรียนรู้ของเครื่อง” และระบบชัตบอทที่ถูกเขียนขึ้นกลายเป็น “AI ที่มีเจตนา”

ฉันเคยเห็นเรื่องนี้มาก่อน วันนี้ภูมิทัศน์ของ AI นั้น คล้ายกับช่วงแรกของการนำคลาวด์มาใช้ เมื่อบริษัทต่างๆ ให้ฉลากระบบบนพื้นฐาน “คลาวด์” ก่อนที่สถาปัตยกรรมหรือรูปแบบการดำเนินงานจะพร้อม การทำซ้ำแบบเดียวกันนี้กำลังเกิดขึ้น และผลที่ตามมาจะแย่กว่า

เมื่อเกิดการ “ล้างคลาวด์” ผลเสียคือการไม่มีประสิทธิภาพและการสูญเสียเงิน แต่เมื่อเกิดการ “ล้าง AI” ผลเสียคือการเผชิญหน้ากับลูกค้า เราไม่ได้นำระบบโครงสร้างพื้นฐานที่ล้มเหลวออกสู่ตลาด แต่เรากำลังนำระบบที่มีปฏิสัมพันธ์โดยตรงกับลูกค้าออกสู่ตลาด – และระบบเหล่านี้ล้มเหลวอย่างเงียบๆ มั่นใจ และบ่อยครั้งในกรณีที่สำคัญที่สุด

นี่อาจเป็นเหตุผลที่ตาม การศึกษาของ MIT Sloan โครงการ AI ส่วนใหญ่ไม่เคยถึงการผลิต และโครงการที่ทำได้บ่อยครั้งไม่ค่อยให้ผลลัพธ์ที่คาดหวัง – ไม่ใช่เพราะ AI ไม่มีความสามารถ แต่เพราะองค์กรที่นำ AI ไปใช้ข้ามขั้นตอนการตรวจสอบ การยืนยัน และการเตรียมพร้อมการผลิต

ปัจจัยที่แท้จริงเบื้องหลังการล้าง AI

ความกลัวที่จะถูกมองว่าล้าสมัยเป็นปัจจัยหลักที่ทำให้เกิดพฤติกรรมนี้ องค์กรต่างๆ ต้องการให้ AI เป็นสัญญาณของนวัตกรรมมากกว่าที่จะเป็นการสะท้อนถึงความสามารถที่แท้จริง พวกเขาข้ามขั้นตอนการตรวจสอบและการยืนยันเพื่อให้ตรงตามกำหนดการเปิดตัวผลิตภัณฑ์ โดยไม่มีกระบวนการพัฒนาที่มีจุดมุ่งหมายเพื่อตอบสนองความต้องการของลูกค้า

ความคาดหวังของนักลงทุนยังทำให้ปัญหาเลวร้ายขึ้น บริษัทที่มีการสนับสนุนจากนักลงทุนและบริษัทที่จดทะเบียนในตลาดหลักทรัพย์ต้องเผชิญกับเส้นตายในการแสดงให้เห็นถึงการบูรณาการ AI และการเติบโตที่ขับเคลื่อนด้วย AI ในความเป็นจริง 90% ของผู้บริหารรายงานว่ารู้สึกถึงแรงกดดันจากนักลงทุนในการนำ AI มาใช้ แรงกดดันนี้ทำให้บริษัทต่างๆ ต้องการเปลี่ยนชื่อความสามารถที่มีอยู่แล้วให้เป็น AI มากกว่าที่จะสร้างผลิตภัณฑ์หรือบริการใหม่ที่แท้จริงที่ขับเคลื่อนด้วย AI

ผลลัพธ์คือการสร้างความคาดหวังที่ไม่ถูกต้องในทุกๆ ด้าน – สำหรับนักลงทุน ลูกค้า และทีมภายในที่ได้รับมอบหมายให้ทำให้ทุกอย่างทำงานได้ มันสร้างภาพลวงตาของนวัตกรรมเมื่อในความเป็นจริงมันเป็นเพียงการตลาด

ทำไม AI ที่มีเจตนาแตกภาพลวงตา

AI ที่มีเจตนาเป็นจุดที่ภาพลวงตาของ AI สิ้นสุดลง และด้วย 68% ขององค์กรที่คาดว่าจะบูรณาการ AI ที่มีเจตนาในปีนี้ การตื่นตระหนักกำลังจะมาถึงเร็วๆ นี้

ปัญหาพื้นฐานที่ส่วนใหญ่ขององค์กรไม่ได้เผชิญหน้ายังอยู่ที่นี่: ซอฟต์แวร์แบบดั้งเดิมเป็นแบบกำหนดผลลัพธ์ (deterministic) – ข้อมูลเข้าเดียวกัน ผลลัพธ์เดียวกัน ทุกครั้ง คุณสามารถเขียนการทดสอบได้ ทำซ้ำข้อผิดพลาด และคาดการณ์ผลลัพธ์ได้ AI ที่มีเจตนาไม่ใช่แบบนั้น – คำถามเดียวกันสามารถให้ผลลัพธ์ที่แตกต่างกันในแต่ละครั้ง นี่ไม่ใช่ข้อผิดพลาด มันเป็นสถาปัตยกรรม และมันเปลี่ยนแปลงทุกอย่างเกี่ยวกับวิธีการทดสอบ ตรวจสอบ และเชื่อถือระบบเหล่านี้

โครงสร้างพื้นฐานการตรวจสอบของคุณถูกสร้างขึ้นโดยสมมติว่าผลลัพธ์สามารถทำซ้ำได้ (reproducibility) ด้วย AI ที่สร้างขึ้น (generative AI) สมมติฐานนั้นหายไป คุณสามารถทำการทดสอบเดียวกันได้ 100 ครั้ง และได้ผลลัพธ์ที่แตกต่างกัน 100 ครั้ง – บางครั้งถูกต้อง บางครั้งผิดพลาดเล็กน้อย บางครั้งผิดพลาดอย่างรุนแรง แฟร์มเวิร์กการตรวจสอบที่ใช้สำหรับ IVR และชัตบอทที่ถูกเขียนขึ้นไม่สามารถใช้กับ AI ที่มีเจตนาได้ และส่วนใหญ่ขององค์กรยังไม่ได้สร้างแฟร์มเวิร์กใหม่ๆ เหล่านี้

นี่คือจุดที่การล้าง AI ถูกเปิดเผย มันไม่ใช่เรื่องง่ายที่จะให้การนำเสนอที่มีการควบคุมด้วยข้อมูลเข้าที่ถูกเลือกและเส้นทางที่คาดการณ์ได้ มันเป็นอีกเรื่องหนึ่งที่ต้องจัดการกับลูกค้าจริงที่ตัดกัน ขัดแย้งกับตัวเอง พูดภาษาอังกฤษที่ไม่สมบูรณ์ และโทรศัพท์เวลา 23.00 น. เกี่ยวกับข้อพิพาทเรื่องการเรียกเก็บเงินที่ไม่เข้าใจอย่างสมบูรณ์ โมเดลถูกฝึกฝนด้วยข้อมูล ไม่ใช่ความเป็นจริงที่ซับซ้อนและไม่คาดคิดของปฏิสัมพันธ์ของมนุษย์

เมื่อระบบเหล่านี้ล้มเหลว มันไม่ล้มเหลวเหมือนซอฟต์แวร์แบบดั้งเดิม ไม่มีการ崩溃 ไม่มีรหัสข้อผิดพลาด AI ดูเหมือนมั่นใจในตัวเองในขณะที่ให้ผลลัพธ์ที่ผิด มันจัดการกรณี 95% ได้ดี แต่จัดการกรณี 5% ที่สำคัญที่สุดได้อย่างย่ำแย่ และไม่เหมือนกับเว็บฟอร์มที่เสียหาย ระบบเหล่านี้ล้มเหลวและแพร่กระจายไปทั่วลูกค้าหลายพันคนก่อนที่ใครจะสังเกตเห็น

ที่ที่ความล้มเหลวของ AI ซ่อนอยู่

ประสบการณ์ของลูกค้าเป็นหนึ่งในสภาพแวดล้อมที่ซับซ้อนที่สุดสำหรับ AI ที่มีเจตนา – และที่ที่การล้าง AI ถูกเปิดเผยอย่างชัดเจน Gartner คาดการณ์เมื่อเร็วๆ นี้ว่า มากกว่า 40% ของโครงการ AI ที่มีเจตนา sẽถูกยกเลิกภายในสิ้นปี 2027 เนื่องจากต้นทุนที่เพิ่มขึ้น การควบคุมความเสี่ยงที่ไม่เพียงพอ หรือคุณค่าทางธุรกิจที่ไม่ชัดเจน ประสบการณ์ของลูกค้าเป็นหนึ่งในเหตุผลหลักที่ทำให้เกิดการยกเลิกเหล่านี้

การเดินทางของลูกค้าไม่เคยเกี่ยวข้องกับระบบเดียว มันเคลื่อนผ่าน AI ที่มีการสนทนา ระบบ IVR ฐานความรู้ และ แพลตฟอร์ม CRM และตัวแทนมนุษย์ การเดินทางแบบผสมผสานเป็นเรื่องปกติ – การโต้ตอบแต่ละครั้งอาจเคลื่อนผ่านระบบหลายระบบก่อนที่จะถึงการแก้ปัญหา

สิ่งที่ฉันเห็นซ้ำๆ คือ: ระบบแต่ละระบบดูเหมือนจะทำงานได้อย่างถูกต้องเมื่อทำงานแยกกัน แต่การเดินทางจากจุดเริ่มต้นถึงจุดสิ้นสุดยังคงล้มเหลว ตัวแทน AI ตีความคำถามได้อย่างถูกต้อง แต่ CRM มีข้อมูลที่ล้าสมัยและให้คำตอบที่ไม่ถูกต้อง AI ถูกกล่าวโทษ แต่ปัญหาแท้จริงคือการกระจายตัวของข้อมูลและการเป็นเจ้าของที่กระจายตัว

การกระจายตัวของเทคโนโลยีทำให้เกิดการกระจายตัวของการมองเห็น มองไม่เห็นภาพรวมของการเดินทางของลูกค้า ไม่เหมือนกับซอฟต์แวร์แบบดั้งเดิมที่มีสัญญาณข้อผิดพลาดที่ชัดเจน เมื่อ AI ที่มีเจตนาเสียหาย มันจะดูเหมือนมั่นใจในตัวเองโดยไม่คำนึงถึงความถูกต้อง กฎการยกเลิกจะถูกชะลอการทำงาน ลูกค้าถูกจับในวงจร และระบบจะยังคงทำงานต่อไป – และความล้มเหลวจะปรากฏชัดเจนเฉพาะเมื่อลูกค้าแสดงความไม่พอใจหรือการหยุดใช้บริการ

นี่คือปัญหาเรื่องความล้มเหลวที่เงียบๆ AI ไม่崩溃 มันกำลังทำลายความไว้วางใจอย่างเงียบๆ ในแต่ละครั้ง โดยไม่คำนึงถึงขนาด

การเปลี่ยนจากความตื่นตระหนักของ AI ไปสู่ระเบียบปฏิบัติในการดำเนินงาน

คำตอบสำหรับการล้าง AI ไม่ใช่การตลาดที่ดีกว่า มันเป็นการเปลี่ยนแปลงพื้นฐานใน cáchที่องค์กรปฏิบัติต่อ AI จากคุณสมบัติที่ประกาศไปสู่โครงสร้างพื้นฐานที่ดำเนินงาน

ฉันใช้เวลา 25 ปีในการสร้างและขยายระบบองค์กร รวมถึงการก่อตั้งบริษัททดสอบอัตโนมัติของ AI รูปแบบที่ฉันเห็นตลอดคลื่นเทคโนโลยีทุกครั้งคือเหมือนกัน บริษัทที่ชนะไม่ใช่บริษัทที่นำมาใช้ก่อน แต่เป็นบริษัทที่ดำเนินงานได้ดีที่สุด นี่คือสิ่งที่ดูเหมือนสำหรับ AI:

วัดประสิทธิภาพการผลิต ไม่ใช่การนำเสนอ

การประเมิน AI ตามสภาพแวดล้อมที่ควบคุมไม่ได้บอกอะไรเกี่ยวกับพฤติกรรมในโลกแห่งความเป็นจริง ค่าเมทริกซ์ที่สำคัญคือความแม่นยำในการยกเลิก อัตราการแก้ปัญหา การปฏิบัติตามนโยบาย และความพึงพอใจของลูกค้าตลอดการโต้ตอบที่ไม่ได้เขียนไว้หลายพันครั้ง – ไม่ใช่แค่การนำเสนอแบบเลือก

แก้ไขพื้นฐานก่อนที่จะขยายขนาด

AI ไม่ได้แก้ปัญหากระบวนการทำงานที่เสียหาย – มันเพิ่มปัญหาเหล่านั้น การกำหนดเส้นทางที่ไม่สอดคล้องกัน ฐานความรู้ที่ไม่สมบูรณ์ ข้อมูล CRM ที่ล้าสมัย – ปัญหาเหล่านี้ไม่หายไปเมื่อคุณเพิ่ม AI มันจะเลวร้ายขึ้นเร็วขึ้น และในขนาดใหญ่ การเตรียมพร้อมกระบวนการทำงานต้องมาก่อนการนำ AI ไปใช้ ไม่ใช่หลังจากนั้น

ทดสอบการเดินทางทั้งหมด ไม่ใช่แค่ส่วนประกอบ

ส่วนใหญ่ขององค์กรตรวจสอบระบบแยกกัน แต่ความล้มเหลวเกิดขึ้นในระหว่างการถ่ายโอน การทดสอบการเดินทางจากจุดเริ่มต้นถึงจุดสิ้นสุดตลอดช่องทางเสียง ดิจิทัล และ AI เป็นวิธีเดียวที่จะจับข้อผิดพลาดการรวมระบบที่ลูกค้าประสบจริง

สร้างความไว้วางใจ ไม่ใช่แค่ประสิทธิภาพ

ผู้ใช้จะปฏิเสธ AI ที่จับพวกเขาในวงจรที่ไม่มีทางออก ให้คำตอบที่ไม่ถูกต้อง หรือทำให้ไม่สามารถเข้าถึงมนุษย์ได้ องค์กรที่เพิ่มประสิทธิภาพให้สูงสุดโดยเสียความไว้วางใจจะสูญเสียลูกค้าที่พวกเขาพยายามให้บริการอย่างมีประสิทธิภาพ

จุดสิ้นสุดของการล้าง AI

เมื่อ AI ถูกฝังลึกเข้าไปในกระบวนการทำงาน องค์กรจะไม่สามารถหลอกลวงด้วยการตลาดได้อีกต่อไป มากกว่าครึ่งหนึ่งของนักลงทุนคาดหวังว่าจะได้รับผลตอบแทนจากการลงทุนใน AI ภายใน 6 เดือน ระยะเวลาดังกล่าวเป็นไปไม่ได้หากไม่มีระบบที่ออกแบบมาเพื่อโลกแห่งความเป็นจริงที่ซับซ้อนและไม่คาดคิด – ไม่ใช่แค่สภาพแวดล้อมที่ถูกควบคุม

ความต้องการกำลังเปลี่ยนจากการมี AI เป็นคุณสมบัติของผลิตภัณฑ์ไปสู่การแสดงให้เห็นว่า AI ทำงานได้เมื่อมันสำคัญที่สุด ในขนาดใหญ่ ในการผลิต และกับลูกค้าจริง

การล้าง AI อาจชนะความสนใจในระยะสั้น แต่มันจะไม่รอดจากการเผชิญหน้ากับ现実