ผู้นำทางความคิด

ช่องว่างความไว้วางใจของ Agentic AI คือภัยคุกคามที่แท้จริงต่อประสบการณ์ลูกค้า

Seth Johnson
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญลูกค้าละทิ้งบอตหลังจากเกิดความล้มเหลวเพียงครั้งเดียว…
ดูเพิ่มเติม
  • ลูกค้าละทิ้งบอตหลังจากเกิดความล้มเหลวเพียงครั้งเดียว เพราะข้อผิดพลาดจากระบบอัตโนมัติสร้างความหงุดหงิดมากกว่าข้อผิดพลาดจากมนุษย์
  • % ของผู้บริโภคที่ยกระดับไปยังเจ้าหน้าที่มนุษย์หลังจากความล้มเหลวของ AI เพียงครั้งเดียว
  • Agentic AI จำเป็นต้องได้รับการตรวจสอบอย่างต่อเนื่องตลอดเส้นทางประสบการณ์ของลูกค้าทั้งหมดเพื่อให้มั่นใจในความน่าเชื่อถือ

ความหวังของ Agentic AI ในการเปลี่ยนแปลงประสบการณ์ลูกค้า (CX) นั้นไม่สามารถปฏิเสธได้ แพลตฟอร์ม CX ที่ใช้ AI กำลังขยายตัวอย่างรวดเร็วในตลาดโลก โดยมีการคาดการณ์ว่าจะถึง 117.8 พันล้านดอลลาร์สหรัฐฯ ภายในปี 2034 โดยขับเคลื่อนด้วยความต้องการระบบอัตโนมัติที่ให้ประสบการณ์เฉพาะบุคคลและประสิทธิภาพการทำงานที่ดีขึ้น

แต่ Agentic AI นำความไม่แน่นอนมาให้ ในสภาพแวดล้อม CX จริง การสนทนาสามารถแยกออกเป็นหลายทิศทาง โดยขับเคลื่อนด้วยบริบท ข้อมูล และการตัดสินใจแบบเรียลไทม์ที่ไม่สามารถคาดการณ์ได้โดยสคริปต์ทดสอบแบบคงที่

องค์กรเริ่มค้นพบว่าความสามารถของ AI เพียงอย่างเดียวไม่เท่ากับความมั่นใจของลูกค้า ความภักดี หรือการสร้างมูลค่า อุปสรรคที่ยิ่งใหญ่ที่สุดที่ขัดขวาง Agentic AI ไม่ให้ถึงศักยภาพของมันอยู่นอกเหนือจากประสิทธิภาพของแบบจำลองและความเร็วในการนำไปใช้ อุปสรรคนั้นคือความไว้วางใจของลูกค้า

รูปแบบที่คุ้นเคยจากยุคอินเทอร์เน็ตในตอนต้น

การเติบโตของ AI ตามรูปแบบของบทที่คุ้นเคยในประวัติศาสตร์เทคโนโลยี ในช่วงแรกของอินเทอร์เน็ต องค์กรเร่งนำซอฟต์แวร์ออกสู่ตลาดเร็วกว่าที่จะรักษาความปลอดภัย มีการปรับขนาด และจัดการโหมดการล้มเหลวของมัน การนวัตกรรมก้าวหน้ากว่าโครงสร้างพื้นฐาน และคุณภาพของบริการกลายเป็นเรื่องรองจากนั้น ช่องว่างนั้นในที่สุดก็นำไปสู่การละเมิดความปลอดภัย การหยุดชะงักของบริการ และการรีเซ็ตที่เจ็บปวดรอบๆ การกำกับดูแลและการทดสอบ

Agentic AI มีความเสี่ยงที่จะทำซ้ำวัฏจักรนี้ องค์กรกำลังนำระบบอัตโนมัติที่เพิ่มขึ้นเข้าสู่การเดินทางของลูกค้าโดยไม่ได้ตรวจสอบว่าระบบเหล่านั้นจะแสดงพฤติกรรมอย่างไรภายใต้สภาพแวดล้อมจริงหลายๆ ระบบ AI จำนวนมากทำงานได้ดีในการสาธิตที่มีการควบคุมและในสภาพแวดล้อมทดสอบที่จำกัด แต่แล้วล้มเหลวเมื่อต้องจัดการกับข้อมูลลูกค้าที่ยุ่งเหยิง ข้อมูลลูกค้าที่ไม่ได้ระเบียบ การจำกัดความสอดคล้อง และการส่งมอบข้ามช่องทาง

ความล้มเหลวเหล่านี้ทำให้ช่องว่างความไว้วางใจระหว่างลูกค้ากับแบรนด์กว้างขึ้น ลูกค้าพบปัญหาทันที แต่ผู้นำมักเห็นปัญหาหลังจากสูญเสียลูกค้า เกิดการยกระดับเรื่องร้องเรียน หรือชื่อเสียงเสียหายแล้ว

ลูกค้ากำลังสูญเสียความอดทนจากการล้มเหลวของ AI

การวิจัยผู้บริโภคล่าสุดเน้นย้ำว่าความไว้วางใจในประสบการณ์ลูกค้าที่ขับเคลื่อนด้วย AI นั้นเปราะบางเพียงใด การวิจัยใหม่ของ Cyara พบว่า 79% ของผู้บริโภคจะยกระดับไปยังตัวแทนมนุษย์หลังจากที่บอทล้มเหลวเพียงครั้งเดียว และ 61% ระบุว่าข้อผิดพลาดของ AI นั้นน่าหงุดหงิดมากกว่าข้อผิดพลาดของมนุษย์

ผลการวิจัยเหล่านี้เปิดเผยความจริงที่ลึกซึ้งยิ่งขึ้น ลูกค้าไม่ได้ปฏิเสธระบบอัตโนมัติโดยตรง พวกเขาปฏิเสธระบบอัตโนมัติที่ไม่น่าเชื่อถือ เมื่อระบบ AI ล้มเหลว ระบบไม่ได้รับการให้ความเมตตาจากลูกค้าเหมือนกับที่ตัวแทนมนุษย์ทำเมื่อเขาทำผิดพลาด ช่องว่างความอดทนที่จะเกิดขึ้นจากการล้มเหลวของระบบอัตโนมัตินั้นเล็กกว่ามาก

การสูญเสียความไว้วางใจนี้ส่งผลโดยตรงต่อผลลัพธ์ทางธุรกิจและผู้มีส่วนได้ส่วนเสีย การสูญเสียลูกค้าที่หลีกเลี่ยงได้ทำให้ธุรกิจสหรัฐฯ เสียเงิน 136 พันล้านดอลลาร์ต่อปี ตามงานวิจัยของ CallMiner ค่าใช้จ่ายจากความล้มเหลวของ AI ยังเพิ่มขึ้น พร้อมกับความยุ่งยาก การติดต่อซ้ำ และการยกระดับปัญหาที่ลูกค้าจำเป็นต้องทำ

การปรับให้เหมาะกับแต่ละบุคคลโดยไม่มีความน่าเชื่อถือให้ผลเสีย

การปรับให้เหมาะสมยังคงเป็นหนึ่งในปัจจัยขับเคลื่อนการลงทุน CX ที่แข็งแกร่งที่สุด การศึกษาของ Twilio พบว่า 89% ของผู้นำธุรกิจเห็นว่าการปรับให้เหมาะสมเป็นสิ่งสำคัญในการขับเคลื่อนความสำเร็จในสามปีข้างหน้า AI มีบทบาทสำคัญในการทำให้การปรับให้เหมาะสมมีความสามารถในการปรับขนาดข้ามล้านๆ การโต้ตอบ

ความเสี่ยงของการปรับให้เหมาะสมจะรุนแรงขึ้นเมื่อองค์กรขาดระบบที่เชื่อถือได้ในการสนับสนุนการดำเนินงาน การตอบสนองที่ปรับให้เหมาะสมซึ่งล้มเหลวในการจับคู่กับสถานการณ์หรือสร้างข้อมูลผิดขึ้นมา ย่อมรู้สึกรุกล้ำมากกว่าการตอบสนองทั่วไป ระบบ AI ที่แสดงความมั่นใจผ่านการตอบสนองจะสูญเสียความไว้วางใจของลูกค้าเมื่อผลลัพธ์ที่ไม่ถูกต้องหรือขัดแย้งกัน

งานวิจัยของ HubSpot (HUBS ) สนับสนุนข้อสังเกตนี้ ตามข้อมูลของ HubSpot ลูกค้า 90% มองว่าคำตอบที่ “ทันที” มีความสำคัญหรือสำคัญมากเมื่อมีคำถามด้านบริการลูกค้า ระบบ AI ที่ทำให้ลูกค้าวนลูป ยืนยันตัวตนซ้ำ หรือถูกส่งต่อโดยไม่จำเป็น ทำลายความคาดหวังนั้น

เมื่อ AI ทำให้ลูกค้าเสียเวลา ก็ทำลายประโยชน์ด้านประสิทธิภาพที่องค์กรหวังจะได้รับ

ภาพลวงตาของการควบคุมภายในองค์กร

ภายในองค์กรขนาดใหญ่ Agentic AI มักจะครอบคลุมหลายทีม ผู้ขาย และช่องทาง ระบบหนึ่งจัดการการตรวจจับเจตนา อีกระบบหนึ่งจัดการการสื่อสาร และระบบที่สามกระตุ้นการทำงานหรือการอนุมัติ

การทดสอบแยกเป็นรายทีมสร้างภาพลวงตาว่าควบคุมได้ แต่ไม่ได้ยืนยันความถูกต้องของเส้นทางลูกค้าทั้งหมด ซึ่งส่วนใหญ่ยังไม่ได้รับการตรวจสอบ ผู้นำขาดความเข้าใจว่าระบบอัตโนมัติจะแสดงพฤติกรรมอย่างไรเมื่อทุกอย่างโต้ตอบกันภายใต้แรงกดดันของลูกค้าจริง

ความเสี่ยงยิ่งสูงขึ้นในอุตสาหกรรมที่มีกฎระเบียบกำกับ ในการดูแลสุขภาพ เอเจนต์ AI ต้องปฏิบัติตามกฎความเป็นส่วนตัว ข้อกำหนดการปฏิบัติตามกฎหมาย และนโยบายเฉพาะของแบรนด์ พร้อมตอบสนองแบบเรียลไทม์ ความผิดพลาดเพียงครั้งเดียวอาจสร้างความเสี่ยงทางกฎหมายหรือชื่อเสียงมากกว่าประโยชน์ด้านประสิทธิภาพทั้งหมด ตัวอย่างเช่น การที่ AI สร้างข้อมูลผิดเพียงครั้งเดียวขณะแนะนำขนาดยา อาจเสี่ยงต่อความปลอดภัยของลูกค้า

หากไม่มีการตรวจสอบอย่างต่อเนื่อง องค์กรก็กำลังเชื่อว่าระบบ AI จะทำงานถูกต้องเพียงเพราะเปิดใช้งานแล้ว

การปฏิบัติต่อ AI ในฐานะระบบที่สำคัญต่อภารกิจ

ธุรกิจต้องเปลี่ยนความคิดเกี่ยวกับยุค Agentic AI AI ต้องการการรักษาในระดับเดียวกับระบบสำคัญอื่นๆ ที่ดำเนินการอย่างต่อเนื่อง ไม่ใช่การนำไปใช้เพียงครั้งเดียว

ระบบภารกิจที่สำคัญคือ:

  • ได้รับการคุ้มครองด้วยการตรวจสอบและยืนยันอย่างต่อเนื่อง
  • ได้รับการตรวจสอบในระหว่างการผลิตและไม่ได้รับการสันนิษฐานว่าเสถียร
  • ได้รับการควบคุมด้วยความรับผิดชอบที่ชัดเจน ไม่ใช่การกระจายด้วยความไม่แน่นอน

Agentic AI ดำเนินการผ่านความสามารถในการสร้างการตอบสนองที่มีชีวิตชีวา โมเดลเรียนรู้ ปรับให้เหมาะสม และโต้ตอบกับข้อมูลเข้าที่ไม่คาดคิด ซึ่งหมายความว่าวิธีการทดสอบปัจจุบันก่อนการเปิดตัวผลิตภัณฑ์ไม่ได้ให้ผลลัพธ์ที่เพียงพอ สิ่งที่สำคัญคือ AI ทำงานอย่างไรในช่วงเวลาผ่านช่องทางต่างๆ ในช่วงเวลาที่มีแรงกดดันสูง

องค์กรที่ประสบความสำเร็จจะตรวจสอบประสิทธิภาพของ AI ทั่วทั้งเส้นทางลูกค้า ไม่ใช่การประเมินแบบจำลองแยกกัน พวกเขาจะทดสอบว่าเอเย่นต์ AI ตอบสนองอย่างไรเมื่อระบบล้มเหลว เมื่อลูกค้าเปลี่ยนเจตนาในช่วงกลางการสนทนา หรือเมื่อขอบเขตการกำกับดูแลถูกท้าทาย

ความไว้วางใจคือตัวคูณมูลค่าที่แท้จริง

แม้มีนวัตกรรมอย่างรวดเร็ว ช่องว่างระหว่างสัญญาของ AI และผลกระทบของ AI ยังคงอยู่เนื่องจากความไว้วางใจไม่ได้ตามมา ลูกค้าไว้วางใจระบบที่เชื่อถือได้ คาดการณ์ได้ และให้ความเคารพเวลา พนักงานไว้วางใจระบบที่เข้าใจและปรับเปลี่ยนได้เมื่อจำเป็น ผู้กำกับดูแลไว้วางใจระบบที่สามารถตรวจสอบและควบคุมได้

หากไม่มีความไว้วางใจ การนำ AI ไปใช้จะหยุดชะงัก ความไม่พอใจของลูกค้าจะเพิ่มขึ้น พนักงานจะข้ามการทำงานของ ระบบอัตโนมัติ และผู้นำจะสูญเสียความมั่นใจในการใช้งานของตนเอง

บริษัทที่ปิดช่องว่างความไว้วางใจนี้จะค้นพบมูลค่าที่แท้จริงของ Agentic AI ความก้าวหน้าจะขึ้นอยู่กับแนวทางที่มีระเบียบในการรักษาความน่าเชื่อถือเมื่อระบบ AI มีความอิสระมากขึ้น และแนวปฏิบัติในการตรวจสอบที่ลึกซึ้งยิ่งขึ้นซึ่งจะทดสอบ ตรวจสอบ และเพิ่มประสิทธิภาพเส้นทางลูกค้าอย่างต่อเนื่องในทุกช่องทาง – แนวคิดที่เรียกว่า CX Assurance

การนำ Agentic AI ไปใช้จะพบกับความเสี่ยงที่ยิ่งใหญ่ที่สุดเมื่อการกำกับดูแลแบบทดลองยังคงอยู่ในสภาพแวดล้อมที่เผชิญหน้ากับลูกค้า ขั้นต่อไปของความพร้อมของ AI จะถูกกำหนดโดยองค์กรที่ดำเนินการความไว้วางใจเป็นวินัย ในประสบการณ์ของลูกค้า วินัยนั้นจะกำหนดว่าระบบจะยังคงยืดหยุ่นเมื่อคาดหวังและความเข้มงวดเพิ่มขึ้น

Seth Johnson เป็น ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี ที่ Cyara โดยมีประสบการณ์มากกว่า 20 ปี ในด้านซอฟต์แวร์และความเป็นผู้นำด้านเทคโนโลยี Seth นำแนวทางที่เน้นการปฏิบัติจริงและให้ความสำคัญกับผู้คนในการสร้างทีมที่มีประสิทธิภาพสูง การขยายแพลตฟอร์ม AI และการนำการเปลี่ยนแปลงที่ซับซ้อนไปสู่ความสำเร็จ ก่อนที่จะเข้าร่วม Cyara Seth เคยดำรงตำแหน่ง ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี ที่ LINQ โดยรับผิดชอบในการกำหนดกลยุทธ์เทคโนโลยีของบริษัทเพื่อสนับสนุนการเติบโตและนวัตกรรมในพื้นที่การศึกษาระดับ K–12 เส้นทางอาชีพของเขาครอบคลุมงานวิศวกรรม การดำเนินงาน และสถาปัตยกรรมระบบ โดยมีความเชี่ยวชาญที่ลึกซึ้งในการให้บริการ SaaS การคำนวณบนคลาวด์ และการพัฒนาพนักงาน