ทำไม GenAI ที่ไม่มีการกำกับดูแลจะล้มเหลวในการสนับสนุนองค์กร

ทีมสนับสนุนองค์กรกำลังลงทุนอย่างหนักใน AI ที่สร้างขึ้น โดยคาดหวังว่าจะช่วยลดจำนวนใบแจ้งหนี้ ลดเวลาในการจัดการ และลดต้นทุนต่อกรณี แต่ในหลายองค์กร การมีส่วนร่วมของ AI เพิ่มขึ้น ในขณะที่อัตราการเพิ่มขึ้นของการเรียกซ้ำและการติดต่อซ้ำและการเพิ่มขึ้นของปริมาณกรณียังคงไม่เปลี่ยนแปลง

AI ที่สร้างขึ้นในองค์กรสนับสนุนจะไม่ล้มเหลวเพราะโมเดลที่อ่อนแอ แต่จะล้มเหลวเพราะการนำไปใช้ส่วนใหญ่ไม่ได้รับเนื้อหาข้อมูลที่มั่นคงและแนวทางเชิงกลยุทธ์ที่จำเป็นต่อความสำเร็จ หากไม่มีการกำกับดูแลที่เหมาะสม ความโปร่งใส และความรับผิดชอบที่ถูกสร้างเข้าไปในระบบและกระบวนการนำไปใช้ AI จะกลายเป็นชั้นของความเสี่ยงในการดำเนินงานที่ไม่ได้ถูกจัดการ ซึ่งจะนำไปสู่การโต้ตอบที่ไม่สอดคล้องกัน การขยายข้อผิดพลาด และสุดท้ายก็ส่งผลให้ลูกค้ามีผลลัพธ์ที่ไม่ดี เครื่องมือที่มีจุดมุ่งหมายเพื่อปรับปรุงชั้นการโต้ตอบกับลูกค้าและงานของทีมองค์กรกลายเป็นปัญหาอุดตัน

เมื่อทีมสนับสนุนองค์กรเร่งนำ AI ไปใช้ การนำไปใช้ส่วนใหญ่มุ่งเน้นไปที่แชทบอท คำตอบอัตโนมัติ และความสามารถในการช่วยเหลือตัวแทน ในกระบวนการเร่งด่วนนี้ คำถามที่แท้จริงมักไม่ได้ถูกถาม: วิธีการวัดผลว่า GenAI ส่งผลกระทบอย่างมีนัยสำคัญหรือไม่ หรือแค่สร้างเนื้อหามากขึ้นในระดับใหญ่

การนำ AI ไปใช้ในองค์กรและ GPT ในสภาพแวดล้อมการสนับสนุนหลายครั้งล้มเหลวเนื่องจากสามเหตุผลหลัก คำตอบที่สร้างขึ้นจะปรากฏขึ้นโดยไม่มีสัญญาณความมั่นใจที่ชัดเจนหรือการควบคุมความสอดคล้องกัน การโต้ตอบของ AI มักไม่เชื่อมโยงกับผลลัพธ์ที่วัดได้ เช่น การเบี่ยงเบนกรณี เวลาในการแก้ไข หรือความพึงพอใจของลูกค้า องค์กรยังขาดความเข้าใจว่าสมาชิกในทีม是否เชื่อถือระบบหรือใช้ในกระบวนการทำงานประจำวัน ผลลัพธ์คือ AI ที่ดูน่าสนใจในการแสดง แต่ล้มเหลวภายใต้แรงกดดันในการดำเนินงานจริง

ผู้นำทีมสนับสนุนไม่ต้องการเนื้อหาที่สร้างขึ้นเพิ่มเติม พวกเขาต้องการการปรับปรุงที่วัดผลได้ ซึ่งสามารถคาดการณ์และป้องกัน เช่น การลดปริมาณกรณีอย่างต่อเนื่อง เวลาในการแก้ไขที่เร็วขึ้น การแก้ไขครั้งแรกที่ดีขึ้น ความพึงพอใจของลูกค้าที่สูงขึ้น ต้นทุนต่อกรณีที่ลดลง และผลผลิตของตัวแทนที่เพิ่มขึ้น ผลกระทบทางธุรกิจที่คาดการณ์ได้หมายถึงการทราบว่าเมื่อ AI ถูกนำไปใช้ จะลดการเพิ่มขึ้นของปริมาณกรณีโดยเปอร์เซ็นต์ที่กำหนด เบี่ยงเบนกรณีในปริมาณที่วัดได้ หรือลดเวลาในการจัดการภายในช่วงเวลาที่กำหนด ไม่ใช่แค่สร้างคำตอบเพิ่มเติม

จากความไม่สอดคล้องกันของลูกค้าไปสู่ผลกระทบในการดำเนินงาน

เมื่อการกำกับดูแลไม่มีอยู่ ผลกระทบจะปรากฏอย่างรวดเร็วในเมตริก แชทบอทอาจสร้างคำตอบในระดับใหญ่ แต่ถ้าคำตอบเหล่านั้นไม่ถูกต้องลูกค้าจะreopen ใบแจ้งหนี้หรือเพิ่มขึ้น การเพิ่มขึ้น 5-10% ในกรณีที่reopen สามารถลบผลประโยชน์ที่คาดหวังและนำไปสู่การลดลงของความพึงพอใจของลูกค้าอย่างมีนัยสำคัญ สิ่งที่ดูเหมือนจะถูกทำให้自動化บนกระดาษกลายเป็นการทำงานซ้ำในทางปฏิบัติ

ความยากคือหลายองค์กรวัดกิจกรรมมากกว่าผลลัพธ์ พวกเขาสามารถรายงานจำนวนเซสชันแชทบอทที่เกิดขึ้นหรือความถี่ที่ตัวแทนมีการใช้ AI ที่ช่วยเหลือในการเขียน แต่สิ่งที่พวกเขามักไม่สามารถรายงานได้ด้วยความมั่นใจคือว่าการโต้ตอบเหล่านั้นลดความต้องการในการทำงานของทีมมนุษย์หรือไม่ โดยไม่เชื่อมโยง数据การโต้ตอบกับข้อมูลการสร้างกรณี ผู้นำไม่สามารถกำหนดได้ว่า AI ที่สร้างขึ้น是否กำจัดงานหรือเพียงเพิ่มจุดสัมผัสอีกจุดหนึ่งในการเดินทางของลูกค้า

การวัดสิ่งที่สำคัญ

ในองค์กรสนับสนุน ผลกระทบที่มีนัยสำคัญจะเห็นได้เมื่อลูกค้าต้องสร้างกรณีน้อยลงหลังการโต้ตอบกับระบบ หากการเพิ่มขึ้นของการเรียกซ้ำยังคงตามมาหลังการโต้ตอบกับตัวแทน AI สิ่งนี้จะแสดงให้เห็นว่าข้อผิดพลาดหรือข้อจำกัดในการตอบสนองมีอยู่ที่ไหน การทำความเข้าใจรูปแบบเหล่านี้ต้องการการเชื่อมโยง AI กับเมตริกการสนับสนุนและตรวจสอบสิ่งที่เกิดขึ้นหลังการโต้ตอบแต่ละครั้ง

การกำกับดูแลเป็นข้อกำหนดในการดำเนินงาน

การกำกับดูแลไม่ใช่เอกสาร มันเป็นชุดของการตัดสินใจเชิงกลยุทธ์ในการดำเนินงาน ผู้นำทีมสนับสนุนควรต้องมี AI ที่ให้คำตอบที่มีแหล่งข้อมูลที่ได้รับการอนุมัติและระดับความมั่นใจที่วัดได้ พวกเขาควรกำหนดกฎที่ชัดเจนสำหรับการแก้ไขปัญหาโดยอัตโนมัติและเมื่อต้องเพิ่มขึ้นไปยังตัวแทนมนุษย์ พวกเขาควรเชื่อมโยงการนำไปใช้แต่ละครั้งกับเป้าหมายที่ชัดเจน เช่น การลดปริมาณกรณี การปรับปรุงการแก้ไขครั้งแรก หรือการลดเวลาในการจัดการ และตรวจสอบเมตริกเหล่านั้นอย่างต่อเนื่อง หาก AI ไม่สามารถวัดผลได้เทียบกับผลลัพธ์ในการดำเนินงาน ไม่ควรพิจารณาว่าพร้อมสำหรับการใช้งานกับลูกค้าจริงในกระบวนการทำงานประจำวัน

พิจารณาสถานการณ์การนำไปใช้ทั่วไป แชทบอทที่สร้างขึ้นถูกปล่อยออกไปทั่วทั้งพอร์ทัลลูกค้าและความนิยมเพิ่มขึ้นอย่างรวดเร็วเมื่อผู้ใช้หันมาใช้ AI สำหรับคำถามทั่วไป บนพื้นผิว ความคิดเห็นในตอนแรกดูเหมือนจะดี: ลูกค้าโต้ตอบกับบอทและตัวแทนมีการตอบรับที่รวดเร็วขึ้น

แต่เมื่อผู้นำตรวจสอบข้อมูลการแสดงผล พวกเขาพบสิ่งที่คุ้นเคยจากประสบการณ์ในอุตสาหกรรมที่กว้างขึ้น การวิจัย AI ล่าสุดของ McKinsey แสดงให้เห็นว่าในขณะที่หลายองค์กรกำลังนำ AI ไปใช้อย่างกว้างขวาง แต่เพียงไม่กี่แห่งที่ฝัง AI ลึกพอที่จะบรรลุผลลัพธ์ทางธุรกิจที่วัดได้ เช่น การลดปริมาณกรณีหรือการปรับปรุงเมตริกการสนับสนุนลูกค้า โดยส่วนใหญ่ยังคงถูกติดอยู่ในกระบวนการนำไปใช้หรือในระยะเริ่มต้น

ในทางปฏิบัติ สิ่งนี้มักจะดูเหมือนการมีส่วนร่วมที่สูงกับแชทบอท แต่มีการเพิ่มขึ้นของการเรียกซ้ำที่ยังคงอยู่ การปรับปรุงที่เล็กน้อยเฉพาะสำหรับคำถามที่ง่าย และไม่มีการเชื่อมโยงที่ชัดเจนระหว่างการโต้ตอบและการลดงาน องค์กรจะปรับปรุงชั้นการโต้ตอบ แต่พลวัตการสนับสนุนและต้นทุนการดำเนินงานพื้นฐานยังคงไม่เปลี่ยนแปลง

จากการปรับปรุงไปสู่การเปลี่ยนแปลงโครงสร้าง

เมื่อแผนการเงินของเทคโนโลยีเข้มงวด การลงทุนใน AI กำลังถูกตรวจสอบพร้อมกับรายการอื่นๆ ผู้นำไม่ได้มองหาอัตราการมีส่วนร่วมของแชทบอท พวกเขากำลังมองหาว่าปริมาณกรณีลดลงหรือไม่ เวลาในการจัดการลดลงหรือไม่ การแก้ไขครั้งแรกดีขึ้นหรือไม่ และต้นทุนต่อกรณีลดลงหรือไม่ หากตัวเลขเหล่านั้นไม่เปลี่ยนแปลง ผลกระทบคือทันที การขยายไปยังผลิตภัณฑ์ใหม่ถูกเลื่อนออกไป การประหยัดค่าใช้จ่ายที่คาดการณ์ไว้ไม่เกิดขึ้น ฝ่ายการเงินตั้งคำถามถึงการ续สัญญา สิ่งที่เริ่มต้นเป็นโครงการ AI กลยุทธ์กลายเป็นการนำไปใช้ที่จำกัดด้วยเงินทุนและความดูแลของผู้บริหารที่ลดลง GenAI ที่ไม่มีการกำกับดูแลที่ชัดเจนในการดำเนินงานอาจทำให้การสนับสนุนรู้สึกเชิงนวัตกรรม แต่ถ้าไม่ลดงานหรือปรับปรุงเมตริกการสนับสนุนลูกค้าในทางปฏิบัติ จะยากที่จะให้เหตุผลในการวางแผนงบประมาณครั้งถัดไป

ความสำเร็จของ AI ที่สร้างขึ้นในองค์กรสนับสนุนจะไม่ได้รับการตัดสินจากความซับซ้อนของคำตอบ แต่จะถูกตัดสินจากความสามารถในการลดการเรียกซ้ำ การลดอัตราการเพิ่มขึ้น การปรับปรุงการแก้ไขครั้งแรก และการลดเวลาในการแก้ไข ความฉลาดเพียงอย่างเดียวไม่เพียงพอ ผลกระทบขึ้นอยู่กับการออกแบบที่มีวินัย การควบคุมที่ชัดเจน การติดตามประสิทธิภาพอย่างต่อเนื่อง และความรับผิดชอบต่อเมตริกการดำเนินงาน

ผู้นำทีมสนับสนุนควรกำหนดเมตริกเหล่านั้นก่อนการนำไปใช้ ไม่ใช่หลังจากนั้น พวกเขาควรตั้งเป้าหมายที่ชัดเจนสำหรับการเบี่ยงเบนกรณี การลดเวลาในการจัดการ และความพึงพอใจของลูกค้า และตรวจสอบประสิทธิภาพด้วยความเข้มงวดเช่นเดียวกับการลงทุนในการดำเนินงานอื่นๆ หากตัวเลขไม่เปลี่ยนแปลง ระบบควรได้รับการปรับเปลี่ยนหรือจำกัด

AI ที่สร้างขึ้นในการสนับสนุนไม่ใช่การแสดงแนวคิดอีกต่อไป มันเป็นตัดสินใจในการดำเนินงานที่มีผลกระทบทางการเงิน ผู้นำที่ไม่สามารถแสดงให้เห็นถึงการปรับปรุงโครงสร้างในงานและผลลัพธ์ของลูกค้าเสี่ยงต่อการเปลี่ยน AI เป็นโครงการระยะสั้นมากกว่าความสามารถที่ทนทาน