ผู้นำทางความคิด

ระบบตัวแทนเสียงอัตโนมัติที่ใช้ AI สำหรับองค์กร: สองความท้าทายหลัก

Dr. Itamar Arel Dr. Ron Chrisley
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญเอเจนต์เสียงยุคใหม่ต้องใช้วิธี AI แบบไฮบริด เช่น RAG และ fine-tuning…
ดูเพิ่มเติม
  • เอเจนต์เสียงยุคใหม่ต้องใช้วิธี AI แบบไฮบริด เช่น RAG และ fine-tuning เพื่อป้องกันการหลอนของ LLM ในบริบทองค์กร
  • บทสนทนาด้วยเสียงตามธรรมชาติต้องการ endpointing ที่ซับซ้อนเพื่อจัดการกับการขัดจังหวะและช่วงหยุดเหมือนการพูดคุยของมนุษย์
  • ไปป์ไลน์แบบ ASR-LLM-TTS อย่างง่ายล้มเหลวเพราะมองข้ามความต้องการขององค์กรในด้านความถูกต้องของข้อเท็จจริงและจังหวะการสนทนา

ในขณะนี้ ระบบตัวแทนเสียงอัตโนมัติที่ใช้ AI มีความสำคัญมากกว่าที่เคยเป็นมา เมื่อพิจารณาเรียกบริการลูกค้า ซึ่งความกระด้างและความไม่ยืดหยุ่นจะหายไป – เสียงหุ่นยนต์ที่แข็งกระด้าง การเลือกเมนูแบบ “กด 1 สำหรับการขาย” ที่จำกัด และประสบการณ์ที่น่าหงุดหงิดที่ทำให้เราทุกคนกดเลข 0 อย่างกระตือรือร้นเพื่อพูดกับตัวแทนคนจริงแทน (หรือเมื่อถูกส่งต่อไปยังตัวแทนคนจริง ซึ่งอาจทำให้เราต้องรอเป็นเวลานานจึงจะถูกส่งต่อไปยังตัวแทนคนจริง)

ไม่แล้ว การพัฒนาที่ไม่เพียงแต่ในโมเดลภาษาขนาดใหญ่ (LLM) ที่ใช้ทรานส์ฟอร์เมอร์ แต่ยังรวมถึงการรับรู้เสียงอัตโนมัติ (ASR) และระบบข้อความสู่เสียง (TTS) หมายความว่า “รุ่นต่อไป” ของตัวแทนเสียงอัตโนมัติได้มาถึงแล้ว – ถ้าคุณรู้วิธีการสร้างมัน

วันนี้ เราจะมาดูความท้าทายที่ผู้ที่ต้องการสร้างตัวแทนเสียงอัตโนมัติที่มีคุณภาพสูงต้องเผชิญ

ทำไมเสียง?

ก่อนที่จะเริ่ม เรามาดูความน่าสนใจและความเกี่ยวข้องของตัวแทนเสียงอัตโนมัติ (เมื่อเทียบกับการโต้ตอบแบบข้อความ) มีหลายเหตุผลที่การโต้ตอบด้วยเสียงอาจเหมาะสมกว่าการโต้ตอบแบบข้อความ – ซึ่งสามารถรวมถึง:

  • ความชอบหรือความเคยชิน – การพูดก่อนการเขียนทั้งในด้านพัฒนาการและประวัติศาสตร์

  • การป้อนข้อความที่ช้า – หลายคนสามารถพูดได้เร็วกว่าการป้อนข้อความ

  • สถานการณ์ที่ไม่ต้องใช้มือ – เช่น การขับรถ การออกกำลังกาย หรือการทำความสะอาด

  • การไม่เข้าใจภาษา – ในภาษาที่ตัวแทนเข้าใจ

  • ความพิการ – เช่น การตาบอดหรือการขาดการควบคุมการเคลื่อนไหวที่ไม่ใช่เสียง

ในยุคที่ดูเหมือนจะถูกครอบงำโดยการทำธุรกรรมผ่านเว็บไซต์ เสียงยังคงเป็นช่องทางที่มีพลังสำหรับการค้าขาย ตัวอย่างเช่น การศึกษาเร็วๆ นี้โดย JD Power เกี่ยวกับความพึงพอใจของลูกค้าในอุตสาหกรรมโรงแรมพบว่าแขกที่จองห้องผ่านโทรศัพท์มีความพึงพอใจมากกว่าแขกที่จองผ่านเว็บไซต์เดินทางหรือเว็บไซต์ของโรงแรมโดยตรง

แต่การตอบรับเสียงแบบโต้ตอบหรือ IVR ไม่เพียงพอ การตอบรับเสียงแบบโต้ตอบหรือ IVR ไม่เพียงพอ

อะไรที่ทำให้ตัวแทนเสียงอัตโนมัติดี?

โดยประมาณ ตัวแทนเสียงอัตโนมัติที่ดีควรตอบสนองต่อผู้ใช้ในลักษณะที่:

  • เกี่ยวข้อง: ตามความเข้าใจที่ถูกต้องเกี่ยวกับสิ่งที่ผู้ใช้พูดหรือต้องการ

  • แม่นยำ: ตามข้อเท็จจริง (เช่น ไม่พูดว่ามีห้องว่างที่โรงแรมในวันที่ 19 มกราคมหากไม่มี)

  • ชัดเจน: การตอบสนองควรเข้าใจได้

  • ทันเวลา: ด้วยความหน่วงเวลาที่คาดหวังจากมนุษย์

  • ปลอดภัย: ไม่มีการใช้ภาษาที่ไม่เหมาะสมหรือเปิดเผยข้อมูลที่คุ้มครอง

ปัญหา

ระบบอัตโนมัติที่ใช้เสียงในปัจจุบันพยายามที่จะตอบสนองเกณฑ์ข้างต้นโดยการเสียสละ a) ความยืดหยุ่นและ b) ความน่าหงุดหงิดในการใช้งาน ส่วนหนึ่งของสิ่งนี้เป็นผลมาจากความคาดหวังที่สูงซึ่งบริบทการโต้ตอบด้วยเสียงตั้งขึ้น โดยมีความคาดหวังเหล่านี้เพิ่มขึ้นเรื่อยๆ เมื่อคุณภาพเสียงในระบบ TTS กลายเป็นเสียงที่ไม่แตกต่างจากเสียงมนุษย์ แต่ความคาดหวังเหล่านี้ถูกทำลายลงในระบบที่ใช้กันอย่างแพร่หลายในขณะนี้ ทำไม?

ในคำเดียว – ความไม่ยืดหยุ่น:

  • การจำกัดคำพูด – ผู้ใช้ถูกบังคับให้พูดสิ่งที่ไม่ธรรมชาติ: ในวลีสั้นๆ ในลำดับที่เฉพาะเจาะจง โดยไม่มีข้อมูลที่ไม่จำเป็น ฯลฯ ซึ่งไม่ได้ให้ความก้าวหน้าเหนือระบบเมนูแบบเก่า

  • แนวคิดที่แคบและไม่ครอบคลุมเกี่ยวกับ “คำพูดที่ยอมรับได้” – ความอดทนที่ต่ำต่อภาษาแบบสแลง อืม และอา ฯลฯ

  • ไม่มีการย้อนกลับ: หากสิ่งใดผิดพลาด อาจไม่มีโอกาส “ซ่อมแซม” หรือแก้ไขข้อมูลที่มีปัญหา แต่จะต้องเริ่มต้นใหม่หรือรอการถ่ายโอนไปยังตัวแทนคนจริง

  • การเปลี่ยนบทบาทอย่างเข้มงวด – ไม่สามารถขัดจังหวะหรือพูดกับตัวแทน

ไม่ต้องสงสัยเลยว่าคนพบว่าข้อจำกัดเหล่านี้น่าหงุดหงิดหรือทำให้หงุดหงิด

คำตอบ:

ข่าวดีคือระบบ AI สมัยใหม่มีพลังและเร็วพอที่จะปรับปรุงประสบการณ์ดังกล่าวได้อย่างมาก แทนที่จะเข้าใกล้หรือ超过มาตรฐานการบริการลูกค้าที่มีคนเป็นตัวแทน นี่เป็นผลมาจากปัจจัยหลายประการ:

  • ฮาร์ดแวร์ที่เร็วและทรงพลังมากขึ้น

  • การปรับปรุง ASR (ความแม่นยำสูง การเอาชนะเสียงดัง เสียงที่มีเสียงพื้นหลัง ฯลฯ)

  • การปรับปรุง TTS (เสียงที่ดูเป็นธรรมชาติหรือแม้กระทั่งเสียงที่ถูกโคลน)

  • การมาถึงของ LLM ที่สร้างขึ้น (การโต้ตอบที่ดูเป็นธรรมชาติ)

จุดสุดท้ายเป็นการเปลี่ยนแปลงเกม การค้นพบหลักคือโมเดลที่คาดการณ์ได้ดีสามารถเป็นโมเดลที่สร้างขึ้นได้ดี ตัวแทนสามารถเข้าใกล้การแสดงผลการโต้ตอบของมนุษย์ได้ หากพูดสิ่งที่ LLM ที่ดี预測ว่าเป็นสิ่งที่ตัวแทนการบริการลูกค้าที่ดีคนหนึ่งจะพูดในบริบทการโต้ตอบที่กำหนด

เป็นสัญญาณเรียกให้มาถึงของหลายๆ สตาร์ทอัพ AI ที่หวังว่าจะแก้ปัญหาเรื่องตัวแทนเสียงอัตโนมัติได้โดยการเลือกและเชื่อมต่อโมดูล ASR และ TTS ที่พร้อมใช้งานกับ LLM คอร์ โดยมองว่าคำตอบคือการเลือกชุดค่าผสมที่ลดความหน่วงและค่าใช้จ่ายให้เหลือน้อยที่สุด และแน่นอนว่าสิ่งนี้มีความสำคัญ แต่เพียงพอแล้วหรือไม่?

ไม่เร็วเกินไป

มีเหตุผลเฉพาะเจาะจงหลายประการที่วิธีการง่ายๆ นี้ไม่ทำงาน แต่สิ่งเหล่านี้มาจากสองจุดหลัก:

  1. LLM ไม่สามารถให้การโต้ตอบข้อความที่มีฐานข้อมูลที่ดีได้ด้วยตัวเอง ซึ่งเป็นสิ่งที่จำเป็นสำหรับการใช้งานเชิงพาณิชย์ เช่น การบริการลูกค้า ดังนั้นจึงไม่สามารถทำสิ่งนี้ได้สำหรับการโต้ตอบด้วยเสียง

  2. แม้ว่าคุณจะเสริม LLM ด้วยสิ่งที่จำเป็นในการสร้างตัวแทนการโต้ตอบข้อความที่ดี การเปลี่ยนสิ่งนี้ให้เป็นตัวแทนการโต้ตอบด้วยเสียงที่ดีจำเป็นต้องมีมากกว่าการเชื่อมต่อกับโมดูล ASR และ TTS ที่ดีที่สุดเท่าที่คุณจะจ่ายได้

มาดูตัวอย่างเฉพาะของความท้าทายเหล่านี้

ความท้าทายที่ 1: การรักษาความจริง

ตามที่ทราบกันดีอยู่แล้ว LLM บางครั้งจะสร้างข้อมูลที่ไม่ถูกต้องหรือ “หลอกลวง” สิ่งนี้เป็นอันตรายในบริบทของหลายๆ การใช้งานเชิงพาณิชย์ แม้ว่าอาจจะเหมาะสมสำหรับการใช้งานที่ไม่จำเป็นต้องมีความถูกต้อง

ที่ LLM บางครั้งหลอกลวงนั้นไม่น่าแปลกใจเมื่อคำนึงถึงสิ่งนี้แล้ว เนื่องจากเป็นผลโดยตรงจากการใช้แบบจำลองที่ฝึกอบรมจากข้อมูลที่มีอายุหนึ่งปี (หรือมากกว่า) เพื่อสร้างคำตอบสำหรับคำถามเกี่ยวกับข้อเท็จจริงที่ไม่เป็นส่วนหนึ่งของหรือไม่ได้ถูกกำหนดโดยชุดข้อมูล (ไม่ว่าจะมีขนาดใหญ่เพียงใด) ที่อาจมีอายุหนึ่งปีหรือมากกว่า เมื่อผู้เรียกถาม “หมายเลขสมาชิกของฉันคืออะไร?” LLM ที่ฝึกอบรมไว้ล่วงหน้าสามารถสร้างคำตอบที่ดูเป็นไปได้เท่านั้น ไม่ใช่คำตอบที่ถูกต้อง

วิธีการทั่วไปในการจัดการกับปัญหานี้คือ:

  • การปรับแต่ง: ฝึกอบรม LLM ที่ฝึกอบรมไว้ล่วงหน้าเพิ่มเติม โดยคราวนี้ใช้ข้อมูลเฉพาะโดเมนที่คุณต้องการให้สามารถตอบได้อย่างถูกต้อง

  • วิศวกรรมคำสั่ง: เพิ่มข้อมูลหรือคำแนะนำเพิ่มเติมเข้าไปใน LLM ในรูปแบบของอินพุต นอกเหนือจากประวัติการโต้ตอบ

  • การสร้างแบบจำลองที่เพิ่มการค้นหา (RAG): เหมือนกับการวิศวกรรมคำสั่ง แต่ข้อมูลที่เพิ่มเข้าไปในคำสั่งคือการค้นหาที่กำหนดโดยการแมทช์บริบทการโต้ตอบปัจจุบัน (เช่น ลูกค้าถามว่า “โรงแรมของคุณมีสระว่ายน้ำหรือไม่?”) กับดัชนีที่เข้ารหัสของข้อมูลเฉพาะโดเมนของคุณ (ซึ่งรวมถึงไฟล์ที่ระบุว่า “สิ่งอำนวยความสะดวกที่โรงแรมมี: สระว่ายน้ำ, ซาวน่า, จุดชาร์จ EV”)

  • การควบคุมโดยกฎ: เหมือนกับ RAG แต่สิ่งที่จะเพิ่มหรือลบออกจากคำสั่งไม่ได้ถูกกำหนดโดยการค้นหาที่แมทช์กับหน่วยความจำของประสาท แต่กำหนดโดยกฎที่เขียนด้วยมือ

สิ่งสำคัญคือว่าขนาดเดียวไม่เหมาะกับทุกคน วิธีการเหล่านี้จะเหมาะสมหรือไม่นั้นขึ้นอยู่กับข้อมูลเฉพาะโดเมนที่ให้คำตอบแก่ตัวแทน ตัวอย่างเช่น ขึ้นอยู่กับว่าข้อมูลนั้นเปลี่ยนแปลงบ่อย (เช่น การโทรแต่ละครั้ง – เช่น ชื่อลูกค้า) หรือเปลี่ยนแปลงไม่บ่อย (เช่น การต้อนรับเบื้องต้น: “สวัสดี คุณโทรหโรงแรมบูดาเปสต์ มีอะไรที่เราสามารถช่วยคุณได้บ้างวันนี้?”) การปรับแต่งจะไม่เหมาะสมสำหรับข้อแรก และ RAG จะเป็นวิธีแก้ปัญหาที่ไม่เหมาะสมสำหรับข้อหลัง ดังนั้น ระบบที่ทำงานจึงต้องใช้วิธีการเหล่านี้หลายวิธี

และอีกอย่าง การรวมวิธีการเหล่านี้เข้ากับ LLM และกันและกันเพื่อลดความหน่วงและค่าใช้จ่ายต้องใช้การวิศวกรรมอย่างรอบคอบ ตัวอย่างเช่น การปรับแต่งโมเดลของคุณเพื่อให้ RAG ทำงานได้ดีขึ้นอาจช่วยให้ RAG ทำงานได้ดีขึ้น

อาจไม่แปลกใจที่วิธีการเหล่านี้มีความท้าทายของตัวเอง ตัวอย่างเช่น การปรับแต่ง การปรับแต่ง LLM ที่ฝึกอบรมไว้ล่วงหน้าของคุณบนข้อมูลเฉพาะโดเมนของคุณจะปรับปรุงประสิทธิภาพของมันในข้อมูลนั้น ใช่ แต่การปรับแต่งจะเปลี่ยนพารามิเตอร์ (น้ำหนัก) ที่เป็นพื้นฐานของประสิทธิภาพทั่วไป (ที่น่าจะดี) ของโมเดลที่ฝึกอบรมไว้ล่วงหน้า การเปลี่ยนแปลงนี้จึงทำให้เกิดการลืม (หรือ “การลืมที่น่ากลัว”) ของความรู้บางส่วนของโมเดล ซึ่งอาจส่งผลให้โมเดลให้คำตอบที่ไม่ถูกต้องหรือไม่เหมาะสม (หรือแม้กระทั่งไม่ปลอดภัย) หากคุณต้องการให้ตัวแทนของคุณยังคงตอบสนองอย่างถูกต้องและปลอดภัย คุณจะต้องมีวิธีการปรับแต่งที่บรรเทาการลืมที่น่ากลัว

ความท้าทายที่ 2: การกำหนดจุดสิ้นสุด

การกำหนดว่าลูกค้าได้หยุดพูดแล้วเป็นสิ่งสำคัญสำหรับการไหลของการโต้ตอบที่เป็นธรรมชาติ ในทำนองเดียวกัน ระบบจะต้องจัดการการขัดจังหวะได้อย่างดี เพื่อให้แน่ใจว่าการโต้ตอบยังคงดูเป็นเรื่องราวและตอบสนองต่อความต้องการของลูกค้า การบรรลุเป้าหมายนี้ในระดับที่เทียบเท่ากับการโต้ตอบของมนุษย์เป็นงานที่ซับซ้อน แต่จำเป็นต่อการสร้างประสบการณ์โต้ตอบที่ดูเป็นธรรมชาติและน่าพึงพอใจ

วิธีแก้ปัญหาที่ใช้ได้ผลต้องให้ผู้ออกแบบพิจารณาเรื่องดังต่อไปนี้:

  • ลูกค้าหยุดพูดไปแล้วนานแค่ไหนจึงจะถือว่าลูกค้าได้หยุดพูดแล้ว?

  • สิ่งนี้ขึ้นอยู่กับว่าลูกค้าได้พูดจบประโยคหรือไม่?

  • ควรทำอย่างไรหากลูกค้าขัดจังหวะตัวแทน?

  • โดยเฉพาะอย่างยิ่ง ตัวแทนควรสมมติว่าสิ่งที่ตัวแทนกำลังพูดไม่ได้ถูกฟังโดยลูกค้าหรือไม่?

ปัญหาเหล่านี้ ซึ่งเกี่ยวข้องกับการจัดการเวลาโดยหลักๆ ต้องการการวิศวกรรมที่รอบคอบมากกว่าที่เกี่ยวข้องกับการทำให้ LLM ให้คำตอบที่ถูกต้อง

สรุป

การพัฒนาของระบบเสียงอัตโนมัติที่ใช้ AI สัญญาว่าจะมีการเปลี่ยนแปลงที่ปฏิวัติวงการในด้านการบริการลูกค้า โดยการแทนที่ระบบโทรศัพท์เก่าด้วย LLM, ASR และ TTS ที่ทันสมัย อย่างไรก็ตาม การเอาชนะความท้าทายในการหลอกลวงและการกำหนดจุดสิ้นสุดอย่างไม่มีข้อผิดพลาดจะเป็นสิ่งสำคัญสำหรับการส่งมอบการโต้ตอบด้วยเสียงที่ดูเป็นธรรมชาติและดี

การทำให้บริการลูกค้าเป็นอัตโนมัติมีพลังที่จะกลายเป็นเครื่องมือที่เปลี่ยนแปลงเกมสำหรับองค์กร แต่เฉพาะหากทำได้อย่างถูกต้อง ในปี 2024 โดยเฉพาะอย่างยิ่งด้วยเทคโนโลยีใหม่เหล่านี้ เราสามารถสร้างระบบที่รู้สึกเป็นธรรมชาติและไหลลื่นและเข้าใจเราได้อย่างมั่นคง ผลสุทธิจะลดเวลารอและปรับปรุงประสบการณ์ที่เรามีกับตัวแทนเสียงอัตโนมัติในปัจจุบัน ซึ่งจะทำให้เกิดยุคใหม่ของการมีส่วนร่วมกับลูกค้าและคุณภาพการบริการ

ดร. Itamar Arel เป็นผู้ร่วมก่อตั้ง Tenyx ซึ่ง Salesforce เข้าซื้อกิจการในเดือนกันยายน 2024 เขาผสานพื้นฐานทางวิชาการในฐานะอดีตศาสตราจารย์ที่มหาวิทยาลัยเทนเนสซีและห้องปฏิบัติการ AI ของมหาวิทยาลัยสแตนฟอร์ดเข้ากับความสำเร็จในการเป็นผู้ประกอบการ โดยร่วมก่อตั้งบริษัทผู้บุกเบิกอย่าง Binatix, Apprente (ซึ่ง McDonald’s และ IBM เข้าซื้อกิจการ) และ Tenyx เมื่อไม่นานมานี้ เขาเคยดำรงตำแหน่งรองประธานระดับองค์กรและหัวหน้า McD Tech Labs ที่ McDonald’s Corporation รวมถึงหัวหน้าฝ่าย AI สนทนาที่ IBM Watson Orders

ดร. รอน คริสลีย์ ปัจจุบันดำรงตำแหน่งหัวหน้าที่ปรึกษาด้านวิทยาศาสตร์ที่ Tenyx ซึ่งเขาร่วมก่อตั้งในปี 2021 เขาสำเร็จปริญญาตรีวิทยาศาสตร์สาขาระบบสัญลักษณ์จาก Stanford และปริญญาเอกจาก University of Oxford อีกทั้งเป็นศาสตราจารย์ด้านวิทยาศาสตร์การรู้คิดและปัญญาประดิษฐ์ที่ University of Sussex ระหว่างปี 2019 ถึง 2020 เขาเป็นนักวิชาการอาคันตุกะที่สถาบัน AI ที่ยึดมนุษย์เป็นศูนย์กลางของ Stanford