อเล็กซี่ อายลารอฟ ผู้ร่วมก่อตั้งและซีอีโอของ Voximplant – ซีรีส์สัมภาษณ์

อเล็กซี่ อายลารอฟ ร่วมก่อตั้ง Voximplant หลังจากใช้เวลาเกือบสิบปีในการสร้างเครื่องมือสื่อสารตั้งแต่เริ่มต้น ผลงานในระยะแรกของเขารวมถึงการพัฒนา IP PBX และการดำเนินธุรกิจซอฟต์แวร์โทรคมนาคมของเขาเอง ก่อนที่จะกลายเป็นกระแสหลักในภายหลัง จากนั้นเขาก็ได้พัฒนา Zingaya โดยนำการโทรแบบคลิกเข้ามาในเบราว์เซอร์ และสุดท้ายคือ Voximplant ซึ่งเติบโตเป็นแพลตฟอร์มแบบ serverless ที่นักพัฒนามองหาสำหรับการสื่อสารแบบเรียลไทม์ อเล็กซี่ เขียนเกี่ยวกับด้านปฏิบัติของ Voice AI โดยเฉพาะจุดที่โมเดลภาษาขนาดใหญ่ชนกับความเป็นจริงที่ยุ่งเหยิงของโทรคมนาคมทั่วโลก

คุณเริ่มอาชีพของคุณในฐานะวิศวกร VoIP ในช่วงกลางทศวรรษ 2000 ซึ่งเป็นช่วงเวลาที่ AI ยังไม่ได้เข้าสู่การสื่อสารแบบเรียลไทม์ อะไรคือช่องว่างที่ใหญ่ที่สุดที่คุณเห็นในสมัยนั้น ซึ่งผลักดันคุณให้ก่อตั้ง Voximplant ในที่สุด

ฉันเกี่ยวข้องกับระบบ VoIP ตั้งแต่ปี 2005 ในสมัยนั้น การสร้างการสื่อสารที่เชื่อถือได้เป็นเรื่องที่ซับซ้อนและใช้เวลานาน ฉันสังเกตเห็นว่านักพัฒนามากคนแบ่งปันความ沮หวังของฉัน ทีมงานพยายามเชื่อมต่อองค์ประกอบโทรคมนาคมแทนการมุ่งเน้นไปที่ประสบการณ์ของผลิตภัณฑ์ที่พวกเขาต้องการส่งมอบ สิ่งนี้ผลักดันให้ฉันเลื่อนไปสู่แนวคิดเรื่องการสื่อสารแบบโปรแกรมสำหรับนักพัฒนา เราต้องการสร้างผลิตภัณฑ์ที่ทำให้ทุกคนสามารถสร้างผลิตภัณฑ์ของตนเองได้โดยไม่ต้องเป็นนักโทรคมนาคม

ก่อนที่จะก่อตั้ง Voximplant ฉันร่วมก่อตั้งบริการโทรศัพท์แบบ SIP เช่น Flashphone และ Zingaya ซึ่งนำเสนอผลิตภัณฑ์แบบคลิกเพื่อโทรเข้า ซึ่งพิสูจน์ความต้องการอีกครั้งว่าทีมงานต้องการการสื่อสารแบบโปรแกรม แต่ยังไม่มีเครื่องมือที่เหมาะสม ทุกสิ่งนี้นำไปสู่การก่อตั้ง Voximplant ในปี 2013

วันนี้ เรากำลังเห็นช่องว่างที่คล้ายกัน แต่ในขนาดที่ใหญ่ขึ้น Voice AI กำลังเข้าสู่กระบวนการผลิต โมเดลภาษาขนาดใหญ่กำลังพัฒนาอย่างต่อเนื่อง แต่เครือข่ายโทรศัพท์ทั่วโลกยังคงกระจัดกระจาย ไม่มีผู้ให้บริการรายเดียวที่สามารถแก้ไขทุกปัญหาได้จากจุดเริ่มต้นจนจบ ดังนั้น Voximplant จึงทำหน้าที่เป็นชั้นการประสานงาน โดยให้บริการนักพัฒนาด้วยวิธีการที่รวดเร็วและคุ้มต้นทุนในการทดลองกับเครื่องมือและเทคโนโลยีล่าสุด และในการติดตั้ง Voice Agents บนการโทรจริง โดยไม่ต้องกังวลเกี่ยวกับโครงสร้างพื้นฐานโทรคมนาคมหรือความซับซ้อนของสตรีมมิ่ง

Voximplant ตั้งตำแหน่งตัวเองเป็นชั้นการประสานงาน มากกว่าผู้ให้บริการ AI หรือโทรคมนาคมรายเดียว ทำไมคุณถึงเชื่อว่าการประสานงานเป็นชั้นที่ถูกต้องในการสร้างสำหรับอนาคตของ Voice AI

สำหรับเรา มันสำคัญตั้งแต่เริ่มต้นในการเป็นระดับโลก และคุณไม่สามารถให้บริการโทรคมนาคมระดับโลกได้โดยไม่ต้องทำการประสานงานโทรคมนาคมบ้าง ข้อกำหนดทางเทคนิคและโครงสร้างพื้นฐานแตกต่างกันไปในแต่ละประเทศ และเรามีหมายเลขโทรศัพท์ในมากกว่า 190 ประเทศ ซึ่งหมายความว่าเราทำการไกล่เกลี่ยทางเทคนิคมากมาย

นอกจากนี้ มาตรฐานโทรคมนาคมเช่น SIP ได้พัฒนาไปสู่หลายรูปแบบขึ้นอยู่กับผู้ให้บริการ การเชื่อมต่อระหว่างผู้ให้บริการโทรคมนาคมและโครงสร้างพื้นฐานการสื่อสารของลูกค้าต่างๆ ต้องการระบบที่ยืดหยุ่นและปรับเปลี่ยนได้เร็ว โทรศัพท์มือถือใหม่ๆ เช่น WhatsApp ยังคงผลักดันความต้องการในด้านนี้ และสิ่งนี้ยังไม่รวมถึงการเพิ่มลอจิกการควบคุมการสื่อสารที่จะดำเนินการตามลอจิกเฉพาะของลูกค้า

ทางด้าน AI ตลาดมีความเข้มข้นและพัฒนาอย่างรวดเร็ว “ผู้ให้บริการที่ดีที่สุด” วันนี้อาจจะอยู่ในอันดับที่สองหรือสามในสัปดาห์หน้า วิธีการของเราคือการสนับสนุนผู้ให้บริการชั้นนำให้มากที่สุดเท่าที่จะเป็นไปได้ เราต้องการให้ลูกค้ามีตัวเลือกที่ดีที่สุดและทันสมัยที่สุดในการเลือกสำหรับการใช้งานของตนเอง พวกเขาสามารถเลือกผู้ให้บริการ AI ที่เหมาะสมสำหรับการใช้งานของตน หรือแม้กระทั่งผสมผสานกัน การประสานงานของเรายังช่วยให้การเปลี่ยนผู้ให้บริการเป็นเรื่องที่ง่ายขึ้น ในขณะเดียวกันก็เปิดเผยความสามารถเต็มรูปแบบของพวกเขา เพื่อให้นักพัฒนkhông ติดกับชุดคุณสมบัติที่ต่ำที่สุด

หลายทีมมองข้ามความยากที่จะทำให้ตัวแทน Voice AI โทรและจัดการการโทรจริงๆ เมื่อเปรียบเทียบกับการโต้ตอบ AI แบบดิจิทัลเท่านั้น อะไรคือสิ่งที่ท้าทายที่สุดในการใช้โทรคมนาคมแบบเรียลเวิลด์เมื่อเปรียบเทียบกับการโต้ตอบ AI แบบดิจิทัล

เครือข่ายโทรศัพท์ยังคงกระจัดกระจายและไม่สอดคล้องกันในหลายภูมิภาค ทำให้การคาดการณ์ยากขึ้น ในบางประเทศ โปรโตคอลบางอย่างอาจถูกจำกัดหรือปิดกั้น ผู้ให้บริการอาจมีการหยุดชะงักในการดำเนินงานตามปกติ และรูปแบบการ định tuyếnการโทรอาจเปลี่ยนแปลงตลอดทั้งวัน นอกจากนี้ยังมีภูมิภาคที่การโทรแบบคลาวด์อาจมีความซับซ้อนในด้านกฎหมาย

เรายังเห็นกรณีที่โครงสร้างพื้นฐานเองกลายเป็นปัญหาอีกด้วย ตัวอย่างเช่น สตาร์ทอัพด้านการดูแลสุขภาพของออสเตรเลียที่สร้างตัวโทร AI เพื่อเช็คอินผู้ป่วยที่พูดภาษากวางตุ้งผู้สูงอายุ ต้องเผชิญกับความล่าช้าในการเชื่อมต่อกับผู้ให้บริการ AI ในสหรัฐฯ เช่น OpenAI หรือ ElevenLabs และการเข้าถึง TTS คุณภาพสูงสำหรับภาษากวางตุ้งเป็นเรื่องที่ยาก ทำให้การสนทนา feels ช้าและไม่ธรรมชาติ

นอกเหนือจากความน่าเชื่อถือแล้ว ยังมีระดับการปฏิบัติตามกฎระเบียบด้วย ข้อกำหนดแตกต่างกันไปในแต่ละประเทศและบางครั้งอาจทับซ้อนกับกรอบการทำงาน เช่น HIPAA, PCI DSS และ GDPR

ประสิทธิภาพของเสียงเองก็ไม่เท่ากันทุกที่ ไม่มีเครื่องมือ STT หรือ TTS ที่ทำงานได้ดีที่สุดในทุกสภาพแวดล้อม เสียงพูด อาการรบกวนของพื้นหลัง การเปลี่ยนแปลงคุณภาพการโทร หรือแม้กระทั่งการเสื่อมสภาพของผู้ให้บริการอาจทำให้ประสิทธิภาพและประสบการณ์ของผู้ใช้ลดลงอย่างรวดเร็ว

ระบบ Voice AI บางระบบพึ่งพาผู้ให้บริการหลายรายสำหรับ LLM, Speech-to-Text, Text-to-Speech และการ định tuyến ทำไมการกระจายส่วนนี้จึงเป็นเรื่องที่หลีกเลี่ยงไม่ได้ และทำไมการเปลี่ยนผู้ให้บริการ AI หรือ Speech ควรเป็นการเปลี่ยนแปลงโค้ดอย่างรวดเร็วมากกว่าการดำเนินงานทางวิศวกรรมขนาดใหญ่

ในระยะแรกของ Voice AI ไม่มีตัวเลือก Speech-to-Speech จริงๆ ดังนั้นจึงต้องรวม Speech-to-Text, LLM และ Text-to-Speech เข้าด้วยกัน วันนี้ ผู้ให้บริการ LLM หลายรายรวม Speech ได้โดยตรง (บางครั้งกับการสนับสนุน barge-in) ซึ่งลบการจำเป็นในการสร้างไพพ์ไลน์เต็มรูปแบบ ระบบเหล่านี้เร็วและโต้ตอบได้ดี แต่ยังคงมีข้อจำกัดในด้านการโทรแบบฟังก์ชันและตัวเลือกในการปรับปรุงการถอดเสียงและเสียง

การเปลี่ยนผู้ให้บริการ AI และ Speech บนแพลตฟอร์มของเราไม่ใช่การดำเนินงานทางวิศวกรรมขนาดใหญ่ แต่ก็มากกว่าการเปลี่ยนแปลงโค้ดเพียงบรรทัดเดียวด้วย ผู้ให้บริการ Speech ต่อสู้กับการกลายเป็นสินค้าโดยการแนะนำคุณสมบัติเฉพาะตัว เราเก็บตัวเชื่อมต่อให้สม่ำเสมอในขณะที่เปิดเผยความสามารถของพวกเขาให้มากที่สุด เพื่อให้ลูกค้าสามารถใช้คุณสมบัติเหล่านี้ได้ การเปลี่ยนผู้ให้บริการบ่อยๆ อาจหมายถึงการเปลี่ยนแปลงโค้ดเพียงไม่กี่บรรทัด

ตัวแทน Voice AI เริ่มเปลี่ยนแปลงเศรษฐศาสตร์ของการสนับสนุนลูกค้า การขาย และการดำเนินงาน B2C อื่นๆ เมื่อเปรียบเทียบกับแบบจำลองศูนย์บริการแบบดั้งเดิมอย่างไร

อาจจะเร็วเกินไปที่จะพูดถึงการเปลี่ยนแปลงที่มีนัยสำคัญในเศรษฐศาสตร์ของการสนับสนุนลูกค้า แต่สิ่งนี้กำลังจะเกิดขึ้น ในปัจจุบัน มีภูมิภาคที่ตัวแทนการสนับสนุนลูกค้ามีค่าใช้จ่ายน้อยกว่าบริการที่ขับเคลื่อนด้วย LLM แต่แบบจำลองนี้มาพร้อมกับความท้าทายที่รู้จักกันดีเกี่ยวกับการขยายขนาด การเผาผลาญ การจัดการ และการดำเนินงาน ฉันคาดว่าเศรษฐศาสตร์จะเปลี่ยนแปลงอย่างมีนัยสำคัญเมื่อ LLMs ปรับปรุงการเพิ่มประสิทธิภาพต่อไป แม้ว่าจะใช้เวลา

สัญญาณใดบ่งชี้ว่า Voice AI กำลังเปลี่ยนจากการทดลองเป็นโครงสร้างพื้นฐานที่สำคัญสำหรับองค์กร

สัญญาณที่แข็งแกร่งที่สุดคือการลงทุนในโครงสร้างพื้นฐาน Voice AI ซึ่งเติบโตอย่างรวดเร็ว มีหลายวิธีในการติดตามการโทรหรือนาทีของ Voice AI ในระดับโลก ถ้าไม่ใช่โดยตรงแล้วก็ผ่านการประมาณการ ในขณะที่ฉันสามารถติดตามสิ่งนี้ได้โดยตรงเฉพาะสำหรับ Voximplant เราเห็นการเติบโตที่แข็งแกร่งชัดเจน

คุณคิดว่าความคาดหวังของนักพัฒนาทางด้านความยืดหยุ่นและควบคุมเปลี่ยนแปลงไปอย่างไรเมื่อโมเดล AI และเทคโนโลยีเสียงพัฒนาเร็วขึ้น

นี่เป็นคำถามที่น่าสนใจ เมื่อพูดถึงความเร็วของการเปลี่ยนแปลง AI ไม่มีอะไรที่เทียบเท่าในประวัติศาสตร์ ความยืดหยุ่นและควบคุมเป็นเรื่องที่ซับซ้อนกว่านั้น และขึ้นอยู่กับสิ่งที่เราหมายถึงเมื่อพูดถึงคำเหล่านั้น เมื่อพูดถึงการควบคุม มีคำถามที่รู้จักกันดีและเอาชนะไม่ได้ง่ายๆ ส่วนใหญ่บริษัท AI ใช้ความพยายามอย่างมากในการสร้างรั้วให้กับโมเดล แต่การทำสิ่งนี้ได้ดีจำเป็นต้องมีความเชี่ยวชาญลึกซึ้ง และบริษัทต่างๆ มีเป้าหมายที่แตกต่างกัน

ข้อผิดพลาดที่พบบ่อยที่สุดคืออะไรที่บริษัทต่างๆ ทำเมื่อพยายามติดตั้ง Voice AI ตัวแทนโดยตรงบนระบบโทรศัพท์แบบดั้งเดิม

ระบบโทรศัพท์แบบดั้งเดิมไม่เข้ากันกับบริการ Voice AI โดยตรง ดังนั้นจึงต้องมีการรวมระบบเพิ่มเติม โดยทั่วไปผ่านโปรโตคอล SIP หรือ WebSockets ข้อผิดพลาดที่พบบ่อยรวมถึงการบริหารจัดการการสำรองข้อมูลที่ไม่เพียงพอ ปัญหาเรื่องความล่าช้า (ซึ่งอาจเกิดจากปัจจัยต่างๆ) และความท้าทายในการขยายขนาด

โทรศัพท์เองสามารถขยายขนาดได้ดี โดยเฉพาะอย่างยิ่งเมื่อใช้ VoIP แต่บริการ Voice AI มีความท้าทายในการขยายขนาดมากกว่า เนื่องจากต้องการฮาร์ดแวร์ที่มีประสิทธิภาพสูงในการรัน LLM และแม้แต่ผู้เล่นโครงสร้างพื้นฐานขนาดใหญ่เช่น Amazon (AMZN ) ก็อาจเผชิญกับความจำกัดด้านความจุในการอนุมาน

เมื่อมองไปข้างหน้า คุณคิดว่าแพลตฟอร์ม Voice AI ต้องรองรับฟังก์ชันใดเพื่อให้สามารถอยู่รอดในฐานะ AI แบบเรียลไทม์ที่มีความเป็นอิสระมากขึ้น

ฉันคิดว่าแพลตฟอร์ม Voice AI ต้องเน้นไปที่ SLA เนื่องจากยังคงเป็นปัญหาในบางครั้ง และเครื่องมือเพิ่มเติมสำหรับการทดสอบและความสามารถในการสังเกต

ในที่สุด แพลตฟอร์มที่ทันสมัยที่สุดจะให้ทุกสิ่งที่จำเป็น แต่ปัจจุบันเรายังคงเรียนรู้บทเรียนใหม่ทุกวัน ซึ่งหลายอย่างควรกลายเป็นส่วนหนึ่งของสแต็กหลัก หากคุณทำงานกับองค์กรขนาดใหญ่หรือในสภาพแวดล้อมที่มีการควบคุม การมีเวอร์ชัน On-Prem ของผลิตภัณฑ์ของคุณอาจเป็นสิ่งสำคัญ

เมื่อคุณสะท้อนถึงการเดินทางของคุณตั้งแต่โครงสร้างพื้นฐาน VoIP ในช่วงแรกจนถึงการเป็นผู้นำแพลตฟอร์ม Voice AI วันนี้ สิ่งใดที่ทำให้คุณประหลาดใจมากที่สุดเกี่ยวกับวิธีการพัฒนาของอุตสาหกรรม

หลายสิ่งที่ทำให้ฉันประหลาดใจ แต่หนึ่งในนั้นคือการเปลี่ยนแปลงโครงสร้างพื้นฐาน VoIP ใช้เวลานานหลายปี ตัวอย่างเช่น โทรคมนาคมยังคงพึ่งพาโค้ดค์เสียงแบนด์แคบ (G.711, G.729) ในขณะที่ผู้คนได้ใช้เสียงแบนด์กว้างในบริการสื่อสารออนไลน์ เช่น Zoom, Google Meet, WhatsApp เป็นต้น

โมเดล AI ส่วนใหญ่ถูกฝึกฝนบนข้อมูลเสียงแบนด์กว้างเช่นกัน โทรศัพท์มือถือสมัยใหม่ทุกเครื่องมีโค้ดค์เสียงแบนด์กว้างในตัว แต่ยังคงมีความท้าทายด้านการทำงานร่วมกันที่ระดับผู้ให้บริการที่ป้องกันไม่ให้ใช้เสียงแบนด์กว้างในการโทรแบบดั้งเดิม มันไม่ได้หมายความว่าไม่มีการก้าวหน้า แต่ในความคิดของฉัน มันค่อนข้างน้อยนิด