Alex Levin, Đồng sáng lập và CEO của Regal – Loạt phỏng vấn

Alex Levin là Đồng sáng lập và CEO của Regal, một nền tảng trí tuệ nhân tạo giọng nói giúp các doanh nghiệp thúc đẩy doanh thu thông qua các cuộc trò chuyện của khách hàng được hỗ trợ bởi AI và tuân thủ các quy định. Trước khi thành lập Regal vào năm 2020, anh đã lãnh đạo các đội tăng trưởng và sản phẩm tại Handy, Thomson Reuters (TRI ) và các công ty khởi nghiệp khác. Là một sinh viên tốt nghiệp của Harvard và thành viên của Hội đồng Công nghệ Forbes, Alex tập trung vào việc xây dựng cơ sở hạ tầng voice-first có thể mở rộng, kết hợp đổi mới với các rào cản cấp doanh nghiệp.

Regal cung cấp các đại lý giọng nói AI cho bán hàng, hỗ trợ, lập lịch và thu thập – được thiết kế để nghe tự nhiên, tích hợp với các hệ thống CRM và xử lý hàng triệu cuộc trò chuyện với quy mô lớn. Nền tảng này có tính năng xây dựng không cần mã, phân tích thời gian thực, thử nghiệm A/B và tuân thủ các quy định tích hợp cho các ngành công nghiệp được quản lý như chăm sóc sức khỏe, bảo hiểm và dịch vụ tài chính.

Điều gì đã truyền cảm hứng cho bạn rời khỏi các vai trò lãnh đạo tại Angi và Handy để thành lập Regal, và có một khoảnh khắc cụ thể nào mà bạn và đồng sáng lập của mình nhận ra rằng trải nghiệm trung tâm liên lạc cần phải được xây dựng lại hoàn toàn?

Trong thời gian tại Angi/Handy, chúng tôi đã thấy sức mạnh của giọng nói trong việc xây dựng niềm tin với khách hàng. Khách hàng đã cho chúng tôi biết rằng khi họ có một vấn đề quan trọng, họ muốn gọi điện, và khách hàng mà chúng tôi phục vụ qua điện thoại có giá trị trọn đời cao hơn và khi chúng tôi gọi cho khách hàng, họ trả lời với tỷ lệ cao hơn so với bất kỳ kênh nào khác. Tuy nhiên, các nhà cung cấp phần mềm trung tâm liên lạc tập trung vào “định hướng” và “tự động hóa” hơn là những gì phù hợp với khách hàng. Kết quả là một trò chơi vô tận của việc ẩn số điện thoại, điều này không cần thiết đã trừng phạt khách hàng.

Đồng sáng lập và tôi rời đi vì chúng tôi tin mạnh mẽ rằng chúng tôi có thể làm cho giọng nói trở thành kênh hiệu quả nhất bằng cách giảm chi phí và làm cho nó dễ dàng hơn để vận hành. Tôi ước gì tôi đã có Regal khi tôi đang điều hành một trung tâm liên lạc lớn.

Bạn đã ra mắt Regal vào năm 2020, ngay trước khi bùng nổ trí tuệ nhân tạo sinh. Làm thế nào bạn đánh giá tính khả thi về mặt kỹ thuật của trí tuệ nhân tạo giọng nói – và điều gì đã mang lại cho bạn sự tự tin để hành động sớm?

Chúng tôi đã được thuyết phục từ rất lâu trước năm 2020 rằng giọng nói là kênh quan trọng nhất. Và vào năm 2020, chúng tôi biết rằng chúng tôi có thể xây dựng các công cụ dàn xếp, thử nghiệm A/B và cá nhân hóa sẽ giảm chi phí và đơn giản hóa việc quản lý giọng nói như một kênh – cho dù đó là một đại lý con người, một rô-bốt giọng nói cũ hoặc một cái gì đó tốt hơn ở đầu tiên. Vì vậy, chúng tôi đã bán các công cụ cho các trung tâm liên lạc để quản lý các đại lý con người tốt hơn. Sản phẩm đó đã phát triển rất nhanh.

Nhưng như bạn đã nói, việc bắt đầu một công ty là một bước nhảy của niềm tin, và nó đã mất một thời gian để chúng tôi thực sự thấy cách chúng tôi có thể vượt qua các hạn chế của các đại lý con người. Nó không phải cho đến khi ra mắt ChatGPT vào cuối năm 2022, chúng tôi thực sự thấy “AI” đủ tốt để giữ một cuộc trò chuyện. Và nó không phải cho đến khi cuối năm 2023, chúng tôi mới có thể tạo một bản demo cho một đại lý giọng nói mà chúng tôi nghĩ khách hàng sẽ muốn trò chuyện.

Điều gì là một số thách thức kỹ thuật khó khăn nhất trong việc đào tạo các đại lý giọng nói có thể khớp hoặc vượt qua hiệu suất của con người trong các cuộc trò chuyện tự nhiên?

Có rất nhiều thách thức kỹ thuật tuyệt vời để làm việc. Từ việc đảm bảo độ trễ là khoảng 500ms, đến việc tìm ra cách để đảm bảo rằng các đại lý AI có thể có tất cả các ngữ cảnh của các cơ sở dữ liệu của công ty và dữ liệu khách hàng theo thời gian thực, đến việc cho phép các đại lý AI thực hiện hành động trong các cuộc gọi và sau đó, đến việc tạo ra các tính năng an toàn hoặc bảo vệ, và làm thế nào để làm cho tương tác của đại lý cảm giác giống con người với việc chuyển đổi và các tín hiệu lời nói phù hợp.

Một trong những dự án yêu thích của tôi mà nhóm của chúng tôi đang làm việc hôm nay là cách cải thiện các đánh giá tự động để một đại lý AI có thể được kiểm tra dễ dàng hơn trước khi đưa vào sản xuất. Điều này sẽ cắt giảm hàng trăm giờ kiểm tra chất lượng thủ công đang xảy ra liên tục hôm nay cho mọi thay đổi đối với mọi đại lý AI.

Chúng tôi phải tạo ra hàng trăm cuộc trò chuyện của khách hàng mô phỏng đa dạng (sử dụng AI), chúng có đại lý AI đi qua chúng, sau đó có một giám sát AI kiểm tra chúng và trả lại các đề xuất cải tiến cho đại lý AI hoặc các chính sách và cơ sở dữ liệu của công ty. Chúng tôi đã có một sản phẩm đánh giá hoạt động, phản hồi của khách hàng đã rất tuyệt vời, và nó đang được cải thiện với một tốc độ tuyệt vời.

Điều này là rất quan trọng cho chỉ số mới của số lượng quản lý trên mỗi đại lý AI. Sắp thôi, rất ít quản lý sẽ có thể quản lý hàng trăm đại lý AI khác nhau.

Làm thế nào Regal tận dụng học máy để cá nhân hóa các cuộc trò chuyện theo thời gian thực? Có phải dựa trên lịch sử của khách hàng, nhận dạng âm điệu, nhận dạng ý định – hay một sự kết hợp?

Chúng tôi đã đầu tư sâu vào việc cá nhân hóa so với phần còn lại của thị trường vì chúng tôi tin vào việc giúp các thương hiệu kiểm tra hàng triệu khách hàng như một trong một triệu. Không chỉ tái tạo việc xử lý đại lý con người chung chung thường được sử dụng hôm nay.

Chúng tôi bắt đầu bằng cách xây dựng một hồ sơ khách hàng thống nhất liên kết mọi mảnh dữ liệu CRM, dữ liệu sự kiện và lịch sử cuộc trò chuyện. Khi xây dựng một đại lý, các công ty có thể sau đó cung cấp cho đại lý AI quyền truy cập vào mọi thông tin về khách hàng hoặc chỉ các điểm dữ liệu cụ thể cần thiết cho một cuộc trò chuyện cụ thể. LLM cung cấp một phản hồi trò chuyện giống con người bằng cách sử dụng dữ liệu có sẵn.

LLM vẫn còn hạn chế trong những gì chúng làm tốt, vì vậy chúng tôi cần có khả năng tận dụng các công cụ khác như dịch vụ dữ liệu của bên thứ ba, ứng dụng tùy chỉnh và học máy. Vì vậy, chúng tôi đã xây dựng “Hành động Tùy chỉnh” có thể được sử dụng trong một lời nhắc đại lý AI để tận dụng các dịch vụ khác. Ví dụ, nhiều thương hiệu có mô hình xu hướng chỉ ra sản phẩm nào nên đề xuất cho khách hàng tiếp theo và chúng tôi có thể kết nối với chúng để phù hợp với cuộc trò chuyện.

Làm thế nào hệ thống của bạn sử dụng việc tạo ra tăng cường bằng cách thu hồi (RAG) mà không hy sinh sự phản hồi hoặc nhịp điệu tự nhiên mà khách hàng mong đợi từ một cuộc gọi trực tiếp?

RAG là một lĩnh vực khác biệt cho chúng tôi vì nó cần phải nhanh hơn cho các đại lý AI giọng nói so với các đại lý AI trong trò chuyện hoặc các kênh kỹ thuật số khác. Một vài giây không khí chết sẽ hoàn toàn làm hỏng cuộc gọi.

Chúng tôi đã giảm độ trễ của việc thu hồi và đảm bảo rằng nếu việc thu hồi mất nhiều thời gian hơn, đại lý AI có thể tiếp tục trò chuyện với khách hàng để cho họ biết nó sẽ mất nhiều thời gian hơn.

Các đại lý của Regal được mô hình hóa theo các giọng nói của con người thực, bao gồm cả các nhà đầu tư thực. Điều gì cần thiết – về mặt kỹ thuật và đạo đức – để xây dựng các bản sao có độ trung thực cao như vậy?

Thật ngạc nhiên khi thấy việc “nhân bản” giọng nói kỹ thuật dễ dàng như thế nào để một đại lý AI có thể nghe giống như một diễn viên lồng tiếng chuyên nghiệp hoặc một người bạn. Chỉ cần 5-10 phút âm thanh chất lượng cao là đủ.

Ví dụ, tôi đã được hỏi gần đây về cách làm điều này cho một thành viên trong gia đình đang chết để thế hệ trẻ hơn có thể trải nghiệm họ khi họ già hơn. Vì vậy, với một chút hướng dẫn, họ sẽ ghi lại giọng nói của ông bà đang chết ngay bây giờ.

Về điểm thứ hai của bạn, ông bà đang đồng ý với điều này, và các diễn viên lồng tiếng chuyên nghiệp hoặc các nhà đầu tư của chúng tôi đồng ý với điều này. Những kẻ xấu cho phép nhân bản giọng nói mà không có sự đồng ý (như những gì đã xảy ra trong cuộc bầu cử tổng thống vừa qua) nên bị đóng cửa.

Một lời khuyên – nếu bạn cho phép một bản sao giọng nói (hoặc bạn là một nhân vật công chúng có thể bị những kẻ xấu sao chép), hãy đảm bảo bạn nghĩ ra một từ an toàn mà chỉ gia đình bạn biết để họ có thể xác định bản thân thực sự trong một cuộc gọi.

Bạn nhấn mạnh tầm quan trọng của việc tích hợp Regal vào các hệ thống CRM, hệ thống thanh toán và API nội bộ. Những thách thức tích hợp nào là khó khăn nhất mà bạn phải giải quyết?

Tích hợp với các sản phẩm chính từ các hệ thống CRM như Salesforce (CRM ) đến phần mềm Trung tâm Liên lạc như NICE là trực tiếp. Yêu cầu khó nhất là đảm bảo rằng thương hiệu làm cho các API có sẵn cho chúng tôi đối với bất kỳ hành động nào mà đại lý AI có thể cần thực hiện. Một đại lý con người có thể nhấp vào một nút để đặt phòng khách sạn. Nhưng đại lý AI thực sự cần một API đặt phòng.

Bạn tiếp cận việc đo lường và cải thiện hiệu suất của mô hình như thế nào? Vai trò của việc tinh chỉnh được giám sát hoặc học tăng cường trong quá trình này là gì?

Chúng tôi đã xây dựng một bộ thử nghiệm A/B từ đầu, vì vậy nó rất đơn giản cho khách hàng để kiểm tra các đại lý AI so với các đại lý con người hoặc đại lý với phiên bản LLM 1 so với phiên bản 2. Điều đó cung cấp cho chúng tôi một cách rõ ràng để xem sự khác biệt trong kết quả cho các mô hình khác nhau.

Tuy nhiên, chúng tôi không sử dụng học tăng cường hôm nay vì nó làm cho các nhóm pháp lý cảm thấy không thoải mái (họ không muốn một tình huống trong đó có một thay đổi đối với hương vị không mong muốn). Tôi nghĩ chúng tôi đang 13 tháng từ các nhóm pháp lý cho phép học tăng cường trong trường hợp của chúng tôi. Thay vào đó, hôm nay chúng tôi tập trung vào việc đề xuất các thay đổi mà một người quản lý con người có thể chấp nhận. Những thay đổi này có thể là đối với một lời nhắc, một cơ sở dữ liệu, tinh chỉnh một LLM, v.v.

Nói chuyện với một VC – hoặc một bản sao giọng nói của một VC – là một khái niệm táo bạo. Mục đích của bạn khi đưa ra các cố vấn AI này cho các nhà sáng lập là gì và chúng đang được sử dụng như thế nào hôm nay?

Chúng tôi đã may mắn khi có quyền truy cập vào các nhà đầu tư tuyệt vời và chúng tôi muốn trả lại điều đó với dự án này. Tôi thích nói chuyện với Satya AI bất cứ lúc nào và tôi đã nghe được phản hồi tuyệt vời từ các giám đốc điều hành đã sử dụng các VC AI để làm mọi thứ, từ tư vấn về cách tạo một bản đồ sản phẩm đến những gì mô hình định giá để sử dụng.

Chúng tôi thích thể hiện thay vì nói và dự án này thực sự làm nổi bật sức mạnh của các khả năng RAG/triển khai kiến thức của chúng tôi. Chúng tôi thậm chí đã có hai phụ huynh của các nhà đầu tư của chúng tôi cho chúng tôi cái gật đầu!

Nhưng một lời khuyên – bạn không thể ủy quyền việc ra quyết định cho các cố vấn và một trong những phần khó hơn của việc trở thành một giám đốc điều hành là quyết định giữa hai lựa chọn tồi hoặc thậm chí hai lựa chọn dường như tốt.

Các đại lý nhà đầu tư này có dựa trên kiến thức khởi nghiệp chung chung hay được đào tạo trên các lời khuyên và triết lý cụ thể của công ty gắn liền với từng VC?

Tất cả các đại lý AI đều có một số kiến thức chung từ đào tạo LLM. Nhưng để có được kết quả chúng tôi cần, chúng tôi đã tải lên các tác phẩm viết của các nhà đầu tư vào các Cơ sở Dữ liệu Kiến thức Đại lý AI tương ứng.

Beyond đó và việc nhân bản giọng nói, tôi nghĩ chúng tôi cũng đã có thể nắm bắt được một số tính cách hoặc bản chất độc đáo của các nhà đầu tư như sự tích cực của Jake Saper hoặc sự sôi nổi của Alexa Von Tobel.

Nhìn về phía trước, bạn thấy Regal AI sẽ phát triển như thế nào – chúng ta sẽ thấy nhiều quyết định tự chủ hơn, nhiều trí tuệ cảm xúc hơn hay thậm chí hỗ trợ đa phương thức?

Phần thú vị nhất trong năm qua đã là thấy các đại lý AI của chúng tôi hoạt động tốt hơn các đại lý con người. Tôi nghĩ rằng trong năm tới, những cải tiến trong các mô hình AI cơ bản và tiến bộ trong ứng dụng của Regal sẽ dẫn đến các Đại lý AI không thể phân biệt được với con người và quan trọng hơn, vượt qua khả năng của các đại lý con người. Các công ty tận dụng các Đại lý AI sẽ giảm chi phí và cải thiện trải nghiệm khách hàng nhanh hơn so với dự kiến.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Regal.