Will Bodewes, Đồng sáng lập kiêm Tổng giám đốc Phonely – Loạt bài phỏng vấn

Will Bodewes là Đồng sáng lập kiêm Tổng giám đốc Phonely, một công ty AI giọng nói tập trung hỗ trợ doanh nghiệp trả lời cuộc gọi và cải thiện kết quả của các cuộc trò chuyện với khách hàng. Trước khi thành lập công ty, ông theo học chương trình tiến sĩ tại University of Melbourne, nghiên cứu trí tuệ nhân tạo ứng dụng và các hệ thống có thể làm theo chỉ dẫn trong khi giao tiếp tự nhiên. Trước đó, ông từng thành lập một công ty khởi nghiệp về công nghệ âm thanh và thi đấu trượt tuyết băng đồng ở cấp NCAA cũng như đua xe đạp siêu bền. Tại Phonely, ông vận dụng nền tảng nghiên cứu đó vào những thách thức thực tiễn khi triển khai tác nhân giọng nói, bao gồm độ tin cậy trong hội thoại, độ trễ, khả năng tích hợp và việc liên tục tối ưu hóa quy trình đặt lịch, bán hàng và dịch vụ khách hàng.

Phonely là nền tảng tác nhân giọng nói AI giúp doanh nghiệp tự động hóa các cuộc trò chuyện qua điện thoại, lên lịch hẹn, đánh giá khách hàng tiềm năng, chuyển tiếp cuộc gọi và kết nối các tương tác với khách hàng với phần mềm hiện có. Các công cụ của nền tảng kết hợp quy trình hội thoại có thể tùy chỉnh với lịch sử cuộc gọi, phân tích dữ liệu và thử nghiệm A/B, giúp các nhóm đo lường hiệu quả và cải thiện kết quả theo thời gian. Công ty phục vụ nhiều tổ chức, từ doanh nghiệp nhỏ đến doanh nghiệp lớn, và cho biết nền tảng hỗ trợ hơn 10.000 doanh nghiệp, đồng thời xử lý hơn 120.000 cuộc gọi mỗi ngày. Phonely cũng phát triển các mô hình hội thoại riêng, trong đó có Alma, tập trung giúp các cuộc gọi tự động diễn ra nhanh hơn, đáng tin cậy hơn và phù hợp hơn với những cuộc trò chuyện kinh doanh trong thực tế.

Bạn bắt đầu xây dựng Phonely khi đang theo học chương trình tiến sĩ về AI tại University of Melbourne, ban đầu tập trung tạo ra các hệ thống có thể làm theo chỉ dẫn trong khi giao tiếp tự nhiên. Điều gì khiến bạn tin rằng AI giọng nói đã đạt đến mức có thể trở thành nền tảng cho một công ty độc lập, và bạn nhìn thấy điều gì trên thị trường mà những người khác bỏ lỡ?

Vào thời điểm đó, chưa có bằng chứng nào cho thấy AI giọng nói có thể làm nền tảng cho một công ty độc lập. Có một vài công ty đang phát triển công nghệ này với khoảng năm hoặc 10 người dùng, nhưng chưa ai triển khai thành công AI giọng nói không phải là một hệ thống IVR. Vì vậy, khi chúng tôi thành lập Phonely, đó là một canh bạc. Lúc ấy, mọi thứ đều tập trung vào trò chuyện bằng văn bản, nên giọng nói là một phương tiện mới. Đây là một vấn đề chưa được giải quyết, nên chúng tôi nghĩ: “Sao không thử theo đuổi nó? Sao không thử giải quyết vấn đề này?”

Nghiên cứu tiến sĩ của bạn bắt đầu với mục tiêu tạo ra một AI có thể “làm theo chỉ dẫn như rô-bốt và nói chuyện như con người”. Những đột phá kỹ thuật nào khiến bạn nhận ra nghiên cứu này có thể trở thành nền tảng cho một nền tảng AI giọng nói thương mại?

Nghiên cứu đó có giá trị và quan trọng để hiểu công nghệ nền tảng đang vận hành như thế nào. Nó giúp tôi nhìn trước xu hướng và thấy được những gì sắp được phát triển. Tôi hiểu về mặt kỹ thuật các mô hình này là gì và chúng hoạt động ra sao; nhờ vậy, tôi có thể đặt cược vào hướng đi này. Cụ thể, tôi muốn xây dựng một công ty và tạo ra tác động, và đây là lĩnh vực liên quan nhiều nhất đến những gì tôi hiểu cũng như có thể thấy trước. Tôi muốn trở thành một phần của lĩnh vực đó.

Bạn từng mô tả mỗi cuộc gọi là một phễu mà trước đây doanh nghiệp chưa thể tối ưu hóa một cách có hệ thống. Việc tối ưu hóa một cuộc trò chuyện qua điện thoại thực sự diễn ra như thế nào, và AI có thể cải thiện tỷ lệ chuyển đổi, tỷ lệ xử lý thành công hoặc trải nghiệm khách hàng theo thời gian ra sao?

Giả sử bạn đang đặt lịch hẹn với một thợ sửa ống nước. Người nghe điện thoại được đào tạo để thu thập thông tin của bạn và đặt lịch hẹn, nhưng tùy vào cách họ đặt câu hỏi, họ có thể giúp bạn biết thêm về những dịch vụ mà bạn chưa nhận ra doanh nghiệp đó cung cấp. Chẳng hạn, bạn có thể đặt lịch hẹn để xử lý sự cố đường ống nước, rồi phát hiện ra mình cũng cần sửa bồn rửa. Một tác nhân AI giọng nói được đào tạo bài bản cũng làm được điều tương tự, giúp doanh nghiệp bán thêm sản phẩm, dịch vụ cho khách hàng và tăng doanh thu. Tác nhân này có thể giới thiệu thêm một sản phẩm mà nhân viên lễ tân mới chưa được đào tạo để bán, đồng thời thêm một hạng mục nữa vào đơn hàng, khiến khách hàng hài lòng hơn và giúp doanh nghiệp đạt kết quả tốt hơn. Một phiên bản ChatGPT bằng giọng nói đơn giản không biết cách làm điều đó. Bạn cần một sản phẩm được xây dựng và đào tạo để thực hiện việc này.

Ngoài ra, con người có thể bỏ lỡ cuộc gọi, không nghe máy hoặc chuyển cuộc gọi sang hộp thư thoại. Điều đó khiến các doanh nghiệp nhỏ ở Mỹ lao đao. Họ không có người trực điện thoại, chất lượng phục vụ thiếu nhất quán và không có cách nào để tối ưu hóa hoạt động này. Với AI, nếu một cuộc gọi không mang lại kết quả mà doanh nghiệp mong muốn, chúng tôi có thể tối ưu hóa dựa trên dữ liệu hiện có. Nhờ tốc độ của AI, chúng tôi có thể thay đổi cuộc trò chuyện nhanh hơn rất nhiều so với khi để con người thực hiện.

Hiện nay, mọi người đều nhìn nhận AI như một cách để tiết kiệm chi phí. Nhưng chúng tôi cho rằng nên xem AI là động lực tăng trưởng. Doanh nghiệp thực sự có thể phát triển nhờ ứng dụng AI, qua đó hoạt động hiệu quả hơn trước.

AI giọng nói phải giải quyết những thách thức mà AI dựa trên văn bản thường có thể tránh được, bao gồm độ trễ, tình trạng ngắt lời, giọng địa phương, tiếng ồn xung quanh, tín hiệu cảm xúc và các cuộc trò chuyện khó lường. Trong số những vấn đề này, vấn đề nào khó giải quyết một cách đáng tin cậy nhất ở quy mô doanh nghiệp?

Độ trễ là vấn đề lớn nhất. Hiện nay chúng tôi đã giải quyết được vấn đề này, nhưng trong những ngày đầu, nó là một trở ngại rất lớn vì hai lý do.

Trước tiên, chúng tôi xây dựng dựa trên các startup vốn không đáng tin cậy. Một tỷ lệ đáng kể các yêu cầu API gửi đến OpenAI bị lỗi và chúng tôi không nhận được phản hồi. Khi đang gọi điện, điều đó chẳng khác nào bị cúp máy, nên chúng tôi phải xây dựng cơ chế thử lại để xử lý tình huống này.

Vấn đề thứ hai là năng lực xử lý. Khi gửi yêu cầu đến OpenAI, bạn sẽ mắc kẹt trong hàng đợi, phía sau hàng trăm hoặc hàng nghìn yêu cầu khác, mà không biết mình đang ở vị trí nào. Có khi phải mất 30 giây mới nhận được phản hồi. Để khắc phục, chúng tôi xem xét các điểm cuối của OpenAI trên khắp thế giới và chuyển sang những điểm cuối khác nhau tùy theo quốc gia nào đang trong giờ nghỉ ngơi và có nhu cầu thấp. Chúng tôi phải xây dựng toàn bộ cơ sở hạ tầng này chỉ để tìm ra những điểm cuối có nhu cầu thấp nhất vào thời điểm đó. Đây là một bài toán kỹ thuật khá thú vị. Giờ đây, chúng tôi tự huấn luyện các mô hình của mình, trong đó có Alma, nên không phải lo về vấn đề đó nữa vì chúng tôi tự quản lý năng lực tính toán và nhu cầu.

Hiện Phonely xử lý hơn 120.000 cuộc gọi mỗi ngày cho hàng nghìn doanh nghiệp. Qua quá trình vận hành các tác nhân thoại ở quy mô đó, bạn đã rút ra được điều gì mà khi xây dựng phiên bản đầu tiên của nền tảng vẫn chưa thể nhận ra?

Việc hệ thống luôn hoạt động 100% thời gian thực sự rất quan trọng. Một trong những thách thức kỹ thuật khó khăn nhất mà chúng tôi đang giải quyết là đảm bảo độ tin cậy và tốc độ. Lĩnh vực AI đang phát triển với tốc độ chóng mặt, và ngay cả với một công ty AI, chúng tôi cũng đang tiến rất nhanh. Y Combinator có câu nói: “Di chuyển nhanh và phá vỡ mọi thứ”. Nhưng khi khách hàng thực hiện 120.000 cuộc gọi mỗi ngày, bạn không thể để mọi thứ trục trặc. Vì vậy, phần lớn quy trình của chúng tôi tập trung vào việc tìm cách phát hành sản phẩm với tốc độ cần thiết để duy trì tính phù hợp và liên tục cải tiến, đồng thời giữ cho khách hàng doanh nghiệp hài lòng và hệ thống hoạt động ổn định trong lúc chúng tôi tiếp tục phát triển các tính năng mới để dẫn đầu thị trường. Có lẽ độ tin cậy là một trong những thách thức lớn nhất chúng tôi gặp phải khi xây dựng công ty.

Các hệ thống AI tạo sinh có thể hoạt động khó lường, trong khi một tác nhân điện thoại hướng đến khách hàng có thể xử lý thanh toán, đặt chỗ, câu hỏi về chăm sóc sức khỏe hoặc các tương tác quan trọng khác. Bạn thiết kế tác nhân thoại như thế nào để chúng vẫn linh hoạt, giao tiếp tự nhiên mà không bịa đặt thông tin hay hành động vượt quá phạm vi được phép?

Khoảng 2 năm trước, chúng tôi đã phải trả giá mới tìm ra cách giải quyết vấn đề này; giờ đây, giải pháp đó đã được áp dụng khá rộng rãi trong ngành. Chúng tôi nhận ra vấn đề lớn nhất của các mô hình ngôn ngữ lớn (LLM) là ngữ cảnh. Khi đưa quá nhiều nội dung vào lời nhắc, chẳng hạn như hàng trang hướng dẫn, khả năng xảy ra sự cố sẽ tăng lên.

Vì vậy, chúng tôi thiết kế một hệ thống điều phối gồm tám tác nhân, chuyển giao công việc từ tác nhân này sang tác nhân khác, mỗi tác nhân có ngữ cảnh riêng. Cách này tương tự như việc một người làm theo kịch bản trong cuộc gọi: nhận một số thông tin, chuyển sang bước tiếp theo, rồi tiếp tục như vậy. Nhờ đó, chúng tôi có thể tách riêng các bước ở cấp mã. Nếu cần thu thập tên, email, số điện thoại và ngày sinh của bạn trước khi hoàn tiền, tôi có thể đảm bảo những thông tin đó được thu thập ở cấp mã rồi mới chuyển sang bước tiếp theo. Bạn không thể đảm bảo điều đó nếu chỉ dựa vào một LLM. Bằng cách xây dựng lớp điều phối tác nhân này, bạn có thể đạt độ tin cậy 100%, vì tất cả các bước đều được ghi nhận trước khi chuyển sang một tác nhân mới; tác nhân đó vẫn có ngữ cảnh nhưng chỉ tuân theo những hướng dẫn riêng của mình.

Theo thông tin được công bố, một lần triển khai Phonely đã giúp khách hàng tạo thêm 10 triệu USD doanh thu ròng chỉ trong ba tháng. Điều gì giúp AI tạo ra tác động kinh doanh có thể đo lường ở mức đó, và theo bạn, hiện nay AI thoại mang lại ROI cao nhất ở đâu?

Chúng tôi làm được điều đó vì có các chỉ số của khách hàng. Họ muốn tối ưu hóa doanh số vì đây là các cuộc gọi đến, đồng thời họ sàng lọc người gọi, nên chúng tôi có thể theo dõi kết quả. Tùy từng ngày, tổng đài của họ đạt tỷ lệ chốt đơn khoảng 35% đến 42%. Sau khi nhận được thông tin đó từ khách hàng, chúng tôi điều chỉnh quy trình của họ và tối ưu hóa tác nhân. Ban đầu, tỷ lệ chốt đơn đạt khoảng 20%. Trong những tháng tiếp theo, chúng tôi liên tục cải tiến, điều chỉnh và tối ưu hóa cho đến khi phần lớn trường hợp, tác nhân hoạt động tốt hơn tổng đài của họ. Tỷ lệ chốt đơn tiếp tục tăng vì chúng tôi xác định được các vấn đề và đảm bảo trải nghiệm luôn nhất quán, hoàn hảo trong mọi lần tương tác. Chúng tôi đã có thể đạt kết quả tốt hơn một tổng đài.

Khi các tác nhân thoại ngày càng có nhiều khả năng hơn, doanh nghiệp nên xác định ranh giới như thế nào giữa những cuộc hội thoại có thể tự động hóa hoàn toàn và những tình huống vẫn cần con người tham gia?

Doanh nghiệp nên có thể tự động hóa mọi quy trình có thể lặp lại và được xác định đủ rõ để thực hiện theo đúng yêu cầu.

Tuy nhiên, tự động hóa gặp khó khăn ở một số lĩnh vực. Một lĩnh vực là tích hợp với các hệ thống không có API: giả sử bạn cần tích hợp với một phần mềm nhưng phần mềm đó không có API. Khó có cách nào xử lý, dù vẫn có thể tự động hóa một số thao tác trên trình duyệt. Một lĩnh vực khác là những quy trình có nhiều lần chuyển giao giữa tác nhân và con người, rồi lại chuyển từ con người về tác nhân. Lĩnh vực thứ ba là những khoảng trống về ngữ cảnh. Chẳng hạn, tôi để quên ví ở nhà hàng. AI sẽ không bao giờ giải quyết được việc đó, vì nó không biết bạn có mang theo ví hay không và cũng không thể kiểm tra xem chiếc ví có ở nhà hàng hay không.

Một số tình huống sẽ luôn cần đến con người, cũng như những công việc phức tạp hơn, đòi hỏi phối hợp giữa nhiều hệ thống. Đừng dùng tác nhân cho những việc đó.

Phonely gần đây đã huy động được 16 triệu đô la trong vòng gọi vốn Series A sau khi phát triển lên quy mô phục vụ hơn 10.000 doanh nghiệp. Giai đoạn tiếp theo của công ty sẽ như thế nào, và theo ông, những năng lực kỹ thuật nào sẽ tạo nên sự khác biệt cho thế hệ nền tảng AI giọng nói tiếp theo?

Giai đoạn tiếp theo là mở rộng đội ngũ và tiếp tục đầu tư vào đội ngũ đó. Chúng tôi dốc toàn lực cho ý tưởng này. Nhiều doanh nghiệp đang bước chân vào lĩnh vực AI giọng nói, và có lẽ họ sẽ làm khá tốt ở những mảng khác nhau. Nhưng với chúng tôi, mục tiêu không chỉ là xây dựng một tác nhân giọng nói. Chúng tôi đang xây dựng một nền tảng tối ưu hóa, trong đó giọng nói là một kênh. Với các doanh nghiệp quan tâm đến khách hàng tiềm năng và việc tạo doanh thu từ các cuộc gọi, trọng tâm của chúng tôi là tối ưu hóa các tác nhân AI để đạt được kết quả mà khách hàng mong muốn. Hãy hình dung Phonely là một công ty chuyên về tối ưu hóa, nơi mọi người muốn tối ưu hóa các tác nhân của mình để chúng hoạt động hiệu quả hơn.

Nghiên cứu học thuật của ông cũng tìm hiểu cách ứng dụng AI và công nghệ công tơ thông minh để mở rộng khả năng tiếp cận năng lượng và bếp nấu sạch ở các nền kinh tế đang phát triển. Nhìn xa hơn Phonely, ông thấy AI có thể được ứng dụng như thế nào để giải quyết những vấn đề lớn trong thế giới vật chất, chẳng hạn như khả năng tiếp cận năng lượng, và liệu cuối cùng ông có hy vọng quay trở lại lĩnh vực này không?

AI có thể mang lại rất nhiều lợi ích, nhưng nhiều vấn đề hiện hữu là do con người gây ra, vì vậy cần có những thay đổi từ phía con người. Không phải vấn đề nào cũng có thể giải quyết bằng công nghệ. Nhưng nếu công nghệ và sự thay đổi của con người diễn ra đồng thời, điều đó sẽ mang lại lợi ích ròng cho thế giới.

Cảm ơn ông đã dành cho chúng tôi buổi phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu thêm có thể truy cập Phonely.