Trợ lý ảo có thể giúp bạn liên hệ với người thật nhanh hơn

Nghiên cứu mới cho thấy rằng các thiết lập AI kiểu ChatGPT mã nguồn mở có thể định tuyến các cuộc gọi đến đúng người trong trung tâm cuộc gọi bằng ngôn ngữ tự nhiên, mà không cần phải tuân theo các lựa chọn menu phức tạp và khác nhau mỗi tuần, dường như cố ý cản trở.

Thử nghiệm để liên hệ với người thật tại trung tâm cuộc gọi có thể là một trải nghiệm khó chịu, do cần phải điều hướng nhiều lựa chọn tại tốc độ chậm – thường không có chắc chắn về việc lựa chọn nào phù hợp với trường hợp của bạn. Nếu không có lựa chọn nào phù hợp, người dùng có kinh nghiệm thường áp dụng mẹo và cách giải quyết để truy cập vào một cố vấn con người và thoát khỏi ‘địa ngục lựa chọn’. Nhiều người trong chúng ta sẽ nhận ra đây là một trải nghiệm tương đối ‘đấu tranh’ và không thân thiện với người dùng.

Không ngạc nhiên, các trung tâm cuộc gọi đang ở tuyến đầu cho việc tăng cường hoặc thay thế bằng hệ thống AI; và, mặc dù một cách tiếp cận thận trọng được khuyến nghị từ một số quý, tự động hóa AI tại trung tâm cuộc gọi vẫn còn là trái cây thấp cho các tiêu đề công nghệ, và cho khả năng đổi mới dựa trên AI có thể cung cấp ROI sớm không thường xuyên.

Cửa hàng đóng

Nhưng có một số lĩnh vực mà các nguyên tắc mã nguồn mở và dữ liệu miễn phí không thường được áp dụng hoặc có sẵn, và đây là một trong số đó. Điều này có ý nghĩa: bất kỳ công ty nào quan tâm đến việc tự động hóa hệ thống phản hồi khách hàng sẽ có lợi ích hạn chế hoặc không có lợi ích gì trong việc chia sẻ dữ liệu cung cấp thông tin sâu sắc, phương pháp hoặc tài sản trí tuệ của họ.

Để bắt đầu, việc chia sẻ những tài nguyên này sẽ khiến họ mất lợi thế so với các đối thủ cạnh tranh; quan trọng hơn,考虑 đến việc các hệ thống AI trong vòng lặp dễ bị tiết lộ thông tin đặc quyền, điều này rủi ro về mặt pháp lý.

Điều này đã dẫn đến một số người chơi có đầu tư phát triển các hệ thống phản hồi trung tâm cuộc gọi hỗ trợ AI độc lập với nhau (dường như có một số trùng lặp nỗ lực không thể tránh khỏi); và sự phổ biến của các công ty khởi nghiệp và người chơi thành lập B2B đang tìm cách đáp ứng nhu cầu ngày càng tăng về khả năng phản hồi khách hàng dựa trên AI.

Trợ lý giọng nói PolyAI mở một cuộc gọi dịch vụ khách hàng cho công ty hư cấu ‘Augusta Lawn Care’, dựa trên số lượng lớn các cuộc trò chuyện đào tạo để tự động hóa phản hồi thông qua cơ sở hạ tầng trung tâm cuộc gọi hiện có. Nguồn

Ngoài ra, cuộc đua để loại bỏ sự khó chịu khi điều hướng mê cung trung tâm cuộc gọi đã chứng minh là một động lực cho các nỗ lực nghiên cứu – mặc dù hầu hết các ấn phẩm như vậy thường xảy ra ngoài các mạng xuất bản nghiên cứu mở như Arxiv, phù hợp với tính chất bí mật chung của phát triển IVR.

Thay vào đó, nghiên cứu, dữ liệu và thông tin kinh doanh liên quan đến tự động hóa AI của hệ thống phản hồi khách hàng đều được bảo vệ gắt gắt, với rất ít lựa chọn mã nguồn mở có sẵn – ngay cả khi việc sử dụng các hệ thống và dữ liệu FOSS cung cấp một lựa chọn pháp lý hợp lệ, mà là đáng ngờ.

Cuộc gọi địa phương

Với điều này trong tâm trí, thật tươi mới khi thấy một bài báo mới từ Colombia cố gắng phá vỡ IVR khỏi kho tiền doanh nghiệp, ít nhất là một chút. Bài báo mới, một mục nhập xúc tích có tiêu đề Beyond IVR Touch-Tones: Customer Intent Routing using LLMs, đến từ một nhà nghiên cứu tại Universidad Distrital Francisco José de Caldas tại Bogotá, và tuyên bố là dự án đầu tiên không đóng để sử dụng các mô hình ngôn ngữ lớn (LLMs) để tạo ra một sơ đồ hoạt động cho hệ thống định tuyến ý định khách hàng (CIR).

Thay vì cố gắng truy cập dữ liệu cuộc gọi thực tế hoặc cây menu độc quyền, dự án mới tạo ra tất cả các thành phần từ đầu sử dụng ba mô hình AI: một để tạo ra một menu trung tâm cuộc gọi thực tế; một để mô phỏng hàng trăm khiếu nại của người gọi; và một để đóng vai trò là rô-bốt trò chuyện, cố gắng định tuyến những khiếu nại đó đến đích chính xác.

Kết quả là một môi trường thử nghiệm hoàn toàn tổng hợp nhưng thuyết phục, với một công ty viễn thông hư cấu, cùng với 920 truy vấn người dùng khác nhau, cho phép thí nghiệm này tránh được các rủi ro pháp lý trong khi kiểm tra xem AI hiện tại có thể diễn giải ngôn ngữ nói không rõ ràng, lộn xộn như thế nào và vẫn kết nối người gọi với người đúng.

Thử nghiệm chỉ ra rằng hệ thống có thể khớp các khiếu nại của người gọi miễn phí với đích trung tâm cuộc gọi chính xác với độ chính xác lên đến 89,13%, đặc biệt khi đưa ra các lựa chọn menu ‘phẳng’ thay vì mô tả dài dòng (sẽ được thảo luận thêm sau).

Nghiên cứu cũng phát hiện ra rằng khi người gọi sử dụng ngôn ngữ thông thường hoặc đa dạng hơn, AI sai hơn; nhưng một số trong những sai lầm đó xảy ra không phải vì AI hiểu lầm, mà vì chính menu điện thoại là gây nhầm lẫn.

Ví dụ về tương tác khách hàng, được chia sẻ như một phần của dự án mới. Nguồn

Dữ liệu cho dự án đã được làm công khai.

Phương pháp

Mô hình đầu tiên trong cách tiếp cận ba phần tạo ra một menu điện thoại chi tiết cho một công ty viễn thông hư cấu; mô hình thứ hai tạo ra các сообщения độc đáo của người gọi – một số đơn giản, số khác được viết lại hoặc làm cho thông thường hơn – để mô phỏng cách người thực sự nói khi gọi để được giúp đỡ. Liên quan đến điều này, 920 ví dụ đã được tạo ra cho dự án.

Mô hình thứ ba được giao nhiệm vụ kết nối mỗi người gọi với bộ phận chính xác, dựa chỉ trên thông điệp và một phiên bản của menu. Sơ đồ này cho phép thí nghiệm được lặp lại hoàn toàn, trong khi tránh được nhu cầu về dữ liệu cuộc gọi thực tế hoặc lộ thông tin khách hàng:

Ba hệ thống được chọn cho cách tiếp cận ba phần. Nguồn

Ba mô hình được sử dụng, lần lượt là gpt-3.5-turbo; gpt-4o-mini; và gpt-4.1-mini.

Để mô phỏng một môi trường dịch vụ khách hàng thuyết phục, cần phải tổng hợp một menu điện thoại phức tạp từ đầu. Do sự khan hiếm của các tập dữ liệu liên quan, mô hình gpt-3.5-turbo được yêu cầu tạo ra một cấu trúc đa nhánh đầy đủ cho một nhà cung cấp dịch vụ viễn thông hư cấu.

Mỗi nhánh được cấu hình để đại diện cho các khu vực dịch vụ như thanh toán, hỗ trợ kỹ thuật quản lý tài khoản, và dịch vụ mới, với các tùy chọn con thực tế và độ sâu khác nhau trên cây. Từ menu nhân tạo này, hai phiên bản đã được tạo ra cho thử nghiệm sau: một như một thứ tự phân cấp văn bản, để mô phỏng cách một người có thể đọc toàn bộ menu; và một như một danh sách các điểm cuối, mỗi điểm có một chuỗi riêng của các nút bấm.

Điều này cho phép hệ thống được thử nghiệm cả trên một phiên bản chi tiết và trên một phiên bản ‘cắt giảm’ của thử thách định tuyến:

Hai phiên bản của menu điện thoại được cung cấp cho AI: một thứ tự phân cấp văn bản chi tiết, và một danh sách các tùy chọn menu trực tiếp, để so sánh cách mỗi định dạng hỗ trợ việc định tuyến người gọi đến đúng nơi.

Để tạo ra các thông điệp của người gọi cần thiết cho thử nghiệm, một mô hình ngôn ngữ thứ hai đã được sử dụng để tạo ra một tập hợp các khiếu nại hoặc yêu cầu ban đầu, với mười ví dụ độc đáo được tạo ra cho mỗi điểm cuối menu.

Mỗi trong số này sau đó được mở rộng thành nhiều phiên bản được viết lại, để mô phỏng phạm vi các cách mà người gọi thực sự có thể diễn đạt vấn đề của họ, và giới thiệu các thay đổi về độ dài, giọng điệu và thậm chí các lỗi nhỏ hoặc ‘lời nói thừa’.

920 thông điệp của người gọi được tạo ra ban đầu được thiết kế để kiểm tra cả độ chính xác của hệ thống và mô phỏng sự không thể đoán trước của ngôn ngữ thế giới thực.

Giai đoạn thứ ba đã kiểm tra xem mô hình cuối cùng có thể ánh xạ mỗi thông điệp của người gọi đến đích menu chính xác như thế nào, dựa trên hai cách trình bày khác nhau của hệ thống IVR (xem hình ảnh trên).

Trong phiên bản đầu tiên, AI đã được cung cấp một bản phác thảo đầy đủ, mô tả của cây điện thoại, với mỗi nhánh và tùy chọn con được trình bày trong dạng văn bản. Trong phiên bản thứ hai, nó chỉ thấy một danh sách các điểm đến cuối cùng, mỗi điểm được gắn với một chuỗi bấm nút.

Mục tiêu là xem liệu một phiên bản ‘cắt giảm’ của menu có làm cho mô hình dễ dàng quyết định nơi mỗi cuộc gọi nên đi hơn không. Trong cả hai trường hợp, hệ thống nhận được một thông điệp tại một thời điểm và được yêu cầu trả về chỉ đường, không có thêm từ hoặc giải thích, để tạo điều kiện cho việc ghi điểm tự động.

Cách ly

Để tránh làm ô nhiễm kết quả thử nghiệm, thí nghiệm đã giữ mỗi mô hình cách ly với nhau: menu điện thoại được soạn thảo bởi mô hình đầu tiên, nhưng sau đó được hoàn thiện thủ công, để nó vẫn không quen thuộc với các hệ thống khác.

Các thông điệp của người gọi sau đó được tạo ra riêng biệt bởi gpt-4o-mini, sử dụng chỉ các tên của các điểm cuối, và không có quyền truy cập vào cấu trúc menu. Cuối cùng, gpt-4.1-mini, xử lý định tuyến, chỉ thấy văn bản của menu và các thông điệp đến, và không tham gia vào việc tạo ra bất kỳ thứ nào trong số đó.

Thống kê

Để đo lường hiệu suất của hệ thống định tuyến, hai thước đo tiêu chuẩn đã được sử dụng: độ chính xác được định nghĩa là tỷ lệ phần trăm của các trường hợp mà mô hình trả về đường dẫn chính xác (chẳng hạn như 1‑2‑3). Để cô lập vị trí của các lỗi, các ma trận nhầm lẫn cũng được tạo ra*, cho thấy tần suất mỗi đường dẫn bị nhầm lẫn với những đường dẫn khác. Các đánh giá được thực hiện trong Python sử dụng các thư viện pandas và scikit-learn.

Kết quả

Trong thử nghiệm, độ chính xác của mô hình phụ thuộc mạnh vào cách trình bày menu điện thoại: khi được cung cấp danh sách các đường dẫn menu ‘phẳng’, hệ thống đạt được độ chính xác 89,13% trên tập dữ liệu đơn giản hơn, so với 81,30% khi sử dụng phiên bản mô tả đầy đủ của menu:

Độ chính xác định tuyến cho mô hình thứ ba (LLM3), trên các định dạng prompt và loại dữ liệu khác nhau, cho thấy rằng các đường dẫn menu ‘phẳng’ nhất quán vượt trội so với các mô tả phân cấp, và độ chính xác giảm nhẹ khi đầu vào được tăng cường với ngôn ngữ thông thường hoặc không chính thức.

Kết quả này được giữ lại cho tập dữ liệu lớn hơn, đa dạng về ngôn ngữ, nơi phiên bản ‘phẳng’ lại hoạt động tốt hơn, đạt 86,52% so với 77,07% cho định dạng mô tả.

Các kết quả này, bài báo lưu ý, cho thấy rằng các prompt đơn giản, dựa trên danh sách giúp mô hình khớp các truy vấn tốt hơn so với các mô tả phân cấp dài.

Độ chính xác cũng giảm nhẹ khi các phiên bản thông thường và không chính thức của thông điệp người gọi được giới thiệu, cho thấy rằng sự đa dạng lớn hơn cải thiện tính thực tế, nhưng cũng làm cho việc phân loại khó hơn.

Bài báo kết luận:

‘Kết quả của chúng tôi cho thấy rằng LLMs định tuyến ý định chính xác hơn khi được cung cấp các đường dẫn IVR ‘phẳng’ (lên đến 89,13) so với các mô tả menu dài dòng (thấp nhất là 77,07%), cho thấy rằng các prompt rõ ràng, có cấu trúc giảm nhiễu và phù hợp hơn với nhiệm vụ định tuyến.

‘Điều này hỗ trợ nguyên tắc rằng sự rõ ràng và ngắn gọn tăng cường hiệu suất của LLM trong các cài đặt phân loại.

‘Quan trọng nhất, việc chuyển đổi menu thành các đường dẫn ‘phẳng’ là một quá trình đơn giản, tự động hóa cho sử dụng trong thế giới thực.’

Kết luận

Thật tươi mới khi thấy một số công việc mở đang diễn ra trong một trong những lĩnh vực nghiên cứu bị cô lập và loại trừ nhất trong tài liệu. Còn lại để xem liệu các kiến trúc ‘khung’ sẽ cần thiết trong tương lai, hay liệu mô hình chỉ cần truy cập vào (các) thông tin kinh doanh cục bộ, loại bỏ nhu cầu cho công ty phải chia sẻ dữ liệu với các nhà cung cấp bên thứ ba.

Ultimately, các nguyên tắc thiết kế rộng lớn hơn đang hoạt động ở đây dường như có khả năng được áp dụng một cách tự nhiên bởi các hệ thống AI trong tương lai, ngay cả trong các lĩnh vực ngoài dịch vụ khách hàng, mà không cần sự căn chỉnh có chủ ý đối với trường hợp sử dụng đó.

* Vui lòng tham khảo bài báo nguồn cho những điều này.

Được xuất bản lần đầu vào thứ Tư, ngày 29 tháng 10 năm 2025