Lãnh đạo tư tưởng

Xây dựng Niềm tin và Kiểm soát trong Thời đại Trí tuệ Nhân tạo Tự chủ

Claudio Rodrigues
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhMột hệ thống không thể giải thích các quyết định của mình là một rủi ro bất kể độ chính…
Xem thêm
  • Một hệ thống không thể giải thích các quyết định của mình là một rủi ro bất kể độ chính xác ra sao.
  • Quyền sở hữu mô hình và chủ quyền dữ liệu giúp các hệ thống giọng nói tự động luôn có thể kiểm soát, kiểm toán và quan sát được.
  • Các mô hình được huấn luyện theo lĩnh vực vượt trội hơn các mô hình thông thường vì ngôn ngữ ngành và sắc thái cảm xúc khác biệt rõ rệt.

Hầu hết các doanh nghiệp triển khai Trí tuệ Nhân tạo Giọng nói trong các trung tâm liên lạc của họ không thể cho bạn biết tại sao hệ thống đã nói những gì nó nói trong bất kỳ cuộc gọi nào. Họ có thể cho bạn biết tỷ lệ yêu cầu được giải quyết mà không chuyển cho nhân viên và họ có thể hiển thị điểm số chính xác tổng hợp. Nhưng khi một khách hàng khiếu nại, khi điều gì đó đi sai và một cơ quan quản lý đặt câu hỏi, câu trả lời thường là một cái nhún vai. Hệ thống đã quyết định. Chúng tôi không chắc chắn làm thế nào.

Khoảng cách Trách nhiệm trong Trí tuệ Nhân tạo Giọng nói Tự chủ

Đây không phải là một vấn đề ngoại vi. Gartner dự đoán rằng chậm nhất vào năm 2029, AI tác nhân sẽ tự chủ giải quyết 80% các vấn đề dịch vụ khách hàng thông thường. Điều đó đặt ra một câu hỏi khó chịu mà ngành công nghiệp chưa trả lời rõ ràng: khi 80% tương tác được quyết định bởi trí tuệ nhân tạo mà không có sự can thiệp của con người, ai chịu trách nhiệm khi điều gì đó đi sai? Niềm tin có nghĩa là gì trong một trung tâm liên lạc nơi hệ thống hoạt động nhanh hơn bất kỳ con người nào có thể xem xét?

Chi phí Thực sự của Tự động hóa “Hộp Đen”

Đối với nhiều nhà lãnh đạo doanh nghiệp, câu hỏi không phải là liệu có triển khai Trí tuệ Nhân tạo Giọng nói hay không – quyết định đó đã được thực hiện phần lớn. Câu hỏi là liệu các cấu trúc quản trị xung quanh nó có đủ trưởng thành để phù hợp với tốc độ triển khai hay không. Gần hai phần ba các nhà lãnh đạo CNTT và an ninh báo cáo cảm thấy không chuẩn bị để quản lý rủi ro khi áp dụng trí tuệ nhân tạo. Trong bối cảnh trung tâm liên lạc, sự không chuẩn bị đó có chi phí trực tiếp: sự mất lòng tin của khách hàng do các tương tác trí tuệ nhân tạo kém, nguy cơ liên quan đến tuân thủ, và các quyết định hoạt động được thực hiện dựa trên các hệ thống mà không ai có thể giải thích đầy đủ.

Câu trả lời không phải là làm chậm quá trình áp dụng trí tuệ nhân tạo. Câu trả lời là thiết kế nó có chủ đích, sao cho mọi quyết định tự động đều có thể kiểm toán, mọi kết quả đều có thể giải thích, và sự giám sát của con người là một tính năng cấu trúc của hệ thống. Sự khác biệt này quan trọng hơn bất kỳ chỉ số chính xác nào. Một hệ thống có độ chính xác 96% nhưng không thể giải thích quyết định của nó là một gánh nặng. Một hệ thống có cùng độ chính xác và một hồ sơ kiểm toán đầy đủ là một tài sản.

Trí tuệ Nhân tạo Giọng nói mang lại giá trị có thể đo lường trên quy mô lớn khi được thiết kế có chủ đích. Nó giảm chi phí, cung cấp khả năng sẵn sàng 24/7, và duy trì chất lượng dịch vụ nhất quán mà nhân viên con người dưới áp lực, thiếu nguồn lực, và quản lý nhiều cuộc trò chuyện đồng thời, không phải lúc nào cũng đạt được. Khi một ngân hàng quản lý một sự gia tăng đột ngột của các cảnh báo gian lận hoặc một công ty tiện ích đang xử lý các cuộc gọi từ hàng nghìn khách hàng không có điện, tự phục vụ trí tuệ nhân tạo không chỉ là một tính năng bổ sung hữu ích. Đó là phương án ứng phó khả thi duy nhất về mặt vận hành. Câu hỏi là liệu có thể tin tưởng phương án đó hay không.

Kiến trúc quan trọng hơn khát vọng: Ba Cột Trụ của Trí tuệ Nhân tạo Tin cậy

Niềm tin được xây dựng thông qua kiến trúc, không phải khát vọng. Các nền tảng đang kiếm được niềm tin thực sự của doanh nghiệp hiện nay chia sẻ một triết lý thiết kế cụ thể: duy trì quyền sở hữu mô hình và chủ quyền dữ liệu để đảm bảo một môi trường có thể kiểm soát, có thể kiểm toán và có thể quan sát.

1. Quyền Sở hữu Mô hình và Chủ quyền Dữ liệu

Điều này quan trọng vì giọng nói trực tiếp không thể tha thứ. Các cuộc hội thoại diễn ra theo thời gian thực, đồng bộ, có tiếng ồn, nhiều giọng vùng miền và cảm xúc mạnh. Một mô hình tạo ra ảo giác trong chatbot văn bản gây bối rối. Nhưng nếu tạo ra ảo giác trong cuộc gọi dịch vụ tài chính hoặc một câu hỏi y tế, đó là một sự kiện liên quan đến tuân thủ.

2. Khả năng Giải thích Tuyệt đối và Hồ sơ Kiểm toán

Yêu cầu thứ hai là khả năng giải thích đầy đủ: khả năng của các nhóm tuân thủ, các nhà lãnh đạo hoạt động, và các cơ quan quản lý để xem chính xác những gì trí tuệ nhân tạo đã nói, tại sao nó nói, và thông tin nào nó dựa vào, mà không cần phải mở yêu cầu hỗ trợ với nhà cung cấp. Tự động hóa “hộp đen” không chỉ là một rủi ro quản trị. Nó còn đặt ra giới hạn cho mức độ mà doanh nghiệp sẵn sàng tiến tới. Những tổ chức áp dụng AI nhanh nhất là những tổ chức giải quyết vấn đề khả năng giải thích trước tiên, vì mọi lo ngại khác của các bên liên quan — từ bộ phận pháp lý đến hội đồng quản trị — đều bắt nguồn từ đó.

3. Sự Thấu hiểu Sâu về Lĩnh vực so với Mô hình Chung

Yêu cầu thứ ba là sự thấu hiểu thực sự về lĩnh vực. Một khách hàng gọi đến trung tâm liên lạc dịch vụ tài chính và một khách hàng gọi đến nhà cung cấp dịch vụ chăm sóc sức khỏe không giao tiếp bằng cùng một ngôn ngữ. Không phải về từ vựng, không phải về sự cấp thiết, không phải về sắc thái cảm xúc. Các mô hình chung được đào tạo trên các tập dữ liệu rộng lớn hoạt động một cách chung chung. Khoảng cách chính xác giữa một mô hình chung mục đích và một mô hình được đào tạo trên hàng tỷ tương tác thực tế đặc thù của ngành là không nhỏ. Trong các triển khai trung tâm liên lạc, nó đã có nghĩa là sự khác biệt giữa 25% và 55% yêu cầu được giải quyết mà không chuyển cho nhân viên trong ngày đầu hoạt động.

Sự đồng cảm cũng quan trọng. Các hệ thống trí tuệ nhân tạo tốt nhất có thể cảm nhận khi một khách hàng cảm thấy thất vọng hoặc lo lắng và đưa một nhân viên vào đúng thời điểm mà không cần người đó lặp lại mình. Đó là về việc biến điều vốn có thể trở thành trải nghiệm tiêu cực thành một trải nghiệm xây dựng niềm tin của khách hàng.

Sáng tạo Theo Giai đoạn: Tương lai của Trải nghiệm Khách hàng

Trí tuệ Nhân tạo Giọng nói đã đủ trưởng thành để chuyển đổi cách các ngành công nghiệp phục vụ khách hàng của họ. Những người lãnh đạo thực sự sẽ là những người kết hợp đổi mới với trách nhiệm, triển khai trí tuệ nhân tạo theo giai đoạn, đo lường những gì quan trọng, và giữ chăm sóc khách hàng ở trung tâm của mọi tương tác.

Khi được thực hiện đúng, các hệ thống giọng nói tự chủ không thay thế niềm tin, chúng giúp kiếm được niềm tin. Chúng làm cho dịch vụ trở nên mạnh mẽ và cá nhân hóa hơn, theo quy mô. Các công ty áp dụng cách tiếp cận này ngày nay sẽ định nghĩa trải nghiệm khách hàng tuyệt vời trông như thế nào trong thời đại trí tuệ nhân tạo.

Claudio Rodrigues là Giám đốc Sản phẩm tại Omilia, nhà lãnh đạo toàn cầu trong lĩnh vực Agentic CX. Với chuyên môn sâu rộng trong lĩnh vực Trí tuệ nhân tạo đối thoại, Trí tuệ nhân tạo tạo sinh và Trí tuệ nhân tạo Agentic, ông dẫn dắt tầm nhìn sản phẩm của Omilia và giám sát sự phát triển của nền tảng Agentic CX gốc — cho phép các doanh nghiệp chuyển đổi dịch vụ khách hàng thông qua tự động hóa thông minh, trao quyền cho nhân viên hỗ trợ trong thời gian thực và trải nghiệm được thúc đẩy bởi Trí tuệ nhân tạo ở quy mô lớn.