Rửa AI đang thiết lập các doanh nghiệp để thất bại

Mọi doanh nghiệp ngày nay đều cảm thấy áp lực phải có một câu chuyện về AI. Các hội đồng quản trị muốn thấy nó. Các nhà đầu tư mong đợi nó. Khách hàng hỏi về nó. Nhưng áp lực này đã tạo ra một làn sóng “rửa AI” ngày càng tăng – nơi tự động hóa trở thành “AI”, phân tích được đổi thương hiệu thành “học máy” và các rô-bốt trò chuyện được lập kịch bản đột nhiên trở thành “AI chủ động”.

Tôi đã xem bộ phim này trước. Cảnh quan AI ngày nay gợi nhớ đến những ngày đầu tiên của việc áp dụng đám mây, khi các công ty dán nhãn cho các hệ thống trên cơ sở “đám mây bản địa” lâu trước khi kiến trúc hoặc mô hình hoạt động của họ đã sẵn sàng. Mẫu tương tự đang diễn ra bây giờ, và hậu quả sẽ tồi tệ hơn.

Với việc rửa đám mây, mặt trái là sự kém hiệu quả và lãng phí. Với việc rửa AI, mặt trái là khách hàng trực tiếp. Chúng tôi không triển khai cơ sở hạ tầng văn phòng trở lại với sự sụp đổ hoặc mã lỗi. Chúng tôi đang triển khai các hệ thống tương tác trực tiếp với khách hàng – và các hệ thống này thất bại im lặng, tự tin và thường trong các trường hợp quan trọng nhất.

Điều này có thể là lý do tại sao, theo một nghiên cứu của MIT Sloan, phần lớn các dự án AI không bao giờ đạt đến sản xuất. Và những dự án đó thường không đạt được kết quả như mong đợi – không phải vì AI không có khả năng, mà vì các tổ chức triển khai nó đã bỏ qua công việc khó khăn của việc kiểm tra, xác thực và sẵn sàng hoạt động.

Động lực thực sự đằng sau việc rửa AI

Sự sợ hãi bị coi là tụt lại phía sau thúc đẩy hầu hết các hành vi này. Các tổ chức quảng cáo AI như một tín hiệu của sự đổi mới chứ không phải là sự phản ánh của khả năng thực sự. Họ bỏ qua việc kiểm tra và xác thực để đáp ứng thời hạn ra mắt sản phẩm, mà không có quy trình phát triển rõ ràng được thiết kế cho nhu cầu của khách hàng.

Khách hàng của nhà đầu tư khuếch đại vấn đề. Các công ty công khai và được hỗ trợ bởi vốn đầu tư phải đối mặt với thời hạn để thể hiện tích hợp AI và các câu chuyện tăng trưởng được thúc đẩy bởi AI. Trên thực tế, 90% các giám đốc điều hành báo cáo cảm thấy áp lực từ các nhà đầu tư để áp dụng AI. Áp lực này khuyến khích các công ty đổi thương hiệu các khả năng hiện có thành AI thay vì xây dựng các dịch vụ mới, bản địa AI.

Kết quả là sự kỳ vọng sai lầm ở mọi nơi – cho các nhà đầu tư, cho khách hàng và cho các nhóm nội bộ được giao nhiệm vụ làm cho mọi thứ hoạt động. Nó tạo ra một ảo tưởng về sự đổi mới khi trên thực tế, nó chỉ là thương hiệu.

Tại sao AI chủ động phá vỡ ảo tưởng

AI chủ động là nơi mà sự cường điệu sụp đổ. Và với 68% các tổ chức dự kiến tích hợp các tác nhân AI này năm, sự tính toán đang đến nhanh chóng.

Vấn đề cơ bản mà hầu hết các doanh nghiệp chưa giải quyết được là: phần mềm truyền thống là quyết định. Đầu vào giống nhau, đầu ra giống nhau, mọi lúc. Bạn có thể viết một bài kiểm tra, tái tạo một lỗi và dự đoán hành vi. Các tác nhân AI là không quyết định – cùng một câu hỏi có thể tạo ra một câu trả lời khác mỗi lần. Đây không phải là một lỗi. Đó là kiến trúc. Và nó thay đổi mọi thứ về cách bạn kiểm tra, giám sát và tin tưởng những hệ thống này.

Toàn bộ cơ sở hạ tầng QA của bạn được xây dựng trên giả định về khả năng tái tạo. Với AI tạo, giả định đó đã biến mất. Bạn có thể chạy cùng một bài kiểm tra một trăm lần và nhận được một trăm phản hồi khác nhau – một số chính xác, một số hơi sai, một số sai nghiêm trọng. Các khuôn khổ kiểm tra hoạt động cho IVR và rô-bốt trò chuyện được lập kịch bản không chuyển sang AI chủ động. Và hầu hết các doanh nghiệp chưa xây dựng những khuôn khổ mới.

Đây là nơi rửa AI bị phơi bày. Một mặt, việc đưa ra một bản demo được đánh bóng với các đầu vào được kiểm soát và các đường dẫn có thể dự đoán được. Mặt khác, việc xử lý một khách hàng thực sự có thể ngắt lời, mâu thuẫn với chính mình, nói tiếng Anh không hoàn chỉnh và gọi vào lúc 11 giờ tối về một tranh chấp hóa đơn mà họ không hiểu đầy đủ. Các mô hình được đào tạo trên dữ liệu, không phải trên thực tế cảm xúc, hỗn độn và không thể đoán trước của tương tác con người.

Khi những hệ thống này thất bại, chúng không thất bại như phần mềm truyền thống. Không có sự sụp đổ. Không có mã lỗi. AI nghe có vẻ tự tin trong khi sai. Nó xử lý 95% trường hợp một cách ổn định và xử lý thảm họa 5% còn lại – và không giống như một biểu mẫu web bị hỏng, những thất bại này được nhân rộng trên hàng nghìn khách hàng trước khi ai đó nhận thấy.

Ở đâu thất bại của AI ẩn náu

Trải nghiệm khách hàng là một trong những môi trường phức tạp nhất cho AI chủ động – và nơi rửa AI được lộ rõ nhất. Gartner gần đây đã dự đoán rằng hơn 40% dự án AI chủ động sẽ bị hủy bỏ vào cuối năm 2027 do chi phí tăng cao, kiểm soát rủi ro không đầy đủ hoặc giá trị kinh doanh không rõ ràng. CX là một lý do chính tại sao.

Quy trình khách hàng hiếm khi liên quan đến một hệ thống duy nhất. Nó di chuyển trên các hệ thống AI trò chuyện, IVR, cơ sở kiến thức, nền tảng CRM và đại lý con người. Các hành trình lai là phổ biến – mỗi tương tác có khả năng vượt qua nhiều hệ thống trước khi đạt được giải pháp.

Điều tôi đã thấy lặp đi lặp lại là: mỗi hệ thống dường như hoạt động chính xác trên riêng của nó, nhưng hành trình từ đầu đến cuối vẫn thất bại. Một tác nhân AI giải thích một câu hỏi một cách chính xác, nhưng CRM có thông tin lỗi thời và cung cấp câu trả lời sai. AI bị đổ lỗi, nhưng vấn đề thực sự là dữ liệu phân mảnh và quyền sở hữu phân mảnh.

Các ngăn xếp công nghệ phân mảnh cũng có nghĩa là khả năng hiển thị phân mảnh. Không có cái nhìn tổng thể về hành trình khách hàng. Không giống như phần mềm truyền thống với tín hiệu lỗi rõ ràng, khi AI chủ động bị hỏng, nó vẫn tự tin bất kể độ chính xác. Các quy tắc leo thang kích hoạt quá muộn. Khách hàng bị mắc kẹt trong vòng lặp. Hệ thống tiếp tục chạy – và sự thất bại chỉ trở nên rõ ràng thông qua sự thất vọng của khách hàng hoặc tỷ lệ khách hàng rời bỏ.

Đây là vấn đề thất bại im lặng. AI không bị sụp đổ. Nó tự tin xói mòn niềm tin, từng lần tương tác, với quy mô lớn.

Chuyển từ sự cường điệu của AI sang kỷ luật hoạt động

Câu trả lời cho việc rửa AI không phải là tiếp thị tốt hơn. Đó là một sự thay đổi cơ bản trong cách các tổ chức đối xử với AI, từ một tính năng họ công bố đến cơ sở hạ tầng họ vận hành.

Tôi đã dành 25 năm để xây dựng và mở rộng các hệ thống doanh nghiệp, bao gồm cả việc thành lập một công ty tự động hóa kiểm tra AI. Mẫu mà tôi đã thấy trên mọi làn sóng công nghệ là giống nhau. Các công ty chiến thắng không phải là những công ty áp dụng đầu tiên. Họ là những công ty hoạt động tốt nhất. Dưới đây là những gì nó trông như thế nào đối với AI:

Đoạn sản xuất hiệu suất, không phải hiệu suất demo

Đánh giá AI dựa trên các môi trường được kiểm soát cho bạn biết không có gì về hành vi thế giới thực. Các chỉ số quan trọng là độ chính xác của leo thang, tỷ lệ giải quyết, tuân thủ chính sách và sự hài lòng của khách hàng trên hàng nghìn tương tác không được kịch bản – không phải các kịch bản demo được chọn lọc.

Sửa nền tảng trước khi bạn mở rộng quy mô

AI không giải quyết các quy trình làm việc bị hỏng – nó khuếch đại chúng. Định tuyến không nhất quán, cơ sở kiến thức không đầy đủ, dữ liệu CRM lỗi thời – những vấn đề này không biến mất khi bạn thêm AI. Chúng trở nên tồi tệ hơn, nhanh hơn và với quy mô. Sự sẵn sàng của quy trình làm việc phải đến trước việc triển khai AI, không phải sau.

Thử nghiệm toàn bộ hành trình, không phải các thành phần riêng lẻ

Hầu hết các doanh nghiệp xác thực các hệ thống riêng lẻ trong cô lập, nhưng các thất bại xuất hiện trong các giao diện. Kiểm tra hành trình từ đầu đến cuối trên các kênh giọng nói, kỹ thuật số và AI là cách duy nhất để bắt được các thất bại tích hợp mà khách hàng thực sự trải qua.

Xây dựng cho niềm tin, không chỉ hiệu quả

Người dùng sẽ từ chối AI nếu nó khiến họ bị mắc kẹt trong các vòng lặp chết, cung cấp câu trả lời sai hoặc khiến họ không thể tiếp cận được với con người. Các doanh nghiệp tối ưu hóa cho hiệu quả với chi phí của niềm tin sẽ mất khách hàng mà họ đang cố gắng phục vụ một cách rẻ hơn.

Cuối cùng của việc rửa AI

Khi AI được tích hợp sâu hơn vào các quy trình hoạt động, các doanh nghiệp sẽ không còn có thể ẩn đằng sau sự cường điệu. Hơn một nửa số nhà đầu tư hiện mong đợi ROI từ AI trong vòng sáu tháng. Loại thời gian này là không thể nếu không có các hệ thống được thiết kế cho thế giới thực hỗn độn, không thể đoán trước – không phải môi trường demo được đánh bóng.

Yêu cầu đang thay đổi từ việc chỉ có AI như một tính năng sản phẩm sang việc chứng minh nó hoạt động khi quan trọng nhất, với quy mô, trong sản xuất, với khách hàng thực.

Rửa AI có thể giành được sự chú ý ngắn hạn. Nó sẽ không sống sót sau khi tiếp xúc với thực tế.