Quyết định càng quan trọng, AI càng không nên hoạt động một mình

Các tác nhân AI rõ ràng có một vấn đề được ngụy trang như một bài giới thiệu về lợi thế của chúng. Tác nhân nói tự tin và viết một cách duyên dáng, xử lý thông tin nhanh hơn con người. Điều này có thể tạo ấn tượng rằng AI đã sẵn sàng hoạt động tự chủ. Nhưng trên thực tế, ngay khi một quyết định liên quan đến tiền thật, kỳ vọng của khách hàng và niềm tin, AI không nên là một hệ thống tự chủ, vì nó vẫn cần sự giám sát của con người.

Bài học này không được rút ra từ lý thuyết – nó được học thông qua thử nghiệm, khi AI của dịch vụ lối sống sang trọng có thể tương tác với khách hàng thực sự.

Lời khuyên tốt bụng có thể nguy hiểm

Trong các thử nghiệm ban đầu của ứng dụng quản lý lối sống được hỗ trợ bởi AI, hệ thống dường như ấn tượng tại cái nhìn đầu tiên. Nó có thể biên soạn một danh sách ngắn các nhà hàng, đề xuất các lựa chọn giải trí, soạn thảo lịch trình cho các hoạt động địa phương và kết hợp tất cả những điều này vào các khuyến nghị rõ ràng, chất lượng cao. Nhưng trong khoảng 15% trường hợp, nó đơn giản là tạo ra các chi tiết – và làm như vậy một cách thuyết phục đủ để được tin tưởng.

Có một ví dụ làm cho vấn đề này không thể bỏ qua: AI đã đề xuất một nhà hàng ở Dubai đã đóng cửa tám tháng trước. Khi được hỏi về nó, nó không do dự hoặc thừa nhận mình đã mắc lỗi. Tác nhân đã tăng gấp đôi bằng cách tạo ra một đánh giá và trích dẫn nó.

Một lần khác, Tác nhân đã nhầm một quán ăn đường phố với một nhà hàng được gắn sao Michelin vì tên của chúng tương tự. Nếu một con người không xem xét lại đơn đặt hàng, khách hàng của dịch vụ lễ tân có thể sẽ kết thúc với một bữa tối không giống như những gì đã được lên kế hoạch.

Sau đó là sự cố với trò chơi padel. Một khách hàng đã hỏi về một câu lạc bộ thể thao với sân padel. AI đã chỉ đạo anh ta đến một nơi chỉ có sân tennis. Tại sao? Bởi vì ở đâu đó trong dữ liệu nguồn, nó đã tìm thấy một bài báo nói rằng sân padel được lên kế hoạch xây dựng ở đó, và nó đã chuyển đổi “được lên kế hoạch” thành “đã tồn tại”. Đây chính xác là điều làm cho các mô hình trở thành một thí nghiệm rủi ro trong lĩnh vực dịch vụ: ngay cả khi AI không có dữ liệu đầy đủ và chính xác, nó không dừng lại – nó sẽ tự sáng tạo.

Ảo giác AI như một mối đe dọa kinh doanh

Vấn đề này không chỉ giới hạn ở ngành du lịch – nó nằm trong việc triển khai AI.

Trong các tham số được xác định rõ ràng, AI hoạt động một cách xuất sắc. Bạn có thể cung cấp cho nó dữ liệu có cấu trúc, API cập nhật, và nó sẽ vượt qua bạn với một khoảng cách rộng. Nó sẽ sắp xếp các trường hợp theo mười bảy tham số, quét nhanh các quy tắc và tạo ra các bản thảo sẵn sàng sử dụng trong vài giây. Nhưng thế giới thực rất khác so với một cơ sở dữ liệu có cấu trúc. Thực tế đầy rẫy các trường hợp ngoại lệ, thông tin lỗi thời, sở thích mơ hồ, cách diễn đạt không rõ ràng và khoảng trống hoạt động.

Đây chính xác là nơi ảo giác bắt đầu tạo ra rủi ro kinh doanh. Các nghiên cứu đã nhiều lần cảnh báo rằng ảo giác có thể ngay lập tức phá hủy niềm tin, đặc biệt khi khách hàng nhận được thông tin chính xác nhưng không chính xác vào thời điểm ra quyết định. Người dân đã sử dụng rộng rãi các kế hoạch viên du lịch AI, nhưng niềm tin vẫn còn thiếu.

Các cá nhân giàu có là thử nghiệm cuối cùng cho AI

Bây giờ hãy tăng ставку.

AI dễ dàng xử lý các nhiệm vụ tiêu chuẩn – một ví dụ về nhiệm vụ như vậy là đặt chuyến đi từ London đến Dubai: hạng thương gia, khách sạn bốn sao trong ba đêm. Thử nghiệm căng thẳng thực sự là một yêu cầu từ một cá nhân giàu có: đó là dịp kỷ niệm của chúng tôi. Cô ấy đã đề cập đến một nhà hàng ở Amalfi với cửa màu xanh. Cô ấy yêu hoa peony nhưng ghét hoa hồng, và cô ấy sẽ cảm thấy thoải mái hơn với một tài xế nói tiếng Pháp.

Một yêu cầu như vậy nghe có vẻ duyên dáng, nhưng từ góc độ hoạt động, nó là một mỏ đất. Một tác nhân AI chắc chắn sẽ đề xuất các lựa chọn, nhưng nó cũng có thể cung cấp 40% thông tin không chính xác với sự tự tin hoàn toàn.

Khách hàng trong phân khúc sang trọng và các cá nhân giàu có tiết lộ những hạn chế thực sự của AI nhanh hơn bất kỳ thử nghiệm nào có thể, vì yêu cầu của họ không được tiêu chuẩn hóa và kỳ vọng của họ là cảm xúc, phụ thuộc vào ngữ cảnh và rất cụ thể. Hầu hết các yêu cầu như vậy đều khó được xác minh tự động.

Hơn nữa, việc không phục vụ khách hàng HNWI một cách hiệu quả sẽ không kết thúc với một khoản hoàn trả đơn giản. Nó sẽ làm tổn hại đến danh tiếng của công ty, vì các khuyến nghị và niềm tin là vô cùng quan trọng trong phân khúc này.

Các nhân viên thực sự đối phó với những ảo giác này mỗi ngày. Họ nhận thấy nhà hàng mà happens to đóng cửa vào chính ngày thứ ba khách hàng đến, và cuộc đi bộ nhanh năm phút mà thực tế trở thành một cuộc đi bộ lên dốc 25 phút với hành lý. Một chuyên gia được đào tạo sẽ không bỏ qua một khách sạn boutique trông hoàn hảo trong ảnh nhưng thực tế được bao phủ bởi giàn giáo do đang được trùng tu.

Tại sao fintech đòi hỏi sự chính xác, không phải tốc độ

Chúng ta có thể áp dụng cùng một logic cho toàn bộ lĩnh vực fintech. AI có thể phân tích sản phẩm, so sánh các lựa chọn, xác định các bất thường và tạo ra các khuyến nghị nhanh chóng và hiệu quả. Nhưng khi nói đến tiền, không có sự khoan dung cho các lỗi ngẫu nhiên.

Các công ty fintech đang phải trả giá cho các quyết định được đưa ra bởi tự động hóa – dưới dạng mất niềm tin của khách hàng. Các công ty thành công triển khai các cơ chế kiểm soát từ sớm, thay vì giới thiệu chúng một cách hồi cứu sau khi thiệt hại đã được thực hiện; mô hình phù hợp bao gồm sự giám sát của con người.

Một lớp xác minh bổ sung là cần thiết giữa AI và khách hàng – một giai đoạn mà kết quả được xác minh kỹ lưỡng và an toàn. Trong các lĩnh vực mà chi phí của lỗi là cao, lớp này trở thành nền tảng của sản phẩm.

Một khái niệm hữu ích hơn là cơ sở hạ tầng. AI nên tập trung vào các nhiệm vụ có cấu trúc: nghiên cứu, sắp xếp, so sánh và soạn thảo. Trong quá trình này, con người nên đưa ra các quyết định cuối cùng. Theo thời gian, một số quy trình làm việc sẽ trở nên ổn định đủ để được tự động hóa hoàn toàn. Tại thời điểm đó, có thể sẽ có thể thiết lập một tiêu chuẩn, nhưng điều này nên được thực hiện dựa trên bằng chứng, không phải trên niềm tin.

Những ý tưởng này có thể nghe ít truyền cảm hứng hơn so với tương lai hoàn toàn tự chủ, nhưng đây chính xác là cách các công ty nghiêm túc sẽ thành công cuối cùng.