Ngừng đổ lỗi cho dữ liệu. Hãy bắt đầu sửa đổi mục tiêu của bạn

AI học hỏi từ chúng ta. Và chúng ta bị thiên vị.

Bởi vì AI được đào tạo trên nội dung do con người tạo ra chủ yếu, nó sẽ nhận ra các thiên vị của chúng ta và tích hợp chúng vào. Đó là lý do tại sao hầu hết các cuộc trò chuyện về thiên vị AI tập trung vào dữ liệu kém chất lượng. Rác vào, rác ra. Đơn giản thôi. Nhưng ngay cả với dữ liệu sạch, thiên vị vẫn len lỏi vào.

Một vấn đề tinh vi và thường bị bỏ qua hơn là thiên vị mục tiêu. Nó ít rõ ràng hơn vấn đề tập dữ liệu và là một trong những thách thức lớn nhất đối với việc sử dụng AI hướng tới khách hàng.

Trong bài viết này, tôi sẽ đi sâu vào việc thiên vị mục tiêu trông như thế nào trong trải nghiệm của khách hàng (CX), tại sao nó quan trọng và những gì các thương hiệu có thể thực sự làm về nó.

Định nghĩa thiên vị mục tiêu

Thiên vị mục tiêu không phải là về dữ liệu bị lỗi. Nó là về ý định bị lỗi. AI thực hiện chính xác những gì nó được yêu cầu, và nếu nó được yêu cầu tối đa hóa doanh thu, nó sẽ làm như vậy – ngay cả khi điều đó có nghĩa là làm hỏng mối quan hệ với khách hàng.

Chúng ta hãy xem ví dụ về Delta Air Lines (DAL ). Họ vừa công bố giá vé máy bay được điều khiển bởi AI để xác định giá tối đa mà người tiêu dùng sẵn sàng trả. Đó là một ví dụ hoàn hảo về thiên vị mục tiêu. Hệ thống này không được đào tạo để giúp bạn tìm được một thỏa thuận tốt. Nó được đào tạo để tăng cường chuyển đổi và giảm chi phí hoạt động.

Giả sử bạn đang đặt chuyến đi đến Paris. Bạn muốn giá vé tốt nhất, nhưng hệ thống muốn lợi nhuận tốt nhất. AI có thể cung cấp cho bạn một chuyến bay với giá 800 đô la khi có một chuyến bay với giá 400 đô la có sẵn. Không phải vì AI sai, mà vì nó đang thực hiện công việc của mình.

Không chính xác là loại cá nhân hóa mà người tiêu dùng đang yêu cầu …

Tại sao nó là không thể tránh khỏi

Thiên vị mục tiêu là sự phản ánh của giá trị, văn hóa và ưu tiên của thương hiệu bạn. Nó được tích hợp vào cấu trúc của AI. Câu hỏi thực sự là, nó “nghiêng” theo hướng nào? Nó có lợi cho mục tiêu của khách hàng hay mục tiêu của doanh thu?

Các đội khác nhau, khu vực và văn hóa có tư duy khác nhau và sẽ đào tạo mô hình AI khác nhau. Nếu bộ phận bán hàng nắm quyền điều khiển, nó sẽ nghiêng về chuyển đổi. Nếu nhóm CX đứng đầu, nó có thể được căn chỉnh tốt hơn với dịch vụ và tiết kiệm.

Cùng một kiến trúc, nhưng kết quả khác nhau.

Giải pháp không phải là loại bỏ hoàn toàn thiên vị – mà là chỉ nó theo hướng đúng. Thiên vị AI của bạn cho sự trung thành lâu dài, không phải cho chiến thắng ngắn hạn.

Hậu quả của AI không được căn chỉnh

Rủi ro lớn nhất mà các thương hiệu đối mặt khi nói đến thiên vị mục tiêu là mất lòng tin.

Khách hàng đã mệt mỏi với các tương tác của thương hiệu chung chung, không liên quan. Khi AI làm cho những trải nghiệm đó trở nên tồi tệ hơn, nó sẽ khiến khách hàng thất vọng và xa lánh.

Nếu các mô hình ngôn ngữ lớn (LLM) được đào tạo trên dữ liệu thiên vị, dựa trên giả định, chúng sẽ tạo ra các phản hồi không cá nhân hóa. Kết quả là, khách hàng sẽ cảm thấy như thương hiệu không quan tâm đến họ. Họ có thể mua từ bạn hôm nay, nhưng ít có khả năng gắn bó với thương hiệu của bạn trong dài hạn.

Trải nghiệm hiện tại thúc đẩy sự trung thành. Nhiều khách hàng thậm chí sẵn sàng trả nhiều hơn cho nó. Vì vậy, khi AI cố gắng bán cho họ một sản phẩm cao cấp không phù hợp với nhu cầu của họ, họ sẽ nhận ra. Họ sẽ chọn không tham gia. Họ sẽ không quay lại.

Vấn đề AI có chủ động

Rủi ro đó sẽ tăng lên khi chúng ta xem xét AI có chủ động.

AI có chủ động được xây dựng để hoạt động độc lập. Nó có thể hoàn thành các công việc đa bước mà không cần sự tham gia của con người. Nhưng nếu logic của AI bị lỗi hoặc đào tạo bị sai, thiệt hại sẽ tăng lên.

Chuyên gia đồng ý rằng AI có chủ động còn một chặng đường dài để đi. Trên thực tế, một báo cáo gần đây cho thấy rằng trong khi gần như tất cả các CFO biết về AI có chủ động, chỉ 15% đang xem xét nghiêm túc. Dữ liệu tương ứng cho thấy khả năng giám sát và ngăn chặn thiên vị chính xác là một rào cản chính đối với việc áp dụng.

Hầu hết các hệ thống có chủ động vẫn còn gặp khó khăn với sự mơ hồ, bộ nhớ liên tục và trách nhiệm. Đó là một sự kết hợp nguy hiểm khi không có cách rõ ràng để chẩn đoán hoặc sửa lỗi hoặc thiên vị khi chúng xảy ra.

Thương hiệu không nên ngồi ngoài, nhưng họ cần tiến hành một cách chiến lược.

Làm thế nào thương hiệu có thể giảm thiểu thiên vị mục tiêu

Hãy rõ ràng: Bạn không thể loại bỏ hoàn toàn thiên vị. Bạn LÀ thiên vị.

Thương hiệu của bạn định hình cách AI hành xử – tốt hơn hoặc tồi tệ hơn. Những thiên vị này đã tồn tại trong các tương tác của khách hàng hiện tại. Chúng tồn tại trong ma sát trong luồng hủy bỏ, sự minh bạch của các điều khoản và điều kiện hoặc mẫu tối trên trang web của bạn.

Sự khác biệt với thiên vị AI là quy mô. AI có thể khuếch đại những quyết định đó nhanh hơn và với ít giám sát hơn, điều này sẽ làm xói mòn các mục tiêu dài hạn như sự trung thành của thương hiệu và giá trị trọn đời.

Đó là lý do bạn cần đi trước:

1. Đặt câu hỏi đúng

Trước khi bạn bắt đầu hành trình AI, hãy dừng lại và hỏi: “Chúng tôi có thực sự có những gì cần thiết để làm điều này đúng không? Chúng tôi có thể thực hiện nó mà không đặt trải nghiệm của khách hàng và thương hiệu của chúng tôi vào rủi ro không?”

Quá nhiều thương hiệu nhảy vào AI vì họ không muốn bị tụt lại phía sau. Nhưng việc cố gắng theo kịp Joneses là một chiến lược tồi.

Bạn có dữ liệu khách hàng, tích hợp và quản trị đúng để hỗ trợ trường hợp sử dụng AI hướng tới khách hàng mà không tăng thiên vị không? Bạn có hiểu rõ mục tiêu của khách hàng không?

Nếu câu trả lời là không, hoặc thậm chí “có thể”, thì bạn chưa sẵn sàng.

2. Cân bằng mục tiêu

Để cân bằng hiệu quả giữa mục tiêu của khách hàng và doanh nghiệp, hãy nghĩ về nhu cầu của khách hàng là mục tiêu, trong khi mục tiêu kinh doanh của bạn là ranh giới. AI của bạn nên hoạt động trong những giới hạn đó, nhưng nhắm đến kết quả ưu tiên khách hàng. Bạn cũng có thể xem nó như một sự cân bằng giữa tư duy ngắn hạn và dài hạn.

Các chỉ số ngắn hạn, như doanh thu trên mỗi lần tương tác, rất quan trọng. Nhưng chúng thường mâu thuẫn với giá trị dài hạn. Ngay cả “cha đẻ của AI” cũng cảnh báo về AI được thúc đẩy bởi lợi nhuận ngắn hạn, vì tư duy đó không thể mở rộng quy mô.

AI của bạn có thể đạt được mục tiêu doanh thu ngày hôm nay, nhưng bạn có sẵn sàng trao đổi sự trung thành của khách hàng để có một khoản lợi nhuận nhanh chóng không?

Hãy xem xét ví dụ về Delta một lần nữa. Chiến lược này về mặt kỹ thuật rất thông minh và phù hợp với kinh doanh. Nhưng người tiêu dùng không hào hứng với ý tưởng phải trả nhiều hơn cho vé máy bay, và thương hiệu đã phải chịu hậu quả.

Hãy nghĩ về các đường thời gian năm năm. Bạn cần tăng giá trị trọn đời một cách chậm và bền vững.

3. Hiểu nhu cầu thay đổi của khách hàng

Không chỉ chung chung, mà trong mỗi trường hợp sử dụng. Họ đang cố gắng đạt được điều gì?

Nếu bạn không hiểu điều đó, AI của bạn sẽ chỉ là đoán. Đó là lý do tại sao hồ sơ khách hàng của bạn cần phải cập nhật, đầy đủ và cụ thể, cả ở cấp độ cao và ở cấp độ cá nhân.

Các phân khúc rộng và giả định cũ không đủ. Bạn cần dữ liệu đại diện cho người thực sự trên phía bên kia của tương tác. Điều đó sẽ dẫn đến sự hiểu biết sâu sắc hơn về khách hàng và tạo nền tảng cho đào tạo LLM của bạn.

Các mô hình tạo ra tăng cường (RAG) cũng giúp ở đây, bằng cách kéo từ dữ liệu được kiểm duyệt, phù hợp để đưa cho người tiêu dùng một trải nghiệm tốt hơn cho nhiệm vụ cụ thể họ đang cố gắng thực hiện.

Nhưng đó không phải là một bài tập một lần. Mục tiêu của khách hàng thay đổi và kỳ vọng thay đổi. Thương hiệu cần cập nhật hệ thống AI của họ thường xuyên để phản ánh những phát triển mới nhất. Điều đó có nghĩa là xem xét lại dữ liệu đào tạo và tạo điều kiện cho việc học tập liên tục, không chỉ tinh chỉnh đầu ra.

4. Kiểm tra các nhà cung cấp AI chặt chẽ

Không tất cả các nhà cung cấp đều được tạo ra như nhau, và những lời hứa lớn không luôn luôn có nghĩa là kết quả lớn. Chọn các đối tác có chuyên môn thực tế và hồ sơ theo dõi được chứng minh, không chỉ là các bản demo hấp dẫn. Các nhà cung cấp có nhiều thập kỷ dữ liệu thuộc lĩnh vực cụ thể có thể sử dụng nó để đào tạo mô hình tốt hơn so với một thương hiệu mới hơn dựa trên tập dữ liệu tổng quát.

Khách hàng của bạn có thể nhận thấy sự khác biệt về độ sâu của dữ liệu khi họ cần hỗ trợ chuyên biệt.

Và hãy nhớ, nếu AI thất bại trong thế giới thực, thương hiệu của bạn sẽ phải chịu đựng. Chỉ cần hỏi những người bị ảnh hưởng bởi sự cố IT liên quan đến CrowdStrike năm 2024 (CRWD ). Người tiêu dùng trung bình không đổ lỗi cho nhà cung cấp. Họ đổ lỗi cho các thương hiệu đã triển khai công nghệ.

Tìm kiếm các nhà cung cấp đã từng làm điều này trước đó, trong ngành của bạn, với các trường hợp sử dụng của bạn. Kiến thức về lĩnh vực cụ thể đánh bại sự tham vọng mọi lúc.

5. Xây dựng quản trị

Nếu bạn không định nghĩa logic một cách rõ ràng và nhất quán, AI của bạn sẽ bắt đầu đưa ra quyết định dựa trên mẫu, không phải chính sách. Những mẫu đó có thể không đại diện cho thương hiệu của bạn, giá trị của bạn hoặc nghĩa vụ pháp lý của bạn.

Orchestration tập trung và thiết lập quy tắc là điều quan trọng để đảm bảo AI thực hiện những gì nó được yêu cầu – mọi lúc, trên mọi tương tác của khách hàng. Nếu không có loại quản trị này, một mô hình có thể xử lý câu hỏi hóa đơn theo một cách, trong khi mô hình khác đưa ra câu trả lời hoàn toàn khác.

Tuân thủ các phương pháp hay nhất của ngành và dựa vào khung quản lý rủi ro để bảo vệ thương hiệu. Quản trị tốt sẽ không làm chậm bạn. Nó sẽ cứu bạn khỏi việc dọn dẹp sau này.

6. Phạm vi AI có chủ động với sự thận trọng

Phương tiện truyền thông khiến nó nghe như hệ thống dựa trên đại lý là tương lai của mọi thứ. Trong thực tế, hầu hết các thương hiệu không sẵn sàng, và điều đó ổn.

Bởi vì không có nhiều bằng chứng cho đến nay, hãy bắt đầu từ nhỏ. Kết nối với một nhà cung cấp công nghệ đã từng làm điều này trước đó và có thể hướng dẫn bạn trên đường đi. Ưu tiên các quy trình công việc thấp rủi ro với các bước rõ ràng, nơi mức độ đại lý có thể được tin cậy – lý tưởng nhất là do một đội duy nhất sở hữu. Những trường hợp sử dụng này thường có logic rõ ràng, trách nhiệm và giám sát. Sau đó, bạn có thể học hỏi và mở rộng quy mô từ đó.

Nếu nhiều đội tham gia hoặc quy trình thiếu cấu trúc, đừng mong đợi việc ra quyết định của máy sẽ hoạt động cho khách hàng của bạn.

Để thực sự thành công, AI có chủ động đòi hỏi quyền truy cập vào hồ sơ khách hàng đầy đủ và cập nhật. Nếu không có ngữ cảnh thời gian thực, ngay cả những mô hình tốt nhất sẽ tạo ra trải nghiệm bị ngắt kết nối và thiên vị.

Thiên vị là một tấm gương, không phải là một sự cố

AI không tạo ra thiên vị. Nó phản ánh những gì nó được cho biết thông qua dữ liệu, đào tạo và ưu tiên kinh doanh. Đó là lý do tại sao sự căn chỉnh quan trọng. Nếu hệ thống của bạn không được thiết kế xung quanh khách hàng, AI sẽ chỉ làm tăng khoảng cách.

Thiên vị mục tiêu không thể được loại bỏ hoàn toàn, nhưng nó có thể được quản lý.

Đặt sự trung thành lâu dài làm mục tiêu chính của bạn. Phần còn lại sẽ theo sau. Khi mọi quyết định của mô hình được lọc thông qua việc giữ chân, giá trị trọn đời và niềm tin, phần còn lại của các ưu tiên (quản trị, hiểu biết của khách hàng, mục tiêu cân bằng) sẽ tự nhiên rơi vào đúng vị trí.

Đường tắt cho ngày hôm nay hầu như luôn luôn tốn kém vào ngày mai, nhưng hãy tiến hành với lòng trung thành ở trái tim của chiến lược của bạn, và AI sẽ chuyển từ một trách nhiệm thành một lợi thế.