Ngừng đổ lỗi cho dữ liệu. Bắt đầu sửa đổi mục tiêu của bạn

Trí tuệ nhân tạo học từ chúng ta. Và chúng ta bị thiên vị.

Bởi vì trí tuệ nhân tạo được đào tạo trên nội dung do con người tạo ra chủ yếu, nó sẽ thu thập các thiên vị của chúng ta và tích hợp chúng vào. Đó là lý do tại sao hầu hết các cuộc trò chuyện về thiên vị của trí tuệ nhân tạo tập trung vào dữ liệu xấu. Rác vào, rác ra. Đơn giản thôi. Nhưng ngay cả với dữ liệu sạch, thiên vị vẫn len lỏi vào.

Một vấn đề tinh vi và thường bị bỏ qua là thiên vị mục tiêu. Nó ít được nhìn thấy hơn so với vấn đề về tập dữ liệu và là một trong những thách thức lớn nhất đối với việc sử dụng trí tuệ nhân tạo hướng tới khách hàng.

Trong bài viết này, tôi sẽ đi sâu vào việc thiên vị mục tiêu trông như thế nào như một phần của trải nghiệm khách hàng (CX), tại sao nó lại quan trọng và những gì các thương hiệu có thể thực sự làm về nó.

Định nghĩa thiên vị mục tiêu

Thiên vị mục tiêu không liên quan đến dữ liệu bị lỗi. Nó liên quan đến ý định bị lỗi. Trí tuệ nhân tạo thực hiện chính xác những gì nó được yêu cầu, và nếu nó được yêu cầu tối đa hóa doanh thu, nó sẽ làm như vậy – ngay cả khi điều đó có nghĩa là làm hỏng mối quan hệ với khách hàng.

Hãy lấy Delta Air Lines làm ví dụ. Họ vừa宣 bố giá vé máy bay được thiết kế bởi trí tuệ nhân tạo để xác định mức giá tối đa mà người tiêu dùng sẵn sàng trả. Đó là một ví dụ hoàn hảo về thiên vị mục tiêu. Hệ thống không được đào tạo để giúp bạn tìm được một thỏa thuận tốt, mà nó được đào tạo để tăng cường chuyển đổi và giảm chi phí hoạt động.

Giả sử bạn đang đặt chuyến đi đến Paris. Bạn muốn giá vé tốt nhất, nhưng hệ thống muốn lợi nhuận tốt nhất. Trí tuệ nhân tạo có thể đề xuất một chuyến bay với giá 800 đô la khi có một chuyến bay với giá 400 đô la có sẵn. Không phải vì trí tuệ nhân tạo sai, mà vì nó đang thực hiện công việc của mình.

Không chính xác là loại cá nhân hóa mà người tiêu dùng đang yêu cầu …

Tại sao nó là không thể tránh khỏi

Thiên vị mục tiêu là sự phản ánh của giá trị, văn hóa và ưu tiên của thương hiệu bạn. Nó được tích hợp vào cấu trúc của trí tuệ nhân tạo của bạn. Câu hỏi thực sự là, nó “lean” theo hướng nào? Có phải nó ủng hộ mục tiêu của khách hàng hay mục tiêu doanh thu?

Các đội khác nhau, khu vực và văn hóa có tư duy khác nhau và sẽ đào tạo mô hình trí tuệ nhân tạo khác nhau. Nếu bộ phận bán hàng nắm quyền kiểm soát, nó sẽ nghiêng về phía chuyển đổi. Nếu nhóm CX chịu trách nhiệm, nó có thể được căn chỉnh tốt hơn với dịch vụ và tiết kiệm.

Cùng một kiến trúc, nhưng kết quả khác nhau.

Giải pháp không phải là loại bỏ hoàn toàn thiên vị – mà là chỉ nó theo hướng đúng. Thiên vị trí tuệ nhân tạo của bạn cho sự trung thành lâu dài, không phải cho chiến thắng ngắn hạn.

Hậu quả của trí tuệ nhân tạo không được căn chỉnh

Rủi ro lớn nhất mà các thương hiệu phải đối mặt khi nói đến thiên vị mục tiêu là mất niềm tin.

Khách hàng đã mệt mỏi với các tương tác của thương hiệu không liên quan và không phù hợp. Khi trí tuệ nhân tạo làm cho những trải nghiệm này trở nên tồi tệ hơn, nó sẽ khiến khách hàng thất vọng và xa lánh.

Trải nghiệm hiện nay quyết định sự trung thành. Nhiều khách hàng thậm chí sẵn sàng trả nhiều hơn cho nó. Vì vậy, khi trí tuệ nhân tạo cố gắng bán một sản phẩm có giá cao mà không phù hợp với nhu cầu, họ sẽ nhận thấy. Họ sẽ chọn không mua. Họ sẽ không quay lại.

Vấn đề trí tuệ nhân tạo có tính đại lý

Rủi ro đó sẽ tăng lên khi chúng ta xem xét trí tuệ nhân tạo có tính đại lý.

Trí tuệ nhân tạo có tính đại lý được xây dựng để hoạt động độc lập. Nó có thể hoàn thành các công việc đa bước mà không cần sự can thiệp của con người. Nhưng nếu logic của trí tuệ nhân tạo bị lỗi hoặc đào tạo không được căn chỉnh, thiệt hại sẽ tăng lên.

Các chuyên gia đồng ý rằng trí tuệ nhân tạo có tính đại lý còn một chặng đường dài để đi. Trên thực tế, một báo cáo gần đây cho thấy rằng trong khi hầu hết các giám đốc tài chính biết về trí tuệ nhân tạo có tính đại lý, chỉ 15% đang xem xét nghiêm túc. Dữ liệu tương ứng cho thấy khả năng giám sát và ngăn chặn thiên vị chính xác là một rào cản chính đối với việc áp dụng.

Hầu hết các hệ thống có tính đại lý vẫn gặp khó khăn với sự mơ hồ, bộ nhớ lâu dài và trách nhiệm giải trình. Đó là một sự kết hợp nguy hiểm khi không có cách rõ ràng để chẩn đoán hoặc sửa lỗi hoặc thiên vị khi chúng xảy ra.

Các thương hiệu không nên ngồi ngoài cuộc chơi, nhưng họ cần tiến hành một cách chiến lược.

Làm thế nào các thương hiệu có thể giảm thiểu thiên vị mục tiêu

Hãy rõ ràng: Bạn không thể loại bỏ hoàn toàn thiên vị. Bạn LÀ thiên vị.

Thương hiệu của bạn quyết định cách trí tuệ nhân tạo hành động – tốt hay xấu. Những thiên vị này đã tồn tại trong các tương tác khách hàng hiện tại của bạn. Chúng nằm trong sự ma sát trong quá trình hủy bỏ, sự minh bạch của các điều khoản và điều kiện hoặc mẫu tối trên trang web của bạn.

Sự khác biệt với thiên vị của trí tuệ nhân tạo là quy mô. Trí tuệ nhân tạo có thể khuếch đại những quyết định này nhanh hơn và với ít giám sát hơn, điều này sẽ làm xói mòn các mục tiêu lâu dài như sự trung thành của thương hiệu và giá trị trọn đời.

đó là lý do tại sao bạn cần đi trước:

1. Đặt câu hỏi đúng

Trước khi bạn bắt đầu hành trình trí tuệ nhân tạo, hãy dừng lại và hỏi: “Chúng tôi có thực sự có những gì cần thiết để làm điều này đúng không? Chúng tôi có thể làm điều này mà không đặt trải nghiệm khách hàng và thương hiệu của chúng tôi vào rủi ro không?”

Quá nhiều thương hiệu nhảy vào trí tuệ nhân tạo vì họ không muốn bị tụt lại phía sau. Nhưng cố gắng theo kịp Joneses là một chiến lược tồi.

Bạn có dữ liệu khách hàng đúng, tích hợp và quản trị để hỗ trợ một trường hợp sử dụng trí tuệ nhân tạo hướng tới khách hàng mà không tăng thiên vị không? Bạn có thực sự hiểu mục tiêu của khách hàng không?

Nếu câu trả lời là không, hoặc thậm chí “có thể”, bạn không sẵn sàng.

2. Cân bằng mục tiêu

Để cân bằng hiệu quả mục tiêu khách hàng và doanh nghiệp, hãy nghĩ về nhu cầu của khách hàng như một mục tiêu, trong khi mục tiêu kinh doanh của bạn là ranh giới. Trí tuệ nhân tạo của bạn nên hoạt động trong những giới hạn đó, nhưng nhằm vào kết quả ưu tiên khách hàng. Bạn cũng có thể xem nó như một sự cân bằng giữa tư duy ngắn hạn và dài hạn.

Các chỉ số ngắn hạn, như doanh thu trên mỗi lần tương tác, rất quan trọng. Nhưng chúng thường mâu thuẫn với giá trị lâu dài. Thậm chí “cha đẻ của trí tuệ nhân tạo” cảnh báo chống lại trí tuệ nhân tạo được thúc đẩy bởi lợi nhuận ngắn hạn, vì tư duy đó không thể mở rộng.

Trí tuệ nhân tạo của bạn có thể đạt được mục tiêu doanh thu ngày hôm nay, nhưng bạn có sẵn sàng trao đổi sự trung thành của khách hàng để có một khoản lợi nhuận nhanh chóng không?

Hãy xem xét ví dụ Delta một lần nữa. Chiến lược này về mặt kỹ thuật thông minh và phù hợp với kinh doanh. Nhưng người tiêu dùng không hào hứng với ý tưởng trả nhiều hơn cho vé máy bay, và thương hiệu đã bị ảnh hưởng.

Hãy nghĩ về các khoảng thời gian 5 năm. Bạn cần tăng giá trị trọn đời một cách chậm và bền vững.

3. Hiểu nhu cầu thay đổi của khách hàng

Không chỉ chung chung, mà trong mỗi trường hợp sử dụng. Khách hàng đang cố gắng thực hiện điều gì?

Nếu bạn không hiểu điều đó, trí tuệ nhân tạo của bạn chỉ đang đoán. Đó là lý do tại sao hồ sơ khách hàng của bạn cần phải cập nhật, đầy đủ và cụ thể, cả ở mức cao và ở mức cá nhân.

Các phân khúc rộng và giả định lỗi thời sẽ không cắt giảm. Bạn cần dữ liệu đại diện cho người thực sự trên phía bên kia của tương tác. Điều đó sẽ dẫn đến sự hiểu biết sâu sắc hơn về khách hàng và hình thành nền tảng của quá trình đào tạo mô hình ngôn ngữ của bạn.

Mô hình tạo ra tăng cường bằng cách thu thập (RAG) cũng giúp ở đây, bằng cách kéo từ dữ liệu được thu thập, phù hợp để đưa cho khách hàng một trải nghiệm tốt hơn cho nhiệm vụ cụ thể họ đang cố gắng thực hiện.

Nhưng đó không phải là một việc tập thể dục một lần. Mục tiêu của khách hàng thay đổi và kỳ vọng thay đổi. Các thương hiệu cần cập nhật hệ thống trí tuệ nhân tạo của họ thường xuyên để phản ánh những phát triển mới nhất. Điều đó có nghĩa là xem xét lại dữ liệu đào tạo và tạo điều kiện cho việc học tập liên tục, không chỉ tinh chỉnh đầu ra.

4. Kiểm tra các nhà cung cấp trí tuệ nhân tạo cẩn thận

Không tất cả các nhà cung cấp đều được tạo ra như nhau, và những lời hứa lớn không luôn luôn có nghĩa là kết quả lớn. Chọn các đối tác có kinh nghiệm thực tế và hồ sơ theo dõi được chứng minh, không chỉ là các bản demo bóng bẩy. Các nhà cung cấp có nhiều thập kỷ dữ liệu thuộc lĩnh vực cụ thể có thể sử dụng nó để đào tạo mô hình tốt hơn so với một thương hiệu mới dựa trên tập dữ liệu tổng quát.

Khách hàng của bạn có thể nhận thấy sự khác biệt về độ sâu của dữ liệu khi họ cần hỗ trợ chuyên biệt.

Và hãy nhớ, nếu trí tuệ nhân tạo thất bại trong thế giới thực, thương hiệu của bạn sẽ bị ảnh hưởng. Hãy hỏi những người bị ảnh hưởng bởi sự cố IT của CrowdStrike năm 2024. Người tiêu dùng trung bình không đổ lỗi cho nhà cung cấp. Họ đổ lỗi cho các thương hiệu đã triển khai công nghệ.

Tìm kiếm các nhà cung cấp đã làm điều này trước đó, trong ngành của bạn, với các trường hợp sử dụng của bạn. Kiến thức lĩnh vực đánh bại tham vọng mọi lúc.

5. Xây dựng quản trị

Nếu bạn không định nghĩa logic một cách rõ ràng và nhất quán, trí tuệ nhân tạo của bạn sẽ bắt đầu đưa ra quyết định dựa trên mẫu, không phải chính sách. Những mẫu đó có thể không đại diện cho thương hiệu của bạn, giá trị của bạn hoặc nghĩa vụ pháp lý của bạn.

Tổ chức và thiết lập quy tắc tập trung là rất quan trọng để đảm bảo trí tuệ nhân tạo thực hiện những gì nó được yêu cầu – mọi lúc, trên mọi tương tác khách hàng. Nếu không có loại quản trị này, một mô hình có thể xử lý một câu hỏi về hóa đơn theo một cách, trong khi một mô hình khác đưa ra một câu trả lời hoàn toàn khác.

Tuân thủ các phương pháp hay nhất trong ngành và dựa vào khung quản lý rủi ro để bảo vệ thương hiệu. Quản trị tốt sẽ không làm chậm bạn. Nó sẽ cứu bạn khỏi việc dọn dẹp sau này.

6. Phạm vi trí tuệ nhân tạo có tính đại lý với sự thận trọng

Phương tiện truyền thông khiến nó nghe như thể các hệ thống dựa trên đại lý là tương lai của mọi thứ. Trên thực tế, hầu hết các thương hiệu không sẵn sàng, và điều đó ổn.

Vì vẫn chưa có nhiều bằng chứng, hãy bắt đầu từ nhỏ. Hợp tác với một nhà cung cấp công nghệ đã từng làm điều này trước và có thể hướng dẫn bạn trên đường đi. Ưu tiên các quy trình công việc ít rủi ro với các bước rõ ràng, nơi mức độ đại lý có thể được tin cậy – lý tưởng nhất là thuộc về một đội duy nhất. Những trường hợp sử dụng này thường có logic rõ ràng, trách nhiệm giải trình và giám sát. Sau đó, bạn có thể học và mở rộng từ đó.

Nếu nhiều đội tham gia hoặc quá trình thiếu cấu trúc, đừng mong đợi việc ra quyết định của máy sẽ hoạt động cho khách hàng của bạn.

Để thực sự thành công, trí tuệ nhân tạo có tính đại lý đòi hỏi phải có hồ sơ khách hàng đầy đủ và cập nhật. Nếu không có ngữ cảnh thời gian thực, ngay cả những mô hình tốt nhất cũng sẽ tạo ra những trải nghiệm bị ngắt kết nối và thiên vị.

Thiên vị là một gương, không phải là một sự cố

Trí tuệ nhân tạo không tạo ra thiên vị. Nó phản ánh những gì nó được hướng dẫn thông qua dữ liệu, đào tạo và ưu tiên kinh doanh. Đó là lý do tại sao sự căn chỉnh lại quan trọng. Nếu hệ thống của bạn không được thiết kế xung quanh khách hàng, trí tuệ nhân tạo sẽ chỉ làm rộng ra sự ngắt kết nối.

Thiên vị mục tiêu không thể được loại bỏ hoàn toàn, nhưng nó có thể được quản lý.

Đặt sự trung thành lâu dài làm mục tiêu chính của bạn. Phần còn lại sẽ theo sau. Khi mọi quyết định của mô hình được lọc qua sự giữ chân, giá trị trọn đời và niềm tin, phần còn lại của các ưu tiên (quản trị, hiểu biết khách hàng, mục tiêu cân bằng) sẽ tự nhiên rơi vào đúng vị trí.

Các giải pháp thay thế cho ngày hôm nay gần như luôn luôn tốn kém vào ngày mai, nhưng hãy tiếp tục với lòng trung thành là trung tâm của chiến lược của bạn, và trí tuệ nhân tạo sẽ chuyển từ một trách nhiệm thành một lợi thế.