Khoảng trống đồng ý ẩn trong AI Doanh nghiệp

Các cuộc trò chuyện về AI Doanh nghiệp thường bắt đầu với dữ liệu. Công ty có đủ thông tin khách hàng để đào tạo mô hình, cá nhân hoá trải nghiệm hoặc hỗ trợ quyết định tự động không?

Câu hỏi thường bị bỏ qua là liệu công ty thực sự có quyền sử dụng dữ liệu đó cho mục đích cụ thể mà họ dự định không.

Dữ liệu khách hàng có thể chính xác, dễ tiếp cận và có giá trị trong khi vẫn mang những hạn chế. Một người có thể đồng ý nhận các đề xuất cá nhân hoá mà không đồng ý cho phép thông tin của họ được sử dụng để đào tạo mô hình AI. Người khác có thể muốn nhận cập nhật qua email một lần mỗi tháng nhưng từ chối tin nhắn văn bản hàng ngày.

Đó là lý do tôi bắt đầu mô tả việc quản lý đồng ý và sở thích như là quản trị quyền truy cập. Nó trả lời một câu hỏi đơn giản: Ai, hoặc cái gì, có quyền truy cập dữ liệu này và sử dụng nó cho một mục đích cụ thể?

Khi AI ngày càng được kết nối với nhiều trải nghiệm khách hàng hơn, các công ty cần trả lời câu hỏi đó trước khi hệ thống hành động. Các sự cố AI được ghi nhận tăng từ 233 vào năm 2024 lên 362 vào năm 2025 — mức tăng 55% trong một năm duy nhất, và là dấu hiệu cho thấy mức độ quan trọng của việc thực hiện đúng.

Dữ liệu khả dụng không phải là dữ liệu được ủy quyền

Hầu hết các tổ chức lớn đã có công nghệ để thu thập, lưu trữ và chuyển động thông tin khách hàng. Họ có thể biết dữ liệu nằm ở đâu, thuộc về khách hàng nào và cách làm cho nó sẵn sàng cho một ứng dụng khác.

Quản trị quyền truy cập trả lời một bộ câu hỏi khác:

• Tại sao thông tin được thu thập?
• Khách hàng đã đồng ý gì?
• Thỏa thuận đó bao gồm những mục đích sử dụng nào?
• Khách hàng đã thay đổi quan điểm chưa?
• Hệ thống nào cần nhận cập nhật đó?

Những câu hỏi này trở nên đặc biệt quan trọng khi dữ liệu được thu thập cho một mục đích được đưa vào một trường hợp sử dụng AI mới. Thông tin nằm trong CRM hoặc hồ sơ khách hàng không tự động phù hợp cho mọi mô hình, chiến dịch hoặc quyết định tự động.

Sự đồng ý là một cơ sở pháp lý cho việc xử lý dữ liệu cá nhân, nhưng nó không phải là duy nhất. Các yêu cầu phụ thuộc vào khu vực pháp lý, dữ liệu và trường hợp sử dụng. Điểm quan trọng hơn là việc chỉ có dữ liệu khả dụng không chứng minh được sự ủy quyền.Các cơ quan quản lý đã bắt đầu xem xét những gì xảy ra khi các mô hình AI được phát triển bằng dữ liệu cá nhân được xử lý bất hợp pháp. Các câu hỏi về cách thông tin được thu thập không biến mất khi thông tin đó được đưa vào mô hình.

AI cần nhiều hơn chỉ “Đăng ký” hoặc “Hủy đăng ký”

Các hệ thống đồng ý truyền thống thường giảm quyết định của khách hàng thành hai lựa chọn: đăng ký hoặc hủy đăng ký. Điều này không phản ánh cách mọi người thực sự muốn tương tác với các công ty.

Khách hàng có thể muốn nhận đề xuất sản phẩm nhưng từ chối quảng cáo không liên quan. Họ có thể chấp nhận cá nhân hoá trong khi từ chối việc sử dụng thông tin của mình để đào tạo mô hình. Họ vẫn có thể thích email của một thương hiệu nhưng muốn nhận chúng một lần mỗi tháng thay vì mỗi ngày.

Một đánh giá về 22 hệ thống AI hướng tới người tiêu dùng phát hiện sự đa dạng lớn trong cách các sản phẩm yêu cầu quyền truy cập và quản lý cá nhân hoá, mà không có tiêu chuẩn nhất quán nào trên các hệ thống được nghiên cứu.

Cung cấp cho khách hàng khả năng giảm mức độ đồng ý có thể mở ra một tiềm năng lớn. Nếu không có tùy chọn này, người dùng bị làm phiền bởi quá nhiều tin nhắn có thể hủy đăng ký hoàn toàn. Công ty mất một khách hàng sẵn sàng vì không bao giờ đưa ra cho họ một lựa chọn hợp lý hơn.

Trải nghiệm trở nên xâm phạm ngay khi quá trình trao đổi bị phá vỡ — khi khách hàng không nhớ mình đã yêu cầu hoặc không hiểu tại sao công ty lại hành động dựa trên một số thông tin nhất định. Doanh nghiệp có thể tránh phần lớn sự nhầm lẫn này bằng cách thẳng thắn: Đây là thông tin chúng tôi muốn thu thập, đây là cách chúng tôi muốn sử dụng và đây là những gì bạn sẽ nhận được đổi lại.

Lựa chọn của khách hàng phải được truyền tới mọi hệ thống

Ghi lại sở thích trên một trang web chỉ là bước đầu. Lựa chọn đó phải được truyền tới mọi hệ thống sử dụng thông tin của khách hàng. Khách hàng có thể cập nhật sở thích trong khi nền tảng email, ứng dụng dịch vụ hoặc môi trường AI vẫn tiếp tục dựa trên câu trả lời cũ, và các đơn vị kinh doanh khác nhau có thể cuối cùng giữ các hồ sơ mâu thuẫn. Khách hàng cũng có thể chuyển từ duyệt web ẩn danh sang tài khoản đã xác thực mà công ty không bao giờ liên kết các lựa chọn trước đó với hồ sơ mới.

Đây là lúc việc đồng ý không còn có thể nằm trong một kho dữ liệu riêng về quyền riêng tư mà phần còn lại của doanh nghiệp hầu như không biết tới. Nó phải được kết nối với tiếp thị, trải nghiệm khách hàng, quản trị dữ liệu và các hệ thống triển khai AI. Một lớp quyền truy cập hoạt động tốt nên duy trì bản ghi mới nhất, kết nối các lựa chọn qua các hồ sơ khách hàng, gắn mỗi quyền với một mục đích cụ thể và gửi các thay đổi tới mọi hệ thống liên quan.

Nếu hồ sơ trung tâm cho thấy khách hàng đã rút lại quyền cho phép nhưng các hệ thống hạ nguồn vẫn tiếp tục sử dụng dữ liệu, việc ghi lại lựa chọn thực tế chưa tôn trọng nó. Vấn đề đó trở nên lớn hơn nhiều khi có AI. Một quyền cho phép lỗi thời có thể ảnh hưởng đến hàng nghìn đề xuất, tin nhắn hoặc hành động tự động trước khi ai nhận ra.

Quyền riêng tư không thể chịu đựng việc trở thành “Văn phòng của lời không”

Nếu quyền riêng tư chỉ được tham gia sau khi đã xảy ra, mọi việc này sẽ không hiệu quả. Các đội ngũ quyền riêng tư đã tạo được danh tiếng trong một số công ty như là văn phòng của lời không, và trong nhiều trường hợp điều này xảy ra vì quyền riêng tư được đưa vào dự án sau khi các quyết định quan trọng đã được đưa ra.

Một đội ngũ tiếp thị phát triển một chiến dịch, một đội ngũ dữ liệu xây dựng một mô hình mới hoặc lãnh đạo quyết định cần nhanh chóng triển khai AI. Quyền riêng tư nhận được kế hoạch vào cuối cùng và xác định một vấn đề. Ở thời điểm đó, câu trả lời thực tế duy nhất có thể là không.

Việc đưa quyền riêng tư vào quy trình sớm hơn sẽ thay đổi cuộc trò chuyện. Đội ngũ có thể giúp doanh nghiệp tiếp tục tiến hành trong khi kiểm tra các yếu tố cần thiết trên đường đi. Quyền riêng tư theo thiết kế dễ hơn rất nhiều so với việc cố gắng gỡ bỏ một hệ thống sau khi dữ liệu khách hàng đã được chuyển qua nó.

Điều này quan trọng vì các đội ngũ quyền riêng tư thường nhỏ, ngay cả trong những công ty lớn nhất thế giới. Những đội ngũ nhỏ nhưng mạnh mẽ này không thể theo dõi thủ công mọi lựa chọn của khách hàng trên mọi ứng dụng. Họ cần các hệ thống linh hoạt, dễ sử dụng và có khả năng truyền tải quyền cho phép trên toàn bộ doanh nghiệp.

Các chuyên gia quyền riêng tư cũng cần tự tin để giải thích công việc của họ bằng ngôn ngữ kinh doanh. Họ ngồi giữa công ty và khách hàng và có thể giúp cả hai bên thu được nhiều giá trị hơn từ mối quan hệ.

Dấu vết kiểm toán phải tiếp cận quyết định AI

Khi một quyết định dựa trên AI bị đặt câu hỏi, công ty nên có khả năng tái tạo lại những gì đã xảy ra. Điều này bao gồm việc xác định dữ liệu khách hàng nào đã được sử dụng, khách hàng đã đồng ý gì, thông báo nào họ đã nhận và liệu lựa chọn mới nhất đã đến hệ thống trước khi nó thực hiện hay chưa. Hướng dẫn AI đã thiết lập nhấn mạnh việc ghi chép dữ liệu, yêu cầu hệ thống và các quyết định trong suốt vòng đời AI.

Bằng chứng này hỗ trợ các cuộc điều tra của cơ quan quản lý, nhưng nó cũng có giá trị thực tiễn. Các đội ngũ quyền riêng tư, tiếp thị, trải nghiệm khách hàng và dữ liệu cần hiểu tại sao có sự cố, xác định hệ thống nào đã mất đồng bộ và sửa chữa quy trình.

Ghi lại sự đồng ý không đồng nghĩa với việc chứng minh nó sau này. Một bản ghi trở nên khó tái tạo hơn nhiều sau khi dữ liệu đã đi qua nhiều hệ thống và ảnh hưởng đến một hành động tự động.

Niềm tin được xây dựng hoặc phá vỡ từng tương tác một

Niềm tin có thể nghe như một từ xu hướng, nhưng nó là nền tảng của mọi mối quan hệ khách hàng. Mỗi tương tác làm cho mối quan hệ đó tốt hơn hoặc tệ hơn một chút, dù công ty có nhận ra hay không.

Khi việc áp dụng ngày càng tăng, các công ty có nhiều cơ hội tạo ra giá trị hơn, nhưng cũng có nhiều cơ hội cho những khoảng trống quản trị nhỏ ảnh hưởng tới khách hàng. Trước khi mở rộng một ứng dụng AI hướng tới khách hàng, các nhà lãnh đạo nên hiểu dữ liệu nào sẽ được sử dụng, quyền nào áp dụng và thời gian cập nhật lựa chọn của khách hàng sẽ đến hệ thống nhanh như thế nào.

Một đề xuất không nên dựa trên thông tin mà khách hàng không mong đợi sẽ được sử dụng. Một tin nhắn không nên được gửi qua kênh mà khách hàng đã từ chối. Một hệ thống tự động không nên hành động chỉ vì dữ liệu có sẵn.

Khách hàng đã và đang cho các tổ chức biết họ muốn gì. Bước tiếp theo là đảm bảo các hệ thống AI xử lý dữ liệu của họ có khả năng lắng nghe.