Trí tuệ nhân tạo Nhớ mà Không chia sẻ quá mức: Kiến trúc Quyền riêng tư cho Thế hệ Dịch vụ Cá nhân Tiếp theo

Hầu hết các doanh nghiệp vẫn chưa nhận ra rằng các trợ lý ảo cá nhân đã đạt đến một tầm mới. Giờ đây, họ không chỉ trả lời câu hỏi, mà thực hiện hành động thay mặt cho nhân viên thực sự: họ tạo và theo dõi đặt chỗ, trao đổi, và đưa ra quyết định về tài chính, lịch trình, chuyến đi, và cuộc họp.

Dữ liệu mà trí tuệ nhân tạo hoạt động cũng đã thay đổi: từ “loại nhạc bạn thích” đến “bạn ở đâu, bạn đang với ai, bạn đã đồng ý gì, và bạn đang trả bao nhiêu cho nó.” Đây là một mức độ dễ bị tổn thương hoàn toàn khác, và chúng tôi tuyệt đối cần một kiến trúc mới. Tôi gọi nó là “biên lai quyền riêng tư” – biên lai kỹ thuật số cho phép người dùng xem bất cứ lúc nào chính xác những gì trợ lý biết về họ, từ đâu, và tại sao nó được sử dụng. Đây là cùng một kỳ vọng chúng tôi có ngày hôm nay cho các bản kê khai ngân hàng: minh bạch, có thể xác minh, có sẵn theo yêu cầu.

Tại sao trí tuệ nhân tạo an toàn đã trở nên quan trọng ngay bây giờ

Cho đến gần đây, các trợ lý ảo chủ yếu là thông tin: tìm kiếm, tóm tắt tài liệu, gợi ý mã. Họ hiếm khi có thể hành động mà không có sự tham gia của một người kiểm soát quá trình.

Ngày nay, chúng ta thấy một bức tranh khác. Trợ lý được tích hợp vào email, lịch, trình nhắn tin, dịch vụ ngân hàng, và du lịch; họ có thể độc lập gửi một lá thư cho một đối tác, trả tiền cho một đặt chỗ, hoặc thay đổi một chuyến bay, dựa trên ngữ cảnh mà người phụ trách có thể không biết.

Đồng thời, những người dùng sớm nhất và tích cực nhất của các trợ lý như vậy là những người mà chi phí của sai lầm là cực kỳ cao: các nhà quản lý hàng đầu và CEO, khách hàng có giá trị cao, chuyên gia quản lý tài chính và vốn. Đối với họ, mất quyền riêng tư là một rủi ro nghiêm trọng về danh tiếng, pháp lý, và tài chính trực tiếp.

Khi nói đến trí tuệ nhân tạo, các vấn đề về quyền riêng tư không còn có thể được coi là một hình thức nữa.

Dữ liệu tối thiểu, giá trị nhiều hơn

Hầu hết các sản phẩm trí tuệ nhân tạo thu thập nhiều dữ liệu hơn mức cần thiết để thực sự hữu ích. Trong thực tiễn của chúng tôi, chúng tôi tìm thấy rằng đa số dữ liệu được thu thập bởi các trợ lý ảo điển hình không bao giờ được sử dụng để cung cấp dịch vụ. Nếu chúng ta lấy kinh doanh concierge, ba điều là đủ cho một trợ lý để cung cấp dịch vụ cá nhân hóa chất lượng cao. Thứ nhất, sở thích liên quan đến nhiệm vụ: cách bạn du lịch, cách bạn muốn giao tiếp, những hạn chế bạn có về thị thực, ngân sách, và nghĩa vụ gia đình.

Thứ hai, ngữ cảnh của yêu cầu hiện tại: ở đâu, khi nào, với ai, cho mục đích gì, thời hạn, và rủi ro.

Cuối cùng, nó nhớ lại các tương tác trong quá khứ trong nhiệm vụ: vì vậy nó không hỏi lại cùng một câu hỏi, nhớ lại các giải pháp đã chọn, và không lặp lại sai lầm.

Đây là đủ cho sản phẩm hoạt động ở mức của một trợ lý cá nhân tốt. Nó không cần một kho lưu trữ hoàn chỉnh của thư từ, theo dõi vị trí liên tục, hoặc giao dịch tài chính.

Trợ lý ảo và giới hạn chấp nhận được

Có những loại dữ liệu mà đơn giản là không có chỗ trong một trợ lý cá nhân. Ví dụ, dữ liệu hành vi thụ động: lắng nghe liên tục, theo dõi vị trí địa lý không có yêu cầu, giám sát màn hình hoặc đầu vào. Nếu hệ thống thu thập thông tin không về những gì bạn yêu cầu, mà về những gì bạn đang làm chung, nó ngừng trở thành một trợ lý và trở thành giám sát.

Ngoài ra, dữ liệu về các bên thứ ba chưa từng tương tác với hệ thống là không cần thiết. Ví dụ, một yêu cầu như “giúp tổ chức một cuộc họp” không nên trở thành quyền xây dựng hồ sơ của khách, lộ trình, và thói quen của họ.

Thứ ba, nội dung đầy đủ của các cuộc giao tiếp của bạn không nên được lưu trữ trong bộ nhớ lâu dài theo mặc định. Trợ lý có thể xử lý một email cụ thể nếu bạn yêu cầu nó một cách rõ ràng, nhưng điều đó không có nghĩa là nó bây giờ có quyền đọc email của bạn.

Hữu ích có nghĩa là xâm phạm: bẫy của các sản phẩm trí tuệ nhân tạo

Nội dung bổ sung thực sự làm cho sản phẩm trở nên tiện lợi hơn, vì hệ thống càng biết nhiều, càng có thể đưa ra các khuyến nghị chính xác, phản hồi nhanh hơn, và hiệu ứng “wow” khi sử dụng nó.

Đây là nơi nhu cầu tự nhiên xuất hiện để kết nối lịch, email, trò chuyện, CRM, và dữ liệu địa lý để dịch vụ có thể dự đoán nhu cầu của người dùng. Mỗi kết nối người dùng dường như hợp lý và được chứng minh.

Trong ngành công nghiệp concierge, kết nối lịch và lịch sử du lịch của khách hàng cải thiện đáng kể các khuyến nghị – hệ thống có thể dự đoán nhu cầu ngay cả trước khi khách hàng nêu chúng.

Vấn đề là logic tối ưu hóa UX dần dần chuyển kiến trúc sang thu thập dữ liệu nhiều hơn, lưu trữ lâu hơn, và truy cập rộng hơn vào nó. Và tại một thời điểm nào đó, ranh giới đơn giản biến mất.

Vấn đề thứ hai liên quan đến quyền truy cập cho hỗ trợ khách hàng. Bạn có thể xây dựng mã hóa mạnh, và sau đó cung cấp cho một vận hành viên hỗ trợ khách hàng quyền truy cập đầy đủ vào lịch sử của khách hàng vì mục đích, chẳng hạn như mua một vé duy nhất. Trên thực tế, các sự cố thường xảy ra do truy cập nội bộ không được kiểm soát và lỗi của con người, chứ không phải các cuộc tấn công từ bên ngoài.

Rủi ro thứ ba là kiến trúc đa tác nhân. Khi các tác nhân truyền ngữ cảnh cho nhau, dữ liệu bắt đầu chảy giữa các thành phần theo những cách không được thiết kế rõ ràng. Nếu một tác nhân có quyền quá rộng, ngữ cảnh này được thu thập bởi chuỗi tiếp theo.

Biên lai quyền riêng tư: tiêu chuẩn tiếp theo cho trí tuệ nhân tạo

Đây là một sai lầm khi xem quyền riêng tư như một chức năng tuân thủ. Quyền riêng tư thực sự phụ thuộc vào những gì chúng tôi lưu trữ và cách chúng tôi chia sẻ nó cho mục đích dự kiến, bao lâu và dưới những điều kiện nào, ai có quyền truy cập và dưới những hoàn cảnh nào, bao gồm cả người và tác nhân trí tuệ nhân tạo, và người dùng kiểm soát nó như thế nào.

Thật không may, hầu hết các dịch vụ không có một câu trả lời đơn giản cho các câu hỏi của người dùng: chính xác hệ thống biết gì về họ, có thể sửa hoặc xóa hoàn toàn, có thể cấm sử dụng một mảnh dữ liệu cụ thể?

Do đó, điều quan trọng là phải giới thiệu biên lai quyền riêng tư khi người dùng có thể hỏi trợ lý ảo của họ biết chính xác những gì về họ, tại sao lại biết, và thông tin đó đến từ đâu, và ngay lập tức nhận được một câu trả lời rõ ràng, có thể xác minh. Giống như chúng ta mong đợi từ các bản kê khai ngân hàng, chúng ta sẽ sớm mong đợi sự minh bạch từ các hệ thống quản lý thời gian, kết nối, và vốn của chúng ta.

Cơ sở kỹ thuật của bộ nhớ an toàn

Biên lai quyền riêng tư là không thể nếu không có một nền tảng kỹ thuật vững chắc. Ít nhất ba lớp là quan trọng: đầu tiên, bảo vệ dữ liệu ở mức cơ sở hạ tầng. Mã hóa nên là một nguyên tắc cốt lõi, không phải là một hình thức. Dữ liệu nên được lưu trữ với các khóa cụ thể cho từng khách hàng, không phải với một khóa chính duy nhất cho tất cả, truyền输 nên được thực hiện qua các giao thức hiện đại, và các thuộc tính nhạy cảm nên được tách biệt logic khỏi siêu dữ liệu dịch vụ.

Hơn nữa, mỗi dịch vụ, tác nhân, và vận hành viên nên chỉ có quyền truy cập vào dữ liệu cần thiết để thực hiện một nhiệm vụ cụ thể.

Cuối cùng, nhật ký truy cập không thể thay đổi, kiểm toán mỗi lần truy cập, và kiểm soát kỹ thuật về địa lý lưu trữ và xử lý là quan trọng. Kiểm tra các kịch bản đa tác nhân nên được coi là một lớp rủi ro riêng biệt.

Chỉ với kiến trúc này, biên lai quyền riêng tư trở nên có thể: theo cách này, hệ thống thực sự biết những gì nó biết và có thể chứng minh.

Ai sẽ thua, và ai sẽ trở thành tiêu chuẩn?

Các dịch vụ và sản phẩm nhận thức bộ nhớ như một sự tích lũy một chiều sẽ thua: ít minh bạch cho người dùng, nhưng nhiều nguồn, nhiều ngữ cảnh, và lưu trữ lâu hơn.

Mô hình này dường như có lợi trong ngắn hạn, nhưng không có hạn chế và quy tắc rõ ràng, logic này biến thành sự mở rộng không kiểm soát, vì dữ liệu được kết nối nhanh hơn các cơ chế giải thích và kiểm soát có thể được thiết lập.

Các vụ bê bối liên quan đến rò rỉ dữ liệu, lạm dụng trợ lý ảo, hoặc tiết lộ thông tin nhạy cảm không chính xác sẽ ảnh hưởng đến tất cả các sản phẩm trong danh mục này. Người dùng sẽ yêu cầu nhiều thông tin hơn về minh bạch, và chỉ những công ty đã xây dựng khả năng giải thích, tính minh bạch, và kiểm soát người dùng vào kiến trúc của họ từ trước sẽ có thể duy trì niềm tin.

Các sản phẩm thiết kế hệ thống xung quanh một bức tranh tức thời và có thể xác minh về những gì trí tuệ nhân tạo biết và tại sao sẽ trở thành tiêu chuẩn. Quyền riêng tư phải là một phần của hệ thống từ đầu – đặc biệt khi nó ảnh hưởng đến cuộc sống của con người.