AI Ghi Nhớ Mà Không Tiết Lộ Quá Mức: Kiến Trúc Bảo Mật Cho Thế Hệ Dịch Vụ Cá Nhân Mới

Hầu hết doanh nghiệp vẫn chưa nhận ra rằng các trợ lý AI cá nhân đã đạt đến một cấp độ hoàn toàn mới. Giờ đây, chúng không chỉ trả lời câu hỏi, mà còn thực hiện các hành động thay mặt nhân viên thực sự: chúng đặt và theo dõi đặt chỗ, trao đổi thư từ, và đưa ra quyết định liên quan đến tài chính, lịch trình, chuyến đi và cuộc họp. Dữ liệu mà AI vận hành cũng đã thay đổi: từ “bạn thích thể loại nhạc nào” sang “bạn đang ở đâu, bạn đang ở với ai, bạn đã thỏa thuận điều gì, và bạn trả bao nhiêu tiền cho nó.” Đây là một cấp độ rủi ro hoàn toàn khác về chất, và chúng ta tuyệt đối cần một kiến trúc mới. Tôi gọi nó là “biên lai bảo mật” – các biên lai kỹ thuật số cho phép người dùng xem bất cứ lúc nào trợ lý biết chính xác điều gì về họ, thông tin đó đến từ đâu, và tại sao nó được sử dụng. Đây là kỳ vọng tương tự như chúng ta có ngày nay đối với sao kê ngân hàng: minh bạch, có thể kiểm chứng, sẵn có theo yêu cầu.

Tại sao AI an toàn trở nên cực kỳ quan trọng ngay lúc này

Cho đến thời gian gần đây, trợ lý AI chủ yếu mang tính thông tin: tìm kiếm, tóm tắt tài liệu, gợi ý mã. Chúng hiếm khi có thể hành động mà không có sự tham gia của một người kiểm soát quy trình. Ngày nay, chúng ta thấy một bức tranh khác. Các trợ lý được tích hợp vào email, lịch, trình nhắn tin, dịch vụ ngân hàng và du lịch; chúng có thể tự động gửi một bức thư cho đối tác, thanh toán cho một đặt chỗ, hoặc thay đổi chuyến bay, dựa trên ngữ cảnh mà người phụ trách có thể không biết. Đồng thời, những người dùng sớm nhất và tích cực nhất của các trợ lý như vậy là những người có chi phí cho sai lầm cực kỳ cao: các quản lý cấp cao và CEO, khách hàng có giá trị tài sản ròng cao, chuyên gia trong lĩnh vực tài chính và quản lý vốn. Đối với họ, mất quyền riêng tư là một rủi ro nghiêm trọng về danh tiếng, pháp lý và tài chính trực tiếp. Khi nói đến AI, các vấn đề về quyền riêng tư không còn có thể được coi như một thủ tục hình thức đơn thuần.

Dữ liệu tối thiểu, giá trị tối đa

Hầu hết các sản phẩm AI thu thập nhiều dữ liệu hơn nhiều so với mức cần thiết để thực sự hữu ích. Trong thực tế của chúng tôi, chúng tôi nhận thấy phần lớn dữ liệu được thu thập bởi các trợ lý AI điển hình không bao giờ thực sự được sử dụng để cung cấp dịch vụ. Nếu lấy ngành dịch vụ hộ lý làm ví dụ, chỉ cần ba điều là đủ để một trợ lý cung cấp dịch vụ cá nhân hóa chất lượng cao. Thứ nhất, các sở thích liên quan đến nhiệm vụ: cách bạn di chuyển, cách bạn ưu tiên giao tiếp, những hạn chế bạn có về thị thực, ngân sách và nghĩa vụ gia đình. Thứ hai, ngữ cảnh của yêu cầu hiện tại: ở đâu, khi nào, với ai, vì mục đích gì, thời hạn và rủi ro. Cuối cùng, nó ghi nhớ các tương tác trong quá khứ trong phạm vi nhiệm vụ: để không hỏi lại những câu hỏi tương tự, nhớ các giải pháp đã chọn và không lặp lại sai lầm. Điều này là đủ để sản phẩm hoạt động ở cấp độ của một trợ lý cá nhân tốt. Nó không cần một kho lưu trữ đầy đủ các thư từ, theo dõi vị trí liên tục, hoặc giao dịch tài chính.

Trợ lý AI và các giới hạn chấp nhận được

Có những loại dữ liệu đơn giản là không có chỗ trong một trợ lý cá nhân. Ví dụ, dữ liệu hành vi thụ động: lắng nghe liên tục, định vị địa lý liên tục không có yêu cầu, giám sát màn hình hoặc đầu vào. Nếu hệ thống thu thập thông tin không phải về điều bạn yêu cầu, mà về những gì bạn đang làm nói chung, nó sẽ không còn là một trợ lý mà trở thành giám sát. Ngoài ra, dữ liệu về các bên thứ ba chưa từng tương tác với hệ thống là không cần thiết. Ví dụ, một yêu cầu như “giúp sắp xếp một cuộc họp” không nên biến thành quyền xây dựng hồ sơ của khách mời, lộ trình và thói quen của họ. Thứ ba, toàn bộ nội dung giao tiếp của bạn không nên được lưu trữ trong bộ nhớ dài hạn một cách mặc định. Trợ lý có thể xử lý một email cụ thể nếu bạn yêu cầu rõ ràng, nhưng điều đó không có nghĩa là giờ đây nó có quyền đọc email của bạn.

Hữu ích đồng nghĩa với xâm nhập: cái bẫy của các sản phẩm AI

Ngữ cảnh bổ sung thực sự làm cho sản phẩm tiện lợi hơn, bởi vì hệ thống càng biết nhiều, các đề xuất càng chính xác, phản hồi càng nhanh và hiệu ứng “wow” từ việc sử dụng càng lớn. Đây là lúc nhu cầu tự nhiên nảy sinh để kết nối lịch, email, trò chuyện, CRM và dữ liệu địa lý để dịch vụ có thể dự đoán nhu cầu của người dùng. Mỗi kết nối của người dùng có vẻ hợp lý và được biện minh. Trong ngành dịch vụ hộ lý, việc kết nối lịch và lịch sử du lịch của khách hàng cải thiện đáng kể các đề xuất – hệ thống có thể dự đoán nhu cầu ngay cả trước khi khách hàng diễn đạt chúng. Đồng thời, một số dịch vụ cố ý không lưu trữ nội dung giao tiếp bên ngoài các nhiệm vụ đang hoạt động và không xây dựng hồ sơ hành vi dựa trên dữ liệu thụ động. Vấn đề là logic tối ưu hóa trải nghiệm người dùng đang dần dịch chuyển kiến trúc theo hướng thu thập nhiều dữ liệu hơn, lưu trữ lâu hơn và truy cập rộng hơn vào nó. Và tại một thời điểm nào đó, ranh giới đơn giản là biến mất. Vấn đề thứ hai liên quan đến quyền truy cập cho bộ phận hỗ trợ khách hàng. Bạn có thể xây dựng mật mã hóa mạnh mẽ, và sau đó cấp cho một nhân viên hỗ trợ khách hàng quyền truy cập đầy đủ vào lịch sử của khách hàng vì mục đích, chẳng hạn như mua một vé duy nhất. Trong thực tế, các sự cố thường xảy ra vì quyền truy cập nội bộ không được kiểm soát và lỗi của con người, hơn là các cuộc tấn công bên ngoài. Rủi ro thứ ba là các kiến trúc đa tác tử. Khi các tác tử chuyển ngữ cảnh cho nhau, dữ liệu bắt đầu chảy giữa các thành phần theo những cách không được thiết kế rõ ràng. Nếu một tác tử có quyền quá rộng, ngữ cảnh này sẽ được tiếp nhận bởi chuỗi phía sau.

Biên lai bảo mật: tiêu chuẩn tiếp theo cho AI

Thật sai lầm khi xem quyền riêng tư như một chức năng tuân thủ. Quyền riêng tư thực sự phụ thuộc vào những gì chúng ta lưu trữ và cách chúng ta chia sẻ nó cho mục đích dự định, chúng ta mở rộng nó trong bao lâu và dưới điều kiện nào, ai được truy cập và trong hoàn cảnh nào, bao gồm cả con người và các tác tử AI, và người dùng kiểm soát nó như thế nào. Thật không may, hầu hết các dịch vụ không có câu trả lời đơn giản cho câu hỏi của người dùng: hệ thống biết chính xác điều gì, nó có thể được sửa chữa hoặc xóa hoàn toàn không, việc sử dụng một phần dữ liệu cụ thể có thể bị cấm không? Do đó, điều quan trọng là giới thiệu biên lai bảo mật khi người dùng có thể hỏi trợ lý AI của họ rằng nó biết chính xác điều gì về họ, tại sao nó biết điều đó, và thông tin này đến từ đâu, và ngay lập tức nhận được một câu trả lời rõ ràng, có thể kiểm chứng. Cũng như chúng ta kỳ vọng sao kê ngân hàng, chúng ta sẽ sớm kỳ vọng sự minh bạch từ các hệ thống quản lý thời gian, kết nối và vốn của chúng ta.

Nền tảng kỹ thuật của bộ nhớ an toàn

Biên lai bảo mật là không thể nếu không có nền tảng kỹ thuật vững chắc. Ít nhất ba lớp là quan trọng: đầu tiên, bảo vệ dữ liệu ở cấp độ cơ sở hạ tầng. Mã hóa nên là nguyên tắc cốt lõi, không phải là một thủ tục hình thức. Dữ liệu nên được lưu trữ với khóa cụ thể của từng khách hàng, không phải với một khóa chính duy nhất cho tất cả, việc truyền tải nên thông qua các giao thức hiện đại, và các thuộc tính nhạy cảm nên được tách biệt hợp lý khỏi siêu dữ liệu dịch vụ. Hơn nữa, mỗi dịch vụ, tác tử và người vận hành chỉ nên có quyền truy cập vào dữ liệu cần thiết để thực hiện một nhiệm vụ cụ thể. Cuối cùng, nhật ký truy cập chống giả mạo, kiểm toán từng lần truy cập và kiểm soát kỹ thuật về địa lý lưu trữ và xử lý là quan trọng. Việc kiểm tra thường xuyên các kịch bản đa tác tử nên được coi là một lớp rủi ro riêng biệt. Chỉ với kiến trúc này, biên lai bảo mật mới trở nên khả thi: bằng cách này, hệ thống thực sự biết những gì nó biết và có thể chứng minh điều đó.

Ai sẽ thua cuộc, và ai sẽ trở thành tiêu chuẩn?

Các dịch vụ và sản phẩm coi bộ nhớ như một sự tích lũy một chiều sẽ thua cuộc: ít minh bạch hơn cho người dùng, nhưng nhiều nguồn hơn, nhiều ngữ cảnh hơn và lưu trữ lâu hơn. Mô hình này có vẻ có lợi trong ngắn hạn, nhưng không có các hạn chế và quy tắc rõ ràng, logic này biến thành sự mở rộng không kiểm soát, vì dữ liệu được kết nối nhanh hơn so với việc có thể thiết lập các cơ chế giải thích và kiểm soát. Các vụ bê bối liên quan đến rò