Quan điểm

AI đang được tích hợp vào máy tính của chúng ta — nhưng ai kiểm soát những gì nó có thể nhìn thấy?

Adlin Pertishya
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhXử lý AI cục bộ không tự động đảm bảo quyền riêng tư hoặc bảo mật cho các tác nhân trên…
Xem thêm
  • Xử lý AI cục bộ không tự động đảm bảo quyền riêng tư hoặc bảo mật cho các tác nhân trên thiết bị.
  • Các tác nhân phải hoạt động theo quyền truy cập tối thiểu, giới hạn trong phạm vi mà từng quy trình công việc cụ thể yêu cầu.
  • Người dùng cần quyền kiểm soát minh bạch và có thể thu hồi đối với những gì tác nhân có thể xem và làm.

Các tác nhân AI đang bắt đầu vượt ra ngoài cửa sổ trò chuyện để đi vào hệ điều hành, ứng dụng và tệp mà mọi người sử dụng hằng ngày.

Các máy tính Windows mới và phần mềm được phát hành trong những tháng gần đây đang mở ra một kỷ nguyên mới của các quy trình làm việc tự chủ nhiều bước bằng AI, dành cho người dùng thông thường và trong môi trường doanh nghiệp; quá trình chuyển đổi này không còn chỉ là dự báo công nghệ.

Các máy tính Windows được trang bị RTX của NVIDIA hỗ trợ chạy các tác nhân AI ngay trên thiết bị, trong khi Perplexity đã mở rộng khả năng của tác nhân AI sang các máy tính Windows tương thích, cho phép thực hiện những quy trình làm việc liên quan đến tệp cục bộ và các ứng dụng được kết nối. Trong khi đó, Microsoft đang phát triển các biện pháp bảo vệ để kiểm soát cách các tác nhân truy cập tài nguyên và thực hiện hành động.

Tuy nhiên, quyền tự chủ cao hơn cũng kéo theo rủi ro bảo mật lớn hơn. Ngày 19 tháng 10, Hayete Gallot, Phó chủ tịch điều hành phụ trách an ninh của Microsoft, cảnh báo rằng các tổ chức cần nỗ lực hơn nữa để bảo vệ “các tác nhân nội bộ có tính tự chủ”, đồng thời lưu ý rằng các tác nhân AI thường được cấp quyền quá mức và có thể truy cập dữ liệu nhạy cảm, công cụ và hệ thống khi đưa ra quyết định trong các quy trình trọng yếu.

Chiến lược bảo mật Windows của Microsoft dựa trên việc cô lập, giới hạn quyền, hạn chế giám sát, đồng thời ngày càng quan ngại rằng lỗi của một tác nhân có thể gây ra hậu quả vượt xa một câu trả lời sai đơn thuần. Tác nhân có thể tiết lộ thông tin nhạy cảm, chỉnh sửa các tệp trọng yếu hoặc gây ra những hoạt động ngoài ý muốn trong các ứng dụng doanh nghiệp.

AI chạy cục bộ không đồng nghĩa với AI riêng tư

Sử dụng tác nhân AI trên máy tính có thể giúp giảm lượng dữ liệu nhạy cảm được chuyển đến các dịch vụ đám mây, nhưng xử lý cục bộ không phải là lá chắn bảo mật toàn diện.

Ngay cả mô hình chạy trên thiết bị cũng có thể truy cập quá nhiều tệp, có bảo mật kém hoặc được liên kết không an toàn với các ứng dụng khác.

Bayron Quintero, CEO kiêm đồng sáng lập iData Global, công ty chuyên cung cấp các giải pháp AI trên khắp châu Mỹ, cho biết vấn đề không phải lúc nào cũng nằm ở mô hình AI; thường thì nguyên nhân là ở cơ chế quản trị của tổ chức.

Ông nói với Unite AI rằng các công ty có thể cấp quyền truy cập dữ liệu, ứng dụng và quy trình kinh doanh quá nhiều hoặc quá ít. Tác nhân có thể được cấp những quyền không phù hợp với nhiệm vụ mà chúng được kỳ vọng sẽ thực hiện.

“Thách thức là bảo đảm tác nhân hoạt động theo nguyên tắc đặc quyền tối thiểu, chỉ được truy cập dữ liệu, hệ thống và thực hiện hành động cần thiết cho một quy trình làm việc cụ thể”, Quintero nói. Điều đó có nghĩa là chỉ cấp quyền truy cập vào dữ liệu, hệ thống và hành động cần thiết cho một quy trình làm việc cụ thể.

Ông cho rằng quyền sở hữu dữ liệu rõ ràng, kiểm soát truy cập dựa trên vai trò và giám sát liên tục các tương tác với hệ thống nội bộ lẫn bên thứ ba là những biện pháp bảo vệ thiết yếu.

Quintero nhấn mạnh rằng không có thứ gọi là AI cục bộ an toàn.

Quyền quá rộng, mã hóa yếu, giám sát không đầy đủ và các tích hợp thiếu an toàn có thể khiến tác nhân chạy trên thiết bị rủi ro ngang với tác nhân chạy trên đám mây — thậm chí còn rủi ro hơn.

Bảo mật không chỉ phụ thuộc vào nơi mô hình của hệ thống chạy mà còn phụ thuộc vào cách hệ thống được cấu hình và quản lý.

Ranh giới mới nằm ở quyền truy cập

Đối với người dùng thông thường, câu hỏi đặt ra là liệu quyền truy cập của tác nhân AI có phù hợp với nhiệm vụ được giao hay không.

Nếu chỉ được yêu cầu tóm tắt một tài liệu, tác nhân không cần quét toàn bộ ổ đĩa. Công cụ sắp xếp ảnh không nên tự động đọc dữ liệu tài chính hoặc có khả năng gửi tin nhắn. Quyền truy cập phải được giới hạn chặt chẽ, minh bạch và có thể thu hồi.

Mô hình tài khoản tác nhân và không gian làm việc của Microsoft là một bước hướng tới việc tách hoạt động của tác nhân khỏi phiên làm việc của một người. Tuy nhiên, các biện pháp bảo vệ cần phát huy hiệu quả ngoài phạm vi trình diễn.

Hướng dẫn bảo mật tác nhân Windows của Microsoft yêu cầu có sự cho phép của người dùng, nhật ký hoạt động và một cơ chế tiếp cận nhằm giới hạn tác nhân ở mức quyền truy cập cần thiết. Người sử dụng lao động và nhà phát triển cần theo dõi phản ứng của tác nhân trước những chỉ dẫn sai lệch trong tài liệu, trang web hoặc tin nhắn.

Trong khi thực hiện một nhiệm vụ được cho phép, tác nhân có thể gặp phải nội dung không đáng tin cậy. Nếu tác nhân coi văn bản thù địch là mệnh lệnh, điều đó có thể gây ra vấn đề bảo mật nghiêm trọng vì thông tin có thể bị truy cập dễ dàng.

Sự phê duyệt của con người và quyền truy cập tối thiểu phải đi đôi với việc cô lập khi thực hiện các hành động nhạy cảm.

Sự tiện lợi cần có giới hạn rõ ràng

Máy tính AI sẽ không chỉ được đánh giá dựa trên khối lượng công việc mà tác nhân có thể tự động hóa, mà còn dựa trên mức độ người dùng tin tưởng khi chia sẻ dữ liệu cá nhân và công việc.

Dù việc xử lý cục bộ có thể giúp AI tác tử tăng tốc độ và giảm thiểu một số nguy cơ lộ dữ liệu, điều đó không loại bỏ nhu cầu về phân quyền và giám sát.

Nguyên tắc cần rất rõ ràng: tác nhân chỉ nên được truy cập những gì cần thiết cho công việc, còn người dùng phải có thể hiểu, theo dõi và chặn những gì tác nhân thực hiện.

Khi máy tính ngày càng có khả năng hành động thay chúng ta, việc kiểm soát không thể là điều nghĩ đến sau cùng. Khả năng kiểm soát phải được tích hợp ngay từ khâu thiết kế.

Adlin Pertishya là một phóng viên công nghệ và kinh doanh, đã từng làm việc cho Finance Outlook India, Silicon India, StartupBeat và các tổ chức khác.