Trí tuệ nhân tạo của bạn biết quá nhiều: AI bảo mật không còn là tùy chọn

Các mô hình tạo sinh đang chuyển từ phòng thí nghiệm nghiên cứu sang các quy trình kinh doanh thông thường — và một điểm yếu cấu trúc im lặng đang phát triển cùng với chúng.

Lấy ví dụ này: Microsoft Copilot truy cập gần ba triệu hồ sơ nhạy cảm trên mỗi tổ chức trong nửa đầu năm 2025. Những con số này có nghĩa là có một vấn đề hệ thống với cách tiếp cận AI. Các công ty đã xây dựng các động cơ mạnh mẽ để xử lý dữ liệu, nhưng họ chưa đặt ra đủ biện pháp bảo vệ cho dữ liệu họ sử dụng.

Các mô hình ngôn ngữ lớn và công cụ hỗ trợ thường tính toán tài liệu, tin nhắn và cơ sở dữ liệu mà không có bất kỳ biện pháp bảo vệ phần cứng nào. Khoảng trống này, cho thấy “dữ liệu đang được sử dụng” trong quá trình suy luận, hiện trực tiếp đe dọa đến các doanh nghiệp ưu tiên bảo mật, tuân thủ và niềm tin của khách hàng.

Đó là nơi tính toán bảo mật tham gia. Quá trình này sử dụng môi trường thực thi đáng tin cậy được hỗ trợ bởi phần cứng (TEEs) để giữ mã và dữ liệu an toàn trong khi chúng đang được sử dụng. Những TEE này là các khu vực bộ nhớ cách ly được bảo vệ khỏi hệ điều hành chủ và hypervisor.

Biện pháp bảo vệ này thay đổi mô hình bảo mật, cho phép bí mật được xử lý mà không bị lộ cho phần còn lại của ngăn xếp. Microsoft và các nhà cung cấp đám mây khác hiện cung cấp suy luận riêng và máy ảo (VM) tích hợp suy luận trong TEEs.

Tại sao bảo mật lại quan trọng đối với các quy tắc và quản trị

Mã hóa thông thường thường bảo vệ dữ liệu đang ở trạng thái nghỉ hoặc truyền输, với dữ liệu đang được xử lý tích cực không享 dụng cùng mức bảo vệ, mặc dù đó là nơi trí tuệ nhân tạo tương tác nhiều nhất với các đầu vào riêng tư.

Trước đó trong năm, một nghiên cứu của các nhà nghiên cứu tại Đại học Cornell về các đơn vị tính toán đáng tin cậy cho thấy cách cách ly và chứng thực được hỗ trợ bởi phần cứng có thể giúp giảm nhu cầu tin cậy giữa các bên. Hơn nữa, vào năm ngoái, các nhà phân tích ước tính rằng giá trị của cơ sở hạ tầng tính toán riêng tư đạt hơn 13 tỷ đô la, với dự báo chỉ ra sự tăng trưởng nhanh hơn nữa lên 350,04 tỷ đô la vào năm 2032.

Nói một cách đơn giản, nhiều người đang sử dụng công nghệ này, dẫn đến các quy định và đội ngũ tuân thủ thể hiện sự quan tâm nhiều hơn đến các hệ thống AI. Do đó, một khuôn khổ đảm bảo dữ liệu nhạy cảm không bao giờ rời khỏi thực thi bảo vệ trong quá trình truy vấn mô hình sẽ làm cho các đường dẫn kiểm toán dễ dàng theo dõi hơn, giảm thiểu rủi ro về các vấn đề pháp lý.

Tuy nhiên, nếu các biện pháp bảo vệ thời gian chạy không trở thành tiêu chuẩn, sự khác biệt này có thể khiến các quy định chấp nhận AI trong các lĩnh vực được quản lý chặt chẽ hơn.

Các tình huống thực tế nơi bảo mật là điều cần thiết

Có một số kịch bản doanh nghiệp cho thấy tại sao AI bảo mật không phải là một điều xa xỉ mà là điều cần thiết cho mọi tổ chức.

Chẳng hạn, trong lĩnh vực tài chính, điều này có thể áp dụng cho các tổ chức cần chạy các mô hình phát hiện gian lận và rủi ro chống lại lịch sử giao dịch của khách hàng mà không cho phép các nhà điều hành mô hình bên ngoài truy cập vào các hồ sơ thô.

Trong lĩnh vực chăm sóc sức khỏe, có thể có các tình huống mà các mô hình chẩn đoán phải hoạt động trên dữ liệu lâm sàng được bảo vệ trong khi duy trì quyền riêng tư của bệnh nhân và đáp ứng các nghĩa vụ quy định nghiêm ngặt. Hơn nữa, các chính phủ và cơ quan quốc phòng có thể yêu cầu thực thi được chứng thực để chạy các khối lượng công việc nhạy cảm trên đám mây của bên thứ ba.

Cũng có các đường ống nghiên cứu kết hợp dữ liệu từ nhiều nguồn, đáng chú ý là nghiên cứu sức khỏe liên bang, chỉ có thể tiếp tục nếu mỗi bên tham gia tin tưởng rằng đầu vào của họ sẽ vẫn không thể đọc được trong quá trình tính toán.

Cũng có nghiên cứu học thuật và công nghiệp tiếp tục ghi lại các phương pháp học máy bảo vệ quyền riêng tư cho các quy trình làm việc y tế kết hợp tốt với thực thi bảo mật.

Thực thi bảo mật thực sự bảo vệ dữ liệu đang được sử dụng như thế nào

Thực thi bảo mật phụ thuộc vào hai hệ thống liên kết: cách ly phần cứng và chứng thực. Cách ly phần cứng ngăn chặn phần mềm bên ngoài khu vực an toàn đọc bộ nhớ của khu vực an toàn.

Chứng thực là một cách có thể kiểm chứng để kiểm tra mã chạy bên trong khu vực an toàn và khu vực an toàn đó là chính xác. Những tính năng này cho phép chủ sở hữu mô hình chứng minh rằng mô hình sẽ hoạt động với các đầu vào trong một môi trường đã được xác minh và niêm phong, và đầu ra chỉ sẽ xuất hiện sau khi các quy tắc của khu vực an toàn được tuân theo.

Kết quả là một hợp đồng giữa chủ sở hữu dữ liệu, nhà điều hành mô hình và nhà cung cấp đám mây làm giảm khả năng họ cần phải tìm cách giải quyết pháp lý đối lập hoặc dựa vào các chính sách dễ vỡ.

Giới hạn và chướng ngại vật thực tế

Tất nhiên, việc áp dụng AI bảo mật đi kèm với những thách thức của nó. Chứng thực và phần cứng có thể hoạt động trong các khu vực an toàn làm cho việc triển khai trở nên phức tạp hơn, vì có một khoảng trống trong hệ sinh thái giữa công cụ phục vụ mô hình truyền thống và thời gian chạy khu vực an toàn. Một số thời gian chạy khu vực an toàn áp đặt tải trọng nặng, chi phí lên đến mười lần để chạy, và cũng có thể có sự đánh đổi về hiệu suất tùy thuộc vào khối lượng công việc.

Hơn nữa, chi phí cao hơn bây giờ so với suy luận đám mây thông thường, điều này có thể khiến các doanh nghiệp nhỏ gặp khó khăn khi xem xét các con số. Cũng có vấn đề về việc thay đổi các tiêu chuẩn tương tác, điều này có thể khiến một số người áp dụng sớm gặp rủi ro bị kẹt với nhà cung cấp của họ.

Tuy nhiên, những vấn đề này chỉ là những vấn đề kỹ thuật tạm thời có thể được giải quyết. Các nhà cung cấp đám mây và nhà sản xuất chip tiếp tục tung ra các sản phẩm mới, và các dự án phần mềm đang tạo ra phần mềm trung gian kết nối các ngăn xếp học máy hiện tại và TEEs.

Nếu không, các công ty nghĩ rằng mã hóa tiêu chuẩn và kiểm soát truy cập là đủ sẽ gặp rủi ro lớn hơn vì họ sẽ dễ bị tổn thương khi mô hình xử lý nhiều hồ sơ nhạy cảm.

Một lời kêu gọi thay đổi thực tiễn doanh nghiệp

Các đội quản lý rủi ro cần thay đổi các quy tắc về cách mua và sử dụng AI. Phân loại dữ liệu và quản trị vẫn quan trọng, nhưng chúng cần được hỗ trợ bởi các bảo đảm kỹ thuật khi chúng đang được sử dụng.

Các hợp đồng với các nhà cung cấp mô hình bên thứ ba nên yêu cầu họ cung cấp bằng chứng về chứng thực. Các đội mua hàng nên yêu cầu các baseline hiệu suất và các tùy chọn đã được kiểm toán cho thực thi bảo mật. Các bài tập kiểm tra đỏ nên bao gồm kiểm tra khu vực an toàn như một phần của công việc của họ. Những bước này chuyển trách nhiệm từ các cam kết ad hoc sang các biện pháp kiểm soát có thể được kiểm tra.

Cũng như vậy, các nhóm chính sách công và tiêu chuẩn ngành cần thiết lập các kỳ vọng. Các kiểm toán viên, cán bộ tuân thủ và các cơ quan quản lý nên yêu cầu các biện pháp bảo vệ thời gian chạy có thể kiểm chứng cho các loại khối lượng công việc xử lý dữ liệu được quản lý.

Các quy tắc này sẽ giảm số lượng vi phạm xảy ra sau này và mang lại cho ngành tự do đổi mới mà không phải lo lắng về các vấn đề pháp lý. Điều này sẽ cho phép các quy trình làm việc trong lĩnh vực tài chính, chăm sóc sức khỏe và khu vực công sử dụng các mô hình mới mà không gặp phải các rào cản quản lý.

Bảo mật là tiêu chuẩn

Trí tuệ nhân tạo tạo sinh đã trở thành một công cụ hữu ích cho các doanh nghiệp xử lý thông tin riêng tư. Thực tế này có nghĩa là thực thi bảo mật không còn là một tùy chọn đặc biệt; nó phải là thực tiễn tiêu chuẩn cho bất kỳ hệ thống AI nào xử lý dữ liệu được quản lý, độc quyền hoặc cá nhân.

Hiện đã có các công cụ có sẵn, như TEEs, dịch vụ chứng thực và các dịch vụ máy ảo riêng, và kinh tế đang trở nên tốt hơn rất nhanh. Tùy chọn khác là giữ các tài sản nhạy cảm mở cho rò rỉ thời gian suy luận, điều này có thể có các tác động pháp lý, tài chính và danh tiếng mà các doanh nghiệp không thể chấp nhận được. Ví dụ, theo báo cáo Chi phí vi phạm dữ liệu năm 2025 của IBM, chi phí vi phạm dữ liệu trung bình toàn cầu đạt gần 5 triệu đô la, với các quy định như GDPR áp dụng các khoản phạt lên đến 20 triệu euro cho các vi phạm nghiêm trọng.

Các công ty đặt bảo mật lên hàng đầu trong quản trị AI sẽ có lợi thế: họ có thể chạy các thử nghiệm toàn diện và tuân thủ hơn, và sử dụng các mô hình trong các lĩnh vực mà sự đổi mới của bên ngoài trước đây bị hạn chế. Tóm lại, việc bảo vệ dữ liệu trong khi các mô hình chạy không phải là một rào cản đối với việc áp dụng; nó là cơ sở cho AI có trách nhiệm và có thể mở rộng trong kinh doanh và chính phủ.