Các biện pháp kiểm soát AI trong doanh nghiệp có thể quan trọng hơn những mô hình tiên phong

Đừng bận tâm đến những bước tiến tiên phong của AI. Khách hàng đang yêu cầu doanh nghiệp tăng cường biện pháp kiểm soát đối với AI hiện có, và kinh nghiệm với PCI DSS là một hình mẫu hữu ích.

Thời kỳ AI được cơ quan quản lý ưu ái đã qua. Những tiết lộ gần đây đã làm dấy lên các cuộc thảo luận về việc làm chậm tiến độ phát triển các mô hình tiên phong và bắt buộc áp dụng các biện pháp kiểm soát. Một trong số ít điểm đồng thuận là các biện pháp kiểm soát nên được đặt bên ngoài mô hình và phải được xác minh độc lập.

Các bên vẫn đang tranh luận về những gì sẽ diễn ra tiếp theo, nhưng cơ quan quản lý đã bắt đầu hành động. Đạo luật AI của Liên minh châu Âu đang từng bước áp dụng các nghĩa vụ về an ninh, bao gồm cả trách nhiệm pháp lý của bên mua. Tại Hoa Kỳ, Khung Quản lý Rủi ro AI của NIST đang được áp dụng làm chuẩn mực về sự cẩn trọng hợp lý. Trên toàn cầu, 10 rủi ro hàng đầu của OWASP đối với các ứng dụng LLM đã trở thành tài liệu tham khảo phổ biến trong các đợt đánh giá an ninh, còn chứng nhận ISO/IEC 42001 đang xuất hiện trong các tài liệu mua sắm.

Điều đó có nghĩa là các nhà phát triển mô hình không phải là bên duy nhất phải chịu trách nhiệm. Các nghĩa vụ và rủi ro về an ninh cũng thuộc về những doanh nghiệp sử dụng các mô hình đã được phát hành, đặc biệt trong những trường hợp sử dụng có rủi ro cao. Những câu trả lời không phù hợp trong bảng câu hỏi an ninh của khách hàng hoặc hồ sơ phản hồi yêu cầu đề xuất (RFP) có thể khiến một thương vụ B2B bị đình trệ.

PCI DSS chỉ ra hướng đi

May thay, chúng ta đã từng chứng kiến chuyện này. Hai mươi năm trước, an ninh ứng dụng web chủ yếu dựa vào các đợt kiểm tra mã định kỳ, quét tĩnh và tính kỷ luật của nhà phát triển. Sau đó, Yêu cầu 6.6 của PCI DSS, được ban hành năm 2006 và bắt đầu áp dụng từ năm 2008, yêu cầu các tổ chức xử lý dữ liệu chủ thẻ phải rà soát toàn bộ mã ứng dụng để tìm lỗ hổng hoặc cài đặt các biện pháp kiểm soát kỹ thuật tự động. Về sau, phương án rà soát mã bị loại bỏ và các biện pháp kiểm soát kỹ thuật trở thành yêu cầu bắt buộc.

Tuy nhiên, PCI DSS khởi đầu không phải là luật. Tiêu chuẩn này bắt đầu dưới dạng một tiêu chuẩn hợp đồng, làm thay đổi thị trường, có lẽ nhanh hơn so với luật pháp, bởi hợp đồng được triển khai nhanh hơn các đạo luật của chính phủ.

Tương tự, các tổ chức hiện đang chịu áp lực phải áp dụng biện pháp kiểm soát đối với AI đã triển khai, không phải từ cơ quan quản lý mà từ khách hàng và đối tác, thông qua bảng câu hỏi an ninh, điều khoản trong yêu cầu đề xuất và các yêu cầu của hợp đồng bảo hiểm.

Giải quyết vấn đề vận hành, rồi tuân thủ sẽ theo sau

Áp lực đó có thể khó xử lý, bởi quản trị AI không chỉ liên quan đến chính sách. Việc này còn đòi hỏi bằng chứng kỹ thuật liên tục.

Nhiều doanh nghiệp mà tôi trao đổi đang vận hành từ nửa tá mô hình trở lên trong môi trường thực tế, thường kết nối hoặc điều phối chúng để đầu ra của mô hình này trở thành đầu vào của mô hình khác. Hãy thử hình dung việc chứng minh rằng một chính sách bất kỳ được thực thi trên toàn hệ thống—chẳng hạn như ngăn đầu ra của mô hình chứa thông tin nhận dạng cá nhân (PII)—trong những điều kiện như vậy. Việc kiểm tra thủ công nhiều mô hình được cấu hình riêng lẻ sẽ tiêu tốn thời gian của nhà phát triển. Hơn nữa, hầu hết các tổ chức đều gặp khó khăn trong việc kiểm soát việc sử dụng AI trái phép và có rủi ro cao, chẳng hạn như nhân viên dán dữ liệu nhạy cảm vào các công cụ AI dành cho người tiêu dùng hoặc các nhà cung cấp SaaS âm thầm bật tính năng AI mới. Tuy nhiên, toàn bộ trách nhiệm pháp lý vẫn thuộc về doanh nghiệp.

Trong những tình huống đầy thách thức như vậy, các yêu cầu có thể được cô đọng thành một nhiệm vụ đơn giản: Chứng minh rằng bạn có thể liên tục giới hạn đầu vào và đầu ra của mô hình, đồng thời ghi lại hoạt động đó để phục vụ việc xác minh. Khi ứng dụng gọi mô hình, tác nhân sử dụng công cụ, còn mô hình thực hiện hành động hoặc kích hoạt quy trình làm việc, thứ cần được kiểm soát chính là hành động—lời gọi công cụ, yêu cầu API hoặc lệnh kích hoạt quy trình làm việc.

Chuyển khâu bảo mật sang luồng suy luận

Hành động đó chính là điểm thực thi mà các chuyên gia bảo mật ứng dụng đã dành 20 năm xây dựng để bảo vệ lưu lượng ứng dụng. Đặc biệt khi hoạt động suy luận được định tuyến qua cơ sở hạ tầng dùng chung, luồng suy luận trở thành điểm kiểm soát lý tưởng trên nhiều mô hình và cả những hoạt động sử dụng AI trái phép. Lưu lượng suy luận AI cần được chuyển tiếp, kiểm tra, xác thực và quản trị như mọi tương tác quan trọng khác của ứng dụng, dựa trên nguồn phát sinh lưu lượng và mục đích của lưu lượng đó. Không như việc kiểm tra thủ công, quản trị lưu lượng suy luận có thể mở rộng quy mô.

Bắt đầu như thế nào

Trước xu hướng sắp tới của các quy định, các tổ chức cần bắt đầu thực hiện ngay ba việc:

1. Lập bản đồ phạm vi trách nhiệm pháp lý của bạn, từ API SaaS và điểm cuối được lưu trữ đến AI ngầm.
2. Tách biệt chính sách và khâu thực thi bảo mật khỏi các mô hình, đồng thời đưa chúng vào luồng suy luận.
3. Đảm bảo nhật ký kiểm tra được tạo ra ngoài tầm kiểm soát của mô hình và tác nhân, vốn đã được chứng minh là có thể tìm cách chỉnh sửa hồ sơ về chính hành động của chúng.

Tiêu chuẩn nào được xem là giám sát và thực thi đầy đủ vẫn đang được xác định, nhưng các nhóm vận hành doanh nghiệp và an ninh của bạn hiểu rõ điều gì thực sự có thể thực thi, biện pháp kiểm soát nào gây tốn kém về độ trễ và độ phức tạp, cũng như khi nào một quy tắc dù có thiện ý vẫn có thể dẫn đến kết quả sai. Hãy để họ tham gia ngay từ bây giờ. Những rủi ro và nghĩa vụ an ninh gắn liền với việc sử dụng AI là có thật, và chắc chắn khách hàng cùng lãnh đạo doanh nghiệp quan tâm đến những rủi ro họ đang phải đối mặt hôm nay hơn là các mối đe dọa từ những mô hình tiên phong trong tương lai.