Tại sao các công ty AI đang chạy đua để thú nhận các lỗ hổng bảo mật

Trong hầu hết các ngành khác, “sản phẩm của chúng tôi đã xâm nhập vào hệ thống của công ty khác” là loại sự cố mà một tổ chức sẽ cố gắng giữ kín. Tuy nhiên khi AI đang tiến nhanh, các thất bại về bảo mật của nó trở thành tin tức thường xuyên, các công ty hiện giải thích hoạt động AI không dự định trong các bài blog được soạn thảo cẩn thận.

Cảm giác ngày càng thường xuyên này nên là một dấu báo đỏ cho các nhà lãnh đạo doanh nghiệp.

Khi các mô hình AI trở nên mạnh mẽ hơn, tự chủ hơn và được tích hợp sâu hơn vào hoạt động doanh nghiệp, việc công khai đã trở thành một trong những đồng tiền có giá trị nhất của ngành. Các công ty biết rằng khách hàng không thể tự mình xác minh mọi tuyên bố an toàn về một mô hình tiên tiến, vì vậy việc thừa nhận thất bại cho thấy một tổ chức sẽ xem xét các sai lầm của mình công khai. Tuy nhiên minh bạch không đồng nghĩa với trách nhiệm. Công khai không bao giờ có thể thay thế cho việc phòng ngừa, điều sẽ ngày càng quan trọng khi các mô hình AI tiếp tục trưởng thành.

Khi một tiết lộ kích hoạt lần tiếp theo

Mô hình đã trở nên rõ ràng trong vài tuần qua. Các mô hình đang được OpenAI đánh giá đã vô tình truy cập vào các hệ thống trực tiếp, bao gồm cơ sở hạ tầng sản xuất của Hugging Face. OpenAI xác định chính tác nhân của mình là nguyên nhân và đã công khai sự cố. Sự thừa nhận đó đã khiến Anthropic xem xét hơn 141.000 lần đánh giá, phát hiện ba trường hợp mà các mô hình Claude đã tiếp cận internet và xâm phạm hệ thống sản xuất của ba tổ chức.

Sau đó là Meta, công ty không đưa ra đánh giá công khai trước. Truyền thông đã đưa tin về sự cố trước, và chỉ sau đó Meta mới xác nhận rằng một cấu hình sai trong quá trình thử nghiệm bên ngoài đã cho phép một trong các mô hình của họ tiếp cận internet và khai thác lỗ hổng trong dịch vụ của bên thứ ba. Meta cho biết họ đang điều tra và sẽ chia sẻ thêm sau.

Các sự cố này không giống nhau, và các mô hình đang hoạt động trong những điều kiện đánh giá bất thường. Trong một số trường hợp, các biện pháp bảo vệ bình thường đã bị giảm hoặc tắt để đo lường khả năng mạng thô. Nhưng bài học rộng hơn khó có thể bỏ qua: các hệ thống ngày càng tự chủ đã vượt qua giới hạn mà các nhà vận hành tin rằng mình đã đặt ra.

Minh bạch có thể là lợi thế cạnh tranh (hoặc có phải không?)

Giải thích hào phóng là các công ty AI đang phát triển một nền văn hoá công khai trưởng thành. An ninh mạng đã mất hàng thập kỷ để học rằng bí mật thường làm tăng thiệt hại. Các tổ chức báo cáo sự cố kịp thời, giải thích những gì đã xảy ra và giúp người khác học hỏi, thường nhận được nhiều uy tín hơn so với những tổ chức giảm nhẹ hoặc trì hoãn. 

Tiết lộ của Anthropic cho thấy điều đó trông như thế nào. Nó mô tả phạm vi đánh giá, thừa nhận những thất bại của mình, liên hệ với các tổ chức bị ảnh hưởng và phác thảo các biện pháp kiểm soát mà họ dự định thay đổi. Họ tiếp cận việc sửa chữa như thể trách nhiệm chỉ thuộc về họ, mặc dù cấu hình thử nghiệm của bên thứ ba đã góp phần. Công khai có hiệu quả không đòi hỏi phải giả vờ một tổ chức gây ra mọi thất bại. Nó đòi hỏi chấp nhận trách nhiệm đối với các biện pháp kiểm soát trong tầm ảnh hưởng của bạn.

Một lời thú nhận có thể làm nhiều hơn việc xây dựng niềm tin

Tuy nhiên công khai không bao giờ chỉ vì lợi ích vô vị lợi. Một lời thú nhận công khai có thể thực hiện nhiều nhiệm vụ chiến lược cùng một lúc.

Đầu tiên, nó có thể thể hiện khả năng. “Mô hình của chúng tôi đã thoát khỏi thử nghiệm và xâm phạm một hệ thống thực tế” là một lời thừa nhận đáng báo động, nhưng đồng thời cũng là bằng chứng cho thấy mô hình này có sức mạnh bất thường. Sự cố trở thành, dù có chủ ý hay không, một buổi trình diễn sản phẩm.

Thứ hai, nó cho phép công ty định hình câu chuyện trước khi các cơ quan quản lý, khách hàng hoặc nhà báo làm điều đó cho họ. Tổ chức xác định thuật ngữ, giải thích các điều kiện thử nghiệm và khung giải pháp.

Thứ ba, việc công khai lặp lại có nguy cơ làm cho hành vi này trở nên bình thường hoá. Nếu mỗi phòng thí nghiệm AI lớn báo cáo rằng một tác nhân đã vượt qua ranh giới và xâm phạm một hệ thống trực tiếp, ngành có thể bắt đầu coi hành vi này như một hệ quả không thể tránh khỏi của sự tiến bộ.

Nó không thể trở thành tiêu chuẩn. Các Giám đốc An ninh Thông tin (CISO) mà tôi nói chuyện muốn biết tại sao các biện pháp phòng ngừa không ngăn chặn hoạt động này. Họ hỏi ai đã cho phép mô hình truy cập, những ranh giới nào đã được thực thi, cách hành động của nó được giám sát như thế nào và liệu có ai có thể ngăn chặn nó trước khi nó tiếp cận bên thứ ba hay không. Đó là những câu hỏi về trách nhiệm, không phải chỉ về truyền thông.

Công khai là khởi đầu của trách nhiệm

An ninh mạng đã học được rằng công bố một sự cố không đồng nghĩa với việc xử lý nó. Một công khai đáng tin cậy giải thích những gì đã xảy ra, ai bị ảnh hưởng, cách các bên phản ứng đã kiềm chế như thế nào, những biện pháp kiểm soát nào đã thất bại, và gì sẽ ngăn chặn hoạt động tương tự lần tới.

Đối với các tác nhân AI, tiêu chuẩn này phải được mở rộng hơn. Các tác nhân không tuân theo các đường đi có thể dự đoán. Chúng suy luận, chọn công cụ và thích nghi với ngữ cảnh. Một mục tiêu hợp pháp không đảm bảo rằng mọi bước tiến tới mục tiêu đó đều hợp pháp. Các tổ chức cần các biện pháp kiểm soát phòng ngừa quy định những gì một tác nhân có thể truy cập, công cụ nào nó có thể sử dụng, và hành động nào nó có thể thực hiện, cùng với việc giám sát liên tục những gì tác nhân thực sự làm.

Công việc này phải bắt đầu trước khi triển khai. Các nhà lãnh đạo nên yêu cầu mô hình đe dọa cho các quy trình làm việc của tác nhân, quyền truy cập tối thiểu, giới hạn rõ ràng về kết nối bên ngoài, xác thực độc lập các môi trường thử nghiệm, thực thi chính sách thời gian thực và các điểm can thiệp của con người rõ ràng. Bạn không thể gắn thêm biện pháp phòng ngừa sau sự cố công khai đầu tiên.

Các nhà lãnh đạo nên quyết định ngay bây giờ điều gì sẽ xảy ra tiếp theo

Mỗi doanh nghiệp triển khai các tác nhân AI có thể cuối cùng sẽ đối mặt với phiên bản riêng của khoảnh khắc này. Tổ chức có thể phát hiện rằng một tác nhân đã truy cập thông tin mà không nên, hành động vượt quá thẩm quyền hoặc tiếp cận một hệ thống bên ngoài một cách bất ngờ.

Hãy quyết định ngay bây giờ những gì bạn sẽ công khai, cho ai và dưới những điều kiện nào. Quan trọng hơn, xác định trách nhiệm đi kèm với nó. Ai sở hữu các hành động của tác nhân? Ai có thể cắt quyền truy cập của nó? Bằng chứng nào bạn sẽ bảo quản? Biện pháp kiểm soát nào bạn sẽ thêm vào trước khi hệ thống hoạt động trở lại?

Việc vội vàng công bố các thất bại của AI có thể là dấu hiệu của một ngành công nghiệp lành mạnh và cởi mở hơn. Nhưng lời thú nhận không thể là toàn bộ câu chuyện.

Niềm tin không được xây dựng chỉ bằng lời thừa nhận. Nó được xây dựng bởi các biện pháp kiểm soát lẽ ra phải ngăn ngừa sự cố, các hành động được thực hiện ngay sau đó, và bằng chứng rằng cùng một lỗi sẽ không chỉ xảy ra lại.