Ngành AI muốn chúng ta tin tưởng, nhưng trước hết cần có những biện pháp kiểm soát tốt hơn

Trong lĩnh vực bảo mật, chúng ta không thể đợi đến khi sự cố xảy ra mới biết các biện pháp kiểm soát có hiệu quả hay không. Chúng ta kiểm thử chúng. Chúng ta thử thách chúng. Chúng ta giả định rằng sớm muộn gì cũng có người tìm ra điểm yếu mà mình bỏ sót.

Đó là bài học bảo mật cơ bản.

Vậy tại sao AI tiên phong lại phải áp dụng một tiêu chuẩn khác?

Khi các hệ thống AI ngày càng tự chủ và được tiếp cận nhiều hơn với các hệ thống trong thế giới thực, chúng ta đang chứng kiến một điều đáng lo ngại đối với bất kỳ ai từng làm công tác phòng thủ an ninh mạng: năng lực đang phát triển nhanh hơn khả năng kiểm soát.

Tốc độ không phải là lý do để giảm nhẹ yêu cầu bảo mật. Đó chính là lý do chúng ta cần bảo mật mạnh hơn.

Một đánh giá gần đây của tổ chức phi lợi nhuận Guidelight AI đã xem xét các bằng chứng công khai về thực tiễn kiểm soát AI tại Anthropic, Google, Meta, OpenAI và xAI. Không công ty nào đạt điểm tổng thể cao hơn C+.

Điều đó không có nghĩa là các công ty này hành động liều lĩnh. Cũng không có nghĩa là họ không áp dụng thêm các biện pháp kiểm soát trong nội bộ.

Nhưng bảo mật không thể dựa trên những giả định. Nếu được yêu cầu tin tưởng vào các hệ thống ngày càng mạnh mẽ, chúng ta nên đòi hỏi bằng chứng cho thấy những biện pháp kiểm soát bao quanh chúng có thể chịu được mức độ xem xét nghiêm ngặt như ở bất kỳ lĩnh vực nào khác.

Đừng xem các sự cố như những câu chuyện thú vị

Khi một tác nhân AI hành xử ngoài dự kiến, có được quyền truy cập ngoài ý muốn hoặc làm lộ một điểm yếu, câu chuyện thường tập trung vào những gì công nghệ đã làm.

Điều đó đáng chú ý.

Nhưng đó không phải câu hỏi quan trọng nhất.

Một chuyên gia bảo mật muốn biết: Hoạt động đó có được ghi nhật ký không? Có ai nhận ra sự việc đang diễn ra không? Các hành động nguy hiểm có bị chặn cho đến khi được phê duyệt không? Có ai có thể dừng hệ thống không? Đã có kế hoạch ngăn chặn sự cố chưa, và kế hoạch đó đã được kiểm thử chưa?

Những câu hỏi này không chỉ dành riêng cho AI. Đó là những câu hỏi chúng ta đã đặt ra trong lĩnh vực an ninh mạng suốt nhiều năm.

Tuy vậy, công tác phòng ngừa và ngăn chặn dường như vẫn là những điểm yếu trong môi trường kiểm soát AI tiên phong đang hình thành. Bằng chứng công khai về các hành động có chốt kiểm soát, cơ chế ngắt khẩn cấp và biện pháp ngăn chặn khẩn cấp vẫn còn hạn chế.

Điều đó quan trọng hơn tính mới lạ của sự cố. Khi có sự cố, tôi muốn biết điều gì đã hỏng, điều gì đã ngăn sự việc trở nên nghiêm trọng hơn và sau đó đã có những thay đổi nào.

Minh bạch là điều hữu ích. Rút kinh nghiệm còn quan trọng hơn.

Vấn đề thực sự về bảo mật AI là tốc độ

Tôi không cho rằng mối đe dọa lớn nhất trong ngắn hạn là AI đột nhiên tạo ra một loại tấn công mạng hoàn toàn mới. Vấn đề lớn hơn thiết thực hơn nhiều: AI có thể khiến những cuộc tấn công mà chúng ta đã hiểu rõ diễn ra nhanh hơn rất nhiều.

Những nghiên cứu trước đây mất hàng giờ giờ đây có thể hoàn thành trong vài phút. Các kỹ thuật tấn công có thể được kết hợp với nhau nhanh hơn. Lỗ hổng có thể được xác định và khai thác trước khi quy trình bảo mật lấy con người làm trung tâm kịp thực hiện xong cuộc gọi báo cáo sự cố đầu tiên.

Đây là vấn đề vì phần lớn hạ tầng bảo mật hiện nay vẫn giả định rằng sẽ có thời gian để ứng phó.

Nhưng đôi khi sẽ không có thời gian.

Nếu một cuộc tấn công diễn ra nhanh chóng, quy trình ứng phó dựa trên phiếu yêu cầu, cuộc họp, phê duyệt và báo cáo leo thang thủ công có thể trở nên lỗi thời trước khi bất kỳ ai đi đến bước thứ ba.

Và đó là lúc ngành AI cần nỗ lực hơn.

Nếu các phòng thí nghiệm AI tiên phong kỳ vọng doanh nghiệp phải xem xét lại khả năng quan sát, quản lý lỗ hổng, kiến trúc và ứng phó sự cố trong kỷ nguyên AI, thì họ cũng nên cho chúng ta thấy rằng chính họ đã làm điều tương tự.

“Hãy tin chúng tôi” không phải là một khuôn khổ kiểm soát

Tôi đã dành cả sự nghiệp gắn bó với công tác kiểm thử bảo mật, và có một nguyên tắc vẫn luôn đúng: thiện chí không chứng minh được tính bảo mật. Bằng chứng mới làm được điều đó.

• Bạn kiểm thử.
• Bạn giám sát.
• Bạn tìm cách phá vỡ hệ thống.

Bạn tìm hiểu điều gì sẽ xảy ra khi các biện pháp kiểm soát không hoạt động như sơ đồ kiến trúc mô tả. Và bạn bảo đảm có người đủ thẩm quyền dừng hệ thống khi cần thiết. AI tiên phong cũng cần được áp dụng cùng tiêu chuẩn đó.

Điều đó có nghĩa là phải kiểm thử đối kháng các biện pháp kiểm soát, có bằng chứng định lượng cho thấy chúng hoạt động hiệu quả và xác định rõ thẩm quyền tắt hệ thống khi có sự cố.

Điều đó cũng có nghĩa là phải suy nghĩ lại về cách ngăn chặn sự cố.

Các phòng thí nghiệm AI tiên phong không thể ứng biến cách ngăn chặn sự cố sau khi một tác nhân AI vượt ra ngoài những giới hạn đã định. Khi huấn luyện và kiểm thử các mô hình ngày càng có năng lực, họ phải chịu trách nhiệm về những hành động mà các hệ thống đó có thể thực hiện. Điều này đòi hỏi phải kiểm thử đối kháng nghiêm ngặt, thiết lập trước các biện pháp bảo vệ được phép kích hoạt, quy định rõ giới hạn thẩm quyền của tác nhân và có sẵn những cách thức đã được kiểm chứng để can thiệp hoặc tắt hệ thống trước khi sự cố lan rộng.

Phán đoán của con người vẫn quan trọng. Nhưng các phòng thí nghiệm phát triển những hệ thống này phải thiết lập các giới hạn, kiểm thử xem chúng có được tuân thủ hay không và chịu trách nhiệm khi không được tuân thủ.

Trách nhiệm của họ không chỉ là chứng minh một tác nhân có thể làm được những gì. Họ còn phải cho thấy tác nhân đó có thể vận hành an toàn, hành vi của nó có thể được kiểm soát và những năng lực mới giúp thế giới an toàn hơn, chứ không phải kém an toàn hơn.

Niềm tin phải được gây dựng

Tôi không cho rằng cần làm chậm đổi mới AI đến mức gần như đình trệ. Điều tôi muốn nói là an ninh phải theo kịp đổi mới. Nếu đầu tư nguồn lực khổng lồ để giúp AI trở nên mạnh mẽ hơn, chúng ta cũng cần khẩn trương tương đương trong việc bảo đảm AI có thể được phòng vệ.

Nhưng khi các phòng thí nghiệm AI hàng đầu tăng tốc việc huấn luyện và thử nghiệm các mô hình AI mới có năng lực mạng, họ phải nghĩ đến lực lượng phòng thủ. Trước hết, bằng cách giúp họ phát hiện và ứng phó với các mối đe dọa nhanh hơn. Quan trọng hơn, bằng cách ngăn những hệ thống đó tự trở thành mối đe dọa. Trách nhiệm đó cũng đòi hỏi phải chấp nhận sự giám sát từ bên ngoài.

Việc đánh giá độc lập không thể trở thành điều mà các công ty chỉ hoan nghênh khi nó ủng hộ câu chuyện họ muốn kể. Nếu các hệ thống AI tiên phong đủ mạnh để làm thay đổi bối cảnh mối đe dọa, thì các biện pháp kiểm soát chúng cũng phải đủ vững chắc để vượt qua những cuộc kiểm thử độc lập có ý nghĩa.

Ngành AI muốn có được niềm tin của chúng ta.

Là người làm công tác an ninh mạng, tôi sẵn lòng trao niềm tin ấy. Nhưng trước hết, hãy cho tôi thấy các biện pháp kiểm soát.