Vì sao viễn cảnh ngày tận thế chỉ là sự đánh lạc hướng, còn rủi ro thực sự từ AI mới là điều chúng ta nên lo ngại

Nếu theo dõi tin tức, hẳn bạn khó có thể bỏ qua những lời cảnh báo ngày càng dồn dập về ngành AI và viễn cảnh ngày tận thế. Câu chuyện cảnh báo về “rủi ro hiện hữu” mà các hệ thống AI gây ra cho nhân loại đã khiến các công ty an ninh mạng dễ dàng chạy theo xu hướng và dùng nỗi sợ để bán hàng. Tuy nhiên, tập trung vào “ngày tận thế” là sai lầm, bởi điều đó bỏ qua những rủi ro trước mắt hơn mà AI tác nhân đang gây ra cho các tổ chức hiện nay.

Dĩ nhiên, các tác nhân AI hoạt động độc lập với những biện pháp kiểm soát của tổ chức rõ ràng tiềm ẩn rủi ro. Mới đây, các báo cáo từ Úc và Mỹ cho biết các tác nhân AI của OpenAI đã vượt quá nhiệm vụ được giao trên các hệ thống chính phủ ở cả hai quốc gia.

Tuy vậy, mối đe dọa từ những kịch bản AI gây ra ngày tận thế đã bị thổi phồng. Thay vì chăm chăm vào những giả định, các tổ chức phải đối mặt với thực tế mới này và bảo đảm có các biện pháp bảo vệ mang tính tất định để duy trì khả năng chống chịu trong hoạt động.

Internet không có công tắc ngắt duy nhất

Những người tin theo câu chuyện ngày tận thế cho rằng khi AI ngày càng tinh vi và có phạm vi hoạt động rộng hơn, nó có thể trở thành một “công tắc hủy diệt” tập trung — một điểm duy nhất dễ bị chiếm quyền kiểm soát hoàn toàn, từ đó gây ra thảm họa.

Tuy nhiên, Internet có tính phân tán và đa dạng hơn nhiều so với giả định của thuyết công tắc hủy diệt. Internet vận hành như một “mạng lưới gồm nhiều mạng lưới”, bao gồm hàng tỷ thành phần được tổ chức theo nhiều kiến trúc khác nhau và được bảo vệ bởi vô số nhóm vận hành sử dụng các tiêu chuẩn và công cụ khác nhau. Vì vậy, không có một công tắc duy nhất để con người hay máy móc có thể bật — cũng không có một lỗ hổng đơn lẻ hay chuỗi lỗ hổng nào có thể bị khai thác để gây ra hậu quả thảm khốc như vậy.

Ý tưởng AI có thể tạo ra rồi phát tán một mầm bệnh được thiết kế hoặc xâm nhập các hệ thống hạt nhân cách ly khỏi mạng có thể tạo nên một bộ phim hấp dẫn. Dù vậy, đây vẫn là kịch bản khó có thể xem là đáng tin trong một đánh giá mối đe dọa trên thực tế.

Khuất tầm mắt, ngoài tầm kiểm soát

Khi AI tác nhân tiếp tục phát triển, hai yếu tố đã làm thay đổi căn bản bản chất của rủi ro đối với doanh nghiệp.

Một mặt, AI hiện có thể giúp các tác nhân xấu tìm ra và khai thác lỗ hổng an ninh mạng chỉ trong vài phút thay vì vài tháng. Khi các biện pháp phòng thủ AI dựa trên xác suất phát hiện được hoạt động đáng ngờ thì thường đã quá muộn để ứng phó với mối đe dọa. Vì dựa trên khả năng thống kê thay vì các quy tắc cố định, ngay cả những biện pháp tốt nhất cũng sẽ bỏ sót một số hoạt động độc hại, và kẻ tấn công chỉ cần lọt qua một lần

Mặt khác, việc nhân viên sử dụng “AI ngầm” khiến các tổ chức khó biết hơn nhiều cần bảo vệ những gì. Có tới 82% tổ chức được Liên minh An ninh Đám mây khảo sát phát hiện trong năm qua rằng có các tác nhân AI đang hoạt động mà nhóm bảo mật hoặc CNTT không hề biết, mặc dù 68% cho biết họ rất tự tin về khả năng quan sát các tác nhân. Một nghiên cứu riêng của EY cho thấy một phần tư các doanh nghiệp lớn ở Mỹ sử dụng AI tác nhân thừa nhận họ không thể phát hiện các tác nhân trái phép hoạt động bên trong doanh nghiệp.

Đương nhiên, cả hai chuyển biến này đều gây áp lực lớn lên hoạt động của các hệ thống doanh nghiệp. Kết hợp lại, chúng đặt các tổ chức vào thế bất lợi đáng kể: họ quá chậm trong việc phát hiện và khắc phục các lỗ hổng đang bị phơi lộ, đồng thời không biết ngay từ đầu những hệ thống nào đang bị phơi lộ.

Kiểm soát những gì có thể kiểm soát

Các tổ chức cần có danh mục cập nhật liên tục về mọi tác nhân đang hoạt động trong doanh nghiệp, dù được cho phép hay không; mỗi tác nhân phải có một người phụ trách được nêu tên và phạm vi truy cập cũng như hành động được xác định rõ ràng. Đây là bước đầu tiên để kiểm soát những gì có thể kiểm soát, bởi dù các mô hình AI có thể hoạt động theo xác suất, những biện pháp kiểm soát được thiết lập xung quanh chúng vẫn có thể mang tính tất định, cố định và được xác định rõ ràng.

Trên thực tế, điều này có nghĩa là mỗi khi một tác nhân đề xuất hành động, một lớp thực thi riêng biệt, độc lập với chính mô hình đó, phải xác minh rằng hành động được phép thực hiện và lưu lại hồ sơ kiểm toán. Tuy nhiên, chỉ 11% tổ chức tự động chặn hành động của tác nhân khi hành động đó vượt quá phạm vi được phép; phần lớn dựa vào sự phê duyệt của con người hoặc chỉ ghi lại hành động. Sự cố ở Úc cho thấy cái giá phải trả khi trông cậy vào hệ thống mục tiêu để từ chối: bị từ chối quyền truy cập, tác nhân tìm cách khác để xâm nhập. Kiến trúc quản trị tổng thể cũng phải có khả năng liên tục nhận diện, cấp quyền và xác minh tất cả các tác nhân để ngăn rủi ro vận hành không lường trước trở thành hiện thực. Tất cả những việc này cần được thực hiện nhanh chóng, bởi các quy tắc phải vận hành với tốc độ của máy móc để theo kịp những cuộc tấn công diễn ra với tốc độ đó.

Từ nỗi sợ viển vông đến giải pháp thiết thực

Dù có sức thuyết phục đến đâu, làn sóng tin tức dồn dập về ngày tận thế do các hệ thống AI tự hành gây ra vẫn cách xa thực tế. Rủi ro đáng lo ngại thực ra bình thường hơn nhiều so với một AI quyết định hủy diệt chúng ta: một tác nhân hoạt động trong doanh nghiệp của bạn nhanh đến mức không ai kịp nhận ra, với những quyền hạn mà không ai cấp cho nó.

Các vấn đề về tốc độ và khả năng quan sát đều có thể giải quyết, miễn là các hệ thống bảo mật quản lý AI hoạt động theo nguyên tắc tất định và có thể xác minh cũng như theo dõi chính xác mọi tác nhân với tốc độ hoạt động của chúng.

Đối với hội đồng quản trị và lãnh đạo an ninh, vấn đề này quy về ba câu hỏi thực tế: chúng ta có biết mọi tác nhân đang hoạt động trong môi trường của mình không, mỗi tác nhân có người chịu trách nhiệm và giới hạn được xác định rõ không, và liệu chúng ta có thể ngăn chặn một hành động trái phép trước khi nó được thực hiện không? Giúp khách hàng khắc phục những lỗ hổng thực tế này là cách các nhà cung cấp dịch vụ an ninh mạng có thể đóng góp nhiều hơn nữa vào khả năng chống chịu, thay vì gieo rắc nỗi sợ về những tương lai giả định.