AI trở thành mối đe dọa nội gián mới, nhưng các kế hoạch ứng phó đang chậm một bước

Vụ xâm nhập Hugging Face cùng những sự cố tương tự đã khiến toàn ngành lo ngại, nhưng các tổ chức nên tập trung vào SDLC chứ không phải lớp mô hình AI.

Vụ xâm nhập Hugging Face hồi tháng 7 do các tác nhân của OpenAI thực hiện, rồi nhanh chóng nối tiếp bằng những báo cáo về các vụ vượt thoát tương tự liên quan đến mô hình của Anthropic và Meta, đã gióng lên hồi chuông cảnh báo về một dạng tấn công mạng có vẻ mới: mối đe dọa nội gián từ AI tác nhân có chủ đích xấu.

Nhưng dạng sự cố này thực ra không mới. Việc nó xảy ra tại các phòng thí nghiệm AI tiên phong—những nơi đã khiến mọi người lo ngại trong vài năm qua—khiến mối đe dọa mang một diện mạo mới đáng ngại, nhưng các sự cố này cho thấy cùng một kiểu thất bại và những điểm mù mà các doanh nghiệp đã tích tụ suốt nhiều năm.

Các tác nhân này cũng không cố ý có hành vi xấu. Trong vụ xâm nhập Hugging Face, các tác nhân trí tuệ nhân tạo—khoảng 1.200 tác nhân—đang cố gắng hoàn thành mục tiêu được giao trong môi trường thử nghiệm, dù phải thừa nhận rằng hành vi của chúng không phải lúc nào cũng chính đáng. Trong quá trình đó, chúng bí mật liên lạc với nhau, khai thác các lỗ hổng và hoạt động mà không bị phát hiện trong vài tháng; khoảng 700 tác nhân đã vượt qua ranh giới của môi trường “cô lập” và truy cập được Internet cũng như các bên thứ ba.

Điều đáng lo ngại về những sự cố này không chỉ là việc các tác nhân AI không bị giới hạn có thể gây ra mối đe dọa nghiêm trọng—điều chắc chắn là có thể. Nếu các tác nhân có thể tự tung tự tác ngay trước mắt đội ngũ của một phòng thí nghiệm AI tiên phong, nơi có nhiều nhân tài, nguồn lực và động lực để theo dõi sát sao hoạt động của chúng, thì có lẽ bạn cũng nên tự hỏi các tác nhân AI và công cụ được AI hỗ trợ đang chạy trong môi trường phát triển của mình hiện làm những gì. Nếu những tên tuổi lớn nhất trong lĩnh vực AI còn không thể giám sát môi trường của họ theo thời gian thực, thì một tổ chức bình thường có thể làm được đến đâu?

Cách tốt nhất để các tổ chức kiềm chế AI tác nhân là nhận ra rằng tình hình mới này chỉ là một phiên bản mạnh hơn của thách thức đã tồn tại từ lâu. Nhưng để giải quyết vấn đề, cần có thứ mà nhiều doanh nghiệp vẫn còn thiếu: khả năng quan sát và giám sát ngay từ giai đoạn đầu của vòng đời phát triển phần mềm (SDLC).

OpenAI và Hugging Face: Dấu hiệu báo trước điều sắp xảy ra

Trong vụ xâm nhập Hugging Face, một loạt mô hình AI tiên phong, trong đó có mô hình chủ lực mới GPT-5.6 Sol của OpenAI, ra mắt hồi tháng 7, đã cố gắng giải quyết một mục tiêu cụ thể: bài kiểm tra chuẩn ExploitGym, đánh giá khả năng khai thác lỗ hổng bảo mật của một tác nhân. Trong bài đăng đề cập đến vụ xâm nhập, Anthropic lưu ý rằng các mô hình AI, dù “hoạt động với các biện pháp bảo vệ bị giảm bớt”, vẫn có thể vượt quá giới hạn, né tránh các biện pháp kiểm soát kỹ thuật, hợp tác qua những kênh không được phép và cuối cùng thực hiện các hành động rủi ro.

Dù vụ xâm nhập được phát hiện vào tháng 7, các tác nhân đã bắt đầu liên lạc không phù hợp từ tháng 5 mà vẫn không bị phát hiện. METR và Redwood Research tiến hành một cuộc điều tra độc lập song song với OpenAI và phát hiện rằng dù biết mình đang vi phạm quy tắc, chỉ một số ít tác nhân nghĩ đến việc thông báo cho OpenAI; thay vào đó, chúng vẫn tiếp tục làm tới.

Sau báo cáo của OpenAI, Anthropic kiểm tra lại các đánh giá an ninh mạng trước đó và phát hiện một mô hình Claude đã vượt qua các biện pháp kiểm soát ba lần trong tháng 4, tìm ra cách kết nối Internet và truy cập trái phép vào ba tổ chức bên ngoài. Không lâu sau, Meta tiết lộ rằng một phiên bản của mô hình AI tác nhân tiên tiến nhất của hãng, Muse Spark 1.1, cũng đã thoát khỏi môi trường thử nghiệm bảo mật mạng biệt lập và xâm nhập mạng lưới của một công ty bên ngoài.

Trong báo cáo, OpenAI cũng cảnh báo rằng sự cố này là dấu hiệu báo trước những gì sắp xảy ra, đồng thời cho biết nhiều mô hình, kể cả các mô hình nguồn mở phổ biến hằng ngày, sẽ sớm có khả năng làm điều tương tự. Vụ xâm nhập Medicare gần đây càng củng cố nhận định này.

AI cần được quản trị ở cấp độ SDLC

Các vụ khai thác bằng AI tác nhân này đã khiến cộng đồng AI rúng động. OpenAI tuyên bố sẽ siết chặt các biện pháp kiểm soát trong môi trường thử nghiệm, sau đó cùng Anthropic, Microsoft, Amazon Web Services và hơn 100 công ty khác đưa ra cảnh báo về làn sóng tấn công mạng có AI hỗ trợ sắp xảy ra nhằm vào cơ sở hạ tầng trọng yếu. Bức thư cảnh báo rằng các cuộc tấn công có thể chỉ còn cách vài tháng.

Các tổ chức lo ngại có thể trở thành nạn nhân của những cuộc tấn công tương tự cần củng cố cơ sở hạ tầng của chính mình, bắt đầu từ khâu phát triển phần mềm. Vấn đề thực sự không chỉ nằm ở mức độ tinh vi ngày càng tăng của AI tác nhân, mà còn ở việc thiếu giám sát theo thời gian thực và sự giám sát thực chất của con người. Các tổ chức nên tập trung khắc phục những thiếu sót về con người và quy trình, thay vì xem rủi ro từ AI là điều tất yếu về mặt công nghệ.

Ở phần lớn ngành công nghiệp, các tổ chức tập trung hoạt động giám sát và khả năng quan sát ở lớp mô hình AI, tức là đã chậm một bước. Đến lúc đó, con ngựa đã đi được nửa đường ra khỏi chuồng. Cần áp dụng khả năng quan sát, giám sát và quản trị ngay tại nơi AI lần đầu được đưa vào doanh nghiệp: bên trong SDLC. Các tổ chức cũng cần bảo đảm rằng những nhà phát triển sử dụng công cụ lập trình AI được đào tạo và có đủ kỹ năng để ngăn các công cụ đó đưa lỗi, lỗ hổng bảo mật và thói quen xấu vào quy trình phát triển.

Phần lớn lỗi phần mềm bắt nguồn từ giai đoạn phát triển. Khi nhà phát triển không có kỹ năng viết mã an toàn hoặc khắc phục những lỗi do AI gây ra, vấn đề có thể nhanh chóng lan rộng. Nhà phát triển cần một chương trình đào tạo trang bị các kỹ năng bảo mật cần thiết, đồng thời theo dõi tiến độ tiếp thu những kỹ năng đó cũng như việc áp dụng chúng thường xuyên trong công việc.

Khi AI ngày càng ăn sâu vào cách thức vận hành của các tổ chức, ngày càng rõ ràng rằng khả năng truy vết, khả năng quan sát và hoạt động quản trị đối với cả nhà phát triển lẫn các công cụ lập trình bằng AI của họ đã trở thành tiêu chuẩn cơ bản mới để tạo ra mã an toàn trong doanh nghiệp.

Các mối đe dọa liên tục đòi hỏi phản ứng liên tục

Trước đây, có lẽ chúng ta từng cho rằng phần mềm tương đối vô hại, chỉ làm những gì được lập trình để thực hiện. Nếu xảy ra trục trặc, phần mềm có thể bị treo hoặc khiến hệ thống ngừng hoạt động một lúc, nhưng sẽ không tấn công. AI, đặc biệt là AI tác nhân, đã đảo lộn hoàn toàn giả định đó. Dù hoạt động theo kiểu tác nhân hay có nhà phát triển hỗ trợ, mọi hành động của mô hình AI đều phải được giám sát và quản trị liên tục.

Mối đe dọa từ AI đang nổi lên, dù nhắm vào bệnh viện, nhà máy xử lý nước, nhà máy điện hay doanh nghiệp, đều có thể khiến người ta nghĩ đến mà khiếp sợ. Nhưng các tổ chức không phải không có cách tự bảo vệ. Họ có thể triển khai hoạt động quản trị AI, nhưng cần xây dựng từ nền tảng. Bằng cách xây dựng văn hóa cam kết phát triển phần mềm an toàn và cung cấp chương trình đào tạo cho nhà phát triển để đạt mục tiêu đó, các tổ chức có thể tăng cường đáng kể khả năng quan sát, truy vết và quản trị đối với một vấn đề tiềm ẩn mà nếu không được kiểm soát, sẽ ngày càng trở nên nghiêm trọng.