Thực sự xảy ra điều gì trong một cuộc tấn công được trang bị AI?

Trong nhiều năm, ngành công nghiệp an ninh mạng đã nói về các cuộc tấn công AI trong tương lai. Chúng tôi tưởng tượng các siêu hacker có trí tuệ nhân tạo phá vỡ tường lửa bằng logic kỳ lạ. Thực tế, như chúng tôi đang khám phá trong phòng thí nghiệm của Simbian, là ít ấn tượng hơn nhưng nguy hiểm hơn nhiều.

Nguy cơ không phải là AI thông minh siêu phàm. Đó là AI làm cho sự kiên nhẫn của chuyên gia trở nên có thể mở rộng, tức thời và thay đổi vô hạn. Nó biến “cải tiến biên” của một kịch bản thành một dòng thác của entropy mà không đội ngũ SOC (Security Operations Center) nào của con người có thể xử lý.

Đây là những gì thực sự xảy ra khi máy tính lấy quyền kiểm soát bàn phím.

Phase 1: Reconnaissance – The Context Era

Trong thế giới cũ, việc do thám là “phun và cầu nguyện”. Những kẻ tấn công mua danh sách email và gửi thư điện tử chung chung, hy vọng có tỷ lệ nhấp 0,1%.

Trong một cuộc tấn công được trang bị AI, việc do thám là “đâm và nhân bản”. Các tác nhân tạo ra có thể tiêu thụ dấu vết kỹ thuật số của mục tiêu – bài đăng trên LinkedIn, tweet gần đây, đề cập trên tin tức và thậm chí là commit mã công khai – để xây dựng một hồ sơ tâm lý trong vài giây. Họ không chỉ viết email lừa đảo; họ viết context.

Một tác nhân AI không gửi một liên kết “Đặt lại mật khẩu” chung chung. Nó thấy bạn vừa commit mã vào một kho lưu trữ GitHub cụ thể vào lúc 2:00 sáng. Nó gửi cho bạn một thông báo trên Slack từ một “Senior Dev” giả mạo than vãn về một xung đột hợp nhất trong kho lưu trữ cụ thể đó, với một liên kết để “sửa nó”. Sự cấp bách là được tạo ra, nhưng bối cảnh là thực.

Phase 2: Execution – The Polymorphic Nightmare

Đây là nơi mà sự phòng thủ thực sự bị phá vỡ. Truyền thống, nếu một kẻ tấn công viết một kịch bản độc hại (ví dụ: một biến thể của Mimikatz), các nhà cung cấp bảo mật sẽ tìm thấy nó, băm nó và chặn nó. “Chữ ký” là lá chắn.

Các tác nhân AI tạo ra phá vỡ khái niệm về một chữ ký tĩnh. Một kẻ tấn công được trang bị AI không sử dụng một công cụ tĩnh. Họ sử dụng một tác nhân viết công cụ tại mục tiêu. Nếu tác nhân phát hiện một cảm biến EDR (Endpoint Detection and Response), nó đơn giản là yêu cầu backend LLM của nó: “Viết lại logic dumping凭证 để tránh các hook API cụ thể này. Đổi tên tất cả các biến. Thay đổi luồng điều khiển.”

Mục đích của mã vẫn giống nhau. Cú pháp thay đổi hoàn toàn. Đối với một hệ thống phòng thủ dựa trên quy tắc, nó trông như một chương trình hoàn toàn mới, chưa từng thấy.

Phase 3: Lateral Movement – The Speed of Abduction

Một khi bên trong, tốc độ phản ứng của con người trở nên không liên quan. Một kẻ xâm nhập con người di chuyển thận trọng, kiểm tra nhật ký, nhập lệnh và dừng lại để suy nghĩ. Họ có thể chuyển sang một máy chủ mới trong vài giờ.

Một tác nhân AI chuyển sang trong vài mili giây.

Nhưng tốc độ không phải là yếu tố duy nhất; đó là suy luận abductive, hoặc suy luận đến giải thích tốt nhất. AI khá tốt trong việc “đoán” cấu trúc của mạng dựa trên mảnh vỡ. Nếu nó thấy một máy chủ có tên US-WEST-SQL-01, nó suy luận sự tồn tại của US-EAST-SQL-01 và US-WEST-BAK-01. Nó kiểm tra các giả thuyết này ngay lập tức trên hàng nghìn địa chỉ IP nội bộ.

Nó không cần phải hoàn hảo. Nó chỉ cần nhanh. Trong khi phân tích viên SOC vẫn đang phân tích cảnh báo lừa đảo ban đầu, AI đã ánh xạ máy chủ điều khiển tên miền, xác định máy chủ sao lưu và trích xuất những kho báu của tổ chức.

Phase 4: The Impact – Entropy Bomb

Mục tiêu cuối cùng của một cuộc tấn công được trang bị AI không phải lúc nào cũng là bí mật. Đôi khi, đó là hỗn loạn. Chúng tôi đang bước vào một kỷ nguyên của các cuộc tấn công Entropy cao. Một tác nhân AI có thể tạo ra 10.000 cảnh báo thực tế đồng thời – đăng nhập thất bại, quét cổng, thực thi malware giả mạo.

Đây là “Entropy Bomb”. Nó ngập lụt SOC với quá nhiều tín hiệu mà các nhà phân tích phải chịu quá tải nhận thức. Họ đang chiến đấu với các mồi nhử trong khi cuộc tấn công thực sự diễn ra im lặng ở hậu trường. Thách thức cho người phòng thủ thay đổi từ “tìm kim trong đống rơm” sang “tìm kim trong một đống kim”.

Fighting Fire with Fire

Bài học từ nghiên cứu của chúng tôi là rõ ràng: Bạn không thể chống lại một máy với một hàng đợi vé.

Nếu kẻ tấn công có thể lặp lại mã của mình trong vài giây, và sự phòng thủ của bạn đòi hỏi một con người phải viết một quy tắc phát hiện trong vài giờ, bạn đã thua. Sự bất đối xứng là toán học. Cách duy nhất để sống sót sau một cuộc tấn công được trang bị AI là phải có một người phòng thủ AI hoạt động với tốc độ tương tự – suy luận, xác minh và chặn nhanh hơn kẻ tấn công có thể biến đổi.

Phòng thủ đã tiến hóa. Phòng thủ phải làm như vậy.