Báo cáo của IRONSCALES cho thấy các tác nhân AI đang trở thành mục tiêu mới của những cuộc tấn công lừa đảo

Tin nhắn lừa đảo không còn cần phải thuyết phục nhân viên sở hữu hộp thư. Kẻ tấn công có thể nhắm vào phần mềm đọc hộp thư thay họ. Đó là cảnh báo trọng tâm trong báo cáo mới Từ deepfake đến tác nhân hai mang: diện mạo mới của rủi ro an ninh mạng do AI thúc đẩy của IRONSCALES. Báo cáo nhận định rằng việc doanh nghiệp triển khai các công cụ có khả năng hành động đã diễn ra nhanh hơn so với việc xây dựng các biện pháp kiểm soát an ninh đi kèm.

Trong khảo sát Censuswide do công ty ủy nhiệm, 77% người tham gia cho biết trong năm trước, một tác nhân hoặc công cụ AI tại tổ chức của họ đã xử lý nội dung độc hại, gây hiểu lầm hoặc trái phép. Tỷ lệ thấp hơn nhưng vẫn đáng kể, 57%, cho biết đã có ít nhất một vụ việc được xác nhận. Các con số này phản ánh những vụ việc do người tham gia báo cáo, trong đó tổng số lớn hơn có bao gồm cả những sự việc bị nghi ngờ; đây không phải là số vụ xâm nhập thành công được xác minh độc lập.

Những phát hiện này được công bố cùng với một diễn biến tích cực hơn: đầu tư vào các biện pháp phòng vệ trước deepfake tăng lên, trong khi mức thiệt hại tài chính được báo cáo giảm nhẹ. Nhìn chung, kết quả cho thấy các nhà lãnh đạo an ninh phải đối mặt với một thách thức thực tiễn: mở rộng khả năng bảo vệ sang các hệ thống ra quyết định tự động mà không từ bỏ những biện pháp phòng vệ vốn được xây dựng cho con người.

Tác nhân AI có quyền truy cập vào các hệ thống quan trọng

Censuswide khảo sát 501 chuyên gia CNTT và an ninh mạng tại Mỹ, giữ vị trí quản lý cấp trung trở lên và làm việc tại các công ty có từ 1.000 đến 10.000 nhân viên. Người tham gia từ 25 đến 55 tuổi; khảo sát thực địa diễn ra từ ngày 9 đến ngày 17 tháng 9 năm 2026. Vì vậy, kết quả phản ánh nhóm doanh nghiệp trong mẫu khảo sát này, chứ không đại diện cho mọi doanh nghiệp sử dụng AI.

Trong nhóm khảo sát, 96% cho biết tổ chức của họ sử dụng các tác nhân hoặc công cụ AI có thể hành động thay mặt nhân viên, và 52% mô tả việc triển khai là phổ biến rộng rãi. Báo cáo sử dụng định nghĩa rộng, bao gồm các công cụ đọc và trả lời tin nhắn, truy cập tệp cũng như kích hoạt quy trình làm việc.

Trong số các tổ chức sử dụng những công cụ này, 67% cho phép chúng truy cập hệ thống quản lý yêu cầu hỗ trợ hoặc bộ phận trợ giúp, 56% cho phép truy cập kho lưu trữ đám mây và 49% cho phép truy cập email hoặc nền tảng nhắn tin. Thêm 30% cho phép truy cập các hệ thống tài chính, lập hóa đơn, mua sắm hoặc thanh toán. Chỉ 19% cho biết các công cụ của họ bị giới hạn ở web công khai, không có quyền truy cập nội bộ.

Sự khác biệt giữa trả lời câu hỏi và thực hiện hành động có ý nghĩa quan trọng. Một bản tóm tắt sai có thể khiến người đọc hiểu lầm; công cụ được kết nối với các hệ thống doanh nghiệp còn có thể chuyển thông tin hoặc khởi chạy quy trình làm việc. Các quyền được cấp cho công cụ góp phần quyết định một sai sót có thể lan rộng đến mức nào.

Hộp thư cũng là cửa ngõ để nhắm vào các tác nhân AI

Trong số những người tham gia cho biết đã xảy ra sự cố liên quan đến tác nhân AI, 42% nói rằng một công cụ AI đã tóm tắt hoặc xử lý email hay tin nhắn độc hại. Thêm 41% cho biết kẻ tấn công đã sử dụng công cụ AI trong các cuộc tấn công lừa đảo hoặc thao túng tâm lý. Hai nhóm này có thể chồng lấn, và nhóm thứ hai bao gồm việc kẻ tấn công sử dụng AI, chứ không nhất thiết là sự xâm nhập vào chính tác nhân AI của nạn nhân.

Điểm khác biệt đó rất quan trọng. Khảo sát gộp nhiều dạng sự cố liên quan đến AI vào cùng một bức tranh; khảo sát không chứng minh rằng mọi sự cố đều sử dụng cùng một kỹ thuật tấn công. Dù vậy, kết quả cho thấy vì sao các tổ chức cần xem xét cả nội dung mà tác nhân AI tiếp nhận lẫn những hành động được phép thực hiện thông qua các tích hợp của chúng.

Một cách hữu ích để hiểu rủi ro là phân biệt thông tin với quyền hạn. Một tin nhắn có thể chứa chỉ dẫn, nhưng việc tin nhắn xuất hiện trong hộp thư không có nghĩa là những chỉ dẫn đó được cấp quyền. Khi phần mềm có thể hoạt động trên nhiều hệ thống được kết nối, việc duy trì ranh giới này trở thành một phần của kiểm soát truy cập và thiết kế quy trình làm việc.

Nền tảng bảo mật email của IRONSCALES thể hiện trọng tâm của công ty vào cửa ngõ này. Công ty mô tả phương pháp dựa trên API, kết hợp phân tích bằng AI, điều tra tự động và thông tin tình báo về mối đe dọa do con người cung cấp, cùng với các chương trình mô phỏng tấn công lừa đảo và khả năng bảo vệ trước deepfake cho Microsoft Teams. Những năng lực này giúp làm rõ góc nhìn của đơn vị tài trợ nghiên cứu; khảo sát này không đánh giá độc lập hiệu quả của các sản phẩm đó.

Quy trình phê duyệt đã có, nhưng bộ phận an ninh hiếm khi giữ vai trò dẫn dắt

Trong số 479 người tham gia có tổ chức sử dụng các công cụ AI có khả năng thực hiện hành động, 78% cho biết bộ phận CNTT là đơn vị phê duyệt chính đối với tác nhân, trợ lý, tiện ích bổ sung và bộ kết nối. Chỉ 6% nêu bộ phận an ninh, trong khi 14% cho biết việc phê duyệt được chia sẻ giữa các nhóm.

Giữ vai trò phê duyệt chính không đồng nghĩa với việc có bất kỳ sự tham gia nào. Các con số không cho thấy bộ phận an ninh bị loại khỏi mọi quy trình phê duyệt còn lại. Tuy nhiên, chúng cho thấy các quyết định về những công cụ có quyền truy cập đáng kể thường do bộ phận khác dẫn dắt.

Trong số các tổ chức báo cáo đã xảy ra sự cố, 39% cho biết nhân viên đã cấp cho một công cụ AI quyền truy cập mà bộ phận an ninh sẽ không phê duyệt. Phát hiện này làm rõ vấn đề quản trị: ai đánh giá các quyền trước khi bộ kết nối được kích hoạt, và ai có thể thu hồi chúng khi công cụ hoạt động bất thường?

Báo cáo cũng cho thấy khoảng cách giữa sự tự tin và việc triển khai trên thực tế. Trong khi 93% cho biết các kế hoạch ứng phó sự cố có bao gồm tác nhân AI và 84% tự tin rằng họ có thể nhận diện sự cố do AI gây ra, chỉ 52% cho biết đã có đầy đủ chính sách, biện pháp kiểm soát và quy trình ứng phó sự cố chính thức. Thêm 35% cho biết đã có chính sách nhưng các biện pháp kiểm soát kỹ thuật còn hạn chế.

Thiệt hại do deepfake giảm, nhưng mối đe dọa vẫn còn

Các phát hiện về deepfake cho thấy kết quả khả quan hơn khi so sánh với khảo sát năm 2025 của Censuswide, thực hiện với 500 người có cùng đặc điểm. Tỷ lệ đầu tư chủ động vào các biện pháp phòng vệ tăng từ 37% lên 48%. Trong số các tổ chức báo cáo chịu tổn thất tài chính, tỷ lệ mất ít nhất 100.000 USD giảm từ 63% xuống 49%, còn tỷ lệ mất từ 1 triệu USD trở lên giảm từ 6% xuống 3%.

Ước tính mức tổn thất trung bình của các tổ chức chịu ảnh hưởng tài chính giảm từ khoảng 280.000 USD xuống 225.000 USD. Các ước tính này sử dụng điểm giữa của các khoảng tổn thất được báo cáo. Do hai cuộc khảo sát đặt câu hỏi về tổn thất theo cách khác nhau, phép so sánh không tính các câu trả lời cho biết không có tổn thất, không chắc chắn hoặc không muốn trả lời.

Báo cáo nêu rõ rằng việc đầu tư tăng đồng thời với tổn thất giảm không chứng minh rằng yếu tố này gây ra yếu tố kia. Các sự cố cũng không biến mất: 84% cho biết đã gặp ít nhất một sự cố liên quan đến deepfake, so với 85% vào năm 2025. Định nghĩa về deepfake trong báo cáo khá rộng, bao gồm từ hình ảnh bị thao túng và email bị làm giả cho đến hành vi giả mạo giọng nói và video theo thời gian thực.

Một vấn đề khác là các ưu tiên cạnh tranh nhau. Tỷ lệ xem việc phòng chống deepfake là ưu tiên hàng đầu giảm từ 71% xuống 60%, ngay cả khi AI có khả năng thực hiện hành động tạo thêm áp lực lên ngân sách an ninh. Tổn thất thấp hơn là lý do để xem xét những biện pháp nào đang phát huy hiệu quả, thay vì cho rằng mối đe dọa đã qua.

Bảo vệ các hành động, không chỉ cuộc trò chuyện

IRONSCALES khuyến nghị đưa bộ phận an ninh vào quy trình phê duyệt tác nhân AI, giới hạn quyền, giám sát hành động và kiểm thử khả năng ứng phó sự cố bằng các cuộc tấn công nhắm vào cả nhân viên lẫn tác nhân. Những khuyến nghị này gắn kết hai chủ đề của báo cáo: nội dung đánh lừa vẫn nguy hiểm, nhưng phần mềm được cấp quyền hành động làm thay đổi cách thức sự lừa dối đó dẫn đến hậu quả.

Đối với một nhóm trong doanh nghiệp, điều đó có nghĩa là cần biết có những tác nhân AI nào, mỗi tác nhân có thể truy cập những hệ thống nào và hành động nào cần được con người xem xét. Nhật ký cần cho phép tái dựng những gì công cụ đã đọc và đã làm. Việc kiểm thử nên xem xét liệu một thông điệp không đáng tin cậy có thể ảnh hưởng đến quy trình làm việc đã được cấp quyền hay không, thay vì chỉ đánh giá khả năng nhân viên nhận ra một email đáng ngờ.

Đóng góp nổi bật nhất của báo cáo là phân tích khoảng cách giữa việc ứng dụng, mức độ tự tin và các biện pháp kiểm soát đã được triển khai. Độc giả có thể tìm hiểu các câu hỏi khảo sát, những lưu ý về phương pháp luận và các khuyến nghị trong toàn văn báo cáo Từ deepfake đến tác nhân hai mang: Diện mạo mới của rủi ro an ninh mạng do AI dẫn dắt.