Làm thế nào tội phạm giành chiến thắng trong cuộc đua vũ trang AI trước khi các doanh nghiệp thậm chí bắt đầu

Trong một kỷ nguyên mà AI biến đổi các ngành công nghiệp với tốc độ chưa từng có, mặt tối của cuộc cách mạng công nghệ này cũng igualmente đáng lo ngại. Khi các doanh nghiệp chạy đua để khai thác tiềm năng của AI, tội phạm mạng đang khai thác những tiến bộ này, thay đổi động lực của tội phạm mạng và gian lận.

Thay đổi kinh tế của tội phạm mạng và gian lận

Tội phạm mạng sử dụng cùng mô hình AI và công nghệ mà các doanh nghiệp sử dụng, thường thích nghi với chúng trong vài ngày sau khi phát hành. Một trong những ví dụ sớm nhất về sự lạm dụng như vậy là tự động hóa giải quyết CAPTCHA sử dụng ChatGPT-1, đã chứng minh cách nhanh chóng các mô hình tạo ra có thể vượt qua các biện pháp bảo mật cơ bản.

Kể từ đó, mỗi bước đột phá lớn trong AI tạo ra đã được phản ánh nhanh chóng bởi các thích nghi của tội phạm, bao gồm tạo giọng nói và video giả mạo xuất hiện gần như ngay lập tức trên các nền tảng darknet. Chu kỳ tăng tốc này cho phép kẻ gian khai thác công nghệ tinh vi để tạo ra các lừa đảo thuyết phục, làm suy yếu các biện pháp bảo mật truyền thống.

Trong quý đầu tiên của năm 2025 alone, gian lận được kích hoạt bởi deepfake đã gây ra hơn $200 triệu tổn thất tài chính. Lợi nhuận của tội phạm mạng đã tăng vọt, với các nền tảng cung cấp “dịch vụ gian lận” làm cho nó dễ dàng hơn bao giờ hết cho tội phạm thực hiện các kế hoạch phức tạp bao gồm danh tính tổng hợp và các bộ công cụ phishing tiên tiến.

Khi các doanh nghiệp vật lộn để mở rộng khả năng AI của mình, tội phạm đang chạy đua, liên tục đổi mới và khai thác các khoảng trống mà các khuôn khổ bảo mật lỗi thời để lại.

Tại sao các khuôn khổ bảo mật và niềm tin truyền thống thất bại trước các tác nhân được hỗ trợ bởi AI

Các biện pháp bảo mật truyền thống mà trước đây cung cấp một sự bảo vệ nào đó đang chứng minh là không đủ. Các hệ thống cũ, dựa trên danh sách đen, CAPTCHAs và xác thực một yếu tố, không đủ khả năng để chống lại phong cảnh thay đổi của các cuộc tấn công được hỗ trợ bởi AI. Tội phạm sử dụng các giả mạo có thể đánh lừa các máy quét sinh trắc học và danh tính tổng hợp có thể dễ dàng vượt qua các giao thức KYC.

Sự thất bại này được tăng cường bởi thực tế rằng nhiều tổ chức vẫn coi bảo mật như một trung tâm chi phí chứ không phải là một thành phần cơ sở hạ tầng quan trọng. Khi Lầu Năm Góc đầu tư hàng triệu đô la để thuê các hacker AI, khoảng cách công nghệ trở nên rõ ràng. Trong khi các doanh nghiệp đang sa lầy vào việc tuân thủ, tội phạm đang sử dụng AI để khai thác các điểm yếu của con người, chẳng hạn như các cuộc tấn công phishing nhắm vào các điều hành viên.

Điều gì “các cuộc tấn công bản địa AI” trông như thế nào trong thực tế

Các chiến thuật lừa đảo hiện đại đã tiến hóa vượt xa các kế hoạch phishing trong quá khứ. Các kẻ tấn công xây dựng các chuỗi lừa đảo tinh vi xuất hiện hợp pháp tại mọi bước.

Hãy tưởng tượng một buổi sáng công ty quen thuộc. Thứ Ba, 9:43 sáng. Một Giám đốc tài chính nhận được một email được đánh dấu “cấp bách”, có vẻ như đến từ Giám đốc điều hành. Giọng điệu là quen thuộc. Ngôn ngữ phù hợp với các yêu cầu trước đó. Một thông điệp theo dõi đến vài phút sau trên một kênh khác, tăng cường sự cấp bách. Đến 11:00 sáng, một khoản chuyển tiền trị giá hàng triệu đô la đã được phê duyệt, nhưng sau đó được phát hiện là được chuyển đến một tài khoản ở nước ngoài do kẻ tấn công kiểm soát.

Những cuộc tấn công bản địa AI này là những thủ thuật tâm lý khai thác niềm tin và thẩm quyền. Sự tinh vi của các hoạt động như vậy làm nổi bật một khoảng trống trong các biện pháp bảo mật hiện có, không thể phát hiện các bất thường hành vi tinh vi đặc trưng của lừa đảo hiện đại.

Điều gì các doanh nghiệp nên ưu tiên một cách thực tế trước khi triển khai thêm AI nội bộ

Trước khi triển khai thêm AI nội bộ, các doanh nghiệp cần phải dừng lại và đánh giá lại các giả định của họ về niềm tin. Sự tăng tốc của tội phạm được hỗ trợ bởi AI đã暴 lộ một điểm yếu cấu trúc: các tổ chức vẫn đang bảo vệ chống lại các mối đe dọa của ngày hôm qua trong khi các cuộc tấn công ngày nay được thiết kế để trông hợp pháp theo mặc định.

1. Các công ty phải suy nghĩ lại cách rủi ro được định nghĩa.

Các ma trận rủi ro truyền thống được xây dựng xung quanh các sự cố như sự cố hệ thống, rò rỉ dữ liệu, vi phạm chính sách. Trong kỷ nguyên AI, rủi ro ngày càng xuất phát từ mô phỏng chứ không phải từ sự cố. Thay vì hỏi “cái gì có thể sai”, nó phù hợp hơn để hỏi “cái gì có thể được giả mạo một cách thuyết phục, với quy mô, nhanh hơn chúng ta có thể phản ứng”.

Danh tính tổng hợp, giả mạo điều hành và các câu chuyện được tạo ra bởi AI hành xử khác với các mối đe dọa truyền thống: chúng lan truyền nhanh hơn, hòa nhập vào hoạt động hợp pháp và khai thác niềm tin chứ không phải các khoảng trống kỹ thuật. Không ngạc nhiên, những rủi ro này có xu hướng xếp hạng cao hơn và hiện thực hóa thường xuyên hơn so với các tiền nhiệm không phải AI, ẩn trong bảo mật, lừa đảo, rủi ro danh tiếng hoặc tuân thủ.

2. Các tổ chức phải chấp nhận rằng ngăn chặn alone không còn đủ.

Các doanh nghiệp hàng đầu hiện nay ánh xạ rủi ro AI đến ba lớp bảo vệ, tương ứng với kiến trúc mô-đun của AI Defender:

• Ngăn chặn rủi ro – hiện bao gồm dự đoán các cuộc tấn công khai thác niềm tin và nội dung được tạo ra bởi AI, không chỉ là chặn các mối đe dọa đã biết.
• Xác thực danh tính thông minh
• Tính toàn vẹn thiết bị và phiên
• Bảo vệ giao tiếp điều hành
• Phát hiện và giám sát mối đe dọa kết hợp phân tích bất thường kỹ thuật với giám sát hành vi và truyền thông, phản ánh thực tế rằng nhiều cuộc tấn công bản địa AI biểu hiện trong các mẫu giao tiếp chứ không phải trong mã.
• Giám sát liên tục các tín hiệu và bất thường
• Phát hiện AI so với AI
• Giám sát câu chuyện và truyền thông
• Điều tra và quy kết – tập trung vào việc tái tạo các sự kiện, quy kết ý định và tạo ra bằng chứng có thể thực hiện được, cho phép các tổ chức phản ứng hiệu quả ngay cả khi lừa đảo tăng tốc nhanh hơn so với các biện pháp phòng thủ ban đầu.
• Giải thích các cảnh báo AI
• Quy kết hoạt động đáng ngờ
• OSINT cấp bằng chứng

3. Các doanh nghiệp phải đối mặt với chiều hướng con người của lừa đảo bản địa AI.

Nhân viên vẫn là điểm vào chính cho các cuộc tấn công hiện đại, nhưng bản chất của khai thác đã thay đổi. Một mẫu phổ biến đang được quan sát trong lừa đảo được hỗ trợ bởi AI liên quan đến các tương tác bên trong thay vì các cuộc tấn công bên ngoài. Nhân viên có thể nhận được các cuộc gọi video ngắn từ những gì có vẻ như là Bộ phận Nhân sự, yêu cầu “xác minh danh tính nhanh” để giải quyết một vấn đề về lương.

Cenario này minh họa tại sao lừa đảo được hỗ trợ bởi AI khai thác bối cảnh, thẩm quyền và thời gian, thường mô phỏng giao tiếp điều hành với sự chính xác đáng lo ngại. Trong môi trường này, đào tạo bảo mật truyền thống có nguy cơ trở thành không hơn gì một vở kịch tuân thủ, cung cấp sự an tâm mà không có sự bền bỉ thực sự.

Thử thách nằm không chỉ trong nhận thức, mà còn trong cách vấn đề được định hình.

Định hình lại vấn đề (đây là bước số không)

Mô hình tinh thần cũ: “Đào tạo nhân viên không mắc sai lầm.”

Mô hình tinh thần mới: “Giả định nhân viên sẽ bị nhắm đến, thao túng và vũ khí hóa.”

Đào tạo không phải là giáo dục.

Đào tạo là tiêm chủng + ký ức cơ bắp.

Quan sát thông qua ống kính này, những gì các đội phải được đào tạo để nhận ra các mẫu lừa đảo lặp lại.

5 vector lừa đảo AI chiếm ưu thế vượt qua nhân viên – không có vector nào trong số này bị ngăn chặn bởi các áp phích nhận thức:

4. Các tổ chức cần phải suy nghĩ lại về ý nghĩa của “danh tính” trong một thế giới của thực tế tổng hợp.

Khi các giọng nói và video giả mạo làm suy yếu niềm tin sinh trắc học, không có yếu tố nào có thể chứng minh tính xác thực một cách đáng tin cậy. Sự bền bỉ ngày càng đến từ sự tích lũy của nhiều tín hiệu yếu trong thời gian như bối cảnh, tính liên tục và tính nhất quán trên các thiết bị, phiên và điểm dữ liệu bên ngoài.

Dữ liệu mở và bên ngoài, đã từng được coi là thứ yếu, đang giành được tầm quan trọng chiến lược. Khi kết hợp với các tín hiệu hành vi nội bộ, chúng giúp trả lời một câu hỏi quan trọng: liệu danh tính hoặc hành động này có ý nghĩa trên các bối cảnh khác nhau? Trong một thế giới mà gần như mọi thứ có thể được tạo ra, sự nhất quán trở thành một trong những neo tin cậy còn lại.