Cuộc đua vũ trang AI: Tại sao an toàn người tiêu dùng đòi hỏi phải có phòng thủ thời gian thực

Nếu một kẻ lừa đảo có thể sử dụng Mô hình Ngôn ngữ Lớn (LLM) để tạo ra một triệu email phishing hoàn hảo, độc đáo trong một giờ, tại sao chúng ta vẫn đang chiến đấu với một cuộc chiến AI bằng cách cập nhật chữ ký với tốc độ của con người?

Sự trỗi dậy của trí tuệ nhân tạo tạo ra là không còn là một mối đe dọa trừu tượng; nó là một thực tế không thể chối cãi rằng các tổ chức tội phạm mạng đã tận dụng các công cụ học sâu để tự động hóa và hoàn thiện nghệ thuật kỹ thuật xã hội. Đối với người tiêu dùng, sự thay đổi này đã gây ra những tổn thất tài chính nghiêm trọng: Ủy ban Thương mại Liên bang Mỹ (FTC) đã báo cáo rằng tổn thất của người tiêu dùng do các vụ lừa đảo đã tăng lên hơn 12,5 tỷ đô la vào năm 2024, tăng 25% so với năm 2023. Con số đáng kinh ngạc này xác nhận một thời đại mới đáng lo ngại trong đó các biện pháp bảo mật truyền thống dựa trên con người đang thất bại trước các mối đe dọa được thúc đẩy bởi AI.

Sự tinh vi của những vụ lừa đảo mới này đòi hỏi một chiến lược chiến trường mới. Chúng ta phải vượt qua mô hình phản ứng của bảo mật, quét dựa trên chữ ký, bộ lọc từ khóa đơn giản và các giải pháp bảo mật “bolt-on”, và áp dụng cùng một AI thời gian thực, dựa trên hành vi mà đã được tích hợp vào các nền tảng và cơ sở hạ tầng kỹ thuật số quan trọng của chúng ta.

Thực tế mới của các vụ lừa đảo được AI hỗ trợ

Trí tuệ nhân tạo tạo ra đã降 thấp ngưỡng cho tội phạm mạng đồng thời tăng cường khả năng thuyết phục của nội dung độc hại. Những kẻ lừa đảo có thể thực hiện các chiến dịch hyper-personalized, với khối lượng lớn, hoàn hảo mô phỏng các cá nhân và tổ chức được tin cậy.

Những ví dụ đáng chú ý nhất của sự leo thang này bao gồm:

Giả mạo và sao chép giọng nói Deepfake

Vụ lừa đảo giả mạo kinh điển, nơi một tội phạm giả mạo một người thân hoặc một giám đốc điều hành cấp cao, đã được hoàn thiện bởi AI.

• Giả mạo CEO và Giám đốc điều hành Deepfake: Trong các vụ lừa đảo doanh nghiệp có hồ sơ cao, video và âm thanh deepfake đã được sử dụng để giả mạo các giám đốc điều hành cấp cao trong các cuộc gọi video, thuyết phục các nhân viên tài chính ủy quyền chuyển tiền điện tử trị giá hàng triệu đô la. Bằng cách đào tạo AI trên một đoạn ngắn của giọng nói hoặc video công khai của một giám đốc điều hành, tội phạm có thể tạo ra âm thanh và video thời gian thực gần như hoàn hảo, vượt qua được các biện pháp phòng thủ đáng tin cậy nhất của nạn nhân: mắt và tai.
• Lừa đảo tiền điện tử Deepfake: Trên các nền tảng người tiêu dùng, deepfake của các ngôi sao như Elon Musk thường được sử dụng trong các vụ lừa đảo “gấp đôi bitcoin”. Video deepfake, thường được phát trực tiếp trên một nền tảng bị xâm phạm, cho thấy ngôi sao “khuyến nghị” một cuộc trao giải tiền điện tử gian lận, điều này đã dẫn đến những tổn thất đáng kể được báo cáo lên tới hàng triệu. Những deepfake này rất thuyết phục, chúng đánh lừa nạn nhân bằng cách duy trì giao tiếp mắt trong quá trình vận động.

Lừa đảo trò chuyện được cá nhân hóa Hyper

Trí tuệ nhân tạo tạo ra đã loại bỏ các dấu hiệu rõ ràng của vụ lừa đảo “Hoàng tử Nigeria” kinh điển: ngữ pháp kém, cụm từ nước ngoài và lời chào chung chung.

• Lừa đảo đa hình tại quy mô lớn: Các kẻ tấn công sử dụng LLM (bao gồm cả những LLM bất hợp pháp như FraudGPT) để thu thập dữ liệu công khai, hồ sơ LinkedIn, bài đăng trên mạng xã hội và trang web công ty để xây dựng một hồ sơ chi tiết về mục tiêu. Sau đó, AI tạo ra một email mô phỏng chính xác giọng điệu và từ vựng của một đồng nghiệp hoặc cấp trên, đề cập đến các dự án thực tế hoặc liên hệ chung. Điều này thường được gọi là lừa đảo đa hình vì AI có thể tạo ra hàng triệu email độc đáo, khác biệt, hoàn hảo về mặt ngữ cảnh, khiến chúng gần như không thể phát hiện được bởi các bộ lọc email truyền thống dựa trên chữ ký.
• Lừa đảo tình yêu được hỗ trợ bởi AI (Pig Butchering): Việc sử dụng bot trò chuyện AI cho phép tội phạm quản lý hàng trăm hồ sơ hẹn hò giả mạo cùng một lúc. AI duy trì các cuộc trò chuyện tinh vi, thao túng cảm xúc trong thời gian dài để xây dựng niềm tin, một kỹ thuật được gọi là “pig butchering”. Sự giao tiếp hoàn hảo và khả năng bắc cầu khoảng cách ngôn ngữ cho phép tội phạm tham gia nạn nhân sâu sắc hơn trước khi chuyển hướng sang các kế hoạch đầu tư gian lận, dẫn đến một số tổn thất tài chính trung bình trên mỗi nạn nhân.

Điểm yếu chí tử của Bảo mật truyền thống

Lý do những vụ lừa đảo được AI hỗ trợ này thành công là vì các biện pháp bảo mật mạng truyền thống không được thiết kế cho môi trường mối đe dọa có tốc độ cao, khối lượng thấp. Chúng hoạt động trên một tập hợp các giả định lỗi thời:

1. Sự phụ thuộc vào Chữ ký và Mối đe dọa đã biết

Các phần mềm bảo mật và chống vi-rút truyền thống dựa trên một cơ sở dữ liệu các mối đe dọa đã biết, hoặc “chữ ký”. Khi một kẻ tấn công sử dụng AI để tạo ra một email hoàn toàn mới, độc đáo hoặc một biến thể malware chưa từng thấy hoặc một video deepfake, hệ thống bảo mật không có chữ ký hiện có để đánh dấu nó. Cho đến khi một chữ ký mới được tạo và phân phối, vụ lừa đảo đã chuyển sang biến thể đa hình tiếp theo. Mô hình phản ứng này quá chậm so với tốc độ của trí tuệ nhân tạo tạo ra.

2. Thiếu nhận thức về Hành vi và Context

Nhiều hệ thống cũ coi bảo mật là một kiểm tra giao dịch cô lập. Ví dụ, một bộ lọc cơ bản có thể kiểm tra xem email có chứa từ “hóa đơn” hoặc “khẩn cấp”. Lừa đảo kỹ thuật xã hội được thúc đẩy bởi AI thành công chính xác vì nó tập trung vào hành vi, không chỉ là từ khóa. Một email lừa đảo tinh vi trông có vẻ hợp pháp, và một video deepfake trông và nghe giống như người mà nó tuyên bố là. Các công cụ truyền thống không có khả năng thiết lập một baseline hành vi cho người dùng hoặc mạng, những gì cấu thành “bình thường” và do đó không thể đánh dấu các hành vi độc lạ tinh vi báo hiệu một vụ lừa đảo đang diễn ra.

3. Lỗi của con người là điểm yếu chính

Biện pháp phòng thủ cuối cùng trong bảo mật truyền thống thường là người dùng, chính xác là những gì khía cạnh kỹ thuật xã hội của vụ lừa đảo AI được thiết kế để khai thác. Việc đào tạo người dùng để phát hiện lừa đảo là một biện pháp giảm thiểu hiệu quả, nhưng nó không phải là một hệ thống phát hiện. Khi một giọng nói deepfake nghe giống hệt như con họ gọi để xin giúp đỡ, hoặc một email hoàn hảo về mặt ngữ pháp dường như đến từ CEO của họ, việc đào tạo con người không thể sánh với sự thao túng cảm xúc và ngữ cảnh được tạo ra bởi AI.

Giải pháp chủ động: Phát hiện mối đe dọa được AI hỗ trợ thời gian thực

Giải pháp là chiến đấu với AI bằng AI. Giống như trí tuệ nhân tạo tạo ra đã được tích hợp vào quá trình tấn công, các mô hình học máy thời gian thực đang được triển khai và tích hợp vào các nền tảng và cơ sở hạ tầng kỹ thuật số của người tiêu dùng và doanh nghiệp để chủ động phát hiện các bất thường về hành vi. Phòng thủ thời gian thực này mang lại bản thiết kế cho thế hệ bảo mật tiêu dùng tiếp theo.

Các công ty và nền tảng lớn sử dụng các mô hình AI này để:

• Phát hiện gian lận tài chính: Các tổ chức tài chính lớn sử dụng phân tích hành vi AI để theo dõi các mẫu đăng nhập, bất thường giao dịch và dấu vân tay thiết bị trong thời gian thực. Nếu một người dùng đột ngột khởi xướng một giao dịch lớn, không điển hình từ một thiết bị hoặc vị trí mới, chưa đăng ký, AI sẽ đánh dấu sự bất thường này để xem xét ngay lập tức, thường ngăn chặn gian lận trước khi tiền bị mất.
• Bộ lọc email và nội dung: Ví dụ, Gmail của Google xử lý và chặn hàng triệu email lừa đảo mỗi ngày bằng cách sử dụng các mô hình học máy để phân tích nội dung tin nhắn, lịch sử người gửi và thậm chí cả phong cách viết. Những mô hình này không dựa trên chữ ký; chúng học cách một email trông và nghe như thế nào, khiến chúng cực kỳ hiệu quả trong việc đánh dấu các nỗ lực lừa đảo nhắm mục tiêu, cụ thể theo ngữ cảnh.
• Giám sát nội dung trên mạng xã hội: Các nền tảng như Meta sử dụng Xử lý Ngôn ngữ Tự nhiên (NLP) và học máy để phát hiện và phản hồi nội dung có hại và tài khoản giả trong thời gian thực, vượt ra ngoài việc tìm kiếm từ khóa đơn giản để hiểu ngữ cảnh và ý định của giao tiếp.

Chủ đề chung trong những ví dụ này là sự chuyển đổi từ một biện pháp phòng thủ thụ động, dựa trên chữ ký sang một phân tích hành vi thời gian thực chủ động. Đây là lớp quan trọng bị thiếu trong hệ sinh thái người tiêu dùng và gia đình chung, vẫn phụ thuộc quá nhiều vào các công cụ lỗi thời.

Giải pháp không phải là một khóa deadbolt kỹ thuật số được cài đặt sau khi ngôi nhà đã bị cướp. Đó là hệ thống báo động tích hợp học cách nhận biết âm thanh của chính bước chân bạn. Nó sẽ đến từ bảo mật thông minh; các hệ thống sử dụng AI thời gian thực để thiết lập một “bình thường” cho hành vi người dùng, mẫu giao tiếp và tương tác kỹ thuật số. Đây là cách duy nhất để đánh dấu các bất thường tinh vi nhưng quan trọng được tạo ra bởi một vụ giả mạo deepfake hoặc một vụ lừa đảo trò chuyện được cá nhân hóa trước khi một vụ lừa đảo thành công. Bằng cách tích hợp AI cho phân tích thời gian thực liên tục, chúng ta cuối cùng có thể xây dựng một biện pháp phòng thủ tiêu dùng có thể mở rộng đến sự tinh vi đáng sợ của các cuộc tấn công được AI thúc đẩy đang phát triển.