Trí tuệ nhân tạo sinh (Generative AI) trong An ninh mạng: Chiến trường, Mối đe dọa & Giờ đây là Phòng thủ

Chiến trường

Những gì bắt đầu như sự phấn khích về khả năng của Trí tuệ nhân tạo sinh (Generative AI) đã nhanh chóng chuyển thành mối quan ngại. Các công cụ Trí tuệ nhân tạo sinh như ChatGPT, Google Bard, Dall-E, v.v. tiếp tục làm nên những tiêu đề về các vấn đề bảo mật và quyền riêng tư. Thậm chí dẫn đến việc đặt câu hỏi về điều gì là thật và điều gì không phải. Trí tuệ nhân tạo sinh có thể tạo ra nội dung rất thuyết phục và do đó rất khó phân biệt. Vì vậy, tại kết thúc của một đoạn 60 Phút về AI gần đây, người dẫn chương trình Scott Pelley đã để lại một tuyên bố với người xem; “Chúng tôi sẽ kết thúc với một lưu ý mà chưa từng xuất hiện trên 60 Phút, nhưng một điều, trong cuộc cách mạng AI, bạn có thể sẽ nghe thường xuyên: những gì vừa rồi được tạo ra với 100% nội dung của con người.”

Cuộc chiến Trí tuệ nhân tạo sinh bắt đầu với nội dung thuyết phục và thực tế này và chiến trường là nơi những kẻ tấn công đang tận dụng Trí tuệ nhân tạo sinh, sử dụng các công cụ như ChatGPT, v.v. Nó cực kỳ dễ dàng cho các tội phạm mạng, đặc biệt là những người có tài nguyên hạn chế và không có kiến thức kỹ thuật, để thực hiện tội ác của họ thông qua các cuộc tấn công xã hội, lừa đảo và giả mạo.

Mối đe dọa

Trí tuệ nhân tạo sinh có sức mạnh để thúc đẩy các cuộc tấn công mạng ngày càng tinh vi.

Bởi vì công nghệ có thể tạo ra nội dung thuyết phục và giống con người một cách dễ dàng, các cuộc tấn công mạng mới dựa trên AI trở nên khó khăn hơn cho các đội bảo mật để phát hiện. Các cuộc tấn công lừa đảo dựa trên AI có thể đến dưới dạng các cuộc tấn công xã hội như các cuộc tấn công lừa đảo đa kênh được thực hiện qua email và ứng dụng nhắn tin. Một ví dụ thực tế có thể là một email hoặc tin nhắn chứa một tài liệu được gửi đến một giám đốc điều hành của một công ty từ một nhà cung cấp thứ ba qua Outlook (Email) hoặc Slack (Ứng dụng nhắn tin). Email hoặc tin nhắn chỉ đạo họ nhấp vào nó để xem một hóa đơn. Với Trí tuệ nhân tạo sinh, nó gần như không thể phân biệt giữa một email hoặc tin nhắn giả và thật. Đó là lý do tại sao nó rất nguy hiểm.

Một trong những ví dụ đáng lo ngại nhất, tuy nhiên, là với Trí tuệ nhân tạo sinh, các tội phạm mạng có thể tạo ra các cuộc tấn công trên nhiều ngôn ngữ – bất kể kẻ tấn công có nói ngôn ngữ đó hay không. Mục tiêu là tung ra một mạng lưới rộng lớn và các tội phạm mạng sẽ không phân biệt đối xử với các nạn nhân dựa trên ngôn ngữ.

Sự phát triển của Trí tuệ nhân tạo sinh cho thấy quy mô và hiệu quả của các cuộc tấn công này sẽ tiếp tục tăng.

Phòng thủ

Phòng thủ mạng cho Trí tuệ nhân tạo sinh đã từng là một phần bị thiếu trong câu đố. Cho đến bây giờ. Bằng cách sử dụng chiến thuật máy chống lại máy, hoặc ghép AI với AI, chúng ta có thể phòng thủ chống lại mối đe dọa mới và đang phát triển này. Nhưng làm thế nào để định nghĩa chiến lược này và nó trông như thế nào?

Trước hết, ngành công nghiệp phải hành động để ghép máy tính với máy tính thay vì con người với máy tính. Để thực hiện nỗ lực này, chúng ta phải xem xét các nền tảng phát hiện tiên tiến có thể phát hiện các mối đe dọa được tạo ra bởi AI, giảm thời gian để phát hiện và thời gian để giải quyết một cuộc tấn công xã hội bắt nguồn từ Trí tuệ nhân tạo sinh. Một điều mà con người không thể làm.

Chúng tôi gần đây đã thực hiện một thử nghiệm về cách nó có thể trông như thế nào. Chúng tôi đã yêu cầu ChatGPT tạo ra một email lừa đảo dựa trên ngôn ngữ có thể gọi lại ở nhiều ngôn ngữ để xem liệu một nền tảng hiểu ngôn ngữ tự nhiên hoặc một nền tảng phát hiện tiên tiến có thể phát hiện nó. Chúng tôi đã đưa ra lời nhắc cho ChatGPT, “viết một email khẩn cấp yêu cầu ai đó gọi về một thông báo cuối cùng về thỏa thuận giấy phép phần mềm.” Chúng tôi cũng yêu cầu nó viết nó bằng tiếng Anh và tiếng Nhật.

Nền tảng phát hiện tiên tiến có thể ngay lập tức phát hiện email là một cuộc tấn công xã hội. NHƯNG, các kiểm soát email bản địa như nền tảng phát hiện lừa đảo của Outlook không thể. Thậm chí trước khi phát hành ChatGPT, các cuộc tấn công xã hội được thực hiện thông qua các cuộc tấn công ngôn ngữ, đối thoại đã chứng minh thành công vì chúng có thể tránh các kiểm soát truyền thống, hạ cánh trong hộp thư đến mà không có liên kết hoặc payload. Vì vậy, có, nó đòi hỏi phải có chiến thuật máy chống lại máy để phòng thủ, nhưng chúng ta cũng phải đảm bảo rằng chúng ta đang sử dụng các vũ khí hiệu quả, chẳng hạn như một nền tảng phát hiện tiên tiến. Bất kỳ ai có những công cụ này trong tay đều có lợi thế trong cuộc chiến chống lại Trí tuệ nhân tạo sinh.

Khi nói đến quy mô và tính xác thực của các cuộc tấn công xã hội được cung cấp bởi ChatGPT và các hình thức Trí tuệ nhân tạo sinh khác, phòng thủ máy chống lại máy cũng có thể được tinh chỉnh. Ví dụ, phòng thủ này có thể được triển khai ở nhiều ngôn ngữ. Nó cũng không chỉ giới hạn ở bảo mật email mà có thể được sử dụng cho các kênh liên lạc khác như ứng dụng Slack, WhatsApp, Teams, v.v.

Giữ vững cảnh giác

Khi cuộn qua LinkedIn, một trong những nhân viên của chúng tôi đã gặp một nỗ lực tấn công xã hội Trí tuệ nhân tạo sinh. Một quảng cáo tải xuống “bài viết trắng” kỳ lạ xuất hiện với những gì chỉ có thể được mô tả một cách rộng rãi là “bizarro” quảng cáo sáng tạo. Khi xem xét kỹ lưỡng hơn, nhân viên đã thấy một mẫu màu đặc trưng ở góc dưới bên phải được đóng dấu trên các hình ảnh được tạo bởi Dall-E, một mô hình AI tạo ra hình ảnh từ các lệnh dựa trên văn bản.

Đầu mối này là một lời nhắc nhở quan trọng về những mối đe dọa xã hội mới đang xuất hiện khi kết hợp với Trí tuệ nhân tạo sinh. Nó quan trọng hơn bao giờ hết để cảnh giác và nghi ngờ.

Thời đại của Trí tuệ nhân tạo sinh được sử dụng cho tội phạm mạng đã đến, và chúng ta phải giữ vững cảnh giác và sẵn sàng chiến đấu lại với mọi công cụ trong tầm tay.