Lãnh đạo tư tưởng
Trí tuệ nhân tạo tạo sinh trong an ninh mạng: chiến trường, mối đe dọa và giờ là phòng thủ

Điểm chínhAI tạo sinh cho phép các cuộc tấn công lừa đảo đa ngôn ngữ tinh vi vượt qua các biện…
Xem thêm
- AI tạo sinh cho phép các cuộc tấn công lừa đảo đa ngôn ngữ tinh vi vượt qua các biện pháp bảo mật email truyền thống.
- Việc đối phó giữa máy với máy bằng các nền tảng phát hiện tiên tiến là thiết yếu để chống lại các thủ đoạn kỹ thuật xã hội do AI tạo ra.
- Một quảng cáo LinkedIn giả mạo với hình ảnh do Dall-E tạo ra cho thấy AI tạo sinh hiện đã được vũ khí hóa cho tội phạm mạng có chủ đích.
Chiến trường
Những gì bắt đầu như sự phấn khích về khả năng của Trí tuệ nhân tạo tạo sinh (Generative AI) đã nhanh chóng chuyển thành mối quan ngại. Các công cụ Trí tuệ nhân tạo tạo sinh như ChatGPT, Google Bard, Dall-E, v.v. tiếp tục xuất hiện trên các bản tin về các vấn đề bảo mật và quyền riêng tư. Thậm chí dẫn đến việc đặt câu hỏi về điều gì là thật và điều gì không phải. Trí tuệ nhân tạo tạo sinh có thể tạo ra nội dung rất có vẻ đáng tin và vì thế có sức thuyết phục cao. Vì vậy, tại kết thúc của một phóng sự gần đây về AI trong chương trình 60 Minutes, người dẫn chương trình Scott Pelley đã để lại một tuyên bố với người xem; “Chúng tôi sẽ kết thúc với một lưu ý mà chưa từng xuất hiện trong chương trình 60 Minutes, nhưng một điều, trong cuộc cách mạng AI, bạn có thể sẽ nghe thường xuyên: những gì vừa rồi được tạo ra với 100% nội dung của con người.”
Cuộc chiến Trí tuệ nhân tạo tạo sinh bắt đầu với nội dung thuyết phục và thực tế này và chiến trường là nơi những kẻ tấn công đang tận dụng Trí tuệ nhân tạo tạo sinh, sử dụng các công cụ như ChatGPT, v.v. Nó cực kỳ dễ dàng cho các tội phạm mạng, đặc biệt là những người có tài nguyên hạn chế và không có kiến thức kỹ thuật, để thực hiện tội ác của họ thông qua các cuộc tấn công thao túng tâm lý, lừa đảo và giả mạo.
Mối đe dọa
Trí tuệ nhân tạo tạo sinh có sức mạnh để thúc đẩy các cuộc tấn công mạng ngày càng tinh vi.
Bởi vì công nghệ có thể tạo ra nội dung thuyết phục và giống con người một cách dễ dàng, các cuộc tấn công mạng mới dựa trên AI trở nên khó khăn hơn cho các đội bảo mật để phát hiện. Các cuộc tấn công lừa đảo dựa trên AI có thể đến dưới dạng các cuộc tấn công thao túng tâm lý như các cuộc tấn công lừa đảo đa kênh được thực hiện qua email và ứng dụng nhắn tin. Một ví dụ thực tế có thể là một email hoặc tin nhắn chứa một tài liệu được gửi đến một giám đốc điều hành của một công ty từ một nhà cung cấp thứ ba qua Outlook (Email) hoặc Slack (Ứng dụng nhắn tin). Email hoặc tin nhắn chỉ đạo họ nhấp vào nó để xem một hóa đơn. Với Trí tuệ nhân tạo tạo sinh, nó gần như không thể phân biệt giữa một email hoặc tin nhắn giả và thật. Đó là lý do tại sao nó rất nguy hiểm.
Một trong những ví dụ đáng lo ngại nhất, tuy nhiên, là với Trí tuệ nhân tạo tạo sinh, các tội phạm mạng có thể tạo ra các cuộc tấn công trên nhiều ngôn ngữ – bất kể kẻ tấn công có nói ngôn ngữ đó hay không. Mục tiêu là tung ra một mạng lưới rộng lớn và các tội phạm mạng sẽ không phân biệt đối xử với các nạn nhân dựa trên ngôn ngữ.
Sự phát triển của Trí tuệ nhân tạo tạo sinh cho thấy quy mô và hiệu quả của các cuộc tấn công này sẽ tiếp tục tăng.
Phòng thủ
Phòng thủ mạng trước các mối đe dọa từ trí tuệ nhân tạo tạo sinh đã từng là một phần bị thiếu trong câu đố. Cho đến bây giờ. Bằng cách sử dụng chiến thuật máy chống lại máy, hoặc đặt AI đối đầu với AI, chúng ta có thể phòng thủ chống lại mối đe dọa mới và đang phát triển này. Nhưng làm thế nào để định nghĩa chiến lược này và nó trông như thế nào?
Trước hết, ngành công nghiệp phải hành động để đặt máy tính đối đầu với máy tính thay vì để con người đối đầu với máy tính. Để thực hiện nỗ lực này, chúng ta phải xem xét các nền tảng phát hiện tiên tiến có thể phát hiện các mối đe dọa được tạo ra bởi AI, giảm thời gian để phát hiện và thời gian để giải quyết một cuộc tấn công thao túng tâm lý bắt nguồn từ Trí tuệ nhân tạo tạo sinh. Một điều mà con người không thể làm.
Chúng tôi gần đây đã thực hiện một thử nghiệm về cách nó có thể trông như thế nào. Chúng tôi đã yêu cầu ChatGPT tạo ra một email lừa đảo dựa trên ngôn ngữ, viết bằng nhiều thứ tiếng và dụ người nhận gọi điện lại để xem liệu một nền tảng hiểu ngôn ngữ tự nhiên hoặc một nền tảng phát hiện tiên tiến có thể phát hiện nó. Chúng tôi đã đưa ra lời nhắc cho ChatGPT, “viết một email khẩn cấp yêu cầu ai đó gọi về một thông báo cuối cùng về thỏa thuận giấy phép phần mềm.” Chúng tôi cũng yêu cầu nó viết nó bằng tiếng Anh và tiếng Nhật.
Nền tảng phát hiện tiên tiến có thể ngay lập tức phát hiện email là một cuộc tấn công thao túng tâm lý. NHƯNG, các cơ chế bảo vệ tích hợp sẵn trong hệ thống email như nền tảng phát hiện lừa đảo của Outlook không thể. Thậm chí trước khi phát hành ChatGPT, các cuộc tấn công thao túng tâm lý được thực hiện thông qua các cuộc tấn công ngôn ngữ, đối thoại đã chứng minh thành công vì chúng có thể tránh các kiểm soát truyền thống, hạ cánh trong hộp thư đến mà không có liên kết hoặc nội dung độc hại. Vì vậy, có, nó đòi hỏi phải có chiến thuật máy chống lại máy để phòng thủ, nhưng chúng ta cũng phải đảm bảo rằng chúng ta đang sử dụng các vũ khí hiệu quả, chẳng hạn như một nền tảng phát hiện tiên tiến. Bất kỳ ai có những công cụ này trong tay đều có lợi thế trong cuộc chiến chống lại Trí tuệ nhân tạo tạo sinh.
Khi nói đến quy mô và mức độ có vẻ đáng tin của các cuộc tấn công thao túng tâm lý được cung cấp bởi ChatGPT và các hình thức Trí tuệ nhân tạo tạo sinh khác, phòng thủ máy chống lại máy cũng có thể được tinh chỉnh. Ví dụ, phòng thủ này có thể được triển khai ở nhiều ngôn ngữ. Nó cũng không chỉ giới hạn ở bảo mật email mà có thể được sử dụng cho các kênh liên lạc khác như ứng dụng Slack, WhatsApp, Teams, v.v.
Giữ vững cảnh giác
Khi cuộn qua LinkedIn, một trong những nhân viên của chúng tôi đã gặp một nỗ lực tấn công thao túng tâm lý Trí tuệ nhân tạo tạo sinh. Một quảng cáo tải xuống “sách trắng” kỳ lạ xuất hiện với phần thiết kế quảng cáo mà ngay cả khi đánh giá rộng lượng cũng chỉ có thể gọi là kỳ quặc. Khi xem xét kỹ lưỡng hơn, nhân viên đã thấy một mẫu màu đặc trưng ở góc dưới bên phải được đóng dấu trên các hình ảnh được tạo bởi Dall-E, một mô hình AI tạo ra hình ảnh từ các lệnh dựa trên văn bản.
Việc gặp quảng cáo LinkedIn giả này là lời nhắc nhở quan trọng về những mối nguy thao túng tâm lý mới đang xuất hiện khi kết hợp với Trí tuệ nhân tạo tạo sinh. Nó quan trọng hơn bao giờ hết để cảnh giác và nghi ngờ.
Thời đại của Trí tuệ nhân tạo tạo sinh được sử dụng cho tội phạm mạng đã đến, và chúng ta phải giữ vững cảnh giác và sẵn sàng chiến đấu lại với mọi công cụ trong tầm tay.












