Tác động ngày càng tăng của Trí tuệ nhân tạo đối với gian lận bầu cử trong mùa này

Vào năm 2022, các email độc hại nhắm vào công nhân bầu cử của các hạt ở Pennsylvania đã tăng vọt vào thời điểm bầu cử sơ bộ vào ngày 17 tháng 5, tăng hơn 546% trong sáu tháng. Đi kèm với khả năng của các mô hình ngôn ngữ lớn độc hại (LLM) trên các cuộc tấn công phishing truyền thống, có khả năng cao rằng người Mỹ bình thường sẽ trở thành mục tiêu của một cuộc lừa đảo thậm chí còn thực tế hơn trong mùa bầu cử này.

Chính phủ đang bắt đầu chú ý, đặc biệt khi Trí tuệ nhân tạo được tích hợp vào cuộc sống hàng ngày của chúng ta. Ví dụ, Cơ quan An ninh mạng và Cơ sở hạ tầng Hoa Kỳ đã ra mắt một chương trình để tăng cường an ninh bầu cử – thể hiện nhu cầu ngày càng tăng từ cả chính phủ và công chúng để bảo vệ mình và dữ liệu của mình khỏi các tác nhân độc hại tiềm năng trong mùa bầu cử này.

Và gần đây hơn, tại Hội nghị An ninh Munich 2024, 20 công ty công nghệ và Trí tuệ nhân tạo đã ký một “Thỏa thuận Công nghệ để chống lại việc sử dụng lừa đảo Trí tuệ nhân tạo trong bầu cử 2024,” nhấn mạnh các nguyên tắc hướng dẫn để bảo vệ bầu cử và quá trình bầu cử bao gồm phòng ngừa, nguồn gốc, phát hiện, bảo vệ phản ứng, đánh giá và nhận thức công cộng. Được thành lập bởi các công ty công nghệ lớn bao gồm Microsoft (MSFT ), Amazon (AMZN ) và Google, điều này đánh dấu một sự thay đổi quan trọng trong ngành công nghiệp cho thấy rằng ngoài sự liên kết chính trị, an ninh dữ liệu là một chủ đề sẽ quan tâm đến công dân và chuyên gia an ninh mạng trong suốt năm bầu cử này. Hơn nữa, Trí tuệ nhân tạo sẽ có tác động lớn đến cách các tác nhân độc hại thực hiện các cuộc tấn công của họ, khiến cho việc tạo ra các cuộc lừa đảo thực tế trở nên dễ dàng hơn.

Loại lừa đảo bầu cử

Trong khi mùa bầu cử không phải là thời điểm duy nhất chúng ta thấy sự gia tăng các cuộc lừa đảo, khi đến thời điểm bỏ phiếu, dù là trong bầu cử sơ bộ hay bầu cử chung, chúng ta thường thấy sự gia tăng của nhiều phương pháp và kỹ thuật. Mỗi phương pháp này đều được sử dụng với mục tiêu chung là giành được quyền truy cập vào tài khoản của một cá nhân hoặc lợi ích tài chính và hậu quả của việc trở thành nạn nhân của chúng có thể rất nghiêm trọng. Trên thực tế, gian lận deepfake đã gây ra tổn thất hơn 3,4 tỷ đô la cho Hoa Kỳ.

Một số ví dụ về các cuộc lừa đảo mà chúng ta thấy trong mùa bầu cử bao gồm:

• Phishing: Phishing liên quan đến việc sử dụng các liên kết, email và trang web giả mạo để giành được thông tin tiêu dùng nhạy cảm – thường bằng cách cài đặt phần mềm độc hại trên hệ thống mục tiêu. Dữ liệu này sau đó được sử dụng để đánh cắp danh tính khác, giành được quyền truy cập vào tài sản quý giá và làm quá tải hộp thư đến với thư rác. Trong mùa bầu cử, email phishing có thể được ngụy trang thành email quyên góp, khiến công dân nhấp vào liên kết, nghĩ rằng họ đang quyên góp cho một ứng cử viên, nhưng thực tế là đang tham gia vào một kế hoạch của tác nhân độc hại.
• Cuộc gọi tự động, giả mạo và Trí tuệ nhân tạo tạo giọng nói hoặc trò chuyện: Như đã thấy ở New Hampshire khi một cuộc gọi tự động giả mạo Tổng thống Biden, kêu gọi công dân không bỏ phiếu, mùa bầu cử sẽ chứng kiến sự gia tăng của việc giả mạo các nhà thăm dò dư luận hoặc ứng cử viên chính trị để giả mạo niềm tin và giành được thông tin nhạy cảm.
• Deepfakes: Với sự phát triển của Trí tuệ nhân tạo, deepfakes đã trở nên thực tế đến mức khó tin ngày nay và có thể được sử dụng để giả mạo một ông chủ hoặc thậm chí là người nổi tiếng yêu thích của bạn. Deepfakes là các video hoặc hình ảnh sử dụng Trí tuệ nhân tạo để thay thế khuôn mặt hoặc điều chỉnh biểu cảm khuôn mặt hoặc giọng nói. Nhiều deepfakes mà chúng ta gặp hàng ngày sẽ ở dạng video, với một đoạn clip được chỉnh sửa cho thấy người đó nói hoặc làm điều gì đó mà họ có thể chưa từng làm. Điều này dự kiến sẽ đặc biệt phổ biến trong mùa bầu cử này với rủi ro deepfakes được tạo ra để giả mạo các ứng cử viên. Thậm chí ngoài Hoa Kỳ, chẳng hạn như ở Vương quốc Anh, có lo ngại rằng deepfakes có thể được sử dụng để thao túng bầu cử.

Tác động của Trí tuệ nhân tạo đối với bầu cử

Trên các cuộc lừa đảo này, các thuật toán Trí tuệ nhân tạo đang được sử dụng để tạo ra các thông điệp giả mạo, email và bài đăng trên mạng xã hội hấp dẫn và thuyết phục hơn để lừa người dùng tiết lộ thông tin nhạy cảm.

Microsoft và OpenAI đã xuất bản một bản báo cáo về mối đe dọa, “Định hướng các mối đe dọa mạng và tăng cường phòng thủ trong kỷ nguyên Trí tuệ nhân tạo,” cho biết năm tác nhân đe dọa từ Nga, Bắc Triều Tiên, Iran và Trung Quốc đã sử dụng GenAI cho các cách thức và kỹ thuật mới để tăng cường hoạt động của họ chống lại các mục tiêu mềm.

Các cuộc lừa đảo như trò chuyện, sao chép giọng nói và nhiều hơn nữa được thực hiện thêm một bước nữa với Trí tuệ nhân tạo như một công cụ để lan truyền thông tin sai lệch, phát triển phần mềm độc hại và giả mạo các cá nhân. Các công cụ sao chép giọng nói có thể tạo ra các bản sao gần như hoàn hảo của giọng nói hoặc khuôn mặt của một nhân vật bầu cử, ví dụ. Trí tuệ nhân tạo cũng có thể được sử dụng để ngập lụt các trung tâm cuộc gọi với các cuộc gọi giả mạo, làm cho chúng bị quá tải với thông tin sai lệch.

Ở mức cảnh báo cao nhất sẽ là mạng xã hội, vì đó là phương tiện chính cho các chiến dịch trong mùa bầu cử này. Cử tri sẽ chia sẻ nếu họ đã bỏ phiếu và có thể thậm chí thể hiện sự ủng hộ cho ứng cử viên yêu thích của họ trên trang của họ. Tuy nhiên, năm nay đặt ra một mối đe dọa mới khi chúng ta thấy sự gia tăng của các cuộc lừa đảo phishing Trí tuệ nhân tạo (bao gồm cả smishing và vishing).

Hãy tưởng tượng nếu ai đó đăng một bài trên tài khoản mạng xã hội của họ ủng hộ một ứng cử viên cụ thể. Vài phút sau, họ nhận được một email có vẻ như từ một người quản lý chiến dịch, cảm ơn họ vì sự ủng hộ. Nạn nhân tiềm năng có thể tương tác với email đó bằng cách nhấp vào liên kết, mở ra cho họ khả năng bị thu thập thông tin đăng nhập, mất tài chính hoặc cài đặt phần mềm độc hại. Vì khả năng của Trí tuệ nhân tạo trong việc giám sát, tạo và phân phối các chiến dịch phishing được nhắm mục tiêu trong thời gian thực, các bài đăng mạng xã hội vô hại dường như hiện nay mở ra cho người dùng khả năng bị lừa đảo phishing thực tế hơn.

Giữ vững cảnh giác trong mùa bầu cử này

Các cuộc tấn công như phishing sẽ tiếp tục là một cách phổ biến mà các tác nhân độc hại tạo ra các cuộc lừa đảo thực tế có thể lọt qua thậm chí những người am hiểu nhất, và trong kỷ nguyên Trí tuệ nhân tạo, tác động tiềm tàng của những cuộc tấn công này đã được tăng tốc để cho phép các tác nhân độc hại nhanh chóng truy cập vào thông tin nhạy cảm.

Trong khi các doanh nghiệp triển khai công nghệ để bảo vệ dữ liệu và nhân viên của họ, người tiêu dùng cũng cần phải nhận thức được các kỹ thuật để phát hiện và tránh các cuộc lừa đảo. Một số kỹ thuật này bao gồm:

• Chú ý đến các liên kết hoặc chủ đề email ngẫu nhiên hoặc bị lỗi chính tả
• Không nhấp vào liên kết từ người gửi không xác định
• Sử dụng xác thực hai yếu tố hoặc xác thực sinh trắc học ở mọi nơi có thể
• Làm cho tài khoản mạng xã hội của bạn trở nên riêng tư
• Báo cáo hoạt động độc hại
• Giáo dục các đồng nghiệp hoặc thành viên gia đình khác
• Tìm kiếm một trang web có tên miền .gov để xác minh tính xác thực của một ứng cử viên bầu cử
• Nếu bạn có bộ phận CNTT tại nơi làm việc, bạn cũng có thể hỏi về:
  • Mạng Zero Trust
  • Xác thực hai yếu tố chống phishing
  • Công cụ bảo mật email (DMARC, DKIM, SPF)
  • Phương pháp để ký số nội dung (hoặc một cách khác để xác minh cryptographically các phương tiện truyền thông của bạn)

Mặc dù mùa bầu cử là thời điểm cần cảnh giác cao, nhưng các cuộc tấn công có thể xảy ra tại bất kỳ thời điểm nào, vì vậy điều quan trọng là phải đảm bảo rằng các nền tảng an ninh mạng của bạn mạnh mẽ và đáng tin cậy quanh năm. công cụ (DMARC, DKIM, SPF) Phương pháp để ký số nội dung (hoặc một cách khác để xác minh cryptographically các phương tiện truyền thông của bạn) Mặc dù mùa bầu cử là thời điểm cần cảnh giác cao, nhưng các cuộc tấn công có thể xảy ra tại bất kỳ thời điểm nào, vì vậy điều quan trọng là phải đảm bảo rằng các nền tảng an ninh mạng của bạn mạnh mẽ và đáng tin cậy quanh năm.