Tác động ngày càng tăng của AI đối với các vụ lừa đảo bầu cử trong mùa này

Năm 2022, các email độc hại nhắm vào nhân viên bầu cử quận Pennsylvania tăng lên xung quanh cuộc bầu cử sơ bộ vào ngày 17 tháng 546, tăng hơn XNUMX% trong sáu tháng. Cùng với tiềm năng của các mô hình ngôn ngữ lớn (LLM) bất chính cùng với các cuộc tấn công lừa đảo truyền thống này, có khả năng cao là người Mỹ hàng ngày sẽ trở thành mục tiêu của một vụ lừa đảo thậm chí còn thực tế hơn trong mùa bầu cử này.

Các chính phủ đang bắt đầu chú ý, đặc biệt là khi AI được tích hợp vào cuộc sống hàng ngày của chúng ta. Ví dụ, Cơ quan An ninh mạng và Cơ sở hạ tầng Hoa Kỳ phát động một chương trình nhằm tăng cường an ninh bầu cử – thể hiện nhu cầu ngày càng tăng của cả chính phủ và công chúng trong việc bảo vệ bản thân và dữ liệu của họ khỏi những tác nhân xấu tiềm ẩn trong mùa bầu cử này.

Và gần đây hơn, tại Hội nghị An ninh Munich 2024, 20 công ty công nghệ và AI đã ký một thỏa thuận “Hiệp định công nghệ nhằm chống lại việc sử dụng AI lừa đảo trong cuộc bầu cử năm 2024,” trong đó nhấn mạnh các nguyên tắc hướng dẫn để bảo vệ cuộc bầu cử và quy trình bầu cử bao gồm phòng ngừa, phát hiện, phát hiện, bảo vệ đáp ứng, đánh giá và nhận thức của công chúng. Được tạo thành từ những công ty công nghệ lớn bao gồm Microsoft, Amazon và Google, điều này đánh dấu một sự thay đổi quan trọng trong ngành, thậm chí vượt ra ngoài các đảng phái chính trị, bảo mật dữ liệu là một chủ đề sẽ thu hút sự quan tâm của người dân cũng như các chuyên gia mạng trong suốt thời gian còn lại của năm bầu cử này. Hơn nữa, AI sáng tạo sẽ tác động lớn đến cách những kẻ xấu có thể thực hiện các cuộc tấn công của chúng, khiến việc lừa đảo có tính thực tế cao trở nên dễ dàng hơn.

Các loại lừa đảo bầu cử

Mặc dù mùa bầu cử không phải là lần duy nhất chúng tôi thấy số vụ lừa đảo gia tăng, nhưng khi đến thời điểm bỏ phiếu, trong các cuộc bầu cử sơ bộ hoặc tổng tuyển cử, chúng tôi có xu hướng thấy sự gia tăng trong một số phương pháp và kỹ thuật. Mỗi trong số này được sử dụng với mục tiêu điển hình là giành quyền truy cập vào tài khoản của một cá nhân hoặc thu được lợi nhuận bằng tiền và hậu quả của việc yêu thích chúng có thể gây ra hậu quả lớn. Trên thực tế, chỉ riêng gian lận deepfake đã khiến Mỹ tốn kém hơn 3.4 tỷ USD thua lỗ.

Một số ví dụ về lừa đảo mà chúng tôi thấy trong mùa bầu cử bao gồm:

• Lừa đảo: Lừa đảo liên quan đến việc sử dụng các liên kết, email và trang web giả mạo để có quyền truy cập vào thông tin nhạy cảm của người tiêu dùng – thường bằng cách cài đặt phần mềm độc hại trên hệ thống mục tiêu. Dữ liệu này sau đó được sử dụng để đánh cắp các danh tính khác, giành quyền truy cập vào các tài sản có giá trị và làm quá tải hộp thư đến chứa email rác. Trong mùa bầu cử, các email lừa đảo có thể được ngụy trang thành các email quyên góp để thu hút một công dân nhấp vào liên kết, nghĩ rằng họ đang quyên góp cho một ứng cử viên nhưng thực chất đang tham gia vào âm mưu của kẻ xấu.
• Cuộc gọi tự động, Mạo danh và giọng nói hoặc chatbot do AI tạo ra: Như đã thấy ở New Hampshire Khi một cuộc gọi tự động mạo danh Tổng thống Biden kêu gọi công dân không bỏ phiếu, mùa bầu cử sẽ làm gia tăng tình trạng mạo danh người thăm dò ý kiến ​​hoặc ứng cử viên chính trị để gây dựng lòng tin và lấy thông tin nhạy cảm một cách sai trái.
• Deepfake: Với sự phát triển của AI, deepfake ngày nay đã trở nên cực kỳ thực tế và có thể được sử dụng để mạo danh ông chủ hoặc thậm chí là người nổi tiếng yêu thích của bạn. Deepfakes là video hoặc hình ảnh sử dụng AI để thay thế khuôn mặt hoặc điều khiển nét mặt hoặc lời nói. Nhiều video deepfake mà chúng ta gặp hàng ngày sẽ ở dạng video, với một đoạn clip đã được chỉnh sửa mô tả người đó nói hoặc làm điều gì đó mà họ có thể chưa bao giờ làm. Điều này dự kiến ​​​​sẽ đặc biệt phổ biến trong mùa bầu cử này với nguy cơ các deepfake được tạo ra để mạo danh các ứng cử viên. Ngay cả bên ngoài Hoa Kỳ, chẳng hạn như ở Anh, vẫn có những lo ngại về việc deepfake có thể được sử dụng để gian lận bầu cử.

Tác động của AI đến bầu cử

Ngoài những trò lừa đảo này, các thuật toán AI đang được sử dụng để tạo ra các tin nhắn, email và bài đăng giả mạo thuyết phục và hấp dẫn hơn trên mạng xã hội nhằm lừa người dùng cung cấp thông tin nhạy cảm.

Microsoft và OpenAI đã công bố một bản tóm tắt về mối đe dọa, “Điều hướng các mối đe dọa mạng và tăng cường phòng thủ trong kỷ nguyên AI,” lưu ý rằng năm tác nhân đe dọa từ Nga, Triều Tiên, Iran và Trung Quốc đều đã sử dụng GenAI cho những cách mới và sáng tạo để tăng cường hoạt động của họ chống lại các mục tiêu mềm.

Các trò lừa đảo như chatbot, sao chép giọng nói, v.v. được tiến thêm một bước nữa với AI như một công cụ để truyền bá thông tin sai lệch, phát triển phần mềm độc hại và mạo danh cá nhân. Ví dụ: các công cụ sao chép giọng nói có thể tạo ra các bản sao gần như hoàn hảo của giọng nói hoặc khuôn mặt của nhân vật bầu cử. AI cũng có thể được sử dụng để tràn ngập các trung tâm cuộc gọi với các cuộc gọi cử tri giả mạo, khiến họ tràn ngập thông tin sai lệch.

Cảnh báo cao nhất sẽ là mạng xã hội, vì đây là phương tiện chính cho các chiến dịch trong mùa bầu cử này. Cử tri sẽ chia sẻ nếu họ đã bỏ phiếu và thậm chí có thể thể hiện sự ủng hộ đối với ứng cử viên yêu thích của họ trên trang của họ. Tuy nhiên, năm nay đặt ra một mối đe dọa mới khi chúng ta chứng kiến ​​sự gia tăng mới của các trò lừa đảo qua AI (bao gồm cả việc đánh đập và lừa đảo trực tuyến).

Hãy cân nhắc xem có ai đó đăng lên tài khoản mạng xã hội của họ để ủng hộ một ứng viên cụ thể hay không. Vài phút sau, họ nhận được một email có vẻ như là từ người quản lý chiến dịch, cảm ơn sự hỗ trợ của họ. Nạn nhân tiềm năng đó có thể tương tác với email đó bằng cách nhấp vào liên kết, mở chúng để thu thập thông tin xác thực, tổn thất tài chính hoặc cài đặt phần mềm độc hại. Nhờ khả năng giám sát, tạo và phân phối các chiến dịch lừa đảo có chủ đích của AI trong thời gian gần như thực, các bài đăng trên mạng xã hội tưởng chừng như vô hại giờ đây đã mở ra cho người dùng một cấp độ mới của các kế hoạch lừa đảo thực tế.

Luôn cảnh giác trong Mùa bầu cử này

Các cuộc tấn công như lừa đảo sẽ tiếp tục là cách phổ biến để kẻ xấu tạo ra những trò lừa đảo thực tế mà ngay cả những người hiểu biết nhất cũng có thể lọt qua và trong thời đại AI sáng tạo, tác động tiềm tàng của những hành vi này chỉ được tăng tốc để cho phép kẻ xấu tiếp cận nhanh hơn các thông tin nhạy cảm. thông tin.

Trong khi các doanh nghiệp triển khai công nghệ để bảo vệ dữ liệu và nhân viên của mình, người tiêu dùng cũng cần lưu ý về các kỹ thuật để phát hiện và tránh lừa đảo. Một số trong số này bao gồm:

• Tìm kiếm các siêu liên kết hoặc dòng chủ đề email ngẫu nhiên hoặc sai chính tả
• Không nhấp vào liên kết từ người gửi không xác định
• Sử dụng xác thực hai yếu tố hoặc xác thực sinh trắc học bất cứ khi nào có thể
• Đặt tài khoản mạng xã hội ở chế độ riêng tư
• Báo cáo hoạt động độc hại
• Giáo dục các đồng nghiệp khác hoặc thành viên gia đình
• Hãy tìm miền trang web .gov để xác minh tính xác thực của một ứng cử viên bầu cử
• Nếu bạn có CNTT tại nơi làm việc, bạn cũng có thể hỏi về:
  • Mạng Zero Trust
  • Xác thực hai yếu tố chống lừa đảo
  • Công cụ bảo mật email (DMARC, DKIM, SPF)
  • Các phương pháp ký điện tử vào nội dung (hoặc một cách khác để xác minh thông tin liên lạc của bạn bằng mật mã)

Mặc dù mùa bầu cử là thời điểm cần phải cảnh giác cao độ nhưng các cuộc tấn công có thể xảy ra bất cứ lúc nào, vì vậy, điều quan trọng là phải đảm bảo nền tảng an ninh mạng của bạn mạnh mẽ và đáng tin cậy quanh năm.