Dampak AI yang Meningkat terhadap Penipuan Pemilu di Musim Ini

Pada tahun 2022, email berbahaya yang menargetkan pekerja pemilu di Pennsylvania melonjak sekitar pemilu primer pada tanggal 17 Mei, meningkat lebih dari 546% dalam enam bulan. Dipasangkan dengan potensi model bahasa besar yang berbahaya (LLM) di atas serangan phishing tradisional, ada kemungkinan besar bahwa warga Amerika sehari-hari akan menjadi target penipuan yang lebih realistis di musim pemilu ini.

Pemerintah mulai memperhatikan, terutama karena AI menjadi terintegrasi dalam kehidupan sehari-hari. Misalnya, Badan Keamanan Siber dan Infrastruktur Amerika Serikat meluncurkan program untuk meningkatkan keamanan pemilu – menunjukkan permintaan yang meningkat dari pemerintah dan masyarakat untuk melindungi diri mereka sendiri dan data mereka dari aktor jahat potensial di musim pemilu ini.

Dan bahkan lebih baru-baru ini, pada Konferensi Keamanan Munich 2024, 20 perusahaan teknologi dan AI menandatangani “Teknologi Accord untuk Mengatasi Penggunaan Penipuan AI dalam Pemilu 2024,” yang menyoroti prinsip-prinsip panduan untuk melindungi pemilu dan proses pemilu termasuk pencegahan, provenance, deteksi, perlindungan responsif, evaluasi, dan kesadaran publik. Terdiri dari pemain teknologi besar termasuk Microsoft (MSFT ), Amazon (AMZN ), dan Google, ini menunjukkan pergeseran penting dalam industri yang bahkan di luar afiliasi politik, keamanan data adalah topik yang akan memprihatinkan warga dan ahli keamanan siber sepanjang tahun pemilu ini. Selain itu, AI generatif akan sangat mempengaruhi bagaimana aktor jahat dapat melakukan serangan mereka, membuatnya lebih mudah untuk membuat penipuan yang sangat realistis.

Jenis Penipuan Pemilu

Sementara musim pemilu bukanlah satu-satunya waktu kita melihat peningkatan penipuan, ketika tiba saatnya untuk memilih, baik dalam pemilu primer atau pemilu umum, kita cenderung melihat peningkatan beberapa metode dan teknik. Masing-masing dari ini digunakan dengan tujuan umum untuk mendapatkan akses ke akun individu atau keuntungan moneter dan konsekuensi dari jatuh ke dalam penipuan dapat memiliki konsekuensi besar. Bahkan, penipuan deepfake saja telah merugikan Amerika Serikat lebih dari $3,4 miliar dalam kerugian.

Beberapa contoh penipuan yang kita lihat sekitar musim pemilu termasuk:

• Phishing: Phishing melibatkan penggunaan tautan palsu, email, dan situs web untuk mendapatkan akses ke informasi konsumen yang sensitif – biasanya dengan menginstal malware pada sistem target. Data ini kemudian digunakan untuk mencuri identitas lain, mendapatkan akses ke aset berharga, dan membanjiri kotak masuk dengan spam email. Di musim pemilu, email phishing dapat menyamar sebagai email sumbangan yang meminta warga untuk mengklik tautan, berpikir bahwa mereka sedang menyumbang untuk calon, tetapi sebenarnya memainkan skema aktor jahat.
• Robocalls, Impersonasi, dan AI-Generated Voice atau Chatbots: Seperti yang terlihat di New Hampshire ketika robocall mengimpersonasi Presiden Biden yang mendorong warga untuk tidak memilih, musim pemilu akan membawa peningkatan impersonasi dari pollster atau calon politik untuk mendapatkan kepercayaan palsu dan mendapatkan informasi sensitif.
• Deepfakes: Dengan meningkatnya AI, deepfakes telah menjadi sangat realistis hari ini dan dapat digunakan untuk mengimpersonasi bos atau bahkan selebriti favorit Anda. Deepfakes adalah video atau gambar yang menggunakan AI untuk menggantikan wajah atau memanipulasi ekspresi wajah atau ucapan. Banyak deepfakes yang kita temui sehari-hari akan berupa video, dengan klip yang diedit yang menampilkan orang tersebut mengatakan atau melakukan sesuatu yang mungkin tidak pernah mereka lakukan. Ini diharapkan akan sangat umum di musim pemilu ini dengan risiko deepfakes yang dibuat untuk mengimpersonasi calon. Bahkan di luar Amerika Serikat, seperti di Inggris, ada kekhawatiran bahwa deepfakes dapat digunakan untuk memanipulasi pemilu.

Dampak AI terhadap Pemilu

Di atas penipuan tersebut, algoritma AI digunakan untuk menghasilkan pesan palsu, email, dan postingan media sosial yang lebih meyakinkan dan menarik untuk menipu pengguna agar memberikan informasi sensitif.

Microsoft dan OpenAI menerbitkan briefing ancaman, “Navigating Cyberthreats And Strengthening Defenses In The Era Of AI,” yang mencatat bahwa lima aktor ancaman dari Rusia, Korea Utara, Iran, dan Cina telah menggunakan GenAI untuk cara baru dan inovatif untuk meningkatkan operasi mereka terhadap target lemah.

Penipuan seperti chatbots, voice cloning, dan lain-lain diambil satu langkah lebih lanjut dengan AI sebagai alat untuk menyebarkan informasi palsu, mengembangkan malware, dan mengimpersonasi individu. Alat voice cloning dapat membuat replika yang hampir sempurna dari suara atau wajah tokoh pemilu, misalnya. AI juga dapat digunakan untuk membanjiri pusat panggilan dengan panggilan palsu, membanjiri mereka dengan informasi palsu.

Yang paling waspada akan menjadi media sosial, karena itu adalah kendaraan utama untuk kampanye di musim pemilu ini. Pemilih akan membagikan jika mereka telah memilih dan mungkin bahkan menunjukkan dukungan untuk calon favorit mereka di halaman mereka. Namun, tahun ini menimbulkan ancaman baru karena kita melihat peningkatan baru dalam penipuan phishing AI (termasuk smishing dan vishing).

Bayangkan jika seseorang memposting dukungan untuk calon tertentu di akun media sosial mereka. Beberapa menit kemudian, mereka menerima email yang tampaknya dari manajer kampanye, mengucapkan terima kasih atas dukungan mereka. Korban potensial tersebut dapat berinteraksi dengan email tersebut dengan mengklik tautan, membuka mereka untuk pengumpulan kredensial, kerugian keuangan, atau instalasi malware. Karena kemampuan AI untuk memantau, membuat, dan mengirimkan kampanye phishing yang ditargetkan dalam waktu nyata, postingan media sosial yang tampaknya tidak berbahaya sekarang membuka pengguna untuk tingkat penipuan yang lebih realistis.

Tetap Waspada di Musim Pemilu Ini

Serangan seperti phishing akan terus menjadi cara umum bagi aktor jahat untuk membuat penipuan yang realistis yang dapat mengelabui bahkan orang yang paling berpengetahuan, dan di era AI generatif, potensi dampak dari ini telah dipercepat untuk memungkinkan aktor jahat mengakses informasi sensitif lebih cepat.

Sementara bisnis menerapkan teknologi untuk melindungi data dan karyawan mereka, konsumen juga perlu menyadari teknik untuk mendeteksi dan menghindari penipuan. Beberapa di antaranya termasuk:

• Mengawasi tautan atau subjek email yang acak atau salah eja
• Tidak mengklik tautan dari pengirim yang tidak dikenal
• Menggunakan autentikasi dua faktor atau autentikasi biometrik di mana pun memungkinkan
• Membuat akun media sosial menjadi pribadi
• Melaporkan aktivitas berbahaya
• Mengedukasi rekan kerja atau anggota keluarga lainnya
• Mencari domain situs web .gov untuk memverifikasi keaslian calon pemilu
• Jika Anda memiliki IT di tempat kerja, Anda juga dapat bertanya tentang:
  • Jaringan Zero Trust
  • Autentikasi dua faktor yang tahan phishing
  • Alat keamanan email (DMARC, DKIM, SPF)
  • Cara untuk menandatangani konten secara digital (atau cara lain untuk memverifikasi komunikasi Anda secara kriptografis)

Meskipun musim pemilu adalah waktu untuk waspada, serangan dapat terjadi kapan saja, sehingga penting untuk memastikan fondasi keamanan siber Anda kuat dan dapat diandalkan sepanjang tahun. alat keamanan (DMARC, DKIM, SPF) Metode untuk menandatangani konten secara digital (atau cara lain untuk memverifikasi komunikasi Anda secara kriptografis) Meskipun musim pemilu adalah waktu untuk waspada, serangan dapat terjadi kapan saja, sehingga penting untuk memastikan fondasi keamanan siber Anda kuat dan dapat diandalkan sepanjang tahun.