Penjahat Siber Menggunakan Perangkat Lunak AI Palsu untuk Mendistribusikan Malware

Kecerdasan buatan (AI) meningkat popularitasnya, dan penjahat siber telah memperhatikannya. Ketika lebih banyak orang mencari alat-alat AI terbaru dan terhebat untuk meningkatkan produktivitas mereka, beberapa penjahat telah memulai untuk memasukkan perangkat lunak AI palsu ke pasar. Program-program ini terlihat seperti solusi AI yang sah, tetapi menginstalnya meninggalkan pengguna dengan infeksi malware.

Bagaimana Skema Malware AI Bekerja?

Selama beberapa bulan terakhir, beberapa peneliti keamanan telah menemukan malware yang menyamar sebagai AI di media sosial. Penjahat siber telah menggunakan alat-alat AI yang tampaknya nyata untuk menyebarkan ransomware, spyware, dan malware lainnya setidaknya sejak pertengahan 2024, dan ancaman-ancaman ini masih aktif meskipun upaya platform sosial.

Skema-skema ini datang dalam banyak bentuk, tetapi mereka semua mengikuti premis yang sama. Penjahat siber memposting iklan untuk alat-alat AI di situs sosial — terkadang menyamar sebagai aplikasi yang ada seperti ChatGPT dan terkadang berpura-pura menjadi solusi baru. Dalam semua kasus, mengklik tautan untuk mencoba perangkat lunak menginstal malware pada perangkat pengguna.

Banyak yang terlihat seperti platform AI generatif dan bahkan berfungsi seperti satu sampai langkah terakhir. Pengguna memasukkan prompt atau mengunggah file, tetapi file yang ditawarkan program sebagai gantinya adalah perangkat lunak berbahaya bukan output AI yang sebenarnya.

Contoh Skema Malware AI Palsu

Kelincahan adalah salah satu cara skema-skema ini telah berhasil tetap aktif meskipun perusahaan seperti Meta mencari dan menghapusnya. Penjahat di balik mereka akan terus-menerus mengubah alat-alat AI mana yang mereka tiru dan menggunakan domain yang berbeda. Meskipun variasi ini, banyak menggunakan salah satu dari beberapa strain malware populer dan mengikuti pola yang sama.

Noodlophile Stealer

Salah satu yang paling menonjol adalah sebuah strain yang ditemukan oleh peneliti Morphisec yang disebut Noodlophile Stealer. Ini dimulai dengan iklan untuk layanan AI generatif, terkadang bahkan menggunakan akun yang diverifikasi. Ketika Anda mengklik iklan, yang sering menjanjikan trial gratis, Anda diarahkan ke halaman generasi AI yang terlihat sah.

Setelah “memproses” permintaan Anda, situs memberikan Anda file untuk diunduh, yang menginstal malware Noodlophile. Noodlophile kemudian mencuri cookie browser, kredensial yang disimpan, dan informasi lainnya sebelum mengirimkannya melalui pesan terenkripsi ke penyerang. Terkadang, itu akan menginstal malware tambahan atau membuat backdoor untuk penyerang melakukan hal tersebut nanti.

CyberLock

Ransomware CyberLock adalah komponen lain yang umum dari skema-skema AI palsu ini. Ini adalah salah satu dari tiga ancaman yang ditemukan oleh peneliti Talos yang mengikuti skema yang sama. Dalam kasus ini, penyerang memalsukan situs web yang sah, seperti platform monitisasi AI NovaLeads.

Situs-situs palsu terlihat sangat mirip dengan versi aslinya, tetapi mengklik tombol unduh akan menginstal ransomware CyberLock. Setelah Anda mengklik file yang diunduh, CyberLock diaktifkan dan menuntut $50.000 sebagai ganti untuk tidak mempublikasikan file sensitif yang dienkripsi. Peneliti Talos tidak melihat ada fungsi yang memungkinkan CyberLock melakukan hal tersebut.

Lucky_Gh0$t

Strain ransomware lainnya, Lucky_Gh0$t, menyamar sebagai ChatGPT. Karena ChatGPT adalah aplikasi yang paling banyak diunduh di dunia, cukup mudah untuk meyakinkan orang-orang untuk menginstal sesuatu yang mengaku sebagai chatbot AI populer, bahkan jika itu bukan dari sumber yang sah. Seperti CyberLock, mengklik file yang menjalankan program sebagai AI memicu ransomware.

Lucky_Gh0$t mencari file di perangkat Anda yang kurang dari 1,2 gigabyte dan mengenkripsinya, menuntut tebusan untuk mendapatkannya kembali. Dalam beberapa kasus, itu menghapus file yang lebih besar, menghancurkan data untuk kehancuran semata.

Numero

Sementara para profesional keamanan sudah mengetahui tentang Lucky_Gh0$t dan CyberLock sebelum mereka muncul dalam skema-skema alat AI palsu, beberapa skema ini menggunakan strain malware baru — Numero. Numero menyamar sebagai InVideo AI, aplikasi AI penghasil video yang nyata. Ini bukan ransomware seperti CyberLock atau Lucky_Gh0$t, tetapi itu destruktif.

Numero memanipulasi jendela terbuka Anda dalam loop tak terhingga, akhirnya membuat perangkat Anda tidak dapat digunakan. Ini juga menggunakan beberapa trik cerdas untuk menghindari deteksi, sehingga mungkin tidak terlihat sampai terlambat.

Bagaimana Tetap Aman dari Skema AI Palsu

Di seluruh contoh ini, cara untuk tetap aman dari skema-skema perangkat lunak AI palsu tetap sama. Simpan lima tips berikut dalam pikiran sebelum Anda mengklik tautan atau iklan tentang alat AI baru.

1. Hanya Unduh Alat-Alat AI dari Sumber Terpercaya

Langkah paling mendasar dalam menghindari skema-skema AI palsu adalah menggunakan sumber yang dikenal dan tepercaya untuk mengunduh perangkat lunak. Jangan pernah mengunduh apa pun langsung dari iklan, dan jangan pernah menggunakan toko aplikasi atau distributor perangkat lunak di luar opsi yang diverifikasi oleh pihak pertama.

Sementara para profesional keamanan sebelumnya menemukan malware di Google Play Store, toko aplikasi pihak pertama umumnya melakukan upaya besar untuk menjaga daftar mereka aman. Mereka jauh lebih aman daripada situs yang tidak dikenal. Ketika ragu tentang sebuah situs, pergi ke situs web resmi pengembang aplikasi untuk mengunduh perangkat lunak dari sumber, memastikan untuk menghindari jalan pintas melalui iklan atau tautan eksternal.

2. Selalu Periksa URL dan Ekstensi File

Ingat untuk memeriksa semua URL dengan teliti sebelum mengkliknya. Meniru alamat yang sah adalah teknik phishing klasik, tetapi URL yang mencurigakan mengandung variasi atau kesalahan ejaan. Sebagai contoh, beberapa versi skema CyberLock menggunakan domain “novaleadsai” bukan situs asli, “novaleads.app.”

Anda juga harus memperhatikan ekstensi file. Banyak strain malware datang sebagai file .exe tetapi mungkin memiliki nama yang menyesatkan seperti “dokumen.pdf.exe” untuk membuat mereka terlihat seperti sesuatu yang lain. Penting untuk memeriksa nama-nama ini karena mereka mungkin menjadi satu-satunya perbedaan yang dapat dikenali antara sesuatu yang mencurigakan dan yang asli.

3. Waspadai Apa Pun yang Terlalu Baik untuk Dipercaya

Waspadai janji-janji yang terlalu baik untuk dipercaya. Aplikasi gratis yang menawarkan kinerja AI terdepan di industri atau trial gratis setahun untuk sesuatu yang biasanya berharga banyak uang adalah contoh umum. Penjahat siber sering menggunakan teknik-teknik ini untuk memancing korban.

Demikian pula, waspadai pesan dengan urgensi yang tidak biasa. Anda mungkin menerima email yang mengaku dari layanan AI yang Anda gunakan, memberitahu Anda untuk mengikuti tautan untuk mereset kata sandi atau mengubah informasi pembayaran. Periksa alamat email dan masuk ke profil Anda melalui situs resmi — bukan tautan yang disediakan — untuk memverifikasi pesan-pesan ini sebelum melakukan apa pun.

4. Hindari Pengunduhan dari Iklan Media Sosial

Mengingat jumlah skema-skema ini dan seberapa sering mereka berubah, hindari mengikuti tautan iklan media sosial. Ketika Anda melihat sesuatu yang menarik, cari bisnis tersebut dan temukan situs web resminya untuk mempelajari lebih lanjut.

Sementara banyak iklan media sosial tidak berbahaya, iklan-iklan curang terkadang bisa tidak dapat dibedakan. Konsekuensinya, lebih baik untuk berhati-hati dan meminimalkan klik.

5. Tetap Up-to-Date dengan Berita Keamanan Siber

Terakhir, Anda dapat tetap aman dengan mengikuti berita keamanan, terutama mengenai skema-skema AI dan media sosial. Penjahat siber sering mengubah taktik, sehingga tetap mendapat informasi membantu Anda mengetahui tanda-tanda peringatan apa yang harus diwaspadai.

Skema-skema seperti iklan AI palsu tidak akan pergi dalam waktu dekat. Penipu mencuri atau menipu $1,03 triliun pada 2024 saja. Kejahatan siber terlalu menguntungkan untuk ditinggalkan, sehingga pengguna harus tetap waspada dan mengawasi tanda-tanda mencurigakan.

Popularitas AI Memiliki Implikasi Keamanan Siber yang Besar

AI memiliki hubungan yang tidak biasa dengan keamanan siber. Di satu sisi, itu dapat membuat keamanan lebih baik dengan meningkatkan perangkat lunak keamanan dan bertindak lebih cepat dari yang manusia bisa. Di sisi lain, penjahat siber dapat menggunakannya juga, bahkan jika popularitasnya adalah yang membuat orang mengklik.

Mengenali taktik-taktik ini adalah langkah pertama untuk tetap aman. Ikuti langkah-langkah ini untuk menghindari jatuh ke dalam perangkap iklan AI palsu dan menjaga perangkat Anda bebas malware.