AI dalam Phishing: Apakah Pelaku atau Pembela yang Mendapat Manfaat Lebih Banyak?

Seiring pertumbuhan kejahatan siber, industri keamanan siber harus menerima teknologi canggih untuk mengimbanginya. Kecerdasan buatan (AI) telah dengan cepat menjadi salah satu alat paling berguna dalam menghentikan serangan siber, tetapi pelaku juga dapat menggunakannya. Trend phishing terbaru adalah contoh yang sangat baik dari kedua sisi masalah ini.

Phishing adalah jenis kejahatan siber paling umum saat ini dengan jauh. Seiring dengan lebih banyak perusahaan yang menyadari ancaman yang tumbuh ini, lebih banyak yang mengimplementasikan alat AI untuk menghentikannya. Namun, pelaku kejahatan siber juga meningkatkan penggunaan AI dalam phishing. Berikut adalah tinjauan lebih dekat tentang bagaimana kedua belah pihak menggunakan teknologi ini dan siapa yang mendapat manfaat lebih banyak dari itu.

Bagaimana AI Membantu Melawan Phishing

Serangan phishing memanfaatkan kecenderungan alami manusia terhadap rasa ingin tahu dan takut. Karena rekayasa sosial ini sangat efektif, salah satu cara terbaik untuk melindungi diri dari itu adalah dengan memastikan Anda tidak melihatnya dari awal. Itulah di mana AI masuk.

Alat anti-phishing AI biasanya hadir dalam bentuk filter email canggih. Program ini memindai pesan masuk Anda untuk mencari tanda-tanda upaya phishing dan secara otomatis mengirim email yang mencurigakan ke folder junk Anda. Beberapa solusi yang lebih baru dapat mendeteksi email phishing dengan akurasi 99,9% dengan menghasilkan berbagai versi pesan penipuan berdasarkan contoh nyata untuk melatih diri mereka sendiri untuk mendeteksi variasi.

Seiring dengan peneliti keamanan mendeteksi lebih banyak email phishing, mereka dapat memberikan model ini dengan lebih banyak data, membuatnya semakin akurat. Kemampuan pembelajaran terus-menerus AI juga membantu memperbaiki model untuk mengurangi positif palsu.

AI juga dapat membantu menghentikan serangan phishing ketika Anda mengklik tautan yang berbahaya. Perangkat lunak pemantauan otomatis dapat membuat baseline perilaku normal untuk mendeteksi abnormalitas yang kemungkinan akan muncul ketika seseorang lain menggunakan akun Anda. Mereka kemudian dapat mengunci profil dan menginformasikan tim keamanan sebelum penyerang melakukan kerusakan yang lebih besar.

Bagaimana Pelaku Menggunakan AI dalam Phishing

Potensi AI untuk menghentikan serangan phishing sangat mengesankan, tetapi juga merupakan alat yang kuat untuk menghasilkan email phishing. Seiring dengan aksesibilitas AI generatif seperti ChatGPT yang meningkat, itu membuat serangan phishing menjadi lebih efektif.

Spearphishing — yang menggunakan detail pribadi untuk membuat pesan khusus pengguna — adalah salah satu jenis phishing paling efektif. Email yang mendapatkan semua informasi pribadi Anda dengan benar akan secara alami lebih meyakinkan. Namun, pesan-pesan ini secara tradisional sulit dan memakan waktu untuk dibuat, terutama dalam skala besar. Itu tidak lagi menjadi masalah dengan AI generatif.

AI dapat menghasilkan sejumlah besar pesan phishing yang disesuaikan dalam waktu yang jauh lebih singkat daripada yang dibutuhkan oleh manusia. Ini juga lebih baik daripada manusia dalam menulis pesan palsu yang meyakinkan. Dalam sebuah studi pada 2021, email phishing yang dihasilkan AI melihat tingkat klik yang jauh lebih tinggi daripada yang ditulis oleh manusia — dan itu sebelum rilis ChatGPT.

Sama seperti pemasar menggunakan AI untuk mengkustomisasi kampanye pemasaran pelanggan, pelaku kejahatan siber dapat menggunakannya untuk membuat pesan phishing yang efektif dan khusus pengguna. Seiring dengan perbaikan AI generatif, palsu-palsu ini hanya akan menjadi lebih meyakinkan.

Pelaku Tetap Memimpin Berkat Kelemahan Manusia

Dengan pelaku dan pembela yang mengambil keuntungan dari AI, siapa yang telah melihat manfaat paling menonjol? Jika Anda melihat tren kejahatan siber terbaru, Anda akan melihat pelaku kejahatan siber yang telah berkembang pesat meskipun dengan perlindungan yang lebih canggih.

Serangan kompromi email bisnis mengalami kenaikan 81% pada paruh kedua tahun 2022 dan karyawan membuka 28% dari pesan-pesan ini. Itu adalah bagian dari peningkatan jangka panjang sebesar 175% selama dua tahun terakhir, menunjukkan bahwa phishing tumbuh lebih cepat dari sebelumnya. Serangan-serangan ini sangat efektif, mencuri $17,700 per menit, yang mungkin mengapa mereka berada di balik 91% serangan siber.

Mengapa phishing tumbuh begitu banyak meskipun AI memperbaiki perlindungan anti-phishing? Ini kemungkinan berkaitan dengan elemen manusia. Karyawan harus benar-benar menggunakan alat-alat ini agar efektif. Di luar itu, pekerja mungkin terlibat dalam kegiatan yang tidak aman lainnya yang membuat mereka rentan terhadap upaya phishing, seperti masuk ke akun kerja pada perangkat pribadi yang tidak disetujui dan tidak dilindungi.

Survei yang disebutkan sebelumnya juga menemukan bahwa pekerja melaporkan hanya 2,1% serangan. Kekurangan komunikasi ini dapat membuatnya sulit untuk melihat di mana dan bagaimana langkah-langkah keamanan harus diperbaiki.

Bagaimana Melindungi Diri dari Serangan Phishing yang Meningkat

Mengingat tren yang mengkhawatirkan ini, bisnis dan pengguna individu harus mengambil langkah-langkah untuk tetap aman. Mengimplementasikan alat anti-phishing AI adalah awal yang baik, tetapi itu tidak bisa menjadi satu-satunya langkah. Hanya 7% tim keamanan yang tidak menggunakan atau berencana untuk menggunakan AI, namun dominasi phishing tetap berlanjut, sehingga perusahaan harus mengatasi elemen manusia juga.

Karena manusia adalah titik lemah terhadap serangan phishing, mereka harus menjadi fokus dari langkah-langkah mitigasi. Organisasi harus membuat praktik keamanan terbaik menjadi bagian lebih menonjol dari proses onboarding karyawan dan pelatihan berkelanjutan. Program-program ini harus mencakup cara mendeteksi serangan phishing, mengapa itu menjadi masalah, dan simulasi untuk menguji retensi pengetahuan setelah pelatihan.

Menggunakan alat manajemen identitas dan akses yang lebih kuat juga penting, karena alat-alat ini membantu menghentikan pelanggaran yang berhasil setelah mereka masuk ke dalam akun. Bahkan karyawan yang berpengalaman dapat melakukan kesalahan, sehingga Anda harus dapat mendeteksi dan menghentikan akun yang diretas sebelum mereka menyebabkan kerusakan yang luas.

AI adalah Alat yang Kuat untuk Kebaikan dan Keburukan

AI adalah salah satu teknologi paling revolusioner dalam sejarah terbaru. Apakah itu baik atau buruk tergantung pada penggunaannya.

Sangat penting untuk mengakui bahwa AI dapat membantu pelaku kejahatan siber sama banyaknya — jika tidak lebih — daripada profesional keamanan siber. Ketika organisasi mengakui risiko-risiko ini, mereka dapat mengambil langkah-langkah yang lebih efektif untuk mengatasi serangan phishing yang meningkat.