AI dalam Phishing: Apakah Penyerang atau Pembela yang Mendapat Manfaat Lebih?

Seiring dengan pertumbuhan kejahatan siber, industri keamanan siber harus menerima teknologi canggih untuk mengimbanginya. Kecerdasan buatan (AI) telah dengan cepat menjadi salah satu alat paling berguna dalam menghentikan serangan siber, tetapi penyerang juga dapat menggunakannya. Trend phishing terbaru adalah contoh yang sangat baik dari kedua sisi masalah ini.

Phishing adalah jenis kejahatan siber paling umum saat ini dengan jauh. Ketika lebih banyak perusahaan menyadari ancaman yang tumbuh ini, lebih banyak yang mengimplementasikan alat AI untuk menghentikannya. Namun, penyerang siber juga meningkatkan penggunaan AI dalam phishing. Berikut adalah tinjauan lebih dekat tentang bagaimana kedua belah pihak menggunakan teknologi ini dan siapa yang mendapat manfaat lebih dari itu.

Bagaimana AI Membantu Melawan Phishing

Serangan phishing memanfaatkan kecenderungan alami manusia terhadap rasa ingin tahu dan ketakutan. Karena rekayasa sosial ini sangat efektif, salah satu cara terbaik untuk melindungi diri dari serangan ini adalah dengan memastikan Anda tidak melihatnya dari awal. Itulah di mana AI masuk.

Alat anti-phishing AI biasanya datang dalam bentuk filter email canggih. Program-program ini memindai pesan masuk Anda untuk tanda-tanda upaya phishing dan secara otomatis mengirim email yang mencurigakan ke folder junk Anda. Beberapa solusi yang lebih baru dapat mendeteksi email phishing dengan akurasi 99,9% dengan menghasilkan berbagai versi pesan penipuan berdasarkan contoh nyata untuk melatih diri mereka sendiri untuk mendeteksi variasi.

Ketika peneliti keamanan mendeteksi lebih banyak email phishing, mereka dapat memberikan model-model ini dengan lebih banyak data, membuatnya semakin akurat. Kemampuan pembelajaran terus-menerus AI juga membantu memperbaiki model untuk mengurangi positif palsu.

AI juga dapat membantu menghentikan serangan phishing ketika Anda mengklik tautan yang berbahaya. Perangkat lunak pemantauan otomatis dapat membuat baseline perilaku normal untuk mendeteksi abnormalitas yang kemungkinan akan muncul ketika seseorang lain menggunakan akun Anda. Mereka kemudian dapat mengunci profil dan menginformasikan tim keamanan sebelum penyerang melakukan kerusakan yang signifikan.

Bagaimana Penyerang Menggunakan AI dalam Phishing

Potensi AI untuk menghentikan serangan phishing sangat mengesankan, tetapi juga merupakan alat yang kuat untuk menghasilkan email phishing. Seiring dengan aksesibilitas AI generatif seperti ChatGPT, serangan phishing menjadi lebih efektif.

Spearphishing — yang menggunakan detail pribadi untuk membuat pesan yang spesifik untuk pengguna — adalah salah satu jenis phishing yang paling efektif. Email yang mendapatkan semua informasi pribadi Anda dengan benar akan secara alami lebih meyakinkan. Namun, pesan-pesan ini secara tradisional sulit dan memakan waktu untuk dibuat, terutama dalam skala besar. Itu tidak lagi menjadi masalah dengan AI generatif.

AI dapat menghasilkan jumlah besar pesan phishing yang disesuaikan dalam waktu yang jauh lebih singkat daripada yang dibutuhkan oleh manusia. AI juga lebih baik daripada manusia dalam menulis pesan palsu yang meyakinkan. Dalam sebuah studi pada tahun 2021, email phishing yang dihasilkan AI mendapatkan tingkat klik yang jauh lebih tinggi daripada yang ditulis oleh manusia — dan itu sebelum rilis ChatGPT.

Sama seperti pemasar menggunakan AI untuk mengustomisasi kampanye pendekatan pelanggan, penyerang siber dapat menggunakannya untuk membuat pesan phishing yang efektif dan spesifik untuk pengguna. Seiring dengan perbaikan AI generatif, pesan-pesan palsu ini akan menjadi semakin meyakinkan.

Penyerang Tetap Memimpin Berkat Kelemahan Manusia

Dengan penyerang dan pembela menggunakan AI, mana pihak yang telah melihat manfaat paling menonjol? Jika Anda melihat tren kejahatan siber terbaru, Anda akan melihat penyerang siber telah berkembang pesat meskipun proteksi yang lebih canggih.

Serangan kompromi email bisnis mengalami peningkatan 81% pada paruh kedua tahun 2022 dan karyawan membuka 28% dari pesan-pesan ini. Itu adalah bagian dari peningkatan jangka panjang sebesar 175% selama dua tahun terakhir, menunjukkan bahwa phishing tumbuh lebih cepat daripada sebelumnya. Serangan-serangan ini sangat efektif, mencuri $17,700 per menit, yang mungkin mengapa mereka bertanggung jawab atas 91% serangan siber.

Mengapa phishing tumbuh begitu banyak meskipun AI memperbaiki perlindungan anti-phishing? Ini kemungkinan disebabkan oleh faktor manusia. Karyawan harus benar-benar menggunakan alat-alat ini agar efektif. Di luar itu, pekerja mungkin terlibat dalam kegiatan yang tidak aman lainnya yang membuat mereka rentan terhadap upaya phishing, seperti masuk ke akun kerja di perangkat pribadi yang tidak disetujui dan tidak dilindungi.

Survei yang disebutkan sebelumnya juga menemukan bahwa pekerja melaporkan hanya 2,1% serangan. Kurangnya komunikasi ini dapat membuatnya sulit untuk melihat di mana dan bagaimana langkah-langkah keamanan harus diperbaiki.

Bagaimana Melindungi Diri dari Serangan Phishing yang Meningkat

Mengingat tren yang mengkhawatirkan ini, bisnis dan pengguna individu harus mengambil langkah-langkah untuk tetap aman. Mengimplementasikan alat anti-phishing AI adalah awal yang baik, tetapi itu tidak bisa menjadi satu-satunya tindakan. Hanya 7% tim keamanan tidak menggunakan atau berencana menggunakan AI, namun dominasi phishing tetap ada, sehingga perusahaan harus mengatasi faktor manusia juga.

Karena manusia adalah titik terlemah melawan serangan phishing, mereka harus menjadi fokus dari langkah-langkah mitigasi. Organisasi harus membuat praktik keamanan terbaik menjadi bagian lebih menonjol dari pelatihan karyawan dan pelatihan berkelanjutan. Program-program ini harus mencakup cara mendeteksi serangan phishing, mengapa itu menjadi masalah, dan simulasi untuk menguji retensi pengetahuan mereka setelah pelatihan.

Menggunakan alat pengelolaan identitas dan akses yang lebih kuat juga penting, karena alat-alat ini membantu menghentikan pelanggaran yang berhasil setelah mereka masuk ke dalam akun. Bahkan karyawan yang berpengalaman dapat melakukan kesalahan, sehingga Anda harus dapat mendeteksi dan menghentikan akun yang diretas sebelum mereka menyebabkan kerusakan yang luas.

AI adalah Alat yang Kuat untuk Kebaikan dan Keburukan

AI adalah salah satu teknologi yang paling mengganggu dalam sejarah baru-baru ini. Apakah itu baik atau buruk tergantung pada penggunaannya.

Sangat penting untuk mengakui bahwa AI dapat membantu penjahat siber sama seperti — jika tidak lebih — daripada profesional keamanan siber. Ketika organisasi mengakui risiko-risiko ini, mereka dapat mengambil langkah-langkah yang lebih efektif untuk mengatasi serangan phishing yang meningkat.