Bisakah AI Menulis Email Phishing yang Lebih Meyakinkan Daripada Manusia?

Pemrosesan bahasa alami dan kemampuan terjemahan tingkat lanjut menjadikan AI generatif sebagai alat yang sangat berharga bagi peretas. Namun, email phishing yang dibuat oleh AI mungkin tidak lebih berbahaya daripada konten penipuan yang dibuat oleh manusia. Apa yang harus diketahui pengguna dan ahli keamanan tentang peran AI dalam phishing dan serangan siber?

Bagaimana AI Menulis Email Phishing

Konten phishing yang dilaporkan naik 61% dari tahun 2021 hingga 2022. Dari URL jahat hingga penipuan email, phishing menjadi semakin lazim setiap tahun. AI adalah alat terbaru yang diadopsi peretas untuk memajukan kampanye phishing. Meskipun pemrosesan bahasa alami AI bermanfaat, peretas dapat memanfaatkannya untuk membuat konten phishing yang lebih efektif.

Ketersediaan platform AI-as-a-Service seperti ChatGPT memudahkan siapa pun untuk menghasilkan konten. Seorang peretas dapat menunjukkan AI model bahasa besar ribuan contoh email yang sah, lalu memintanya untuk membuat email asli berdasarkan itu. Pemrosesan bahasa alami (NLP) memungkinkan AI untuk memahami dan membuat ulang konten tertulis yang realistis — alat yang sempurna dalam serangan phishing.

Idealnya, AI menghasilkan email asli yang meniru email yang ditulis manusia. Peretas dapat memintanya menyesuaikan pesan untuk menyertakan detail tentang perusahaan, orang, atau tempat tertentu. AI bahkan dapat menerjemahkan pesan ke dalam bahasa yang berbeda. Peretas dapat secara efektif membuat email phishing yang benar-benar orisinal dan dipersonalisasi hanya dalam beberapa saat, memungkinkan mereka menghindari mendaur ulang satu email berbahaya di antara banyak target.

Apakah Email Phishing yang Dihasilkan AI Efektif? 

Kemungkinan phishing yang didukung AI mungkin terdengar mengintimidasi, tetapi apakah mereka lebih berbahaya daripada konten phishing buatan manusia? Keuntungan dari email phishing yang dihasilkan AI terutama berasal dari alur kerja yang lebih efisien bagi peretas.

Studi penelitian awal telah menunjukkan email phishing yang dihasilkan oleh AI kira-kira sama meyakinkannya sebagai email phishing buatan manusia. Peretas juga dibatasi dalam akses mereka ke platform AI–as-a-Service. Sebagian besar pengembang besar — ​​termasuk OpenAI — memiliki perlindungan untuk mencegah aplikasi model AI ilegal. 

Keuntungan utama AI untuk peretas phishing adalah efisiensi dan bahasa. Menggunakan AI untuk menghasilkan email penipuan lebih cepat daripada menulisnya secara manual, memungkinkan peretas membuat lebih banyak jenis email phishing. Selain itu, mereka dapat menargetkan korban di mana saja di dunia, berkat alat terjemahan AI yang mudah diakses dengan kemampuan NLP.

Jadi, email phishing yang dibuat oleh AI meningkatkan risiko serangan phishing, tetapi belum tentu lebih meyakinkan daripada konten buatan manusia.

Cara Bertahan Terhadap Phishing yang Dihasilkan AI

AI adalah alat yang berguna untuk peretas, tetapi tidak mudah. Teknologi keamanan dan pengguna juga dapat memajukan strategi pertahanan mereka karena serangan phishing menjadi lebih pintar. Pengguna harus mulai dengan tetap up to date bendera merah konten phishing, karena ini akan tetap relevan bahkan dengan email yang dibuat oleh AI.

Meskipun mungkin lebih sulit untuk mendeteksi email phishing secara sekilas, langkah-langkah keamanan tertentu dapat meminimalkan atau menghilangkan potensi phishing yang menyebabkan kerusakan. Selain itu, teknologi deteksi baru dapat menangkap email jahat yang ditulis oleh AI dan manusia.

Beralih ke Cloud Storage

Beralih ke penyimpanan cloud adalah cara terbaik untuk meminimalkan ancaman email phishing dan serangan dunia maya. Sifat terisolasi dari penyimpanan data konvensional membuatnya sangat rentan terhadap eksploitasi oleh peretas. Yang perlu dilakukan peretas hanyalah mengendalikan satu hard drive atau server, dan mereka dapat menyimpan semua sandera data seseorang.

Penyimpanan cloud menghindari ancaman ini. Karena data tidak terkait dengan perangkat tertentu, jauh lebih sulit bagi peretas untuk menghapus atau merusak informasi apa pun. Keamanan siber berbasis cloud juga dapat meningkatkan ketahanan terhadap upaya peretasan.

Misalnya, pengguna dapat mengimplementasikan pemindaian kerentanan otomatis menemukan kelemahan di awan mereka keamanan. Ini bagus untuk mencegah peretas menggunakan pintu belakang atau kredensial curian untuk mengakses data di cloud. Bahkan jika mereka melakukannya, akan sulit bagi mereka untuk mengontrol data apa pun secara penuh karena penyimpanan awan sangat tersebar.

Buat Sistem Verifikasi DIY

Salah satu solusi DIY untuk membantu mencegah pesan phishing dalam bentuk apa pun adalah membuat sistem kode di antara koresponden tepercaya. Ini dapat mencakup orang-orang seperti keluarga, teman, dan rekan kerja. Setiap kali orang-orang dalam grup mengirim email satu sama lain, mereka dapat menulis frase kode tertentu untuk memverifikasi bahwa pesan tersebut sebenarnya dari mereka.

Sistem kode ini tidak perlu terlalu rumit. Idenya adalah hanya untuk menambahkan faktor ke email yang sebelumnya tidak dapat diketahui oleh peretas atau AI. Jadikan frasa kode sesuatu yang tidak biasa sehingga tidak mungkin ditemukan secara umum di email pelatihan AI.

Misalnya, kodenya bisa jadi nama pemukiman hantu, seperti "Agloe, New York". Pemukiman hantu tidak mungkin sering muncul di email karena itu adalah tempat fiktif yang ditambahkan ke peta untuk tujuan hak cipta.

Gunakan Deteksi AI Phishing

Peretas bukan satu-satunya yang menggunakan AI untuk berinovasi dalam metodologi mereka. Pengguna dan pakar keamanan dapat memanfaatkan model AI untuk mendeteksi konten phishing, baik yang ditulis oleh manusia atau AI.

Misalnya, pengembang dapat menggunakan pembelajaran mesin untuk melakukannya memantau dan melacak komunikasi alami pola koresponden email yang sah. Jika AI dapat dengan cepat mempelajari gaya komunikasi unik seseorang, AI dapat mengenali email palsu yang tidak cocok. Ini berlaku terlepas dari apakah manusia atau AI yang menulis email tersebut.

Salah satu kekuatan terbesar dari phishing bertenaga AI juga merupakan kelemahan utama. Peretas dapat secara efisien membuat email palsu yang dapat dipercaya dengan AI, tetapi gaya komunikasi email tersebut tidak dapat dipersonalisasi secara efisien. Seorang peretas biasanya tidak memiliki keahlian teknis atau sumber daya untuk melatih AI untuk mereplikasi gaya penulisan orang tertentu secara akurat. Model AI deteksi phishing dapat memanfaatkan kelemahan ini untuk melindungi pengguna.

Memahami Risiko Phishing Bertenaga AI

AI dapat menjadi alat yang berharga bagi peretas saat membuat email phishing. Namun, email buatan AI belum tentu lebih meyakinkan daripada konten phishing buatan manusia. Tanda bahaya utama phishing — seperti ajakan bertindak yang mendesak — tetap relevan terlepas dari siapa atau apa yang membuat email phishing. Pengguna dan pakar keamanan dapat mengadopsi teknik dan teknologi inovatif untuk melindungi data mereka dari kampanye phishing yang didukung AI.