Apakah AI Dapat Menulis Email Phishing yang Lebih Meyakinkan Daripada Manusia?

Pengolahan bahasa alami dan kemampuan terjemahan canggih membuat generative AI menjadi alat yang sangat berharga bagi peretas. Email phishing yang dihasilkan AI mungkin tidak lebih berbahaya daripada konten scam yang dihasilkan manusia, meskipun. Apa yang harus diketahui oleh pengguna dan ahli keamanan tentang peran AI dalam phishing dan serangan cyber?

Bagaimana AI Menulis Email Phishing

Konten phishing yang dilaporkan meningkat 61% dari 2021 hingga 2022. Dari URL berbahaya hingga scam email, phishing menjadi semakin umum setiap tahun. AI adalah alat terbaru yang digunakan peretas untuk meningkatkan kampanye phishing.

Ketersediaan platform AI-as-a-Service seperti ChatGPT membuatnya lebih mudah bagi siapa saja untuk menghasilkan konten. Seorang peretas dapat menunjukkan contoh email yang sah kepada model bahasa AI, kemudian meminta AI untuk membuat email asli berdasarkan contoh tersebut. Pengolahan bahasa alami (NLP) memungkinkan AI untuk memahami dan merekayasa konten tulisan yang realistis — alat yang sempurna dalam serangan phishing.

Idealnya, AI menghasilkan email asli yang meniru email yang ditulis oleh manusia. Peretas dapat meminta AI untuk mengkustomisasi pesan untuk mencakup detail tentang perusahaan, orang, atau tempat tertentu. AI bahkan dapat menerjemahkan pesan ke dalam bahasa yang berbeda. Peretas dapat dengan efektif membuat email phishing yang asli dan dipersonalisasi dalam waktu singkat, memungkinkan mereka untuk beralih dari mengirimkan email berbahaya yang sama kepada banyak target.

Apakah Email Phishing yang Dihasilkan AI Efektif?

Kemungkinan phishing yang ditenagai AI mungkin terdengar menakutkan, tetapi apakah mereka lebih berbahaya daripada konten phishing yang dibuat oleh manusia? Kelebihan email phishing yang dihasilkan AI terutama terletak pada alur kerja yang lebih efisien bagi peretas.

Studi awal telah menunjukkan bahwa email phishing yang dihasilkan AI sekitar sama meyakinkannya dengan email phishing yang dibuat oleh manusia. Peretas juga terbatas dalam akses mereka ke platform AI-as-a-Service. Sebagian besar pengembang besar — termasuk OpenAI — memiliki pengaman untuk mencegah aplikasi model AI ilegal.

Kelebihan utama AI bagi peretas phishing adalah efisiensi dan bahasa. Menggunakan AI untuk menghasilkan email scam lebih cepat daripada menulisnya secara manual, memungkinkan peretas untuk membuat berbagai email phishing. Selain itu, mereka dapat menargetkan korban di mana saja di dunia, berkat alat terjemahan AI yang mudah diakses dengan kemampuan NLP.

Jadi, email phishing yang dihasilkan AI meningkatkan risiko serangan phishing, tetapi mungkin tidak lebih meyakinkan daripada konten phishing yang dibuat oleh manusia.

Bagaimana Melindungi Diri dari Phishing yang Dihasilkan AI

AI adalah alat yang berguna bagi peretas, tetapi tidak sempurna. Teknologi keamanan dan pengguna juga dapat meningkatkan strategi pertahanan mereka saat serangan phishing menjadi lebih cerdas. Pengguna harus memulai dengan tetap mendapatkan informasi tentang tanda-tanda bahaya phishing, karena tanda-tanda tersebut akan tetap relevan bahkan dengan email yang dihasilkan AI.

Meskipun mungkin lebih sulit untuk mendeteksi email phishing hanya dengan melihatnya, langkah-langkah keamanan tertentu dapat meminimalkan atau menghilangkan potensi kerusakan yang disebabkan oleh phishing. Selain itu, teknologi deteksi baru dapat menangkap email berbahaya yang ditulis oleh AI dan manusia.

Beralih ke Penyimpanan Awan

Beralih ke penyimpanan awan adalah cara yang baik untuk meminimalkan ancaman email phishing dan serangan cyber. Sifat penyimpanan data yang terisolasi membuatnya sangat rentan terhadap eksploitasi oleh peretas. Peretas hanya perlu mengontrol satu hard drive atau server, dan mereka dapat menahan semua data seseorang sebagai sandera.

Penyimpanan awan menghindari ancaman ini. Karena data tidak terikat pada perangkat tertentu, jauh lebih sulit bagi peretas untuk menghapus atau merusak informasi. Keamanan berbasis awan juga dapat meningkatkan ketahanan terhadap upaya peretasan.

Misalnya, pengguna dapat menerapkan pemindaian kerentanan yang otomatis untuk menemukan kelemahan dalam keamanan awan mereka. Ini sangat berguna untuk mencegah peretas menggunakan backdoor atau kredensial yang dicuri untuk mengakses data di awan. Bahkan jika mereka berhasil, akan sulit bagi mereka untuk mengontrol data sepenuhnya karena penyimpanan awan sangat terdispersi.

Membuat Sistem Verifikasi DIY

Salah satu solusi DIY untuk membantu mencegah pesan phishing adalah dengan membuat sistem kode di antara koresponden yang dipercaya. Ini bisa termasuk orang-orang seperti keluarga, teman, dan rekan kerja. Setiap kali mereka mengirim email satu sama lain, mereka bisa menulis frasa kode tertentu untuk memverifikasi bahwa pesan tersebut benar-benar dari mereka.

Sistem kode ini tidak perlu terlalu rumit. Ideanya adalah menambahkan faktor pada email yang tidak bisa diprediksi oleh peretas atau AI sebelumnya. Buat frasa kode menjadi sesuatu yang tidak biasa sehingga tidak mungkin ditemukan dalam email pelatihan AI.

Misalnya, kode bisa berupa nama pemukiman fiksi, seperti “Agloe, New York.” Pemukiman fiksi tidak mungkin muncul secara umum dalam email karena mereka adalah tempat-tempat yang ditambahkan ke peta untuk tujuan hak cipta.

Menggunakan Deteksi Phishing AI

Peretas tidak satu-satunya yang menggunakan AI untuk mengembangkan metodologi mereka. Pengguna dan ahli keamanan juga dapat menggunakan model AI untuk mendeteksi konten phishing, baik itu ditulis oleh manusia atau AI.

Misalnya, pengembang dapat menggunakan pembelajaran mesin untuk memantau dan melacak pola komunikasi koresponden email yang sah. Jika AI dapat dengan cepat mempelajari gaya komunikasi unik seseorang, maka AI dapat mengenali email palsu yang tidak sesuai. Ini berlaku terlepas dari apakah email tersebut ditulis oleh manusia atau AI.

Salah satu kekuatan terbesar phishing yang ditenagai AI juga merupakan kelemahan besar. Peretas dapat dengan efisien membuat email palsu yang meyakinkan dengan AI, tetapi gaya komunikasi email tersebut tidak dapat dipersonalisasi dengan efisien. Peretas biasanya tidak memiliki keahlian teknis atau sumber daya untuk melatih AI untuk mereplikasi gaya penulisan seseorang dengan akurat. Model deteksi phishing AI dapat memanfaatkan kelemahan ini untuk melindungi pengguna.

Memahami Risiko Phishing yang Ditenagai AI

AI dapat menjadi alat yang berharga bagi peretas saat membuat email phishing. Namun, email yang dihasilkan AI tidak lebih meyakinkan daripada konten phishing yang dibuat oleh manusia. Tanda-tanda bahaya phishing — seperti panggilan tindakan yang mendesak — tetap relevan terlepas dari siapa atau apa yang membuat email phishing. Pengguna dan ahli keamanan dapat mengadopsi teknik dan teknologi inovatif untuk melindungi data mereka dari kampanye phishing yang ditenagai AI.