AI Generatif dalam Keamanan Siber: Medan Perang, Ancaman, & Sekarang Pertahanan

Medan Perang

Apa yang dimulai sebagai kegembiraan seputar kemampuan AI Generatif dengan cepat berubah menjadi kekhawatiran. Alat AI generatif seperti ChatGPT, Google Bard, Dall-E, dll. Terus menjadi berita utama karena masalah keamanan dan privasi. Itu bahkan mengarah pada pertanyaan tentang apa yang nyata dan apa yang tidak. AI generatif dapat memompa konten yang sangat masuk akal dan karenanya meyakinkan. Sedemikian rupa sehingga di akhir segmen 60 Menit baru-baru ini tentang AI, pembawa acara Scott Pelley meninggalkan pernyataan ini kepada pemirsa; “Kami akan mengakhiri dengan catatan yang belum pernah muncul di 60 Menit, tetapi satu, dalam revolusi AI, Anda mungkin sering mendengar: yang sebelumnya dibuat dengan 100% konten manusia.”

Perang dunia maya AI Generatif dimulai dengan konten yang meyakinkan dan nyata ini dan medan perang adalah tempat peretas memanfaatkan AI Generatif, menggunakan alat seperti ChatGPT, dll. Sangat mudah bagi penjahat dunia maya, terutama mereka yang memiliki sumber daya terbatas dan pengetahuan teknis nol. untuk melakukan kejahatan mereka melalui rekayasa sosial, phishing dan serangan peniruan identitas.

Ancaman

AI generatif memiliki kekuatan untuk memicu serangan siber yang semakin canggih.

Karena teknologinya dapat menghasilkan konten yang meyakinkan dan mirip manusia dengan mudah, penipuan dunia maya baru yang memanfaatkan AI lebih sulit untuk dikenali dengan mudah oleh tim keamanan. Penipuan yang dihasilkan oleh AI dapat datang dalam bentuk serangan rekayasa sosial seperti serangan phishing multisaluran yang dilakukan melalui email dan aplikasi perpesanan. Contoh dunia nyata dapat berupa email atau pesan yang berisi dokumen yang dikirim ke eksekutif perusahaan dari vendor pihak ketiga melalui Outlook (Email) atau Slack (Aplikasi Pesan). Email atau pesan mengarahkan mereka untuk mengkliknya untuk melihat faktur. Dengan AI Generatif, hampir tidak mungkin untuk membedakan antara email atau pesan palsu dan asli. Itulah mengapa sangat berbahaya.

Namun, salah satu contoh yang paling mengkhawatirkan adalah bahwa dengan AI Generatif, penjahat dunia maya dapat menghasilkan serangan dalam berbagai bahasa – terlepas dari apakah peretas benar-benar berbicara bahasa tersebut. Tujuannya adalah untuk menyebarkan jaring yang luas dan penjahat dunia maya tidak akan mendiskriminasi korban berdasarkan bahasa.

Kemajuan AI Generatif memberi sinyal bahwa skala dan efisiensi serangan ini akan terus meningkat.

Pertahanan

Pertahanan dunia maya untuk AI Generatif terkenal sebagai bagian yang hilang dari teka-teki. Sampai sekarang. Dengan menggunakan pertarungan mesin ke mesin, atau menyematkan AI melawan AI, kita dapat mempertahankan diri dari ancaman baru yang terus berkembang ini. Tapi bagaimana seharusnya strategi ini didefinisikan dan bagaimana tampilannya?

Pertama, industri harus bertindak untuk menyematkan komputer melawan komputer, bukan manusia vs komputer. Untuk menindaklanjuti upaya ini, kami harus mempertimbangkan platform deteksi canggih yang dapat mendeteksi ancaman yang dihasilkan oleh AI, mengurangi waktu yang diperlukan untuk menandai, dan waktu yang diperlukan untuk menyelesaikan serangan rekayasa sosial yang berasal dari AI Generatif. Sesuatu yang tidak bisa dilakukan oleh manusia.

Kami baru-baru ini melakukan pengujian tentang tampilannya. Kami meminta ChatGPT membuat email callback phishing berbasis bahasa dalam berbagai bahasa untuk melihat apakah platform Natural Language Understanding atau platform deteksi lanjutan dapat mendeteksinya. Kami memberikan prompt kepada ChatGPT, "tulis email mendesak yang mendesak seseorang untuk menelepon tentang pemberitahuan terakhir tentang perjanjian lisensi perangkat lunak." Kami juga memerintahkannya untuk menulis dalam bahasa Inggris dan Jepang.

Platform deteksi lanjutan segera dapat menandai email tersebut sebagai serangan rekayasa sosial. NAMUN, kontrol email asli seperti platform deteksi phishing Outlook tidak bisa. Bahkan sebelum ChatGPT dirilis, rekayasa sosial yang dilakukan melalui percakapan, serangan berbasis bahasa terbukti berhasil karena mereka dapat menghindari kontrol tradisional, masuk ke kotak masuk tanpa tautan atau muatan. Jadi ya, dibutuhkan pertempuran mesin vs. mesin untuk bertahan, tetapi kita juga harus yakin bahwa kita menggunakan artileri yang efektif, seperti platform deteksi canggih. Siapa pun yang memiliki alat ini memiliki keuntungan dalam perang melawan AI Generatif.

Dalam hal skala dan kemungkinan serangan rekayasa sosial yang diberikan oleh ChatGPT dan bentuk lain dari AI Generatif, pertahanan mesin ke mesin juga dapat disempurnakan. Misalnya, pertahanan ini dapat digunakan dalam berbagai bahasa. Itu juga tidak hanya terbatas pada keamanan email tetapi dapat digunakan untuk saluran komunikasi lain seperti aplikasi seperti Slack, WhatsApp, Teams, dll.

Tetap Waspada

Saat menelusuri LinkedIn, salah satu karyawan kami menemukan upaya rekayasa sosial AI Generatif. Iklan unduhan "kertas putih" yang aneh muncul dengan apa yang hanya dapat digambarkan dengan murah hati sebagai materi iklan "bizarro". Setelah diperiksa lebih dekat, karyawan tersebut melihat pola warna di sudut kanan bawah yang dicap pada gambar yang dihasilkan oleh Dall-E, model AI yang menghasilkan gambar dari perintah berbasis teks.

Menghadapi iklan LinkedIn palsu ini adalah pengingat yang signifikan akan bahaya rekayasa sosial baru yang sekarang muncul jika digabungkan dengan AI Generatif. Lebih penting dari sebelumnya untuk waspada dan curiga.

Usia AI generatif yang digunakan untuk kejahatan dunia maya telah tiba, dan kita harus tetap waspada dan bersiap untuk melawan balik dengan setiap alat yang kita miliki.