Pemimpin pemikiran

Kecerdasan Buatan Generatif dalam Keamanan Siber: Medan Pertempuran, Ancaman, dan Kini Pertahanan

Chris Lehman
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaGeneratif AI memungkinkan serangan phishing multi-bahasa yang canggih untuk melewati…
Lihat selengkapnya
  • Generatif AI memungkinkan serangan phishing multi-bahasa yang canggih untuk melewati keamanan email tradisional.
  • Pertarungan mesin-ke-mesin menggunakan platform deteksi canggih sangat penting untuk melawan rekayasa sosial yang dihasilkan AI.
  • Iklan LinkedIn palsu dengan citra Dall-E menunjukkan bahwa generatif AI kini dipersenjatai untuk kejahatan siber yang ditargetkan.

Medan Pertempuran

Apa yang dimulai sebagai kegembiraan sekitar kemampuan Kecerdasan Buatan Generatif telah dengan cepat berubah menjadi kekhawatiran. Alat Kecerdasan Buatan Generatif seperti ChatGPT, Google Bard, Dall-E, dll. terus membuat berita karena keamanan dan privasi yang menjadi perhatian. Ini bahkan menyebabkan pertanyaan tentang apa yang nyata dan apa yang tidak. Kecerdasan Buatan Generatif dapat menghasilkan konten yang sangat masuk akal dan oleh karena itu sangat meyakinkan. Begitu meyakinkannya, hingga pada akhir segmen terbaru tentang AI dalam acara 60 Minutes, pembawa acara Scott Pelley meninggalkan pemirsa dengan pernyataan ini; “Kami akan mengakhiri dengan catatan yang tidak pernah muncul dalam acara 60 Minutes, tetapi satu, dalam revolusi AI, Anda mungkin sering mendengarnya: konten sebelumnya dibuat dengan 100% konten manusia.”

Perang siber Kecerdasan Buatan Generatif dimulai dengan konten yang meyakinkan dan realistis ini dan medan pertempuran adalah tempat peretas menggunakan Kecerdasan Buatan Generatif, menggunakan alat seperti ChatGPT, dll. Ini sangat mudah bagi penjahat siber, terutama mereka dengan sumber daya terbatas dan pengetahuan teknis nol, untuk melakukan kejahatan mereka melalui serangan teknik sosial, phishing, dan penyamaran sebagai pihak lain.

Ancaman

Kecerdasan Buatan Generatif memiliki kekuatan untuk memicu serangan siber yang semakin canggih.

Karena teknologi dapat menghasilkan konten yang sangat masuk akal dan mirip manusia dengan mudah, penipuan siber baru yang menggunakan AI lebih sulit untuk dikenali oleh tim keamanan. Penipuan yang dihasilkan AI dapat berupa serangan teknik sosial seperti serangan phishing multi-saluran yang dilakukan melalui email dan aplikasi pesan. Contoh dunia nyata bisa berupa email atau pesan yang berisi dokumen yang dikirim kepada eksekutif perusahaan dari vendor pihak ketiga melalui Outlook (Email) atau Slack (Aplikasi Pesan). Email atau pesan tersebut mengarahkan mereka untuk mengkliknya untuk melihat faktur. Dengan Kecerdasan Buatan Generatif, hampir mustahil untuk membedakan antara email atau pesan palsu dan asli. Yang membuatnya sangat berbahaya.

Salah satu contoh paling mengkhawatirkan, bagaimanapun, adalah bahwa dengan Kecerdasan Buatan Generatif, penjahat siber dapat menghasilkan serangan di beberapa bahasa – terlepas dari apakah peretas sebenarnya berbicara bahasa tersebut. Tujuannya adalah untuk melemparkan jaring yang luas dan penjahat siber tidak akan membedakan korban berdasarkan bahasa.

Peningkatan Kecerdasan Buatan Generatif menandakan bahwa skala dan efisiensi serangan ini akan terus meningkat.

Pertahanan

Pertahanan siber terhadap ancaman terkait Kecerdasan Buatan Generatif telah lama menjadi bagian yang hilang dari teka-teki. Sampai sekarang. Dengan menggunakan pertarungan mesin-ke-mesin, atau memasang AI melawan AI, kita dapat mempertahankan diri dari ancaman baru dan tumbuh ini. Tapi bagaimana strategi ini harus didefinisikan dan bagaimana itu terlihat?

Pertama, industri harus bertindak untuk memasang komputer melawan komputer bukan manusia melawan komputer. Untuk melanjutkan upaya ini, kita harus mempertimbangkan platform deteksi canggih yang dapat mendeteksi ancaman yang dihasilkan AI, mengurangi waktu yang dibutuhkan untuk mengidentifikasi dan waktu yang dibutuhkan untuk menyelesaikan serangan teknik sosial yang berasal dari Kecerdasan Buatan Generatif. Sesuatu yang tidak dapat dilakukan manusia.

Kami baru-baru ini melakukan tes tentang bagaimana ini dapat terlihat. Kami meminta ChatGPT membuat email phishing berbasis bahasa yang mengajak penerima menelepon kembali, dalam beberapa bahasa untuk melihat apakah platform pemahaman bahasa alami atau platform deteksi canggih dapat mendeteksinya. Kami memberi ChatGPT perintah, “tulis email yang mendesak untuk menelepon tentang pemberitahuan akhir pada perjanjian lisensi perangkat lunak.” Kami juga memerintahkan untuk menulisnya dalam bahasa Inggris dan Jepang.

Platform deteksi canggih dapat segera mengidentifikasi email sebagai serangan teknik sosial. TAPI, mekanisme keamanan bawaan sistem email seperti platform deteksi phishing Outlook tidak bisa. Bahkan sebelum rilis ChatGPT, teknik sosial yang dilakukan melalui serangan bahasa berbasis percakapan terbukti berhasil karena mereka dapat menghindari kontrol tradisional, mendarat di kotak masuk tanpa tautan atau muatan berbahaya. Jadi, ya, itu membutuhkan pertarungan mesin-ke-mesin untuk mempertahankan diri, tetapi kita juga harus memastikan bahwa kita menggunakan artileri yang efektif, seperti platform deteksi canggih. Siapa pun yang memiliki alat ini di genggamannya memiliki keunggulan dalam pertarungan melawan Kecerdasan Buatan Generatif.

Dalam menghadapi skala dan tingkat kemiripan dengan pesan asli pada serangan teknik sosial yang diberikan oleh ChatGPT dan bentuk Kecerdasan Buatan Generatif lainnya, pertahanan mesin-ke-mesin juga dapat diperbarui. Misalnya, pertahanan ini dapat diterapkan dalam beberapa bahasa. Ini juga tidak hanya terbatas pada keamanan email tetapi dapat digunakan untuk saluran komunikasi lain seperti aplikasi seperti Slack, WhatsApp, Teams, dll.

Tetap Waspada

Ketika menggulirkan LinkedIn, salah satu karyawan kami menemukan upaya teknik sosial Kecerdasan Buatan Generatif. Iklan unduhan “whitepaper” aneh muncul dengan apa yang hanya dapat digambarkan dengan baik sebagai materi iklan yang aneh. Setelah pemeriksaan lebih dekat, karyawan melihat pola warna yang khas di pojok kanan bawah yang dicap pada gambar yang dihasilkan oleh Dall-E, model AI yang menghasilkan gambar dari prompt teks.

Menghadapi iklan LinkedIn palsu ini adalah pengingat yang signifikan tentang bahaya teknik sosial baru yang sekarang muncul ketika digabungkan dengan Kecerdasan Buatan Generatif. Ini lebih kritis daripada sebelumnya untuk tetap waspada dan curiga.

Era penggunaan Kecerdasan Buatan Generatif untuk kejahatan siber telah tiba, dan kita harus tetap waspada dan siap untuk melawan dengan semua alat yang ada.

Chris Lehman adalah direktur utama (CEO) dari SafeGuard Cyber. Chris adalah eksekutif senior berpengalaman dengan lebih dari 20 tahun pengalaman bekerja untuk beberapa perusahaan teknologi dengan pertumbuhan tertinggi dan paling sukses di dunia.