Kecerdasan Buatan Generatif dalam Keamanan Siber: Medan Pertempuran, Ancaman, & Sekarang Pertahanan

Medan Pertempuran

Apa yang dimulai sebagai kegembiraan sekitar kemampuan Kecerdasan Buatan Generatif telah dengan cepat berubah menjadi kekhawatiran. Alat Kecerdasan Buatan Generatif seperti ChatGPT, Google Bard, Dall-E, dll. terus membuat berita karena keamanan dan privasi yang menjadi perhatian. Ini bahkan menyebabkan pertanyaan tentang apa yang nyata dan apa yang tidak. Kecerdasan Buatan Generatif dapat menghasilkan konten yang sangat masuk akal dan oleh karena itu sangat meyakinkan. Jadi banyak sehingga pada akhir segmen 60 Menit tentang AI, pembawa acara Scott Pelley meninggalkan pemirsa dengan pernyataan ini; “Kami akan mengakhiri dengan catatan yang tidak pernah muncul di 60 Menit, tetapi satu, dalam revolusi AI, Anda mungkin sering mendengarnya: konten sebelumnya dibuat dengan 100% konten manusia.”

Perang siber Kecerdasan Buatan Generatif dimulai dengan konten yang meyakinkan dan nyata ini dan medan pertempuran adalah tempat peretas menggunakan Kecerdasan Buatan Generatif, menggunakan alat seperti ChatGPT, dll. Ini sangat mudah bagi penjahat siber, terutama mereka dengan sumber daya terbatas dan pengetahuan teknis nol, untuk melakukan kejahatan mereka melalui serangan teknik sosial, phishing, dan pemalsuan.

Ancaman

Kecerdasan Buatan Generatif memiliki kekuatan untuk memicu serangan siber yang semakin canggih.

Karena teknologi dapat menghasilkan konten yang sangat masuk akal dan mirip manusia dengan mudah, skema siber baru yang menggunakan AI lebih sulit untuk dikenali oleh tim keamanan. Skema AI yang dihasilkan dapat berupa serangan teknik sosial seperti serangan phishing multi-saluran yang dilakukan melalui email dan aplikasi pesan. Contoh dunia nyata bisa berupa email atau pesan yang berisi dokumen yang dikirim kepada eksekutif perusahaan dari vendor pihak ketiga melalui Outlook (Email) atau Slack (Aplikasi Pesan). Email atau pesan tersebut mengarahkan mereka untuk mengkliknya untuk melihat faktur. Dengan Kecerdasan Buatan Generatif, hampir mustahil untuk membedakan antara email atau pesan palsu dan asli. Yang membuatnya sangat berbahaya.

Salah satu contoh paling mengkhawatirkan, bagaimanapun, adalah bahwa dengan Kecerdasan Buatan Generatif, penjahat siber dapat menghasilkan serangan di beberapa bahasa – terlepas dari apakah peretas sebenarnya berbicara bahasa tersebut. Tujuannya adalah untuk melemparkan jaring yang luas dan penjahat siber tidak akan membedakan korban berdasarkan bahasa.

Peningkatan Kecerdasan Buatan Generatif menandakan bahwa skala dan efisiensi serangan ini akan terus meningkat.

Pertahanan

Pertahanan siber untuk Kecerdasan Buatan Generatif telah lama menjadi bagian yang hilang dari teka-teki. Sampai sekarang. Dengan menggunakan pertarungan mesin-ke-mesin, atau memasang AI melawan AI, kita dapat mempertahankan diri dari ancaman baru dan tumbuh ini. Tapi bagaimana strategi ini harus didefinisikan dan bagaimana itu terlihat?

Pertama, industri harus bertindak untuk memasang komputer melawan komputer bukan manusia melawan komputer. Untuk melanjutkan upaya ini, kita harus mempertimbangkan platform deteksi canggih yang dapat mendeteksi ancaman yang dihasilkan AI, mengurangi waktu yang dibutuhkan untuk mengidentifikasi dan waktu yang dibutuhkan untuk menyelesaikan serangan teknik sosial yang berasal dari Kecerdasan Buatan Generatif. Sesuatu yang tidak dapat dilakukan manusia.

Kami baru-baru ini melakukan tes tentang bagaimana ini dapat terlihat. Kami memiliki ChatGPT membuat email phishing berbasis bahasa dalam beberapa bahasa untuk melihat apakah platform pemahaman bahasa alami atau platform deteksi canggih dapat mendeteksiinya. Kami memberi ChatGPT perintah, “tulis email yang mendesak untuk menelepon tentang pemberitahuan akhir pada perjanjian lisensi perangkat lunak.” Kami juga memerintahkan untuk menulisnya dalam bahasa Inggris dan Jepang.

Platform deteksi canggih dapat segera mengidentifikasi email sebagai serangan teknik sosial. TAPI, kontrol email asli seperti platform deteksi phishing Outlook tidak bisa. Bahkan sebelum rilis ChatGPT, teknik sosial yang dilakukan melalui serangan bahasa berbasis percakapan terbukti berhasil karena mereka dapat menghindari kontrol tradisional, mendarat di kotak masuk tanpa tautan atau payload. Jadi, ya, itu membutuhkan pertarungan mesin-ke-mesin untuk mempertahankan, tetapi kita juga harus memastikan bahwa kita menggunakan artileri yang efektif, seperti platform deteksi canggih. Siapa pun yang memiliki alat ini di genggamannya memiliki keunggulan dalam pertarungan melawan Kecerdasan Buatan Generatif.

Ketika datang ke skala dan kemungkinan serangan teknik sosial yang diberikan oleh ChatGPT dan bentuk Kecerdasan Buatan Generatif lainnya, pertahanan mesin-ke-mesin juga dapat diperbarui. Misalnya, pertahanan ini dapat diterapkan dalam beberapa bahasa. Ini juga tidak hanya terbatas pada keamanan email tetapi dapat digunakan untuk saluran komunikasi lain seperti aplikasi seperti Slack, WhatsApp, Teams, dll.

Tetap Waspada

Ketika menggulirkan LinkedIn, salah satu karyawan kami menemukan upaya teknik sosial Kecerdasan Buatan Generatif. Iklan unduhan “whitepaper” aneh muncul dengan apa yang hanya dapat digambarkan dengan baik sebagai “bizarro” kreatif iklan. Setelah pemeriksaan lebih dekat, karyawan melihat pola warna yang khas di pojok kanan bawah yang dicap pada gambar yang dihasilkan oleh Dall-E, model AI yang menghasilkan gambar dari prompt teks.

Menghadapi iklan LinkedIn palsu ini adalah pengingat yang signifikan tentang bahaya teknik sosial baru yang sekarang muncul ketika digabungkan dengan Kecerdasan Buatan Generatif. Ini lebih kritis daripada sebelumnya untuk tetap waspada dan curiga.

Usia Kecerdasan Buatan Generatif yang digunakan untuk kejahatan siber telah tiba, dan kita harus tetap waspada dan siap untuk melawan dengan semua alat yang ada.