Kecerdasan Buatan Generatif dalam Keamanan Siber: Medan Pertempuran, Ancaman, & Sekarang Pertahanan

Medan Pertempuran

Apa yang dimulai sebagai kegembiraan sekitar kemampuan Kecerdasan Buatan Generatif telah dengan cepat berubah menjadi kekhawatiran. Alat Kecerdasan Buatan Generatif seperti ChatGPT, Google Bard, Dall-E, dll. terus membuat berita karena keamanan dan privasi yang menjadi perhatian. Ini bahkan menyebabkan pertanyaan tentang apa yang nyata dan apa yang tidak. Kecerdasan Buatan Generatif dapat menghasilkan konten yang sangat masuk akal dan oleh karena itu meyakinkan. Jadi banyak sehingga pada akhir segmen 60 Menit tentang AI, pembawa acara Scott Pelley meninggalkan pemirsa dengan pernyataan ini; “Kami akan mengakhiri dengan catatan yang tidak pernah muncul di 60 Menit, tetapi satu, dalam revolusi AI, Anda mungkin sering mendengarnya: apa yang disebutkan sebelumnya dibuat dengan 100% konten manusia.”

Perang siber Kecerdasan Buatan Generatif dimulai dengan konten yang meyakinkan dan nyata ini dan medan pertempuran adalah tempat peretas menggunakan Kecerdasan Buatan Generatif, menggunakan alat seperti ChatGPT, dll. Ini sangat mudah bagi penjahat siber, terutama mereka dengan sumber daya terbatas dan tanpa pengetahuan teknis, untuk melakukan kejahatan mereka melalui teknik sosial, phishing, dan serangan pemalsuan.

Ancaman

Kecerdasan Buatan Generatif memiliki kekuatan untuk memicu serangan siber yang semakin canggih.

Karena teknologi dapat menghasilkan konten yang sangat meyakinkan dan mirip manusia dengan mudah, skema siber baru yang menggunakan AI lebih sulit untuk dikenali oleh tim keamanan. Skema AI yang dihasilkan dapat berupa serangan teknik sosial seperti serangan phishing multi-channel yang dilakukan melalui email dan aplikasi pesan. Contoh dunia nyata bisa berupa email atau pesan yang berisi dokumen yang dikirim ke eksekutif perusahaan dari vendor pihak ketiga melalui Outlook (Email) atau Slack (Aplikasi Pesan). Email atau pesan tersebut mengarahkan mereka untuk mengklik untuk melihat invoice. Dengan Kecerdasan Buatan Generatif, hampir mustahil untuk membedakan antara email atau pesan palsu dan asli. Itulah mengapa ini sangat berbahaya.

Salah satu contoh yang paling mengkhawatirkan, bagaimanapun, adalah bahwa dengan Kecerdasan Buatan Generatif, penjahat siber dapat menghasilkan serangan dalam banyak bahasa – terlepas dari apakah peretas tersebut benar-benar berbicara bahasa tersebut. Tujuannya adalah untuk melemparkan jaring yang luas dan penjahat siber tidak akan membedakan korban berdasarkan bahasa.

Kemajuan Kecerdasan Buatan Generatif menandakan bahwa skala dan efisiensi serangan ini akan terus meningkat.

Pertahanan

Pertahanan siber untuk Kecerdasan Buatan Generatif telah lama menjadi bagian yang hilang dari teka-teki. Sampai sekarang. Dengan menggunakan pertarungan mesin-ke-mesin, atau memasang AI melawan AI, kita dapat membela diri melawan ancaman baru dan berkembang ini. Tapi bagaimana strategi ini harus didefinisikan dan bagaimana tampilannya?

Pertama, industri harus bertindak untuk memasang komputer melawan komputer bukan manusia vs komputer. Untuk melanjutkan upaya ini, kita harus mempertimbangkan platform deteksi canggih yang dapat mendeteksi ancaman yang dihasilkan AI, mengurangi waktu yang dibutuhkan untuk menandai dan waktu yang dibutuhkan untuk menyelesaikan serangan teknik sosial yang berasal dari Kecerdasan Buatan Generatif. Sesuatu yang tidak dapat dilakukan manusia.

Kami baru-baru ini melakukan tes tentang bagaimana ini dapat terlihat. Kami memiliki ChatGPT memasak email phishing berbasis bahasa dengan callback dalam beberapa bahasa untuk melihat apakah platform Pemahaman Bahasa Alam atau platform deteksi canggih dapat mendeteksiinya. Kami memberi ChatGPT prompt, “tulis email yang mendesak untuk mendorong seseorang untuk menelepon tentang pemberitahuan akhir tentang perjanjian lisensi perangkat lunak.” Kami juga memerintahkan untuk menulisnya dalam bahasa Inggris dan Jepang.

Platform deteksi canggih dapat segera menandai email sebagai serangan teknik sosial. TAPI, kontrol email asli seperti platform deteksi phishing Outlook tidak bisa. Bahkan sebelum rilis ChatGPT, teknik sosial yang dilakukan melalui serangan berbasis bahasa dan percakapan terbukti sukses karena mereka dapat menghindari kontrol tradisional, mendarat di kotak masuk tanpa tautan atau payload. Jadi, ya, ini membutuhkan pertarungan mesin-ke-mesin untuk membela diri, tetapi kita juga harus memastikan bahwa kita menggunakan artileri yang efektif, seperti platform deteksi canggih. Siapa pun yang memiliki alat ini di genggaman mereka memiliki keuntungan dalam pertarungan melawan Kecerdasan Buatan Generatif.

Ketika datang ke skala dan kemungkinan serangan teknik sosial yang diberikan oleh ChatGPT dan bentuk Kecerdasan Buatan Generatif lainnya, pertahanan mesin-ke-mesin juga dapat diperbarui. Misalnya, pertahanan ini dapat diterapkan dalam banyak bahasa. Ini juga tidak harus terbatas pada keamanan email tetapi dapat digunakan untuk saluran komunikasi lain seperti aplikasi seperti Slack, WhatsApp, Teams, dll.

Tetap Waspada

Ketika menggulirkan LinkedIn, salah satu karyawan kami menemukan upaya teknik sosial Kecerdasan Buatan Generatif. Iklan “whitepaper” aneh muncul dengan apa yang hanya dapat digambarkan dengan baik sebagai “bizarro” kreatif iklan. Setelah pemeriksaan lebih dekat, karyawan melihat pola warna yang khas di pojok kanan bawah yang dicap pada gambar yang dihasilkan oleh Dall-E, model AI yang menghasilkan gambar dari prompt teks.

Menghadapi iklan LinkedIn palsu ini adalah pengingat penting tentang bahaya teknik sosial baru yang sekarang muncul ketika digabungkan dengan Kecerdasan Buatan Generatif. Ini lebih kritis daripada sebelumnya untuk tetap waspada dan curiga.

Zaman Kecerdasan Buatan Generatif yang digunakan untuk kejahatan siber telah tiba, dan kita harus tetap waspada dan siap untuk melawan dengan semua alat yang ada.