Melawan AI dengan AI di Lanskap Ancaman Modern

Tidak ada berita baru bahwa AI telah mengubah industri keamanan siber secara dramatis. Baik penyerang maupun pembela sama-sama menggunakan kecerdasan buatan untuk meningkatkan kemampuan mereka, masing-masing berusaha untuk tetap satu langkah di depan yang lain. Permainan kucing dan tikus ini tidak baru—penyerang telah mencoba untuk mengoutsmart tim keamanan selama dekade—tapi munculnya kecerdasan buatan telah memperkenalkan elemen baru (dan sering tidak terduga) ke dalam dinamika. Penyerang di seluruh dunia dengan gembira menggunakan teknologi baru ini untuk mengembangkan metode serangan inovatif yang belum pernah terlihat sebelumnya.

Setidaknya, itulah persepsi. Tapi kenyataannya sedikit berbeda. Sementara benar bahwa penyerang semakin banyak menggunakan AI, mereka sebagian besar menggunakan itu untuk meningkatkan skala dan kompleksitas serangan mereka, memperbaiki pendekatan mereka terhadap taktik yang ada daripada memecahkan tanah baru. Pemikiran di sini jelas: mengapa menghabiskan waktu dan upaya untuk mengembangkan metode serangan masa depan ketika pembela sudah bergelut untuk menghentikan serangan hari ini? Untungnya, tim keamanan modern menggunakan kemampuan AI mereka sendiri—banyak di antaranya membantu mendeteksi malware, upaya phising, dan taktik serangan umum lainnya dengan kecepatan dan akurasi yang lebih tinggi. Ketika “perlombaan senjata AI” antara penyerang dan pembela terus berlanjut, akan semakin penting bagi tim keamanan untuk memahami bagaimana lawan mereka benar-benar menggunakan teknologi—dan memastikan bahwa upaya mereka sendiri difokuskan pada tempat yang tepat.

Bagaimana Penyerang Menggunakan AI

Gagasan tentang AI semi-otonom yang diterapkan untuk menghacking secara metodis melalui pertahanan organisasi adalah hal yang menakutkan, tapi (untuk sekarang) masih berada di ranah novel fiksi ilmiah. Memang benar bahwa AI telah berkembang dengan kecepatan luar biasa selama beberapa tahun terakhir, tapi kita masih jauh dari kecerdasan buatan umum (AGI) yang mampu meniru pola pikir dan perilaku manusia dengan sempurna. Itu tidak berarti AI hari ini tidak mengesankan—tentu saja itu mengesankan. Tapi alat AI generatif dan model bahasa besar (LLM) paling efektif dalam mensintesis informasi dari materi yang ada dan menghasilkan perubahan kecil yang berulang. Mereka tidak bisa menciptakan sesuatu yang benar-benar baru dengan sendirinya—tapi jangan salah, kemampuan untuk mensintesis dan berulang sangat berguna.

Dalam praktek, ini berarti bahwa bukan mengembangkan metode serangan baru, lawan dapat meningkatkan metode serangan yang ada. Dengan menggunakan AI, penyerang mungkin dapat mengirim jutaan email phising, bukan ribuan. Mereka juga dapat menggunakan LLM untuk membuat pesan yang lebih meyakinkan, menipu lebih banyak penerima untuk mengklik tautan berbahaya atau mengunduh file yang mengandung malware. Taktik seperti phising pada dasarnya adalah permainan angka: sebagian besar orang tidak akan terjebak dalam email phising, tapi jika jutaan orang menerimanya, bahkan tingkat keberhasilan 1% dapat menghasilkan ribuan korban baru. Jika LLM dapat meningkatkan tingkat keberhasilan 1% menjadi 2% atau lebih, penipu dapat secara efektif menggandakan efektivitas serangan mereka dengan sedikit atau tanpa usaha. Hal yang sama berlaku untuk malware: jika perubahan kecil pada kode malware dapat efektif menyembunyikan deteksi alat, penyerang dapat mendapatkan lebih banyak keuntungan dari program malware individual sebelum mereka perlu beralih ke sesuatu yang baru.

Unsur lain yang bermain di sini adalah kecepatan. Karena serangan berbasis AI tidak terikat oleh keterbatasan manusia, mereka dapat sering melakukan urutan serangan dengan kecepatan yang jauh lebih cepat daripada operator manusia. Itu berarti penyerang bisa saja masuk ke jaringan dan mencapai “mahkota” korban—data paling sensitif atau berharga—sebelum tim keamanan bahkan menerima peringatan, apalagi merespons. Jika penyerang dapat bergerak lebih cepat, mereka tidak perlu berhati-hati—yang berarti mereka dapat melakukan kegiatan yang lebih berisik dan mengganggu tanpa dihentikan. Mereka tidak melakukan sesuatu yang baru di sini, tapi dengan mendorong serangan mereka lebih cepat, mereka dapat mengungguli pertahanan jaringan dengan cara yang berpotensi mengubah permainan. Ini adalah kunci untuk memahami bagaimana penyerang menggunakan AI. Penipuan rekayasa sosial dan program malware sudah merupakan vektor serangan yang sukses—tapi sekarang lawan dapat membuatnya lebih efektif, menerapkannya lebih cepat, dan beroperasi pada skala yang jauh lebih besar. Daripada melawan beberapa puluh upaya per hari, organisasi mungkin harus melawan ratusan, ribuan, atau bahkan puluhan ribuan serangan yang cepat. Dan jika mereka tidak memiliki solusi atau proses untuk mendeteksi serangan tersebut dengan cepat, mengidentifikasi mana yang mewakili ancaman nyata, dan mengatasi mereka secara efektif, mereka meninggalkan diri mereka terbuka untuk diserang. Bukan mempertanyakan bagaimana penyerang mungkin menggunakan AI di masa depan, organisasi harus menggunakan solusi AI mereka sendiri dengan tujuan menangani metode serangan yang ada pada skala yang lebih besar.

Menggunakan AI untuk Keuntungan Tim Keamanan

Para ahli keamanan di semua tingkat, baik bisnis maupun pemerintah, mencari cara untuk menggunakan AI untuk tujuan pertahanan. Pada bulan Agustus, Badan Penelitian dan Pengembangan Pertahanan AS (DARPA) mengumumkan finalis untuk tantangan AI terbarunya, yang memberikan penghargaan kepada tim penelitian keamanan yang bekerja untuk melatih model bahasa besar (LLM) untuk mengidentifikasi dan memperbaiki kerentanan berbasis kode. Tantangan ini didukung oleh penyedia AI besar, termasuk Google, Microsoft, dan OpenAI, yang semua menyediakan dukungan teknologi dan keuangan untuk upaya ini untuk memperkuat keamanan berbasis AI. Tentu saja, DARPA hanya satu contoh—Anda hampir tidak bisa menggelengkan tongkat tanpa mengenai pendiri startup yang bersemangat untuk memberitahu Anda tentang solusi keamanan AI canggih mereka. Cukuplah untuk dikatakan, menemukan cara baru untuk menggunakan AI untuk tujuan pertahanan adalah prioritas tinggi untuk organisasi semua jenis dan ukuran.

Tapi seperti penyerang, tim keamanan sering menemukan kesuksesan terbesar ketika mereka menggunakan AI untuk memperkuat kemampuan yang ada. Dengan serangan yang terjadi pada skala yang terus meningkat, tim keamanan sering diregangkan tipis—baik dalam hal waktu maupun sumber daya—membuatnya sulit untuk mengidentifikasi, menyelidiki, dan mengatasi setiap peringatan keamanan yang muncul. Tidak ada waktu untuk itu. Solusi AI memainkan peran penting dalam meringankan tantangan ini dengan menyediakan kemampuan deteksi dan respons otomatis. Jika ada satu hal yang AI baik, itu adalah mengidentifikasi pola—dan itu berarti alat AI sangat baik dalam mengenali perilaku abnormal, terutama jika perilaku itu sesuai dengan pola serangan yang diketahui. Karena AI dapat meninjau sejumlah besar data jauh lebih cepat daripada manusia, ini memungkinkan tim keamanan untuk meningkatkan operasi mereka dengan cara yang signifikan. Dalam banyak kasus, solusi ini bahkan dapat mengotomatisasi proses perbaikan dasar, mengatasi serangan tingkat rendah tanpa perlu intervensi manusia. Mereka juga dapat digunakan untuk mengotomatisasi proses validasi keamanan, terus-menerus memeriksa dan menguji pertahanan jaringan untuk memastikan mereka berfungsi sebagaimana dimaksud.

Juga penting untuk dicatat bahwa AI tidak hanya memungkinkan tim keamanan untuk mengidentifikasi aktivitas serangan potensial lebih cepat—juga secara dramatis meningkatkan akurasi mereka. Daripada mengejar peringatan palsu, tim keamanan dapat yakin bahwa ketika solusi AI memperingatkan mereka tentang potensi serangan, itu layak untuk perhatian mereka segera. Ini adalah elemen AI yang tidak dibicarakan cukup—sementara banyak diskusi berpusat pada AI “menggantikan” manusia dan mengambil pekerjaan mereka, kenyataannya adalah bahwa solusi AI memungkinkan manusia untuk melakukan pekerjaan mereka dengan lebih baik dan lebih efisien, serta meringankan kelelahan yang datang dengan melakukan tugas yang membosankan dan berulang. Jauh dari memiliki dampak negatif pada operator manusia, solusi AI menangani banyak “pekerjaan sibuk” yang dirasakan terkait dengan posisi keamanan, memungkinkan manusia untuk fokus pada tugas yang lebih menarik dan penting. Pada saat ketika kelelahan mencapai tingkat tertinggi dan banyak bisnis bergelut untuk menarik bakat keamanan baru, meningkatkan kualitas hidup dan kepuasan kerja dapat memiliki dampak positif yang besar.

Di sinilah letak keuntungan nyata bagi tim keamanan. Tidak hanya solusi AI dapat membantu mereka meningkatkan operasi mereka untuk secara efektif melawan penyerang yang menggunakan alat AI—mereka juga dapat menjaga profesional keamanan lebih bahagia dan lebih puas dalam peran mereka. Itu adalah solusi yang jarang menang untuk semua pihak yang terlibat, dan itu harus membantu bisnis hari ini menyadari bahwa saatnya untuk berinvestasi dalam solusi keamanan berbasis AI adalah sekarang.

Perlombaan Senjata AI Baru Saja Dimulai

Perlombaan untuk mengadopsi solusi AI sedang berlangsung, dengan penyerang dan pembela menemukan cara yang berbeda untuk menggunakan teknologi untuk keuntungan mereka. Ketika penyerang menggunakan AI untuk meningkatkan kecepatan, skala, dan kompleksitas serangan mereka, tim keamanan akan perlu melawan api dengan api, menggunakan alat AI mereka sendiri untuk meningkatkan kecepatan dan akurasi kemampuan deteksi dan perbaikan mereka. Untungnya, solusi AI memberikan informasi kritis kepada tim keamanan, memungkinkan mereka untuk lebih baik menguji dan mengevaluasi efektivitas solusi mereka sendiri sambil juga membebaskan waktu dan sumber daya untuk tugas yang lebih kritis. Jangan salah, perlombaan senjata AI baru saja dimulai—tapi kenyataan bahwa profesional keamanan sudah menggunakan AI untuk tetap satu langkah di depan penyerang adalah tanda yang sangat baik.