Agen AI Mengubah Hari Nol Menjadi Perlombaan yang Manusia Tidak Bisa Menangkan Sendirian

Selama beberapa tahun, kerentanan hari nol telah berbahaya, tetapi mereka dulunya langka dan sulit dieksploitasi secara besar-besaran. Menemukan satu memerlukan kesabaran, keterampilan khusus, dan pemahaman mendalam tentang perilaku perangkat lunak. Seperti yang dilaporkan oleh Nicole Perlroth dan jurnalis lainnya, ada perdagangan hari nol, dan negara-negara menganggapnya sebagai senjata cyber yang sangat berharga.

Hari ini, hari nol tersedia secara luas. Hampir semua orang dapat menemukan yang baru dengan bantuan model AI sumber terbuka, atau AI propietary seperti Claude dan OpenAI.

Kemajuan yang sama yang membuat AI berguna untuk menulis kode, meringkas log, dan mempercepat operasi keamanan juga dapat digunakan untuk mencari kerentanan, menghubungkan kerentanan, dan menguji jalur eksploitasi dengan kecepatan mesin. Penyerang tidak perlu lagi memeriksa setiap dependensi secara manual, merekayasa balik setiap aplikasi, atau menghabiskan waktu berminggu-minggu untuk mencari kelemahan. Agen AI dapat mengotomatisasi sebagian besar pekerjaan tersebut, menjelajahi basis kode, memindai sistem yang terbuka, menghasilkan hipotesis, dan mengulangi sampai mereka menemukan sesuatu yang berguna.

Itu mengubah ekonomi eksploitasi hari nol. Seorang penyerang manusia mungkin hanya memiliki waktu untuk mengejar target yang paling menjanjikan. Seorang penyerang yang dibantu AI dapat memeriksa lebih banyak perangkat lunak, lebih cepat, dengan lebih sedikit kelelahan. Bahkan jika sebagian besar upaya gagal, volume upaya yang besar membuat keberhasilan lebih mungkin. Dalam keamanan siber, skala sering mengubah peristiwa langka menjadi peristiwa rutin.

AI Membesarkan Permukaan Pencarian Hari Nol

Inilah mengapa hari nol menjadi risiko perusahaan yang lebih mendesak. Perangkat lunak modern terlalu besar, terlalu terhubung, dan terlalu bergantung pada komponen pihak ketiga bagi organisasi mana pun untuk memahami setiap kelemahan sebelum penyerang melakukannya. Sebagian besar perusahaan mengandalkan campuran platform komersial, perpustakaan sumber terbuka, layanan cloud, aplikasi SaaS, API, sistem identitas, perangkat tepi, dan alat internal. Setiap lapisan memperkenalkan kerentanan potensial. Setiap integrasi menciptakan jalur serangan baru. Setiap pembaruan dapat mengubah profil risiko secara diam-diam.

Kenyataan yang tidak nyaman adalah bahwa ada sejumlah besar kerentanan yang tidak terdeteksi yang berada di dalam perangkat lunak semua jenis. Sebagian dari itu ada di kode lama. Sebagian dari itu ada di kode baru yang ditulis di bawah tekanan. Sebagian dari itu berasal dari dependensi yang sedikit organisasi lacak dengan presisi yang cukup. Sebagian dari itu muncul dari cara sistem berinteraksi, bahkan ketika setiap komponen individual tampak aman. Agen AI sangat cocok untuk menjelajahi kompleksitas tersebut karena mereka dapat mencari secara luas, persisten, dan adaptif.

Pembela menghadapi masalah patching yang tidak mungkin. Anda tidak dapat memperbaiki kerentanan yang tidak Anda ketahui ada. Anda tidak dapat memprioritaskan setiap kelemahan teoretis secara sama. Anda tidak dapat sepenuhnya menguji setiap kombinasi perangkat lunak, konfigurasi, dan perilaku pengguna sebelum penerapan. Bahkan program manajemen kerentanan yang matang sering dibangun di sekitar CVE yang diketahui, advis vendor, dan umpan intelijen ancaman. Itu semua penting, tetapi mereka tiba setelah penemuan. Dalam dunia pemburuan hari nol yang dipercepat AI, penemuan mungkin terjadi pertama kali di tangan penyerang.

Ini menciptakan permainan whack a mole yang terus berkembang. Sebuah kerentanan ditemukan. Pembaruan dipaksakan. Eksploitasi beralih ke sistem tetangga, dependensi yang berbeda, atau antarmuka yang terbuka baru. Tim keamanan merespons, tetapi backlog terus berkembang. AI meningkatkan kecepatan palu di kedua sisi, tetapi penyerang sering mendapat keuntungan pertama karena mereka hanya perlu menemukan satu jalur yang viable. Pembela harus melindungi semuanya.

Jawaban jangka panjang mungkin datang dari AI itu sendiri. Ketika sistem AI menjadi lebih baik dalam menghasilkan, menguji, dan menguji kode, mereka harus membantu menghilangkan kelas kerentanan sebelum perangkat lunak mencapai produksi. Pengembangan yang aman sejak awal bisa menjadi lebih praktis ketika AI dapat terus-menerus memeriksa kode, mengidentifikasi pola yang tidak aman, memodelkan eksploitasi, dan merekomendasikan perbaikan secara real-time. Akhirnya, kita mungkin mencapai titik di mana kesalahan memori umum, kerentanan injeksi, kesalahan otentikasi, dan konfigurasi yang tidak aman secara dramatis berkurang karena rekayasa AI yang dibantu menangkapnya lebih awal. Dalam pekerjaan kami di DeepTempo, kami sudah melihat penggunaan bahasa yang aman memori seperti Rust di perangkat lunak kami; sementara Rust lebih sulit dalam beberapa hal untuk dikode, itu lebih aman dan pengkodeannya telah menjadi lebih mudah berkat AI.

Pembela Perlu Beralih Dari Kecepatan Pembaruan Ke Ketahanan Serangan

Sementara masa depan di mana semua perangkat lunak telah diperbarui atau ditulis ulang dengan cara yang lebih aman patut dipursukan, tidak jelas seberapa mungkin itu secara teoretis karena berbagai alasan. Dalam hal apa pun, kita tahu itu belum tiba dan tidak akan tiba dalam beberapa tahun. Kode AI yang dihasilkan hari ini masih dapat memperkenalkan kerentanan. Dan alat keamanan AI masih dapat melewatkan konteks. Lingkungan perusahaan saat ini masih mengandung hutang teknis yang telah terkumpul selama beberapa dekade. Penyerang sudah menggunakan otomatisasi untuk bergerak lebih cepat, sementara pembela masih mengintegrasikan AI ke dalam alur kerja yang ada, rantai persetujuan, dan model risiko, dan menemukan bahwa LLM tidak berguna saat mendeteksi serangan.Lebih banyak informasi tentang bagaimana LLM berkinerja dalam deteksi dapat ditemukan di benchmark sumber terbuka terbaru seperti SOC Bench. Misalnya, insinyur di balik SOC Bench menemukan bahwa LLM terbaik memiliki tingkat positif palsu sekitar 20% dan akan menelan biaya ratusan juta dolar sehari pada skala lingkungan keamanan yang besar.Sebagai hasil dari semua faktor di atas, kemunculan AI saat ini sangat mendukung penyerang.

Sayangnya, organisasi perlu mengasumsikan bahwa beberapa kerentanan yang tidak diketahui akan ditemukan oleh musuh sebelum mereka diungkapkan secara publik. Apa yang lebih, berkat pemalsuan yang ditingkatkan dan penangkapan identitas yang meluas, penyerang dapat langsung masuk.Dalam singkat, setidaknya untuk jangka menengah, strategi keamanan tidak dapat bergantung sepenuhnya pada pencegahan. Pencegahan tetap kritis, tetapi harus dipasangkan dengan deteksi yang lebih cepat, analitik perilaku yang lebih kuat, dan pengandalian yang lebih ketat.

Seperti yang telah disarankan oleh berbagai organisasi baru-baru ini, termasuk NIST, Five Eyes, dan Akademi Ilmu Nasional, mengingat kemunculan penyerang yang diperkuat AI, tim keamanan harus mengkaji ulang pendekatan untuk memahami apa yang terlihat normal di seluruh pengguna, mesin, identitas, aplikasi, dan aliran data. Eksploitasi hari nol sering berhasil karena mereka melewati tanda tangan yang diketahui, tetapi mereka masih meninggalkan jejak yang dapat dilihat dan dibedakan oleh model klasifikasi yang paling kuat saat ini. Misalnya, serangan mungkin menunjukkan pola akses yang tidak biasa, penggunaan hak istimewa yang tidak biasa, aktivitas proses yang tidak terduga, aliran otentikasi yang aneh, atau pergerakan data yang, dalam kombinasi, tidak sesuai dengan baseline lingkungan.

Selain itu, perusahaan harus mengurangi radius ledakan kompromi. Segmentasi, hak istimewa minimal, kontrol identitas yang kuat, pemantauan terus-menerus, dan isolasi yang cepat lebih penting ketika kerentanan yang tidak diketahui dieksploitasi. Jika penyerang menggunakan hari nol untuk memasuki, pertanyaan berikutnya adalah seberapa jauh mereka dapat bergerak sebelum dideteksi. Jendela yang lebih kecil membuat eksploitasi menjadi kurang berharga.

Tidak ada tombol pause yang bersih untuk saat ini. Agen AI akan terus meningkatkan. Eksperimen ofensif akan terus mempercepat. Jumlah sistem yang patut diselidiki akan terus bertumbuh. Tugas komunitas keamanan adalah memastikan bahwa AI pertahanan matang dengan kecepatan yang sama.

Hari nol selalu menghargai kecepatan, kreativitas, dan asimetri. Agen AI memperkuat ketiganya. Organisasi yang beradaptasi akan memperlakukan AI sebagai lebih dari lapisan produktivitas untuk tim keamanan. Mereka juga akan menggunakan AI yang dibuat khusus untuk mendeteksi ancaman yang tidak diketahui dengan efisien dan akurat, memprioritaskan sinyal yang lemah yang, dalam kombinasi dengan ribuan lainnya, menunjukkan kompromi, dan merespons sebelum kerentanan yang dieksploitasi menjadi krisis bisnis yang luas.