Apa yang Kedatangan Model AI Frontier Ceritakan tentang Masa Depan Penemuan Kerentanan

Ketika Claude Mythos diumumkan pada April, itu dengan cepat menjadi salah satu topik pembicaraan terbesar di bidang keamanan siber pada era AI. Dikembangkan oleh Anthropic, model LLM baru ini menunjukkan kemampuan siber yang belum pernah terjadi sebelumnya dan memicu reaksi yang mengklasifikasinya sebagai terobosan teknologi besar bersama dengan peringatan bahwa keamanan siber mungkin memasuki periode gangguan yang belum pernah terjadi sebelumnya.

Menurut Anthropic, model ini dapat menemukan secara mandiri sejumlah besar kerentanan zero-day, dilaporkan menemukan kelemahan dalam sistem operasi dan browser utama, termasuk contoh yang telah tidak terdeteksi selama dekade. Ini juga dapat menghubungkan kelemahan individual menjadi eksploitasi multi-langkah yang berfungsi.

Dampaknya sangat dramatis sehingga, pada 12 Juni, pemerintah AS memerintahkan Anthropic untuk menghentikan semua akses ke teknologi ini untuk semua warga negara asing di seluruh dunia, termasuk karyawan Anthropic yang merupakan warga negara asing. Ini secara luas dipandang sebagai reaksi terhadap kekhawatiran bahwa kemampuan AI ofensif mungkin telah mencapai titik di mana akses yang tidak terbatas dapat menciptakan risiko yang tidak dapat diterima, bahkan tidak terkendali.

Di bawah Proyek Glasswing, program pengungkapan dan perbaikan Anthropic, akses saat ini dibatasi untuk sekitar 50 organisasi, termasuk AWS, Apple, Google, Microsoft, CrowdStrike, Cisco, dan Linux Foundation, di antara lainnya. Bisnis-bisnis ini telah diberi jendela untuk memperbaiki sistem kritis sebelum kerentanan yang diidentifikasi oleh Mythos dipublikasikan pada Juli dan seterusnya. Pada titik itu, industri benar-benar memasuki wilayah baru.

Menyeberangi Rubicon

Banyak yang setuju bahwa kedatangan model AI frontier berarti bahwa batas keamanan siber telah dilintasi. Dan mari kita jelas: masalah inti bukanlah munculnya model tertentu, tetapi kemungkinan (atau bahkan kemungkinan) bahwa penemuan kerentanan dan pengembangan eksploitasi itu sendiri mungkin memasuki era baru, dengan AI yang dapat beroperasi pada skala dan kecepatan yang melampaui kemampuan peneliti manusia.

Jika itu terbukti benar, implikasinya meluas jauh melampaui kerentanan tertentu; mereka mempengaruhi asumsi yang mendasari proses manajemen kerentanan dan perbaikan yang telah dibangun selama ini. Khususnya, proses manajemen kerentanan saat ini dikembangkan pada era ketika peneliti manusia membatasi kecepatan penemuan. AI memiliki potensi untuk mengubah secara fundamental persamaan tersebut.

Salah satu konsekuensi yang mungkin terjadi adalah peningkatan tajam dalam jumlah kerentanan yang memasuki ekosistem keamanan siber. Jumlah CVE telah meningkat secara dramatis dalam beberapa tahun terakhir, dan tim keamanan siber sudah berada di bawah tekanan yang meningkat bahkan sebelum dampak penuh dari model AI frontier dirasakan.

Dalam konteks ini, penemuan kerentanan itu sendiri mungkin tidak lagi menjadi faktor pembatas. Sebaliknya, bottleneck bergeser ke triage dan perbaikan. Tantangan diperburuk oleh fakta bahwa timeline eksploitasi telah menurun selama bertahun-tahun, dan dalam beberapa kasus, eksploitasi muncul sebelum patch menjadi tersedia, meninggalkan organisasi dengan sedikit waktu untuk bereaksi.

Kesiapan Operasional Menjadi Prioritas

Jadi, apa yang terlihat seperti pendekatan yang diperbarui dan sesuai untuk manajemen kerentanan sebenarnya? Pertama, itu perlu dianggap sebagai kemampuan operasional yang berkelanjutan karena, sebagaimana adanya, jendela antara penemuan dan penerapan patch sering kali terlalu lambat. Tim keamanan siber perlu memahami kerentanan mana yang dapat dieksploitasi dan sistem mana yang terkena.

Ketika volume temuan meningkat dan waktu untuk mengeksploitasi menurun, mengoperasikan AI untuk keamanan siber akan menjadi sangat penting. Tim yang menggunakan kemampuan deteksi AI yang canggih (sambil mengelola biaya token) dan mengotomatisasi deteksi, triage, dan perbaikan akan berada dalam posisi terbaik untuk meminimalkan jendela paparan dan dampak bisnis negatif. Ini bukan tentang menemukan kerentanan terbanyak; itu tentang mengidentifikasi dan memperbaiki masalah paling penting dengan cepat.

Kedua dan lebih penting, model AI frontier) adalah alat untuk pertahanan siber. Anggota Glasswing dapat menggunakan model untuk mendeteksi dan memperbaiki kerentanan yang sebelumnya tidak terdeteksi, idealnya dengan akses lanjutan untuk memiliki keunggulan atas penyerang ketika mereka akhirnya memiliki akses ke kemampuan AI frontier juga. Model AI frontier adalah alat deteksi yang berharga; namun, mereka tidak secara otomatis menyelesaikan aspek operasional tentang bagaimana mengelola pemindaian AI (apa yang diperlukan untuk memindai, kapan, bagaimana mengatur pemindaian, apa yang harus dilakukan dengan temuan, bagaimana mengelola biaya token, dll.). Tidak peduli model apa yang digunakan (dan mereka akan menjadi lebih baik seiring waktu), tim keamanan siber perlu dapat mengoperasikan kemampuan AI frontier untuk keamanan siber lebih cepat daripada penyerang dapat menggunakan kemampuan tersebut untuk eksploitasi.

Tantangan jangka panjang yang dihadapi organisasi adalah oleh karena itu tidak mempersiapkan diri untuk model tunggal atau gelombang pengungkapan tertentu, tetapi apakah model operasional yang ada dapat beradaptasi dengan dunia di mana kerentanan ditemukan dan diperkuat dengan kecepatan yang belum pernah terjadi sebelumnya. Salah dalam hal itu, dan organisasi akan menghadapi dunia masalah.