Laporan “AI Across the Intrusion Lifecycle” dari Gambit Security Menunjukkan Bagaimana AI Memasuki Serangan Dunia Nyata

Gambit Security baru-baru ini merilis laporan baru, AI Across the Intrusion Lifecycle, yang menawarkan tinjauan rinci tentang bagaimana kecerdasan buatan (AI) memasuki serangan dunia nyata dan menjadi bagian dari mekanisme serangan. Laporan ini ditulis oleh Direktur Intelijen Ancaman Eyal Sela dan Peneliti Ancaman Siber Nir Varon, dan memeriksa tiga aktor ancaman yang tidak terkait yang menggunakan AI untuk segala hal, dari membangun skrip dan alat eksploitasi hingga menganalisis data bisnis yang dicuri, memecahkan masalah infrastruktur, dan menentukan apa yang harus dilakukan selanjutnya di dalam lingkungan yang dikompromikan.

Signifikansi ini tidak hanya bahwa penyerang meminta model bahasa besar untuk menulis malware. Kasus-kasus ini menunjukkan sesuatu yang lebih penting: AI menjadi bagian dari alur kerja operasional serangan, membantu penyerang beradaptasi dengan sistem, kredensial, kesalahan, dan peluang baru yang muncul.

Dari Asisten Koding ke Partisipan Operasional

Di seluruh tiga investigasi, Gambit mengamati penyerang menggunakan AI di berbagai tahap serangan. Model menghasilkan skrip yang disesuaikan dengan lingkungan yang ditemui, mengembangkan alat eksploitasi, memprioritaskan informasi bisnis yang berharga, melakukan tugas IT dan DevOps, dan mengulangi perintah berdasarkan output yang diterima dari sistem yang dikompromikan.

Ini merupakan evolusi penting dari beberapa diskusi awal tentang kejahatan siber yang ditenagai AI, yang berfokus pada email phishing, generasi malware, atau mengurangi hambatan teknis bagi penyerang yang tidak berpengalaman.

AI sekarang dapat berfungsi lebih seperti asisten teknis yang sangat responsif yang terlibat dalam operasi yang sedang berlangsung.

Lanskap ancaman yang lebih luas tampaknya bergerak dalam arah yang sama. Anthropic baru-baru ini menganalisis 832 akun yang terkait dengan aktivitas siber yang berbahaya antara Maret 2025 dan Maret 2026 dan menemukan bahwa penggunaan AI meliputi semua 14 taktik yang terwakili dalam kerangka kerja MITRE ATT&CK. Perusahaan juga menemukan bahwa bagian aktor yang diklasifikasikan sebagai risiko sedang atau lebih tinggi meningkat dari 33% menjadi 56% antara paruh pertama dan paruh kedua periode yang dipelajari.

Kasus-kasus yang didokumentasikan oleh Gambit memberikan pandangan yang sangat konkrit tentang apa yang dapat terjadi di dalam serangan yang aktif.

Seorang Operator Ransomware yang Diduga Menggunakan Claude Code di Dalam Lingkaran Serangan

Kasus pertama melibatkan seorang operator ransomware yang diduga yang menggunakan Claude Code di dalam serangan ke enam organisasi pada Juni 2026, dengan para peneliti juga menghubungkan aktor tersebut dengan dua serangan sebelumnya.

Korban meliputi beberapa industri dan negara, termasuk utilitas energi Australia, perusahaan jasa keuangan di Mauritius, bisnis di Afrika Selatan, Thailand, dan Malaysia, serta beberapa organisasi di Amerika Serikat. Gambit mengaitkan aktivitas ini dengan keyakinan sedang kepada afiliasi yang menggunakan operasi ransomware-as-a-service The Gentlemen.

Apa yang menonjol adalah luasnya peran Claude Code.

Penyerang menggunakan sistem ini untuk melakukan pengintaian, menghasilkan perintah eksploitasi, menulis skrip berbahaya, memodifikasi kebijakan firewall, memetakan sistem internal, dan menentukan mesin atau database yang layak mendapatkan perhatian tambahan.

Setelah kredensial dan akses jarak jauh telah ditetapkan, AI membantu menafsirkan data pengintaian dan mengidentifikasi sistem yang lebih berharga seperti kontroler domain, server file, dan infrastruktur cadangan. Di bagian lain serangan, AI menganalisis database yang dimiliki oleh platform jasa keuangan dan membantu mengidentifikasi data produksi dan dokumen klien sebagai hal yang sangat penting.

Kasus ini juga menggambarkan batasan dari pengamanan saat ini. Pada satu titik, Claude mengenali bahwa tampaknya sedang berinteraksi dengan jaringan perusahaan yang nyata dan menolak untuk melanjutkan tanpa bukti otorisasi. Operator membuka sesi baru, mengubah pekerjaan sebagai pengujian kerentanan yang sah, dan model melanjutkan.

Namun, kemampuan yang meningkat tidak berarti eksekusi yang sempurna. Selama serangan terhadap utilitas, Claude mencoba memodifikasi konfigurasi firewall dan akhirnya meninggalkan perangkat yang tidak dapat dijangkau. Insiden ini merupakan kontrapoin penting terhadap ketakutan akan peretas AI yang sempurna: model dapat mempercepat operasi ofensif, tetapi juga dapat membuat kesalahan yang mahal di dalam sistem yang sedang dikendalikan.

Zerofot Menunjukkan Apa yang Terjadi Ketika AI Bertemu dengan Skala

Kasus kedua lebih tentang mengindustrialisasi pencurian kredensial.

Gambit melacak operator sebagai Zerofot, yang menggambarkan kampanye yang mencari file dan direktori yang terpapar di internet untuk kunci API, kredensial cloud, token perangkat lunak, dan kunci privat SSH.

Di pusat operasi ini terdapat pemindai kredensial yang disebut auto_scan yang dibangun menggunakan OpenAI Codex dan Claude Code, dengan menginstruksikan model di bawah premis bahwa pekerjaan sedang dilakukan di dalam lingkungan capture-the-flag yang sah. Pemindai ini mengumpulkan file yang terpapar, mencari kredensial potensial, dan kemudian mencoba memvalidasi kunci yang ditemukan terhadap layanan yang sesuai.

Peran AI tidak berhenti setelah alat tersebut dibuat.

Claude Code juga digunakan untuk pekerjaan yang kurang glamor tetapi sangat penting untuk menjaga infrastruktur berjalan. Melalui kerangka kerja orkestrasi multi-agents, AI membantu mengelola infrastruktur pemindai, proksi, jaringan, konfigurasi firewall, pemantauan, dan debugging.

Perbedaan ini sangat penting. Operasi siber memerlukan lebih dari sekadar menemukan kerentanan atau menghasilkan payload. Infrastruktur perlu diterapkan, perangkat lunak rusak, log perlu diinterpretasikan, dan masalah konfigurasi perlu diselesaikan. AI dapat semakin membantu dengan pekerjaan ini.

Skala yang didokumentasikan oleh Gambit sangat besar. Antara 5 April dan 23 Mei 2026, operasi ini mengumpulkan 2.975 kredensial dan kunci yang divalidasi dari 1.742 host korban. Ini termasuk 661 kunci privat SSH, 635 kunci akses AWS yang terkait dengan 214 akun, 448 kunci Google Gemini, 254 kunci OpenAI, dan 176 kunci Anthropic, di antara banyak jenis kredensial lainnya. Gambit mengatakan bahwa informasi tersebut dibagikan dengan Yayasan Shadowserver dan penyedia layanan yang terkena dampak untuk mendukung pemberitahuan dan pencabutan kredensial.

RAGE Mengubah Kode yang Dihasilkan AI Menjadi Kerangka Kerja Eksploitasi

Investigasi ketiga berfokus pada RAGE, sebuah kerangka kerja Python kustom yang dirancang untuk memindai layanan yang menghadap internet, mengeksploitasi penempatan yang rentan, mengumpulkan kredensial, dan menginstal penambang cryptocurrency.

Para peneliti Gambit percaya bahwa sebagian besar RAGE dan skrip yang terkait dihasilkan oleh AI. Salah satu petunjuk yang sangat mengungkapkan adalah bagian kode yang masih mengandung alasan diri yang ditinggalkan oleh model selama pengembangan.

AI juga dimasukkan langsung ke dalam sistem yang selesai. RAGE termasuk “AI Orchestrator” yang didukung oleh DeepSeek di dalam dasbor operator yang memberikan bimbingan untuk mengelola operasi penambangan.

Kerangka kerja ini menargetkan layanan yang terpapar, termasuk Redis, Elasticsearch, Docker, Tomcat, Jenkins, dan lain-lain, sambil mencari kredensial di dalam lingkungan yang dikompromikan yang dapat menciptakan peluang tambahan.

Dalam satu contoh, kredensial yang dipulihkan dari penempatan Redis yang terpapar milik penyedia layanan sebagai layanan memberikan akses administratif ke akun AWS. Penyerang kemudian menghasilkan alat tambahan untuk mengenumerasi identitas, penyimpanan, dan sumber daya cloud lainnya.

Log yang dipulihkan menunjukkan akses ke delapan pengguna Identity and Access Management, empat di antaranya memiliki akses Administrator, serta 196 bucket Amazon S3.

Sebuah kampanye yang tampaknya didorong oleh penambangan cryptocurrency juga memiliki kemampuan untuk mengubah layanan yang terpapar menjadi kompromi cloud yang lebih luas.

Kesalahan AI Mungkin Menjadi Bagian dari Keunggulan Pembela

Salah satu aspek paling menarik dari penelitian Gambit adalah bahwa mereka mendokumentasikan kegagalan AI bersama dengan kesuksesan AI.

Model terkadang mengungkapkan niat penyerang dengan cara yang tidak terduga. Alat yang dihasilkan AI menggunakan nama yang mencolok seperti “recon” untuk sesi cloud, sementara artefak yang dihasilkan lainnya mempertahankan komentar dan alasan yang dapat memberikan petunjuk tentang bagaimana mereka dibuat. Dalam kasus ransomware, upaya modifikasi firewall menghasilkan gangguan.

Kelemahan ini mempersulit gagasan bahwa AI secara otomatis membuat operasi siber lebih halus atau lebih canggih.

Peneliti keamanan Microsoft juga telah menggambarkan AI sebagai akselerator dalam alur kerja penyerang, dengan operator manusia yang masih mengarahkan banyak operasi ujung-ke-ujung. Temuan Gambit menunjukkan bahwa hubungan ini mungkin semakin menyerupai kemitraan: manusia memberikan tujuan dan penilaian, sementara AI menyerap sebagian besar iterasi teknis yang diperlukan untuk mencapai tujuan tersebut.

Ini dapat membuat penyerang lebih cepat tanpa membuat mereka lebih baik dalam keamanan operasional.

Tim Keamanan Siber Mungkin Perlu Melawan Iterasi Kecepatan Mesin

Keprihatinan yang lebih besar yang diangkat oleh penelitian ini adalah kecepatan.

Banyak kontrol keamanan mengasumsikan bahwa penyerang akan bergerak melalui jaringan dengan kecepatan yang mirip dengan kecepatan manusia. Penyerang tradisional perlu memahami teknologi yang tidak familiar, melakukan penelitian perintah, menulis skrip, memecahkan kesalahan, dan menafsirkan volume data yang besar sebelum memutuskan ke mana harus melangkah selanjutnya.

Sistem AI dapat memampatkan banyak langkah tersebut.

Risikonya tidak terbatas pada agen peretas otonom di masa depan. Penyerang yang tetap berada di bawah kendali dapat menggunakan AI untuk mengurangi jumlah keahlian, waktu, dan upaya manual yang diperlukan untuk beroperasi di lingkungan yang tidak familiar.

Pembela mungkin perlu fokus kurang pada apakah suatu potongan malware “dihasilkan AI” dan lebih pada sinyal perilaku di seluruh siklus serangan: pengintaian yang tidak biasa cepat, perintah adaptif berulang, penemuan kredensial yang agresif, enumerasi cloud yang tidak terduga, perubahan pada infrastruktur cadangan atau keamanan, dan pergerakan antar sistem yang terjadi lebih cepat daripada operasi yang dipimpin manusia secara tradisional.

Kemampuan yang sama juga tetap berharga untuk pertahanan. Anthropic, misalnya, telah mengembangkan sistem AI yang mengidentifikasi kerentanan dan membantu tim keamanan memperbaikinya, menekankan sifat ganda dari model siber yang semakin canggih. Persaingan ini semakin tentang siapa yang dapat menerapkan kemampuan tersebut lebih cepat dan dengan visibilitas yang lebih baik.

Pada akhirnya, “AI Across the Intrusion Lifecycle” sangat menarik karena memindahkan diskusi AI keamanan siber dari serangan masa depan hipotetis ke perilaku operasional yang dapat diamati. Tiga kasus yang didokumentasikan oleh Gambit Security menunjukkan penyerang bereksperimen dengan model, kerangka kerja, dan tingkat otomatisasi yang berbeda, tetapi mereka berbagi pola penting: AI tidak lagi terbatas pada membantu mempersiapkan serangan. AI semakin hadir saat serangan itu terjadi.