Krisis Konteks di Era Frontier AI: Dibutuhkan AI untuk Melawan AI

Operasi keamanan tidak lagi dibatasi oleh kecepatan manusia. Ini sedang dikalahkan oleh lawan yang beroperasi pada kecepatan mesin, mengeksploitasi kerentanan sering sebelum pembela bahkan menangkap sinyal pertama. Model AI frontier seperti Claude Mythos telah memimpin pergeseran di lapangan lebih jauh, mampu menemukan kerentanan yang telah selamat dari dekade-dekade tinjauan manusia dan jutaan tes otomatis. Lebih penting lagi, model AI frontier ini dapat merantai kerentanan menjadi jalur eksploitasi kompleks dan kritis dalam hitungan detik.

SOC (Security Operations Center) modern tidak dirancang untuk kecepatan ini. Selama satu dekade, kita telah menskala telemetry, namun analis tenggelam dalam ribuan alert harian, mencari makna di antara petunjuk yang berbeda. Untuk bertahan dari serangan yang diatur AI, SOC harus berkembang dari pusat yang berbasis manusia menjadi operasi yang berbasis agen dan berkecepatan mesin.

Keberhasilan memerlukan pergeseran fundamental dari visibilitas ke konteks waktu nyata. Sementara AI memungkinkan aktor jahat untuk mendapatkan akses jaringan yang dalam dengan ketidakterlihatan yang belum pernah terjadi sebelumnya, masih menghasilkan artefak yang dapat diamati seperti acara autentikasi, pergerakan data, dan perilaku yang tidak biasa. Namun, untuk operasi pertahanan agen yang dapat melawan ancaman kecepatan mesin, organisasi harus memiliki lapisan kontekstualisasi yang mengubah telemetry mentah menjadi wawasan yang terstruktur dan dapat dibaca mesin. Tanpa itu, agen AI buta.

Ketika perusahaan mengadopsi alat keamanan yang didorong AI, penting untuk diingat bahwa otonomi tanpa konteks yang terstruktur akan lebih mungkin memperkenalkan risiko operasional yang lebih besar. Agen yang dirancang untuk mengawasi dan mengatur sistem AI sendiri memerlukan lebih dari sekadar otomatisasi mandiri – mereka memerlukan lapisan kontrol kontekstual untuk menghindari halusinasi atau pergeseran konteks. Tanpa fondasi itu, sistem AI beroperasi secara reaktif daripada secara cerdas.

Visibilitas tanpa Pemahaman

Dasar garis dasar hubungan, perilaku, dan ketergantungan, dan tidak ada AI yang dapat bekerja dengan sempurna dalam setiap organisasi. Pertahanan AI yang benar hanya efektif sebagai kemampuan untuk memahami komponen kunci tentang bagaimana suatu organisasi bekerja.

SOC tradisional dibangun di atas inventori statis (snapshot periode), alert yang terisolasi yang kekurangan urutan sejarah, dan alur kerja yang berbasis manusia di mana analis adalah koneksi antara konteks dan alat. Kurangnya pemahaman atau makna ini mendorong Mean Time to Detect (MTTD) menjadi jam atau hari, timeline yang tidak dapat diterima lagi melawan serangan kecepatan mesin.

Ketika AI agenik berpindah dari eksplorasi ke penerapan operasional dalam SOC, kita melihat pergeseran menuju sistem yang dapat menjalankan tugas keamanan daripada hanya mendukung analis manusia. Pergeseran ini mengubah harapan tentang apa yang harus dilakukan SOC versus apa yang masih memerlukan keterlibatan manusia.

Namun, ketika organisasi berlomba untuk menerapkan AI di seluruh operasi SOC, banyak pemimpin membuat kesalahan kritis, yaitu mengobati AI sebagai pengganti analis daripada akselerator yang dibangun di atas konteks. Sementara Model Bahasa Besar (LLM) dapat merangkum alert, meningkatkan penyelidikan, dan merekomendasikan tindakan, tanpa pemahaman yang akurat tentang lingkungan di mana mereka beroperasi, outputnya terbatas oleh kualitas informasi yang mereka terima.

Lingkungan perusahaan tidak statis, dan itulah tantangan. Aset ditambahkan atau dihapus secara terus-menerus sementara identitas berubah peran dan izin, dan proses bisnis berkembang seiring waktu. Tim keamanan secara historis mengandalkan analis manusia untuk menghubungkan bagian-bagian yang bergerak selama penyelidikan, tetapi pendekatan ini tidak diterjemahkan ke dalam operasi otonom. Pertahanan kecepatan mesin memerlukan pemahaman dasar tentang bagaimana sistem, pengguna, aplikasi, dan data berinteraksi satu sama lain dalam waktu nyata.

Konteks menjadi lebih penting daripada kemampuan pendukung. Ini adalah sistem operasi kritis untuk keamanan agenik. Organisasi yang berhasil dalam integrasi AI di SOC tidak akan selalu menjadi mereka yang memiliki alat AI paling canggih, tetapi mereka yang dapat memberikan alat tersebut dengan gambaran lingkungan yang paling lengkap – didukung oleh data. Semua yang lain di SOC bergantung pada seberapa lengkap dan terstruktur konteks itu pada saat deteksi atau respons.

Untuk mencapai hal itu, tim keamanan harus memikirkan kembali bagaimana mereka mengumpulkan dan mengoperasikan data di seluruh SOC.

Lima Perubahan Menuju Kesiapan

Untuk merebut kembali keunggulan, organisasi harus memprioritaskan kemampuan untuk menafsirkan data dengan cepat daripada kemampuan untuk mengumpulkan data saja.

1. Dari Daftar Aset ke Permukaan Serangan yang Hidup

Sebagian besar organisasi mengandalkan snapshot statis yang tidak dapat mengikuti perubahan dinamis. Permukaan serangan modern, yang mencakup fungsi cloud eferal, shadow IT, dan titik akhir model AI, sering tidak dapat menjalankan agen EDR tradisional, meninggalkan titik buta di mana logika keamanan kritis sekarang hidup. Anda tidak dapat melakukan triase banjir pengungkapan jika Anda tidak tahu apa yang Anda jalankan atau apa yang disentuhnya.

Menghilangkan kesenjangan ini memerlukan visibilitas waktu nyata yang diletakkan dalam konteks. Ini memungkinkan SOC untuk mempertahankan grafik aset yang diperbarui secara terus-menerus yang menangkap tidak hanya apa yang ada, tetapi juga aktivitas khas dan jaringan koneksi.

2. Dari Alert ke Pemahaman Perilaku

Deteksi adalah peristiwa yang terisolasi, tetapi serangan nyata adalah pola yang harus dikenali selama periode waktu. Misalnya, agen AI yang dikompromikan tidak hanya menginstal malware; itu menggunakan akses yang sah dengan cara yang tidak sah sampai malware diinstal. Mengenali perilaku aneh sebelum perilaku serangan diungkapkan adalah kunci dalam hal ini. Dengan baseline perilaku dan pemahaman, analis keamanan dapat bergerak menjauh dari peristiwa yang terpisah dan mengorelasikan aktivitas menjadi narasi yang koheren.

3. Dari Operasi yang Dikendalikan Analis ke Operasi yang Siap Agen

Jika SOC memiliki ketergantungan penuh pada manusia untuk merakit konteks selama penyelidikan, mereka hampir selalu akan kalah melawan ancaman yang diatur AI. Namun, agen otonom memerlukan konteks yang sudah dibangun sehingga ketika agen triase menangkap sinyal, itu harus dipenuhi dengan dossier yang segera dan memiliki kualitas tinggi – bukan dump data mentah. Dengan menerapkan lapisan pengayaan yang didedikasikan yang mengorelasikan data di seluruh empat lapisan aset, identitas, perilaku, dan relevansi ancaman, konteks menjadi fondasi yang sebenarnya.

Agen AI SOC adalah kelas kemampuan yang muncul yang dirancang untuk meningkatkan dan mengautomasi alur kerja SOC inti. Namun, efektivitas mereka bergantung pada apakah mereka diterapkan dalam lingkungan di mana konteks sudah terstruktur, terkorelasikan, dan dipertahankan.

4. Dari Telemetri Mentah ke Penalaran yang Efisien

Telemetri mentah sangat besar, berisik, dan sangat mahal untuk dimasukkan ke dalam LLM. Menunjuk LLM ke log yang tidak disaring mengarah ke penalaran yang terdegradasi atau halusinasi, menambahkan lebih banyak kerja tebak-tebakan ke analis manusia dan memperlambat penyelidikan.

Beralih ke kepadatan sinyal yang tinggi, data yang sudah diperkaya dan terkorelasikan, memecahkan masalah ini. Telemetri yang sudah diringkas, termasuk siapa, apa, dan bagaimana deteksi, dan deviasi dari baseline, dapat dengan mudah menandakan apakah penyelidikan segera diperlukan. Dengan fokus pada bukti paket yang dalam hanya ketika hipotesis tertentu memerlukannya, membuat ekonomi SOC agenik benar-benar bekerja.

Sistem AI yang efektif di SOC memerlukan kontrol terstruktur di seluruh siklus hidup, dari pengambilan ke respons. Ini karena konteks adalah apa yang mengubah sinyal menjadi penalaran yang dapat ditindaklanjuti.

5. Dari Data Satu Dimensi ke Bukti Multi-Lapis

Tugas yang berbeda memerlukan jenis data yang berbeda untuk mengidentifikasi tren, hubungan, dan anomali, termasuk metrik, metadata, deteksi, dan paket. Strategi bertingkat yang mencakup data ringan untuk penalaran terus-menerus dan bukti yang dalam sangat penting untuk keseimbangan.

AI frontier tidak hanya memperkenalkan ancaman baru; itu telah memaksakan arsitektur pertahanan baru. Keamanan harus menjadi terintegrasi, adaptif, dan yang paling penting, menggabungkan kemampuan agenik. Perusahaan yang membangun lapisan konteks hari ini akan lebih siap untuk memenuhi standar baru untuk keamanan di era AI. Mereka yang bergantung pada cara lama dari korelasi manual akan dipaksa untuk bereaksi terhadap dunia yang bergerak terlalu cepat untuk mereka lihat.

Operasi keamanan yang didorong AI memerlukan model tata kelola dan operasional yang secara fundamental baru, menekankan bahwa kemampuan untuk menghasilkan data yang sangat terkait konteks (bukan hanya alat) akan menentukan organisasi mana yang dapat menskala dengan paling aman dan efektif. Tanpa itu, otomatisasi hanya akan menskala kebisingan, bukan kecerdasan yang dibutuhkan.