Sysdig Meluncurkan AI Defense untuk Mengatur Tindakan Agen dari Endpoint hingga Cloud

Sysdig telah meluncurkan AI Defense, produk keamanan dan tata kelola saat runtime yang dirancang untuk memeriksa tindakan agen AI dan mengambil tindakan ketika tindakan mereka melampaui kebijakan organisasi. Pengumuman pada 4 November menyatakan bahwa produk ini tersedia secara umum untuk macOS dan Windows, dengan visibilitas yang dirancang untuk menghubungkan aktivitas di komputer kerja karyawan dengan sumber daya cloud yang dapat dijangkau menggunakan kredensial mereka.

Produk ini menanggapi peralihan dari AI yang menghasilkan jawaban ke AI yang mengoperasikan perangkat lunak. Agen pemrograman dapat membaca berkas, memanggil alat, memulai proses, dan mengubah infrastruktur. Untuk mengamankan alur kerja tersebut, perlu dipahami baik tugas yang diyakini sedang dikerjakan oleh agen maupun operasi yang sebenarnya berlangsung di baliknya.

Menghubungkan Maksud Agen dengan Bukti dari Sistem Operasi

Menurut Sysdig, AI Defense menggabungkan instrumentasi di dalam harness agen—kerangka kerja yang menjalankannya—dengan telemetri sistem operasi. Instrumentasi harness merekam pemanggilan alat, server Model Context Protocol, keterampilan, dan plugin, termasuk argumen dan sasaran yang digunakan. Pengamatan di tingkat sistem menyediakan catatan terpisah tentang proses dan aktivitas yang dihasilkan oleh pemanggilan tersebut.

Pembedaan ini penting ketika laporan agen tidak lengkap atau telah disusupi. Satu tindakan alat yang dilaporkan dapat memulai beberapa proses, sementara koneksi atau keterampilan yang ditambahkan selama sesi dapat mengubah kemampuan agen. Sysdig melaporkan temuan awal berupa sekitar tujuh proses yang mendasari setiap tindakan dalam log agen; ini merupakan temuan perusahaan, bukan rasio universal untuk semua agen.

Sistem ini juga mempertimbangkan tingkat kewenangan: operasi membaca berkas yang sama dapat menimbulkan konsekuensi berbeda, bergantung pada apakah kredensial yang digunakan dapat menjangkau lingkungan pengujian atau memiliki hak administrator di lingkungan produksi. Grafik tindakan dirancang untuk menghubungkan rangkaian peristiwa, orang yang bertanggung jawab, aktivitas yang dinyatakan oleh agen, dan sumber daya yang dapat dijangkaunya.

Kebijakan untuk Mengizinkan, Menjeda, atau Memblokir Tindakan

Organisasi dapat memulai dengan menjalankan kebijakan dalam mode peringatan sebelum mengaktifkan penegakan. Setelah ditegakkan, menurut Sysdig, kebijakan tersebut dapat memblokir alat dan koneksi yang belum diperiksa, menghentikan akses kredensial yang berisiko, atau menahan tindakan hingga mendapat persetujuan manusia. Pengumuman itu juga menjelaskan bahwa proses dapat dihentikan jika suatu tindakan lolos dari kontrol sebelumnya.

Mekanisme ini bekerja pada tahapan yang berbeda dalam urutan eksekusi. Mencegah operasi selesai berbeda dengan mendeteksi aktivitas lalu menghentikan proses setelahnya. Pengumuman tersebut tidak menyediakan matriks publik yang menunjukkan kontrol mana yang bersifat preventif pada setiap sistem operasi, harness, dan platform terkelola yang didukung.

Templat kebijakan mencakup pemetaan ke OWASP Top 10 for LLM Applications, beserta jalur pengecualian bagi pengembang. Sysdig juga menjelaskan catatan sesi yang menunjukkan kebijakan yang diterapkan, hal yang diizinkan atau diblokir, serta pihak yang menyetujui pengecualian. Catatan tersebut dapat mendukung investigasi dan audit tanpa mengharuskan tim merekonstruksi sesi setelah insiden.

Kontribusi Falco Foundation

Sysdig mengaitkan produk ini dengan rekam jejaknya dalam keamanan runtime cloud-native dan Falco, proyek sumber terbuka yang pertama kali dibuatnya. Dokumentasi Falco menjelaskan pengamatan peristiwa kernel Linux dan sumber peristiwa yang disediakan plugin, pengayaan peristiwa dengan konteks kontainer dan Kubernetes, serta penerapan aturan untuk menghasilkan peringatan.

Landasan tersebut membantu menjelaskan alasan Sysdig menekankan eksekusi yang teramati alih-alih hanya mengandalkan narasi dari sistem AI. Namun, ini bukan berarti proyek sumber terbuka Falco sendiri menyediakan semua kemampuan tata kelola agen atau pemblokiran yang dijelaskan dalam AI Defense. Arsitektur deteksi Falco yang terdokumentasi dan produk komersial Sysdig perlu dipahami secara terpisah.

Dalam pengumuman tersebut, Sysdig menyebut Claude Code, Codex, GitHub Copilot, dan Cursor sebagai lingkungan agen yang ingin dicatat dalam inventaris dan ditelusuri hingga ke pemiliknya, yaitu seorang manusia. Pernyataan ketersediaan untuk macOS dan Windows lebih spesifik daripada uraian yang lebih luas tentang cakupan hingga Linux, Kubernetes, dan platform agen terkelola; organisasi perlu memastikan integrasi yang berlaku untuk setiap lingkungan.

Tata Kelola Runtime Melengkapi Pengujian Model

Pembahasan teknis Sysdig tentang tanggung jawab bersama menempatkan kontrol runtime sebagai lapisan yang mengawasi pekerjaan yang dilakukan agen. Perbedaan praktisnya terletak antara meminta model untuk mematuhi batasan dan menegakkan batasan tersebut ketika perangkat lunak mencoba menjalankan suatu operasi.

AI Defense diposisikan sebagai pelengkap perlindungan endpoint, pengujian model, dan pengujian keamanan ofensif. Pengujian memeriksa perilaku model atau alur kerja dalam kondisi tertentu; tata kelola runtime menangani tindakan selama sesi berlangsung. Kedua uraian tersebut tidak menjamin bahwa penerapan kebal terhadap penyusupan, dan efektivitasnya bergantung pada konfigurasi kebijakan serta cakupan jalur eksekusi.

Menelusuri Aktivitas Agen dan Pengeluaran untuk AI

Di luar aspek keamanan, Sysdig menyatakan bahwa AI Defense mengaitkan panggilan model dengan agen, tim, dan orang yang bertanggung jawab, termasuk aktivitas yang tidak melewati gerbang AI terpusat. Hal ini dapat membantu organisasi membedakan penggunaan model yang mahal untuk pekerjaan rutin dari aktivitas yang memerlukan model dengan kemampuan lebih tinggi.

Gagasan yang lebih luas adalah menyediakan lapisan bukti bersama untuk keamanan, tata kelola, dan manajemen biaya. Seiring agen memperoleh lebih banyak alat dan beroperasi menggunakan kredensial karyawan yang sebenarnya, dampaknya ditentukan oleh hal-hal yang dapat mereka lakukan. Sysdig AI Defense bertujuan membuat kewenangan tersebut terlihat dan dapat ditegakkan pada saat tindakan dilakukan.