Kindo Meluncurkan Deep Hat Sift untuk Mengurangi Eksekusi Agen AI yang Tidak Perlu

Agen AI yang membaca setiap peringatan keamanan atau entri log menimbulkan biaya, bahkan ketika kesimpulannya adalah tidak ada yang perlu dilakukan. Pada skala perusahaan, penyelidikan yang tidak menghasilkan tindakan ini dapat menjadi beban kerja tersendiri yang cukup besar. Kindo telah meluncurkan Deep Hat Sift, sebuah model yang dirancang untuk menentukan peristiwa masuk mana yang perlu memicu eksekusi agen sebelum model yang lebih besar mulai memprosesnya.

Diumumkan pada 28 Oktober, Sift belajar dari putusan agen yang dilayaninya, lalu menyaring peristiwa yang biasanya akan diabaikan oleh agen tersebut. Produk ini memulai proses dengan mengamati, bukan menahan peristiwa: setiap peristiwa tetap diteruskan ke agen sampai seseorang meninjau perilaku penyaringan yang diusulkan dan menyetujui ambang batasnya.

Pendekatan ini menawarkan mekanisme pengendalian biaya yang berbeda dari memilih model bahasa yang lebih murah. Alih-alih menurunkan biaya setiap penyelidikan, Sift berupaya menghindari penyelidikan yang kecil kemungkinannya memerlukan tindakan. Efektivitasnya bergantung pada kualitas keputusan tersebut sekaligus pengendalian atas hal-hal yang dilewatkan.

Model Pengambilan Keputusan Sebelum Model Bahasa

Kindo menjelaskan Deep Hat Sift sebagai model pengambilan keputusan System One: model yang cepat dan murah, yang menjawab pertanyaan seleksi alih-alih menghasilkan respons. Setiap model ditugaskan pada sumber, agen sasaran, dan tugas penyaringan tertentu sehingga proses pembelajarannya mencerminkan beban kerja yang akan dilayaninya.

Kekhususan ini penting. Suatu peristiwa yang relevan untuk penyelidikan keamanan mungkin tidak relevan bagi alur kerja meja layanan. Sift mempelajari peristiwa mana yang diabaikan oleh agen sasarannya dengan menggunakan putusan yang diberikan agen tersebut sebagai sinyal pelatihan. Kindo menyatakan bahwa cara ini meniadakan kebutuhan akan proyek pelabelan manual terpisah untuk setiap aliran data.

Penerapan awal berlangsung dalam mode bayangan. Sift menilai peristiwa masuk sementara agen tetap memeriksa semuanya, sehingga sistem dapat membandingkan prediksinya dengan keputusan agen. Sebelum penyaringan dimulai, operator menerima pratinjau tentang peristiwa yang akan ditahan berdasarkan data mereka sendiri.

Selanjutnya, seseorang harus menyetujui ambang batas dan memberikan alasan tertulis. Dengan demikian, keputusan tentang perilaku penyaringan yang dapat diterima berada di tangan tim yang bertanggung jawab atas alur kerja, alih-alih menganggap bahwa pengaktifan akan terjadi secara otomatis setelah model dipasang.

Pengambilan Sampel dan Mekanisme Fail-Open Menangani Peristiwa yang Terlewat

Penyaringan menimbulkan persoalan pengukuran yang sulit: jika suatu peristiwa tidak pernah sampai ke agen, bagaimana tim mengetahui apakah peristiwa itu seharusnya diteruskan? Sift terus mengirimkan sampel acak dari peristiwa yang biasanya akan ditahan, sehingga putusan agen atas sampel tersebut dapat digunakan untuk mengukur tingkat peristiwa yang terlewat secara berkelanjutan.

laman produk menjelaskan tolok ukurnya secara terang: recall dan tingkat peristiwa terlewat diukur berdasarkan penilaian agen. Metrik tersebut menunjukkan seberapa dekat Sift meniru keputusan agen itu. Namun, metrik tersebut tidak dengan sendirinya membuktikan apakah agen itu sendiri mampu mengidentifikasi setiap insiden keamanan atau masalah operasional dengan benar.

Kindo menyatakan bahwa jika kualitas menurun, Sift akan beralih ke kondisi terbuka dan meneruskan kembali peristiwa untuk ditinjau agen, alih-alih terus menahannya. Perusahaan itu juga menjelaskan adanya batas aktivitas yang dapat mengembalikan sistem ke mode bayangan saat terjadi lonjakan. Peristiwa yang disaring dan keputusan persetujuan dicatat agar tim dapat memeriksa apa yang ditahan dan alasannya.

“Tidak ada yang disaring sampai seseorang menyetujui ambang batas. Jika kualitas menurun, sistem beralih ke kondisi terbuka dan meneruskan semuanya untuk dinilai oleh LLM,” kata Troy Presley, seorang insinyur Deep Hat Sift di Kindo, dalam pengumuman tersebut.

Mekanisme ini memperlihatkan kompromi yang ada, bukan menghilangkannya. Penyaringan yang lebih konservatif dapat mempertahankan cakupan, tetapi menghemat lebih sedikit eksekusi. Penyaringan yang lebih agresif mungkin mengurangi lebih banyak pekerjaan, tetapi membuat pengambilan sampel, deteksi penurunan kualitas, dan mutu agen hilir menjadi lebih penting.

Dirancang untuk Peringatan, Tiket, dan Aliran Log Berkelanjutan

Peluncuran ini menyasar beban kerja dengan volume masuk yang tinggi dan proporsi peristiwa yang memerlukan tindakan yang rendah. Kindo menyebut peringatan SIEM dan deteksi titik akhir, antrean tiket, laporan dugaan phishing, log sistem dan jaringan, serta aliran data dari platform seperti Kafka. Sumber pemantauan mencakup Splunk, Datadog, dan New Relic.

Sift ditempatkan sebelum agen, bukan untuk menggantikan sistem sumber tersebut. Platform keamanan tetap menghasilkan deteksi, sistem tiket tetap menyimpan antreannya, dan agen tetap bertanggung jawab atas kasus yang diteruskan kepadanya. Lapisan baru ini menentukan peristiwa mana yang memicu pekerjaan AI tambahan tersebut.

Pola yang sama dapat diterapkan pada alur kerja keuangan dan kepatuhan yang meninjau aliran transaksi atau kebijakan. Dalam hal ini pun, memilih peristiwa untuk ditinjau berbeda dari menetapkan apakah terjadi penipuan atau pelanggaran kepatuhan. Agen sasaran dan proses bisnis di sekitarnya tetap menjadi bagian penting dari hasilnya.

Cara Sift Terintegrasi dengan Platform Manajemen Agen Kindo

platform Kindo yang lebih luas menghubungkan agen dengan sistem perusahaan untuk keamanan, infrastruktur, dan operasi TI. Platform ini memadukan eksekusi dengan konteks, izin, dan pengawasan operasional, sehingga tim memiliki tempat untuk mengelola pekerjaan setelah model dipilih.

Situs web perusahaan menjelaskan kepemilikan agen, kebijakan akses, serta atribusi biaya berdasarkan agen, pemilik, dan tim. Sift menambahkan kontrol pada tahap yang lebih awal dalam alur kerja tersebut: menentukan apakah suatu peristiwa perlu memicu agen untuk berjalan. Dengan demikian, keputusan teknis untuk menyaring peristiwa terhubung dengan pertanyaan operasional tentang beban kerja mana yang menimbulkan biaya inferensi.

Menurut pengumuman peluncurannya, Deep Hat Sift kini tersedia untuk dipasang di lokasi, di layanan cloud yang dikelola sendiri, di layanan cloud Kindo, dan di lingkungan yang terisolasi dari jaringan luar. Penilaian dilakukan di tempat Kindo dipasang, sementara pemanggilan model dikelola melalui platform. Produk ini beroperasi bersama agen Kindo.

Penghematan Bergantung pada Aliran Peristiwa

Kindo belum memberikan persentase penghematan secara umum ataupun tolok ukur akurasi yang berlaku universal untuk Sift. Sebaliknya, halaman produknya mengarahkan tim untuk melihat pratinjau peristiwa mana yang akan ditahan berdasarkan peristiwa mereka sendiri. Perbedaan ini penting bagi calon pembeli: hasil ekonominya bergantung pada volume peristiwa, biaya setiap proses yang berhasil dihindari, proporsi peristiwa yang dapat ditindaklanjuti, serta ambang operasional yang dapat diterima tim.

Untuk aliran peristiwa yang penuh gangguan, menghindari proses agen yang tidak perlu dapat membuat peninjauan AI berkelanjutan lebih terjangkau. Untuk aliran peristiwa yang dapat menimbulkan konsekuensi serius jika suatu peristiwa terlewat, kontrol pengambilan sampel dan eskalasi sama pentingnya dengan biaya inferensi. Deep Hat Sift membawa keputusan tersebut ke dalam alur kerja agen, sehingga pertanyaan utamanya bergeser dari model mana yang harus menangani suatu peristiwa menjadi apakah model itu perlu menanganinya sama sekali.