Kindo, Gereksiz Yapay Zekâ Ajanı Çalıştırmalarını Azaltmak İçin Deep Hat Sift’i Kullanıma Sunuyor

Her güvenlik uyarısını veya günlük girdisini inceleyen bir yapay zekâ ajanı, yapılması gereken hiçbir şey olmadığı sonucuna varsa bile maliyet oluşturur. Kurumsal ölçekte, sonuçsuz kalan bu incelemeler başlı başına önemli bir iş yüküne dönüşebilir. Kindo, daha büyük model olayları işlemeye başlamadan önce gelen olaylardan hangilerinin bir ajanı çalıştırmayı gerektirdiğine karar vermek üzere tasarlanan Deep Hat Sift’i kullanıma sundu.

Sift, 28 Ekim’de duyuruldu. Hizmet verdiği ajanın kararlarından öğreniyor ve ardından ajanın normalde göz ardı edeceği olayları filtreliyor. Ürün, olayları engellemek yerine gözlemleyerek işe başlıyor: Bir kişi önerilen filtreleme davranışını inceleyip bir eşiği onaylayana kadar her olay ajana ulaşmaya devam ediyor.

Bu yaklaşım, daha ucuz bir dil modeli seçmekten farklı bir maliyet kontrol mekanizması sunuyor. Sift, her incelemenin maliyetini düşürmek yerine, işlem gerektirme olasılığı düşük incelemeleri önlemeyi amaçlıyor. Etkililiği hem bu kararların kalitesine hem de hangi olayların atlanacağını belirleyen kontrollere bağlı.

Dil Modelinden Önce Karar Veren Bir Model

Kindo, Deep Hat Sift’i bir System One karar modeli olarak tanımlıyor: Yanıt üretmek yerine bir seçim sorusunu yanıtlayan, hızlı ve düşük maliyetli bir model. Her model belirli bir kaynak, hedef ajan ve filtreleme görevi için atanıyor; böylece öğrendikleri, hizmet etmesi amaçlanan iş yükünü yansıtıyor.

Bu özgüllük önem taşıyor. Güvenlik incelemesi açısından önemli olan bir olay, hizmet masası iş akışıyla ilgisiz olabilir. Sift, eğitim sinyali olarak ajanın verdiği kararları kullanarak hedef ajanın hangi olayları göz ardı ettiğini öğreniyor. Kindo, bunun her veri akışı için ayrı bir insan etiketleme projesi yürütme ihtiyacını ortadan kaldırdığını söylüyor.

İlk dağıtım gölge modunda çalışıyor. Ajan tüm olayları incelemeyi sürdürürken Sift gelen olaylara puan veriyor; böylece sistem, tahminlerini ajanın kararlarıyla karşılaştırabiliyor. Filtreleme başlamadan önce operatörlere, kendi verileri üzerinde hangi olayların engellenmiş olacağını gösteren bir önizleme sunuluyor.

Ardından bir kişinin bir eşiği onaylaması ve yazılı bir gerekçe sunması gerekiyor. Böylece kabul edilebilir filtreleme davranışına ilişkin karar, modelin kurulumunun otomatik bir sonucu olarak ele alınmak yerine iş akışından sorumlu ekibe bırakılıyor.

Örnekleme ve Hata Durumunda Açık Kalma Kontrolleri, Kaçırılan Olayları Ele Alıyor

Filtreleme, ölçümü zorlaştıran bir sorunu beraberinde getiriyor: Bir olay ajana hiç ulaşmazsa ekibin bu olayın ajana ulaşıp ulaşmaması gerektiğini bilmesi nasıl mümkün olur? Sift, normalde engelleyeceği olaylardan rastgele bir örneklemi göndermeye devam ediyor; böylece ajanın bu örneklem hakkındaki kararları, kaçırma oranının sürekli ölçülmesine katkı sağlıyor.

Ürün sayfası referans noktasını açıkça belirtiyor: Duyarlılık ve kaçırma oranı, ajanın kararlarına göre ölçülüyor. Bu ölçütler, Sift’in söz konusu ajanın kararlarını ne kadar yakından yansıttığını gösteriyor. Ancak ajanın her güvenlik olayını veya operasyonel sorunu doğru biçimde tespit edip etmediğini tek başlarına ortaya koymuyor.

Kindo, kalite düşüşü durumunda Sift’in filtrelemeyi devre dışı bırakarak olayları bastırmayı sürdürmek yerine yeniden ajanın incelemesine gönderdiğini söylüyor. Şirket ayrıca ani bir yoğunluk artışında sistemi gölge moda döndürebilen etkinlik üst sınırlarından söz ediyor. Filtrelenen olaylar ve onay kararları, ekiplerin nelerin ve neden engellendiğini inceleyebilmesi için kaydediliyor.

Kindo’da Deep Hat Sift mühendisi olan Troy Presley, duyuruda şöyle dedi: “Bir kişi eşiği onaylayana kadar hiçbir şeyi filtrelemez; kalite düşerse filtrelemeyi devre dışı bırakır ve her şeyi LLM değerlendirmesi için iletir.”

Bu mekanizmalar, ödünleşimi ortadan kaldırmak yerine görünür kılıyor. Daha temkinli filtreleme, daha az çalıştırmadan tasarruf sağlarken kapsamın korunmasına yardımcı olabilir. Daha agresif filtreleme daha fazla işi önleyebilir; ancak bu durumda örnekleme, performans düşüşünün tespiti ve aşağı akıştaki ajanın kalitesi daha da önem kazanır.

Uyarılar, Destek Talepleri ve Sürekli Günlük Akışları İçin Tasarlandı

Ürün, gelen olay hacminin yüksek, işlem gerektiren olayların oranının düşük olduğu iş yüklerini hedefliyor. Kindo; SIEM ve uç nokta tespit uyarılarını, destek talebi kuyruklarını, bildirilen kimlik avı girişimlerine ilişkin bildirimleri, sistem ve ağ günlüklerini ve Kafka gibi platformlardan gelen akışları sıralıyor. İzleme kaynakları arasında Splunk, Datadog ve New Relic bulunuyor.

Sift, bu kaynak sistemlerin yerini almak yerine ajandan önce devreye giriyor. Bir güvenlik platformu tehdit tespitleri üretmeyi, bir destek talebi sistemi kuyruğunu tutmayı sürdürüyor; ajansa ulaşan vakalardan ise ajan sorumlu olmaya devam ediyor. Yeni katman, hangi olayların bu ek yapay zekâ çalışmasını başlatacağına karar veriyor.

Aynı yaklaşım, işlem veya politika akışlarını inceleyen finans ve uyum iş akışlarında da uygulanabilir. Burada da incelenecek olayları seçmek, dolandırıcılık tespiti ya da uyum konusunda bir karara varmaktan farklıdır. Hedef ajan ve onu çevreleyen iş süreci, sonucun önemli bileşenleri olmaya devam eder.

Sift, Kindo’nun Ajan Yönetim Platformuna Nasıl Uyum Sağlıyor?

Kindo’nun daha kapsamlı platformu, ajanları güvenlik, altyapı ve BT operasyonlarına yönelik kurumsal sistemlere bağlıyor. Yürütme süreçlerini bağlam, izinler ve operasyonel denetimle bir araya getirerek ekiplere, bir model seçildikten sonra yürütülecek işleri yönetebilecekleri bir ortam sunuyor.

Şirketin web sitesinde ajan sahipliği, erişim politikaları ve maliyetlerin ajan, sahip ve ekip bazında nasıl paylaştırıldığı açıklanıyor. Sift, bu iş akışının daha erken bir aşamasına kontrol ekliyor: Bir olayın bir ajanı çalıştırıp çalıştırmaması gerektiğine karar veriyor. Böylece teknik bir filtreleme kararı, hangi iş yüklerinin çıkarım maliyeti oluşturduğu sorusuyla ilişkilendiriliyor.

Lansman duyurusuna göre Deep Hat Sift şu anda şirket içi ortamlarda, kendi yönetilen bulut ortamlarında, Kindo’nun bulutunda ve internet bağlantısından yalıtılmış ortamlarda kullanılabiliyor. Puanlama, Kindo’nun kurulu olduğu yerde çalışırken model çağrıları platform üzerinden yönetiliyor. Ürün, Kindo ajanlarıyla birlikte çalışıyor.

Tasarruf, Veri Akışına Bağlı Olacak

Kindo, Sift için genel bir tasarruf yüzdesi veya evrensel bir doğruluk ölçütü sunmadı. Bunun yerine ürün sayfasında, ekipleri kendi olayları üzerindeki engelleme işlemini önizlemeye yönlendiriyor. Alıcılar için bu önemli bir ayrım: Ekonomik sonuç; olay hacmine, önlenen her çalıştırmanın maliyetine, eyleme geçirilebilir olayların oranına ve ekibin kabul ettiği çalışma eşiğine bağlı.

Gürültülü veri akışlarında gereksiz ajan çalıştırmalarını önlemek, yapay zekâ ile sürekli incelemeyi daha uygun maliyetli hâle getirebilir. Kaçırılan bir olayın ciddi sonuçlar doğurabileceği akışlarda ise örnekleme ve üst kademeye iletme kontrolleri, çıkarım maliyeti kadar önem kazanıyor. Deep Hat Sift, bu kararları ajan iş akışına taşıyor ve temel soruyu, bir olayı hangi modelin ele alması gerektiğinden o modelin olayı ele almasının gerekip gerekmediğine dönüştürüyor.