Sysdig, Uç Noktadan Buluta Aracı Eylemlerini Yönetmek için AI Defense’ı Kullanıma Sunuyor

Sysdig, AI Defense’ı kullanıma sundu. Bu ürün, yapay zekâ aracıların neler yaptığını incelemek ve eylemleri bir kuruluşun politikalarını aştığında müdahale etmek üzere tasarlanmış bir çalışma zamanı güvenliği ve yönetişim çözümüdür. 4 Kasım’da yapılan duyuruyla ürün macOS ve Windows için genel kullanıma sunuldu. Ürünün sağladığı görünürlük, çalışanların iş istasyonlarındaki etkinlikleri, kimlik bilgilerinin erişebildiği bulut kaynaklarıyla ilişkilendirmeyi amaçlıyor.

Ürün, yapay zekânın yanıt üretmekten yazılımları çalıştırmaya yöneldiği dönüşüme yanıt veriyor. Bir kodlama aracı dosyaları okuyabilir, araçları çağırabilir, süreçleri başlatabilir ve altyapıyı değiştirebilir. Bu iş akışını güvenceye almak için hem aracının gerçekleştirdiğini düşündüğü görevi hem de arka planda fiilen yürütülen işlemleri anlamak gerekir.

Aracının Amacını İşletim Sistemi Verileriyle İlişkilendirmek

Sysdig’e göre AI Defense, aracıyı çalıştıran çerçeve olan aracının çalışma ortamına yerleştirilen enstrümantasyonu işletim sistemi telemetrisiyle birleştiriyor. Çalışma ortamındaki enstrümantasyon; araçlara, Model Context Protocol sunucularına, becerilere ve eklentilere yapılan çağrıları, bunların bağımsız değişkenleri ve hedefleriyle birlikte kaydediyor. Sistem düzeyindeki gözlem ise bu çağrıların ortaya çıkardığı süreçleri ve etkinlikleri ayrı bir kayıt olarak sunuyor.

Aracının aktardıkları eksik ya da güvenilirliği sarsılmış olduğunda bu ayrım önem kazanıyor. Bir araç çağrısı olarak kaydedilen tek bir eylem birden fazla süreci başlatabilir; oturum sırasında eklenen bir bağlantı veya beceri de aracının yapabileceklerini değiştirebilir. Sysdig, ilk gözlemlerinde aracı günlüklerindeki her bir eylem başına yaklaşık yedi temel süreç bulunduğunu bildiriyor; bu, tüm aracılar için geçerli evrensel bir oran değil, şirketin elde ettiği bir bulgu.

Sistem, yetki düzeyini de dikkate alıyor: aynı dosya okuma işleminin sonuçları, kullanılan kimlik bilgisinin bir test ortamına mı eriştiğine yoksa üretim ortamını mı yönettiğine bağlı olarak değişebilir. Eylem grafiği; olayların sırasını, sorumlu kişiyi, aracının bildirdiği etkinliği ve erişebildiği kaynakları ilişkilendirmeyi amaçlıyor.

Bir Eyleme İzin Veren, Ara Veren veya Eylemi Engelleyen Politikalar

Kuruluşlar, yaptırımı devreye almadan önce politikaları uyarı modunda kullanmaya başlayabilir. Sysdig’e göre politikalar yürürlüğe girdikten sonra incelenmemiş araçları ve bağlantıları engelleyebilir, riskli kimlik bilgisi erişimini durdurabilir veya bir eylemi insan onayına kadar bekletebilir. Duyuruda ayrıca, bir eylemin önceki bir denetimi aşması durumunda sürecin sonlandırılabileceği belirtiliyor.

Bu mekanizmalar, yürütme sırasının farklı aşamalarında devreye giriyor. Bir işlemin tamamlanmasını önlemek, etkinliği tespit edip sonrasında süreci sonlandırmaktan farklıdır. Duyuruda, desteklenen her işletim sistemi, çalışma ortamı ve yönetilen platform için hangi denetimlerin önleyici olduğunu gösteren herkese açık bir tablo sunulmuyor.

Politika şablonları, geliştiriciler için istisna süreçleriyle birlikte OWASP Top 10 for LLM Applications eşleştirmelerini içeriyor. Sysdig ayrıca hangi politikanın uygulandığını, nelerin izinli ya da engellenmiş olduğunu ve istisnayı kimin onayladığını gösteren oturum kayıtlarından söz ediyor. Bu kayıtlar, ekiplerin bir olayın ardından oturumu yeniden oluşturmaya çalışmasına gerek kalmadan soruşturma ve denetim çalışmalarına destek olabilir.

Falco Foundation’ın Katkıları

Sysdig, ürünü bulut yerel çalışma zamanı güvenliğindeki geçmişine ve başlangıçta kendisinin oluşturduğu açık kaynaklı proje Falco’ya bağlıyor. Falco’nun belgelerinde Linux çekirdek olaylarının ve eklentilerin sağladığı olay kaynaklarının izlenmesi, olayların kapsayıcı ve Kubernetes bağlamıyla zenginleştirilmesi ve uyarılar oluşturmak için kuralların uygulanması açıklanıyor.

Bu temel, Sysdig’in yalnızca bir yapay zekâ sisteminin anlatımına güvenmek yerine gözlemlenen yürütmeyi neden vurguladığını açıklamaya yardımcı oluyor. Ancak bu, açık kaynaklı Falco projesinin AI Defense’ta açıklanan tüm aracı yönetişimi veya engelleme özelliklerini sağladığı anlamına gelmiyor. Falco’nun belgelenmiş tespit mimarisi ile Sysdig’in ticari ürünü birbirinden ayrı değerlendirilmelidir.

Duyuruda, insan sorumlularıyla ilişkilendirerek envanterini çıkarmayı ve izlemeyi amaçladığı aracı ortamları arasında Claude Code, Codex, GitHub Copilot ve Cursor sayılıyor. macOS ve Windows için kullanılabilirlik açıklaması, Linux, Kubernetes ve yönetilen aracı platformlarına uzanan daha geniş kapsam tanımından daha net. Kuruluşların her ortam için geçerli entegrasyonu belirlemesi gerekecek.

Çalışma Zamanı Yönetişimi Model Testlerini Tamamlıyor

Sysdig’in ortak sorumluluğa ilişkin teknik değerlendirmesi, çalışma zamanı denetimlerini aracının yürüttüğü işlerin çevresinde yer alan bir katman olarak ele alıyor. Pratikteki ayrım, bir modelden belirli bir sınırı gözetmesini istemekle yazılım bir işlem gerçekleştirmeye çalıştığında bu sınırı uygulamak arasındadır.

AI Defense; mevcut uç nokta koruması, model testleri ve kırmızı takım çalışmalarıyla birlikte konumlandırılıyor. Testler, bir modelin veya iş akışının seçilmiş koşullardaki davranışını inceler; çalışma zamanı yönetişimi ise gerçek bir oturum sırasında gerçekleşen eylemleri ele alır. Bu açıklamaların hiçbiri bir dağıtımın güvenlik ihlaline karşı bağışık olduğunu göstermiyor; etkililik, politika yapılandırmasına ve yürütme yolunun ne ölçüde kapsandığına bağlı.

Aracı Etkinliklerini ve Yapay Zekâ Harcamalarını İlişkilendirmek

Sysdig, güvenliğin yanı sıra AI Defense’in model çağrılarını, merkezi bir yapay zekâ ağ geçidinden geçmeyen etkinlikler de dâhil olmak üzere, ilgili aracı, ekibi ve sorumlu kişiyi belirterek ilişkilendirdiğini söylüyor. Bu, kuruluşların rutin işlerdeki maliyetli model kullanımını, daha yetkin bir model gerektiren etkinliklerden ayırt etmesine yardımcı olabilir.

Daha kapsamlı öneri; güvenlik, yönetişim ve maliyet yönetimi için ortak bir kanıt katmanı oluşturmak. Ajanlar daha fazla araç edindikçe ve gerçek çalışan kimlik bilgileriyle çalıştıkça, etkileri gerçekleştirebildikleri eylemlerle belirleniyor. Sysdig AI Defense, bu yetkiyi eylem anında görünür ve uygulanabilir kılmayı amaçlıyor.