Ortaklıklar

Onyx Security ve Glean, Kurumsal Yapay Zekâ Ajanlarının Güvenliğini Sağlamak İçin Ortaklık Kurdu

Miles Okada
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Öne çıkan noktalarOnyx ve Glean, keşif ve çalışma zamanı uygulamasını entegre ederek ajanların basit veri…
Daha fazla göster
  • Onyx ve Glean, keşif ve çalışma zamanı uygulamasını entegre ederek ajanların basit veri erişim izinlerinin ötesinde yönetilmesini sağlar.
  • Glean'in kancaları, Onyx'e eylemler iş sistemlerine ulaşmadan önce istemleri ve önerilen araç yürütmelerini değerlendirmek için kontrol noktaları verir.
  • Ajan yönetişimi sürekli olmalıdır çünkü yeni bağlayıcılar ve yetenekler bir ajanın risk profilini onaydan sonra değiştirebilir.

Onyx Security ve Glean, yapay zekâ ajanları daha fazla şirket bilgisine ve iş aracına eriştikçe kurumların bu ajanların güvenliğini sağlamasına ve yönetmesine yardımcı olmak için ortaklık kurduklarını duyurdu. Bu entegrasyon, Glean’in kurumsal yapay zekâ platformunu Onyx’in güvenli yapay zekâ kontrol düzlemiyle bir araya getirerek ajan keşfini, risk değerlendirmesini, politika uygulamasını ve çalışma zamanı korumasını ortak bir yönetişim yaklaşımında buluşturuyor.

Ortaklık, kurumsal yapay zekâ alanındaki pratik bir soruna çözüm getiriyor: Bir ajanın bilgileri almaya yetkisi olabilir, ancak bu bilgileri nasıl kullanacağı konusunda ek kontrollere de ihtiyaç duyabilir. Bağlam toplamakla başlayan bir iş akışı; mesaj göndermeye, kayıt güncellemeye veya başka bir aracı devreye sokmaya kadar ilerleyebilir. Bu da önerilen eylemin denetlenmesini giderek daha önemli hâle getirir.

Glean İş Ortaklıklarından Sorumlu Başkan Yardımcısı Zubin Irani, “Yapay zekâ ajanları kurum genelinde daha karmaşık işler üstlendikçe, uygun kontrollere tabi olarak doğru bağlama erişmeleri gerekiyor” dedi.

Kurumsal bağlamı güvenlik kontrolleriyle buluşturmak

Glean, kurumsal ajanlar oluşturmak, dağıtmak ve işletmek için bir platform sunuyor. Kurumsal Bağlam katmanı, iş uygulamalarını birbirine bağlıyor ve şirket bilgilerini dizine ekliyor; Kurumsal Grafiği ise kişiler, içerikler ve faaliyetler arasındaki ilişkileri haritalandırıyor. Glean, bağlayıcı ekosisteminin belgeler, destek kayıtları, sohbetler ve kod dâhil 275’ten fazla uygulama ve veri kaynağını kapsadığını belirtiyor.

Bu bağlam, ajanın müşteri hesabı, bu hesaba ilişkin destek geçmişi ve müşteri ilişkilerinden sorumlu kişiler gibi farklı iş sistemlerine dağılmış bilgileri bir araya getirmesine yardımcı oluyor. İzinleri dikkate alan bilgi erişimi, ajan çalışırken kullanıcının hangi bilgilere erişebileceğini belirliyor.

Glean kendi güvenlik temelini de sunuyor. Glean Protect; kullanıcı ve ajan kimliklerini, kaynak sistem izinlerini, hassas içerikleri, çalışma zamanı tehditlerini ve eylemlerin hedeflerle uyumunu kapsayan kontrollerin yanı sıra güvenlik izleme sistemlerine aktarılabilen denetim olaylarını da tanımlıyor. Onyx entegrasyonu, Glean ajanları ve desteklenen diğer yapay zekâ ortamları için ayrıca kurum genelinde bir yönetişim ve risk katmanı ekliyor.

Entegrasyon nasıl çalışıyor?

Onyx’in ortaklığa ilişkin teknik açıklamasına göre keşif sürecinde, ajan envanterini ve güvenlik durumunu okumak için Glean API’si kullanılıyor. Böylece güvenlik ekipleri ajanları ve erişimlerini inceleyebiliyor; keşif bağlantısının kendisi ise ajan eylemlerini yürütmenin bir yolu olarak kullanılmıyor.

Çalışma zamanı uygulaması farklı bir mekanizma üzerinden işliyor: Glean’in kanca mekanizmaları, Onyx’in konuşma içeriğini ve önerilen araç kullanımını kurumsal politikalara göre değerlendirebileceği desteklenen kontrol noktaları sağlıyor. Kontroller istemleri, yanıtları ve ajan eylemlerini değerlendirerek güvenli olmayan istekleri engellemeyi ve istenmeyen davranışları yeniden yetkilendirilmiş göreve yönlendirmeyi amaçlıyor.

Örneğin, bir müşteri toplantısına hazırlanırken şirket içindeki hesap bilgilerine erişmek uygun olabilirken gizli fiyatlandırma bilgilerini şirket dışına göndermek politikayı ihlal edebilir. Eylem kontrol noktası, araç eylemi gerçekleştirmeden önce önerilen bilgi paylaşımının değerlendirilmesine olanak tanır.

Verileri almaya izin vermekle bu verilerin kullanımına izin vermek arasındaki ayrım, ortaklığın temelinde yer alıyor. Bu ayrım, bir belgenin veya araç yanıtının meşru bir iş akışını başka yöne çekmeye çalışabildiği, harici içeriklere gömülü talimatlara karşı ajanların güvenliğini sağlama gibi daha kapsamlı bir sorunla da bağlantılı.

Ajanlar değiştikçe onları izleyen yönetişim

Entegrasyon, ajan yönetişimini sürekli bir sürece dönüştürmeyi amaçlıyor. Güvenlik ekipleri Glean ajanlarını keşfedebilir, erişimlerini ve yeteneklerini anlayabilir, sahiplerini ve iş amaçlarını belirleyebilir ve risk sınıflandırmaları atayabilir. Bu kayıtlar daha sonra kurumsal yapay zekâ yönetişimi ve uyum politikalarına yön verebilir.

Sürekli değerlendirme; izinlerde, araçlarda ve veri erişiminde meydana gelen değişiklikleri kapsıyor. Bu önemli, çünkü belirli bir iş akışı için onaylanan bir ajan daha sonra yeni bir bağlayıcı veya yetenek edinebilir ve adıyla sahibi aynı kalsa bile risk profili değişebilir. Merkezi denetim kanıtları, ekiplerin faaliyetleri araştırmak ve politikaların nasıl uygulandığını gözden geçirmek için kullanabileceği bir kayıt sunuyor.

Onyx’in Kurucu Ortağı ve Yapay Zekâdan Sorumlu Başkanı Gil Elbaz, “Ajanlar daha geniş erişim ve özerklik kazandıkça güvenlik ekiplerinin neler yapabileceklerini görebilmesi ve denetleyebilmesi gerekiyor” dedi. “Glean’in kurumsal bağlamını Onyx’in güvenlik kontrol düzlemiyle birleştirerek müşteriler, yapay zekâ ortamlarının tamamında ajan faaliyetlerini tutarlı ve güvenle yönetebilir.”

Kurumsal yapay zekâ için daha kapsamlı bir kontrol düzlemi

Onyx, güvenli yapay zekâ kontrol düzlemini SaaS uygulamalarını, bulut hizmetlerini, uç noktaları ve özel kodları kapsayacak şekilde konumlandırıyor. Platformu; ajan gözlemlenebilirliğini, güvenlik duruşu yönetimini, yönetişimi ve çalışma zamanı korumalarını bir araya getiriyor. Şirket, incelemeler için oturumların yeniden oynatılmasını ve denetim izlerini, doğal dille tanımlanan politika kontrollerini ve güvenlik bilgileri ve olay yönetimi ile güvenlik orkestrasyonu sistemlerine yönelik entegrasyonları sunduğunu belirtiyor.

Onyx ayrıca, yapay zekâ ve Model Context Protocol trafiğine yönelik ağ geçidi özelliklerinin yanı sıra platform genelindeki riskleri belirlemek ve sorunları gidermek üzere tasarlanmış gözetim işlevli Guardian Agent’ı da sunuyor. Bu kapsamlı özellikler, şirketin ortaklıktaki rolünü açıklıyor: Glean etkinliklerini, güvenlik ekiplerinin birden fazla yapay zekâ sistemi genelinde kullanabileceği bir denetim çerçevesine dahil etmek.

Entegrasyon, Glean’in bağlayıcı kataloğunda beta olarak listeleniyor. Listelenen kapsam; ajan envanterini, güvenlik duruşu yönetimini, çalışma zamanı görünürlüğünü ve istemler, model yanıtları ile araçların yürütülmesi üzerindeki denetimleri içeriyor. Çalışma zamanında uygulama, desteklenen kontrol noktalarına bağlı olduğundan belirli bir iş akışının ne ölçüde kapsandığı, dağıtım planlamasının önemli bir parçası hâline geliyor.

Ajan kullanımını departmanlar genelinde genişleten kuruluşlar için ortaklık, iş açısından yararlı bağlamı hesap verebilir bir işleyişle buluşturmanın bir yolunu sunuyor. Bunun pratik değeri; ajan envanterinin güncel tutulmasına, sahiplik ve risk kararlarının çalışma zamanı politikalarına yansıtılmasına ve bu politikaların ajanların iş sistemlerini etkileyebileceği noktalarda uygulanmasına bağlı olacak.

Miles Okada, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yeni tehditlere, savunma mimarilerine ve saldırganlarla otomatik sistemler arasındaki değişen dinamiklere odaklanarak yapay zekâ ve siber güvenliği inceler. Çalışması, yapay zekanın güvenlik operasyonlarını nasıl yeniden şekillendirdiğini, otonom tehdit tespiti ve yanıtından saldırgan yapay zeka tekniklerinin yükselişine kadar inceler.

Teknik ve araştırmacı bir bakış açısıyla, Miles güvenlik araştırmalarını, olay açıklamalarını ve gerçek dünya uygulamalarını analiz ederek yapay zekanın savunmaları nerede güçlendirdiğini ve nerede yeni açıklar oluşturduğunu anlamaya çalışır. Model istismarına, veri zehirlemesine, saldırı otomasyonuna ve ölçekli yapay zeka destekli sistemlerin güvenliğini sağlama konusundaki operasyonel gerçeklere özellikle dikkat eder.

Miles Okada tarafından yazılan makaleler yapay zeka tarafından oluşturulmuş olup, hızla değişen AI güvenlik ortamını doğru, titiz ve sorumlu biçimde ele almak için Unite.AI'nin editöryal ekibi tarafından gözden geçirilir.