Zenity 125 Milyon Dolarlık Yatırım Aldı: Şirket, Otonom AI Ajanlarının Güvenlik Riskleriyle Mücadele Ediyor

Zenity, şirketlerin yapay zeka ajanlarını kontrollü deneylerden veri erişimine, yazılım araçlarını çağırmaya ve operasyonel görevleri tamamlamaya yönelik sistemlere taşımalarıyla birlikte 125 milyon dolarlık C Serisi yatırım aldı.

Norwest turu liderledi, Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures ve LG Technology Ventures yeni yatırımcılar olarak katıldı. Mevcut yatırımcılar Vertex Ventures, Third Point Ventures, DTCP ve Intel Capital da katılım gösterdi. Şirket değerlemesini açıklamadı.

Finansman, Zenity’nin 38 milyon dolarlık B Serisi yatırımının ardından geldi ve şirketin açıklanan yatırım tutarını en az 180 milyon dolara çıkardı.

Yapay Zeka Deneylerinden Otonom Sistemlere

Turun büyüklüğü, şirketlerin yapay zeka kullanımındaki daha geniş değişimi yansıtıyor. İlk yapay zeka dalgası, çoğunlukla çalışanların sohbet botları ile metin üretmesi, belgeleri özetlemesi veya bilgi almasıyla ilgiliydi.

Yapay zeka ajanları, eylemler gerçekleştirebildikleri için farklı bir risk seviyesi tanıtıyor. İzinlerine bağlı olarak ajanlar, iç veritabanlarına erişebilir, uygulama programlama arayüzlerini çağırabilir, kayıtları güncelleyebilir, kod çalıştırabilir, mesajlar gönderebilir veya çoklu şirket sistemlerini kapsayan iş akışlarını başlatabilir.

Bu, güvenlik sorununu yalnızca bir modelin uygun olmayan bir yanıt üretip üretmediğiyle sınırlayan bir sorun haline getiriyor. Kuruluşlar, hangi ajanların dağıtıldığını, kimin tarafından kontrol edildiğini, hangi bilgilere erişebileceğini ve hangi eylemleri gerçekleştirebileceğini anlamak zorundadır.

Zenity, bunu “ajans katmanı” sorunu olarak tanımlıyor. Platformu, yalnızca bir modelin aldığı girdileri veya ürettiği çıktıları incelemektense, bir ajanın yapılandırmasını, izinlerini, bağlı araçlarını, belleğini ve çalışma zamanı eylemlerini incelemeye yönelik tasarlandı.

Zenity Nasıl Yapay Zeka Ajanlarını Güvence Altına Alıyor

Zenity, platformunu üç ana alana ayırıyor: gözlemlenebilirlik, güvenlik duruşu yönetimi ve algılama ve yanıt.

Gözlemlenebilirlik bileşeni, bir organizasyon genelinde çalışan ajanları keşfeder ve envanterini oluşturur. Bu, yazılım hizmetleri platformlarına gömülü ajanları, bulut ortamlarında çalışan iç geliştirme ajanları ve çalışan cihazlarına yüklenen yerel araçları içerir.

Hedef, güvenlik ekiplerine her ajanın sahibi, yapılandırması, izinleri, entegrasyonları ve çalışma zamanı davranışları hakkında sürekli güncellenen bir resim sunmaktır. Bu, bireysel bölümlerin ve çalışanların geleneksel bir yazılım geliştirme veya güvenlik inceleme sürecinden geçmeden ajanlar oluşturma yeteneğini kazandığı için giderek daha önemli hale geliyor.

Zenity’nin yönetim katmanı, bir ajanın üretime girmeden önce yapılandırmasını ve izinlerini değerlendirir. Politikalar, aşırı erişim, güvence altına alınmamış entegrasyonlar veya bir ajanın amaçlanan rolünün ötesinde çalışmasına izin verebilecek araçları tanımlamak için kullanılabilir. Platform, ajanlar zaman içinde değiştirilirken bu kontrolleri devam ettirebilir.

Çalışma zamanında, Zenity bir ajanın yürütme yolunu, araç çağrılarını, bellek erişimini, veri kullanımını ve diğer sistemlerle etkileşimlerini analiz eder. Şirket, bu bağlamı kullanarak bir eylemi gerçekleşmeden önce izin verebileceğini, değiştirebileceğini veya engelleyebileceğini söylüyor.

SaaS, Bulut ve Çalışan Cihazlarını Kapsama

Zenity, parçalanmış bir ajan ekosisteminde ortak bir güvenlik katmanı sunmaya çalışıyor.

Yazılım hizmetleri ortamları için, Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise ve Salesforce (CRM ) Agentforce gibi platformlarla ilgili ajanları destekler. Bu sistemler, şirketin tam olarak barındırmadığı veya kontrol etmediği iş belgelerine, müşteri kayıtlarına, iletişimlere ve iş akışlarına erişim izni verebilir.

Platform, AWS Bedrock, Azure AI Foundry ve Google Vertex AI gibi hizmetlerle oluşturulan özel ajanları da kapsar. Zenity, bu ajanların hangi araçları ve bulut hizmetlerini çağırdığını izler ve geliştirme ve yürütme sırasında politikalar uygular.

Üçüncü bir alan, kod asistanları, masaüstü uygulamaları ve ajanslı tarayıcılar gibi cihaz tabanlı ajanları içerir. Bu araçlar, bir çalışanın kimlik doğrulama ortamı içinde çalışabilir ve potansiyel olarak dosyalarına, tarayıcı oturumlarına ve bağlı hizmetlerine erişim izni alabilir.

Güvenlik Araştırmaları Yeni Tehdit Modelini Vurguluyor

Zenity, ürün geliştirmesini Zenity Labs aracılığıyla yapılan araştırmalarla destekledi. Bu araştırmalar, otonom sistemlerin güvensiz içerik aracılığıyla nasıl manipüle edilebileceğini inceliyor.

Araştırmaları, geniş çapta kullanılan şirket yapay zeka platformlarını içeren sıfır tıklama ve bir tıklama saldırı zincirlerini inceledi. Demonstrasyonlar, e-postalar, belgeler, destek başvuruları veya işbirliği araçları aracılığıyla teslim edilen kötü niyetli talimatların ajanların bilgi ifşa etmesine, bağlı araçları kötüye kullanmasına veya yanıtlarını değiştirmesine neden olabileceği senaryoları içeriyordu.

Daha yakın zamanda yapılan bir araştırma, Perplexity’nin Comet ajanslı tarayıcısını inceledi. Zenity araştırmacıları, bir takvim davetiyesi içindeki gizli talimatların tarayıcıyı etkileyebileceğini gösterdi. Bir senaryoda, tehlikeye atılan ajan, kilitli bir 1Password web kasasını gezdi ve kimlik bilgilerini normal web istekleri aracılığıyla iletti.

Araştırma, sorunun kullanıcı niyeti ile bir ajanın karşılaştığı üçüncü taraf içeriği arasındaki yeterli ayrımın olmamasına bağladı. Ajan, zaten bir çalışanın kimlik doğrulama oturumunda çalıştığı için, kullanıcının meşru olarak verdiği erişim iznini potansiyel olarak kullanabilirdi.

Küresel Genişleme ve Ürün Geliştirmesi İçin Finansman

Zenity, gelirinin son iki yıldır üç katına çıktığını ve bu yıl da üç katına çıkmasının beklendiğini söylüyor. Şirket, müşterilerinin çoğunun finans, sağlık, ilaç, üretim ve enerji gibi düzenlenmiş endüstrilerde faaliyet gösteren Fortune 500 ve Global 2000 şirketleri olduğunu belirtiyor.

Şirket, şu anda 230’dan fazla çalışanıyla, araştırma ve geliştirmenin Tel Aviv’de, pazarlama ve operasyonel işlevlerin New York’tan yönetildiği bir yapıya sahip.

C Serisi finansman, ürün geliştirmesini hızlandırmasına, Zenity Labs’i genişletmesine, Avrupa ve Asya-Pasifik bölgesindeki varlığını güçlendirmesine ve gelişen şirket yapay zeka altyapısına daha fazla ajan çerçevesi desteklemesine yardımcı olacak.

Yapay Zeka Ajansı Güvenliği Kendi Kategorisini Oluşturuyor

Zenity’nin yatırım turu, yatırımcıların yapay zeka ajansı güvenliğinin önemli bir siber güvenlik kategorisi haline gelebileceğine dair güvenini gösteriyor.

Özel bir kategori için argüman, geleneksel araçların genellikle bir ajanın faaliyetinin yalnızca bir kısmını gördüğüdür. Bulut güvenlik platformları altyapıyı inceleyebilir, kimlik sistemleri izinleri yönetebilir ve uç nokta ürünleri işletim sistemi düzeyindeki tehditleri tespit edebilir. Ancak bir ajanın amaçlanan rolünü veya bir araç çağrı zincirinin kullanıcıların asıl amacına nasıl relacionlandırıldığını anlamayabilirler.

Zenity, niyet tabanlı kontrollerinin hızla değişen çerçeveler üzerinde çalışabileceğini, aşırı uyarılar oluşturmadığını, meşru işleri engellemediğini veya kabul edilemez gecikme eklemediğini kanıtlamak zorunda kalacak.

Şirket, ayrıca işletmelerin, büyük bulut ve yazılım sağlayıcıları tarafından eklenen kontrollere güvenmek yerine ayrı bir ajans güvenlik platformu satın alacağını göstermek zorunda kalacak.

İmmediate pazar fırsatı netleşiyor. Ajanlar duyarlı verilere erişim kazandıkça ve önemli iş süreçlerini kontrol etmeye başladıklarında, şirketlerin yalnızca bir olay之后 ne olduğuyla ilgili bir kayda ihtiyaç duymayacakları, hangi ajanların var olduğunu, ne yapabileceğini, bir ajanın amaçlanan eyleminden sapmasını önlemek için müdahale edebilecek mekanizmalara ihtiyaç duyacakları açıkça görülüyor.

Zenity’nin 125 milyon dolarlık C Serisi, şirketin güvenlik ekipleri, şirketlerin otonom yazılımın giderek daha fazla yer aldığı bir ortam hazırlanırken, bu rolü takip etmek için önemli kaynaklar sağlıyor.