Zenity pozyskała 125 milionów dolarów, gdy przedsiębiorstwa konfrontują się z ryzykiem bezpieczeństwa autonomicznych agentów AI

Zenity pozyskała $125 milionów w ramach rundy C jako przedsiębiorstwa przenoszą sztuczne inteligencje z kontrolowanych eksperymentów do systemów, które mogą uzyskać dostęp do danych, wywołać narzędzia oprogramowania i wykonać zadania operacyjne.

Norwest poprowadził rundę, z Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures i LG Technology Ventures dołączając jako nowi inwestorzy. Istniejący inwestorzy Vertex Ventures, Third Point Ventures, DTCP i Intel Capital również brali udział. Spółka nie ujawniła swojej wyceny.

Finansowanie następuje po Zenity’s $38 milionów w ramach rundy B w październiku 2024 roku i zwiększa finansowanie spółki do co najmniej $180 milionów.

Od eksperymentów AI do autonomicznych systemów

Rozmiar rundy odzwierciedla szerszą zmianę w sposobie, w jaki przedsiębiorstwa przyjmują AI. Początkowa fala generatywnej AI obejmowała głównie pracowników, którzy wchodzili w interakcje z czatbotami w celu wygenerowania tekstu, podsumowania dokumentów lub pobrania informacji.

Agenci AI wprowadzają inny poziom ryzyka, ponieważ mogą podejmować działania. W zależności od ich uprawnień, agenci mogą uzyskać dostęp do wewnętrznych baz danych, wywołać interfejsy programistyczne, zaktualizować rekordy, wykonać kod, wysłać wiadomości lub zainicjować przepływy pracy obejmujące wiele systemów przedsiębiorstwa.

To przenosi problem bezpieczeństwa poza kwestię, czy model generuje niewłaściwą odpowiedź. Organizacje muszą również zrozumieć, które agenci zostały wdrożone, kto nimi zarządza, jakie informacje mogą uzyskać i jakie działania są do nich uprawnione.

Agent może zachowywać się dokładnie zgodnie z projektem, a nadal tworzyć incydent bezpieczeństwa, jeśli ma nadmierne uprawnienia, napotka na sfabrykowane informacje lub zinterpretuje instrukcje atakującego jako część prawidłowego zadania.

Zenity opisuje to jako problem „warstwy agenta”. Ich platforma jest zaprojektowana do badania konfiguracji agenta, uprawnień, połączonych narzędzi, pamięci i działań w czasie wykonywania, a nie tylko patrząc na wprowadzane dane do modelu lub generowane odpowiedzi.

Jak Zenity zabezpiecza agenci AI

Zenity dzieli swoją platformę na trzy główne obszary: obserwowalność, zarządzanie postawą bezpieczeństwa i wykrywanie oraz reagowanie.

Składnik obserwowalności odkrywa i inwentaryzuje agenci działające w całej organizacji. Obejmuje to agenci osadzone w platformach oprogramowania jako usługi, wewnętrznie opracowane agenci działające w środowiskach chmurowych i lokalnych narzędziach zainstalowanych na urządzeniach pracowników.

Celem jest dostarczenie zespołom bezpieczeństwa ciągle aktualizowanego obrazu każdego agenta, w tym jego właściciela, konfiguracji, uprawnień, integracji i zachowania w czasie wykonywania. Staje się to coraz bardziej istotne, gdy poszczególne departamenty i pracownicy uzyskują możliwość tworzenia agentów bez konieczności przechodzenia przez konwencjonalny proces rozwoju oprogramowania lub przeglądu bezpieczeństwa.

Warstwa zarządzania postawą bezpieczeństwa Zenity ocenia konfiguracje i uprawnienia przed wprowadzeniem agenta do produkcji. Polityki mogą być wykorzystywane do identyfikacji nadmiernego dostępu, niezabezpieczonych integracji lub narzędzi, które mogą pozwolić agentowi działać poza jego przeznaczeniem. Platforma może kontynuować sprawdzanie tych kontroli, gdy agenci są modyfikowani w czasie.

W czasie wykonywania Zenity analizuje ścieżkę wykonywania agenta, w tym jego wywołania narzędzi, dostęp do pamięci, użycie danych i interakcje z innymi systemami. Firma twierdzi, że może wykorzystać ten kontekst, aby zezwolić, zmodyfikować lub zablokować działanie przed jego wystąpieniem.

Ten podejście ma na celu odróżnienie normalnego żądania od pozornie normalnego żądania, które zostało wpłynięte przez treści o charakterze złośliwym. Adresuje również ważną ograniczenie filtrowania podpowiedzi: niebezpieczny wynik może wyniknąć z sekwencji indywidualnie nieszkodliwych działań.

Pokrywając SaaS, chmurę i urządzenia pracowników

Zenity próbuje dostarczyć wspólną warstwę bezpieczeństwa w środowisku agenta, które jest fragmentowane.

Dla środowisk oprogramowania jako usługi obsługuje agenci związane z platformami takimi jak Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise i Salesforce (CRM ) Agentforce. Te systemy mogą zapewnić agentom dostęp do dokumentów biznesowych, rekordów klientów, komunikacji i przepływów pracy, których przedsiębiorstwo nie w pełni hostuje ani kontroluje.

Platforma również obejmuje agenci niestandardowe zbudowane z usług, takich jak AWS Bedrock, Azure AI Foundry i Google Vertex AI. Zenity monitoruje, które narzędzia i usługi chmurowe te agenci wywołują, stosując polityki podczas rozwoju i wykonywania.

Trzecim obszarem są agenci urządzeń, takie jak asystenci programistyczni, aplikacje biurkowe i przeglądarki agenci. Te narzędzia mogą działać w środowisku uwierzytelnionym pracownika, potencjalnie dziedzicząc dostęp do plików, sesji przeglądarki i połączonych usług.

Wprowadzenie tych środowisk do jednego systemu może uprościć zarządzanie, ale również tworzy znaczące wyzwania techniczne. Architektura, uprawnienia i telemetria dostępne z oprogramowania jako usługi mogą się znacznie różnić od tych dostępnych w przypadku agenta chmurowego lub lokalnie zainstalowanego narzędzia programistycznego.

Badania bezpieczeństwa podkreślają nowy model zagrożeń

Zenity wspierała swój rozwój produktu za pomocą badań przeprowadzonych przez Zenity Labs, które badają, jak autonomiczne systemy mogą być manipulowane za pomocą niezaufanych treści.

Ich badanie AgentFlayer obejmowało łańcuchy ataków zero-kliknięć i jeden-kliknięć, zaangażowane w powszechnie używane platformy przedsiębiorstw AI. Pokazy obejmowały scenariusze, w których złośliwe instrukcje dostarczane za pośrednictwem e-maili, dokumentów, przypadków pomocy lub narzędzi współpracy powodowały, że agenci ujawniali informacje, nadużywali połączonych narzędzi lub zmieniali swoje odpowiedzi.

Nowsze badanie obejmowało przeglądarkę agenci Comet Perplexity. Badacze Zenity wykazali, jak ukryte instrukcje w zaproszeniu kalendarzowym mogą wpłynąć na przeglądarkę podczas wykonywania rutynowego zadania. W jednym scenariuszu skompromitowany agent nawigował do niezabezpieczonego skarbca internetowego 1Password i przesłał poświadczenia za pomocą zwykłych żądań sieciowych.

Badanie przypisało problem brakowi wystarczającego rozdzielenia między intencjami użytkownika a treściami trzecimi napotkanymi przez agenta. Ponieważ agent działał już w uwierzytelnionym sesji przeglądarki, mógł potencjalnie wykorzystać dostęp, który użytkownik uzyskał w sposób uzasadniony.

Te demonstracje ilustrują, dlaczego bezpieczeństwo agenta nie może polegać wyłącznie na wykrywaniu oczywiście złośliwych podpowiedzi. Instrukcje mogą być pogrzebane w danych, które agent ma prawo odczytać, podczas gdy wynikające z nich działania mogą przypominać normalne przeglądanie, pobieranie dokumentów lub działanie aplikacji.

Podkreślają one również wagę granic, które pozostają egzekwowalne, nawet gdy rozumowanie agenta zostało manipulowane.

Finansowanie globalnej ekspansji i rozwoju produktu

Zenity twierdzi, że jej przychody potroiły się w ciągu ostatnich dwóch lat i są na drodze do potrojenia w tym roku. Spółka podaje, że wielu z jej klientów to organizacje z listy Fortune 500 i Global 2000, działające w branżach regulowanych, takich jak usługi finansowe, opieka zdrowotna, farmaceutyka, produkcja i energia.

Obecnie zatrudnia ponad 230 pracowników, z centrum badawczo-rozwojowym w Tel Awiwie i funkcjami rynkowymi i operacyjnymi kierowanymi z Nowego Jorku.

Finansowanie rundy C zostanie wykorzystane do przyspieszenia rozwoju produktu, rozszerzenia Zenity Labs i wzmocnienia pozycji spółki w Europie i regionie Azji i Pacyfiku. Będzie to również dawać Zenity dodatkowe środki na wsparcie rosnącej liczby ram agentów, gdy infrastruktura AI przedsiębiorstw staje się bardziej zróżnicowana.

Ta ekspansja następuje mniej niż dwa lata po poprzedniej instytucjonalnej rundzie, kiedy Zenity nadal podkreślała swoje korzenie w bezpieczeństwie aplikacji o niskim i bez kodowania. Ich bieżące pozycjonowanie odzwierciedla, jak te wcześniejsze problemy ewoluowały: pracownicy, którzy mogli kiedyś tworzyć proste aplikacje biznesowe, mogą teraz tworzyć agenci zdolne do podejmowania decyzji i obsługi połączonych systemów.

Bezpieczeństwo agenta AI staje się odrębną kategorią

Zenity’s fundusz sygnalizuje zaufanie inwestorów, że bezpieczeństwo agenta AI może rozwinąć się w znaczącą kategorię cyberbezpieczeństwa, a nie pozostać funkcją w ramach istniejących produktów chmurowych, tożsamości lub punktów końcowych.

Argumentem za dedykowaną kategorią jest to, że konwencjonalne narzędzia zwykle widzą tylko część działania agenta. Platformy bezpieczeństwa chmurowego mogą inspekcjonować infrastrukturę, systemy tożsamości mogą zarządzać uprawnieniami, a produkty punktu końcowego mogą wykrywać zagrożenia na poziomie systemu operacyjnego. Niekoniecznie rozumieją one jednak przeznaczone role agenta ani sposób, w jaki łańcuch wywołań narzędzi wiąże się z pierwotnym celem użytkownika.

Zenity nadal musi udowodnić, że ich oparte na intencji kontrole mogą działać w ramach szybko zmieniających się ram bez tworzenia nadmiernych alertów, blokowania prawidłowych działań lub dodawania nieakceptowalnej latencji. Musi również wykazać, że przedsiębiorstwa będą kupować odrębną platformę bezpieczeństwa agenta, a nie polegać na kontrolach dodanych przez głównych dostawców chmurowych i oprogramowania.

Natychmiastowa możliwość rynkowa staje się jednak coraz bardziej wyraźna. Gdy agenci uzyskują dostęp do wrażliwych danych i zaczynają kontrolować istotne procesy biznesowe, organizacje będą potrzebować czegoś więcej niż tylko rekordu tego, co się wydarzyło po incydencie. Będą potrzebować mechanizmów, które mogą identyfikować, które agenci istnieją, ograniczać to, co mogą robić, i interweniować, zanim niewłaściwe działanie stanie się naruszeniem.

Zenity’s $125 milionów w ramach rundy C daje spółce znaczne środki, aby realizować tę rolę, gdy zespoły bezpieczeństwa przygotowują się do środowiska przedsiębiorstwa, w którym coraz częściej występuje oprogramowanie autonomiczne.