Zenity získala 125 milionů dolarů, protože podniky čelí bezpečnostním rizikům autonomních agentů AI

Zenity získala $125 milionů v rámci série C jako podniky přesouvají umělou inteligenci z řízených experimentů do systémů, které mohou přistupovat k datům, vyvolávat softwarové nástroje a dokončovat provozní úkoly.

Norwest vedl kolo, s Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures a LG Technology Ventures jako noví investoři. Stávající investoři Vertex Ventures, Third Point Ventures, DTCP a Intel Capital také участвovali. Společnost neuveřejnila svou valuaci.

Financování následuje Zenity’s $38 milionů série B v říjnu 2024 a zvyšuje celkové financování společnosti na alespoň $180 milionů.

Od experimentů s umělou inteligencí k autonomním systémům

Velikost kola odráží širší změnu v tom, jak podniky přijímají umělou inteligenci. První vlna generativní umělé inteligence se primárně týkala zaměstnanců, kteří interagovali s chatboty pro produkci textu, souhrny dokumentů nebo získání informací.

Agenti umělé inteligence představují jiný stupeň rizika, protože mohou provádět akce. V závislosti na jejich oprávněních mohou agenti přistupovat k interním databázím, vyvolávat rozhraní aplikací, aktualizovat záznamy, spouštět kód, odesílat zprávy nebo iniciovat pracovní postupy přes více podnikových systémů.

To posouvá bezpečnostní problém za hranice toho, zda model produkuje nevhodnou odpověď. Organizace musí také pochopit, které agenti byli nasazeni, kdo je ovládá, ke kterým informacím mají přístup a jaké akce jsou oprávněni provádět.

Agent může fungovat přesně podle designu a přesto vytvářet bezpečnostní incident, pokud má nadměrná oprávnění, setká se s manipulovanými informacemi nebo interpretuje útočníkovy instrukce jako součást legitimního úkolu.

Zenity popisuje tento problém jako „agentní vrstvu“. Jejich platforma je navržena tak, aby prozkoumala konfiguraci agenta, oprávnění, připojené nástroje, paměť a runtime akce, spíše než se dívat pouze na podněty vstupující do modelu nebo odpovědi, které generuje.

Jak Zenity zajišťuje bezpečnost agentů umělé inteligence

Zenity rozděluje svou platformu do tří hlavních oblastí: pozorovatelnost, bezpečnostní postoje a detekce a reakce.

Komponent pozorovatelnosti objevuje a inventarizuje agenty, kteří fungují napříč organizací. To zahrnuje agenty vložené do platforem software jako služba, interně vyvinuté agenty běžící v cloudech a místní nástroje nainstalované na zařízeních zaměstnanců.

Cílem je poskytnout bezpečnostním týmům neustále aktualizovaný obraz každého agenta, včetně jeho vlastníka, konfigurace, oprávnění, integrací a runtime chování. To se stává stále důležitějším, protože jednotlivá oddělení a zaměstnanci získávají schopnost vytvářet agenty bez konvenčního softwarového vývoje nebo bezpečnostního přezkumu.

Zenity’s vrstva řízení posuzuje konfigurace a oprávnění předtím, než agent vstoupí do produkce. Zásady mohou být použity k identifikaci nadměrného přístupu, nezabezpečených integrací nebo nástrojů, které by mohly umožnit agentovi fungovat mimo jeho zamýšlenou roli. Platforma může pokračovat v kontrole těchto kontrol, zatímco agenti jsou modifikováni v průběhu času.

Během runtime Zenity analyzuje agentův prováděcí postup, včetně jeho volání nástrojů, přístupu k paměti, použití dat a interakcí s jinými systémy. Společnost říká, že může použít tento kontext k povolení, modifikaci nebo zablokování akce předtím, než k ní dojde.

Tento přístup je navržen tak, aby rozlišoval mezi normální žádostí a zdánlivě normální žádostí, která byla ovlivněna škodlivým obsahem. Také řeší důležitou limitaci filtrování podnětů: nebezpečný výsledek může vzniknout z posloupnosti jednotlivě neškodných akcí.

Pokrytí SaaS, cloudu a zařízení zaměstnanců

Zenity se snaží poskytnout společnou bezpečnostní vrstvu napříč fragmentovanou agentní ekosystémem.

Pro prostředí software jako služba podporuje agenty spojené s platformami, jako je Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise a Salesforce (CRM ) Agentforce. Tyto systémy mohou poskytnout agentům přístup k obchodním dokumentům, zákaznickým záznamům, komunikacím a pracovním postupům, které podniky plně nehostují nebo nekontrolují.

Platforma také pokrývá vlastní agenty postavené pomocí služeb, jako je AWS Bedrock, Azure AI Foundry a Google Vertex AI. Zenity monitoruje, které nástroje a cloudu služby tyto agenty vyvolávají, zatímco uplatňuje zásady během vývoje a provádění.

Třetí oblastí se zabývá agenty založenými na zařízeních, jako jsou pomocníci pro kódování, desktopové aplikace a agentic prohlížeče. Tyto nástroje mohou fungovat uvnitř ověřeného prostředí zaměstnance, potenciálně dědícím přístup k souborům, relacím prohlížeče a propojeným službám.

Zavedení těchto prostředí do jednoho systému by mohlo zjednodušit řízení, ale také vytváří podstatnou technickou výzvu. Architektura, oprávnění a telemetrie dostupné ze softwaru jako služby mohou se podstatně lišit od těch u vlastních cloudových agentů nebo místně nainstalovaných nástrojů pro kódování.

Bezpečnostní výzkum zdůrazňuje vznikající model hrozeb

Zenity podporuje svůj produktový vývoj výzkumem prováděným prostřednictvím Zenity Labs, který zkoumá, jak autonomní systémy mohou být manipulovány prostřednictvím nedůvěryhodného obsahu.

Jeho výzkum AgentFlayer prozkoumal řetězce nulových a jednoduchých útoků zahrnující široce používané podnikové platformy umělé inteligence. Demonstrace zahrnovaly scénáře, ve kterých škodlivé instrukce doručené prostřednictvím e-mailů, dokumentů, případů podpory nebo nástrojů pro spolupráci způsobily, že agenti odhalili informace, zneužili propojené nástroje nebo změnili své odpovědi.

Novější výzkum prozkoumal agentic prohlížeč Perplexity Comet. Výzkumníci Zenity demonstrovali, jak skryté instrukce uvnitř kalendářového pozvánky mohly ovlivnit prohlížeč, zatímco prováděl rutinní úkol. V jednom scénáři kompromitovaný agent procházel nezamknutou webovou trezor 1Password a přenášel přihlašovací údaje prostřednictvím běžných webových požadavků.

Výzkum přisuzuje problém nedostatečnému oddělení mezi úmysly uživatele a třetím obsahem, se kterým se agent setkává. Protože agent již fungoval v rámci ověřené relace prohlížeče, mohl potenciálně využívat přístup, který uživatel legitimně udělil.

Tyto demonstrace ilustrují, proč bezpečnost agentů nemůže spoléhat pouze na detekci zjevně škodlivých podnětů. Instrukce mohou být pohřbeny uvnitř dat, která agent očekává, zatímco výsledné akce mohou připomínat normální procházení, získání dokumentů nebo aplikací.

Také zdůrazňují důležitost hranic, které zůstávají vynutitelné, i když agentův rozum byl manipulován.

Financování globální expanze a produktového vývoje

Zenity říká, že její výnosy se za posledních два roky trojnásobně zvýšily a jsou na cestě k dalšímu trojnásobnému zvýšení letos. Společnost uvádí, že mnoho jejích zákazníků jsou organizace Fortune 500 a Global 2000, které fungují v regulovaných odvětvích, jako jsou finanční služby, zdravotnictví, farmaceutika, výroba a energie.

Nyní má více než 230 zaměstnanců, s výzkumem a vývojem centrováným v Tel Avivu a funkcemi go-to-market a operacemi vedenými z New Yorku.

Financování série C bude použito k urychlení produktového vývoje, rozšíření Zenity Labs a posílení přítomnosti společnosti v Evropě a regionu Asie-Pacifik. Také poskytne Zenity další zdroje na podporu rostoucího počtu agentních rámců, protože podniková infrastruktura umělé inteligence se stává stále rozmanitější.

Tato expanze přichází méně než dva roky po předchozím institucionálním kole, kdy Zenity ještě zdůrazňovala své kořeny v nízkém kódu a bezkódovém zabezpečení aplikací. Jejich současné позиční反映uje, jak se tyto dřívější obavy vyvinuly: zaměstnanci, kteří mohli dříve vytvářet jednoduché obchodní aplikace, nyní mohou vytvářet agenty schopné rozhodování a ovládání propojených systémů.

Bezpečnost agentů umělé inteligence se stává samostatnou kategorií

Zenity’s fundraising signalizuje investorovu důvěru v to, že bezpečnost agentů umělé inteligence by se mohla vyvinout v podstatnou kategorii kybernetické bezpečnosti, spíše než zůstat funkcí uvnitř stávajících cloudových, identifikačních nebo koncových produktů.

Argument pro samostatnou kategorii je, že konvenční nástroje obecně vidí pouze část aktivity agenta. Cloudové bezpečnostní platformy mohou prohlížet infrastrukturu, identifikační systémy mohou spravovat oprávnění a koncové produkty mohou detekovat hrozby na úrovni operačního systému. Nenecessarily rozumí agentově zamýšlené roli nebo tomu, jak se řetězec volání nástrojů vztahuje k uživatelskému původnímu cíli.

Zenity bude muset prokázat, že její založené kontroly na základě úmyslu mohou fungovat napříč rychle se měnícími rámci bez vytváření nadměrných upozornění, blokování legitimní práce nebo přidávání nepřijatelné latence. Musí také demonstrovat, že podniky budou kupovat samostatnou platformu pro bezpečnost agentů, spíše než spoléhat se na kontroly přidávané hlavními cloudovými a softwarovými poskytovateli.

Okamžitá tržní příležitost se stává jasnější. Jak agenti získávají přístup k citlivým datům a začínají ovládat podstatné obchodní procesy, organizace budou potřebovat více než pouze záznam o tom, co se stalo po incidentu. Budou potřebovat mechanismy schopné identifikovat, které agenty existují, omezit to, co mohou dělat, a zasáhnout, než nedopatřené akce se stanou porušením.

Zenity’s $125 milionů série C poskytuje společnosti podstatné zdroje na to, aby sledovala tuto roli, zatímco bezpečnostní týmy se připravují na podnikové prostředí, které je stále více osídleno autonomním softwarovým vybavením.