Zenity hæver 125 millioner dollars, da virksomheder konfronterer sikkerhedsrisiciene ved autonome AI-agenter

Zenity har hævet 125 millioner dollars i serie C-finansiering som virksomheder flytter kunstig intelligens-agenter fra kontrollerede eksperimenter til systemer, der kan tilgå data, kalde softwareværktøjer og udføre operationelle opgaver.

Norwest led runden, med Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures og LG Technology Ventures som nye investorer. Eksisterende investorer, Vertex Ventures, Third Point Ventures, DTCP og Intel Capital, deltog også. Selskabet offentliggjorde ikke sin vurdering.

Finansieringen følger Zenity’s 38 millioner dollars serie B i oktober 2024 og bringer selskabets offentliggjorte finansiering til mindst 180 millioner dollars.

Fra AI-eksperimenter til autonome systemer

Størrelsen af runden afspejler en bredere ændring i, hvordan virksomheder adopterer AI. Den første bølge af generativ AI omfattede primært, at medarbejdere interagerede med chatbots for at producere tekst, sammenfatte dokumenter eller hente information.

AI-agenter introducerer et andet niveau af risiko, fordi de kan udføre handlinger. Afhængigt af deres tilladelser, kan agenter tilgå interne databaser, kalde programmeringsgrænseflader, opdatere poster, udføre kode, sende meddelelser eller initiere arbejdsgange, der omfatter flere virksomhedsystemer.

Dette ændrer sikkerhedsproblemet ud over, om en model producerer en upassende respons. Organisationer må også forstå, hvilke agenter der er udviklet, hvem der kontrollerer dem, hvilken information de kan nå, og hvilke handlinger de er autoriseret til at udføre.

En agent kan opføre sig præcis, som den er designet til, mens den stadig kan skabe en sikkerhedsincident, hvis den har for megen adgang, møder manipuleret information eller fortolker en angribers instruktioner som en del af en legitim opgave.

Zenity beskriver dette som et “agent-lag”-problem. Dets platform er designet til at undersøge en agents konfiguration, tilladelser, forbundne værktøjer, hukommelse og kørsels-handlinger i stedet for kun at se på de prompts, der indgår i en model, eller de svar, den genererer.

Hvordan Zenity sikrer AI-agenter

Zenity opdeler sin platform i tre hovedområder: overvågning, sikkerhedsstilling og opdagelse og respons.

Overvågningskomponenten opdager og katalogiserer agenter, der kører på tværs af en organisation. Dette inkluderer agenter, der er integreret i software-as-a-service-platforme, internt udviklede agenter, der kører i cloud-miljøer, og lokale værktøjer, der er installeret på medarbejderes enheder.

Målet er at give sikkerhedsteams en kontinuerligt opdateret oversigt over hver agents ejer, konfiguration, tilladelser, integrationer og kørselsadfærd. Dette bliver mere og mere vigtigt, da enkelte afdelinger og medarbejdere får mulighed for at oprette agenter uden at gå igennem en konventionel softwareudviklings- eller sikkerhedsproces.

Zenity’s governance-lag vurderer konfigurationer og tilladelser, før en agent kommer i produktion. Politikker kan bruges til at identificere for megen adgang, usikrede integrationer eller værktøjer, der kunne tillade en agent at operere ud over sin tilsigtede rolle. Platformen kan fortsætte med at kontrollere disse kontroller, mens agenterne ændres over tid.

Ved kørsel analyserer Zenity en agents kørselssti, herunder dens værktøjskald, hukommelsesadgang, dataanvendelse og interaktioner med andre systemer. Selskabet siger, at det kan bruge denne kontekst til at tillade, ændre eller blokere en handling, før den sker.

Denne tilgang er designet til at skelne mellem en normal anmodning og en tilsyneladende normal anmodning, der er påvirket af skadelig indhold. Den adresserer også en vigtig begrænsning af prompt-filtrering: en farlig konsekvens kan opstå fra en række af individuelt harmløse handlinger.

Dækning af SaaS, cloud og medarbejderenheder

Zenity forsøger at levere en fælles sikkerhedslag på tværs af et fragmenteret agent-økosystem.

For software-as-a-service-miljøer understøtter det agenter, der er associeret med platforme som Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise og Salesforce (CRM ) Agentforce. Disse systemer kan give agenter adgang til forretningsdokumenter, kunderekorder, kommunikation og arbejdsgange, som virksomheden ikke fuldt ud værter eller kontrollerer.

Platformen dækker også brugerdefinerede agenter bygget med tjenester som AWS Bedrock, Azure AI Foundry og Google Vertex AI. Zenity overvåger, hvilke værktøjer og cloud-tjenester disse agenter kalder, mens den anvender politikker under udvikling og kørsel.

Et tredje område indebærer enhedsbaserede agenter som f.eks. kodestøtteværktøjer, skrivebordsapplikationer og agenter-browsere. Disse værktøjer kan operere inden for en medarbejders autentificerede miljø og kan potentielt arve adgang til filer, browsersessioner og forbundne tjenester.

At bringe disse miljøer ind i ét system kan simplificere styring, men det skaber også en betydelig teknisk udfordring. Arkitekturen, tilladelserne og telemetri, der er tilgængelig fra en software-as-a-service-copilot, kan afvige væsentligt fra dem i en brugerdefineret cloud-agent eller lokal installeret kodestøtteværktøj.

Sikkerhedsforskning fremhæver den nye trusselsmodel

Zenity har støttet sin produktudvikling med forskning gennemført gennem Zenity Labs, som undersøger, hvordan autonome systemer kan manipuleres gennem upålideligt indhold.

Deres AgentFlayer-forskning undersøgte nul-klik- og enkeltklik-angrebskæder, der involverer bredt anvendte virksomheds-AI-platforme. Demonstrationerne inkluderede scenarier, hvor skadelige instruktioner leveret gennem e-mails, dokumenter, support-sager eller samarbejdsværktøjer fik agenter til at afsløre information, misbruge forbundne værktøjer eller ændre deres svar.

Senere forskning undersøgte Perplexity’s Comet-agenter-browser. Zenity-forskere demonstrerede, hvordan skjulte instruktioner inde i en kalenderinvitation kunne påvirke browseren, mens den udførte en rutineopgave. I ét scenarie navigerede den kompromitterede agent en ulåst 1Password-web-vault og transmitterede legitimationsoplysninger gennem almindelige web-anmodninger.

Forskningen tilskrev problemet utilstrækkelig adskillelse mellem brugerens intentioner og tredjepartsindhold, som agenten mødte. Fordi agenten allerede opererede inden for en autentificeret browsersession, kunne den potentielt bruge adgang, som brugeren havde legitimeret.

Disse demonstrationer illustrerer, hvorfor agentsikkerhed ikke kan afhænge fuldt ud af at opdage åbenlyst skadeligt indhold. Instruktionerne kan være begravet inde i data, som agenten er designet til at læse, mens de resulterende handlinger kan ligne normal browsing, dokumenthenting eller applikationsaktivitet.

De understreger også vigtigheden af grænser, der forbliver gennemtvingelige, selv når en agents tankegang er blevet manipuleret.

Finansiering af global udvidelse og produktudvikling

Zenity siger, at dets omsætning er tredoblet i hver af de sidste to år og er på vej til at tredobles igen i år. Selskabet rapporterer, at mange af dets kunder er Fortune 500- og Global 2000-virksomheder, der opererer i regulerede brancher som finansielle tjenester, sundhedsvesen, farmaceutisk industri, fremstilling og energi.

Det har nu mere end 230 medarbejdere, med forskning og udvikling centreret i Tel Aviv og go-to-market- og driftsfunktioner ledet fra New York.

Serie C-finansieringen vil blive brugt til at accelerere produktudvikling, udvide Zenity Labs og styrke selskabets tilstedeværelse i Europa og Asien-Stillehavsregionen. Det vil også give Zenity yderligere ressourcer til at understøtte en stigende mængde agent-rammer, da virksomheds-AI-infrastruktur bliver mere divers.

Denne udvidelse kommer mindre end to år efter selskabets sidste institutionelle runde, da Zenity stadig betonede sin oprindelse i lavkode- og ingen-kode-applikationssikkerhed. Dets nuværende positionering afspejler, hvordan disse tidligere bekymringer er udviklet: Medarbejdere, der tidligere kunne bygge simple forretningsapplikationer, kan nu oprette agenter, der kan træffe beslutninger og operere forbundne systemer.

AI-agent-sikkerhed bliver sin egen kategori

Zenity’s kapitalindsamling signalerer investorernes tillid til, at AI-agent-sikkerhed kan udvikle sig til en betydelig cybersikkerheds-kategori snarere end blot forblive en funktion inden for eksisterende cloud-, identitets- eller endpoint-produkter.

Argumentet for en dedikeret kategori er, at konventionelle værktøjer generelt kun ser en del af en agents aktivitet. Cloud-sikkerhedsplatforme kan inspicere infrastruktur, identitetssystemer kan styre tilladelser, og endpoint-produkter kan opdage trusler på operativsystemniveau. De forstår ikke nødvendigvis en agents tilsigtede rolle eller, hvordan en kæde af værktøjskald relaterer til brugerens oprindelige formål.

Zenity må stadig bevise, at dets intention-baserede kontroller kan operere på tværs af hurtigt skiftende rammer uden at skabe for mange falske positiver, blokere legitime arbejde eller tilføje uacceptabel forsinkelse. Det må også demonstrere, at virksomheder vil købe en separat agent-sikkerhedsplatform snarere end at afhænge af kontroller, der er tilføjet af større cloud- og software-udbydere.

Den umiddelbare markedsmulighed bliver dog mere tydelig. Da agenter får adgang til følsomme data og begynder at kontrollere betydningsfulde forretningsprocesser, vil organisationer have brug for mere end en optagelse af, hvad der skete efter en incident. De vil have mekanismer, der kan identificere, hvilke agenter der findes, begrænse, hvad de kan gøre, og gribe ind, før en uventet handling bliver til en krænkelse.

Zenity’s 125 millioner dollars serie C giver selskabet betydelige ressourcer til at forfølge denne rolle, mens sikkerhedsteams forbereder sig på et virksomheds-miljø, der i stigende grad er befolket af autonome software.