Zenity henter inn 125 millioner dollar mens bedrifter møter sikkerhetsrisikoene med autonome AI-agenter

Zenity har hentet inn 125 millioner dollar i Series C-finansiering mens bedrifter flytter kunstig intelligens-agenter fra kontrollerte eksperimenter til systemer som kan aksessere data, invokere programværktøy og fullføre operasjonelle oppgaver.

Norwest ledet runden, med Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures og LG Technology Ventures som nye investorer. Eksisterende investorer Vertex Ventures, Third Point Ventures, DTCP og Intel Capital deltok også. Selskapet avslørte ikke verdien.

Finansieringen følger Zenitys 38 millioner dollar Series B i oktober 2024 og bringer selskapets avslørte finansiering til minst 180 millioner dollar.

Fra AI-eksperimenter til autonome systemer

Størrelsen på runden reflekterer en bredere endring i hvordan bedrifter adopterer AI. Den første bølgen av generativ AI involverte hovedsakelig ansatte som samhandlet med chatbots for å produsere tekst, sammenfatte dokumenter eller hente informasjon.

AI-agenter introduserer en annen type risiko fordi de kan utføre handlinger. Avhengig av deres tillatelser, kan agenter aksessere interne databaser, invokere programmeringsgrensesnitt, oppdatere poster, kjøre kode, sende meldinger eller initiere arbeidsflyter som omfatter flere bedriftssystemer.

Dette flytter sikkerhetsproblemet bort fra om en modell produserer en upassende respons. Organisasjoner må også forstå hvilke agenter som er distribuert, hvem kontrollerer dem, hvilken informasjon de kan nå og hvilke handlinger de er autorisert til å utføre.

En agent kan oppføre seg eksakt som designet mens den likevel skaper en sikkerhetshendelse hvis den har for mye tillatelser, møter manipulert informasjon eller tolker en angripers instruksjoner som en del av en legitim oppgave.

Zenity beskriver dette som et “agent-lag” problem. Plattformen er designet for å undersøke en agents konfigurasjon, tillatelser, koblet verktøy, minne og kjøretidsaksjoner i stedet for å se bare på instruksjonene som går inn i en modell eller responsene den genererer.

Hvordan Zenity sikrer AI-agenter

Zenity deler sin plattform inn i tre hovedområder: overvåkbarhet, sikkerhetsposturledelse og oppdaging og respons.

Overvåkbarhetskomponenten oppdager og katalogiserer agenter som opererer over en organisasjon. Dette inkluderer agenter innbygget i programvare som tjenester, internutviklede agenter som kjører i skyen og lokale verktøy installert på ansattes enheter.

Målet er å gi sikkerhetsteamene en kontinuerlig oppdatert bilde av hver agents eier, konfigurasjon, tillatelser, integrasjoner og kjøretidsatferd. Dette blir stadig viktigere ettersom enkeltavdelinger og ansatte får mulighet til å lage agenter uten å gå gjennom en konvensjonell programvareutviklings- eller sikkerhetsgjennomgangsprosess.

Zenitys styringslag vurderer konfigurasjoner og tillatelser før en agent går inn i produksjon. Politikk kan brukes til å identifisere overflodig tilgang, usikrede integrasjoner eller verktøy som kan tillate en agent å operere utenfor sin tiltenkte rolle. Plattformen kan fortsette å sjekke disse kontrollene mens agenter endres over tid.

Ved kjøretid analyserer Zenity en agents kjøretidsbane, inkludert verktøykall, minneaksess, databruk og interaksjoner med andre systemer. Selskapet sier at de kan bruke denne konteksten til å tillate, modifisere eller blokkere en handling før den skjer.

Denne tilnærmingen er ment å skille mellom en normal forespørsel og en tilsynelatende normal forespørsel som er påvirket av skadelig innhold. Den addreserer også en viktig begrensning i prompt-filtrering: en farlig utfall kan oppstå fra en sekvens av enkeltvis harmløse handlinger.

Dekker SaaS, sky og ansattes enheter

Zenity forsøker å tilby en felles sikkerhetslag over en fragmentert agent-økosystem.

For programvare som tjenester-miljøer støtter det agenter assosiert med plattformer som Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise og Salesforce Agentforce. Disse systemene kan gi agenter tilgang til forretningsdokumenter, kunderekorder, kommunikasjon og arbeidsflyter som bedriften ikke fullstendig har vert eller kontroll over.

Plattformen dekker også tilpassede agenter bygget med tjenester som AWS Bedrock, Azure AI Foundry og Google Vertex AI. Zenity overvåker hvilke verktøy og skytjenester disse agentene invokerer mens de anvender politikker under utvikling og kjøring.

Et tredje område omfatter enhetsbaserte agenter som kodehjelpere, skrivebordsapplikasjoner og agenter-baserte nettlesere. Disse verktøyene kan operere innenfor en ansatts autentiserte miljø, potensielt arvende tilgang til filer, nettlesersesjoner og tilkoblede tjenester.

Å bringe disse miljøene inn i ett system kan forenkle styring, men det skaper også en betydelig teknisk utfordring. Arkitekturen, tillatelser og telemetri som er tilgjengelig fra en programvare som tjenester-copilot kan være vesentlig forskjellig fra de som finnes i en tilpasset skyagent eller lokalt installert kodehjelper.

Sikkerhetsforskning fremhever den nye trusselmodellen

Zenity har støttet sin produktutvikling med forskning gjennomført gjennom Zenity Labs, som undersøker hvordan autonome systemer kan manipuleres gjennom upålitelig innhold.

Deres AgentFlayer-forskning undersøkte null-klikk- og enkeltklikk-angrepskjeder som involverte vidt brukte bedrifts-AI-plattformer. Demonstrasjonene inkluderte scenarier hvor skadelige instruksjoner levert gjennom e-post, dokumenter, støttefall eller samarbeidstjenester forårsaket at agenter avslørte informasjon, misbrukte tilkoblede verktøy eller endret sine responser.

Mer nylig forskning undersøkte Perplexitys Comet-agenter-basert nettleser. Zenity-forskere demonstrerte hvordan skjulte instruksjoner inne i en kalenderinvitasjon kunne påvirke nettleseren mens den utførte en rutineoppgave. I ett scenario navigerte den kompromitterte agenten en låst 1Password-nettleser og overførte legitimasjon gjennom vanlige nettforespørsler.

Forskningen tilskrev problemet utilstrekkelig adskillelse mellom brukerens intensjoner og tredjepartsinnhold som agenten møtte. Fordi agenten allerede opererte innenfor en autentisert nettlesersesjon, kunne den potensielt bruke tilgang som brukeren hadde legitimt gitt.

Disse demonstrasjonene illustrerer hvorfor agentsikkerhet ikke kan basere seg fullstendig på å oppdage åpenbart skadelige instruksjoner. Instruksjonene kan være begravd inne i data som en agent forventes å lese, mens de resulterende handlingene kan ligne vanlig nettlesing, dokumenthenting eller programaktivitet.

De understreker også viktigheten av grenser som forblir gjennomførbare selv når en agents resonnement har blitt manipulert.

Finansiering global utvidelse og produktutvikling

Zenity sier at inntektene har tredoblet i hver av de to siste årene og er på vei til å tredoble igjen i år. Selskapet rapporterer at mange av kundene er Fortune 500- og Global 2000-organisasjoner som opererer i regulerte industrier som finansielle tjenester, helse, legemidler, produksjon og energi.

De har nå over 230 ansatte, med forskning og utvikling sentrert i Tel Aviv og deres markedsgjennomføring og operasjonelle funksjoner ledet fra New York.

Series C-finansieringen vil bli brukt til å akselerere produktutvikling, utvide Zenity Labs og styrke selskapets tilstedeværelse i Europa og Asia-Stillehavet-regionen. Den vil også gi Zenity ytterligere ressurser til å støtte en voksende mengde agent-rammeverk ettersom bedrifts-AI-infrastruktur blir mer divers.

Denne utvidelsen kommer mindre enn to år etter selskapets forrige institusjonelle runde, da Zenity fortsatt betonet sine røtter i lavkode- og ingenkode-applikasjonssikkerhet. Deres nåværende posisjonering reflekterer hvordan disse tidligere bekymringene har utviklet seg: ansatte som kunne bygge enkle forretningsapplikasjoner kan nå lage agenter som kan ta beslutninger og operere tilkoblede systemer.

AI-agent-sikkerhet blir sin egen kategori

Zenitys kapitalinnsamling signaliserer investor-tillit til at AI-agent-sikkerhet kan utvikle seg til en betydelig kategorisikkerhet i stedet for å forbli en funksjon innen eksisterende sky-, identitets- eller endpoint-produkter.

Argumentet for en dedikert kategori er at konvensjonelle verktøy generelt ser bare en del av en agents aktivitet. Sky-sikkerhetsplattformer kan inspisere infrastruktur, identitetssystemer kan håndtere tillatelser og endpoint-produkter kan oppdage trusler på operativsystemnivå. De forstår ikke nødvendigvis en agents tiltenkte rolle eller hvordan en kjede av verktøykall relaterer til brukerens opprinnelige mål.

Zenity må likevel bevise at deres intensjonsbaserte kontroller kan operere over raskt skiftende rammeverk uten å skape for mange varsler, blokkere legitime arbeid eller legge til uakseptabel forsinkelse. De må også demonstrere at bedrifter vil kjøpe en separat agent-sikkerhetsplattform i stedet for å stole på kontroller lagt til av større sky- og programvareleverandører.

Den umiddelbare markedsmuligheten er likevel blitt mer tydelig. Ettersom agenter får tilgang til følsomme data og begynner å kontrollere betydelige forretningsprosesser, vil organisasjonene trenge mer enn en rekord over hva som skjedde etter en hendelse. De vil trenge mekanismer som kan identifisere hvilke agenter som eksisterer, begrense hva de kan gjøre og gripe inn før en uventet handling blir et brudd.

Zenitys 125 millioner dollar Series C gir selskapet betydelige ressurser til å forfølge denne rollen mens sikkerhetsteamene forbereder seg på et bedriftsmiljø som stadig mer blir befolket av autonome programvare.