Zenity raccoglie 125 milioni di dollari mentre le aziende affrontano i rischi di sicurezza degli agenti AI autonomi

Zenity ha raccolto $125 milioni di dollari nella serie C di finanziamento mentre le aziende spostano gli agenti di intelligenza artificiale da esperimenti controllati a sistemi in grado di accedere ai dati, invocare strumenti software e completare attività operative.

Norwest ha guidato il round, con Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures e LG Technology Ventures che si sono uniti come nuovi investitori. Gli investitori esistenti Vertex Ventures, Third Point Ventures, DTCP e Intel Capital hanno anche partecipato. La società non ha divulgato la sua valutazione.

Il finanziamento segue il round di finanziamento serie B di Zenity da 38 milioni di dollari di ottobre 2024 e porta il finanziamento dichiarato della società a almeno 180 milioni di dollari.

Dagli esperimenti di intelligenza artificiale ai sistemi autonomi

La dimensione del round riflette un cambiamento più ampio nel modo in cui le aziende adottano l’intelligenza artificiale. La prima ondata di intelligenza artificiale generativa ha coinvolto principalmente dipendenti che interagivano con chatbot per produrre testi, riassumere documenti o recuperare informazioni.

Gli agenti di intelligenza artificiale introducono un livello di rischio diverso perché possono agire. A seconda delle autorizzazioni, gli agenti possono accedere a database interni, chiamare interfacce di programmazione delle applicazioni, aggiornare record, eseguire codice, inviare messaggi o avviare flussi di lavoro che coinvolgono più sistemi aziendali.

Ciò sposta il problema di sicurezza oltre la questione se un modello produca una risposta inadeguata. Le organizzazioni devono anche capire quali agenti sono stati distribuiti, chi li controlla, quali informazioni possono raggiungere e quali azioni sono autorizzate a eseguire.

Un agente può comportarsi esattamente come progettato e ancora creare un incidente di sicurezza se ha autorizzazioni eccessive, incontra informazioni manipolate o interpreta le istruzioni di un attaccante come parte di un compito legittimo.

Zenity descrive questo come un problema di “livello agente”. La sua piattaforma è progettata per esaminare la configurazione di un agente, le autorizzazioni, gli strumenti connessi, la memoria e le azioni in tempo di esecuzione, piuttosto che guardare solo ai prompt che entrano in un modello o alle risposte che genera.

Come Zenity protegge gli agenti di intelligenza artificiale

Zenity divide la sua piattaforma in tre aree principali: osservabilità, gestione della postura di sicurezza e rilevamento e risposta.

La componente di osservabilità scopre e inventaria gli agenti che operano in tutta l’organizzazione. Ciò include agenti incorporati in piattaforme di software come servizio, agenti sviluppati internamente in esecuzione in ambienti cloud e strumenti locali installati su dispositivi dei dipendenti.

L’obiettivo è dare ai team di sicurezza un’immagine costantemente aggiornata di ogni agente, compreso il proprietario, la configurazione, le autorizzazioni, le integrazioni e il comportamento in tempo di esecuzione. Ciò sta diventando sempre più importante poiché i singoli dipartimenti e dipendenti guadagnano la capacità di creare agenti senza passare attraverso un processo di sviluppo software o revisione della sicurezza convenzionale.

Il livello di governance di Zenity valuta le configurazioni e le autorizzazioni prima che un agente entri in produzione. Le politiche possono essere utilizzate per identificare l’accesso eccessivo, le integrazioni non sicure o gli strumenti che potrebbero consentire a un agente di operare al di fuori del suo ruolo previsto. La piattaforma può continuare a controllare quei controlli man mano che gli agenti vengono modificati nel tempo.

In fase di esecuzione, Zenity analizza il percorso di esecuzione di un agente, comprese le chiamate di strumenti, l’accesso alla memoria, l’utilizzo dei dati e le interazioni con altri sistemi. La società afferma di poter utilizzare questo contesto per consentire, modificare o bloccare un’azione prima che si verifichi.

Questo approccio è destinato a distinguere tra una richiesta normale e una richiesta apparentemente normale che è stata influenzata da contenuti maligni. Affronta anche un’importante limitazione del filtro dei prompt: un risultato pericoloso può emergere da una sequenza di azioni individualmente innocue.

Copertura di SaaS, cloud e dispositivi dei dipendenti

Zenity sta cercando di fornire un livello di sicurezza comune in un ecosistema di agenti frammentato.

Per gli ambienti di software come servizio, supporta gli agenti associati a piattaforme come Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise e Salesforce (CRM ) Agentforce. Questi sistemi possono fornire agli agenti l’accesso a documenti aziendali, record dei clienti, comunicazioni e flussi di lavoro che l’azienda non ospita o controlla completamente.

La piattaforma copre anche gli agenti personalizzati costruiti con servizi come AWS Bedrock, Azure AI Foundry e Google Vertex AI. Zenity monitora quali strumenti e servizi cloud questi agenti invocano, applicando le politiche durante lo sviluppo e l’esecuzione.

Un terzo ambito coinvolge gli agenti basati su dispositivo, come assistenti di codifica, applicazioni desktop e browser agentic. Questi strumenti possono operare all’interno dell’ambiente autenticato di un dipendente, potenzialmente ereditando l’accesso a file, sessioni del browser e servizi connessi.

Portare questi ambienti in un unico sistema potrebbe semplificare la governance, ma crea anche una notevole sfida tecnica. L’architettura, le autorizzazioni e la telemetria disponibili da un copilota di software come servizio possono differire sostanzialmente da quelle di un agente cloud personalizzato o di uno strumento installato localmente.

La ricerca sulla sicurezza sottolinea il modello di minaccia emergente

Zenity ha supportato lo sviluppo del suo prodotto con ricerche condotte attraverso Zenity Labs, che indaga su come i sistemi autonomi possano essere manipolati attraverso contenuti non attendibili.

La sua ricerca AgentFlayer ha esaminato catene di attacchi zero-click e one-click che coinvolgono piattaforme di intelligenza artificiale aziendale ampiamente utilizzate. Le dimostrazioni includevano scenari in cui istruzioni maligne consegnate tramite e-mail, documenti, casi di supporto o strumenti di collaborazione hanno causato agli agenti di esporre informazioni, utilizzare strumenti connessi o alterare le loro risposte.

Ricerche più recenti hanno esaminato il browser agentic Comet di Perplexity. I ricercatori di Zenity hanno dimostrato come istruzioni nascoste all’interno di un invito al calendario potessero influenzare il browser mentre eseguiva un compito di routine. In uno scenario, l’agente compromesso ha navigato un vault web di 1Password non bloccato e ha trasmesso le credenziali attraverso richieste web ordinarie.

La ricerca ha attribuito il problema alla mancanza di separazione sufficiente tra le intenzioni dell’utente e il contenuto di terze parti incontrato dall’agente. Poiché l’agente stava già operando all’interno di una sessione del browser autenticata, potrebbe potenzialmente utilizzare l’accesso che l’utente aveva concesso legittimamente.

Queste dimostrazioni illustrano perché la sicurezza degli agenti non può affidarsi interamente al rilevamento di prompt ovviamente maligni. Le istruzioni possono essere sepolte all’interno dei dati che un agente è previsto leggere, mentre le azioni risultanti possono assomigliare a normale navigazione, recupero di documenti o attività dell’applicazione.

Sottolineano anche l’importanza dei confini che rimangono applicabili anche quando il ragionamento di un agente è stato manipolato.

Finanziamento dell’espansione globale e dello sviluppo del prodotto

Zenity afferma che il suo fatturato è triplicato in ciascuno degli ultimi due anni e è in linea per triplicare nuovamente quest’anno. La società riferisce che molti dei suoi clienti sono organizzazioni Fortune 500 e Global 2000 che operano in settori regolamentati come servizi finanziari, assistenza sanitaria, farmaceutica, manifattura ed energia.

Adesso ha più di 230 dipendenti, con la ricerca e lo sviluppo centrati a Tel Aviv e le funzioni di go-to-market e operative guidate da New York.

Il finanziamento della serie C sarà utilizzato per accelerare lo sviluppo del prodotto, espandere Zenity Labs e rafforzare la presenza della società in Europa e nella regione Asia-Pacifico. Darà inoltre a Zenity risorse aggiuntive per supportare un numero crescente di framework di agenti man mano che l’infrastruttura di intelligenza artificiale aziendale diventa più diversificata.

Questa espansione arriva meno di due anni dopo il precedente round di finanziamento istituzionale della società, quando Zenity stava ancora enfatizzando le sue origini nella sicurezza delle applicazioni a basso codice e senza codice. La sua attuale posizionamento riflette come quelle preoccupazioni precedenti siano evolute: i dipendenti che potevano una volta costruire semplici applicazioni aziendali possono ora creare agenti in grado di prendere decisioni e operare sistemi connessi.

La sicurezza degli agenti di intelligenza artificiale sta diventando una propria categoria

La raccolta di fondi di Zenity segnala la fiducia degli investitori che la sicurezza degli agenti di intelligenza artificiale potrebbe svilupparsi in una sostanziale categoria di sicurezza informatica, piuttosto che rimanere una funzionalità all’interno di prodotti cloud, identità o endpoint esistenti.

L’argomento a favore di una categoria dedicata è che gli strumenti convenzionali vedono generalmente solo una parte dell’attività di un agente. Le piattaforme di sicurezza cloud possono ispezionare l’infrastruttura, i sistemi di identità possono gestire le autorizzazioni e i prodotti endpoint possono rilevare le minacce a livello di sistema operativo. Non necessariamente comprendono il ruolo previsto di un agente o come una catena di chiamate di strumenti si relaziona con l’obiettivo originale dell’utente.

Zenity dovrà ancora dimostrare che i suoi controlli basati sulle intenzioni possono operare attraverso framework in rapida evoluzione senza creare allarmi eccessivi, bloccare il lavoro legittimo o aggiungere latenza inaccettabile. Deve anche dimostrare che le aziende acquisteranno una piattaforma di sicurezza degli agenti separata, piuttosto che affidarsi ai controlli aggiunti dai principali fornitori di cloud e software.

L’opportunità di mercato immediata sta tuttavia diventando più chiara. Man mano che gli agenti guadagnano accesso a dati sensibili e iniziano a controllare processi aziendali conseguenti, le organizzazioni avranno bisogno di più di un registro di ciò che è accaduto dopo un incidente. Avranno bisogno di meccanismi in grado di identificare quali agenti esistono, limitare ciò che possono fare e intervenire prima che un’azione non intenzionale diventi una violazione.

Zenity’s $125 milioni di dollari della serie C dà alla società risorse significative per perseguire quel ruolo man mano che i team di sicurezza si preparano per un ambiente aziendale sempre più popolato da software autonomo.