Zenity atrage 125 de milioane de dolari, pe măsură ce întreprinderile se confruntă cu riscurile de securitate ale agenților autonomi AI

Zenity a strâns 125 de milioane de dolari în cadrul seriei C de finanțare, pe măsură ce companiile mută agenții inteligenți artificiali din experimente controlate în sisteme capabile să acceseze date, să invoce instrumente software și să finalizeze sarcini operaționale.

Runda a fost condusă de Norwest, cu Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures și LG Technology Ventures care s-au alăturat ca noi investitori. Investitorii existenți, Vertex Ventures, Third Point Ventures, DTCP și Intel Capital, au participat de asemenea. Compania nu a dezvăluit valoarea sa.

Finanțarea urmează strângerii de fonduri a Zenity în valoare de 38 de milioane de dolari din seria B din octombrie 2024 și aduce fondurile strânse de companie la cel puțin 180 de milioane de dolari.

De la experimente cu IA la sisteme autonome

Mărimea rundei reflectă o schimbare mai amplă în modul în care întreprinderile adoptă IA. Prima undă de inteligență artificială generativă a implicat în principal angajați care interacționau cu chatbot-uri pentru a produce text, a rezuma documente sau a obține informații.

Agenții inteligenți artificiali introduc un nivel diferit de risc, deoarece pot lua acțiuni. În funcție de permisiunile lor, agenții pot accesa baze de date interne, apela interfețe de programare a aplicațiilor, actualiza înregistrări, executa cod, trimite mesaje sau iniția fluxuri de lucru care cuprind multiple sisteme ale întreprinderii.

Acest lucru schimbă problema de securitate dincolo de faptul că un model produce un răspuns inadecvat. Organizațiile trebuie să înțeleagă, de asemenea, care agenți au fost implementați, cine îi controlează, ce informații pot accesa și ce acțiuni sunt autorizate să efectueze.

Un agent poate funcționa exact așa cum a fost proiectat și, totuși, crea o problemă de securitate dacă are permisiuni excesive, întâmpină informații manipulate sau interpretează instrucțiunile unui atacator ca parte a unei sarcini legitime.

Zenity descrie acest lucru ca o problemă de „strat de agent”. Platforma sa este proiectată pentru a examina configurarea unui agent, permisiunile, instrumentele conectate, memoria și acțiunile în timpul rulării, în loc să se concentreze doar pe prompturile care intră într-un model sau pe răspunsurile pe care le generează.

Cum Zenity securizează agenții inteligenți artificiali

Zenity împarte platforma sa în trei domenii principale: observabilitate, gestionarea posturii de securitate și detectare și răspuns.

Componenta de observabilitate descoperă și inventariază agenții care funcționează în cadrul unei organizații. Acest lucru include agenți încorporați în platforme de software ca serviciu, agenți dezvoltați intern care rulează în medii cloud și instrumente locale instalate pe dispozitivele angajaților.

Obiectivul este de a oferi echipelor de securitate o imagine actualizată în mod continuu a fiecărui agent, inclusiv a proprietarului, configurării, permisiunilor, integrărilor și comportamentului în timpul rulării. Acest lucru devine din ce în ce mai important, pe măsură ce departamentele și angajații individuali câștigă capacitatea de a crea agenți fără a trece printr-un proces convențional de dezvoltare software sau de revizuire a securității.

Stratul de guvernanță al Zenity evaluează configurările și permisiunile înainte ca un agent să intre în producție. Politicile pot fi utilizate pentru a identifica accesul excesiv, integrările nesecurizate sau instrumentele care ar putea permite unui agent să opereze dincolo de rolul său intenționat. Platforma poate continua să verifice aceste controale pe măsură ce agenții sunt modificați în timp.

În timpul rulării, Zenity analizează calea de execuție a unui agent, inclusiv apelurile sale de instrumente, accesul la memorie, utilizarea datelor și interacțiunile cu alte sisteme. Compania afirmă că poate utiliza acest context pentru a permite, modifica sau bloca o acțiune înainte ca aceasta să aibă loc.

Acest abordare este destinat să diferențieze între o solicitare normală și o solicitare aparent normală care a fost influențată de conținut malign. De asemenea, abordează o limitare importantă a filtrării prompturilor: un rezultat periculos poate apărea dintr-o secvență de acțiuni individual inofensive.

Acoperirea SaaS, Cloud și dispozitivele angajaților

Zenity încearcă să ofere un strat de securitate comună într-un ecosistem de agenți fragmentat.

Pentru medii de software ca serviciu, aceasta susține agenți asociați cu platforme precum Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise și Salesforce (CRM ) Agentforce. Aceste sisteme pot oferi agenților acces la documente de afaceri, înregistrări ale clienților, comunicații și fluxuri de lucru pe care întreprinderea nu le găzduiește sau nu le controlează în totalitate.

Platforma acoperă, de asemenea, agenți personalizați construiți cu servicii precum AWS Bedrock, Azure AI Foundry și Google Vertex AI. Zenity monitorizează care instrumente și servicii cloud apelează acești agenți, aplicând politici în timpul dezvoltării și executării.

O a treia zonă implică agenți bazati pe dispozitive, cum ar fi asistenții de programare, aplicațiile de birou și browserele agenți. Aceste instrumente pot opera în interiorul mediului autentificat al unui angajat, potențial moștenind acces la fișiere, sesiuni de browser și servicii conectate.

Includerea acestor medii într-un singur sistem ar putea simplifica guvernanța, dar creează și o provocare tehnică considerabilă. Arhitectura, permisiunile și telemetria disponibile de la un copilot de software ca serviciu pot diferi semnificativ de cele ale unui agent cloud personalizat sau ale unui instrument de programare instalat local.

Cercetarea de securitate evidențiază modelul de amenințare emergent

Zenity a susținut dezvoltarea produsului său prin cercetări efectuate prin Zenity Labs, care investighează modul în care sistemele autonome pot fi manipulate prin conținut nedeclarat.

Cercetarea AgentFlayer a examinat lanțurile de atac fără click și cu un singur click care implică platforme de inteligență artificială pentru întreprinderi utilizate pe scară largă. Demonstrațiile au inclus scenarii în care instrucțiuni maligne livrate prin e-mailuri, documente, cazuri de suport sau instrumente de colaborare au determinat agenții să expună informații, să utilizeze în mod necorespunzător instrumente conectate sau să modifice răspunsurile.

Cercetarea mai recentă a examinat browserul agentic Comet al Perplexity. Cercetătorii Zenity au demonstrat modul în care instrucțiuni ascunse într-o invitație la calendar puteau influența browserul în timp ce efectua o sarcină de rutină. Într-un scenariu, agentul compromis a navigat o vault web 1Password deblocată și a transmis credențiale prin solicitări web obișnuite.

Cercetarea a atribuit problema lipsei de separare suficientă între intențiile utilizatorului și conținutul de la terți întâlnit de agent. Deoarece agentul opera deja într-o sesiune de browser autentificată, putea potențial utiliza accesul pe care utilizatorul îl acordase în mod legitim.

Aceste demonstrații ilustrează de ce securitatea agenților nu poate depinde în întregime de detectarea prompturilor evident maligne. Instrucțiunile pot fi îngropate în date pe care un agent este așteptat să le citească, în timp ce acțiunile rezultate pot semăna cu navigarea normală, recuperarea documentelor sau activitatea aplicațiilor.

Ei subliniază, de asemenea, importanța granițelor care rămân aplicabile chiar și atunci când raționamentul unui agent a fost manipulat.

Finanțarea expansiunii globale și a dezvoltării produsului

Zenity afirmă că veniturile sale s-au triplat în fiecare dintre ultimii doi ani și sunt pe cale să se tripleze din nou în acest an. Compania raportează că mulți dintre clienții săi sunt organizații Fortune 500 și Global 2000 care funcționează în industrii reglementate, cum ar fi servicii financiare, sănătate, farmaceutice, producție și energie.

Acum are peste 230 de angajați, cu cercetare și dezvoltare concentrate în Tel Aviv și funcțiile sale de piață și operaționale conduse din New York.

Finanțarea din seria C va fi utilizată pentru a accelera dezvoltarea produsului, a extinde Zenity Labs și a consolida prezența companiei în Europa și în regiunea Asia-Pacific. De asemenea, va oferi Zenity resurse suplimentare pentru a sprijini un număr tot mai mare de cadre de agenți, pe măsură ce infrastructura de inteligență artificială a întreprinderilor devine mai diversă.

Această extindere are loc la mai puțin de doi ani de la runda instituțională anterioară a companiei, când Zenity sublinia încă originea sa în securitatea aplicațiilor low-code și no-code. Poziționarea sa actuală reflectă modul în care aceste preocupări anterioare au evoluat: angajații care puteau odată să construiască aplicații comerciale simple pot acum crea agenți capabili să ia decizii și să opereze sisteme conectate.

Securitatea agenților inteligenți artificiali devine o categorie proprie

Strângerea de fonduri a Zenity semnalează încrederea investitorilor că securitatea agenților inteligenți artificiali ar putea deveni o categorie semnificativă de securitate cibernetică, mai degrabă decât să rămână o funcție în cadrul produselor cloud, identitate sau punct de terminare existente.

Argumentul pentru o categorie dedicată este că instrumentele convenționale văd în general doar o parte a activității unui agent. Platformele de securitate cloud pot inspecta infrastructura, sistemele de identitate pot gestiona permisiunile, iar produsele de punct de terminare pot detecta amenințări la nivel de sistem de operare. Ele nu înțeleg neapărat rolul intenționat al unui agent sau modul în care o serie de apeluri de instrumente se relatează la obiectivul inițial al utilizatorului.

Zenity va trebui să demonstreze că controalele sale bazate pe intenție pot funcționa pe cadre în schimbare rapidă fără a crea alerte excesive, a bloca lucrul legitim sau a adăuga întârzieri inacceptabile. De asemenea, trebuie să demonstreze că întreprinderile vor cumpăra o platformă de securitate a agenților separată, mai degrabă decât să se bazeze pe controalele adăugate de furnizorii majore de cloud și software.

Oportunitatea de piață imediată devine, totuși, tot mai clară. Pe măsură ce agenții obțin acces la date sensibile și încep să controleze procese comerciale importante, organizațiile vor avea nevoie de mai mult decât un raport despre ceea ce s-a întâmplat după un incident. Vor avea nevoie de mecanisme capabile de a identifica care agenți există, a limita ceea ce pot face și a interveni înainte ca o acțiune neintenționată să devină o încălcare a securității.

Zenity’s $125 million Series C gives the company significant resources to pursue that role as security teams prepare for an enterprise environment increasingly populated by autonomous software.