Zenity lève 125 millions de dollars alors que les entreprises sont confrontées aux risques de sécurité des agents autonomes d’IA

Zenity a levé 125 millions de dollars dans le cadre d’un financement de série C alors que les entreprises passent des agents d’intelligence artificielle d’expériences contrôlées à des systèmes capables d’accéder à des données, d’invoquer des outils logiciels et de réaliser des tâches opérationnelles.

Norwest a mené le tour, avec Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures et LG Technology Ventures rejoignant en tant que nouveaux investisseurs. Les investisseurs existants Vertex Ventures, Third Point Ventures, DTCP et Intel Capital ont également participé. La société n’a pas divulgué sa valorisation.

Le financement suit le tour de financement de série B de 38 millions de dollars de Zenity en octobre 2024 et porte le financement déclaré de la société à au moins 180 millions de dollars.

Des expériences d’IA aux systèmes autonomes

La taille du tour reflète un changement plus large dans la façon dont les entreprises adoptent l’IA. La première vague d’IA générative impliquait principalement des employés interagissant avec des chatbots pour produire du texte, résumer des documents ou récupérer des informations.

Les agents d’IA introduisent un niveau de risque différent car ils peuvent agir. Selon leurs autorisations, les agents peuvent accéder à des bases de données internes, appeler des interfaces de programmation d’applications, mettre à jour des enregistrements, exécuter du code, envoyer des messages ou initier des flux de travail s’étendant sur plusieurs systèmes d’entreprise.

Ceci déplace le problème de sécurité au-delà de la question de savoir si un modèle produit une réponse inappropriée. Les organisations doivent également comprendre quels agents ont été déployés, qui les contrôle, quelles informations ils peuvent atteindre et quelles actions ils sont autorisés à effectuer.

Un agent peut se comporter exactement comme prévu tout en créant un incident de sécurité s’il a des autorisations excessives, rencontre des informations manipulées ou interprète les instructions d’un attaquant comme faisant partie d’une tâche légitime.

Zenity décrit cela comme un problème de “couche d’agent”. Sa plate-forme est conçue pour examiner la configuration d’un agent, ses autorisations, les outils connectés, la mémoire et les actions d’exécution en temps réel, plutôt que de ne regarder que les invites entrant dans un modèle ou les réponses qu’il génère.

Comment Zenity sécurise les agents d’IA

Zenity divise sa plate-forme en trois domaines principaux : l’observabilité, la gestion de la posture de sécurité et la détection et la réponse.

Le composant d’observabilité découvre et inventorie les agents opérant au sein d’une organisation. Cela inclut les agents intégrés à des plateformes de logiciels en tant que service, les agents développés en interne exécutés dans des environnements cloud et les outils locaux installés sur les appareils des employés.

L’objectif est de donner aux équipes de sécurité une image constamment mise à jour de chaque agent, y compris son propriétaire, sa configuration, ses autorisations, ses intégrations et son comportement d’exécution. Cela devient de plus en plus important à mesure que les départements et les employés individuels gagnent la capacité de créer des agents sans passer par un processus de développement ou de révision de sécurité conventionnel.

La couche de gouvernance de Zenity évalue les configurations et les autorisations avant qu’un agent n’entre en production. Les politiques peuvent être utilisées pour identifier un accès excessif, des intégrations non sécurisées ou des outils qui pourraient permettre à un agent d’opérer au-delà de son rôle prévu. La plate-forme peut continuer à vérifier ces contrôles à mesure que les agents sont modifiés au fil du temps.

En temps réel, Zenity analyse le chemin d’exécution d’un agent, y compris ses appels d’outils, son accès à la mémoire, son utilisation de données et ses interactions avec d’autres systèmes. La société affirme qu’elle peut utiliser ce contexte pour autoriser, modifier ou bloquer une action avant qu’elle ne se produise.

Cette approche vise à distinguer une demande normale d’une demande apparemment normale qui a été influencée par un contenu malveillant. Elle aborde également une limitation importante du filtrage des invites : un résultat dangereux peut émerger d’une séquence d’actions individuellement inoffensives.

Couverture de SaaS, Cloud et appareils des employés

Zenity tente de fournir une couche de sécurité commune à travers un écosystème d’agents fragmenté.

Pour les environnements de logiciels en tant que service, elle prend en charge les agents associés à des plateformes telles que Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise et Salesforce (CRM ) Agentforce. Ces systèmes peuvent fournir aux agents l’accès à des documents commerciaux, des dossiers de clients, des communications et des flux de travail que l’entreprise n’héberge pas ou ne contrôle pas entièrement.

La plate-forme couvre également les agents personnalisés construits avec des services tels qu’AWS Bedrock, Azure AI Foundry et Google Vertex AI. Zenity surveille les outils et les services cloud que ces agents invoquent tout en appliquant des politiques pendant le développement et l’exécution.

Un troisième domaine concerne les agents basés sur les appareils, tels que les assistants de codage, les applications de bureau et les navigateurs agencifs. Ces outils peuvent fonctionner à l’intérieur d’un environnement authentifié d’un employé, héritant potentiellement de l’accès aux fichiers, aux sessions de navigateur et aux services connectés.

Intégrer ces environnements dans un seul système pourrait simplifier la gouvernance, mais cela crée également un défi technique considérable. L’architecture, les autorisations et les données de télémétrie disponibles à partir d’un copilote de logiciel en tant que service peuvent différer considérablement de celles d’un agent cloud personnalisé ou d’un outil de codage installé localement.

La recherche en matière de sécurité met en évidence le modèle de menace émergent

Zenity a soutenu son développement de produit avec des recherches menées par Zenity Labs, qui examine comment les systèmes autonomes peuvent être manipulés par du contenu non fiable.

Ses recherches AgentFlayer ont examiné les chaînes d’attaque à clic zéro et à un clic impliquant des plateformes d’IA d’entreprise largement utilisées. Les démonstrations comprenaient des scénarios dans lesquels des instructions malveillantes livrées par courrier électronique, des documents, des cas de support ou des outils de collaboration ont causé aux agents d’exposer des informations, de mal utiliser des outils connectés ou de modifier leurs réponses.

Des recherches plus récentes ont examiné le navigateur agencif Comet de Perplexity. Les chercheurs de Zenity ont démontré comment des instructions cachées à l’intérieur d’une invitation de calendrier pouvaient influencer le navigateur tout en effectuant une tâche de routine. Dans un scénario, l’agent compromis a navigué dans un coffre-fort Web 1Password non verrouillé et a transmis des informations d’identification par des requêtes Web ordinaires.

La recherche a attribué le problème à une séparation insuffisante entre les intentions de l’utilisateur et le contenu tiers rencontré par l’agent. Puisque l’agent fonctionnait déjà dans une session de navigateur authentifiée, il pouvait potentiellement utiliser l’accès que l’utilisateur avait légitimement accordé.

Ces démonstrations illustrent pourquoi la sécurité des agents ne peut pas reposer entièrement sur la détection d’invites clairement malveillantes. Les instructions peuvent être enterrées dans des données que l’agent est censé lire, tandis que les actions résultantes peuvent ressembler à une navigation, une récupération de documents ou une activité d’application normales.

Ils soulignent également l’importance des limites qui restent applicables même lorsque la raison d’un agent a été manipulée.

Financement de l’expansion mondiale et du développement de produits

Zenity indique que son chiffre d’affaires a triplé au cours de chacune des deux dernières années et devrait tripler à nouveau cette année. La société rapporte que de nombreux clients sont des organisations Fortune 500 et Global 2000 opérant dans des secteurs réglementés tels que les services financiers, les soins de santé, les produits pharmaceutiques, la fabrication et l’énergie.

Elle compte désormais plus de 230 employés, avec des activités de recherche et développement centrées à Tel Aviv et des fonctions de mise sur le marché et opérationnelles dirigées depuis New York.

Le financement de la série C sera utilisé pour accélérer le développement de produits, élargir Zenity Labs et renforcer la présence de la société en Europe et dans la région Asie-Pacifique. Il donnera également à Zenity des ressources supplémentaires pour soutenir un nombre croissant de cadres d’agents à mesure que l’infrastructure d’IA d’entreprise devient plus diversifiée.

Cette expansion intervient moins de deux ans après le tour d’institution précédent de la société, lorsque Zenity mettait encore l’accent sur ses origines dans la sécurité des applications à code faible et sans code. Sa position actuelle reflète l’évolution de ces préoccupations antérieures : les employés qui pouvaient autrefois créer des applications commerciales simples peuvent désormais créer des agents capables de prendre des décisions et d’exploiter des systèmes connectés.

La sécurité des agents d’IA est en train de devenir sa propre catégorie

La collecte de fonds de Zenity signale la confiance des investisseurs que la sécurité des agents d’IA pourrait se développer en une catégorie de cybersécurité importante plutôt qu’en restant une fonctionnalité au sein de produits cloud, d’identité ou de point de terminaison existants.

L’argument en faveur d’une catégorie dédiée est que les outils conventionnels ne voient généralement qu’une partie de l’activité d’un agent. Les plateformes de sécurité cloud peuvent inspecter les infrastructures, les systèmes d’identité peuvent gérer les autorisations et les produits de point de terminaison peuvent détecter les menaces au niveau du système d’exploitation. Ils ne comprennent pas nécessairement le rôle prévu d’un agent ou la façon dont une chaîne d’appels d’outils se rapporte à l’objectif initial de l’utilisateur.

Zenity devra encore prouver que ses contrôles basés sur l’intention peuvent fonctionner sur des cadres en constante évolution sans créer d’alertes excessives, bloquer des travaux légitimes ou ajouter une latence inacceptable. Elle devra également démontrer que les entreprises achèteront une plate-forme de sécurité d’agent distincte plutôt que de compter sur les contrôles ajoutés par les principaux fournisseurs de cloud et de logiciels.

L’opportunité de marché immédiate est néanmoins de plus en plus claire. À mesure que les agents accèdent à des données sensibles et commencent à contrôler des processus commerciaux importants, les organisations auront besoin de plus qu’un enregistrement de ce qui s’est passé après un incident. Ils auront besoin de mécanismes capables de déterminer quels agents existent, de limiter ce qu’ils peuvent faire et d’intervenir avant qu’une action non intentionnelle ne devienne une faille de sécurité.

Zenity’s 125 millions de dollars de financement de série C donnent à l’entreprise des ressources importantes pour poursuivre ce rôle à mesure que les équipes de sécurité se préparent à un environnement d’entreprise de plus en plus peuplé de logiciels autonomes.