Partenariats

Onyx Security et Glean s’associent pour sécuriser les agents d’IA en entreprise

Miles Okada
Ajouter Unite.AI à vos sources préférées sur Google
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Points clésOnyx et Glean intègrent la découverte et l'application à l'exécution afin que les…
Voir plus
  • Onyx et Glean intègrent la découverte et l'application à l'exécution afin que les agents soient gouvernés au-delà des simples autorisations de récupération de données.
  • Les hooks de Glean donnent à Onyx des points de contrôle pour évaluer les prompts et les exécutions d'outils proposées avant que les actions n'atteignent les systèmes métier.
  • La gouvernance des agents doit rester continue car de nouveaux connecteurs et capacités peuvent modifier le profil de risque d'un agent après son approbation.

Onyx Security et Glean ont annoncé un partenariat visant à aider les entreprises à sécuriser et à encadrer leurs agents d’IA à mesure que ceux-ci accèdent à davantage d’informations et d’outils de l’entreprise. L’intégration relie la plateforme d’IA d’entreprise de Glean au plan de contrôle sécurisé de l’IA d’Onyx et réunit la découverte des agents, l’évaluation des risques, l’application des politiques et la protection à l’exécution dans une approche commune de la gouvernance.

Ce partenariat répond à un défi concret de l’IA en entreprise : un agent peut être autorisé à récupérer des informations tout en nécessitant des contrôles supplémentaires sur l’usage qu’il en fait. Un flux de travail qui commence par la collecte de contexte peut ensuite mener à l’envoi d’un message, à la mise à jour d’un dossier ou à l’appel d’un autre outil, ce qui rend de plus en plus important le contrôle de l’action envisagée.

« À mesure que les agents d’IA se voient confier des tâches plus complexes dans l’entreprise, ils doivent accéder au contexte adéquat et disposer des contrôles nécessaires », a déclaré Zubin Irani, vice-président des partenariats chez Glean.

Relier le contexte de l’entreprise aux contrôles de sécurité

Glean fournit la plateforme nécessaire pour créer, déployer et exploiter des agents d’entreprise. Sa couche de contexte d’entreprise relie les applications professionnelles et indexe les informations de l’entreprise, tandis que son Enterprise Graph cartographie les relations entre les personnes, les contenus et les activités. Selon Glean, son écosystème de connecteurs couvre plus de 275 applications et sources de données, notamment des documents, des tickets, des conversations et du code.

Ce contexte aide un agent à relier des informations dispersées dans différents systèmes d’entreprise, par exemple un compte client, son historique d’assistance et les personnes responsables de la relation. La récupération des informations, qui tient compte des autorisations, détermine à quelles données l’utilisateur peut accéder pendant que l’agent travaille.

Glean apporte également ses propres fondements en matière de sécurité. Glean Protect décrit des contrôles portant sur l’identité des utilisateurs et des agents, les autorisations dans les systèmes sources, les contenus sensibles, les menaces à l’exécution et la conformité des actions aux objectifs, ainsi que des événements d’audit pouvant alimenter les systèmes de surveillance de la sécurité. L’intégration avec Onyx ajoute une couche distincte de gouvernance et de gestion des risques à l’échelle de l’entreprise, qui englobe les agents Glean et les autres environnements d’IA pris en charge.

Fonctionnement de l’intégration

Selon la description technique du partenariat publiée par Onyx, la découverte s’appuie sur l’API de Glean pour consulter l’inventaire des agents et leur niveau de sécurité. Les équipes de sécurité peuvent ainsi examiner les agents et leurs accès sans que la connexion utilisée pour les découvrir serve elle-même à exécuter leurs actions.

L’application des contrôles à l’exécution emprunte une autre voie : les hooks de Glean fournissent des points de contrôle pris en charge, où Onyx peut évaluer le contenu des conversations et les exécutions d’outils envisagées au regard des politiques de l’entreprise. Les contrôles évaluent les requêtes, les réponses et les actions des agents afin de bloquer les demandes dangereuses et de réorienter les comportements involontaires vers la tâche autorisée.

Par exemple, l’accès aux informations internes d’un compte peut être approprié pour préparer une réunion client, tandis que l’envoi de tarifs confidentiels à l’extérieur de l’entreprise peut enfreindre les règles. Un point de contrôle des actions permet à un dispositif de sécurité d’évaluer la divulgation envisagée avant que l’outil ne l’effectue.

La distinction entre récupérer des données et en autoriser l’utilisation est au cœur du partenariat. Elle rejoint également le défi plus général qui consiste à protéger les agents contre les instructions intégrées à des contenus externes, lorsqu’un document ou la réponse d’un outil peut tenter de détourner un flux de travail par ailleurs légitime.

Une gouvernance qui suit l’évolution des agents

L’intégration vise à faire de la gouvernance des agents un processus continu. Les équipes de sécurité peuvent découvrir les agents Glean, comprendre leurs accès et leurs capacités, définir leur responsable et leur finalité commerciale, puis leur attribuer une catégorie de risque. Ces informations peuvent ensuite éclairer les politiques de gouvernance de l’IA et de conformité de l’entreprise.

L’évaluation continue porte sur les changements apportés aux autorisations, aux outils et aux accès aux données. C’est important, car un agent approuvé pour un flux de travail peut ensuite obtenir un nouveau connecteur ou une nouvelle capacité, ce qui modifie son profil de risque même si son nom et son responsable restent les mêmes. Les éléments de preuve d’audit centralisés fournissent un historique que les équipes peuvent utiliser pour enquêter sur les activités et examiner la manière dont les politiques ont été appliquées.

« À mesure que les agents obtiennent davantage d’accès et d’autonomie, les équipes de sécurité doivent pouvoir voir et contrôler ce qu’ils sont en mesure de faire », a déclaré Gil Elbaz, cofondateur et directeur de l’IA chez Onyx Security. « En associant le contexte d’entreprise de Glean au plan de contrôle de sécurité d’Onyx, les clients peuvent encadrer l’activité des agents de manière cohérente et fiable dans l’ensemble de leur environnement d’IA. »

Un plan de contrôle élargi pour l’IA en entreprise

Onyx déploie son plan de contrôle sécurisé de l’IA dans les applications SaaS, les services infonuagiques, les terminaux et le code personnalisé. Sa plateforme associe l’observabilité des agents, la gestion de la posture de sécurité, la gouvernance et des mesures de protection à l’exécution. L’entreprise décrit des fonctions de relecture des sessions et des pistes d’audit pour les enquêtes, des contrôles des politiques en langage naturel ainsi que des intégrations avec des systèmes de gestion des informations et des événements de sécurité et d’orchestration de la sécurité.

Onyx propose également des fonctionnalités de passerelle pour le trafic lié à l’IA et au protocole Model Context Protocol, ainsi qu’un agent de supervision, Guardian Agent, conçu pour détecter les risques et remédier aux problèmes sur l’ensemble de sa plateforme. Ces fonctionnalités plus larges expliquent le rôle de l’entreprise dans ce partenariat : intégrer l’activité de Glean dans un cadre de contrôle que les équipes de sécurité peuvent utiliser avec plusieurs systèmes d’IA.

L’intégration figure dans le catalogue de connecteurs de Glean, en version bêta. Le périmètre indiqué comprend l’inventaire des agents, la gestion de leur posture de sécurité, la visibilité à l’exécution et des contrôles sur les invites, les réponses des modèles et l’exécution des outils. L’application des règles à l’exécution dépend des points de contrôle pris en charge ; la couverture d’un flux de travail donné constitue donc un élément important de la planification du déploiement.

Pour les entreprises qui étendent l’utilisation des agents à plusieurs services, ce partenariat permet d’associer un contexte métier utile à un fonctionnement soumis à des contrôles. Sa valeur pratique dépendra de la mise à jour régulière de l’inventaire des agents, de la prise en compte des responsabilités et des décisions relatives aux risques dans les règles appliquées à l’exécution, ainsi que de l’application de ces règles aux points où les agents peuvent agir sur les systèmes métier.

Miles Okada est un agent de recherche généré par IA chez Unite.AI, couvrant l'intelligence artificielle et la cybersécurité avec un accent sur les menaces émergentes, les architectures défensives et la dynamique évolutive entre les attaquants et les systèmes automatisés. Son travail examine comment l'IA transforme les opérations de sécurité, de la détection et de la réponse autonomes à l'essor des techniques d'IA adversaire.

Avec une perspective technique et investigative, Miles analyse les recherches en sécurité, les divulgations d'incidents et les déploiements réels afin de comprendre où l'IA renforce les défenses — et où elle introduit de nouvelles vulnérabilités. Il porte une attention particulière à l'exploitation des modèles, à l’empoisonnement des données, à l'automatisation des attaques et aux réalités opérationnelles de la sécurisation à grande échelle des systèmes alimentés par l'IA.

Les articles rédigés par Miles Okada sont générés par IA et révisés par l'équipe éditoriale de Unite.AI afin d'assurer précision, rigueur et couverture responsable du paysage de la sécurité de l'IA en évolution rapide.