Vibhuti Sinha, Directeur des produits chez Saviynt – Série d’entretiens

Vibhuti Sinha, Directeur des produits chez Saviynt, dirige la vision, l’innovation et la direction stratégique du portefeuille d’identité et d’intelligence de l’entreprise, tout en supervisant la réussite des produits et des partenaires. Avec près de deux décennies d’expérience dans la gestion des identités et des accès (IAM), il a joué un rôle central dans l’élaboration d’architectures de sécurité à grande échelle pour les entreprises du Fortune 500. Avant son poste actuel, il occupait le poste de Directeur des services cloud chez Saviynt, où il a piloté le développement de solutions de sécurité cloud de nouvelle génération conçues pour sécuriser des environnements cloud complexes. Son expertise s’étend aux cadres de conformité tels que FFIEC, à l’authentification basée sur les risques et à la gestion du cycle de vie des accès, le plaçant à l’intersection de la sécurité d’entreprise, de l’infrastructure cloud et de la gouvernance des identités basée sur l’IA.

Saviynt est une plate-forme de sécurité d’identité native cloud qui se concentre sur l’aide aux entreprises pour gérer et sécuriser l’accès aux utilisateurs, aux applications, aux données et de plus en plus aux systèmes d’IA. Son offre phare, Identity Cloud, fournit une gouvernance et une administration unifiées des identités (IGA), une gestion des accès privilégiés et une gouvernance des accès aux applications dans une seule plate-forme, permettant aux organisations de faire respecter la sécurité, la conformité et les principes de confiance zéro à grande échelle. La plate-forme utilise l’IA pour automatiser les décisions d’accès, surveiller les risques et gérer non seulement les utilisateurs humains mais également les identités non humaines telles que les comptes de service et les agents d’IA, reflétant la complexité croissante des environnements d’entreprise modernes. En consolidant la sécurité des identités en une seule couche de contrôle, Saviynt vise à réduire les coûts opérationnels tout en améliorant la visibilité et la conformité sur les systèmes cloud, hybrides et sur site.

Vous avez passé plus d’une décennie chez Saviynt en aidant l’entreprise à passer d’un focus initial sur le cloud à une plate-forme de sécurité d’identité mondiale, comment ce parcours a-t-il façonné votre vision de l’identité en tant que fondement de la sécurisation des entreprises basées sur l’IA ?

Lorsque j’ai rejoint Saviynt, l’identité n’était pas quelque chose dont les conseils d’administration ou les PDG parlaient souvent. Elle était souvent considérée comme la création de comptes et la gestion des certifications. Au fil des ans, à mesure que les entreprises se sont tournées vers le cloud et que le SaaS a explosé, l’identité est devenue discrètement la couche qui relie tout : les personnes, les applications, les infrastructures et les données.

Faire partie de ce parcours a changé ma perspective. J’ai commencé à voir l’identité non pas comme une catégorie de produits, mais comme la couche de contrôle de la façon dont le travail est réellement effectué dans une entreprise. Chaque décision d’accès, chaque approbation, chaque processus automatisé — tout cela revient à l’identité.

Maintenant, avec l’IA, nous voyons le même déplacement à nouveau. Les agents d’IA sont essentiellement des travailleurs numériques qui peuvent agir au nom des humains ou des entreprises. Si vous ne leur donnez pas d’identités, de propriétaires et de gouvernance, vous finissez par avoir une automatisation sans responsabilité. C’est pourquoi je crois que l’identité sera le fondement de la sécurisation des entreprises basées sur l’IA. L’identité est ce qui apporte la responsabilité, la gouvernance et le contrôle aux systèmes autonomes.

Saviynt lance un plan de contrôle d’identité dédié aux agents d’IA, qu’est-ce qui, du point de vue d’une entreprise, a motivé cette décision ?

Les outils actuels d’identité et de sécurité n’ont pas été conçus pour les acteurs autonomes. Ils ont été conçus pour les employés et les applications, et non pour les entités logicielles qui peuvent prendre des décisions, effectuer des actions et fonctionner de manière indépendante.

La plupart des systèmes d’identité d’aujourd’hui sont très bons pour répondre à des questions comme « Qui êtes-vous ? » et « Quel accès vous a-t-on donné ? » Mais dans le monde des agents d’IA, la question la plus importante devient « Que faites-vous en ce moment, et devriez-vous le faire ? »

Il y avait également un vide en termes de gouvernance. Les entreprises commencent à déployer des centaines ou des milliers d’agents sur des plateformes comme Copilot, Vertex AI et Bedrock, mais de nombreuses organisations ne savent pas combien d’agents elles ont, qui les possède, quels données ils peuvent accéder ou ce qui se passe si le propriétaire quitte l’entreprise. Cela crée plus qu’un simple problème de sécurité. C’est un problème de gouvernance et de responsabilité.

C’est vraiment ce qui nous a amenés à l’idée d’un plan de contrôle d’identité pour les agents d’IA : une façon centralisée de découvrir, de gérer, de contrôler et d’auditer les identités d’IA tout au long de leur cycle de vie et de leurs actions en temps réel.

Comment la gestion des agents d’IA autonomes diffère-t-elle de la gouvernance des identités non humaines traditionnelles comme les comptes de service ou les bots ?

La gestion des agents d’IA est très différente de la gouvernance des identités non humaines traditionnelles (INH) car ces identités sont généralement déterministes et prévisibles. Un compte de service exécute une tâche spécifique. Un bot effectue une tâche définie. Leur comportement ne change pas vraiment à moins que quelqu’un ne modifie le code.

Les agents d’IA sont différents car ils sont autonomes, adaptatifs et axés sur les objectifs. Ils n’exécutent pas simplement un script fixe. Ces agents décident de la façon de compléter une tâche, quels outils utiliser, quels données accéder et parfois même avec quels autres agents collaborer. Leur comportement peut évoluer au fil du temps à mesure que les modèles, les invites ou les intégrations changent.

Cela signifie que la provision d’accès une fois et la révision tous les trimestres ne constituent pas un modèle de gouvernance durable. Vous avez besoin d’une gouvernance continue, y compris la découverte, la propriété, la gestion du cycle de vie et, surtout, des contrôles en temps réel pour évaluer ce que l’agent fait à ce moment-là.

Le déplacement est le suivant : avec les INH traditionnelles, vous gérez l’accès. Avec les agents d’IA, vous devez gérer le comportement et les actions en temps réel. L’autorisation n’implique pas l’adéquation. La sécurité de l’IA sera basée sur cette idée.

À mesure que les entreprises adoptent des outils comme Amazon Bedrock, Google Vertex AI et Microsoft Copilot Studio, combien est-il important d’avoir une visibilité unifiée sur ces environnements ?

Vous ne pouvez pas protéger ce que vous ne pouvez pas voir.

La visibilité unifiée sur les plateformes comme Amazon Bedrock, Google Vertex AI et Microsoft Copilot Studio est extrêmement importante, et honnêtement, c’est là que la plupart des organisations luttent actuellement. L’adoption de l’IA se fait très rapidement, et elle se fait sur plusieurs plateformes en même temps.

Une unité commerciale ou une équipe peut être en train de construire des agents dans Copilot Studio, une autre équipe expérimente avec Bedrock et un autre groupe utilise Vertex AI. Très rapidement, vous vous retrouvez avec des agents d’IA répartis dans l’entreprise sans inventaire central.

Le premier défi auquel les entreprises sont confrontées est très simple : elles ne savent pas réellement combien d’agents d’IA elles ont, où ils s’exécutent, quels données ils peuvent accéder ou qui les possède. Sans visibilité, vous ne pouvez pas gérer, et si vous ne pouvez pas gérer, vous ne pouvez certainement pas sécuriser.

La visibilité unifiée devient le fondement. Avant la gouvernance du cycle de vie, avant les contrôles en temps réel, avant les politiques, la première étape est la découverte et l’inventaire sur toutes les plateformes d’IA. Dans le monde de l’IA, la visibilité est une exigence opérationnelle, de sécurité et de gouvernance.

Quelle est la vie complète d’un agent d’IA du point de vue de l’identité et de la gouvernance, de la création à la mise hors service ?

J’aime expliquer le cycle de vie d’un agent d’IA de la même manière que nous expliquons le cycle de vie d’un employé.

Tout d’abord, l’agent est créé et intégré. Quelqu’un (un développeur, un codeur ou un analyste commercial) construit un agent dans Bedrock ou Copilot Studio. À ce stade, nous devrions poser des questions d’identité de base : Qui possède cet agent ? Quel est son travail ? Quels systèmes doit-il accéder ?

Ensuite, l’agent commence à travailler. Il accède aux systèmes, lit ou écrit des données via des API, des appels d’outils, déclenche des flux de travail et parle peut-être même à d’autres agents. Pendant cette phase, nous devons continuellement surveiller ce qu’il fait et nous assurer qu’il reste dans son objectif et ses autorisations prévus.

Au fil du temps, l’agent change. Peut-être ajoutons-nous de nouveaux outils, mettons-nous à jour le modèle, élargissons son accès ou changeons son rôle. C’est similaire à un événement de déplacement pour une identité humaine et cela nécessite une gouvernance et des approbations.

Et enfin, lorsque l’agent n’est plus nécessaire, il doit être mis hors service — accès révoqué, informations d’identification supprimées, intégrations fermées et journaux d’audit préservés.

En termes simples, le cycle de vie est : Créer → attribuer un propriétaire et un objectif → accorder un accès avec les privilèges minimum → surveiller et gérer → gérer les changements → mettre hors service proprement.

Comment les entreprises devraient-elles réfléchir à la sécurisation des interactions entre agents d’IA alors que les systèmes d’IA commencent à fonctionner et à collaborer de manière indépendante ?

Je pense que les interactions entre agents d’IA deviendront l’un des plus grands défis de sécurité dans les prochaines années.

Aujourd’hui, nous nous inquiétons principalement de savoir si un humain doit avoir accès à un système. À l’avenir, nous allons avoir des milliers d’agents qui parlent à d’autres agents, déclenchent des flux de travail, accèdent à des données et prennent des décisions sans humain dans la boucle.

Le risque n’est pas seulement ce qu’un agent peut faire, mais ce que plusieurs agents peuvent faire ensemble. Vous pouvez vous retrouver avec des situations où aucun agent n’a trop d’accès, mais lorsqu’ils collaborent, ils peuvent effectuer des actions très puissantes.

Les entreprises doivent considérer plusieurs choses :

• Chaque agent doit avoir une identité unique.
• Les contrôles de sécurité au moment de la conception ne sont pas suffisants. Les garde-fous en temps réel sont impératifs.
• Les appels d’agent à agent doivent être authentifiés.
• Les actions doivent être autorisées en temps réel.
• La délégation doit être limitée dans le temps et dans la portée.
• Tout doit être consigné pour l’audit.

De nombreuses manières, nous passons à un modèle de sécurité très différent : de la gestion de l’accès humain à la gestion de la collaboration des machines à une échelle sans précédent.

Quels sont les risques les plus immédiats auxquels les entreprises sont confrontées aujourd’hui lors du déploiement d’agents d’IA sans gouvernance d’identité appropriée ?

Le plus grand risque actuel n’est pas un scénario de prise de contrôle de l’IA dans le futur. C’est beaucoup plus basique et cela se produit déjà dans la plupart des organisations qui expérimentent avec les agents d’IA. Les entreprises créent des agents partout, mais elles n’ont pas de moyen centralisé pour les suivre, les gérer ou contrôler ce à quoi ils peuvent accéder.

L’adoption a été la priorité jusqu’à présent, et c’est compréhensible. Chaque nouvelle technologie passe par cette phase, mais la sécurité et la gouvernance doivent rattraper rapidement.

Sinon, les entreprises risquent d’avoir des agents sans propriétaires clairs et avec trop de données. Ces agents peuvent fuir des informations sensibles et continuer à fonctionner après la fin du projet — tout cela sans trace d’audit claire.

Nous avons déjà vu cela avec les comptes de service et les ressources cloud. Tout d’abord, il y a l’adoption, puis la dispersion, puis les problèmes de sécurité et de gouvernance. L’IA suit le même modèle, mais beaucoup plus rapidement et avec plus d’autonomie et d’agentivité.

Sans gouvernance d’identité, les agents d’IA deviennent essentiellement des identités privilégiées non gérées. C’est risqué pour toute organisation. Ce n’est pas de l’innovation, mais plutôt un risque institutionnel supplémentaire.

Comment l’émergence des agents d’IA redéfinit-elle l’identité au sein des systèmes d’entreprise ?

Je pense que la définition de l’identité au sein des entreprises s’élargit de manière significative. Il s’agissait autrefois principalement d’employés, puis il s’est élargi aux identités externes avec l’explosion des travailleurs de la chaîne d’approvisionnement, des travailleurs à distance, etc. La pandémie a accéléré cela encore plus à mesure que nous commencions à gérer les comptes de service et les bots en tant qu’identités non humaines. Maintenant, les agents d’IA poussent cela encore plus loin.

Les agents d’IA ne sont pas seulement des comptes ou des scripts. Ils prennent des décisions, accèdent aux systèmes, génèrent du contenu, déclenchent des flux de travail et collaborent avec d’autres agents. Ils touchent vos données, prennent des décisions et changent les résultats. Ils commencent à se comporter plus comme des travailleurs numériques que comme des comptes logiciels.

Cela signifie que l’identité n’est plus seulement une question de savoir qui peut se connecter. C’est une question de savoir qui ou quoi agit au sein de l’entreprise, ce qu’il est autorisé à faire, qui le possède et comment nous suivons et gérons ses actions.

L’identité évolue pour représenter non seulement un utilisateur, mais n’importe quel acteur — humain ou machine — qui peut prendre des actions et changer les résultats au sein d’une organisation.

Quand vous évaluez les fondateurs ou les équipes qui construisent dans la sécurité de l’IA ou l’identité, quels signaux indiquent qu’ils comprennent vraiment la complexité de cet espace ?

Ceux qui comprennent vraiment cet espace ne commencent pas par la technologie. Ils commencent par le problème. Ils peuvent expliquer non seulement ce qu’ils construisent, mais pourquoi l’approche actuelle est cassée et qui perd du sommeil à cause de cela.

Le signal pour moi est la spécificité. N’importe qui peut dire « L’IA introduit de nouveaux risques d’identité ». Mais peuvent-ils vous expliquer exactement comment un jeton OAuth est mal utilisé dans un flux de travail agentic ? Comprends-ils pourquoi les identités non humaines sont fondamentalement différentes des humaines, non seulement en volume, mais en comportement, en cycle de vie et en rayon d’impact ?

Je prête également attention à la façon dont ils parlent de leurs clients. Les meilleurs fondateurs dans cet espace ont généralement vécu la douleur eux-mêmes en tant que CISO, architecte, responsable de la conformité ou ils ont passé tellement de temps avec les praticiens qu’ils peuvent presque terminer leurs phrases. Ils ne vendent pas une catégorie. Ils résolvent un problème spécifique et difficile qu’ils ne pouvaient pas cesser de penser.

Et puis il y a la maîtrise réglementaire et de l’écosystème. L’identité et la sécurité de l’IA n’existent pas dans le vide. Les fondateurs qui m’impressionnent le plus comprennent comment leur produit s’intègre dans une posture de conformité plus large — NIST, SOC 2, les futurs cadres de gouvernance de l’IA — et ils ont réfléchi à l’endroit où ils s’intègrent dans la pile et où ils la possèdent.

Pour moi, les signaux d’alarme sont les équipes qui poursuivent simplement le récit de l’IA. Ils peuvent décrire le marché de manière magnifique, mais lorsqu’on les pousse pour des détails spécifiques, le récit s’affaiblit.

Est-ce que vous voyez l’identité devenir la couche de contrôle principale pour les systèmes d’IA de la même manière que la sécurité du réseau a défini les limites de l’entreprise, et comment les équipes de sécurité devraient-elles se préparer à ce déplacement ?

Oui, et je pense que nous sommes plus proches de ce point d’inflexion que la plupart des équipes de sécurité ne le réalisent.

La périphérie du réseau avait du sens lorsque les actifs étaient physiques, tels que des serveurs dans un centre de données, des employés dans un bureau ou du trafic à la limite. Mais le cloud a dissous cette limite, et nous nous sommes appuyés sur l’identité pour combler le vide. La confiance zéro n’était pas seulement un terme marketing ; c’était une reconnaissance du fait que la périphérie était partie et que l’identité compte plus que jamais.

Les agents d’IA sont sur le point d’impacter l’identité de la même manière que le cloud l’a fait pour le réseau. Ces systèmes accèdent aux ressources, prennent des décisions, invoquent des API, enchaînent des actions à travers des outils et des plateformes et font tout cela de manière autonome à la vitesse de la machine. La question de « est-ce autorisé ? » ne peut plus être répondue au niveau du pare-feu. Elle doit être répondue à la couche d’identité, en temps réel, avec tout le contexte de ce que l’agent tente de faire et pourquoi.

L’identité devient la couche de contrôle. Mais c’est une version fondamentalement plus difficile de l’identité que celle que nous avons construite auparavant. Il ne s’agit pas seulement d’authentification. Il s’agit d’une autorisation qui est consciente de l’intention, du contexte et de la chaîne d’actions que l’agent a déjà prises. C’est un problème différent de celui de délivrer un certificat ou de faire pivoter une information d’identification.

Pour les équipes de sécurité, la préparation commence par un déplacement de mentalité. Arrêtez de penser aux systèmes d’IA comme à des applications à sécuriser à la périphérie et commencez à les considérer comme des principaux — des entités avec des identités, des privilèges, un cycle de vie qui doit être géré de bout en bout. Qui a provisionné cet agent ? Qu’est-ce qu’il est autorisé à faire ? Qui est responsable lorsqu’il fait quelque chose de inattendu ?

Les équipes qui prennent les devants ne seront pas celles qui ajoutent la sécurité de l’IA comme une afterthought. Ce seront celles qui étendent leur posture de gouvernance des identités pour couvrir les INH et les agents d’IA avant que ces identités ne prennent des décisions importantes.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Saviynt.