Babak Hodjat, Chief AI Officer chez Cognizant : une conversation de suivi

Babak Hodjat, Chief AI Officer chez Cognizant, dirige les AI Research Labs de l’entreprise, où son travail couvre l’IA agentique, le calcul évolutif, l’intelligence distribuée et le développement de systèmes d’IA conçus pour un déploiement à grande échelle en entreprise. Chercheur en IA depuis longtemps, inventeur et entrepreneur, Hodjat a précédemment cofondé Sentient Technologies, où il a contribué à construire l’un des plus grands systèmes d’IA distribués au monde, et avait auparavant cofondé Dejima, développant une technologie de langage naturel orientée agents qui a participé aux bases de Siri d’Apple.

Lorsque nous avons précédemment parlé avec Babak Hodjat, notre discussion a exploré sa carrière en IA, les approches évolutives de la prise de décision complexe, le travail de Cognizant appliquant l’IA aux défis climatiques et d’utilisation des terres, ainsi que la démocratisation croissante de l’IA au sein de l’entreprise. Dans cette conversation de suivi, l’accent se déplace vers l’entreprise agentique en plein essor. En s’appuyant sur les thèmes de son livre récent, The Agentic Enterprise, Hodjat examine pourquoi l’architecture peut compter davantage que les capacités du modèle, comment les organisations peuvent coordonner des réseaux d’agents d’IA de plus en plus complexes, où la confiance et la gouvernance centralisées s’insèrent dans les écosystèmes d’agents décentralisés, et ce qui doit encore changer avant que les systèmes autonomes puissent gérer de manière fiable des objectifs à long terme avec une intervention humaine minimale.

Votre carrière couvre certains des premiers travaux sur les agents intelligents, depuis la technologie de langage naturel de Dejima qui a contribué à inspirer Siri jusqu’à la construction de systèmes d’IA distribués massifs chez Sentient et maintenant en tant que Chief AI Officer chez Cognizant. Comment votre définition d’un « agent IA » a-t-elle évolué au cours de ce parcours, et que peuvent apprendre les développeurs d’aujourd’hui des générations antérieures de systèmes basés sur des agents ?

La définition est restée la même, mais les capacités des agents aujourd’hui signifient que de nombreuses fonctions de base d’un agent que nous devions coder dans les années 90 sont désormais disponibles immédiatement avec les LLM. C’est pourquoi les agents basés sur les LLM sont désormais la norme, et quand on parle d’agents, on suppose qu’un LLM pilote son interface et son raisonnement.

Dans votre livre récent, The Agentic Enterprise, vous soutenez que les systèmes d’IA d’entreprise réussissent ou échouent souvent en raison de leur architecture plutôt que de la capacité brute du modèle sous‑jacent. Quelles erreurs les entreprises commettent‑elles lorsqu’elles supposent que le passage à un modèle plus puissant résoudra leurs problèmes d’IA agentique ?

Tout comme les harnais (c’est‑à‑dire les parties d’un agent qui ne sont pas des LLM) peuvent faire ou défaire un agent de codage, l’architecture d’un système multi‑agentique est cruciale pour son succès. En effet, l’architecture reflète le contexte dans lequel les agents doivent opérer – un peu comme l’échafaudage qui maintient l’entreprise agentique en place. Sans cela, les agents restent déconnectés des réalités des opérations de l’entreprise, des données, des flux de travail et des processus. Cela ressemble en quelque sorte à la structure organisationnelle d’une entreprise, qui comprend les descriptions de poste, les définitions de processus et les protocoles de communication pour les employés.

Vous avez souligné que le système environnant, incluant les contrôles d’accès, la responsabilité, l’orchestration, l’observabilité et la supervision, peut compter davantage que le modèle lui‑même. De quoi une architecture agentique prête pour la production a‑t‑elle réellement besoin, ce qui manque à la plupart des déploiements de preuve de concept ?

Les preuves de concept (PoC) sont souvent déconnectées de la réalité ; ainsi, pour commencer, nous devons faire fonctionner les agents dans un environnement où ils ont accès aux données internes et aux applications de l’entreprise. Des questions importantes doivent être posées, telles que quelles données et quelles applications sommes‑nous prêts à autoriser les agents à accéder, et quelles décisions sommes‑nous à l’aise de laisser les agents prendre afin que le système reste sûr et sécurisé, tout en permettant d’atteindre les gains de qualité et de productivité attendus ? Il est difficile de déterminer la réponse à ces questions dans un contexte de PoC. De plus, les garde‑fous et la supervision ne peuvent être significatifs que lorsqu’un système agentique fonctionne en conjonction avec d’autres processus humains ou agentiques au sein de l’entreprise. Le sandboxing est donc une étape importante dans le processus de passage efficace d’une PoC au déploiement.

Cognizant a décrit l’émergence d’un « système d’exploitation d’agents » pour coordonner les réseaux d’agents d’IA. Quelles fonctions cette couche devrait‑elle assurer, et pensez‑vous que l’orchestration des agents deviendra finalement aussi fondamentale pour l’informatique d’entreprise que le sont aujourd’hui les systèmes d’exploitation et les plateformes cloud ?

La coordination des agents est importante : si elle est trop rigide, votre système devient dégradé et fragile. Si elle est trop ouverte, avec la coordination entièrement déléguée à l’agent, vous risquez de rendre la tâche de l’agent trop complexe ou risquée. Un bon mécanisme de coordination permet aux agents de former spontanément des équipes en réponse à diverses situations, ce qui aboutit à une discipline organisationnelle robuste et fluide. Je suis partisan de la coordination distribuée. C’est analogue à donner à une organisation humaine un certain niveau d’autorité sur son domaine de responsabilité. Lorsqu’un contexte se présente, les membres de l’organisation communiquent et se coordonnent via la structure organisationnelle pour déterminer les personnes responsables du traitement de la situation, et la réponse est rassemblée, coordonnée et consolidée entre les nœuds organisationnels. La bonne nouvelle, c’est que des contrôles stricts et des garde‑fous peuvent être appliqués aux systèmes agentiques afin que cette flexibilité ne conduise pas à un comportement à risque.

Je pense, tout comme MCP est rapidement devenu une norme de facto pour l’accès aux applications agentiques, que les protocoles de coordination émergeront également et seront standardisés sur les plateformes agentiques afin de permettre des processus multi‑agents spontanés au‑delà des frontières des systèmes agentiques. Les systèmes d’exploitation et les plateformes cloud ne sont probablement pas la meilleure analogie ici ; plutôt, des standards largement acceptés pour la définition multi‑agents et les protocoles de coordination devront apparaître pour permettre une pénétration plus large et l’essor de l’agentification dans l’entreprise.

À mesure que les entreprises passent de copilotes individuels à des réseaux contenant des dizaines voire des centaines d’agents spécialisés, comment les organisations doivent‑elles décider quelles responsabilités reviennent à des agents individuels et lesquelles doivent rester centralisées ?

Tout comme le pare‑feu Internet et les mécanismes de sécurité, l’établissement de la confiance grâce à des audits en temps réel contre les politiques et à l’application de garde‑fous sur les systèmes agentiques devrait être une fonction centralisée au sein d’une entreprise, définie et maintenue par une entité unique de la société. Tous les autres systèmes agentiques peuvent être provisionnés ou implémentés de manière décentralisée, mais ces systèmes devront s’enregistrer auprès du système de confiance pour être autorisés à fonctionner.

Cognizant a déployé en interne un système multi‑agents qui connecte environ 200 agents au sein d’une organisation de près de 350 000 employés. Qu’est‑ce que l’exploitation d’une telle échelle a révélé sur l’IA agentique qui serait difficile à découvrir à travers des pilotes plus modestes ?

Nous avons dû concevoir pour la scalabilité, l’extensibilité, l’efficacité des coûts et des temps de réponse raisonnables. Dans des projets d’une telle envergure, il faut souvent inventer des éléments qui ne sont tout simplement pas nécessaires dans de petits systèmes agentiques confinés avec peu d’utilisateurs. Par exemple, il faut rendre la coordination inter‑agents personnalisée et efficace, afin d’éviter des étapes supplémentaires et des coûts superflus. De plus, le système doit pouvoir intégrer des applications développées sur mesure ainsi que des systèmes et agents tiers, ce qui rend l’interopérabilité importante et peut faire gagner du temps et de l’argent.

Lorsque les agents autonomes peuvent appeler des API, accéder aux systèmes d’entreprise, communiquer avec d’autres agents et agir à la vitesse de la machine, la gouvernance traditionnelle de l’IA devient beaucoup plus difficile. Où la supervision humaine doit‑elle rester obligatoire, et où les organisations peuvent‑elles autoriser les agents à fonctionner de façon indépendante en toute sécurité ?

Je pense que le déterminant ultime de l’endroit où la supervision humaine est nécessaire et obligatoire est la confiance. À mesure que ces systèmes gagnent en fiabilité, nous leur accorderons plus d’autonomie, et sauf obligation légale (par exemple, en raison de l’absence de personnalité juridique pour l’IA), nous serons à l’aise de nous reposer sur les agents. Mesurer la confiance et le risque est donc important et peut aider à tracer la ligne entre autonomie et supervision humaine — une ligne qui pourrait commencer à bouger à mesure que ces systèmes deviennent plus fiables et moins risqués à faire fonctionner de façon autonome.

Une grande partie de vos recherches antérieures portait sur le calcul évolutionnaire et les systèmes qui s’améliorent par sélection et adaptation. Comment les approches évolutionnaires pourraient‑elles compléter les grands modèles de langage et l’apprentissage par renforcement alors que nous essayons de créer des agents capables de s’améliorer continuellement plutôt que d’exécuter simplement des flux de travail prédéfinis ?

Le courant dominant en IA aujourd’hui est dominé par les approches de descente de gradient, qui constituent une forme de recherche de type « montée de col » peu créative. Le calcul évolutionnaire est très efficace pour explorer des espaces de recherche complexes et peut compléter les approches dominantes. Notre laboratoire, par exemple, a récemment réalisé une percée à ce sujet : nous avons pu démontrer que les stratégies évolutionnaires sont supérieures à l’apprentissage par renforcement pour la plupart des post‑formations de LLM, produisant des modèles de qualité égale ou meilleure à des coûts bien plus faibles. Les approches évolutionnaires pourraient également aider avec le « Test‑Time Training », qui vise à permettre aux LLM d’apprendre après le déploiement.

Les recherches de Cognizant ont exploré des environnements où des agents interactifs développent coopération, compétition, partage de connaissances et même des stratégies trompeuses. À mesure que les systèmes multi‑agents deviennent plus complexes, le comportement émergent pourrait‑il devenir l’un des plus grands défis pour maintenir l’IA d’entreprise prévisible et alignée sur les objectifs organisationnels ?

Cela est déjà le cas, comme le montre l’incident très médiatisé récent entre OpenAI et Hugging Face. On pourrait penser que les agents, confinés à leurs invites et contextes, et utilisant des LLM qui n’apprennent pas en temps réel, resteront plus ou moins cohérents dans leur comportement. Cependant, le fait est que l’environnement et les motivations d’un agent peuvent changer, souvent à la suite des propres actions de l’agent dans l’environnement, entraînant un comportement imprévu. Cela est encore plus probable lorsque plusieurs agents interagissent, il est donc crucial d’observer les agents autonomes dans des environnements sandbox sécurisés afin de déterminer l’étendue et l’ampleur de leurs tendances émergentes, et d’en tenir compte dans nos conceptions et garde‑fous agentiques. Notre système public, TerraLingua, où vous pouvez introduire des agents, des artefacts, et même usurper des agents pour observer leur comportement individuel et collectif, constitue un pas dans cette direction.

En regardant au‑delà de la vague actuelle d’IA agentique, quelle percée technologique ou quel changement architectural pensez‑vous qu’il manque encore avant que nous puissions construire des systèmes d’IA capables de gérer de façon fiable des objectifs longs et complexes avec une intervention humaine minimale ?

Beaucoup des limites des agents d’aujourd’hui proviennent des limites de l’état de l’art en IA. Les LLM sont pratiquement figés après l’entraînement et ne peuvent pas « changer d’avis » lorsqu’ils rencontrent de nouvelles informations. Les LLM sont tout et tout le monde à la fois, ils doivent donc être amorcés avec du contexte et des invites et sont très sensibles à cet amorçage. Les LLM ont des fenêtres de contexte limitées et doivent recevoir à nouveau toutes les informations à chaque mot qu’ils produisent ou chaque action qu’ils entreprennent. Au niveau multi‑agents, je pense que nous avons besoin de protocoles de coordination distribuée largement acceptés, de garde‑fous de confiance et de politiques, ainsi que de systèmes d’arbitrage de transactions afin que le futur agentique réalise son plein potentiel.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter Cognizant ou notre interview précédente.