Jayant Swamy, architecte d’entreprise principal chez Genpact – Série d’interviews

Jayant Swamy, architecte d’entreprise principal chez Genpact, est un leader technologique et data avec plus de deux décennies d’expérience couvrant l’architecture d’entreprise, l’intelligence artificielle, l’ingénierie des données, les technologies cloud et la transformation numérique à grande échelle. Avant de rejoindre Genpact en 2024, il a été CTO et architecte en chef chez Xtrac8.Tech ainsi que CTO et co‑fondateur d’une start‑up IA axée sur des technologies telles que l’IA générative et les grands modèles de langage. Swamy a auparavant passé plus d’une décennie chez Accenture, où il a occupé des postes de direction dont CTO, responsable mondial et directeur général du Institute of Applied Intelligence, directeur général et responsable mondial du secteur Data on Cloud, ainsi que Chief Data Architect et responsable mondial de l’ingénierie des données et de l’innovation data. Au début de sa carrière, il a passé plus de sept ans chez Fannie Mae à superviser les initiatives technologiques et d’information métier liées au service et à la gestion des pertes de crédit, après plusieurs années en tant que senior principal chez Oracle (ORCL ).

Genpact est une société mondiale de technologies et de services aux entreprises, axée sur l’aide aux organisations pour transformer des opérations complexes grâce à l’intelligence artificielle, aux données, à l’intelligence des processus et à l’expertise sectorielle. L’entreprise trouve ses origines dans une initiative de 1997 au sein de GE Capital, est devenue indépendante en 2005 et a été introduite en bourse sur le New York Stock Exchange en 2007. Aujourd’hui, Genpact collabore avec des organisations de divers secteurs, dont la banque, l’assurance, la finance, la chaîne d’approvisionnement, les biens de consommation, la santé et la technologie, avec un accent croissant sur l’IA générative, les systèmes agentiques, l’automatisation et les opérations d’entreprise pilotées par l’IA.

Votre parcours vous a conduit des rôles d’architecture d’entreprise et de direction des données chez Oracle, Fannie Mae et Accenture à des environnements de start‑up et à votre poste actuel de chief enterprise architect chez Genpact. Comment cette expérience a‑t‑elle façonné votre vision des domaines où l’autonomie de l’IA crée une réelle valeur pour l’entreprise et où le jugement humain reste indispensable ? 

Tout au long de ma carrière, j’ai appris que l’échelle, la gouvernance, l’intégration et le risque comptent autant que l’innovation. L’expérience en entreprise montre qu’une technologie impressionnante échoue si elle ne peut pas fonctionner au sein de l’organisation ; les start‑up renforcent la valeur de la rapidité, de l’expérimentation et du maintien d’une architecture simple et adaptable. L’autonomie de l’IA fonctionne le mieux lorsqu’on combine les deux mentalités — innover rapidement tout en conservant des bases solides. Ainsi, l’IA peut réellement transformer la façon dont le travail circule dans une organisation. Les résultats de notre recherche récente confirment clairement ce point.

Le modèle lui‑-même n’est qu’une partie de l’équation. L’architecture environnante — données, systèmes, flux de travail, contrôles et intégrations — détermine si l’IA crée de la valeur à grande échelle. C’est ce que nous entendons par « pas d’intelligence artificielle sans intelligence des processus ». C’est également le principe qui sous‑tend notre travail d’IA appliquée dans les Genpact Labs, où nous transformons les capacités IA émergentes en solutions prêtes à la production et à l’usage client. Chaque capacité est liée à un résultat commercial mesurable et intégrée au flux de travail, aux données et aux contrôles nécessaires à son exploitation.

L’IA doit disposer d’un espace d’action lorsque l’objectif est clair, les données fiables et les limites bien comprises. Le jugement humain reste essentiel pour les décisions à enjeux élevés, ambiguës, subjectives, réglementées ou nécessitant responsabilité et empathie. L’autonomie ne consiste pas à éliminer les humains du système, mais à concevoir le système de façon à ce que chacun sache où l’IA peut agir de façon autonome, où les humains ont besoin de visibilité et où le jugement humain doit prendre le relais.

De nombreuses entreprises évaluent l’IA orientée client principalement à travers la vitesse, les taux de containment et les économies de coûts. Pourquoi ces indicateurs peuvent‑ils donner une image trompeuse de l’amélioration réelle de l’expérience client ?

Le problème est que ces indicateurs mesurent principalement l’efficacité. Ils montrent comment le système a fonctionné, mais pas forcément comment le client l’a perçu. Prenons le containment: un taux élevé peut sembler réussi en interne, mais il peut masquer de mauvais résultats si le client abandonne, se répète, reçoit des réponses incomplètes ou ne peut pas joindre une personne lorsqu’il le faut. Le containment indique que l’IA a maintenu le client dans le système, pas qu’il a obtenu ce dont il avait besoin. Il en va de même pour les économies de coûts, qui peuvent se faire au détriment de la confiance, de la satisfaction ou de la qualité de la résolution.

Les systèmes d’IA s’optimisent en fonction des signaux que vous leur fournissez, il est donc indispensable que les entreprises intègrent dès le départ des repères de mesure dans le système — en reliant les indicateurs front‑end comme la vitesse et le containment à des signaux en aval tels que la résolution des incidents et la création éventuelle de problèmes ailleurs. En fin de compte, l’IA orientée client doit être évaluée selon sa capacité à résoudre le problème sous‑jacent de l’utilisateur final de manière précise, équitable et avec le niveau adéquat de soutien humain.

Quels signaux un agent IA doit‑il utiliser pour reconnaître l’incertitude, la frustration, l’urgence ou une situation qui sort de son flux de travail établi ? 

Il n’existe pas de signal magique unique — ce qui compte, c’est de fournir au système suffisamment de contexte et de visibilité pour qu’il reconnaisse quand sa confiance, son autorité ou ses informations ne sont plus suffisantes. Cela peut se manifester par des informations contradictoires, des tentatives répétées infructueuses ou l’agent qui tourne en rond. Cela peut également se traduire par un changement dans le langage du client — un signal clair de frustration ou d’urgence — ou par une tâche nécessitant des informations, un accès ou une autorité que l’agent ne possède pas.

Le système doit également connaître ses propres limites. Si un problème sort du flux de travail prévu, nécessite des données inaccessibles ou franchit un seuil de risque défini, cela doit déclencher un autre chemin. L’objectif n’est pas que l’agent gère chaque scénario possible — c’est qu’il sache quand s’arrêter, escalader ou demander de l’aide.

Comment les entreprises peuvent‑elles faire la distinction entre une interaction simplement complexe et une qui nécessite réellement un jugement ou une empathie humains ?

La ligne de démarcation ne dépend pas de la difficulté de la tâche. Elle dépend du degré de jugement, de conséquences et de contexte humain que la décision implique. Mettre en place des opérations agentiques où les machines traitent et les humains valident nécessite de comprendre où la valeur humaine ne peut jamais être remplacée.

L’IA peut gérer des tâches très complexes lorsque l’objectif est clair, les données fiables, le processus défini et les résultats mesurables. La complexité à elle seule ne nécessite pas d’humain si le système comprend les limites dans lesquelles il est autorisé à fonctionner. Un humain doit intervenir lorsque l’intention du client est floue, que la situation requiert de la discrétion, qu’il existe plusieurs résultats valides, ou que la décision comporte d’importantes conséquences financières, juridiques, médicales ou de réputation. Certaines interactions exigent également rassurance, explication, négociation ou empathie — pas seulement une réponse. L’implication humaine est alors aussi importante que la précision technique. L’architecture doit refléter cette distinction. Ces points d’intervention doivent être conçus dès le départ dans le flux de travail, et non décidés après qu’un problème soit survenu.

À quoi devrait ressembler un processus d’escalade efficace afin que les clients n’aient pas à répéter leurs propos ou à recommencer l’interaction lorsqu’un agent humain prend le relais ?

Une bonne escalade ne consiste pas seulement à transférer le client — il s’agit de transférer le contexte, afin que la personne suivante puisse se diriger immédiatement vers la résolution. Lorsqu’un humain prend le relais, il doit déjà disposer de l’historique de la conversation, de l’identité et du profil du client, ainsi que de ce que l’IA a déjà tenté — suffisamment pour éviter de demander au client de recommencer.

C’est essentiellement une question d’architecture: si l’IA ne se trouve que dans l’interface de chat front‑end, déconnectée du CRM, de l’ERP, des sources de connaissances, des flux de travail et de la couche d’orchestration, un transfert fluide devient impossible.

Les seuils d’escalade doivent‑ils varier en fonction de facteurs tels que le risque financier, la vulnérabilité du client, les exigences réglementaires ou les conséquences potentielles d’une décision erronée ?

Les règles d’escalade doivent dépendre du niveau de risque. Plus les conséquences d’une erreur sont importantes, plus tôt un humain doit être impliqué.

Une réinitialisation de mot de passe peut être entièrement automatisée, mais une transaction financière contestée doit faire l’objet de contrôles plus stricts. Dans les réclamations ou les recouvrements, cela peut signifier une autonomie totale pour les mises à jour de statut courantes, mais une vérification humaine obligatoire lorsqu’un dossier dépasse un seuil monétaire ou qu’un indicateur de difficulté apparaît. Plus la décision est réglementée ou lourde de conséquences, plus la supervision doit être forte. Un client vulnérable peut justifier une intervention humaine plus précoce, et les décisions aux conséquences irréversibles doivent avoir des seuils d’autonomie plus bas.

Ces seuils ne doivent pas non plus être laissés à l’interprétation ponctuelle des agents individuels. Ils doivent être intégrés à l’architecture et à la couche d’orchestration, avec des règles claires sur ce que l’agent est autorisé à faire, ce qui nécessite une validation supplémentaire et ce qui doit être escaladé.

L’enjeu est de laisser l’autonomie s’ajuster au risque — vitesse maximale pour les tâches à faible enjeu, contrôle plus strict là où cela compte. Chez Genpact, nous avons intégré cette hiérarchisation directement dans la conception de nos flux de travail agentiques — les cas routiniers fonctionnent de façon autonome tandis que tout ce qui dépasse un seuil de risque ou monétaire défini est automatiquement acheminé vers un humain, sans que l’agent ait à décider d’escalader. Les entreprises qui accordent le même niveau d’autonomie à chaque interaction transforment rapidement la commodité en erreurs coûteuses.

Au‑delà de l’accomplissement des tâches, quels indicateurs les organisations devraient‑elles utiliser pour évaluer si un système de service client autonome génère des résultats positifs pour les clients ?

L’accomplissement des tâches est utile, mais il est loin d’être suffisant. La question ne doit pas être « l’agent a‑t‑il terminé la tâche ? », mais « le client se trouve‑t‑il dans une meilleure situation ? ». C’est la différence entre promettre un résultat et en être responsable.

Cela implique d’aller au‑delà du temps de traitement pour examiner des indicateurs tels que la précision des réponses, la résolution au premier contact, les contacts répétés, la qualité des escalades, la satisfaction client, ainsi que l’équité et la cohérence des résultats. Il s’agit également de mesurer au‑delà d’une interaction individuelle. Un agent peut sembler performant à une étape du parcours client tout en générant un problème en aval. Par exemple, un dossier clôturé rapidement peut déclencher un autre appel plusieurs semaines plus tard, affecter le sentiment du client et finalement nécessiter une intervention humaine, d’où l’intérêt de suivre s’il reste résolu 30 jours après.

Il est également crucial de savoir si le système répond réellement au besoin sous‑jacent du client, plutôt que de simplement clôturer l’interaction et la considérer comme une victoire. Cela nécessite une observabilité de bout en bout du flux de travail, et non uniquement des métriques provenant de l’interface IA. Mesurer les résultats client et business, plutôt que l’activité, révèle le véritable ROI de l’IA.

Comment les entreprises peuvent‑elles empêcher les agents IA d’optimiser les objectifs opérationnels, comme la réduction du volume d’appels ou du temps de traitement, au détriment de l’équité, de la confiance ou des besoins sous‑jacents du client ?

Les systèmes d’IA sont remarquablement doués pour atteindre n’importe quel objectif qui leur est assigné. C’est l’avantage et le piège: dire à un système agentique que la vitesse est le seul but, et il sacrifiera tout le reste pour y parvenir.

Les entreprises doivent donner à l’IA un ensemble d’objectifs équilibrés où l’efficacité compte, mais où elle coexiste également avec les résultats client, le risque, l’équité, la précision et la confiance. Cela s’obtient en définissant des garde‑fous clairs autour d’un comportement acceptable, en testant les biais et les effets indésirables, en maintenant des mécanismes de dérogation humaine, en surveillant continuellement les décisions et en rendant les sorties traçables et auditables. La gouvernance ne peut pas être ajoutée après le déploiement du système ; elle doit être intégrée à l’architecture dès le départ.

Le contexte client peut être réparti sur des conversations, transactions, canaux et systèmes d’entreprise antérieurs. Comment les entreprises peuvent‑elles fournir aux agents IA suffisamment de contexte pour prendre de meilleures décisions sans créer de nouveaux risques de confidentialité, de sécurité ou de gouvernance ?

La réponse au contexte fragmenté ne consiste pas à donner à l’agent IA un accès à tout. Il s’agit de lui fournir un accès gouverné à l’information adéquate au bon moment. Les entreprises ont besoin d’une couche de données et d’intégration solide qui relie les agents aux systèmes d’enregistrement autoritaires tout en contrôlant ce que chaque agent peut voir et faire. Cela comprend un accès basé sur les rôles et les finalités, le principe du minimum nécessaire, le suivi de la lignée des données, les journaux d’audit et la protection des informations sensibles.

Plus de contexte améliore les décisions de l’IA, mais uniquement s’il est gouverné. Sinon, résoudre un problème peut engendrer un problème de confidentialité ou de sécurité bien plus important. Bien géré, le contexte s’accumule à mesure que le système apprend des exceptions précédentes, rendant les interactions futures plus intelligentes sans créer de nouveaux risques.

À mesure que l’IA orientée client devient plus autonome, comment envisagez‑vous l’évolution de la relation entre les agents IA et les employés humains, et quelles capacités les organisations devront‑elles développer dès maintenant pour rendre cette collaboration efficace ?

Le rôle humain passera de plus en plus de l’exécution de chaque étape d’un processus à la direction, la supervision et l’amélioration du système d’agents qui prend en charge le volume de travail. Les personnes passeront davantage de temps à définir des objectifs, gérer les exceptions, exercer leur jugement, valider les décisions à haut risque, affiner les flux de travail, surveiller le comportement des agents et améliorer l’architecture ainsi que la gouvernance de ces systèmes agentiques. Cela modifie également les compétences requises par les entreprises. La maîtrise de l’IA sera importante, tout comme la pensée critique, l’expertise sectorielle, l’orchestration des agents, l’observabilité et la capacité à remettre en question un système IA lorsqu’un problème apparaît.

Ce n’est pas seulement un défi de main‑d’œuvre. Les organisations ont besoin d’une architecture qui soutienne cette collaboration, en connectant les agents aux données et systèmes appropriés, en coordonnant leur mode de fonctionnement et en offrant aux personnes une visibilité sur leurs actions. La gouvernance, les mécanismes de dérogation humaine et les escalades doivent être conçus dès le départ.

Dans mon rôle de chief enterprise architect, je considère qu’il est de mon devoir de veiller à ce que l’ensemble de l’organisation sache non seulement comment utiliser l’IA, mais aussi quand lui faire confiance, la remettre en question et en prendre le contrôle. Ainsi, l’architecture devient la porte d’accès à une IA responsable qui génère confiance et impact réel.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter Genpact.