Entretiens
Sadeepa Wijesekara, vice-président de Private Cloud AI chez HPE – Série d’entretiens

Points clésL'économie de l'IA ne devient une discipline commerciale que lorsque les pilotes…
Voir plus
- L'économie de l'IA ne devient une discipline commerciale que lorsque les pilotes passent en production et que la finance rejoint la conversation.
- Le coût par token mesure la consommation tandis que le coût par résultat commercial révèle si l'investissement a réellement du sens.
- Les flux de travail agentiques peuvent multiplier considérablement la consommation de tokens même si les prix de l'inférence continuent de baisser.
Sadeepa Wijesekara est vice-président de Private Cloud AI chez Hewlett Packard Enterprise (HPE), où il dirige les travaux consacrés aux logiciels et aux plateformes d’IA d’entreprise pour les environnements de cloud privé. Il s’attache notamment à aider les organisations à déployer l’IA de manière sécurisée et à grande échelle, tout en reliant les choix d’infrastructure aux besoins de l’entreprise. Il aborde l’économie de l’IA en production sous l’angle de l’ingénierie, notamment la gestion des charges de travail, le choix des modèles et les coûts liés au maintien de la fiabilité de systèmes de plus en plus autonomes.
Hewlett Packard Enterprise (HPE) fournit des technologies d’entreprise couvrant l’IA, le cloud, les réseaux, la puissance de calcul et le stockage. Son portefeuille Private Cloud AI aide les organisations à déployer des charges de travail d’IA sur des infrastructures qu’elles contrôlent, en complément du cloud hybride et de services externes. Dans cet entretien, Wijesekara explique pourquoi les dépenses consacrées à l’IA doivent être évaluées au regard des résultats de l’entreprise, comment les flux de travail agentiques modifient la consommation, et quels facteurs financiers et opérationnels influencent les décisions relatives aux modèles, à l’orchestration et à l’infrastructure.
HPE a déployé l’IA à grande échelle auprès de plus de 70 000 employés. Qu’est-ce que cette expérience vous a appris sur le moment où l’économie de l’IA cesse d’être une préoccupation informatique pour devenir un enjeu plus large pour l’entreprise ?
L’économie de l’IA devient un enjeu plus large pour l’entreprise lorsque les sociétés passent des projets pilotes à la mise en production. Un projet pilote peut montrer si l’IA est capable d’effectuer une tâche, mais il peut aussi masquer des inefficacités, car le nombre d’utilisateurs est faible. Lorsqu’on passe de 10 utilisateurs à 10 000, il faut prendre en compte les coûts, la latence et la fiabilité, tout en évaluant la valeur créée par l’IA. La discussion doit alors inclure les équipes financières et les responsables des processus métier auxquels l’IA apporte son soutien. Le service informatique peut mesurer les ressources consommées par une application, mais ce sont les responsables de l’entreprise qui doivent déterminer si les résultats justifient cet investissement.
De nombreuses organisations accordent encore une grande importance à des indicateurs comme le coût par jeton pour évaluer l’IA générative. Pourquoi estimez-vous que le coût par résultat métier est un indicateur plus pertinent, et comment les entreprises devraient-elles le calculer en pratique ?
Le coût par jeton indique la quantité d’IA que vous avez consommée, mais pas si cette consommation a produit un résultat utile. Les entreprises devraient d’abord définir le résultat métier recherché, puis calculer le coût total nécessaire pour l’obtenir. Le modèle ne représente qu’une partie de ce coût, auquel s’ajoutent les logiciels, le stockage, le déplacement des données, la gouvernance et les ressources humaines. Comparer ces coûts à la valeur créée dans le cadre d’un processus métier précis permet aux entreprises de mieux déterminer si l’investissement est économiquement justifié.
À mesure que l’IA évolue, passant des assistants individuels à des systèmes agentiques et multi-agents capables d’exécuter de longues séquences de tâches, dans quelle mesure la consommation pourrait-elle augmenter, même si le coût sous-jacent de l’inférence continue de baisser ?
La consommation peut augmenter très rapidement, car une seule demande d’utilisateur peut déclencher beaucoup plus de travail en arrière-plan. Un agent peut récupérer des informations et appeler des outils tout en exécutant plusieurs étapes avant de produire un résultat. Dans une comparaison représentative de HPE, un échange avec un chatbot de base utilisait environ 400 jetons, contre environ 21 500 pour une requête RAG agentique. Même si le prix des jetons baisse, la consommation totale peut tout de même augmenter fortement à mesure que l’IA prend en charge des tâches plus complexes.
Comment les entreprises devraient-elles déterminer si un cas d’usage de l’IA crée réellement de la valeur économique, plutôt que de simplement améliorer les indicateurs de productivité ou de produire des démonstrations impressionnantes ?
Avant tout déploiement à grande échelle, un cas d’usage doit s’inscrire dans un dossier économique assorti d’indicateurs clés de performance (KPI) clairement définis. Les entreprises doivent comprendre le coût du processus métier et la façon dont celui-ci évolue avec l’introduction de l’IA. Elles doivent également distinguer l’amélioration d’une activité de celle du résultat pour l’entreprise. Le temps gagné est plus significatif lorsqu’il permet de résoudre davantage de problèmes clients, de réduire les erreurs ou d’accomplir des tâches qui, auparavant, n’étaient pas effectuées. L’évaluation doit tenir compte de la qualité du résultat et de tout contrôle supplémentaire ou travail à refaire qui serait nécessaire. Une démonstration réussie prouve une capacité ; des améliorations mesurables du processus métier justifient la décision d’étendre son utilisation. Dans certains cas, cette analyse peut montrer que l’IA n’est pas la solution adaptée.
Le routage des modèles et l’orchestration de l’IA sont de plus en plus souvent présentés comme des moyens de maîtriser les coûts. Quelle valeur les entreprises peuvent-elles dégager en choisissant dynamiquement entre des modèles plus petits, des modèles de pointe, des modèles spécialisés et des logiciels traditionnels, en fonction de la tâche ?
Il est très avantageux d’adapter le modèle à la tâche. Nous avons vu des entreprises confier des charges de travail très différentes au même modèle de pointe coûteux, parce qu’au départ, leur priorité était de mettre l’IA en service. Cette approche peut être gérable avec un petit nombre d’utilisateurs, mais les coûts augmentent rapidement à mesure que l’adoption s’étend. Un modèle de pointe peut convenir à un raisonnement complexe, tandis qu’un modèle plus petit peut suffire pour une tâche courante. Un modèle spécialisé peut être mieux adapté à un domaine particulier, et un logiciel traditionnel peut traiter plus efficacement une tâche prévisible régie par des règles. L’orchestration permet de réunir ces options au sein d’un flux de travail, en faisant appel à un modèle plus performant lorsque la tâche l’exige. À mesure que les modèles à poids ouverts gagnent en capacité, les entreprises ont aussi davantage la possibilité d’exécuter certaines charges de travail sur leur propre infrastructure plutôt que de payer pour des modèles externes. À l’échelle de l’entreprise, ces décisions d’orientation peuvent réduire sensiblement les coûts tout en maintenant le niveau de qualité requis par l’activité.
À partir de quel moment l’économie de l’exécution de charges de travail d’IA passe-t-elle de la location de ressources de calcul par l’intermédiaire d’une API ou d’un nuage public à la possession ou au contrôle d’une plus grande partie de l’infrastructure sous-jacente ? Quels facteurs les entreprises devraient-elles prendre en compte pour faire ce choix ?
Je vois cela comme une différence entre louer et acheter. La location peut être judicieuse lorsque les entreprises expérimentent ou que la demande varie fortement. Lorsque l’utilisation augmente et devient plus prévisible, posséder ou contrôler une plus grande partie de l’infrastructure peut devenir économiquement intéressant. Posséder une infrastructure permet aussi de mener d’autres expériences en IA pendant les périodes de faible utilisation et de mieux rentabiliser un investissement déjà réalisé. Les entreprises doivent tenir compte des caractéristiques de la charge de travail, ainsi que des coûts de l’énergie, de la gestion et de la mise à jour des systèmes. Pour de nombreuses grandes entreprises, la bonne approche consistera probablement à combiner une infrastructure privée et des services externes, selon la charge de travail.
HPE développe son infrastructure d’IA privée à mesure que les entreprises mettent davantage de charges de travail en production. Dans quels cas l’IA privée présente-t-elle, selon vous, le plus grand avantage économique par rapport à une utilisation exclusive des services de nuage public ?
L’IA privée peut présenter un avantage économique important pour les charges de travail soutenues, lorsque les entreprises sont en mesure d’utiliser efficacement la capacité dont elles disposent. Dans une analyse de HPE fondée sur des hypothèses précises concernant les charges de travail, le coût de HPE Private Cloud AI était estimé à environ 45 $ par heure-nœud, contre environ 102 $ pour une configuration équivalente dans un nuage loué. Ces résultats varient selon la charge de travail et devraient être recalculés pour chaque environnement. L’IA privée offre également aux entreprises un autre modèle financier, dans lequel l’infrastructure devient un actif qui génère de la valeur pour l’organisation.
Les agents d’IA entraînent des coûts qui vont au-delà de l’inférence, notamment pour la récupération des données, les appels aux outils, la surveillance, la sécurité et la gouvernance. Quels coûts les organisations risquent-elles le plus de sous-estimer lorsqu’elles établissent le budget d’une IA agentique à grande échelle ?
Je pense que les entreprises risquent de sous-estimer le travail nécessaire pour que les agents restent fiables, sûrs et utiles au fil du temps. Au-delà de l’inférence, il faut compter les coûts liés à la récupération et à la préparation des données, à l’accès aux outils externes et au transfert d’informations entre les systèmes. Les appels répétés aux outils ou les tentatives infructueuses peuvent engendrer des frais sans aboutir à l’exécution de la tâche. Les entreprises doivent aussi prévoir un budget pour évaluer les résultats, surveiller le comportement des agents, gérer les autorisations d’accès et maintenir les mesures de sécurité et de gouvernance. La supervision humaine doit également être prise en compte, notamment le temps consacré à l’examen des cas particuliers ou à la correction des erreurs. Pour comprendre le coût d’une tâche menée à bien, il faut avoir une visibilité sur l’ensemble de ce flux de travail.
Vous avez souligné l’importance de suivre la consommation d’IA en fonction de chaque cas d’usage métier. À quoi ressemble un cadre interne de mesure efficace, et à quelle fréquence les organisations devraient-elles réévaluer si une application d’IA justifie toujours ses coûts récurrents de calcul et d’exploitation ?
Le cadre doit relier directement l’utilisation au cas d’usage métier. Les entreprises doivent savoir quelle application consomme des ressources et quel résultat elle est censée produire. Chez HPE, nous suivons les indicateurs clés de performance (KPI) et les coûts unitaires sous-jacents de chaque cas d’usage afin de mesurer s’il produit les résultats attendus. Je voudrais également disposer de ces données à l’échelle des services et des processus métier, afin qu’un directeur financier puisse comprendre combien coûte un processus aujourd’hui, comparativement à son coût avec l’IA. Ce suivi doit être continu, car l’utilisation et les aspects économiques d’une application peuvent évoluer au fil du temps. Les entreprises devraient aussi réévaluer la situation lorsqu’un modèle, un prix ou un flux de travail change de manière importante, car ces changements peuvent influer à la fois sur le coût et sur la valeur d’une application.
À l’horizon de trois à cinq ans, à mesure que l’IA s’intègre à la plupart des processus métier, comment pensez-vous que l’économie de l’IA en entreprise évoluera ? La gestion de la consommation d’IA finira-t-elle par s’inspirer de disciplines comme le FinOps appliqué au nuage, ou les organisations auront-elles besoin d’un tout nouveau modèle opérationnel ?
Je pense que l’économie de l’IA s’appuiera sur les pratiques FinOps, comme la visibilité des coûts, leur répartition et la responsabilisation, tout en les élargissant afin de mesurer la qualité et la valeur du travail effectué par l’IA. À mesure que les agents prendront en charge davantage d’étapes d’un processus métier, les entreprises devront comprendre le coût nécessaire pour mener ce processus à bien, notamment celui des nouvelles tentatives et de l’intervention humaine, et déterminer si le résultat répond aux normes requises. Je pense que cette responsabilité sera partagée entre les équipes informatiques, financières et opérationnelles. Nous n’en sommes encore qu’aux débuts de la mise en place de méthodes cohérentes permettant d’effectuer ces comparaisons entre les organisations et les secteurs d’activité. À terme, j’aimerais voir apparaître des indicateurs standardisés qui permettent aux entreprises de comprendre avec quelle efficacité elles utilisent l’IA et d’en rendre compte dans leur compte de résultat.
Merci pour cet excellent entretien. Les lecteurs qui souhaitent en savoir plus sur l’IA en cloud privé, l’infrastructure d’entreprise et la mise à l’échelle des charges de travail d’IA peuvent consulter HPE.












