Les coûts de l’IA s’accélèrent – Voici comment les contrôler

L’utilisation du cloud continue de croître, ainsi que les coûts associés, en particulier ceux liés à l’IA ces derniers temps. Les analystes de Gartner prévoient que les dépenses mondiales des utilisateurs finals pour les services de cloud public atteindront 723,4 milliards de dollars en 2025, contre moins de 600 milliards de dollars en 2024. Et 70% des dirigeants interrogés dans un rapport d’IBM ont cité l’IA générative comme un facteur clé de cette augmentation.

En même temps, la société chinoise DeepSeek a fait les gros titres en affirmant qu’il lui a fallu seulement deux mois et 6 millions de dollars pour former son modèle d’IA. Il y a quelques doutes sur la véracité de ces chiffres, mais si les cours de Bourse de Microsoft (MSFT ) et Nvidia (NVDA ) sont un indicateur, l’annonce a réveillé le monde occidental sur la nécessité de systèmes d’IA efficaces en termes de coûts.

Jusqu’à présent, les entreprises ont pu considérer les coûts croissants de l’IA comme des dépenses de recherche et développement. Mais les coûts de l’IA, en particulier ceux liés à des produits et des fonctionnalités réussis, finiront par affecter le coût des biens vendus (COGS) des entreprises et, par conséquent, leurs marges brutes. Les innovations de l’IA étaient destinées à faire l’objet d’un examen minutieux du point de vue commercial ; l’annonce de DeepSeek a simplement accéléré ce processus.

Comme pour le reste du cloud public, les entreprises devront gérer leurs coûts d’IA, y compris les coûts de formation et de consommation. Ils devront relier les dépenses d’IA aux résultats commerciaux, optimiser les coûts d’infrastructure d’IA, affiner les stratégies de tarification et d’emballage, et maximiser le retour sur investissement de leurs dépenses d’IA.

Comment peuvent-ils le faire ? Avec l’économie d’unités de cloud (CUE).

Qu’est-ce que l’économie d’unités de cloud (CUE) ?

La CUE comprend la mesure et la maximisation du profit généré par le cloud. Son mécanisme fondamental consiste à relier les données de coûts de cloud avec les données de demande et de revenu clients, révélant ainsi les dimensions les plus et les moins rentables d’une entreprise et montrant aux entreprises comment et où optimiser. La CUE s’applique à toutes les sources de dépenses de cloud, y compris les coûts d’IA.

La base de la CUE est l’allocation des coûts — organiser les coûts de cloud en fonction de qui et/ou de ce qui les génère. Les dimensions d’allocation courantes incluent le coût par client, le coût par équipe d’ingénieurs, le coût par produit, le coût par fonctionnalité et le coût par microservice. Les entreprises utilisant une plate-forme de gestion des coûts modernisée allouent souvent les coûts dans un cadre qui reflète leur structure commerciale (leur hiérarchie d’ingénieurs, leur infrastructure de plate-forme, etc.).

Ensuite, le cœur de la CUE est la métrique de coût unitaire, qui compare les données de coûts avec les données de demande pour montrer à une entreprise son coût total pour servir. Par exemple, une entreprise de marketing B2B pourrait vouloir calculer son « coût par 1 000 messages » envoyés via sa plate-forme. Pour ce faire, elle devrait suivre ses coûts de cloud et le nombre de messages envoyés, intégrer ces données dans un seul système et demander à ce système de diviser ses coûts de cloud par ses messages et de tracer le résultat dans un tableau de bord.

Puisque l’entreprise a commencé par l’allocation des coûts, elle pourrait alors afficher son coût par 1 000 messages par client, produit, fonctionnalité, équipe, microservice, ou toute autre vue qu’elle juge réfléchir sa structure commerciale.

Les résultats :

• Des dimensions commerciales flexibles par lesquelles ils peuvent filtrer leur métrique de coût unitaire, leur montrant quels domaines de leur entreprise génèrent leurs coûts de cloud
• Une métrique de coût unitaire éclairante qui leur montre à quel point ils répondent efficacement à la demande des clients
• La capacité d’apporter des améliorations ciblées d’efficacité, comme refondre l’infrastructure, ajuster les contrats clients, ou affiner les modèles de tarification et d’emballage

CUE à l’ère de l’IA

Dans le modèle CUE, les coûts d’IA ne sont qu’une autre source de dépenses de cloud qui peuvent être intégrées dans le cadre d’allocation d’une entreprise. La façon dont les entreprises d’IA diffusent les données de coûts est encore en évolution, mais en principe, les plate-formes de gestion des coûts traitent les coûts d’IA de la même manière que les coûts d’AWS, Azure, GCP et SaaS.

Les plate-formes modernes de gestion des coûts de cloud allouent les coûts d’IA et montrent leur impact sur l’efficacité dans le contexte des métriques de coût unitaire.

Les entreprises devraient allouer leurs coûts d’IA de manière intuitive. L’une des façons serait le coût par équipe, une dimension d’allocation commune à toutes les sources de dépenses de cloud, montrant les coûts pour lesquels chaque équipe d’ingénieurs est responsable. C’est particulièrement utile car les dirigeants savent exactement qui notifier et tenir responsable lorsque les coûts d’une équipe particulière augmentent.

Les entreprises pourraient également vouloir connaître leur coût par type de service d’IA — modèles d’apprentissage automatique (ML) par opposition à des modèles de base par opposition à des modèles tiers comme OpenAI. Ou, ils pourraient calculer leur coût par étape du cycle de vie du développement logiciel (SDLC) pour comprendre comment les coûts d’une fonctionnalité alimentée par l’IA changent lorsqu’elle passe du développement au test, au pré-lancement et enfin à la production. Une entreprise pourrait aller encore plus loin et calculer son coût par étape du cycle de vie de développement d’IA, y compris le nettoyage des données, le stockage, la création de modèles, la formation de modèles et l’inférence.

En faisant un pas de recul : la CUE signifie comparer les données de coûts de cloud organisées avec les données de demande des clients, puis déterminer où optimiser. Les coûts d’IA ne sont qu’une autre source de données de coûts de cloud qui, avec la bonne plate-forme, s’intègrent parfaitement dans la stratégie CUE globale d’une entreprise.

Éviter le tsunami des COGS

À partir de 2024, seules 61% des entreprises avaient mis en place des systèmes formels de gestion des coûts de cloud (selon une enquête de CloudZero). Les coûts de cloud non gérés deviennent bientôt ingérables : 31% des entreprises — une proportion similaire à celle qui ne gère pas formellement ses coûts — subissent de graves impacts sur les COGS, signalant que les coûts de cloud représentent 11% ou plus de leurs revenus. Les coûts d’IA non gérés ne feront qu’exacerber cette tendance.

Aujourd’hui, les organisations les plus visionnaires traitent les coûts de cloud comme n’importe quelle autre dépense majeure, en calculant son ROI, en décomposant ce ROI par leurs dimensions commerciales les plus critiques, et en dotant les membres de l’équipe concernés des données nécessaires pour optimiser ce ROI. Les plate-formes de gestion des coûts de cloud de nouvelle génération offrent un flux de travail CUE complet, aidant les entreprises à éviter le tsunami des COGS et à renforcer leur viabilité à long terme.