Modèles et plateformes d’IA
Calcul de l’IA en 2027 : le coût de l’inférence va remodeler les centres de données

Points clésLes mises à niveau logicielles peuvent débloquer 30 % de débit supplémentaire sur des…
Voir plus
- Les mises à niveau logicielles peuvent débloquer 30 % de débit supplémentaire sur des accélérateurs déjà installés, dans des objectifs de latence fixes.
- Séparer le prefill du decode n'est rentable que lorsque la forme du trafic justifie la complexité supplémentaire en matière de réseau et d'exploitation.
- Des accélérateurs alternatifs peuvent s'imposer sur certaines charges de travail de serving une fois que les comparaisons incluent les coûts de migration et d'exploitation.
Un centre de données peut regorger d’accélérateurs coûteux et pourtant manquer de capacité utile. Certaines puces attendent que la mémoire se libère. D’autres traitent des requêtes qui dépassent l’objectif de latence. Un benchmark peut afficher d’excellents résultats alors que la facture du service continue de grimper. Posséder le matériel n’est que le début du problème économique.
En 2027, une plus grande partie de la compétition autour de la puissance de calcul portera sur ce que chaque système installé peut fournir dans les conditions réellement exigées par les clients. L’attention se portera donc davantage sur les logiciels de service, l’affectation des charges de travail et le coût d’une réponse satisfaisante.
La référence évolue déjà rapidement. MLPerf Inference v6.1, publié en septembre 2026, a ajouté la génération augmentée par récupération de bout en bout et une charge de travail agentique en périphérie. Le document décrit également la transition vers une suite Endpoints axée sur les API. Cela montre que les concepteurs de benchmarks s’adaptent aux charges de travail en plusieurs étapes, mais ne prouve pas que toutes les applications d’IA puissent être représentées par un seul score de benchmark.
Parallèlement, l’analyse énergétique de 2026 de l’AIE met en évidence une tension entre les gains d’efficacité par tâche et la croissance des applications plus exigeantes. Elle fait état d’une hausse de la consommation d’électricité des centres de données et souligne l’incertitude liée à l’évolution des charges de travail. J’en déduis que la baisse des coûts unitaires intensifiera la concurrence autour de la conception des systèmes, tandis que l’énergie et la mémoire resteront des contraintes importantes. Elle ne fera pas automatiquement baisser la facture totale des infrastructures.
1. Les logiciels permettront d’obtenir un nouveau gain substantiel sur le matériel déjà installé
La prochaine augmentation de capacité pourrait résulter du déploiement d’un logiciel. L’ordonnancement, la gestion de la mémoire et les noyaux d’exécution peuvent modifier la quantité de travail accomplie par un accélérateur installé sans changer la puce elle-même. Je m’attends à un résultat reproductible en 2027 montrant un débit supérieur d’au moins 30 % dans le respect de l’objectif de latence, sur le matériel fixe et avec le modèle définis ici. L’intérêt commercial est d’obtenir une capacité utile supplémentaire grâce à un achat que l’exploitant a déjà effectué.
L’intérêt économique est évident. Le matériel déjà installé représente un coût de capacité, que son ordonnanceur l’utilise efficacement ou non. Une meilleure mise en lots, une exécution optimisée des noyaux, une allocation plus efficace de la mémoire et un meilleur routage des requêtes peuvent augmenter le volume de résultats utiles sans ajouter d’accélérateurs. C’est particulièrement intéressant lorsqu’une nouvelle baie nécessiterait également davantage de puissance électrique, de refroidissement ou de capacité réseau.
Les recherches initiales sur PagedAttention montrent pourquoi la gestion de la mémoire doit être prise en compte dans l’évaluation des performances : une gestion inefficace du cache clé-valeur peut gaspiller de la capacité et limiter la mise en lots. Il ne faut pas extrapoler leurs résultats historiques pour en déduire un gain de vitesse universel sur les systèmes actuels. Ils établissent le mécanisme, et non l’ampleur du prochain gain.
Des éléments récents montrent qu’il reste une marge de progression. Dans son analyse des soumissions à la version 6.1, AMD fait état d’un débit supérieur sur le même matériel MI355X entre deux cycles du benchmark, notamment d’une amélioration de 38 % des performances en mode serveur pour la configuration GPT-OSS-120B spécifiée. Cette comparaison du fabricant porte sur un modèle différent de celui visé par ma prévision. Elle étaye l’idée que la maturité logicielle compte toujours, mais ne prouve pas qu’un gain de 30 % avec Llama 3.1 8B soit garanti.
Le choix d’une charge de travail fixe pour cette prévision est délibéré. Affirmer qu’un système produit davantage de jetons après le passage à un modèle plus petit, à une qualité inférieure ou à un objectif de latence moins strict raconte une tout autre histoire économique. Le test doit maintenir ces paramètres constants. Les recettes de reproduction publiées par AMD montrent utilement comment rendre publics les détails des logiciels et de la configuration, même si les recettes fournies par les fabricants doivent toujours faire l’objet d’un examen indépendant.
Ce qu’il faut surveiller en 2027
Recherchez des benchmarks de service qui améliorent le débit sur le matériel déjà installé tout en maintenant constants le modèle, la qualité des réponses et les exigences de temps de réponse. La publication des configurations et des distributions de latence facilitera l’évaluation de ces gains. Les résultats obtenus avec des modèles plus petits, une précision réduite sans vérification de la qualité ou des objectifs de latence assouplis étayeraient une affirmation différente.
Ce que cela signifie pour les entreprises
Avant d’investir dans des accélérateurs supplémentaires, les acheteurs d’infrastructures devraient mesurer la marge de capacité de leur pile de service actuelle. Comparez le coût des mises à niveau logicielles, de l’optimisation et du soutien opérationnel à la capacité qu’elles pourraient libérer. Les décisions d’expansion devraient se fonder sur les requêtes acceptées dans le respect des objectifs de service de l’application, afin qu’un débit de jetons affiché plus élevé ne masque pas une dégradation de l’expérience client.
2. La désagrégation se justifiera par l’économie propre à chaque charge de travail
Lire une longue invite et générer une réponse ne sollicitent pas un système de service de la même manière. Effectuer ces deux tâches sur le même matériel est pratique, mais cette commodité peut conduire à une inadéquation entre les ressources coûteuses et le travail à accomplir. En 2027, des opérateurs nommément désignés montreront dans quels cas la séparation de ces étapes permet d’augmenter sensiblement le nombre de requêtes traitées par heure-accélérateur. Le résultat dépendra de la forme du trafic : une architecture mieux adaptée à un service peut être une complication inutile pour un autre.
Le préremplissage traite le contexte fourni. Le décodage génère la réponse, jeton après jeton. Leurs besoins en ressources et leurs objectifs de latence diffèrent ; un pool partagé peut donc provoquer des interférences ou imposer un surdimensionnement. La séparation des phases permet de leur allouer des ressources distinctes, mais entraîne un coût supplémentaire lié au transfert de l’état entre elles.
DistServe a formalisé cet arbitrage autour du débit utile : le travail accompli dans le respect des contraintes de latence du service. Les améliorations rapportées ont été obtenues avec des charges de travail et dans des conditions d’évaluation particulières. Il ne faut pas les considérer comme un multiplicateur général applicable à tous les clusters de production. La topologie du réseau, la longueur du contexte, la longueur de la sortie et les variations du trafic déterminent si la séparation est rentable.
En 2026, il ne s’agit plus seulement d’un projet de recherche. NVIDIA Dynamo comprend un planificateur, un routage tenant compte du cache et des composants de transfert pour l’inférence distribuée. L’analyse de la désagrégation multimodale de NVIDIA est notamment utile parce qu’elle met en évidence les conditions dans lesquelles les avantages diminuent ou une topologie donne de moins bons résultats. En décrivant les situations où une solution est moins performante, un fournisseur offre aux acheteurs un point de départ plus utile qu’un simple chiffre de gain de vitesse maximal.
Ma prévision suppose que les charges de travail adaptées atteignent une échelle suffisante. Des invites longues et une demande irrégulière peuvent créer suffisamment de frictions dans la planification pour justifier une architecture de traitement plus complexe. Les petites charges de travail régulières peuvent être traitées plus économiquement en conservant un système simple. La séparation des étapes est donc une décision de gestion des capacités, dont les coûts logiciels et opérationnels doivent être compensés.
Points à surveiller en 2027
Surveillez la publication, par les opérateurs, de résultats obtenus avec des combinaisons réelles de requêtes, comprenant de longues invites, une demande variable et le coût du transfert de l’état entre les étapes d’inférence. Les gains devraient rester visibles une fois pris en compte tous les accélérateurs réservés et les frais de transfert. Les déploiements qui ajoutent de la complexité sans accroître la quantité de travail utile par unité de capacité réduiraient la pertinence de la désagrégation.
Ce que cela signifie pour les entreprises
Considérez la séparation entre le préremplissage et le décodage comme un choix d’architecture à valider au regard de votre trafic. Avant de l’adopter, les équipes devraient modéliser les besoins supplémentaires en réseau, en planification et en exploitation. Des charges de travail importantes et irrégulières peuvent justifier cet effort ; pour les services plus modestes, il faut des éléments probants montrant que, dans des conditions d’exploitation normales, les composants supplémentaires compensent leur coût.
3. Des accélérateurs alternatifs remporteront certains traitements, avec des coûts publiés
Un accélérateur moins cher n’est une bonne affaire que si la réponse obtenue est acceptable et arrive à temps. Cela ouvre la voie à des solutions autres que NVIDIA pour certaines charges de travail, même si la maturité des logiciels et la disponibilité restent des avantages considérables pour le fournisseur en place. Je m’attends à ce que des comparaisons indépendantes menées en 2027 démontrent un avantage de coût significatif pour deux familles d’alternatives distinctes. Cet avantage doit se confirmer après prise en compte des détails de migration et d’exploitation qui n’apparaissent pas dans la fiche technique d’une puce.
Il s’agit d’une prévision portant sur des points de fonctionnement spécifiques, et non d’une prévision de remplacement généralisé d’une plateforme. Une pile de traitement peut convenir à un modèle et à un profil de trafic, mais pas à un autre. Les efforts de portage, la familiarité des opérateurs avec la solution, les noyaux pris en charge et la disponibilité d’instances adaptées peuvent l’emporter sur les caractéristiques avantageuses du matériel.
Plusieurs fournisseurs proposent déjà des solutions alternatives intéressantes. La documentation sur Ironwood de Google précise la capacité de la mémoire à large bande passante, sa bande passante et les caractéristiques de l’interconnexion. L’annonce de disponibilité de Trainium3 d’AWS décrit une plateforme conçue pour les charges de travail denses et le parallélisme par experts. Les soumissions d’AMD à MLPerf attestent de sa participation à des évaluations standardisées de charges de travail. Aucune de ces sources ne prouve, à elle seule, l’avantage de prix avancé dans ma prévision.
La comparaison n’a de sens sur le plan économique qu’une fois la charge de travail définie. Si un accélérateur nécessite davantage d’hôtes, un schéma de parallélisme différent ou des engagements de réservation plus longs, ces coûts doivent figurer au dénominateur. Un prix annoncé auquel il est impossible d’acheter dans la région évaluée ne devrait pas déterminer le résultat. Il en va de même pour les capacités réservées mais inutilisées et pour un résultat de référence favorable obtenu avec du matériel que les clients ne peuvent pas réellement se procurer.
J’accorde une confiance modérée à cette prévision, car la compétitivité technique et la transparence économique sont deux obstacles distincts. Il se peut que l’évaluation soit réalisable alors que les détails des coûts restent confidentiels pour des raisons commerciales. Un accélérateur concurrent peut aussi l’emporter en débit tout en étant moins simple à exploiter. Une décision complète devrait présenter séparément les dépenses récurrentes d’infrastructure et les efforts ponctuels de migration.
Points à surveiller en 2027
Recherchez des comparaisons menées par des organisations autres que le fournisseur de la puce gagnante, à partir de capacités que l’on peut acheter et avec des exigences équivalentes en matière de qualité et de latence. Les éléments déterminants comprendront les hypothèses relatives aux hôtes, au réseau, aux capacités inutilisées et à la migration. Sans comparaison reproductible des coûts de traitement, une fiche technique prometteuse d’un accélérateur ne suffirait pas à prouver la prévision économique.
Ce que cela signifie pour les entreprises
Évaluez le matériel à partir d’un modèle et d’une trace de trafic représentatifs, puis chiffrez le coût du déploiement complet. Distinguez les économies récurrentes d’exploitation des coûts liés au portage, à la reconversion du personnel et à la maintenance d’une autre pile logicielle. Un accélérateur de remplacement peut être intéressant pour un service donné sans pour autant constituer la plateforme adaptée à toutes les charges de travail de l’entreprise.
4. L’évaluation des agents mesurera l’énergie consommée au regard du travail accompli
Un agent peut consommer de l’énergie pendant qu’il réfléchit, appelle des outils, réessaie et finit par échouer. Mesurer une seule étape d’inférence ne rend pas compte de cette réalité. D’ici à la fin de 2027, je m’attends à ce que la lignée des évaluations d’agents de MLPerf mette en regard l’énergie mesurée du système et les tâches menées à bien. Les opérateurs disposeraient ainsi d’un meilleur dénominateur pour répondre à une question difficile : quelle quantité d’infrastructure ce service consomme-t-il pour produire quelque chose que le client peut réellement utiliser ?
Un agent peut appeler un modèle à plusieurs reprises, revenir sur un long contexte, invoquer des outils et réessayer les étapes qui ont échoué. Une mesure de l’énergie par jeton ne rend compte que d’une partie du coût de ce comportement. Pour une charge de travail en plusieurs étapes, l’unité pertinente est la tâche menée à bien, avec une délimitation explicite de l’infrastructure mesurée.
L’annonce de la version v6.1 décrit déjà l’allongement de l’historique conversationnel dans l’inférence agentique, un test d’agentique en périphérie et des travaux visant à évaluer l’agentique dans les centres de données. Cette prévision porte donc sur une exigence de mesure supplémentaire, et non sur l’apparition des évaluations d’agents. Je m’attends à ce que la pression s’accentue pour relier ces charges de travail à l’énergie consommée par le système, à mesure que les acheteurs de capacités d’inférence se heurtent aux contraintes d’alimentation électrique.
L’évaluation de 2026 de l’AIE donne une raison plus générale de s’y intéresser : le lien entre l’efficacité et la demande totale dépend de l’adoption et de la complexité des charges de travail. On ne peut pas attribuer le même coût énergétique représentatif à une requête appelant une réponse courte et à un agent qui fonctionne pendant une longue période. De même, l’efficacité d’un accélérateur pris individuellement ne suffit pas à établir celle d’un flux de travail complet.
Cette prévision est la moins sûre de l’article, car l’élaboration de normes de mesure exige une coordination. Les services d’outils peuvent fonctionner en dehors du système mesuré. Une évaluation peut privilégier la reproductibilité au réalisme, ou rendre compte de la puissance sans conditionner la réussite à l’accomplissement d’une tâche de bout en bout. Ces choix de conception peuvent se défendre, mais ils ne répondraient pas à cette prévision précise.
À surveiller en 2027
Surveillez les rapports d’évaluation des agents qui mettent en regard l’énergie mesurée et les tâches accomplies et précisent quels composants sont inclus dans le périmètre de mesure. Les appels répétés aux modèles, les nouvelles tentatives et les échecs doivent rester visibles. Ne rendre compte que de la puissance de l’accélérateur ou de l’énergie par jeton donnerait aux acheteurs une vision incomplète du coût d’un agent exécutant une tâche en plusieurs étapes.
Ce que cela signifie pour les entreprises
Les équipes chargées de la capacité et du développement durable devraient s’entendre sur une unité de travail pertinente avant de comparer les chiffres de consommation énergétique. Suivez le nombre de tâches réussies, les ressources consommées par les tentatives infructueuses et l’infrastructure exclue de l’estimation. Cette comptabilisation peut aider les équipes à déterminer si un agent plus performant utilise aussi efficacement les budgets d’énergie et de calcul dont elles disposent.
Tout dépend de l’unité de mesure pertinente
La ressource rare sera la capacité permettant de répondre aux exigences du service à un coût acceptable. Des puces plus rapides compteront, mais aussi un ordonnanceur moins gaspilleur, une organisation de la mémoire adaptée à la charge de travail et une mesure qui comptabilise honnêtement les échecs. Le prochain avantage des centres de données sera peut-être moins visible qu’une nouvelle baie, mais pèsera davantage sur la facture.












