L’IA privée a besoin d’une infrastructure capable d’évoluer avec la charge de travail

Il y a deux ans, presque toutes les entreprises avec lesquelles je discutais pensaient que l’IA consistait à appeler un modèle de pointe par l’intermédiaire d’une API. Cette idée est en train de s’effriter. Les modèles à poids ouverts sont désormais suffisamment performants pour de nombreuses tâches quotidiennes, et ce qui donne généralement sa valeur à une application d’IA d’entreprise, ce sont les données propres à l’entreprise, et non le modèle qui la sous-tend. Dès que les entreprises le comprennent, garder le modèle près de leurs données et en conserver le contrôle relève du simple bon sens.

Voilà ce qu’est l’IA privée. Vous exécutez le modèle dans votre propre environnement, vous l’ajustez à partir de vos propres informations et vous décidez où il fonctionne et à quelles données il peut accéder. Si vous êtes une banque ou une entreprise pharmaceutique, vous n’auriez de toute façon jamais été à l’aise à l’idée de confier des travaux de recherche exclusifs ou des dossiers clients à l’environnement d’un tiers. Pour les autres, l’adoption est motivée par le coût de l’inférence à grande échelle et par le souhait de ne pas dépendre d’un seul fournisseur pour une technologie qui devient essentielle au fonctionnement de l’entreprise. Selon une étude de la Linux Foundation, 63 % des entreprises interrogées utilisaient un modèle d’IA ouvert, ce qui montre à quel point ces solutions de remplacement sont déjà largement adoptées.

Ce que l’on a tendance à sous-estimer, c’est qu’en rapatriant le modèle en interne, on hérite aussi de l’infrastructure nécessaire. L’alimentation électrique, le refroidissement, la puissance de calcul, l’emplacement, la connexion avec le reste du système d’information : tout cela relevait auparavant de la responsabilité de votre fournisseur cloud. À présent, c’est à vous de vous en occuper. La plupart des entreprises n’ont jamais eu à prendre ce genre de décisions, et la technologie évolue plus vite qu’on ne peut couler du béton. Si vous évaluez mal vos besoins, vous vous retrouverez avec une capacité inadaptée à la charge de travail que vous aurez effectivement. La flexibilité doit être intégrée dès le départ. Adapter une infrastructure existante, lorsque c’est possible, peut coûter cher, et certains fournisseurs ne peuvent tout simplement pas le faire, car leurs installations n’ont jamais été conçues pour une telle densité.

Construire une base, louer pour les pointes

Commencez par reconnaître que vous n’avez pas besoin du plus grand modèle pour chaque tâche. Résumer des documents, classer des tickets et répondre à des questions à partir de votre propre base de connaissances sont autant de tâches qu’un modèle à poids ouverts peut exécuter de façon privée, à un coût prévisible. Réservez les modèles de pointe aux tâches qui en ont vraiment besoin.

Cela vous indique quelle forme l’infrastructure doit prendre. Construisez une capacité privée pour répondre à la demande régulière que vous pouvez prévoir chaque semaine. Louez des ressources externes pour les pointes et les tâches lourdes qui dépassent vos capacités. Les entreprises gèrent ainsi leurs ressources de calcul depuis longtemps, et l’IA ne change pas cette logique : elle augmente simplement la densité de la capacité de base et élargit l’amplitude des pointes.

La difficulté consiste à dimensionner correctement la capacité de base tout en faisant fonctionner l’environnement privé et l’environnement loué comme un seul système. Tous deux doivent accéder aux mêmes données et respecter les mêmes contrôles, sans obliger les entreprises à reconstruire leur chaîne de traitement chaque fois qu’une charge de travail passe de l’un à l’autre.

Où installer l’infrastructure ?

Acheter les GPU se révèle être la décision la plus facile. Il faut ensuite les installer quelque part, les alimenter en électricité, les refroidir et les connecter au reste de votre infrastructure. Le matériel d’IA à haute densité ne peut pas être installé dans un centre de données d’entreprise classique sans apporter d’importantes modifications aux systèmes électriques et de refroidissement, et il n’a pas sa place sur tous les sites que vous exploitez. Dans l’enquête 2025 de l’Uptime Institute sur l’infrastructure de l’IA, 37 % des répondants ont indiqué que la disponibilité de l’électricité était l’un des principaux facteurs déterminant l’emplacement de leurs charges de travail d’inférence IA.

La plupart des entreprises optent pour une combinaison de colocation et de cloud. Ce qui fait généralement pencher la balance, ce sont les données. Elles sont déjà réparties entre plusieurs sites, leur déplacement coûte cher et, dans les secteurs réglementés, certaines ne peuvent pas quitter un pays ou un environnement donné. Regrouper toutes les données dans un seul bâtiment, à côté des GPU, semble simple, mais cela ne se concrétise presque jamais.

La question n’est donc pas seulement de savoir où se trouvent les ressources de calcul. Il faut aussi déterminer comment elles accèdent aux données dont elles ont besoin, de façon sécurisée, sans accumuler des coûts et une complexité que vous regretterez dans trois ans. Voyez-y la troisième grande transformation. La première a été l’Internet, et la connectivité a permis de la mener à bien. La deuxième a été le cloud, et le tissu d’interconnexion y a répondu en permettant une interconnexion définie par logiciel, grâce à laquelle les entreprises pouvaient se connecter à différents fournisseurs depuis un seul endroit. L’IA est la troisième, et le tissu d’interconnexion à lui seul ne suffit pas. Elle a besoin d’électricité, en grande quantité, au même endroit que ce tissu. Les entreprises qui réussiront à déployer l’IA privée seront celles qui installeront les ressources de calcul là où se rejoignent alimentation électrique et connectivité, plutôt que de traiter ces deux aspects dans le cadre de démarches d’approvisionnement distinctes.

Connecter l’IA privée à mesure que les charges de travail évoluent

L’IA agentique rend la question de la connectivité plus urgente. Une application classique reçoit une requête, appelle un modèle et renvoie une réponse. Un agent, lui, est constamment en mouvement. Il appelle plusieurs modèles, interroge différents systèmes, récupère des données là où elles se trouvent et confie des tâches à d’autres agents. Chacun de ces échanges franchit une frontière, ajoute de la latence et soulève la question de savoir qui est autorisé à accéder à quoi.

Placez maintenant le modèle à un endroit, les données à un autre, et ajoutez une règle imposant qu’une partie de ces données reste dans un pays donné ou dans un environnement privé. Les entreprises doivent exercer un contrôle réel sur ces flux : quels systèmes peuvent accéder à quelles données, ce qui se passe lorsqu’une charge de travail est déplacée et comment intégrer un nouveau modèle sans perturber tout ce qui fonctionne déjà.

C’est pourquoi l’infrastructure doit être programmable. Les connexions entre les modèles, les données et les environnements doivent pouvoir être configurées et modifiées, plutôt que de nécessiter un projet d’ingénierie à chaque fois. De plus en plus, ce ne sera pas une personne qui se chargera de la configuration. Des normes comme le Model Context Protocol, ou MCP, offrent à un agent un moyen standard de communiquer avec les outils et les systèmes qui l’entourent. Un agent qui a besoin d’une connexion à une nouvelle source de données ou à un nouveau modèle pourrait la demander, comme il ferait appel à n’importe quel autre service, tout en maintenant en place les règles et les contrôles appropriés. C’est ce que signifie concrètement une infrastructure programmable. De nouveaux modèles apparaissent tous les quelques mois. De nouvelles applications auront besoin de voies d’accès qui n’existent pas aujourd’hui. Si chaque changement impose de tout reconstruire, vous perdez la flexibilité que vous cherchiez à obtenir en optant pour le privé.

Rendre le modèle économique viable

Disposer de la bonne capacité est un facteur déterminant de réussite, et il ne s’agit pas seulement du volume total. Les entreprises qui y parviennent bien comprennent clairement le lien entre la puissance qu’elles consomment et les jetons qu’elles produisent. Le rapport entre puissance et jetons est la mesure économique de référence pour l’IA privée ; si vous le comprenez pour vos propres charges de travail, vous pouvez dimensionner votre environnement en toute confiance. L’autre élément à prendre en compte est la marge de réserve. De nouvelles capacités arrivent sur le marché chaque trimestre, et les entreprises qui planifient bien prévoient toujours de la place pour les prochaines évolutions, au lieu de dimensionner leur infrastructure au plus juste en fonction des besoins actuels. Le meilleur plan combine les deux. Maîtrisez parfaitement votre rapport puissance-jetons, puis prévoyez une marge raisonnable au-delà.

Et les GPU ne représentent qu’une partie de la facture. Leur hébergement, leur refroidissement, leur alimentation électrique et leur connexion au reste de l’entreprise peuvent coûter autant que le matériel. Il faut aussi compter le personnel. La plupart des grandes entreprises n’ont jamais exploité d’environnement informatique à haute densité, et ces compétences ne s’acquièrent pas en recrutant en un trimestre.

C’est pourquoi la capacité de base et les pics de demande sont importants. Constituez une capacité privée suffisante pour couvrir votre charge habituelle, puis louez des ressources supplémentaires lorsque la demande la dépasse : vous éviterez ainsi de payer pour du matériel qui reste inutilisé pendant la majeure partie de l’année. Vous conserverez aussi la possibilité de changer de cap à mesure que les modèles et les applications évoluent, ce qui arrivera.

Préparer l’avenir

Tout cela soulève un problème de calendrier. Il faut environ deux ans pour construire un centre de données. Dans deux ans, les modèles, le matériel et les applications que les entreprises voudront utiliser seront très différents de ceux d’aujourd’hui. Les infrastructures auxquelles vous vous engagez maintenant exécuteront des charges de travail que personne n’est encore en mesure de décrire entièrement.

Les entreprises cherchent encore à déterminer quelles charges de travail relèvent d’un environnement privé et à quel moment elles ont besoin de capacités externes, et il est tout à fait raisonnable d’en être là. Il faut éviter de prendre des engagements en matière d’infrastructure qui vous privent de ce choix avant même que vous ayez eu la possibilité de le faire. Prévoyez de pouvoir utiliser différents modèles, d’augmenter la capacité au besoin et de déplacer les charges de travail.

À long terme, la rentabilité de l’IA privée dépendra moins du modèle choisi que de la capacité de votre infrastructure à suivre l’évolution de vos besoins, à mesure qu’ils se précisent. Adaptez votre infrastructure aux charges de travail d’aujourd’hui, gardez des connexions programmables et installez les ressources de calcul là où le tissu réseau rencontre l’alimentation électrique.