L'IA en entreprise : un bilan complet des coûts

L'IA a dépassé le stade de la théorie et de la nouveauté. Pour de nombreuses organisations, elle fait désormais partie intégrante de leur infrastructure, au même titre que leurs systèmes essentiels. Beaucoup l'associent encore principalement aux plateformes de formation en ligne et aux chatbots : des outils que l'on consulte ponctuellement via un navigateur et que l'on supprime une fois l'utilisation terminée. Cette vision réductrice de l'IA risque de faire oublier la vaste gamme de modèles et de techniques capables d'améliorer les résultats plus efficacement et avec moins de risques.

En réalité, l'IA doit être évaluée comme tout autre investissement majeur en infrastructure : avec une vision claire des coûts, des avantages et des risques opérationnels dès le départ. Pour la rendre opérationnelle, il est indispensable d'investir dans des flux de données de qualité, l'observabilité, la gouvernance et les personnes chargées de garantir son alignement avec les objectifs commerciaux visés. Négliger ces aspects, c'est simplement reporter la facture à plus tard, assortie d'intérêts supplémentaires.

Comment les coûts de l'IA évoluent réellement

On pourrait croire, à juste titre, que les coûts de l'IA augmentent de façon linéaire : deux fois plus de travail implique deux fois plus de dépenses. En réalité, l'effort, les coûts et les résultats peuvent évoluer indépendamment les uns des autres de manière surprenante. Demandez à une IA de lire un long document d'une seule traite : elle devra analyser chaque mot en relation avec tous les autres. Dans la plupart des modèles de lecture de textes (LLM) courants, cela signifie que le travail impliqué, et donc le coût, n'augmente pas comme on pourrait s'y attendre (doubler la quantité de données, doubler le coût), mais plutôt approximativement avec le carré de la longueur du document. Comprendre ces principes fondamentaux peut avoir un impact réel sur la rentabilité de tout déploiement d'IA. Si une organisation qui traite quotidiennement de gros volumes de texte, un organisme de réglementation par exemple, conçoit dès le départ son système autour de la recherche graphique ou de pipelines d'extraction de données au lieu d'envoyer des documents entiers au modèle, l'expérience utilisateur reste la même : « poser une question, obtenir une réponse en quelques secondes », comme avec un chatbot public. Les dirigeants, friands d'IA, sont ainsi satisfaits des interactions instantanées, tandis qu'en coulisses, le système effectue beaucoup moins de tâches inutiles et la facture de calcul est considérablement réduite.

Comment les dépenses liées à l'IA sont réparties au sein de l'organisation

Les choix technologiques ne représentent qu'une partie de l'histoire ; le reste concerne la manière dont les organisations abordent l'IA dès le départ. Dans de nombreuses organisations, la préparation des données relève de l'ingénierie, les contrôles de conformité du service juridique, et les dépenses liées au cloud des équipes plateforme ou infrastructure. La sélection, la configuration et le réglage fin des modèles sont généralement confiés à quelques experts. Chaque groupe a sa propre part de travail et son propre budget. Les dépenses se traduisent par des ressources de calcul ici, du temps de consultants là, et du temps consacré par les employés aux tâches courantes de plusieurs équipes. Avec des coûts dispersés entre différents centres de coûts, le coût total d'une initiative d'IA peut être difficile à appréhender et facilement sous-estimé. Dans ce contexte, les coûts de l'IA peuvent exploser insidieusement, simplement parce que personne ne centralise le suivi global.

Une approche pratique de la gestion des coûts de l'IA

Éviter l'IA n'est pas la bonne solution pour les organisations, pas plus que de la considérer comme une solution miracle. Une bonne stratégie consiste toujours à partir du résultat souhaité et à remonter la chaîne. Tous les cas ne nécessitent pas un modèle de pointe, coûteux à exploiter et à usage général. De nombreuses tâches peuvent être prises en charge par des techniques d'apprentissage automatique bien maîtrisées, relevant de l'IA, et exécutées sur l'infrastructure existante.

Commencez par des projets pilotes de petite envergure qui mesurent le coût total de possession, et pas seulement l'utilisation du modèle. Cela implique de prendre en compte la puissance de calcul, bien sûr, mais aussi le travail d'intégration, le temps d'ingénierie, la gestion du changement et les efforts de mise en conformité. L'objectif est de choisir le modèle le plus simple et le plus compact offrant un résultat acceptable, plutôt que de supposer qu'un modèle plus complexe est synonyme de meilleurs résultats.

L'IA n'est pas une entité monolithique. C'est une combinaison de techniques et d'outils qui peuvent être utilisés de différentes manières. Cette vision démystifie les résultats impressionnants et permet aux entreprises d'exploiter sa puissance avec plus de responsabilité et un impact accru.

Les gens, le temps et l'IA

Chaque Déploiement de l'IA Il s'agit en pratique d'une collaboration entre les personnes et le logiciel. Que cela soit reconnu formellement ou non, c'est ainsi que le travail est effectué. La tendance actuelle vers une plus grande IA agentique – Les outils capables d’enchaîner les étapes, d’appeler d’autres systèmes et d’agir avec moins d’instructions – ne changent rien à cela ; en réalité, ils renforcent l’importance de bien maîtriser l’aspect humain du flux de travail.

Il est facile de faire trop confiance à ces outils. Lorsqu'un système fournit des réponses fluides et assurées, il est naturel de supposer qu'il est généralement correct. Si ce type d'outil est intégré à un flux de travail sans formation adéquate, sans limites claires et sans contrôles pertinents, il peut générer discrètement une série de petites erreurs. Chacune d'elles doit être détectée, comprise et corrigée par une personne. Sur le papier, l'IA semble efficace, mais en pratique, elle engendre un coût caché : le temps humain supplémentaire consacré au nettoyage. Dans un contexte de relation client ou de réglementation, ces petites erreurs peuvent également nuire à la réputation. Quelle que soit la manière dont les outils sont déployés ou utilisés, la responsabilité de leurs résultats incombe toujours à l'organisation et, au quotidien, aux opérateurs humains qui les utilisent. Il est essentiel que cela soit clairement compris pour que ces outils soient véritablement utiles.

Une approche plus efficace consiste en un partenariat délibéré : les personnes compétentes conservent la maîtrise des résultats, et l’IA est utilisée pour accélérer les tâches qui s’y prêtent, comme la synthèse, la rédaction, le tri et la recherche. Même si certaines vérifications et corrections restent nécessaires, l’effet global d’une IA bien intégrée et bien gérée dans les flux de travail peut se traduire par une rapidité, une cohérence et une capacité accrues par rapport à ce qu’une équipe pourrait réaliser seule.

La gouvernance dans le cadre du budget de l'IA

Même lorsque les choix techniques sont judicieux et que l'utilisation est efficace, une part croissante des dépenses en IA sera immobilisée dans gouvernance Plutôt que de se concentrer sur la puissance de calcul brute, la loi sur l'IA est très claire à ce sujet pour les organisations opérant dans l'UE. Elle adopte une approche de l'IA fondée sur les risques et, point important, ne se limite pas aux produits destinés au public. Les systèmes internes utilisés dans des domaines tels que le recrutement et la promotion, la gestion et le suivi des employés, ainsi que certaines prises de décision liées à la sécurité, peuvent être concernés et entraîner des obligations en matière de gestion des risques, de documentation, de journalisation et de supervision humaine. D'autres régions évoluent dans une direction similaire, et même si les règles diffèrent légèrement, la tendance générale reste la même : les grandes organisations doivent savoir où l'IA est utilisée, ce qu'elle fait et comment elle est contrôlée.

Concrètement, cela signifie que les projets d'IA internes peuvent désormais engendrer une charge de travail de gouvernance spécifique et obligatoire. Chaque nouveau cas d'usage peut nécessiter une nouvelle évaluation des risques ou de l'impact, un suivi renforcé et davantage de questions de la part des équipes de conformité, d'audit ou de gestion des risques. Ces éléments ne seront pas reflétés dans les indicateurs d'utilisation du modèle, mais il s'agit d'un effort réel qui doit être pris en charge.

Encore une fois, rien de tout cela ne justifie de rejeter l'IA. Cela nous rappelle simplement que le coût d'exploitation d'un processus interne basé sur l'IA ne se limite pas au prix d'utilisation du modèle. La gouvernance et les exigences réglementaires font désormais partie intégrante du coût total de possession.

Les échecs des déploiements d'IA

Un problème récurrent dans les projets d'IA est le décalage entre l'apparence d'un système lors d'une démonstration et son comportement à grande échelle en conditions réelles. Dans un environnement contrôlé, avec un nombre restreint de questions et des données appropriées, les résultats peuvent paraître impeccables. Il est alors facile de supposer que le système est prêt à prendre en charge toute une catégorie de tâches.

Les problèmes ont tendance à apparaître plus tard, lorsque le système est confronté à toute la diversité et au volume d'une utilisation réelle : requêtes inhabituelles, utilisateurs stressés, enregistrements incomplets, cas particuliers complexes. Les failles invisibles lors de la démonstration se manifestent alors par des réponses inappropriées, des nuances mal comprises, des boucles de support interminables, des délais de traitement plus longs et une érosion insidieuse de la confiance. Les indicateurs internes tels que le nombre de requêtes traitées et le temps gagné peuvent sembler satisfaisants sur le papier, mais l'expérience vécue par les utilisateurs finaux peut révéler une tout autre réalité.

Passer directement d'une démo soignée ou d'un projet pilote à petite échelle, où le succès en conditions contrôlées est considéré comme la preuve que le système est prêt pour un déploiement à plus grande échelle, peut s'avérer une erreur coûteuse. Dans la réalité, les utilisateurs génèrent des requêtes complexes, des données incomplètes et leurs propres idées préconçues sur les capacités de l'outil. Si les attentes ne sont pas gérées et si le flux de travail autour du système n'est pas conçu avec des solutions de repli et de gestion des incidents, l'organisation paie deux fois : une première fois pour le développement, et une seconde fois en termes de support supplémentaire, de corrections, de réclamations et de perte de confiance. La technologie peut sembler impressionnante sur le papier, mais sans une approche pragmatique de son application aux utilisateurs et aux processus réels, le retour sur investissement s'amenuise rapidement.

En revanche, les systèmes bien conçus, avec des limites clairement définies et une responsabilité humaine intégrée dès le départ, peuvent accomplir des tâches qu'aucune équipe humaine ne pourrait gérer seule : analyser d'énormes volumes d'informations en quelques secondes, repérer des tendances sur des années de données et traiter des décisions courantes à une échelle autrement inaccessible. L'enjeu est donc que, pour bénéficier de ces avantages, les organisations doivent concilier leurs ambitions avec une vision réaliste du comportement de la technologie une fois déployée.

Réflexions de clôture

Rien de tout cela ne constitue un argument contre l'IA. Il s'agit plutôt d'un plaidoyer pour la traiter avec le même sérieux que tout autre système susceptible de modifier sensiblement le fonctionnement d'une entreprise.

Bien utilisée, l'IA permet aux petites équipes d'agir à plus grande échelle, de déceler des tendances difficiles à repérer manuellement et d'optimiser l'expertise. Mais pour y parvenir, il est essentiel d'avoir une vision claire de son utilisation, de son coût total et de sa gouvernance. Cela implique de faire des choix éclairés concernant les modèles et les architectures, d'investir dans les données et l'observabilité, et de concevoir des processus qui maintiennent l'humain au cœur des décisions.

« Agir vite et prendre des risques » était un slogan conçu pour les équipes humaines travaillant sur des systèmes à échelle humaine : si quelque chose dysfonctionnait, on revenait en arrière, on réparait le problème et on passait à autre chose. Dès lors que l’IA s’intègre aux décisions concernant les clients, les employés ou les citoyens, cette même attitude peut engendrer des problèmes qui se propagent plus rapidement, ont des conséquences plus graves et sont beaucoup plus difficiles à résoudre. La rapidité reste importante, et l’IA peut certainement y contribuer, mais elle doit s’accompagner d’une vision claire des risques, des coûts et des responsabilités.

Il est impossible d'éliminer totalement les coûts et les risques. Cependant, une différence notable existe entre les organisations qui s'appuient sur des expérimentations ponctuelles et celles qui intègrent l'IA à leurs opérations de manière réfléchie, en ayant une vision claire du rapport entre les dépenses et les résultats obtenus. Face à la diversité des problèmes et des résultats attendus, aucune solution d'IA unique ne peut tout résoudre. Une utilisation efficace de l'IA en entreprise doit toujours être spécialisée, encadrée et soigneusement définie.