Lorsque l’IA agit, l’informatique est toujours responsable des conséquences

Les dirigeants responsables de la technologie sont confrontés à une réalité inconfortable. Les stratégies de gestion de l’informatique qui assuraient autrefois le contrôle, la responsabilité et la résilience ne sont plus adaptées à l’avenir. Ce n’est pas un échec de leadership ou de discipline, ni le résultat d’erreurs isolées. Cela reflète un changement structurel dans la façon dont la technologie fonctionne et dont les décisions sont prises au sein des entreprises modernes.

Au centre de ce changement se trouve l’intelligence artificielle, qui redéfinit non seulement les outils utilisés par les organisations, mais également les mécanismes de gouvernance. L’IA ne se contente pas d’étendre les systèmes existants ; elle modifie le rythme, l’échelle et l’autonomie avec lesquels ces systèmes fonctionnent et oblige à réévaluer la façon dont le contrôle est établi et maintenu.

Le défi n’est plus de contrôler chaque action. Il s’agit de concevoir des garde-fous qui permettent aux systèmes autonomes de se déplacer rapidement sans créer des niveaux de risque, de coût ou de conséquences inacceptables.

Quand la gouvernance perd sa fenêtre

Pendant des décennies, la gouvernance de l’informatique reposait sur une hypothèse fondamentale selon laquelle les systèmes fonctionnaient à un rythme qui permettait une surveillance humaine. Les politiques pouvaient être examinées, les budgets évalués, la conformité vérifiée et les exceptions escaladées, car il y avait toujours le temps d’intervenir avant que les résultats ne deviennent matériels. Même si les organisations ont évolué à travers les vagues d’innovation mobile, cloud et Big Data, cette hypothèse a largement tenu. Il y avait toujours une fenêtre de gouvernance, un point entre l’intention et l’exécution où le jugement humain pouvait être appliqué pour façonner, arrêter ou étendre les résultats.

Cette hypothèse n’est plus valable. L’enquête de mars 2026 d’EY sur l’adoption de l’IA autonome a révélé que 85 % des dirigeants technologiques donnent désormais la priorité à la vitesse de mise sur le marché pour l’IA plutôt qu’à la gouvernance, un signal que l’équilibre entre contrôle et vitesse a déjà commencé à pencher en faveur de l’exécution.

Et nous savons pourquoi. L’IA introduit des boucles de décision autonomes qui sont complexes, interconnectées et de plus en plus indépendantes des contraintes traditionnelles telles que la budgétisation, la conformité et la surveillance de la sécurité. Ces systèmes ne s’arrêtent pas pour examen ou approbation. Ils sont conçus pour agir sans relâche, s’adapter et atteindre leurs objectifs, souvent en temps réel et à une échelle qui dépasse la compréhension humaine, même s’ils parlent avec la façade de la politesse humaine. Le résultat est une compression des cycles de décision à un point où l’intervention humaine significative n’est plus réalisable.

L’IA change l’économie de l’exécution

Dans le même temps, cette transformation converge avec un autre changement structurel qui redéfinit la technologie d’entreprise. La consommation est passée d’investissements fixes à des modèles basés sur l’utilisation et les résultats, où les coûts évoluent dynamiquement avec l’exécution. Le rapport de décembre 2025 de Menlo Ventures, L’état de l’IA générative dans l’entreprise, illustre l’ampleur de ce changement, notant que les entreprises ont dépensé 37 milliards de dollars en IA générative en 2025 seul, soit une augmentation de 3,2 fois par rapport à l’année précédente.

Dans ce nouvel environnement, les systèmes d’IA sont optimisés pour atteindre des résultats, et non pour respecter des contraintes prédéfinies. Ils poursuivent des objectifs à travers des modèles de consommation de ressources qui sont intrinsèquement difficiles à prévoir. Une seule demande peut déclencher une cascade d’actions à travers les API, les services internes et les dépendances tierces, avec des conséquences financières et opérationnelles qui ne deviennent souvent visibles qu’après l’exécution. Ce qui semble simple au point de lancement peut s’étendre en une chaîne complexe d’interactions qui ne correspond plus aux cadres de gouvernance ou de budgétisation traditionnels.

L’effondrement des modèles de contrôle traditionnels

Les implications pour la gouvernance sont profondes. Les modèles de gestion de l’informatique traditionnels reposent sur une séquence familière : définir des politiques, approuver des décisions, gérer des exceptions et auditer les résultats. Chaque étape est construite sur l’hypothèse qu’il y a une séparation claire entre l’intention et l’impact. Mais dans un environnement piloté par l’IA, l’écart entre l’intention et l’impact a effectivement disparu.

Les politiques ne peuvent pas s’adapter suffisamment rapidement pour gouverner l’exécution en temps réel. L’approbation préalable devient impraticable lorsque les décisions se déroulent en millisecondes. Les exceptions surgissent uniquement après que le résultat ait déjà propagé à travers les systèmes. Les audits restent possibles, mais ils ne peuvent reconstruire les événements qu’après coup, souvent longtemps après que les conséquences se soient déjà matérialisées.

Des preuves de cet effondrement sont déjà visibles. Le rapport de IBM sur le coût d’une faille de sécurité a constaté que 97 % des organisations ayant subi des failles de sécurité importantes liées à l’IA ne disposaient pas de contrôles d’accès appropriés pour ces systèmes. Pourtant, même face à ces risques, l’adoption continue d’accélérer, motivée par la valeur stratégique perçue de l’IA. L’histoire suggère que ce déséquilibre ne persistera pas indéfiniment. La technologie n’a jamais fonctionné sans gouvernance pendant longtemps, et à terme, l’IA exigera de nouvelles formes de structure, de discipline et de contrôle exécutoire qui doivent être définies très différemment des hypothèses actuelles.

L’émergence de l’IA agente sur l’IA générative accélère encore cette transformation. Les systèmes capables de planifier, d’exécuter et d’affiner leurs propres actions représentent un changement fondamental dans la façon dont le travail est effectué. Le contrôle n’est plus intégré dans les séquences de décisions humaines ; il est intégré dans la conception du système lui-même. Cette conception détermine non seulement les actions prises, mais également la portée, la vitesse et le coût avec lesquels ces actions se propagent. Elle doit donc encoder les hypothèses, les contraintes et les obligations que les organisations sont tenues de respecter, de la conformité réglementaire à la politique opérationnelle en passant par la confiance des clients.

La responsabilité est toujours humaine

Cela crée une tension croissante entre capacité et responsabilité. L’IA fonctionne à la vitesse de la machine, tandis que la responsabilité reste fermement humaine, contrainte par le rythme auquel les gens peuvent interpréter, comprendre et répondre aux résultats. Les conseils d’administration, les régulateurs et les actionnaires n’accepteront pas que les systèmes autonomes aient simplement agi comme prévu comme explication suffisante pour l’échec. La responsabilité ne se déplace pas avec l’automatisation ; elle reste avec l’entreprise et avec les dirigeants chargés de sa surveillance.

Le résultat est un décalage croissant entre action et responsabilité. Les décisions sont exécutées plus rapidement qu’elles ne peuvent être gouvernées, et souvent de manière difficile à tracer en temps réel. Dans le même temps, l’obligation d’expliquer, de contrôler et de justifier ces décisions s’intensifie à mesure que leur volume et leur impact augmentent. Ce décalage définit le défi central auquel est confrontée la direction de l’informatique moderne : gouverner un environnement dans lequel l’intervention ne peut pas être supposée, les coûts sont inhérentement variables et le contrôle ne peut pas être entièrement reconstruit après coup.

Une nouvelle catégorie de risque d’entreprise

La vitesse et l’autonomie des décisions pilotées par l’IA créent un profil de risque matériellement différent. Ces systèmes n’augmentent pas simplement l’exposition à des catégories de risque familières telles que le risque financier, opérationnel, juridique ou de réputation ; ils modifient la façon dont ces risques émergent, s’étendent et se matérialisent. L’exposition financière peut croître rapidement à mesure que l’activité à consommation se propage en temps réel. Les perturbations opérationnelles peuvent se propager à travers les systèmes interconnectés avant d’être détectées. Les violations juridiques ou réglementaires peuvent survenir sans intention claire ou traçabilité. Les dommages à la réputation peuvent se dérouler plus rapidement que l’organisation ne peut y répondre.

Ces risques ne sont plus théoriques. Un seul individu peut maintenant déployer des agents d’IA capables de s’engager dans des dépenses, de modifier des systèmes et d’initier des actions à une vitesse qui dépasse la capacité des fonctions juridiques, informatiques ou financières à définir des limites, à surveiller le comportement ou à appliquer des contrôles. La responsabilité devient de plus en plus difficile à mesure que les mécanismes de gouvernance traditionnels ne parviennent pas à suivre la vitesse d’exécution, et la budgétisation devient moins cohérente à mesure que les petites actions incrémentales s’agrégent en résultats financiers importants.

Dans cet environnement, les systèmes d’IA seront constamment à la recherche du chemin le plus efficace pour atteindre leurs objectifs. Sans contraintes clairement définies, ce chemin divergera souvent des attentes de l’organisation.

De la gestion des infrastructures à la conception de garde-fous

Ces réalités redéfinissent le rôle de la direction de l’informatique. Les dirigeants technologiques ne gèrent plus simplement des systèmes ; ils gèrent un comportement autonome à grande échelle. Le rôle de l’informatique est en train de passer d’un contrôle direct de l’infrastructure à la conception et à l’application de garde-fous qui définissent des niveaux acceptables d’intention, de risque et de coût. Là où l’informatique se concentrait autrefois sur la fourniture de stockage, de calcul et de connectivité, elle doit désormais se concentrer sur la façon dont les systèmes agissent dans les limites définies, car l’avenir de l’informatique dépend de l’efficacité de ces garde-fous.

Les organisations qui ne parviennent pas à s’adapter lutteront pour opérer à la vitesse requise par les clients et les marchés. Celles qui réussissent obtiendront un avantage concurrentiel durable en combinant vitesse et contrôle. Ce moment représente un tournant pour les entreprises, qui déterminera à quel point elles peuvent exploiter l’IA pour accroître la production, améliorer les performances et concurrencer dans un environnement de plus en plus dynamique.

En fin de compte, la responsabilité reste humaine. Les organisations qui réussissent seront celles qui reconnaissent cette réalité et sont prêtes à opérer dans ce contexte.

Que doivent faire les DSI tournés vers l’avenir ?

Ces changements créent un ensemble clair de priorités pour le DSI tourné vers l’avenir.

Les DSI doivent établir une solide gouvernance financière et opérationnelle sur l’activité de l’IA, fondée sur des contrôles en temps réel qui gèrent les coûts, les déclencheurs d’exécution et le comportement agissant. Ces contrôles doivent inclure des mécanismes exécutoires tels que des seuils de dépenses, des plafonds d’utilisation et des coupures automatiques qui empêchent la consommation excessive avant qu’elle ne crée un impact financier matériel.

Dans le même temps, les organisations doivent définir et gérer l’économie sous-jacente de l’IA. Cela nécessite de suivre les principaux moteurs tels que les invites, les appels de modèle, les agents et les modèles d’accès, tout en veillant à ce que ces mesures soient directement liées aux résultats commerciaux tels que la demande des clients, la prestation de services, la productivité opérationnelle et la croissance des revenus.

La gouvernance doit également inclure l’intégration d’une visibilité continue et en temps réel sur l’activité de l’IA. La traçabilité et l’auditabilité ne peuvent plus reposer sur l’analyse post-événement ; elles doivent fournir une compréhension continue de la façon dont les systèmes fonctionnent, d’où provient l’activité, quels modèles et agents sont impliqués et comment les ressources sont consommées. Cette visibilité permet aux organisations de suivre le comportement à mesure qu’il se déroule et d’intervenir lorsque nécessaire.

L’exécution de l’IA doit être comprise non comme un événement unique, mais comme une chaîne d’interactions et de passes qui doivent être suivis de manière contextuelle et continue. Une seule demande peut déclencher une activité en aval à travers les systèmes internes, les services externes et les agents coordonnés, amplifiant à la fois le coût et l’impact opérationnel. Une gouvernance efficace nécessite donc une visibilité sur ces chaînes de dépendance et des définitions pour pleinement comprendre l’étendue de l’exécution.

Une propriété et une responsabilité claires doivent sous-tendre tous ces efforts. Les organisations doivent définir qui est responsable de la construction et du déploiement de systèmes d’IA, qui possède les sorties qu’ils génèrent et qui est responsable des résultats financiers, opérationnels et de conformité. Sans propriété explicite, la gouvernance ne peut pas réussir.

Enfin, les DSI doivent normaliser un ensemble de métriques au niveau de la direction qui traduisent l’activité technique en insights commerciaux significatifs. Cela inclut le coût de l’utilisation des modèles, le coût par résultat piloté par l’IA, les dépenses totales d’IA sous gestion et la visibilité au niveau du portefeuille sur les modèles et les agents. Ensemble, ces mesures fournissent une vue claire de l’échelle et de l’efficacité de l’utilisation de l’IA, permettant des décisions éclairées aux niveaux les plus élevés de l’entreprise. t. Ces éléments incluent le coût de l’utilisation des modèles, le coût par résultat piloté par l’IA, les dépenses totales d’IA sous gestion et la visibilité au niveau du portefeuille sur les modèles et les agents. Ensemble, ces mesures fournissent une vue claire de l’échelle et de l’efficacité de l’utilisation de l’IA, permettant des décisions éclairées aux niveaux les plus élevés de l’entreprise.