Modèles et plateformes d’IA

Le prochain problème de Shadow IT sera les agents d’ombre

mm
Ajouter Unite.AI à vos sources préférées sur Google

Le Shadow IT désignait autrefois un employé qui s’inscrivait à un outil SaaS sans demander, ou un service qui gérait son propre abonnement jusqu’à ce que le service informatique le découvre à la dure. Nous avons maîtrisé cela grâce à une meilleure visibilité, à une discipline d’approvisionnement et à une gouvernance du cloud.

Les agents vont réinitialiser ce problème, et ils évolueront plus rapidement que le SaaS ou le cloud ne l’ont jamais fait, car cette fois le système non autorisé ne se contente pas de rester inactif. Il agit.

Prolifération de l’autonomie

Les finances créent leurs propres agents. Il en va de même pour les RH, les ventes, les achats et le service client. Les employés déploient des agents personnels. Les fournisseurs intègrent discrètement des agents dans les produits que nous payons déjà.

Multipliez cela à l’échelle d’une grande organisation et le DSI ne suit plus seulement vingt agents. Ce sont des centaines, voire des milliers d’entités logicielles, chacune capable d’interagir avec les systèmes et d’agir. IBM a prédit que les grandes entreprisesexécuteront plus de 1 600 agents d’IA d’ici la fin de l’année. Gartner a averti que les agents créent des infrastructures, des identités et des privilèges d’accès plus rapidement que les processus de gouvernance ne peuvent les suivre.

La priorité des DSI pour 2027 sera de réaliser un inventaire réel. Qui a créé chaque agent, ce qu’il fait, quels systèmes il touche, quelles autorisations il possède, et qui en est responsable. Sans cela, il n’y a aucun programme de gouvernance ; seulement l’hypothèse que quelqu’un d’autre surveille.

L’humain dans la boucle ne passe pas à l’échelle

« Garder un humain dans la boucle » était une réponse raisonnable lorsqu’il n’y avait qu’une poignée d’agents. Cela cesse d’être le cas lorsqu’une entreprise exécute des milliers d’agents réalisant un volume énorme d’actions. Il n’y a pas assez de personnes ni d’heures pour cela.

La solution est une autonomie basée sur le risque, et non une supervision globale. Un agent qui met à jour un enregistrement interne n’a pas besoin du même niveau de contrôle qu’une transaction financière. Ce qui doit déterminer le degré d’implication humaine : la valeur monétaire de l’action, la sensibilité des données, le niveau de confiance de l’agent, l’exposition réglementaire, et le fait que l’agent agisse en dehors de ses paramètres prévus.

Gartner a présenté un modèle similaire, incluant des points de contrôle allant de l’approbation pré‑exécution à l’intervention en cours de tâche, à la revue post‑exécution et à des échantillonnages périodiques. L’objectif n’est pas d’avoir un humain dans la boucle partout. C’est un humain au bon moment de la boucle.

Agents gérant des agents

Aujourd’hui, la plupart des organisations sont encore dans la phase où un humain dirige un agent. Vient ensuite les systèmes multi‑agents : des agents spécialisés qui communiquent entre eux, transmettent des tâches et exécutent des flux de travail complets sans qu’une personne ne se trouve au milieu.

Un agent d’approvisionnement signale un besoin, vérifie le budget avec un agent financier, et déclenche un agent d’achat pour l’exécuter ; aucun humain ne touche à rien. McKinsey qualifie cela comme une architecture émergente « maillage agentique ». Deloitte a constaté que seulement 15 % des organisations ont généralisé l’adoption de multi‑agents interfonctionnels, et seulement 5 % affirment que leurs processus métier sont fortement préparés à cela.

Le risque prend une autre forme ici. Ce n’est plus « un agent a-t-il fait une erreur ? », mais jusqu’où cette erreur se propage à travers un réseau d’agents et de systèmes avant que quiconque ne s’en rende compte. Les DSI devront gouverner non seulement les agents individuels, mais aussi les relations et dépendances entre eux.

L’économie des agents n’est pas celle du SaaS

Les agents ne répondent pas à une invite puis s’arrêtent. Ils fonctionnent en continu, appellent les modèles de façon répétée, sollicitent des API, consomment des ressources cloud et déclenchent d’autres agents. C’est un profil de coût différent de l’ajout d’un siège SaaS, et il manque de prévisibilité.

Un flux de travail qui semble bon marché lors d’un pilote peut devenir rapidement coûteux une fois que des centaines d’agents l’exécutent en production de façon continue. IBM prévoit que les dépenses en IA augmenteront de moins de 15 % des budgets informatiques en 2025 à près de 25 % d’ici 2027, et a constaté que 85 % des dirigeants technologiques manquent encore de visibilité complète sur les dépenses d’IA en temps réel.

Connaissez le coût d’un agent par tâche, par flux de travail, par résultat commercial. Pas seulement le prix du modèle sous‑jacent.

Passer de la gestion de la technologie à la gestion de l’autonomie

Pendant des décennies, mon rôle de CTO a consisté essentiellement à gérer des systèmes que les gens utilisent. Cela change. Aujourd’hui, je gère des systèmes qui agissent au nom des personnes, et c’est un tout autre type de travail.

Ainsi, quand je réfléchis à qui sera en tête en 2027, ce ne sera pas le DSI qui a déployé le plus d’agents. Ce sera celui qui pourra réellement vous dire quels agents il possède, ce que ces agents sont autorisés à faire, qui en est responsable, quel en est le coût, et le retour sur investissement de cet investissement.

Nous avons passé 2026 à déterminer comment mettre l’IA en production. 2027 consistera à définir quoi faire une fois qu’elle agit de façon autonome, et comment la gouverner de manière à renforcer la sécurité et la conformité sans sacrifier l’efficacité.

Jeremy Ung est le directeur technologique de BlackLine. Il supervise la direction technologique mondiale de l'entreprise en mettant l'accent sur l'amélioration de ses solutions pour le bureau du CFO grâce à des données connectées et des plateformes alimentées par l'IA qui accéléreront la capacité de l'entreprise à se développer et à fournir continuellement de la valeur aux clients.