Leaders d’opinion
De l’intention à l’action autonome : gouverner les agents d’IA dans l’entreprise

Points clésLa gouvernance doit être intégrée au produit car elle définit quelles responsabilités…
Voir plus
- La gouvernance doit être intégrée au produit car elle définit quelles responsabilités une organisation peut déléguer en toute sécurité.
- Un plan de contrôle agentique lie l'identité de l'agent et les capacités approuvées à l'application des politiques et à la supervision de l'exécution.
- Les organisations devraient commencer par un flux de travail restreint et étendre l'autorité des agents uniquement lorsque les preuves opérationnelles le justifient.
Une instruction telle que « rétablir le service » semble simple, jusqu’à ce qu’un agent d’IA doive déterminer ce qu’elle l’autorise à faire. Redémarrer une application, modifier une configuration et provisionner une infrastructure peuvent tous contribuer à atteindre cet objectif, mais chacun entraîne des conséquences différentes. À mesure que les agents passent de la recommandation à l’exécution, les organisations doivent établir un lien explicite entre l’intention métier et les pouvoirs opérationnels.
La gouvernance doit être intégrée au produit, car elle détermine les responsabilités qu’une organisation peut déléguer en toute confiance. Un agent capable d’accomplir une tâche de manière fiable, dans les limites convenues et en fournissant des preuves de ses actions, constitue une base plus solide pour son adoption en entreprise qu’un agent dont les pouvoirs restent ambigus. Le défi architectural consiste à intégrer ces limites au fonctionnement même du système.
Pour mettre ces limites en pratique, il faut disposer d’une méthode cohérente pour gouverner les actions des agents. Un plan de contrôle agentique peut fournir cette base en reliant, au sein des systèmes d’entreprise existants, l’identité des agents, les capacités approuvées, l’application des politiques, les contrôles de mémoire et la supervision de l’exécution. Il établit qui a demandé une action, quelle autorité la justifie, quelles ressources elle peut affecter et comment son résultat sera vérifié.
Voici trois recommandations pratiques que nous préconisons pour gouverner les agents d’IA dans l’entreprise :
Relier les capacités à des pouvoirs explicites
Chaque agent doit avoir un responsable identifiable, un objectif défini et des autorisations adaptées à sa tâche. Cette approche concorde avec le Cadre de gestion des risques liés à l’IA du NIST, qui considère la gouvernance comme une fonction continue tout au long du cycle de vie de l’IA. Pour les agents, ce principe doit s’appliquer jusqu’au moment où une action modifie un système d’entreprise. Lorsqu’un agent délègue une tâche à un autre, ces limites doivent rester en place.
La découverte des capacités exige la même rigueur : un catalogue approuvé doit décrire l’objectif de chaque outil, ses entrées et sorties, les environnements autorisés et ses effets secondaires potentiels. Découvrir un outil ne donne pas le droit de l’exécuter ; l’autorisation doit donc être vérifiée au moment où une action est tentée. Les recommandations d’OWASP sur l’excès d’autonomie soulignent cette distinction en préconisant de limiter les fonctionnalités et les autorisations, et d’appliquer les contrôles d’autorisation dans les systèmes en aval.
Prenons l’exemple d’un processus de rétablissement du service : un agent examine un ralentissement de l’application et propose de redémarrer un composant. La politique autorise l’accès aux données de télémétrie approuvées, tandis qu’un redémarrage en production exige des preuves que la redondance fonctionne correctement ainsi que l’approbation du responsable du service. Ces conditions transforment une instruction générale en une décision opérationnelle encadrée.
Transformer l’intention opérationnelle en outils encadrés
Si un outil de rétablissement approuvé existe, l’agent peut préparer une demande en utilisant cette capacité. Si aucun outil de ce type n’existe, il peut contribuer à créer un script, une procédure d’exploitation, un schéma d’entrée et une description de l’outil, transformant ainsi l’intention opérationnelle en une capacité proposée que d’autres pourront examiner. C’est là l’intérêt pratique de la programmation d’outils par les agents : ceux-ci peuvent contribuer aux mécanismes d’exploitation, en plus de les utiliser.
Toutefois, générer ces mécanismes ne devrait pas suffire à les rendre automatiquement exécutables en production. Toute capacité proposée doit suivre un processus de mise en production indépendant, avec un responsable clairement désigné, des contrôles de sécurité, un suivi des versions et des tests couvrant les entrées non valides, les périmètres excessifs, les défaillances partielles et les exécutions répétées. Les tests générés par un agent peuvent fournir des éléments de preuve, mais une validation indépendante doit déterminer si la capacité répond aux exigences opérationnelles avant son inscription au catalogue approuvé.
Les limites d’exécution doivent ensuite encadrer le périmètre des ressources, l’accès au réseau, la durée et les dépenses ; toute approbation requise doit être associée à l’action, à la cible et à la version concernées. Les modalités de rétablissement méritent la même attention : certaines modifications peuvent être annulées, tandis que d’autres nécessitent des mesures compensatoires ou sont irréversibles. Chaque capacité doit clairement préciser ces limites et fournir aux opérateurs un moyen testé de suspendre toute nouvelle exécution.
La mémoire entraîne une autre responsabilité en matière de gouvernance, car les observations conservées peuvent influer sur des décisions ultérieures longtemps après que leur contexte initial a changé. Les organisations doivent définir ce que les agents peuvent stocker, combien de temps les informations restent accessibles et quelles limites d’accès s’appliquent, en s’appuyant sur des mécanismes de traçabilité de la provenance et de correction. Une autorisation mémorisée ne doit jamais devenir un pouvoir permanent, et des connaissances opérationnelles obsolètes ne doivent pas orienter silencieusement de nouvelles actions.
Accroître l’autonomie en s’appuyant sur des preuves
Une supervision efficace repose sur des éléments de preuve qui relient la demande initiale, la politique applicable, l’approbation, la version de l’outil, le résultat de l’exécution et la vérification ultérieure. Les personnes chargées de l’examen doivent disposer d’un contexte suffisant pour évaluer la modification proposée, son incertitude et les possibilités de rétablissement, sans être submergées de détails superflus. Pour faciliter cette supervision, les conditions de remontée doivent être définies, par exemple en cas d’observations contradictoires ou d’état inhabituel du système, plutôt que de reposer uniquement sur le niveau de confiance exprimé par l’agent.
Les responsables informatiques devraient commencer par un processus opérationnel restreint, puis élargir le champ d’action à mesure que les résultats opérationnels le justifient. Ils devraient mesurer les résultats obtenus, mais aussi les exceptions, le temps de rétablissement, les violations des règles et les efforts de supervision. Ces mesures permettent de déterminer si un agent est prêt à assumer davantage de responsabilités et où des garde-fous ou des tests supplémentaires sont nécessaires.
L’enjeu est de rendre la délégation reproductible : chaque capacité approuvée définit ce qu’un agent peut faire, dans quelles conditions et avec quel niveau de responsabilité. Cette rigueur peut renforcer la résilience et l’efficacité, tout en donnant aux organisations des fondements solides pour accorder davantage d’autonomie. L’essentiel à retenir est le suivant : la gouvernance trouve sa place dans le produit en rendant cette progression possible.












