Partenariats
Microsoft lance une initiative sur la transparence de l’IA pour les agents d’entreprise

Points clésLes contrôles existants observent l'activité autour des modèles mais ne peuvent pas…
Voir plus
- Les contrôles existants observent l'activité autour des modèles mais ne peuvent pas vérifier ce qui se passe à l'intérieur de ceux-ci.
- Le cadre exige des preuves qui restent portables lorsque les entreprises changent de modèles ou de fournisseurs.
- Microsoft élargira sa participation à l'Initiative sur les normes des agents SI du NIST afin de développer des normes ouvertes.
Le 17 novembre 2026, à Microsoft Ignite, Microsoft a annoncé l’Initiative pour la transparence de l’IA, qui réunit plus de 40 organisations afin d’élaborer des normes ouvertes pour sécuriser et encadrer les modèles et les agents d’IA de différents fournisseurs.
Satya Nadella, président du conseil d’administration et directeur général, a présenté cette initiative aux côtés de clients et de partenaires, notamment Accenture, Adobe, KPMG, Mastercard et Volvo Cars. Cette collaboration vise à rendre les systèmes d’IA responsables, vérifiables de manière indépendante et sûrs dès leur conception, quel que soit le modèle ou le fournisseur. Son principe directeur est que plus l’IA est autonome, plus la transparence doit être grande.
Le manque de preuves dans les entreprises
Les entreprises connectent les modèles à des données, des outils, des identifiants et des infrastructures, ce qui permet aux agents d’agir sans approbation humaine à chaque étape. Selon Microsoft, les mécanismes de contrôle existants peuvent observer l’activité autour des modèles, mais pas ce qui se passe à l’intérieur de ceux-ci, ni vérifier de manière indépendante leurs déclarations sur leur propre comportement.
Dans son blog consacré à la sécurité, l’entreprise établit une distinction similaire à propos du confinement des agents : détecter, encadrer et confiner un agent ne permet toujours pas de savoir comment se comporte le modèle sous-jacent. Après une activité lourde de conséquences, trois questions restent donc en suspens : qu’a-t-on demandé à l’IA et que l’a-t-on autorisée à faire, que s’est-il passé entre la demande et le résultat, et l’activité peut-elle être vérifiée de manière indépendante ?
Microsoft compare les agents ayant accès à des données, à des outils et à des identifiants à des personnes internes disposant de privilèges élevés et opérant à la vitesse et à l’échelle des machines. Le manque de preuves qui en résulte entraîne des risques en matière de sécurité, de conformité, d’audit et de responsabilité. Cette responsabilité incombe à l’organisation qui déploie les agents lorsque ses dirigeants doivent répondre de leurs actes devant les clients, les employés, les conseils d’administration, les auditeurs et les autorités de réglementation.
Un cadre fondé sur l’observation, la vérification et le contrôle
Le cadre de l’initiative organise ces exigences en trois volets. Observer consiste à suivre la demande et l’autorisation, le modèle et son environnement d’exécution, les données et les outils auxquels il accède, ainsi que les actions effectuées. Il prévoit également une surveillance continue de l’activité des agents et des signaux de risque au regard des politiques et des seuils définis.
Vérifier consiste à établir la provenance des preuves. Les registres de l’identité de l’agent, de l’intention qui lui a été déléguée et de ses actions permettraient de déterminer si les informations proviennent du modèle, de son environnement d’exécution ou de systèmes indépendants de gestion des identités et des politiques. Les signaux transmis par le modèle pourraient ensuite être comparés à des données observées indépendamment au moyen des propres systèmes de sécurité et de conformité de l’organisation, plutôt que de se fier uniquement aux déclarations du fournisseur.
Contrôler consiste à s’appuyer sur des preuves concernant l’objectif, le responsable, les données et les pouvoirs délégués de chaque flux de travail pour appliquer les politiques avant toute action lourde de conséquences. Ces mêmes registres permettraient de reconstituer les événements dans le cadre d’enquêtes, du confinement, du rétablissement et des audits. Ils sont conçus pour rester utilisables lorsque les organisations changent de modèle ou de fournisseur, y compris lors du passage entre des modèles fermés et des modèles à poids ouverts, afin que les équipes de développement puissent mettre à jour les agents sans compromettre la gouvernance de la sécurité ni les audits de conformité.
Élaboration de normes et mise en œuvre dans les produits
Microsoft renforcera sa participation à l’Initiative du NIST sur les normes pour les agents SI et s’appuiera sur ses propres travaux de recherche pour élaborer des normes ouvertes à l’échelle du secteur en matière de transparence, de sécurité et de gouvernance de l’IA. Le programme du NIST vise à favoriser l’élaboration de normes techniques et de protocoles ouverts pilotés par le secteur, afin que les agents autonomes puissent fonctionner en toute sécurité et interagir entre différents systèmes numériques.
Ses axes stratégiques associent des recommandations volontaires et des analyses des lacunes en vue de l’élaboration de normes par le secteur, des travaux visant à réduire les obstacles aux protocoles interopérables élaborés par des communautés, ainsi que des recherches sur l’authentification des agents, les infrastructures d’identité et les évaluations de sécurité.
Microsoft prévoit également d’intégrer les travaux de l’initiative à Microsoft AI, Microsoft Foundry et Microsoft Copilot. Les clients pourraient utiliser les preuves ainsi produites avec les outils de sécurité et de conformité de Microsoft ou d’autres fournisseurs.
L’épreuve concrète de l’initiative consistera à déterminer si les participants peuvent traduire ce cadre en normes communes et en preuves transférables : des registres permettant à une entreprise d’encadrer les agents avant qu’ils agissent et de reconstituer leur comportement par la suite, même si le modèle sous-jacent ou le fournisseur change.












