La minimisation est-elle la meilleure approche de la gouvernance de l’IA ?

À mesure que les organisations intègrent l’intelligence artificielle (IA) à leurs activités, elles ont besoin de moyens clairs pour gérer les risques associés à son développement et à son utilisation. Une gouvernance efficace assure la supervision, mais des procédures complexes peuvent mobiliser des ressources et ralentir la mise en œuvre. La minimisation peut rendre la gouvernance plus proportionnée en limitant l’utilisation inutile des données tout en préservant la responsabilité et les mesures de protection.

Pourquoi la gouvernance de l’IA est importante

La gouvernance de l’IA définit les politiques, les responsabilités et les mécanismes de supervision qui encadrent la manière dont les organisations développent, déploient et utilisent les systèmes d’IA. Elle les aide à cerner les risques, à attribuer les pouvoirs décisionnels et à mettre en place des processus de suivi des performances et de résolution des problèmes.

Les organisations doivent tenir compte de plusieurs risques lorsqu’elles adoptent l’IA, notamment les atteintes à la vie privée, les failles de sécurité, les résultats biaisés ou inexacts et le manque de transparence. Sans contrôles adaptés, les décisions générées par l’IA peuvent avoir des conséquences difficiles à corriger pour les clients, les employés et d’autres parties prenantes. La gouvernance aide également les organisations à respecter les exigences légales applicables et à aligner l’utilisation de l’IA sur leurs objectifs commerciaux.

L’International Association of Privacy Professionals a indiqué que 77 % des organisations interrogéestravaillaient à la gouvernance de l’IA en 2025. Ce constat témoigne de l’attention considérable que les organisations accordent à ce sujet, même si travailler à la gouvernance ne signifie pas nécessairement qu’une organisation a achevé ou pleinement mis en œuvre son cadre.

Des responsabilités clairement définies et un suivi continu aident les organisations à repérer les nouveaux problèmes, à examiner les résultats inattendus et à adapter les contrôles à mesure que les systèmes évoluent. Une gouvernance efficace peut également renforcer la confiance des parties prenantes en montrant que l’organisation prend en compte les implications de l’utilisation de l’IA et demeure responsable de ses décisions.

Les défis de la gouvernance de l’IA

La gouvernance aide les organisations à gérer les risques liés à l’IA, mais il peut être difficile de mettre en place et de maintenir une supervision efficace. Pour en définir le périmètre, les organisations doivent déterminer quels systèmes d’IA, activités et dépendances doivent être soumis à la gouvernance. 

Pour définir clairement le périmètre de la gouvernance de l’IA, les organisations peuvent se référer à la norme ISO/IEC 42001, qui établit les exigences relatives à la mise en place et au maintien d’un système de management de l’IA. La conformité peut améliorer les performances des modèles, ce qui permet de développer une IA plus rapide et plus sûre. Elle aide également les organisations à déterminer quelles parties de leurs activités relèvent de leur système de management de l’IA. Ces normes prennent en compte la couverture géographique, les connexions à d’autres systèmes et l’étendue de leurs activités liées à l’IA. 

Parmi les autres défis importants figurent :

• Complexité des systèmes d’IA : les applications d’IA peuvent s’appuyer sur des modèles interconnectés, des jeux de données, des outils tiers et des décisions automatisées. Ces dépendances peuvent compliquer la traçabilité des résultats, la détection des vulnérabilités et l’identification des domaines où des contrôles sont nécessaires.
• Protection des données et sécurité : les organisations doivent protéger les informations sensibles à toutes les étapes : collecte des données, entraînement des modèles, déploiement et utilisation continue. 
• Biais et manque de transparence : des données d’entraînement non représentatives peuvent contribuer à des résultats injustes, tandis que le fonctionnement opaque des modèles peut rendre les décisions difficiles à expliquer, à évaluer ou à contester.
• Évolution des réglementations et des normes : les organisations présentes dans plusieurs juridictions peuvent être soumises à des exigences légales différentes ou changeantes. Les processus de gouvernance doivent tenir compte des obligations applicables sans créer de doublons inutiles.
• Contraintes en matière de ressources et d’exploitation : les compétences spécialisées, la documentation, les examens et le suivi continu nécessitent du temps et des financements. 
• Concilier supervision et innovation : des exigences d’approbation excessives peuvent retarder les projets, tandis que des contrôles insuffisants risquent de laisser des risques importants sans réponse.

Ces défis montrent l’intérêt de réduire la complexité inutile. Toutefois, la simplification de la gouvernance doit aussi s’accompagner de contrôles qui protègent les personnes et les informations et garantissent la responsabilité de l’organisation.

Par exemple, le New York State Comptroller a constaté que les agences de New York City adoptaient des approches incohérentes en matière de supervision de l’IA, certaines n’ayant pas de politiques permettant d’évaluer les biais et l’exactitude. Ces conclusions montrent que la réduction de la complexité nécessite des normes de gouvernance claires et cohérentes pour préserver la responsabilité. 

Ce que signifie la minimisation dans la gouvernance de l’IA

La minimisation dans la gouvernance de l’IA consiste à réduire l’utilisation inutile des données et la charge administrative tout en maintenant les mesures nécessaires à la gestion des risques. Elle comporte deux dimensions principales : la minimisation des données et la minimisation de la gouvernance. Toutes deux visent à rendre les pratiques liées à l’IA plus proportionnées à leur objectif et à leur impact potentiel.

Minimisation des données

La minimisation des données consiste à limiter la collecte, la conservation, le traitement et le partage des informations à ce dont un système d’IA a besoin pour atteindre un objectif défini. Les organisations peuvent appliquer ce principe en restreignant l’accès aux informations sensibles et en utilisant, lorsque c’est approprié, des données anonymisées ou synthétiques.

Réduire les données superflues peut limiter l’exposition des informations personnelles et la quantité d’informations que les organisations doivent protéger. Toutefois, la minimisation des données exige un jugement attentif. La suppression d’informations pertinentes peut nuire à la précision des modèles, réduire la représentation de différents groupes ou compliquer la détection de résultats biaisés. Les organisations doivent déterminer quelles données sont nécessaires pour atteindre l’objectif visé et obtenir des résultats fiables et équitables.

Minimisation de la gouvernance

La minimisation de la gouvernance vise à simplifier les processus de supervision. Les organisations peuvent regrouper les examens qui se chevauchent et réutiliser les évaluations lorsque cela est approprié. Elles peuvent également clarifier les pouvoirs décisionnels et supprimer les niveaux d’approbation qui n’apportent pas de protection significative contre les risques.

Ces changements contribuent à réduire les coûts administratifs et les retards, tout en clarifiant les responsabilités des équipes. Toutefois, la minimisation de la gouvernance ne doit pas conduire à supprimer la documentation essentielle, l’examen indépendant, la supervision humaine ou les contrôles obligatoires. L’objectif est de rendre la supervision plus efficace tout en maintenant la responsabilité.

Stratégies de minimisation pour la gouvernance de l’IA

Une approche fondée sur la minimisation peut rendre la gouvernance de l’IA plus efficace si les organisations adaptent leurs pratiques en matière de données et leurs exigences de supervision aux risques de chaque cas d’utilisation. Plusieurs mesures peuvent réduire la complexité superflue tout en préservant la responsabilité, la fiabilité des performances et les garanties appropriées.

Adopter une approche fondée sur les risques

Les organisations peuvent classer les systèmes d’IA en fonction de leur utilisation prévue, de leur impact potentiel et de la sensibilité des données. L’AI Risk Management Framework du National Institute of Standards and Technology fournit un cadre pour gérer les risques liés à l’IA selon quatre fonctions : Gouverner, Cartographier, Mesurer et Gérer. Les organisations peuvent s’appuyer sur ces fonctions pour repérer les risques, en évaluer l’importance et déterminer les mesures à prendre.

Définir des exigences claires en matière de données

Chaque système d’IA doit avoir un objectif défini avant le début de la collecte des données. Les organisations peuvent ensuite déterminer les catégories de données nécessaires, supprimer les champs non pertinents, restreindre l’accès et fixer des durées de conservation appropriées. Les tests doivent confirmer que les jeux de données réduits permettent toujours d’obtenir des résultats précis et équitables.

Optimiser les modèles et les ressources informatiques

L’optimisation des modèles, les algorithmes efficaces et les équipements économes en énergie peuvent contribuer à réduire les besoins informatiques superflus. Les entreprises peuvent envisager l’apprentissage fédéré, qui réduit la nécessité de transférer de grandes quantités d’informations. Ces pratiques peuvent diminuer les coûts de calcul et la consommation d’énergie tout en favorisant la protection des données. 

Simplifier les processus de gouvernance

Les organisations peuvent regrouper les examens qui se chevauchent, réutiliser les évaluations portant sur les mêmes risques, clarifier les responsabilités et établir des circuits d’approbation selon le niveau de risque. Des processus normalisés aident les équipes à traiter efficacement les applications courantes et à orienter les cas plus complexes vers les spécialistes compétents.

Maintenir les garanties essentielles

Une approche fondée sur la minimisation doit préserver les protections de la vie privée et de la sécurité, les évaluations des biais, une supervision humaine appropriée, les pistes d’audit et les procédures de réponse aux incidents. Les organisations doivent également vérifier que les processus simplifiés continuent de respecter les obligations légales et réglementaires applicables.

Surveiller les performances et réévaluer les contrôles

Les exigences de gouvernance peuvent évoluer à mesure qu’un système d’IA se développe, s’adresse à de nouveaux utilisateurs ou prend en charge des tâches supplémentaires. Les organisations doivent surveiller la précision, l’équité et les risques pour la vie privée après le déploiement. Elles doivent également revoir les exigences relatives aux données et les procédures de supervision en fonction de l’évolution de la situation.

Mettre en œuvre la minimisation dans la gouvernance de l’IA

La minimisation est plus efficace lorsqu’elle s’inscrit dans une stratégie de gouvernance fondée sur les risques. Toutefois, le degré de minimisation approprié varie selon l’objectif, la complexité et l’impact potentiel d’un système d’IA. En conciliant efficacité, garanties appropriées, responsabilité et évaluation continue, les organisations peuvent simplifier la gouvernance de l’IA tout en assurant une utilisation responsable et fiable de l’IA.