Leaders d’opinion

Pourquoi les entreprises devraient fonder leur gouvernance de l’IA sur des valeurs

Isabella Grandi
Ajouter Unite.AI à vos sources préférées sur Google
Points clésUn cadre de gouvernance de l'IA fondé sur des valeurs permet aux entreprises d'opérer…
Voir plus
  • Un cadre de gouvernance de l'IA fondé sur des valeurs permet aux entreprises d'opérer mondialement sans reconstruire leurs systèmes pour chaque juridiction.
  • L'adoption de six valeurs clés comme la responsabilité et l'équité renforce la confiance du public et répond aux normes éthiques les plus élevées.
  • Une gouvernance robuste de l'IA crée de la valeur commerciale en permettant une entrée plus rapide sur les marchés et en réduisant les risques à travers de multiples régions.

En septembre 2025, tous les États membres des Nations unies se sont réunis pour la première fois afin de discuter de la gouvernance internationale de l’IA. Beaucoup étaient à nouveau représentés en février à l’AI Impact Summit de Delhi. L’événement a débouché sur la création de deux nouveaux organes consacrés à la gouvernance de l’IA, mais ce fut, au mieux, un succès symbolique.

Les nouveaux mécanismes de l’ONU ont été conçus pour obtenir un consensus. Ils évitent donc les domaines controversés, comme les usages militaires de l’IA, et ne disposent ni de sources de financement claires ni de pouvoirs pour faire appliquer les décisions. Cela ne devrait pas surprendre les observateurs expérimentés. L’ONU actuelle ne peut agir rapidement ni garantir que tous respectent ses décisions, ce qui en fait un cadre dans lequel il est difficile de provoquer de véritables changements.

Ce constat s’inscrit dans une tendance bien établie. Malgré des années de tentatives dispersées pour parvenir à un consensus sur la réglementation de l’IA, aucun accord international majeur n’a été conclu. Il en résulte un vide dans lequel les pays et les blocs ont dû élaborer leurs propres règles. Pourtant, une gouvernance efficace est indispensable si nous voulons que l’IA soit largement adoptée, inspire confiance au public et apporte des bénéfices sociaux et économiques durables

Faire avec les moyens du bord et rapiécer

Pour les entreprises mondiales qui développent et exploitent des systèmes d’IA, l’absence de mécanismes de gouvernance communs et convenus pose problème. Elles souhaitent déployer leurs systèmes dans le monde entier, mais il n’existe pas deux juridictions appliquant exactement les mêmes règles. Elles doivent donc d’abord créer un cadre général de gouvernance pour leur système, puis le reconstruire de zéro dans chaque pays où elles opèrent afin de respecter les lois et réglementations locales. Cela engendre une énorme quantité de travail supplémentaire, renchérit les initiatives d’IA et accroît les risques de retard, tout en réduisant la capacité des entreprises mondiales à réaliser des économies d’échelle et à proposer des outils efficaces aux utilisateurs partout dans le monde.

Il existe toutefois une alternative. Pour les entreprises qui souhaitent simplifier leur approche, la meilleure option pourrait être un cadre de gouvernance de l’IA tenant compte des principes éthiques communs aux différentes régions et garantissant partout des normes élevées de protection de la liberté, de la vie privée et de la sécurité des personnes. C’est un moyen efficace de renforcer la confiance du public dans la technologie, de consolider la clientèle et de tirer parti des bénéfices potentiels de l’IA pour la société.

Six valeurs clés pour la gouvernance de l’IA

À toute organisation souhaitant adopter une gouvernance de l’IA fondée sur les valeurs, je suggérerais les six valeurs clés que nous suivons : la responsabilité et l’obligation de rendre des comptes, l’explicabilité, la transparence, l’équité, la sécurité et la possibilité de contester les décisions.

Nous les avons choisies parce qu’elles couvrent tous les grands domaines du cycle de vie d’un système d’IA et sont déjà inscrites dans diverses normes internationales et nationales, comme la norme de l’Organisation internationale de normalisation ISO/IEC 42001 et le guide de l’intelligence artificielle pour le gouvernement britannique.

Commençons par la responsabilité : elle consiste à savoir qui répond de quoi à chaque étape du cycle de vie de l’IA. Sans attribution claire des responsabilités, des contrôles essentiels peuvent être omis, car aucun individu ni aucune équipe n’assume la responsabilité finale. Les organisations devraient désigner nominativement des cadres dirigeants, comme leur directeur de l’IA, responsables des systèmes et des étapes clés. Elles devraient utiliser un modèle de gouvernance fondé sur les risques et examiner les outils de tiers avec la même rigueur que ceux développés en interne. Il s’agit de comprendre les conditions, les limites et les responsabilités juridiques des fournisseurs aussi bien que ses propres systèmes.

L’Organisation de coopération et de développement économiques, OCDE, exprime bien cette idée dans ses orientations sur le renforcement de la responsabilité dans l’IA, qui recommandent de créer des « mécanismes permettant d’intégrer le processus de gestion des risques liés à l’IA dans la gouvernance organisationnelle plus large, en favorisant une culture de gestion des risques tant au sein des organisations que dans l’ensemble de la chaîne de valeur de l’IA ».

Vient ensuite l’explicabilité. Les organisations devraient pouvoir montrer comment un système d’IA parvient à une décision. Cela nécessite des mécanismes de documentation et de traçabilité de la prise de décision, ainsi que des enregistrements clairs sur la conception du système, les données d’entraînement et les processus décisionnels. Ensemble, ils permettent aux équipes de comprendre l’origine et le parcours des informations, de la création du système jusqu’à son déploiement.

L’équité vise à garantir des résultats équitables et à empêcher les systèmes d’IA de reproduire ou d’amplifier les biais existants. Sans vérifications délibérées, des résultats biaisés peuvent causer des dommages, surtout dans des domaines à fort impact comme le recrutement, les soins de santé et la justice pénale. Pour réduire ce risque, les organisations devraient mettre en place des mesures de détection des biais, examiner régulièrement les résultats pour les groupes concernés et concevoir des cadres de gouvernance capables de répondre aux exigences locales de non-discrimination. En pratique, cela signifie construire des systèmes conformes aux normes juridiques les plus élevées qu’ils rencontreront probablement, notamment aux obligations de l’Equality Act 2010 britannique et de la Charte des droits fondamentaux de l’UE.

La transparence apporte de la clarté aux utilisateurs et aux régulateurs. Chacun devrait comprendre quand l’IA est utilisée, son rôle dans la prise de décision et les données sur lesquelles elle repose. Un point de départ pratique consiste à normaliser la documentation des systèmes d’IA, avec l’appui d’outils internes comme les fiches de modèle. Ces courts documents accompagnent les modèles d’apprentissage automatique et précisent le contexte d’utilisation prévu, les détails des procédures d’évaluation des performances et d’autres informations utiles. Sans transparence, les utilisateurs ne peuvent contester des résultats injustes, les régulateurs ne peuvent intervenir efficacement et les effets néfastes peuvent être dissimulés.

La sécurité protège les systèmes d’IA contre les accès non autorisés, les manipulations et les comportements non intentionnels. Une protection insuffisante peut mettre en danger les organisations, les utilisateurs et leurs données et les exposer à des préjudices financiers et réputationnels. Les organisations devraient définir des seuils de performance et de précision, soumettre les systèmes à des tests de résistance dans des conditions réalistes et intégrer des tests d’équipe rouge pour repérer les vulnérabilités.

Enfin, la possibilité de contestation offre une voie claire et accessible pour contester les décisions fondées sur l’IA ou exercer un recours. Sans elle, les utilisateurs concernés n’ont aucun moyen d’obtenir réparation et les problèmes peuvent ne jamais être révélés ni résolus. Les organisations devraient proposer des canaux de signalement au point d’utilisation, confier la gestion des plaintes à des cadres dirigeants et garantir que les systèmes puissent être suspendus, réexaminés ou mis à jour si nécessaire.

Quels sont les avantages d’un cadre fondé sur les valeurs ?

Deux raisons majeures justifient cette approche de la gouvernance de l’IA fondée sur les valeurs. Premièrement, les concepteurs et les acteurs qui déploient les systèmes ont une responsabilité éthique envers les personnes et les organisations concernées par leurs effets. Deuxièmement, c’est une façon plus efficace de concrétiser les bénéfices promis de l’IA.

Les utilisateurs des systèmes, entreprises comme particuliers, font implicitement confiance à leurs créateurs pour ne pas utiliser abusivement les données personnelles ni les exposer à des risques inutiles. Lorsque les organisations trahissent cette confiance, il devient très difficile de conserver les utilisateurs. Au bout du compte, les gens n’accepteront l’introduction des systèmes que si les deux conditions sont réunies : leur faire confiance et percevoir les bénéfices clairs qu’ils apportent. Sinon, les divisions sociales et économiques s’accentueront et nous manquerons de nombreuses possibilités offertes par cette technologie.

À l’inverse, les entreprises qui appliquent partout un cadre fondé sur les valeurs, y compris dans les régions aux exigences de gouvernance plus souples, peuvent montrer aux clients, investisseurs et régulateurs qu’elles s’imposent des normes supérieures à celles de la conformité élémentaire. Cela renforce la confiance, l’engagement et, à terme, la réussite commerciale.

Une gouvernance solide de l’IA crée de la valeur et ne constitue pas une charge de conformité. Elle permet de commercialiser de nouveaux produits plus rapidement, de réduire l’exposition aux risques et de déployer les solutions sur plusieurs marchés avec confiance.

Le rapport de McKinsey « L’état de l’IA » a constaté que « la supervision de la gouvernance de l’IA par le PDG… est l’un des éléments les plus corrélés à un effet plus important sur le bénéfice net, déclaré par l’organisation elle-même, de son utilisation de l’IA générative », ce qui souligne les avantages commerciaux de cette approche. En ce sens, intégrer des cadres éthiques solides dans les systèmes d’IA relève d’un intérêt personnel éclairé.

Au-delà de tout cela, c’est tout simplement la bonne chose à faire. Nous avons construit notre politique mondiale d’IA éthique autour du même principe : les technologies avancées doivent servir les personnes et la société, et non l’inverse. Cela reflète la vision plus large de la Société 5.0, un modèle d’innovation centré sur l’humain qui cherche à associer le progrès économique à la résolution des défis sociaux.

Pour que des technologies émergentes comme l’IA contribuent à une société plus heureuse et harmonieuse, elles doivent reposer sur des bases éthiques solides. Le point de départ consiste à s’intéresser non seulement aux normes que les organisations sont tenues de respecter, mais aussi à celles qu’elles aimeraient atteindre.

Isabella Grandi est directrice de la stratégie, de la gouvernance et de l'éthique des données et de l'IA chez NTT DATA UK&I. Elle collabore avec des organisations pour façonner et mettre en œuvre une IA responsable et une gouvernance de l'IA qui les font passer de leur état actuel à un modèle d'exploitation plus mature et axé sur les données.

Son travail se concentre sur l'intégration de pratiques éthiques et d'une gestion robuste des risques liés à l'IA dans la façon dont les organisations conçoivent et déploient l'IA, en veillant à ce que l'utilisation responsable soit intégrée dans les structures de prise de décision et les opérations quotidiennes.