IA : Par le peuple, pour le peuple et du peuple

Par : Balakrishna (Bali) D R, Vice-président senior, Responsable de l’offre de services – ECS, IA et Automation chez Infosys.

Nous sommes chanceux de vivre à l’ère de la technologie où l’Intelligence Artificielle travaille dur pour rendre notre vie plus facile – nos téléphones nous reconnaissent maintenant et s’ouvrent lorsqu’ils nous « voient », nous avons des cartes qui parlent pour nous aider à trouver les chemins les plus courts et les moins encombrés pour nous rendre où nous voulons aller, des appareils intelligents qui chauffent et refroidissent nos maisons même avant que nous ne le demandions, des applications intelligentes qui prévoient et préviennent les fraudes, et bien plus encore.

Cependant, nous avons également eu des cas où ces systèmes intelligents alimentés par l’IA nous ont déçus du point de vue de l’équité et de l’éthique. Par exemple, une banque réputée qui travaille avec nous a suspecté que les modèles d’IA qu’elle utilise pour évaluer la solvabilité avant d’accorder des prêts pourraient être biaisés, et elle nous a demandé de l’aider. À une autre occasion, un fabricant de machines a travaillé avec nous pour analyser les modèles de réclamations de garantie pour éliminer les biais, à la fois dans l’ensemble de données et dans le processus, avant de réingénierier et d’automatiser son processus d’approbation des réclamations. Les modèles d’IA liés au recrutement, que nous trouvons souvent, sont corrompus par des biais d’âge, de sexe, de race, voire de code postal parfois, dans leurs ensembles de données – aboutissant à des résultats injustes si on ne les contrôle pas.

En raison de l’impact énorme que les biais de l’IA peuvent avoir sur l’ensemble de l’entreprise, les questions éthiques sont devenues centrales dans la façon dont les systèmes d’IA sont développés, mis en œuvre et utilisés. Les systèmes d’IA sont l’amalgame de nombreuses décisions humaines, qui sont également basées sur des biais humains. La protection de l’autonomie et de la vie privée des employés, les risques de biais qui affectent la croissance et les opportunités de carrière, la discrimination basée sur la couleur de peau, la race ou le sexe, le manque d’explicabilité des choix faits par la solution d’IA, et donc la responsabilité de la prise de décision d’IA, sont actuellement débattus lorsqu’il s’agit de discuter de l’IA et de ses mérites.

Créer une IA responsable

Les biais de l’IA peuvent avoir un effet d’onde sur l’ensemble de l’organisation. Il est essentiel que les dirigeants IT s’assurent qu’ils déployer l’IA de manière éthique qui fonctionne avec, et non contre, les employés. Pour ce faire, les organisations devraient inclure les éléments suivants dans leurs déploiements d’IA.

Gouvernance des données : L’utilisation éthique de l’IA est également conditionnée par une utilisation bien gérée des données, à partir de la source de données de manière éthique et transparente. Pour ce faire, les dirigeants IT devraient établir un cadre de gouvernance bien défini qui garantira la sécurité, l’intégrité et la confidentialité des données, ainsi que prévenir la corruption et la perte de données – tout cela est nécessaire.

Responsabilité : Les modèles d’apprentissage automatique doivent être justes, impartiaux, traiter les personnes de manière égale et partager également les avantages (taux d’acceptation et de rejet similaires) sur tous les attributs tels que la race, la religion, le sexe, etc. Ils doivent atteindre une précision acceptable non seulement sur la figure globale mais également sur les classes minoritaires. Ces modèles doivent être explicables lorsqu’il s’agit d’expliquer comment le résultat est obtenu. Par exemple, être capable d’expliquer pourquoi le modèle a rejeté une demande de prêt d’un demandeur A mais a approuvé la même demande du demandeur B. Les dirigeants IT qui développent des solutions d’IA doivent rendre la logique sous-jacente qui conduit à ces décisions claire pour les parties prenantes commerciales afin qu’il y ait une plus grande transparence au sein de l’entreprise.

Résistance aux attaques : L’ensemble de l’écosystème d’IA doit convenir de la nécessité de tester et de pirater les modèles d’IA à travers des simulations pour étudier les résultats potentiels défavorables. Par exemple, les dirigeants IT peuvent utiliser les tests suivants pour vérifier leurs systèmes d’IA et se préparer à des obstacles potentiels.

• Modifier les données : modifier directement l’ensemble de données utilisé pour la formation par injection de données, modification et corruption logique
• Modifier les modèles : tester la réduction de la confiance et les erreurs de classification
• Outils auxiliaires : utiliser des outils pour influencer ou corrompre les résultats

Humain dans la boucle : Les modèles d’IA doivent être dérisqués en ayant des humains dans la boucle pour tous les points de décision clés et en ayant un mécanisme de sauvegarde efficace ou un chemin alternatif si le système d’IA doit être retiré.

Développer le consentement social pour l’IA

En plus de ces lignes directrices, nous devons promouvoir des discussions et des délibérations inclusives entre tous les dirigeants de l’entreprise, sur les avantages, les intérêts, les coûts et les conséquences de tout déploiement d’IA important. Seuls ces processus inclusifs impliquant toutes les parties prenantes, pour discuter et décider des résultats acceptables, et pour peser les risques et les avantages, sont susceptibles de faire gagner aux technologies d’IA la licence d’exploitation dans l’ensemble de l’entreprise. À travers l’entreprise, à propos des avantages, des intérêts, des coûts et des conséquences de tout grand déploiement d’IA, seuls ces processus inclusifs impliquant toutes les parties prenantes, pour discuter et décider des résultats acceptables, et pour peser les risques et les avantages, sont susceptibles de faire gagner aux technologies d’IA la licence d’exploitation dans l’ensemble de l’entreprise.