Combler le fossé de confiance de l’IA

L’adoption de l’IA atteint un point d’inflexion critique. Les entreprises adoptent l’IA avec enthousiasme, motivées par sa promesse d’améliorer considérablement les efficacités opérationnelles.

Une récente enquête Slack a révélé que l’adoption de l’IA continue d’augmenter, avec une utilisation de l’IA dans les lieux de travail enregistrant une augmentation récente de 24 % et 96 % des dirigeants interrogés estimant qu’« il est urgent d’intégrer l’IA dans l’ensemble de leurs opérations commerciales ».

Cependant, il existe un fossé grandissant entre l’utilité de l’IA et l’anxiété croissante quant à ses impacts négatifs potentiels. Seuls 7 % des travailleurs de bureau estiment que les sorties de l’IA sont suffisamment fiables pour les aider dans les tâches liées au travail.

Ce fossé est évident dans le contraste frappant entre l’enthousiasme des dirigeants pour l’intégration de l’IA et le scepticisme des employés lié à des facteurs tels que :

• Biais et équité : les systèmes d’IA peuvent perpétuer ou même aggraver les biais existants, conduisant à des résultats injustes.
• Confidentialité et sécurité : les employés s’inquiètent de la manière dont leurs données personnelles sont collectées, stockées et utilisées par les systèmes d’IA.
• Prise de décision opaque : les systèmes d’IA fonctionnent souvent comme des « boîtes noires », prenant des décisions qui sont difficiles pour les humains à comprendre ou à expliquer.
• Anxiété face à l’automatisation : il existe une crainte généralisée que l’IA remplace les emplois humains, conduisant au chômage et à l’instabilité économique.

Le rôle de la législation dans la construction de la confiance

Pour répondre à ces problèmes de confiance multifacettes, des mesures législatives sont de plus en plus considérées comme une étape nécessaire. La législation peut jouer un rôle essentiel dans la régulation du développement et du déploiement de l’IA, améliorant ainsi la confiance. Les approches législatives clés incluent :

• Lois sur la protection des données et la confidentialité : la mise en œuvre de lois strictes sur la protection des données garantit que les systèmes d’IA traitent les données personnelles de manière responsable. Des réglementations comme le Règlement général sur la protection des données (RGPD) de l’Union européenne fixent un précédent en imposant la transparence, la minimisation des données et le consentement de l’utilisateur. En particulier, l’article 22 du RGPD protège les personnes contre les impacts négatifs potentiels de la prise de décision automatisée. Les récentes décisions de la Cour de justice de l’Union européenne (CJUE) affirment les droits d’une personne à ne pas être soumise à une prise de décision automatisée. Dans l’affaire Schufa Holding AG, où un résident allemand a été rejeté pour un prêt bancaire sur la base d’un système de décision de crédit automatisé, la cour a décidé que l’article 22 exige que les organisations mettent en œuvre des mesures pour sauvegarder les droits à la vie privée liés à l’utilisation des technologies d’IA.
• Réglementations sur l’IA : l’Union européenne a ratifié le Règlement de l’IA de l’UE (UE AIA), qui vise à réglementer l’utilisation des systèmes d’IA en fonction de leurs niveaux de risque. Le règlement comprend des exigences obligatoires pour les systèmes d’IA à haut risque, couvrant des domaines tels que la qualité des données, la documentation, la transparence et la surveillance humaine. L’un des principaux avantages des réglementations sur l’IA est la promotion de la transparence et de l’explicabilité des systèmes d’IA. De plus, le règlement de l’UE AIA établit des cadres de responsabilité clairs, garantissant que les développeurs, les opérateurs et même les utilisateurs des systèmes d’IA sont responsables de leurs actes et des résultats du déploiement de l’IA. Cela inclut des mécanismes de recours en cas de préjudice causé par un système d’IA. Lorsque les individus et les organisations sont tenus responsables, cela renforce la confiance que les systèmes d’IA sont gérés de manière responsable.

Initiatives de normalisation pour favoriser une culture de l’IA fiable

Les entreprises n’ont pas besoin d’attendre que de nouvelles lois soient mises en œuvre pour déterminer si leurs processus sont conformes aux lignes directrices éthiques et fiables. Les réglementations sur l’IA fonctionnent en tandem avec les initiatives de normalisation émergentes qui permettent aux organisations de mettre en œuvre une gouvernance de l’IA responsable et des meilleures pratiques tout au long du cycle de vie des systèmes d’IA, allant de la conception à la mise hors service.

Le National Institute of Standards and Technology (NIST) aux États-Unis a développé un cadre de gestion des risques liés à l’IA pour guider les organisations dans la gestion des risques liés à l’IA. Le cadre est structuré autour de quatre fonctions principales :

• Comprendre le système d’IA et le contexte dans lequel il opère. Cela inclut la définition de l’objectif, des parties prenantes et des impacts potentiels du système d’IA.
• Quantifier les risques associés au système d’IA, y compris les aspects techniques et non techniques. Cela implique d’évaluer les performances du système, sa fiabilité et ses biais potentiels.

• Mettre en œuvre des stratégies pour atténuer les risques identifiés. Cela inclut le développement de politiques, de procédures et de contrôles pour garantir que le système d’IA fonctionne dans des niveaux de risque acceptables.
• Établir des structures de gouvernance et des mécanismes de responsabilité pour superviser le système d’IA et ses processus de gestion des risques. Cela implique des examens réguliers et des mises à jour de la stratégie de gestion des risques.

En réponse aux progrès des technologies d’IA générative NIST a également publié le profil d’IA générative du cadre de gestion des risques liés à l’IA, qui fournit des conseils pour atténuer les risques spécifiques associés aux modèles fondamentaux. De telles mesures englobent la protection contre les utilisations malveillantes (par exemple, la désinformation, le contenu dégradant, les discours de haine), et les applications éthiques de l’IA qui se concentrent sur les valeurs humaines d’équité, de confidentialité, de sécurité de l’information, de propriété intellectuelle et de durabilité.

De plus, l’Organisation internationale de normalisation (ISO) et la Commission électrotechnique internationale (CEI) ont conjointement développé la norme ISO/CEI 23894, une norme complète pour la gestion des risques liés à l’IA. Cette norme fournit une approche systématique pour identifier et gérer les risques tout au long du cycle de vie de l’IA, y compris l’identification des risques, l’évaluation de la gravité des risques, le traitement pour atténuer ou éviter les risques, et la surveillance et l’examen continus.

Le futur de l’IA et de la confiance publique

En regardant vers l’avenir, le futur de l’IA et de la confiance publique dépendra probablement de plusieurs facteurs clés qui sont essentiels pour toutes les organisations :

• Réaliser une évaluation complète des risques pour identifier les problèmes de conformité potentiels. Évaluer les implications éthiques et les biais potentiels dans vos systèmes d’IA.
• Établir une équipe multifonctionnelle comprenant des professionnels du droit, de la conformité, de l’informatique et de la science des données. Cette équipe devrait être responsable de la surveillance des changements réglementaires et de garantir que vos systèmes d’IA sont conformes aux nouvelles réglementations.
• Mettre en œuvre une structure de gouvernance qui comprend des politiques, des procédures et des rôles pour gérer les initiatives d’IA. Assurer la transparence dans les opérations et les processus de prise de décision de l’IA.
• Réaliser des audits internes réguliers pour garantir la conformité avec les réglementations sur l’IA. Utiliser des outils de surveillance pour suivre les performances du système d’IA et la conformité aux normes réglementaires.
• Éduquer les employés sur l’éthique de l’IA, les exigences réglementaires et les meilleures pratiques. Fournir des sessions de formation continues pour maintenir le personnel informé des changements dans les réglementations sur l’IA et les stratégies de conformité.
• Conserver des dossiers détaillés des processus de développement de l’IA, de l’utilisation des données et des critères de prise de décision. Préparer des rapports qui peuvent être soumis aux régulateurs si nécessaire.
• Établir des relations avec les organismes réglementaires et participer aux consultations publiques. Fournir des commentaires sur les réglementations proposées et demander des éclaircissements lorsque nécessaire.

Contextualiser l’IA pour atteindre une IA fiable

En fin de compte, une IA fiable repose sur l’intégrité des données. La dépendance de l’IA générative à l’égard de grands ensembles de données ne signifie pas l’exactitude et la fiabilité des sorties ; si quoi que ce soit, c’est contre-intuitif pour les deux normes. La génération assistée par récupération (RAG) est une technique innovante qui « combine des LLM statiques avec des données spécifiques au contexte. Et cela peut être considéré comme un aide très compétent. Un qui correspond au contexte de la requête avec des données spécifiques à partir d’une base de connaissances complète ». RAG permet aux organisations de fournir des applications spécifiques au contexte qui respectent les attentes de confidentialité, de sécurité, d’exactitude et de fiabilité. RAG améliore l’exactitude des réponses générées en récupérant des informations pertinentes à partir d’une base de connaissances ou d’un référentiel de documents. Cela permet au modèle de baser sa génération sur des informations exactes et à jour.

RAG permet aux organisations de créer des applications d’IA spécifiques à des fins particulières qui sont très précises, sensibles au contexte et adaptables afin d’améliorer la prise de décision, d’améliorer l’expérience client, de rationaliser les opérations et d’obtenir des avantages concurrentiels significatifs.

Combler le fossé de confiance de l’IA implique de garantir la transparence, la responsabilité et l’utilisation éthique de l’IA. Même s’il n’y a pas de réponse unique pour maintenir ces normes, les entreprises disposent de stratégies et d’outils à leur disposition. La mise en œuvre de mesures robustes de protection des données et le respect des normes réglementaires renforcent la confiance des utilisateurs. L’audit régulier des systèmes d’IA pour les biais et les inexactitudes garantit l’équité. L’ajout d’IA spécifiques à des fins particulières à des LLM apporte la confiance en intégrant des bases de connaissances et des sources de données propriétaires. La sensibilisation des parties prenantes aux capacités et aux limites de l’IA favorise également la confiance et l’acceptation

Une IA fiable n’est pas facile à atteindre, mais c’est un engagement vital pour notre avenir.