Qu’est-ce que l’Intelligence Artificielle Explicable ?

Alors que l’intelligence artificielle (IA) devient plus complexe et plus largement adoptée dans la société, l’un des ensembles de processus et de méthodes les plus critiques est l’IA explicable (parfois appelée XAI).

L’IA explicable peut être définie comme :

• Un ensemble de processus et de méthodes qui aident les utilisateurs humains à comprendre et à faire confiance aux résultats des algorithmes d’apprentissage automatique.

Comme vous pouvez le deviner, cette explicabilité est incroyablement importante alors que les algorithmes d’IA prennent le contrôle de nombreux secteurs, ce qui comporte le risque de biais, d’algorithmes défectueux et d’autres problèmes. En atteignant la transparence avec l’explicabilité, le monde peut vraiment exploiter le pouvoir de l’IA.

L’IA explicable, comme son nom l’indique, aide à décrire un modèle d’IA, son impact et les biais potentiels. Elle joue également un rôle dans la caractérisation de la précision du modèle, de l’équité, de la transparence et des résultats dans les processus de prise de décision alimentés par l’IA.

Les organisations axées sur l’IA d’aujourd’hui devraient toujours adopter des processus d’IA explicable pour aider à établir la confiance et la confiance dans les modèles d’IA en production. L’IA explicable est également clé pour devenir une entreprise responsable dans l’environnement d’IA d’aujourd’hui.

Parce que les systèmes d’IA d’aujourd’hui sont si avancés, les humains effectuent généralement un processus de calcul pour retracer comment l’algorithme est arrivé à son résultat. Ce processus devient une « boîte noire », ce qui signifie qu’il est impossible de comprendre. Lorsque ces modèles inexplicables sont développés directement à partir des données, personne ne peut comprendre ce qui se passe à l’intérieur.

En comprenant comment les systèmes d’IA fonctionnent grâce à l’IA explicable, les développeurs peuvent s’assurer que le système fonctionne comme il le devrait. Cela peut également aider à s’assurer que le modèle répond aux normes réglementaires et qu’il offre la possibilité pour le modèle d’être contesté ou modifié.

Image: Dr. Matt Turek/DARPA

Différences entre l’IA et l’XAI

Certaines différences clés aident à séparer l’« IA régulière » de l’IA explicable, mais surtout, l’XAI met en œuvre des techniques et des méthodes spécifiques qui aident à garantir que chaque décision dans le processus d’apprentissage automatique est traçable et explicables. En comparaison, l’IA régulière arrive généralement à son résultat en utilisant un algorithme d’apprentissage automatique, mais il est impossible de comprendre pleinement comment l’algorithme est arrivé au résultat. Dans le cas de l’IA régulière, il est extrêmement difficile de vérifier l’exactitude, ce qui entraîne une perte de contrôle, de responsabilité et de traçabilité.

Avantages de l’IA explicable

Il existe de nombreux avantages pour toute organisation qui souhaite adopter l’IA explicable, tels que :

• Résultats plus rapides : L’IA explicable permet aux organisations de surveiller et de gérer systématiquement les modèles pour optimiser les résultats commerciaux. Il est possible de continuellement évaluer et d’améliorer les performances du modèle et d’affiner le développement du modèle.
• Atténuer les risques : En adoptant des processus d’IA explicable, vous vous assurez que vos modèles d’IA sont explicables et transparents. Vous pouvez gérer les risques réglementaires, de conformité et d’autres exigences tout en minimisant les frais généraux de vérification manuelle. Tout cela aide également à atténuer le risque de biais involontaire.  
• Établir la confiance : L’IA explicable aide à établir la confiance dans l’IA de production. Les modèles d’IA peuvent être rapidement mis en production, vous pouvez vous assurer de l’interprétabilité et de l’explicabilité, et le processus d’évaluation du modèle peut être simplifié et rendu plus transparent.

Techniques pour l’IA explicable

Il existe certaines techniques d’XAI que toutes les organisations devraient considérer, et elles consistent en trois méthodes principales : la précision de prédiction , la traçabilité , et la compréhension de la décision .

La première des trois méthodes, la précision de prédiction , est essentielle pour utiliser avec succès l’IA dans les opérations quotidiennes. Des simulations peuvent être effectuées, et la sortie de l’XAI peut être comparée aux résultats du jeu de données de formation, ce qui aide à déterminer la précision de prédiction. L’une des techniques les plus populaires pour atteindre cela s’appelle Local Interpretable Model-Agnostic Explanations (LIME), une technique qui explique la prédiction des classifieurs par l’algorithme d’apprentissage automatique.

La deuxième méthode est la traçabilité , qui est atteinte en limitant la façon dont les décisions peuvent être prises, ainsi qu’en établissant une portée plus étroite pour les règles et les fonctionnalités de l’apprentissage automatique. L’une des techniques de traçabilité les plus courantes est DeepLIFT, ou Deep Learning Important FeaTures. DeepLIFT compare l’activation de chaque neurone à son neurone de référence tout en démontrant un lien traçable entre chaque neurone activé. Cela montre également les dépendances entre eux.

La troisième et dernière méthode est la compréhension de la décision , qui est axée sur l’humain, contrairement aux deux autres méthodes. La compréhension de la décision implique d’éduquer l’organisation, en particulier l’équipe qui travaille avec l’IA, pour leur permettre de comprendre comment et pourquoi l’IA prend des décisions. Cette méthode est cruciale pour établir la confiance dans le système.

Principes de l’IA explicable

Pour fournir une meilleure compréhension de l’XAI et de ses principes, le National Institute of Standards (NIST), qui fait partie du ministère du Commerce des États-Unis, fournit des définitions pour quatre principes de l’IA explicable :

1. Un système d’IA doit fournir des preuves, un soutien ou une raison pour chaque sortie.  
2. Un système d’IA doit fournir des explications qui peuvent être comprises par ses utilisateurs.  
3. L’explication doit refléter avec précision le processus utilisé par le système pour arriver à sa sortie.  
4. Le système d’IA ne doit fonctionner que dans les conditions pour lesquelles il a été conçu, et il ne doit pas fournir de sortie lorsqu’il manque de confiance suffisante dans le résultat.

Ces principes peuvent être organisés encore plus en :

• Sensé : Pour atteindre le principe de sens, un utilisateur doit comprendre l’explication fournie. Cela pourrait également signifier que dans le cas d’un algorithme d’IA utilisé par différents types d’utilisateurs, il peut y avoir plusieurs explications. Par exemple, dans le cas d’une voiture autonome, une explication pourrait être : « l’IA a classé le sac en plastique sur la route comme une pierre et a pris des mesures pour l’éviter ». Même si cet exemple fonctionnerait pour le conducteur, il ne serait pas très utile pour un développeur d’IA qui cherche à corriger le problème. Dans ce cas, le développeur doit comprendre pourquoi il y a eu une fausse classification.  
• Précision de l’explication : Contrairement à la précision de sortie, la précision de l’explication implique que l’algorithme d’IA explique avec précision comment il est arrivé à sa sortie. Par exemple, si un algorithme d’approbation de prêt explique une décision en fonction du revenu d’une demande lorsque, en fait, il s’agit du lieu de résidence du demandeur, l’explication serait inexacte.  
• Limites de connaissance : Les limites de connaissance de l’IA peuvent être atteintes de deux manières, et cela implique que les entrées sont en dehors de l’expertise du système. Par exemple, si un système est conçu pour classer les espèces d’oiseaux et qu’il reçoit une image d’une pomme, il devrait être en mesure d’expliquer que l’entrée n’est pas un oiseau. Si le système reçoit une image floue, il devrait être en mesure de signaler qu’il est incapable d’identifier l’oiseau sur l’image, ou alternativement, que son identification a une confiance très faible.

Rôle des données dans l’IA explicable

L’un des composants les plus importants de l’IA explicable est les données.

Selon Google, en ce qui concerne les données et l’IA explicable, « un système d’IA est le mieux compris par les données de formation sous-jacentes et le processus de formation, ainsi que le modèle d’IA résultant ». Cette compréhension repose sur la capacité à mapper un modèle d’IA formé au jeu de données exact utilisé pour le former, ainsi que la capacité à examiner les données de près.

Pour améliorer l’explicabilité d’un modèle, il est important de prêter attention aux données de formation. Les équipes doivent déterminer l’origine des données utilisées pour former un algorithme, la légalité et l’éthique entourant leur obtention, tout biais potentiel dans les données et ce qui peut être fait pour atténuer tout biais.

Un autre aspect critique des données et de l’XAI est que les données non pertinentes pour le système doivent être exclues. Pour atteindre cela, les données non pertinentes ne doivent pas être incluses dans l’ensemble de formation ou les données d’entrée.

Google a recommandé un ensemble de pratiques pour atteindre l’interprétabilité et la responsabilité :

• Planifiez vos options pour poursuivre l’interprétabilité
• Traitez l’interprétabilité comme une partie intégrante de l’expérience utilisateur
• Conceptionnez le modèle pour qu’il soit interprétable
• Choisissez des métriques pour refléter l’objectif final et la tâche finale
• Comprenez le modèle formé
• Communiquez des explications aux utilisateurs du modèle
• Effectuez de nombreux tests pour vous assurer que le système d’IA fonctionne comme prévu

En suivant ces pratiques recommandées, votre organisation peut s’assurer qu’elle atteint l’IA explicable, qui est clé pour toute organisation axée sur l’IA dans l’environnement d’aujourd’hui.