Intelligence Artificielle Explicable à l’aide de Formules Booléennes Expressives

L’explosion de l’intelligence artificielle (IA) et des applications d’apprentissage automatique est présente dans presque tous les secteurs et tous les aspects de la vie.

Cependant, sa croissance ne se fait pas sans ironie. Alors que l’IA existe pour simplifier et/ou accélérer la prise de décision ou les flux de travail, la méthodologie pour y parvenir est souvent extrêmement complexe. En effet, certains algorithmes d’apprentissage automatique de type « boîte noire » sont si intriqués et multifacétés qu’ils peuvent défier une explication simple, même de la part des informaticiens qui les ont créés.

Cela peut être très problématique lorsque certains cas d’utilisation – tels que dans les domaines de la finance et de la médecine – sont définis par des meilleures pratiques de l’industrie ou des réglementations gouvernementales qui exigent des explications transparentes sur le fonctionnement interne des solutions d’IA. Et si ces applications ne sont pas suffisamment expressives pour répondre aux exigences d’explicabilité, elles peuvent être rendues inutiles, quelle que soit leur efficacité globale.

Pour résoudre ce dilemme, notre équipe au Fidelity Center for Applied Technology (FCAT) — en collaboration avec le Amazon Quantum Solutions Lab — a proposé et mis en œuvre un modèle d’apprentissage automatique interprétable pour l’Intelligence Artificielle Explicable (IAE) basé sur des formules booléennes expressives. Une telle approche peut inclure n’importe quel opérateur qui peut être appliqué à une ou plusieurs variables booléennes, ainsi fournir une expressivité plus élevée par rapport aux approches plus rigides basées sur des règles et des arbres.

Vous pouvez lire le document complet ici pour obtenir des détails complets sur ce projet.

<p Notre hypothèse était que, puisque les modèles — tels que les arbres de décision — peuvent devenir profonds et difficiles à interpréter, le besoin de trouver une règle expressive avec une faible complexité mais une grande précision était un problème d'optimisation intractable qui devait être résolu. De plus, en simplifiant le modèle grâce à cette approche IAE avancée, nous pouvions atteindre des avantages supplémentaires, tels que l'exposition des biais qui sont importants dans le contexte de l'utilisation éthique et responsable de l'apprentissage automatique ; tout en rendant plus facile la maintenance et l'amélioration du modèle.

Nous avons proposé une approche basée sur des formules booléennes expressives parce qu’elles définissent des règles avec une complexité (ou interprétabilité) ajustable selon lesquelles les données d’entrée sont classées. Une telle formule peut inclure n’importe quel opérateur qui peut être appliqué à une ou plusieurs variables booléennes (tels que Et ou AuMoins), ainsi fournir une expressivité plus élevée par rapport aux méthodologies plus rigides basées sur des règles et des arbres.

Dans ce problème, nous avons deux objectifs contradictoires : maximiser les performances de l’algorithme, tout en minimisant sa complexité. Ainsi, plutôt que de prendre l’approche typique qui consiste à appliquer l’une des deux méthodes d’optimisation – combiner plusieurs objectifs en un ou contraindre l’un des objectifs – nous avons choisi de les inclure toutes les deux dans notre formulation. En faisant cela, et sans perte de généralité, nous utilisons principalement la précision équilibrée comme notre métrique de performance globale.

De plus, en incluant des opérateurs comme AuMoins, nous avons été motivés par l’idée de répondre au besoin de listes de vérification hautement interprétables, telles qu’une liste de symptômes médicaux qui signifient une condition particulière. Il est concevable qu’une décision serait prise en utilisant une telle liste de symptômes d’une manière telle qu’un nombre minimum devrait être présent pour un diagnostic positif. De même, dans le domaine de la finance, une banque peut décider de fournir ou non du crédit à un client en fonction de la présence d’un certain nombre de facteurs parmi une liste plus grande.

Nous avons mis en œuvre avec succès notre modèle IAE, et l’avons évalué sur certains ensembles de données publics pour le crédit, le comportement des clients et les conditions médicales. Nous avons constaté que notre modèle est généralement compétitif avec d’autres alternatives bien connues. Nous avons également constaté que notre modèle IAE peut potentiellement être alimenté par des matériel spécialisés ou des appareils quantiques pour résoudre rapidement des problèmes de programmation linéaire entière (ILP) ou des problèmes d’optimisation binaires non contraints (QUBO). L’ajout de solveurs QUBO réduit le nombre d’itérations – ce qui conduit à une accélération grâce à la proposition rapide de mouvements non locaux.

Comme mentionné, les modèles d’IA explicables utilisant des formules booléennes peuvent avoir de nombreuses applications dans les soins de santé et dans le domaine de la finance de Fidelity (tels que la notation de crédit ou l’évaluation de la raison pour laquelle certains clients ont sélectionné un produit tandis que d’autres ne l’ont pas). En créant ces règles interprétables, nous pouvons atteindre des niveaux de connaissance plus élevés qui peuvent conduire à des améliorations futures dans le développement ou l’affinement de produits, ainsi qu’à l’optimisation des campagnes de marketing.

Sur la base de nos constatations, nous avons déterminé que l’Intelligence Artificielle Explicable à l’aide de formules booléennes expressives est à la fois appropriée et souhaitable pour les cas d’utilisation qui exigent une explicabilité supplémentaire. De plus, à mesure que l’informatique quantique continue de se développer, nous prévoyons la possibilité de gagner des accélérations potentielles en l’utilisant ainsi que d’autres accélérateurs de matériel spécialisés.

Les travaux futurs pourraient porter sur l’application de ces classificateurs à d’autres ensembles de données, l’introduction de nouveaux opérateurs ou l’application de ces concepts à d’autres cas d’utilisation.