Explicabilité : la nouvelle frontière de l’intelligence artificielle dans l’assurance et la banque

Par le Dr Ori Katz, chercheur scientifique en analyse, Earnix.

« Toute technologie suffisamment avancée est indiscernable de la magie », a argumenté l’écrivain de science-fiction Arthur C. Clarke. En effet, parfois, les technologies avancées, telles que les nouveaux algorithmes d’apprentissage automatique, ressemblent à de la magie. Les applications évoluant de l’apprentissage automatique, notamment la classification d’images, la reconnaissance vocale et son utilisation dans les secteurs de l’assurance et de la banque, ont des propriétés qui semblent surnaturelles.

De nombreuses entreprises sont réticentes à modifier leurs modèles analytiques traditionnels – et à juste titre. La magie est dangereuse, surtout si elle n’est pas bien comprise. Les réseaux de neurones et les algorithmes d’ensemble d’arbres de décision sont des « boîtes noires », dont la structure interne peut être extrêmement complexe. Cependant, plusieurs études [1] ont montré comment les réseaux de neurones et les algorithmes basés sur les arbres peuvent surpasser même les modèles de risque d’assurance traditionnels les plus soigneusement réglés, construits par des actuaires expérimentés. Cela est dû à la capacité de ces nouveaux algorithmes à identifier automatiquement les structures cachées dans les données. Le mystère et l’utilité des réseaux de neurones et des algorithmes basés sur les arbres sont antagonistes. Il existe un compromis inhérent entre la précision d’un modèle analytique et son niveau d’« explicabilité ». Comment pouvons-nous faire confiance à des modèles si nous ne pouvons pas comprendre comment ils parviennent à leurs conclusions ? Devrions-nous simplement nous résigner à la magie, sacrifier notre confiance et notre contrôle sur quelque chose que nous ne pouvons pas pleinement comprendre pour l’exactitude ?

Les managers et les analystes ne sont pas les seuls à s’inquiéter de ce compromis. Au cours des dernières années, les régulateurs ont commencé à explorer le côté obscur de la magie pour améliorer leur capacité à surveiller ces industries. Les secteurs bancaire et assuranciel sont fortement réglementés dans de nombreux aspects, et les tendances actuelles de réglementation impliquent un examen plus approfondi des modèles utilisés pour faire des prévisions. Le considérant 71 du Règlement général sur la protection des données (RGPD) de l’Union européenne, par exemple, stipule que les clients doivent avoir le droit d’obtenir une explication d’une décision automatisée unique après qu’elle a été prise. Depuis son introduction, cet élément de la réglementation a été au centre d’un débat académique très controversé.

Le besoin urgent d’explication des modèles analytiques « boîtes noires » a conduit à l’émergence d’un nouveau domaine de recherche : l’intelligence artificielle explicative. Les experts développent des outils qui nous permettent de jeter un coup d’œil à l’intérieur de la boîte noire et de dénouer au moins une partie de la magie. Deux types d’outils que les chercheurs ont créés comprennent des outils d’« explicabilité globale » qui peuvent nous aider à comprendre les fonctionnalités clés qui déterminent les prévisions globales du modèle, et des outils d’« explicabilité locale » qui visent à expliquer une prédiction spécifique.

Le graphique suivant est un exemple d’explicabilité locale. Il est basé sur les idées de l’économiste prix Nobel Lloyd Shapley, qui a développé une méthode de théorie des jeux pour calculer la contribution de plusieurs joueurs coopérant dans la même tâche. Dans l’intelligence artificielle explicative, les « joueurs » sont les fonctionnalités du modèle, tandis que la « tâche » est la prédiction du modèle. Les nombres qui décrivent la contribution de chaque fonctionnalité sont appelés « valeurs de Shapley ». Les chercheurs ont récemment développé des méthodes pour l’estimation rapide des valeurs de Shapley [2], nous permettant de répartir équitablement une prédiction entre les différentes fonctionnalités.

Utilisation des valeurs de Shapley pour expliquer la demande de renouvellement prédite d’un client spécifique

Le graphique, basé sur des données simulées, montre le résultat d’un modèle de demande qui prédit la probabilité de renouvellement d’une police d’assurance automobile. Ceci est une explication locale pour un client spécifique. Le modèle de demande est basé sur un ensemble complexe d’arbres de décision, mais le graphique présente la contribution séparée de chaque fonctionnalité à la prédiction finale. Dans cet exemple, le modèle prédit que l’individu moyen dans les données renouvellera la police avec une probabilité de 0,64. Cependant, pour ce client spécifique, la probabilité prédite est beaucoup plus élevée, à 0,72. Le graphique permet de voir la cause de cette différence.

Alors que nous ne pouvons pas pleinement comprendre la structure interne de ce modèle complexe, les valeurs de Shapley nous permettent de voir quelles sont les fonctionnalités les plus importantes pour une prédiction spécifique, en dénouant une partie de la magie. En moyennant les valeurs de Shapley individuelles sur la population, nous pouvons voir quelles fonctionnalités sont les plus importantes et obtenir une explicabilité globale du modèle. D’autres outils d’explicabilité populaires incluent « l’importance des fonctionnalités par permutation », des modèles de remplacement simples qui sont ajustés localement, et des exemples contre-factuels, pour n’en citer que quelques-uns [3].

Les nouveaux outils d’explicabilité sont l’étape nécessaire suivante dans l’évolution de l’apprentissage automatique. Ils peuvent permettre aux compagnies d’assurance et aux banques de comprendre et de faire confiance à leurs modèles d’apprentissage automatique, de se conformer à de nouvelles réglementations et de fournir à leurs clients des informations précieuses. Nous pouvons maintenant en partie surmonter le compromis entre l’exactitude et l’explicabilité et profiter des avantages des nouveaux modèles d’apprentissage automatique avec moins de préoccupations quant à leur nature de boîte noire.

Dans notre monde qui se digitalise rapidement, devenir entièrement axé sur l’analyse est le critère de base de survie pour les assureurs et les banques. Cette capacité a toujours été importante – mais elle est devenue vitale avec les conditions de marché volatiles que 2020 nous a apportées. Les assureurs et les banques ont besoin d’une analyse plus intelligente pour modéliser une réalité complexe nouvelle sur laquelle ils peuvent baser leurs décisions commerciales et servir leurs clients plus rapidement et mieux. Les outils d’explicabilité peuvent permettre aux assureurs et aux banques d’atteindre cet objectif. Avec le temps, nous arriverons à un point où les modèles d’apprentissage automatique ne seront plus considérés comme de la magie, mais comme un outil essentiel dans l’arsenal de base de toute entreprise axée sur les données.

Sources:

[1] Bärtl, M., & Krummaker, S. (2020). Prédiction des sinistres dans le financement des crédits à l’exportation : une comparaison de quatre techniques d’apprentissage automatique. Risques, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Étude de cas : les sinistres de responsabilité civile automobile en France. Disponible sur SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). L’exactitude de XGBoost pour la prédiction des sinistres d’assurance. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Une étude comparative des algorithmes de mining de données dans la prédiction des sinistres d’assurance automobile. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Une approche unifiée pour interpréter les prédictions de modèles. In Advances in neural information processing systems (pp. 4765-4774).

[3] Voir ici pour plus de détails : https://christophm.github.io/interpretable-ml-book/index.html