Forklarlighed: Den Næste Frontier for Kunstig Intelligens i Forsikring og Bank

Af Dr. Ori Katz, Analytisk Forskningsvidenskabsmand, Earnix.

“Enhver tilstrækkeligt avanceret teknologi er ikke til at skille fra magi”, argumenterede science fiction-forfatteren Arthur C. Clarke. Sandt enough, nogle gange ligner avanceret teknologi, såsom nye maskinlæringsalgoritmer, magi. De udviklende anvendelser af maskinlæring, herunder billedklassificering, talegenkendelse og dens brug i forsikrings- og banksektorerne, synes at have overnaturlige egenskaber.

Mange virksomheder er betænkelige ved at ændre deres traditionelle analytiske modeller – og med rette. Magi er farligt, især hvis det ikke er godt forstået. Neurale netværk og træ-ensemble-algoritmer er “sorte kasser”, deres indre struktur kan være ekstremt kompleks. Samtidig har flere studier [1] vist, hvordan neurale netværk og træbaserede algoritmer kan overgå selv de mest omhyggeligt afstemte traditionelle forsikringsrisikomodeller, som er konstrueret af erfarne aktuarier. Dette skyldes evnen hos de nye algoritmer til automatisk at identificere skjult struktur i data. Mysteriet og nyttigheden af neurale netværk og træbaserede algoritmer er modsat hinanden. Der er en indbygget balance mellem nøjagtigheden af en analytisk model og dens niveau af “forklarlighed.” Hvordan kan vi stole på modeller, hvis vi ikke kan forstå, hvordan de når til deres konklusioner? Skal vi bare give efter for magien, ofre vores tillid til og kontrol over noget, vi ikke fuldt ud kan forstå, for nøjagtighed?

Chefer og analytikere er ikke de eneste, der er bekymrede over denne balance. I de seneste år er regulatorerne begyndt at udforske den mørke side af magien for at øge deres evne til at overvåge disse industrier. Forsikrings- og banksektorerne er højt regulerede på mange områder, og nuværende reguleringstendenser indebærer en nærmere undersøgelse af de modeller, der bruges til at lave forudsigelser. Recital 71 i den europæiske generelle forordning om beskyttelse af persondata (GDPR) fastslår for eksempel, at kunder skal have ret til at få en forklaring på en enkelt automatiseret beslutning efter, at den er truffet. Siden dens indførelse har dette element i forordningen været centrum for en højst kontroversiel akademisk debat.

Den presserende behov for at forklare “sorte kasse”-analytiske modeller har ført til opkomsten af et nyt forskningsfelt: Forklarlig Kunstig Intelligens. Eksperter udvikler værktøjer, der giver os mulighed for at kigge ind i den sorte kasse og afklæde mindst nogle af magien. To typer værktøjer, som forskerne har skabt, omfatter “Global Forklarlighed”-værktøjer, der kan hjælpe os med at forstå de vigtigste funktioner, der driver den samlede model-forudsigelse, og “Lokal Forklarlighed”-værktøjer, der er beregnet til at forklare en specifik forudsigelse.

Den følgende plot er et eksempel på lokal forklarlighed. Den er baseret på idéerne fra den nobelprisvindende økonom Lloyd Shapley, der udviklede en spilteori-metode til beregning af bidraget fra flere spillere, der samarbejder i samme opgave. I Forklarlig Kunstig Intelligens er “spillerne” model-funktionerne, mens “opgaven” er model-forudsigelsen. Tallene, der beskriver bidraget fra hver funktion, kaldes “Shapley-Værdier”. Forskere har nylig udviklet metoder til hurtig estimering af Shapley-Værdier [2], hvilket giver os mulighed for at fordele en forudsigelse retfærdigt blandt de forskellige funktioner.

Brug af Shapley-Værdier til at forklare den forudsagte fornyelseskrav for en bestemt kunde

Plotten, der er baseret på simulerede data, viser resultatet af en kravmodel, der forudsiger sandsynligheden for fornyelse af en bilforsikringspolice. Dette er en lokal forklaring for en specifik kunde. Kravmodellen er baseret på en kompleks ensemble af beslutningstræer, men plotten præsenterer det separate bidrag fra hver funktion til den endelige forudsigelse. I dette eksempel forudsiger modellen, at den gennemsnitlige person i data vil fornye politiet med en sandsynlighed på 0,64. Men for denne specifikke kunde er den forudsagte sandsynlighed langt højere, på 0,72. Plotten giver os mulighed for at se årsagen til denne forskel.

Selv om vi ikke kan fuldt ud forstå den indre struktur af denne komplekse model, giver Shapley-Værdier os mulighed for at se, hvilke funktioner der er vigtigst for en specifik forudsigelse, og afklæde en del af magien. Gennemsnitlig af de enkelte Shapley-Værdier over populationen giver os mulighed for at se, hvilke funktioner der er vigtigst, og få en global forklaringsmodel. Andre populære forklaringsværktøjer omfatter “Permutation Feature Importance”, simple surrogate-modeller, der er tilpasset lokalt, og kontrafaktiske eksempler, for at nævne nogle [3].

De nye forklaringsværktøjer er det nødvendige næste skridt i udviklingen af maskinlæring. De kan give forsikringsselskaber og banker mulighed for at forstå og stole på deres maskinlæringsmodeller, overholde nye reguleringer og give deres kunder værdifuld information. Vi kan nu delvist overvinde balancen mellem nøjagtighed og forklaringsgrad og nyde fordelene ved de nye maskinlæringsmodeller med færre bekymringer om deres sorte kasse-natur.

I vores hurtigt digitaliserende verden er det at blive fuldt ud analytisk-drevet det grundlæggende overlevelseskriterium for forsikringsselskaber og banker. Denne evne har altid været vigtig – men den blev vital med de volatile markedsvilkår, som 2020 har bragt med sig. Forsikringsselskaber og banker har brug for smartere analyser for at modelere en kompleks ny virkelighed, som de kan basere deres forretningsbeslutninger på og betjene deres kunder hurtigere og bedre. Forklaringsværktøjer kan give forsikringsselskaber og banker mulighed for at opnå dette. Med tiden vil vi nå til et punkt, hvor maskinlæringsmodeller ikke længere anses for magi, men som et essentiel værktøj i kernearсенalet af enhver data-dreven forretning.

Kilder:

[1] Bärtl, M., & Krummaker, S. (2020). Forudsigelse af krav i eksportkreditfinansiering: En sammenligning af fire maskinlærings-teknikker. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Case-studie: Franske motor-tredjepartsansvar krav. Tilgængelig på SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Nøjagtigheden af XGBoost til forsikringskrav-forudsigelse. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). En sammenlignende studie af data-mining-algoritmer i forudsigelsen af bilforsikringskrav. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). En samlet tilgang til at fortolke model-forudsigelser. I Advances in neural information processing systems (s. 4765-4774).

[3] Se her for mere information: https://christophm.github.io/interpretable-ml-book/index.html