Wyjaśnialność: Następny kierunek rozwoju sztucznej inteligencji w ubezpieczeniach i bankowości

Przez Dr. Ori Katz, Analityka Badań, Earnix.

„Każda wystarczająco zaawansowana technologia jest nieodróżnialna od magii”, argumentował pisarz science fiction Arthur C. Clarke. Rzeczywiście, czasami zaawansowana technologia, taka jak nowe algorytmy uczenia maszynowego, przypomina magię. Ewoluujące zastosowania uczenia maszynowego, w tym klasyfikacja obrazów, rozpoznawanie głosu i ich użycie w ubezpieczeniach i bankowości, mają pozornie nadprzyrodzone właściwości.

Wiele firm obawia się zmiany tradycyjnych modeli analitycznych – i słusznie. Magia jest niebezpieczna, zwłaszcza jeśli nie jest dobrze zrozumiana. Sieci neuronowe i algorytmy drzewiaste są „czarnymi skrzynkami”, ich wewnętrzna struktura może być bardzo złożona. Jednocześnie kilka badań [1] wykazało, jak sieci neuronowe i algorytmy drzewiaste mogą przewyższać nawet najstaranniejsze tradycyjne modele ryzyka ubezpieczeniowego skonstruowane przez doświadczonych aktuarzy. Wynika to z możliwości nowych algorytmów automatycznego identyfikowania ukrytej struktury w danych. Tajemnica i użyteczność sieci neuronowych i algorytmów drzewiastych są przeciwstawne. Istnieje wewnętrzny kompromis między dokładnością modelu analitycznego a jego poziomem „wyjaśnialności”. Jak możemy ufać modelom, jeśli nie możemy zrozumieć, jak dochodzą do swoich wniosków? Czy powinniśmy po prostu ulegać magii, poświęcając nasze zaufanie i kontrolę nad czymś, czego nie możemy w pełni zrozumieć, dla dokładności?

Menadżerowie i analitycy nie są jedynymi, którzy są zaniepokojeni tym kompromisem. W ciągu ostatnich kilku lat, regulatorzy zaczęli badać ciemną stronę magii, aby zwiększyć swoją zdolność do monitorowania tych branż. Branże ubezpieczeniowa i bankowa są ściśle regulowane w wielu aspektach, a obecne trendy regulacyjne obejmują bliższe przyjrzenie się modelom używanym do dokonywania przewidywań. Przypis 71 Rozporządzenia Ogólnego o Ochronie Danych (RODO), na przykład, stanowi, że klienci powinni mieć prawo do uzyskania wyjaśnienia pojedynczej zautomatyzowanej decyzji po jej podjęciu. Od swojego powstania, ten element rozporządzenia był w centrum bardzo kontrowersyjnej debaty akademickiej.

Pilna potrzeba wyjaśniania „czarnych skrzynek” modeli analitycznych doprowadziła do powstania nowego pola badawczego: Wyjaśnialnej Sztucznej Inteligencji. Eksperci rozwijają narzędzia, które pozwalają nam zajrzeć do wnętrza czarnej skrzynki i rozplątać przynajmniej część magii. Dwa rodzaje narzędzi, które badacze stworzyli, to „Globalna Wyjaśnialność” narzędzia, które mogą pomóc nam zrozumieć kluczowe cechy napędzające ogólne przewidywania modelu, oraz „Lokalna Wyjaśnialność” narzędzia, które mają wyjaśnić konkretną przewidywanie.

Poniższy wykres jest przykładem lokalnej wyjaśnialności. Jest oparty na pomysłach noblisty ekonomisty Lloyda Shapleya, który opracował metodę teoretyczną gier do obliczania wkładu kilku graczy współpracujących w tym samym zadaniu. W Wyjaśnialnej Sztucznej Inteligencji „gracze” są cechami modelu, a „zadanie” to przewidywanie modelu. Liczby, które opisują wkład każdej cechy, nazywane są „Wartościami Shapleya”. Niedawno badacze opracowali metody szybkiej estymacji Wartości Shapleya [2], co pozwala nam w sposób uczciwy rozdzielić przewidywanie między różne cechy.

Użycie Wartości Shapley do wyjaśnienia przewidywanego popytu na odnowienie polisy ubezpieczeniowej dla konkretnego klienta

Wykres, oparty na symulowanych danych, pokazuje wynik modelu popytu, który przewiduje prawdopodobieństwo odnowienia polisy ubezpieczeniowej. Jest to lokalne wyjaśnienie dla konkretnego klienta. Model popytu oparty jest na złożonym ansamblu drzew decyzyjnych, ale wykres przedstawia oddzielny wkład każdej cechy do ostatecznej przewidywania. W tym przykładzie model przewiduje, że średni klient w danych odnowi polisę z prawdopodobieństwem 0,64. Jednak dla tego konkretnego klienta przewidywane prawdopodobieństwo jest znacznie wyższe, na poziomie 0,72. Wykres pozwala zobaczyć przyczynę tej różnicy.

Pomimo że nie możemy w pełni zrozumieć wewnętrznej struktury tego złożonego modelu, Wartości Shapley pozwalają nam zobaczyć, które cechy są najważniejsze dla konkretnego przewidywania, rozplątując część magii. Uśrednianie indywidualnych Wartości Shapley w populacji pozwala nam zobaczyć, które cechy są najważniejsze i uzyskać globalną wyjaśnialność modelu. Inne popularne narzędzia wyjaśnialności obejmują „Permutację Ważności Cech”, proste modele zastępcze dopasowane lokalnie oraz przykłady kontrfaktualne, by wymienić tylko kilka [3].

Nowe narzędzia wyjaśnialności są niezbędnym następnym krokiem w ewolucji uczenia maszynowego. Mogą one pozwolić firmom ubezpieczeniowym i bankom zrozumieć i ufać swoim modelom uczenia maszynowego, przestrzegać nowych regulacji oraz dostarczać swoim klientom cennych informacji. Możemy teraz częściowo pokonać kompromis między dokładnością a wyjaśnialnością i korzystać z zalet nowych modeli uczenia maszynowego z mniejszymi obawami o ich naturę czarnej skrzynki.

W naszym szybko cyfryzowanym świecie, stając się w pełni napędzanym analitycznie jest podstawowym kryterium przetrwania dla ubezpieczycieli i banków. Ta zdolność zawsze była ważna – ale stała się niezwykle istotna z powodu nieprzewidywalnych warunków rynkowych, które 2020 rok przyniósł nam. Ubezpieczyciele i banki potrzebują inteligentniejszych analiz, aby modelować złożoną nową rzeczywistość, na której mogą opierać swoje decyzje biznesowe i służyć swoim klientom szybciej i lepiej. Narzędzia wyjaśnialności mogą pozwolić ubezpieczycielom i bankom osiągnąć to. Z czasem dotrzemy do punktu, w którym modele uczenia maszynowego nie będą już uważane za magię, ale za niezwykle ważne narzędzie w podstawowym arsenale każdego biznesu opartego na danych.

Źródła:

[1] Bärtl, M., & Krummaker, S. (2020). Przewidywanie roszczeń w finansach eksportowych: Porównanie czterech technik uczenia maszynowego. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Studium przypadku: Roszczenia do odpowiedzialności cywilnej we Francji. Dostępne w SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Dokładność XGBoost dla przewidywania roszczeń ubezpieczeniowych. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Porównawcze badanie algorytmów wydobywania danych w przewidywaniu roszczeń ubezpieczeniowych. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Zjednoczony podejście do interpretowania przewidywań modelu. W Advances in neural information processing systems (str. 4765-4774).

[3] Zobacz więcej szczegółów: https://christophm.github.io/interpretable-ml-book/index.html