Vysvětlitelnost: Další hranice pro umělou inteligenci v pojišťovnictví a bankovnictví

Od Dr. Oriho Katze, analytického výzkumného pracovníka, Earnix.

„Jakákoli dostatečně pokročilá technologie je nezřetelná od magie“, argumentoval sci-fi spisovatel Arthur C. Clarke. Skutečně, někdy pokročilá technologie, jako jsou nové algoritmy strojového učení, připomínají magii. Rozvíjející se aplikace strojového učení, včetně klasifikace obrazů, rozpoznávání hlasu a jeho použití v pojišťovnictví a bankovnictví, mají zdánlivě nadpřirozené vlastnosti.

Mnohé společnosti jsou opatrné, když mění své tradiční analytické modely – a právem tak. Magie je nebezpečná, zejména pokud není dobře pochopena. Neuronové sítě a algoritmy stromových ensemble jsou „černé skříňky“, jejich vnitřní struktura může být extrémně komplexní. Současně několik studií [1] ukázalo, jak neuronové sítě a stromové algoritmy mohou překonat i ty nejlépe naladěné tradiční pojišťovací rizika modely vytvořené zkušenými aktuary. To je způsobeno schopností nových algoritmů automaticky identifikovat skrytou strukturu v datech. Tajemství a užitečnost neuronových sítí a stromových algoritmů jsou protichůdná. Existuje vnitřní kompromis mezi přesností analytického modelu a jeho úrovní „vysvětlitelnosti“. Jak můžeme důvěřovat modelům, pokud nemůžeme pochopit, jak dospěly ke svým závěrům? Měli bychom se prostě vzdát magie, obětovat naši důvěru a kontrolu nad něčím, co nemůžeme plně pochopit, pro přesnost?

Manažeři a analytici nejsou jediní, kdo se obávají tohoto kompromisu. V posledních letech začali regulátoři zkoumat temnou stránku magie, aby zvýšili svou schopnost monitorovat tyto odvětví. Pojišťovací a bankovní odvětví jsou vysoce regulovaná v mnoha ohledech a současná regulační trend zahrnuje bližší pohled na modely, které se používají k vytváření předpovědí. Například čl. 71 Obecného nařízení o ochraně osobních údajů (GDPR) stanoví, že zákazníci by měli mít právo získat vysvětlení jednotlivého automatizovaného rozhodnutí po jeho přijetí. Od svého zavedení je tento prvek nařízení předmětem vysoce sporné akademické debaty.

Nutné potřeba vysvětlení „černých skříněk“ analytických modelů vedla k vzniku nového výzkumného oboru: Vysvětlitelná umělá inteligence. Odborníci vyvíjejí nástroje, které nám umožňují nahlédnout do černé skříňky a odhalit alespoň část magie. Dva typy nástrojů, které výzkumníci vytvořili, zahrnují „Globální vysvětlitelnost“ nástroje, které nám pomáhají pochopit klíčové funkce, které řídí celkové předpovědi modelu, a „Místní vysvětlitelnost“ nástroje, které jsou určeny k vysvětlení konkrétní předpovědi.

Následující graf je příkladem místní vysvětlitelnosti. Je založen na nápadech nositele Nobelovy ceny za ekonomii Lloyda Shapleyho, který vyvinul metodiku teorie her pro výpočet příspěvku několika hráčů, kteří spolupracují na stejné úkolu. V případě Vysvětlitelné umělé inteligence jsou „hráči“ funkcemi modelu, zatímco „úkol“ je předpovědí modelu. Čísla, která popisují příspěvek každé funkce, se nazývají „Shapleyovy hodnoty“. Výzkumníci nedávno vyvinuli metody pro rychlé odhadování Shapleyových hodnot [2], což nám umožňuje spravedlivě rozdělit předpověď mezi různé funkce.

Použití Shapleyových hodnot k vysvětlení předpovězené poptávky po obnovení pojistné smlouvy konkrétního zákazníka

Graf, založený na simulovaných datech, ukazuje výsledek modelu poptávky, který předpovídá pravděpodobnost obnovení pojistné smlouvy. Jedná se o místní vysvětlení pro konkrétního zákazníka. Model poptávky je založen na komplexním ensemble rozhodovacích stromů, ale graf prezentuje samostatný příspěvek každé funkce k finální předpovědi. V tomto příkladu model předpovídá, že průměrný jedinec v datech obnoví pojistnou smlouvu s pravděpodobností 0,64. Nicméně pro tohoto konkrétního zákazníka je předpovězená pravděpodobnost mnohem vyšší, 0,72. Graf umožňuje vidět příčinu tohoto rozdílu.

Zatímco nemůžeme plně pochopit vnitřní strukturu tohoto komplexního modelu, Shapleyovy hodnoty nám umožňují vidět, které funkce jsou nej重要nější pro konkrétní předpověď, a odhalit část magie. Průměrování individuálních Shapleyových hodnot přes populaci nám umožňuje vidět, které funkce jsou nejimportantnější, a získat globální vysvětlitelnost modelu. Mezi další populární nástroje vysvětlitelnosti patří „Permutation Feature Importance“, jednoduché náhradní modely, které jsou lokálně přizpůsobeny, a kontrafaktické příklady, abychom jmenovali alespoň einige [3].

Nové nástroje vysvětlitelnosti jsou nezbytným dalším krokem v evoluci strojového učení. Mohou umožnit pojišťovacím společnostem a bankám pochopit a důvěřovat svým modelům strojového učení, dodržovat nové regulace a poskytovat svým zákazníkům cenné informace. Nyní můžeme částečně překonat kompromis mezi přesností a vysvětlitelností a užívat si výhod nových modelů strojového učení s menšími obavami o jejich černou skříňku.

V našem rychle digitalizovaném světě je být plně analyticky orientovaným kritériem pro přežití pojišťoven a bank. Tato schopnost vždy byla důležitá – ale stala se životně důležitou s volatilními tržními podmínkami, které přinesl rok 2020. Pojišťovny a banky potřebují chytřejší analytiku, aby mohly modelovat komplexní novou realitu, na základě které mohou učinit své obchodní rozhodnutí a lépe a rychleji sloužit svým zákazníkům. Nástroje vysvětlitelnosti mohou umožnit pojišťovnám a bankám dosáhnout toho. S časem se dostaneme do bodu, kdy modely strojového učení již nebudou považovány za magii, ale za nezbytný nástroj v jádru každé datové společnosti.

Zdroje:

[1] Bärtl, M., & Krummaker, S. (2020). Předpověď nároků v exportním úvěru: Srovnání čtyř technik strojového učení. Rizika, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Případová studie: Francouzské pojistné nároky na třetí strany. Dostupné na SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Přesnost XGBoost pro předpověď pojistných nároků. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Srovnávací studie algoritmů pro předpověď pojistných nároků. Evropský mezinárodní vědecký a technologický časopis, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Ujednocený přístup k interpretaci předpovědí modelů. V Advances in neural information processing systems (str. 4765-4774).

[3] Více informací naleznete zde: https://christophm.github.io/interpretable-ml-book/index.html