Útskýring: Næsta landamæri gervigreindar í tryggingum og bankastarfsemi

Eftir Dr. Ori Katz, greiningarfræðingur, Earnix.

„Það er ekki hægt að greina hvaða tækni sem er nógu háþróuð frá töfrum,“ sagði vísindaskáldsagnahöfundurinn Arthur C. Clarke. Stundum líkist háþróuð tækni, eins og ný reiknirit fyrir vélanám, töfrum. Þróandi forrit vélanáms, þar á meðal myndflokkun, raddgreiningu og notkun þess í trygginga- og bankaiðnaði, hafa að því er virðist annarsheims eiginleika.

Mörg fyrirtæki eru á varðbergi gagnvart því að breyta hefðbundnum greiningarlíkönum sínum - og það er rétt. Galdur er hættulegur, sérstaklega ef hann er ekki vel skilinn. Tauganet og reiknirit fyrir trjásamstæðu eru „svartir kassar“, innri uppbygging þeirra getur verið mjög flókin. Á sama tíma hafa nokkrar rannsóknir [1] sýnt fram á hvernig taugakerfi og trjábundin reiknirit geta staðið sig betur en jafnvel vandlega stillt hefðbundin vátryggingaáhættulíkön sem smíðað eru af reyndum tryggingafræðingum. Þetta er vegna getu nýju reikniritanna til að bera kennsl á falinn uppbyggingu sjálfkrafa í gögnunum. Leyndardómur og notagildi tauganeta og tré-undirstaða reiknirit eru hliðstæð. Það er eðlislægt skipti á milli nákvæmni greiningarlíkans og stigs „útskýringar“ þess. Hvernig getum við treyst líkönum ef við getum ekki skilið hvernig þau komast að niðurstöðum sínum? Eigum við bara að gefa eftir fyrir töfrunum, fórna trausti okkar á og stjórn á einhverju sem við getum ekki skilið til fulls fyrir nákvæmni?

Stjórnendur og greiningaraðilar eru ekki þeir einu sem hafa áhyggjur af þessum viðskiptum. Undanfarin ár hafa eftirlitsstofnanir farið að kanna myrku hliðar galdra til að auka getu sína til að fylgjast með þessum atvinnugreinum. Banka- og tryggingaiðnaðurinn er mjög stjórnaður á mörgum sviðum og núverandi reglugerðarþróun felur í sér að skoða nánar líkönin sem eru notuð til að spá. Til dæmis segir í 71. forskot evrópsku almennu persónuverndarreglugerðarinnar (GDPR) að viðskiptavinir ættu að hafa rétt á að fá útskýringu á einni sjálfvirkri ákvörðun eftir að hún hefur verið tekin. Frá upphafi hefur þessi þáttur reglugerðarinnar verið miðpunktur mjög umdeildrar fræðilegrar umræðu.

Brýn þörf á að útskýra „black-box“ greiningarlíkön hefur leitt til þess að nýtt rannsóknarsvið hefur komið fram: Útskýranleg gervigreind. Sérfræðingar eru að þróa verkfæri sem gera okkur kleift að kíkja inn í svarta kassann og leysa að minnsta kosti hluta af töfrunum. Tvær gerðir af verkfærum sem vísindamenn hafa búið til eru meðal annars „Global Explainability“ verkfæri, sem geta hjálpað okkur að skilja helstu eiginleika sem knýja fram heildarspár líkans, og „Local Explainability“ verkfæri, sem eru ætluð til að útskýra ákveðna spá.

Eftirfarandi söguþráður er dæmi um staðbundna útskýringu. Það er byggt á hugmyndum Nóbelsverðlaunahagfræðingsins Lloyd Shapley, sem þróaði leikjafræðiaðferð til að reikna út framlag nokkurra leikmanna sem vinna í sama verkefninu. Í útskýrðri gervigreind eru „leikmennirnir“ fyrirmyndareiginleikar, en „verkefnið“ er spá líkansins. Tölurnar sem lýsa framlagi hvers eiginleika eru kallaðar „Shapley Values“. Vísindamenn þróuðu nýlega aðferðir til að meta Shapley-gildi hratt [2], sem gerir okkur kleift að dreifa spá á sanngjarnan hátt á mismunandi eiginleika.

Notkun Shapley gildi til að útskýra fyrirhugaða endurnýjunarþörf tiltekins viðskiptavinar

Söguþráðurinn, byggður á hermuðum gögnum, sýnir niðurstöðu eftirspurnarlíkans sem spáir fyrir um líkur á endurnýjun bílatryggingaskírteina. Þetta er staðbundin skýring fyrir tiltekinn viðskiptavin. Eftirspurnarlíkanið er byggt á flóknu samstæðu ákvarðanatrjáa, en söguþráðurinn sýnir aðskilið framlag hvers eiginleika til endanlegrar spá. Í þessu dæmi spáir líkanið því að meðaleinstaklingur í gögnunum muni endurnýja stefnuna með 0.64 líkum. Hins vegar, fyrir þennan tiltekna viðskiptavin, eru spár líkur mun meiri, eða 0.72. Söguþráðurinn gerir þér kleift að sjá orsök þessa munar.

Þó að við getum ekki skilið innri uppbyggingu þessa flókna líkans að fullu, leyfa Shapley-gildin okkur að sjá hverjir mikilvægustu eiginleikarnir eru fyrir tiltekna spá, og afhjúpa hluta töfranna. Að meðaltal einstakra Shapley-gilda yfir íbúafjöldann gerir okkur kleift að sjá hvaða eiginleikar eru mikilvægastir og fá alþjóðlega útskýringu líkansins. Önnur vinsæl útskýringartæki eru meðal annars „Mikilvægi umbreytingaeiginleika“, einföld staðgöngulíkön sem eru innréttuð á staðnum, og gagnsæ dæmi, svo eitthvað sé nefnt [3].

Nýju skýringartækin eru nauðsynlegt næsta skref í þróun vélanáms. Þeir geta leyft tryggingafélögum og bönkum að skilja og treysta vélanámslíkönum sínum, fara að nýjum reglum og veita viðskiptavinum sínum verðmætar upplýsingar. Við getum nú að hluta sigrast á skiptum á milli nákvæmni og útskýringar og notið kosta nýju vélanámslíkana með færri áhyggjur af eðli þeirra svarta kassa.

Í ört stafrænni heimi okkar er grunnviðmið vátryggingafélaga og banka að verða að fullu greiningadrifinn grunnviðmið um lifun. Þessi hæfileiki hefur alltaf verið mikilvægur – en hann varð lífsnauðsynlegur með sveiflukenndum markaðsaðstæðum sem 2020 hefur leitt yfir okkur. Vátryggjendur og bankar þurfa snjallari greiningar til að móta flókinn nýjan veruleika sem þeir geta byggt viðskiptaákvarðanir sínar á og þjónað viðskiptavinum sínum hraðar og betur. Útskýringartæki geta gert vátryggjendum og bönkum kleift að ná því. Með tímanum munum við komast að þeim stað þar sem vélanámslíkön eru ekki lengur talin töfrar, heldur nauðsynlegt tæki í kjarnavopnabúr hvers kyns gagnadrifið fyrirtæki.

Heimildir:

[1] Bärtl, M., & Krummaker, S. (2020). Spá um kröfur í útflutningslánum: Samanburður á fjórum vélanámsaðferðum. Áhætta, 8(1), 22.

Noll, A., Salzmann, R. og Wuthrich, MV (2020). Málsathugun: Franska bílaábyrgðarkröfur þriðja aðila. Fæst í SSRN 3164764.

Fauzan, MA og Murfi, H. (2018). Nákvæmni XGBoost fyrir spá um tryggingartjón. Alþj. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, KPMLP og Wijegunasekara, MC (2016). Samanburðarrannsókn á reikniritum til námuvinnslu í spá um bílatryggingakröfur. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, SM og Lee, SI (2017). Samræmd nálgun við að túlka spár líkana. Í Framfarir í taugaupplýsingavinnslukerfum (bls. 4765-4774).

[3] Sjá hér fyrir frekari upplýsingar: https://christophm.github.io/interpretable-ml-book/index.html