Selittämiskyky: Seuraava rintama tekoälyssä vakuutus- ja pankkitoiminnassa

Tohtori Ori Katz, Analytical Research Scientist, Earnix.

”Riittävän kehittynyt teknologia on erottamaton magiasta”, väitti tieteiskirjailija Arthur C. Clarke. Totta on, että joskus kehittyneet teknologiat, kuten uudet koneoppimisen algoritmit, muistuttavat magiaa. Koneoppimisen soveltamisesta, mukaan lukien kuvien luokittelu, äänentunnistus ja sen käyttö vakuutus- ja pankkitoiminnassa, on nähty jumalallisia ominaisuuksia.

Monet yritykset ovat varovaisia muuttaa perinteisiä analyyttisiä mallejaan – ja oikeutetusti. Magia on vaarallista, etenkin jos sitä ei ymmärretä. Neuroverkkorakenteet ja puurakenteiset algoritmit ovat ”mustia laatikoita”, ja niiden sisäinen rakenne voi olla äärimmäisen monimutkainen. Samalla useat tutkimukset [1] ovat osoittaneet, miten neuroverkkorakenteet ja puurakenteiset algoritmit voivat ylittää jopa perinteiset vakuutusriskejä koskevat mallit, jotka on rakennettu kokeneiden aktuaarien toimesta. Tämä johtuu uusien algoritmien kyvystä automaattisesti tunnistaa piilevät rakenteet tiedoissa. Neuroverkkorakenteiden ja puurakenteisten algoritmien mystiikka ja hyödyllisyys ovat vastakkaisia. On sisäänrakennettu kompromissi analyyttisen mallin tarkin ja selittämiskyvyn välillä. Miten voimme luottaa malleihin, jos emme ymmärrä, miten ne saavuttavat johtopäätöksensä? Pitäisikö meidän antaa periksi magialle, uhraamalla luottamuksemme ja hallintamme asioiden suhteen, joita emme voi täysin ymmärtää, tarkin vuoksi?

Johtajat ja analyytikot eivät ole ainoat, jotka ovat huolissaan tästä kompromissista. Viime vuosina sääntelijät ovat alkaneet tutkia magian pimeää puolta lisätäkseen kykyään valvoa näitä aloja. Vakuutus- ja pankkitoiminta on voimakkaasti säänneltyjä monilla tavoin, ja nykyiset sääntelytrendit liittyvät tarkemmin tarkastelemaan malleja, joita käytetään ennusteiden tekemiseen. Esimerkiksi Euroopan yleisen tietosuoja-asetuksen 71 §:n mukaan asiakkaiden on oltava oikeus saada selitys yksittäisestä automaattisesta päätöksestä sen tekemisen jälkeen. Tämä säännös on ollut keskellä kiivasta akateemista keskustelua sen voimaantulosta lähtien.

”Mustien laatikoiden” analyyttisten mallien selittämistarpeen kiireellisyys on johtanut uuden tutkimusalueen syntyyn: Selittämiskykyinen tekoäly. Asiantuntijat kehittävät työkaluja, jotka mahdollistavat meille kurkistaa mustaan laatikkoon ja purkaa ainakin osan magiasta. Tutkijat ovat luoneet kaksi työkalutyyppiä: ”Globaalin selittämiskyvyn” työkalut, jotka auttavat meitä ymmärtämään avainominaisuuksia, jotka ohjaavat koko mallin ennusteita, ja ”Paikallisen selittämiskyvyn” työkalut, jotka on tarkoitettu selittämään tiettyä ennustetta.

Seuraava kuva on esimerkki paikallisesta selittämiskelpoisuudesta. Se perustuu Nobelin palkinnon saaneen taloustieteilijän Lloyd Shapleyn kehittämään peliteoreettiseen menetelmään, jolla voidaan laskea useiden pelaajien yhteistyöhön osallistumisen vaikutus. Selittämiskelpoisessa tekoälyssä ”pelaajat” ovat mallin ominaisuuksia, ja ”tehtävä” on mallin ennusteen tekeminen. Kunkin ominaisuuden osuutta kuvaavat luvut kutsutaan ”Shapley-arvoiksi”. Tutkijat ovat kehittäneet menetelmiä Shapley-arvojen nopeaan arvioimiseen [2], mikä mahdollistaa ennusteen jakamisen reilusti eri ominaisuuksien kesken.

Käyttäen Shapley-arvoja selittämään ennustettua uudelleenmyyntikysymystä tietyn asiakkaan kohdalla

Kuva, joka perustuu simuloituun dataan, näyttää autonvakuutuksen uudelleenmyyntikysymyksen ennusteen tuloksen. Tämä on paikallinen selitys tietyn asiakkaan kohdalla. Kysymysmalli perustuu monimutkaiseen puurakenteiseen kokoonpanoon, mutta kuva esittää kunkin ominaisuuden erillisen vaikutuksen lopputulokseen. Tässä esimerkissä malli ennustaa, että keskimääräinen yksilö aineistossa uudelleenmyy vakuutuksen todennäköisyydellä 0,64. Kuitenkin tietyn asiakkaan kohdalla ennustettu todennäköisyys on paljon korkeampi, 0,72. Kuva antaa mahdollisuuden nähdä tämän eroon syy.

Vaikka emme voi täysin ymmärtää tätä monimutkaisen mallin sisäistä rakennetta, Shapley-arvot antavat mahdollisuuden nähdä, mitkä ominaisuudet ovat tärkeimmät tietyssä ennusteessa, ja purkaa osan magiasta. Kunkin yksittäisen Shapley-arvon keskiarvon laskeminen väestössä antaa mahdollisuuden nähdä, mitkä ominaisuudet ovat tärkeimmät ja saada globaali selittämiskyky mallista. Muita suosittuja selittämiskykytyökaluja ovat ”Permutaatio-ominaisuuden tärkeys”, yksinkertaiset paikalliset korvaavat mallit ja vastakkaiset esimerkit, mainiten muutamia [3].

Uudet selittämiskykytyökalut ovat välttämätön seuraava askel koneoppimisen evoluutiossa. Ne voivat antaa vakuutusyhtiöille ja pankeille mahdollisuuden ymmärtää ja luottaa koneoppimismalleihinsa, noudattaa uusia sääntelyjä ja antaa asiakkailleen arvokkaita tietoja. Voimme nyt osittain ylittää tarkin ja selittämiskyvyn välisen kompromissin ja nauttia uusien koneoppimismallien eduista vähemmällä huolella niiden mustan laatikon luonteesta.

Nopeasti digitalisoituvassa maailmassamme täysin analytiikkaan perustuva toiminta on vakuutusyhtiöiden ja pankkien selviytymisen perusedellytys. Tämä kyky on aina ollut tärkeä – mutta se on muuttunut elintärkeäksi vuoden 2020 tuomaan volatiiliseen markkinatilanteeseen. Vakuutusyhtiöiden ja pankkien on tarve älykkäämmistä analyytikoista mallittaa monimutkainen uusi todellisuus, johon he perustavat liiketoimintapäätöksensä ja palvelevat asiakkaitaan nopeammin ja paremmin. Selittämiskykytyökalut voivat antaa vakuutusyhtiöille ja pankeille mahdollisuuden saavuttaa tämän. Ajan myötä pääsemme pisteeseen, jossa koneoppimismallit eivät ole enää magiaa, vaan olennainen työkalu jokaisen dataohjatun liiketoiminnan ydinvarustuksessa.

Lähteet:

[1] Bärtl, M., & Krummaker, S. (2020). Vakuutusvaatimusten ennustaminen vientivakuutuksessa: Neljän koneoppimismenetelmän vertailu. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Case-tutkimus: Ranskalaiset kolmannen osapuolen vahingonkorvausvakuutukset. Saatavilla SSRN: ssä 3164764.

Fauzan, M. A., & Murfi, H. (2018). XGBoostin tarkin vakuutusvaatimusten ennustamisessa. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Vertaileva tutkimus datakaivauksenalgoritmeista autonvakuutusvaatimusten ennustamisessa. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Yhdenmukainen lähestymistapa mallien ennusteiden tulkitsemiseen. Teoksessa Advances in neural information processing systems (s. 4765-4774).

[3] Katso lisätietoja osoitteesta: https://christophm.github.io/interpretable-ml-book/index.html