Näin säännellyt toimialat tekevät tekoälypäätöksistä vastuullisia ja perusteltavia

Viime vuosikymmenen aikana yritysten tekoälyn käyttöönotto on noudattanut ennakoitavaa kaavaa: suuria investointeja, lupaavia pilotteja ja vaihtelevia vaikutuksia käytännön toimintaan. Pankki- ja vakuutusalalla tekoäly ei kuitenkaan enää ole kokeiluvaiheessa. Se vaikuttaa nyt merkittäviin päätöksiin, jotka koskevat petosten havaitsemista, luottojen myöntämistä, vakuutusriskien arviointia ja korvauksia. Näihin päätöksiin liittyy huomattavia taloudellisia, maineeseen kohdistuvia ja sääntelyyn liittyviä riskejä. Yhä useammin päätöksiin vaikuttavat yksittäisten mallien lisäksi agenttien ohjaamat työnkulut ja automatisoidut päätöksentekoketjut, jotka ulottuvat useisiin järjestelmiin ja prosessin vaiheisiin.

Haaste on muuttunut. Kyse ei enää ole oivallusten tuottamisesta, vaan strategisten päätösten tekemisestä ja niiden perustelemisesta.

Kun tekoäly integroidaan vaikutuksiltaan merkittäviin työnkulkuihin, yritysten ja julkisen sektorin organisaatioiden on pystyttävä selittämään, miten lopputulokseen päädyttiin, osoittamaan asianmukaiset valvontamenettelyt ja perustelemaan lopputulos sääntelyviranomaisille, asiakkaille ja hallituksille. Riskienhallinnan, vaatimustenmukaisuuden, datan ja teknologian johtajille keskeinen kysymys ei enää ole, mitä tekoäly osaa tehdä. Se on, kestävätkö tekoälyn tukemat päätökset kriittisen tarkastelun.

Tämä muutos lisää päätösälykkyyden eli Decision Intelligencen merkitystä. Kyse on toimintatavasta, jossa huomio kohdistuu yksittäisten mallien sijaan siihen, miten päätöksenteko suunnitellaan, miten sitä hallitaan ja seurataan sekä miten sitä parannetaan todellisissa toimintaympäristöissä.

Tekoälyn todellisuustesti

Generatiivinen tekoäly on nopeuttanut kokeiluja, avannut tiedonsaantia laajemmalle joukolle ja parantanut käyttökokemusta. Monet hankkeet kuitenkin pysähtyvät integraatioiden monimutkaisuuteen, hajautuneisiin vastuisiin ja hallintavaatimuksiin.

Säännellyillä toimialoilla nämä puutteet tulevat nopeasti esiin. Kielteiseen luottopäätökseen, estettyyn maksutapahtumaan tai hylättyyn korvaushakemukseen liittyy oikeudellisia ja vaatimustenmukaisuutta koskevia seurauksia. Vaikka tekoäly vaikuttaisi vain osaan päätöstä, organisaatio vastaa lopputuloksesta. Sen on osoitettava, miten syötetiedot yhdistettiin, mitä rajoituksia ja suojamekanismeja sovellettiin sekä missä vaiheessa ihminen käytti harkintaansa.

Tekniset suorituskykymittarit, kuten tarkkuus, vertailutasoon nähden saavutettu parannus eli lift ja havaitsemisaste, ovat tarpeellisia mutta eivät riittäviä. Sääntelyviranomaisille ja johtajille olennaista on päätöksenteon eheys.

Komponenttikeskeisyydestä päätöskeskeisyyteen

Useimmat tekoälyohjelmat optimoivat yksittäisiä komponentteja. Todellisissa tilanteissa päätös perustuu kuitenkin harvoin vain yhden mallin tuottamaan pistemäärään.

Petoshälytys voi yhdistää useita signaaleja, toimintaperiaatteiden mukaisia raja-arvoja ja manuaalisia tarkistuksia ennen maksutapahtuman pysäyttämistä. Vakuutusriskien arviointiin liittyvissä päätöksissä yhdistyvät usein ennustemallit, sääntelyvaatimukset, riskinottohalukkuutta koskevat linjaukset ja ihmisten asiantuntemus. Vastuu ulottuu datatieteen, tuotekehityksen, operatiivisen toiminnan ja vaatimustenmukaisuuden tiimeihin.

Päätösälykkyys muuttaa ongelmanasettelua. Sen sijaan, että kysyttäisiin, suoriutuuko malli hyvin, kysytään:

• Voimmeko jäljittää, miten tämä päätös tehtiin?
• Voimmeko selittää sen vielä kuukausien tai vuosien kuluttua?
• Voimmeko parantaa sitä järjestelmällisesti ja jatkuvasti lisäämättä riskiä?

Säännellyissä ympäristöissä nämä kysymykset ovat tärkeämpiä kuin mallien asteittaiset suorituskykyparannukset.

Vastuun osoittaminen on nyt sääntelyn odotus

Sääntelyviranomaisten suhtautuminen on muuttunut. Valvojat pitävät tekoälyä yhä useammin markkinoiden toimintaan ja kuluttajille syntyviin lopputuloksiin vaikuttavana tekijänä, eivät kokeellisena teknologiana.

Yhdysvalloissa pankkivalvojat vahvistavat edelleen mallien hallintaa, validointia ja dokumentointia koskevia odotuksiaan riippumatta teknologian kehittyneisyydestä. Organisaatiot vastaavat valvonnasta ja ohjauksesta myös automaation lisääntyessä.

Euroopassa vaatimukset ovat täsmällisempiä. EU:n tekoälysäädös asettaa määriteltyjä velvoitteita suuririskisille tekoälyjärjestelmille, myös rahoituspalveluissa ja vakuutusalalla käytettäville järjestelmille. Hallinta, dokumentointi ja auditoitavuus eivät ole valinnaisia ominaisuuksia vaan sääntelyvaatimuksia.

Viesti on sama eri lainkäyttöalueilla: jos tekoäly vaikuttaa kuluttajille tai markkinoille syntyviin lopputuloksiin, organisaatioiden on pystyttävä selittämään ja perustelemaan niihin johtaneet päätöksentekoprosessit.

Miksi pankki- ja vakuutusala näyttävät suuntaa

Monet toimialat kohtaavat tekoälyn hallinnan haasteita, mutta pankki- ja vakuutusala ovat eturintamassa, koska päätösten merkitys on selvä ja valvonta tiukkaa.

Petostentorjuntajärjestelmissä on tasapainotettava nopeus ja vaikutukset asiakkaisiin. Luotto- ja vakuutusriskipäätösten on oltava johdonmukaisia ja syrjimättömiä. Korvauspäätösten on kestettävä viranomaistarkastelu ja vakuutuksenottajien vastaväitteet. Kaikissa näissä tapauksissa päätökset syntyvät datan, sääntöjen, analytiikan ja ihmisen harkinnan yhdistelmästä.

Myös sääntelyviranomaiset tarkentavat huomiotaan. Yhdistyneen kuningaskunnan rahoitusvalvontaviranomainen Financial Conduct Authority käynnisti äskettäin selvityksen kehittyneen tekoälyn käytöstä kuluttajille suunnatuissa rahoituspalveluissa ja kytki tekoälyn käytön nimenomaisesti kuluttajille koituviin vaikutuksiin ja hallintastandardeihin.

Viesti on yksiselitteinen: tekoälyä pidetään nyt rahoitusalan keskeisenä infrastruktuurina.

Päätösälykkyys toimintatapana

Päätösälykkyys kuvataan usein virheellisesti vain uutena automaatiokerroksena. Säännellyillä toimialoilla täysi autonomia on harvoin mahdollista tai toivottavaa. Toimintaperiaatteiden asettamat rajoitukset ja riskinsietokyky varmistavat, että ihmiset pysyvät mukana päätöksenteossa.

Tavoite on käytännöllisempi: tehdä päätöksistä läpinäkyviä, tarkastettavia ja jatkuvasti parannettavia.

Käytännössä tämä tarkoittaa päätöslogiikan tuomista näkyviin sen sijaan, että se jäisi piiloon koodiin, malleihin tai laskentataulukoihin. On yksilöitävä selkeästi:

• Mitkä tiedot vaikuttivat lopputulokseen
• Mitä toimintaperiaatteita ja rajoituksia sovellettiin
• Missä vaiheessa ihminen puuttui prosessiin
• Kuka vastaa lopullisesta päätöksestä

Ajan mittaan näin syntyy organisaation muistia. Yritys voi arvioida paitsi mallin suoriutumista myös sitä, tuottiko päätöksentekoprosessi johdonmukaisia ja vaatimustenmukaisia tuloksia todellisissa toimintaolosuhteissa.

Tämä läpinäkyvyys ei poista monimutkaisuutta. Se tekee siitä hallittavaa ja vahvistaa luottamusta.

Missä perinteiset tekoälyn käyttöönotot epäonnistuvat

Monet tekoälyhankkeet kompastuvat organisaation rajapintoihin. Datatiimit optimoivat malleja. Liiketoimintatiimit vastaavat tuloksista. Riskienhallinta ja vaatimustenmukaisuus huolehtivat valvonnasta. Kun päätökset ulottuvat kaikkiin kolmeen, vastuu pirstoutuu.

Yksikään tiimi ei pysty selkeästi kuvaamaan, miten päätös muodostui, millaisia kompromisseja siihen sisältyi tai miten sitä pitäisi kehittää.

Tämä pirstoutuminen näkyy erityisen selvästi säännellyillä toimialoilla, joilla päätöksenteossa on useita vaiheita ja vastuunkantajia. Ilman päätöskeskeistä viitekehystä tulosten parantaminen usein lisää riskialtistusta, koska mallien, sääntöjen ja ihmisen harkinnan väliset vuorovaikutukset jäävät epäselviksi.

Päätösälykkyys vastaa tähän käsittelemällä päätöksiä hallittavina tuotteina. Niitä voidaan suunnitella, testata, seurata ja kehittää siten, että sidosryhmillä on yhteinen näkyvyys niihin. Näin syntyy yhteinen kieli, joka yhdistää teknisen suorituskyvyn liiketoiminnan tuloksiin ja sääntelyn odotuksiin.

Organisaatiot mallintavat yhä useammin myös itse päätöksentekoprosesseja kontekstuaalisiksi tai graafipohjaisiksi rakenteiksi, joissa syötteitä, suhteita ja tuloksia voidaan seurata ajan mittaan. Tällainen kontekstikerros auttaa tiimejä ymmärtämään, mitä päätettiin, miksi niin päätettiin ja miten päätöksentekoa pitäisi kehittää olosuhteiden muuttuessa.

Tarkastelun kohteena oleville organisaatioille tässä muutoksessa on kyse pikemminkin hallinnasta kuin innovoinnista.

Tekoälyriskistä strategiseksi eduksi

Tekoälyä laajasti käyttöön ottaville tietohallintojohtajille, datajohtajille, riskijohtajille ja liiketoimintajohtajille tehtävä on selvä: menestystä ei enää mitata käyttöönotettujen mallien määrällä vaan sillä, miten hyvin niiden vaikutuksen alaisia päätöksiä hallitaan.

Organisaatiot, jotka kartoittavat päätöksenteon kulun, selkeyttävät vastuut, dokumentoivat tekoälyn osallistumiskohdat ja sisällyttävät työnkulkuihin järjestelmällisen arvioinnin, etenevät nopeammin ja kestävät häiriöitä paremmin. Säännellyissä ympäristöissä kurinalainen toiminta on teknistä uutuusarvoa tärkeämpää.

Päätösälykkyys on nousemassa esiin toimintarakenteena, joka tekee tekoälyn käytöstä perusteltavaa, ei vain uutena teknologiakategoriana. Sen avulla organisaatiot voivat osoittaa vastuun toteutumisen, sovittaa eri toimintojen tiimit yhteen ja laajentaa tekoälyn käyttöä luottavaisesti.

Tiukasti säännellyillä markkinoilla tämä kyvykkyys ei ole pelkkää vaatimustenmukaisuuden perushoitoa vaan kilpailuetu.