Selitettävä tekoäly ilmeikkäiden Boolen lauseiden avulla

Tekoälyn ja koneoppimisen sovellusten räjähdysmäinen kasvu on levinnyt lähes jokaiselle alalle ja elämän osa-alueelle.

Sen kasvu ei kuitenkaan tule ilman ristiriitaa. Vaikka tekoäly on olemassa yksinkertaistamaan ja/tai nopeuttamaan päätöksentekoa tai työnkulkua, menetelmä siihen on usein erittäin monimutkainen. Joissakin “mustan laatikon” koneoppimisalgoritmeissa on niin monimutkaisia ja moniosaisia, että ne voivat olla vaikeita selittää, jopa niiden luoneille tietokoneille.

Tämä voi olla erittäin ongelmallista, kun tiettyjä käyttötapauksia – kuten rahoitus- ja lääketieteen aloilla – määrittävät alan parhaat käytännöt tai hallituksen sääntelyt, jotka vaativat avoimia selityksiä tekoälyratkaisujen sisäisistä toimintatavoista. Ja jos nämä sovellukset eivät ole ilmaisukykyisiä tarpeeksi selitettävyyden vaatimusten täyttämiseksi, ne voivat olla hyödyttömiä riippumatta niiden yleisestä tehokkuudesta.

Tätä paradoksiin ratkaisemaan meidän tiimimme Fidelity Center for Applied Technology (FCAT) — yhteistyössä Amazon Quantum Solutions Labin kanssa — on ehdottanut ja toteuttanut tulkittavan koneoppimismallin Selitettävälle tekoälylle (XAI) ilmeikkäiden Boolen lauseiden perusteella. Tällainen lähestymistapa voi sisältää minkä tahansa operaattorin, jota voidaan soveltaa yhteen tai useampaan Boolen muuttujaan, tarjoamalla siten suuremman ilmaisukyvyn verrattuna jäykempiin sääntö- ja puupohjaisiin lähestymistapoihin.

Voit lukea koko artikkelin täältä täydellisten yksityiskohtien saamiseksi tästä hankkeesta.

Hypoteesimme oli, että koska mallit — kuten päätöspuut — voivat tulla syviksi ja vaikeiksi tulkittaviksi, tarve löytää ilmaisukykyinen sääntö alhaisella monimutkaisuudella ja suurella tarkkuudella oli ratkaistava optimointiongelma. Lisäksi, mallin yksinkertaistamalla tämän edistyneen XAI-lähestymistavan kautta, voimme saavuttaa lisäetuja, kuten altistaa harhaa, jotka ovat tärkeitä eettisen ja vastuullisen koneoppimisen käytön yhteydessä; samalla tehdä mallin ylläpitoa ja parantamista helpommaksi.

Me ehdotimme lähestymistapaa ilmeikkäiden Boolen lauseiden perusteella, koska ne määrittävät säännöt, joiden mukaan syöteaineita luokitellaan. Tällainen lause voi sisältää minkä tahansa operaattorin, jota voidaan soveltaa yhteen tai useampaan Boolen muuttujaan (kuten And tai AtLeast), tarjoamalla siten suuremman ilmaisukyvyn verrattuna jäykempiin sääntö- ja puupohjaisiin lähestymistapoihin.

Tässä ongelmassa meillä on kaksi kilpailevaa tavoitetta: maksimoida algoritmin suorituskyky ja minimoida sen monimutkaisuus. Näin ollen, emme valinneet tyypillistä lähestymistapaa, jossa sovelletaan jompaa jmpaa optimointimenetelmää — yhdistämällä useita tavoitteita yhteen tai rajoittamalla yhtä tavoitteista — vaan sisällytimme molemmat tavoitteet formulointiimme. Tämän tekemällä ja yleisyyden menettämättä, käytimme pääasiallisesti tasapainotettua tarkkuutta yleisenä suorituskykymittarinamme.

Lisäksi, sisällyttämällä operaattoreita kuten AtLeast, olimme motivoituneita ajatuksella, jossa tarvitaan erittäin tulkittavissa olevia tarkistuslistoja, kuten luettelo lääketieteellisistä oireista, jotka osoittavat tietyn tilan. On ajateltavissa, että päätös tehtäisiin käyttämällä tällaista oireiden tarkistuslistaa tavalla, jossa vähintään tietty määrä oireita pitäisi olla läsnä positiivisen diagnoosin saamiseksi. Vastavasti, rahoituksessa pankki voi päättää, myöntääkö se asiakkaalle luottoa, perustuen tietyn määrän tekijöiden läsnäoloon laajemmasta luettelosta.

Me toteutimme onnistuneesti XAI-mallimme ja testasimme sitä joillakin julkisilla tietokannoilla luottamukselle, asiakkaan käyttäytymiselle ja lääketieteellisille olosuhteille. Havaitsemme, että mallimme on yleisesti ottaen kilpailukykyinen muihin tunnettuihin vaihtoehtoihin verrattuna. Löysimme myös, että XAI-mallimme voidaan mahdollisesti ajaa erityistarkoituksella suunnitelluilla laitteilla tai kvanttilaitteilla nopean kokonaisluvuilla lineaarisen ohjelmoinnin (ILP) tai kvadratisen rajoittamattoman binäärioptimoimisen (QUBO) ratkaisemiseen. QUBO-ratkaisijoiden lisääminen vähentää iterointien määrää — johtaen nopeutumiseen nopean ehdotusmuutoksen esittämisen kautta.

Kuten mainittiin, selitettävän tekoälyn mallit ilmeikkäiden Boolen lauseiden avulla voivat olla sovellettavissa moniin sovelluksiin terveydenhuollossa ja Fidelityn rahoitusalan aloilla (kuten luottoluokituksessa tai arvioinnissa, miksi jotkut asiakkaat valitsivat tietyn tuotteen, kun taas toiset eivät). Luomalla nämä tulkittavat säännöt, voimme saavuttaa korkeamman tason näkemyksiä, jotka voivat johtaa tuleviin parannuksiin tuotekehityksessä tai hienosäätössä sekä markkinointikampanjoiden optimoinnissa.

Tutkimustulostemme perusteella olemme päättäneet, että Selitettävä tekoäly ilmeikkäiden Boolen lauseiden avulla on sopiva ja toivottava niille käyttötapauksille, jotka vaativat lisää selitettävyyttä. Lisäksi, koska kvanttilaskenta jatkaa kehittymistään, ennustamme mahdollisuuden saavuttaa potentiaalisia nopeutuksia sen ja muiden erityistarkoituksella suunniteltujen laitteiden kiihdyttimien avulla.

Tuleva työ voi keskittyä soveltamaan näitä luokittelijoita muihin tietokantoihin, esittelemään uusia operaattoreita tai soveltamaan näitä käsitteitä muihin käyttötapauksiin.