Selitettävä tekoäly ilmaisuvoimaisten Boolen lausekkeiden avulla

Tekoälyn ja koneoppimisen sovellusten räjähdysmäinen kasvu on levinnyt lähes jokaiselle alalle ja elämän osa-alueelle.

Sen kasvu ei kuitenkaan tule ilman ristiriitaa. Vaikka tekoäly on olemassa yksinkertaistamaan ja/tai nopeuttamaan päätöksentekoa tai työnkulkua, menetelmä siihen on usein erittäin monimutkainen. Jotkin “mustan laatikon” koneoppimisalgoritmit ovat niin monimutkaisia ja monitahoisia, että ne voivat olla vaikeita selittää, jopa ne luoneille tietojenkäsittelytieteilijöille.

Tämä voi olla erittäin ongelmallista, kun tiettyjä käyttötapauksia – kuten rahoitus- ja lääketieteen aloilla – määrittävät alan parhaat käytännöt tai hallituksen sääntelyt, jotka vaativat avoimia selityksiä tekoälyratkaisujen sisäisistä toimintatavoista. Ja jos nämä sovellukset eivät ole ilmaisukykyisiä tarpeeksi selitettävyyden vaatimusten täyttämiseksi, ne voivat olla hyödyttömiä riippumatta niiden yleisestä tehokkuudesta.

Tämän ongelman ratkaisemiseksi meidän tiimimme Fidelity Center for Applied Technology (FCAT) — yhteistyössä Amazon Quantum Solutions Labin kanssa — on ehdottanut ja toteuttanut tulkittavan koneoppimismallin Selitettävälle tekoälylle (XAI) ilmaisuvoimaisten Boolen lausekkeiden perusteella. Tällainen lähestymistapa voi sisältää minkä tahansa operaattorin, jota voidaan soveltaa yhteen tai useampaan Boolen muuttujaan, tarjoamalla siten suuremman ilmaisukyvyn verrattuna jäykempiin sääntö- ja puupohjaisiin lähestymistapoihin.

Voit lukea koko artikkelin täältä täydellisten yksityiskohtien saamiseksi tästä hankkeesta.

Hypoteesimme oli, että koska mallit — kuten päätöspuut — voivat tulla syviksi ja vaikeiksi tulkittaviksi, tarve löytää ilmaisukykyinen sääntö alhaisella monimutkaisuudella ja suurella tarkkuudella oli laskennallisesti vaikea optimointiongelma, joka piti ratkaista. Lisäksi, mallin yksinkertaistamalla tämän edistyneen XAI-lähestymistavan kautta, voimme saavuttaa lisäetuja, kuten paljastaa vinoumia, jotka ovat tärkeitä eettisen ja vastuullisen koneoppimisen käytön yhteydessä; samalla tehdä mallin ylläpitoa ja parantamista helpommaksi.

Me ehdotimme lähestymistapaa ilmaisuvoimaisten Boolen lausekkeiden perusteella, koska ne määrittävät säädettävän monimutkaisuuden eli tulkittavuuden omaavia sääntöjä, joiden mukaan syötetiedot luokitellaan. Tällainen lause voi sisältää minkä tahansa operaattorin, jota voidaan soveltaa yhteen tai useampaan Boolen muuttujaan (kuten And tai AtLeast), tarjoamalla siten suuremman ilmaisukyvyn verrattuna jäykempiin sääntö- ja puupohjaisiin lähestymistapoihin.

Tässä ongelmassa meillä on kaksi kilpailevaa tavoitetta: maksimoida algoritmin suorituskyky ja minimoida sen monimutkaisuus. Näin ollen, emme valinneet tyypillistä lähestymistapaa, jossa sovelletaan jompaakumpaa kahdesta optimointimenetelmää — yhdistämällä useita tavoitteita yhteen tai rajoittamalla yhtä tavoitteista — vaan sisällytimme molemmat tavoitteet formulointiimme. Tämän tekemällä ja yleisyyden menettämättä, käytimme pääasiallisesti tasapainotettua tarkkuutta yleisenä suorituskykymittarinamme.

Lisäksi, sisällyttämällä operaattoreita kuten AtLeast, olimme motivoituneita ajatuksella, jossa tarvitaan erittäin tulkittavissa olevia tarkistuslistoja, kuten luettelo lääketieteellisistä oireista, jotka osoittavat tietyn tilan. On ajateltavissa, että päätös tehtäisiin käyttämällä tällaista oireiden tarkistuslistaa tavalla, jossa vähintään tietty määrä oireita pitäisi olla läsnä positiivisen diagnoosin saamiseksi. Vastaavasti, rahoituksessa pankki voi päättää, myöntääkö se asiakkaalle luottoa, perustuen tietyn määrän tekijöiden läsnäoloon laajemmasta luettelosta.

Me toteutimme onnistuneesti XAI-mallimme ja testasimme sitä joillakin julkisilla tietoaineistoilla, jotka käsittelevät luotonantoa, asiakaskäyttäytymistä ja sairauksia. Havaitsemme, että mallimme on yleisesti ottaen kilpailukykyinen muihin tunnettuihin vaihtoehtoihin verrattuna. Löysimme myös, että XAI-mallimme voidaan mahdollisesti ajaa erityistarkoituksella suunnitelluilla laitteilla tai kvanttilaitteilla nopean kokonaislukulineaarisen ohjelmoinnin (ILP) tai kvadraattisen rajoitteettoman binäärioptimoinnin (QUBO) ratkaisemiseen. QUBO-ratkaisijoiden lisääminen vähentää iterointien määrää — johtaen nopeutumiseen ehdottamalla nopeasti ei-paikallisia siirtymiä.

Kuten mainittiin, selitettävän tekoälyn mallit ilmaisuvoimaisten Boolen lausekkeiden avulla voivat olla sovellettavissa moniin sovelluksiin terveydenhuollossa ja Fidelityn rahoitusalan aloilla (kuten luottoluokituksessa tai arvioinnissa, miksi jotkut asiakkaat valitsivat tietyn tuotteen, kun taas toiset eivät). Luomalla nämä tulkittavat säännöt, voimme saavuttaa korkeamman tason näkemyksiä, jotka voivat johtaa tuleviin parannuksiin tuotekehityksessä tai hienosäätössä sekä markkinointikampanjoiden optimoinnissa.

Tutkimustulostemme perusteella olemme päättäneet, että Selitettävä tekoäly ilmaisuvoimaisten Boolen lausekkeiden avulla on sopiva ja toivottava niille käyttötapauksille, jotka vaativat lisää selitettävyyttä. Lisäksi, koska kvanttilaskenta jatkaa kehittymistään, ennustamme mahdollisuuden saavuttaa potentiaalisia nopeutuksia sen ja muiden erityistarkoituksella suunniteltujen laitteiden kiihdyttimien avulla.

Tuleva työ voi keskittyä soveltamaan näitä luokittelijoita muihin tietokantoihin, esittelemään uusia operaattoreita tai soveltamaan näitä käsitteitä muihin käyttötapauksiin.