Selitettävä tekoäly Expressive Boolen kaavoilla

Tekoälyn (AI) ja koneoppimissovellusten räjähdysmäinen kasvu tunkeutuu lähes jokaiseen toimialaan ja elämän osaan.

Mutta sen kasvu ei tule ilman ironiaa. Vaikka tekoäly yksinkertaistaa ja/tai nopeuttaa päätöksentekoa tai työnkulkuja, menetelmät sen tekemiseen ovat usein erittäin monimutkaisia. Itse asiassa jotkut "mustan laatikon" koneoppimisalgoritmit ovat niin monimutkaisia ​​ja monitahoisia, että ne voivat uhmata yksinkertaista selitystä, jopa ne luoneiden tietojenkäsittelytieteilijöiden toimesta.

Tämä voi olla varsin ongelmallista, kun tietyt käyttötapaukset – kuten rahoituksen ja lääketieteen aloilla – määritellään alan parhaiden käytäntöjen tai hallituksen määräysten mukaan, jotka edellyttävät läpinäkyviä selityksiä tekoälyratkaisujen sisäiseen toimintaan. Ja jos nämä sovellukset eivät ole tarpeeksi ilmeikkäitä täyttääkseen selitettävyysvaatimukset, ne voidaan tehdä hyödyttömiksi niiden yleisestä tehokkuudesta riippumatta.

Tämän ongelman ratkaisemiseksi tiimimme Fidelity Center for Applied Technology (FCAT) – yhteistyössä Amazon Quantum Solutions Labin kanssa – on ehdottanut ja toteuttanut tulkittavissa olevaa koneoppimismallia Explainable AI:lle (XAI), joka perustuu ekspressiivisiin Boolen kaavoihin. Tällainen lähestymistapa voi sisältää minkä tahansa operaattorin, jota voidaan soveltaa yhteen tai useampaan Boolen muuttujaan, mikä tarjoaa paremman ekspressiivisuuden verrattuna jäykempiin sääntö- ja puupohjaisiin lähestymistapoihin.

Voit lukea täysi paperi täältä saadaksesi kattavat tiedot tästä projektista.

Hypoteesimme oli, että koska mallit – kuten päätöspuut – voivat olla syviä ja vaikeasti tulkittavia, tarve löytää ilmeikäs sääntö, jonka monimutkaisuus on alhainen mutta erittäin tarkka, oli ratkaisematon optimointiongelma, joka piti ratkaista. Lisäksi yksinkertaistamalla mallia tällä edistyneellä XAI-lähestymistavalla voisimme saavuttaa lisäetuja, kuten paljastaa vääristymät, jotka ovat tärkeitä ML:n eettisen ja vastuullisen käytön yhteydessä; samalla helpottaa mallin ylläpitoa ja parantamista.

Ehdotimme lähestymistapaa, joka perustuu ekspressiivisiin Boolen kaavoihin, koska ne määrittelevät säädettävän monimutkaisuuden (tai tulkittavuuden) säännöt, joiden mukaan syötetiedot luokitellaan. Tällainen kaava voi sisältää minkä tahansa operaattorin, jota voidaan soveltaa yhteen tai useampaan Boolen muuttujaan (kuten And tai Vähintään), mikä tarjoaa paremman ekspressiivisuuden verrattuna jäykempiin sääntö- ja puupohjaisiin metodologioihin.

Tässä tehtävässä meillä on kaksi kilpailevaa tavoitetta: maksimoida algoritmin suorituskyky ja minimoida sen monimutkaisuus. Sen sijaan, että olisimme käyttäneet tyypillistä lähestymistapaa, jossa sovellettaisiin jompaakumpaa kahdesta optimointimenetelmästä – useiden tavoitteiden yhdistäminen yhdeksi tai yhden tavoitteen rajoittaminen – päätimme sisällyttää muotoiluumme molemmat. Näin tehdessämme ja yleisyyden menettämättä käytämme pääasiassa tasapainoista tarkkuutta yleisenä suorituskykymittarina.

Ottamalla mukaan AtLeastin kaltaisia ​​operaattoreita motivoimme myös ajatusta käsitellä erittäin tulkittavissa olevien tarkistuslistojen tarvetta, kuten luetteloa lääketieteellisistä oireista, jotka osoittavat tiettyä tilaa. On ajateltavissa, että päätös tehtäisiin käyttämällä tällaista tarkistuslistaa oireista siten, että positiivista diagnoosia varten on oltava läsnä vähimmäismäärä. Vastaavasti rahoituksessa pankki voi päättää, myöntääkö se asiakkaalle luottoa tietyn määrän tekijöitä suuremmasta luettelosta perusteella.

Otimme XAI-mallimme onnistuneesti käyttöön ja vertasimme sitä joihinkin julkisiin luottotietoihin, asiakkaiden käyttäytymiseen ja lääketieteellisiin tiloihin. Huomasimme, että mallimme on yleisesti ottaen kilpailukykyinen muiden tunnettujen vaihtoehtojen kanssa. Huomasimme myös, että XAI-mallimme voi mahdollisesti saada virtansa erikoislaitteistosta tai kvanttilaitteista nopean kokonaisluku-lineaariohjelmoinnin (ILP) tai Quadratic Unconstrained Binary Optimizationin (QUBO) ratkaisemiseksi. QUBO-ratkaisijoiden lisääminen vähentää iteraatioiden määrää - mikä johtaa nopeuttamiseen nopealla ehdotuksella ei-paikallisista liikkeistä.

Kuten todettiin, Boolen kaavoja käyttävillä selitettävissä olevilla tekoälymalleilla voi olla monia sovelluksia terveydenhuollossa ja Fidelityn rahoitusalalla (kuten luottoluokitus tai sen arvioiminen, miksi jotkut asiakkaat ovat saattaneet valita tuotteen, kun taas toiset eivät). Luomalla näitä tulkittavia sääntöjä voimme saavuttaa korkeamman tason oivalluksia, jotka voivat johtaa tulevaisuuden parannuksiin tuotekehityksessä tai -jalostuksessa sekä markkinointikampanjoiden optimoinnissa.

Löytöjemme perusteella olemme päättäneet, että selittävä tekoäly, jossa käytetään ekspressiivisiä Boolen kaavoja, on sekä sopiva että toivottava käyttötapauksissa, jotka edellyttävät lisäselitettävyyttä. Lisäksi, kun kvanttilaskenta jatkaa kehittymistä, ennakoimme mahdollisuutta saada potentiaalisia nopeuksia käyttämällä sitä ja muita erikoiskäyttöisiä laitteistokiihdyttimiä.

Tulevaisuuden työ voi keskittyä näiden luokittimien soveltamiseen muihin tietokokonaisuuksiin, uusien operaattoreiden käyttöönottoon tai näiden käsitteiden soveltamiseen muihin käyttötapauksiin.