Razložljiv AI z uporabo ekspresivnih logičnih formul

Eksplozija aplikacij umetne inteligence (AI) in strojnega učenja prežema skoraj vsako panogo in del življenja.

Toda njegova rast ne pride brez ironije. Medtem ko umetna inteligenca obstaja za poenostavitev in/ali pospešitev odločanja ali delovnih tokov, je metodologija za to pogosto izjemno zapletena. Dejansko so nekateri algoritmi za strojno učenje »črne skrinjice« tako zapleteni in večplastni, da jih ni mogoče preprosto razložiti niti s strani računalniških znanstvenikov, ki so jih ustvarili.

To je lahko precej problematično, če so določeni primeri uporabe – na primer na področju financ in medicine – opredeljeni z najboljšimi praksami v industriji ali vladnimi predpisi, ki zahtevajo pregledne razlage o notranjem delovanju rešitev AI. In če te aplikacije niso dovolj ekspresivne, da bi izpolnile zahteve glede razložljivosti, lahko postanejo neuporabne ne glede na njihovo splošno učinkovitost.

Za rešitev te uganke je naša ekipa na Center za uporabno tehnologijo Fidelity (FCAT) — v sodelovanju z laboratorijem Amazon Quantum Solutions Lab — je predlagal in implementiral interpretabilen model strojnega učenja za razložljivo umetno inteligenco (XAI), ki temelji na ekspresivnih logičnih formulah. Tak pristop lahko vključuje kateri koli operator, ki ga je mogoče uporabiti za eno ali več logičnih spremenljivk, s čimer zagotavlja višjo izraznost v primerjavi s bolj togimi pristopi, ki temeljijo na pravilih in drevesih.

Lahko preberete poln papir tukaj za izčrpne podrobnosti o tem projektu.

Naša hipoteza je bila, da ker lahko modeli – kot so drevesa odločanja – postanejo globoki in jih je težko interpretirati, je bila potreba po iskanju izrazitega pravila z nizko kompleksnostjo, a visoko natančnostjo, nerešljiv problem optimizacije, ki ga je bilo treba rešiti. Poleg tega bi lahko s poenostavitvijo modela s tem naprednim pristopom XAI dosegli dodatne koristi, kot je razkrivanje pristranskosti, ki so pomembne v kontekstu etične in odgovorne uporabe strojnega pisanja; hkrati pa olajša vzdrževanje in izboljšanje modela.

Predlagali smo pristop, ki temelji na ekspresivnih logičnih formulah, ker definirajo pravila z nastavljivo kompleksnostjo (ali interpretabilnostjo), po katerih se vhodni podatki razvrščajo. Takšna formula lahko vključuje kateri koli operator, ki ga je mogoče uporabiti za eno ali več logičnih spremenljivk (kot je And ali AtLeast), s čimer zagotavlja večjo izraznost v primerjavi z bolj togimi metodologijami, ki temeljijo na pravilih in drevesih.

Pri tem problemu imamo dva tekmujoča si cilja: povečati učinkovitost algoritma in hkrati zmanjšati njegovo kompleksnost. Tako smo se namesto tipičnega pristopa uporabe ene od dveh metod optimizacije – združevanja več ciljev v enega ali omejevanja enega od ciljev – odločili, da v svojo formulacijo vključimo oba. Pri tem in brez izgube splošnosti uporabljamo predvsem uravnoteženo natančnost kot našo glavno meritev uspešnosti.

Poleg tega nas je z vključitvijo operaterjev, kot je AtLeast, spodbudila zamisel, da obravnavamo potrebo po zelo razložljivih kontrolnih seznamih, kot je seznam zdravstvenih simptomov, ki označujejo določeno stanje. Možno je, da bi se odločitev sprejela z uporabo takega kontrolnega seznama simptomov na način, po katerem bi moralo biti prisotno minimalno število za pozitivno diagnozo. Podobno se lahko v financah banka odloči, ali bo stranki zagotovila kredit ali ne, na podlagi prisotnosti določenega števila dejavnikov iz širšega seznama.

Uspešno smo implementirali naš model XAI in ga primerjali z nekaterimi javnimi zbirkami podatkov o kreditih, vedenju strank in zdravstvenih stanjih. Ugotovili smo, da je naš model na splošno konkurenčen drugim znanim alternativam. Ugotovili smo tudi, da lahko naš model XAI potencialno poganja strojna oprema za posebne namene ali kvantne naprave za reševanje hitrega celoštevilskega linearnega programiranja (ILP) ali kvadratne neomejene binarne optimizacije (QUBO). Dodatek reševalcev QUBO zmanjša število iteracij – kar vodi do pospešitve s hitrim predlaganjem nelokalnih potez.

Kot smo že omenili, imajo lahko razložljivi modeli umetne inteligence, ki uporabljajo logične formule, veliko aplikacij v zdravstvu in na področju financ Fidelity (kot je kreditno točkovanje ali ocena, zakaj so nekateri kupci izbrali izdelek, drugi pa ne). Z ustvarjanjem teh pravil, ki jih je mogoče razlagati, lahko dosežemo višje ravni vpogledov, ki lahko vodijo do prihodnjih izboljšav v razvoju ali izpopolnjevanju izdelkov, pa tudi do optimizacije trženjskih kampanj.

Na podlagi naših ugotovitev smo ugotovili, da je razložljiv AI z uporabo ekspresivnih logičnih formul primeren in zaželen za tiste primere uporabe, ki zahtevajo nadaljnjo razložljivost. Poleg tega, ko se kvantno računalništvo še naprej razvija, predvidevamo priložnost za pridobitev potencialnih pospeškov z uporabo tega in drugih strojnih pospeševalnikov za posebne namene.

Prihodnje delo se lahko osredotoči na uporabo teh klasifikatorjev v drugih nizih podatkov, uvedbo novih operaterjev ali uporabo teh konceptov v drugih primerih uporabe.