Forklarbar AI med uttrykksfulle booleske formularer

Eksplosjonen i kunstig intelligens (AI) og maskinlæring er i ferd med å trenge inn i nesten hver eneste bransje og del av livet.

Men dens vekst kommer ikke uten ironi. Mens AI eksisterer for å forenkle og/eller akselerere beslutningsprosesser eller arbeidsflyter, er metoden for å gjøre dette ofte ekstremt kompleks. Faktisk kan noen “black box”-maskinlæringsalgoritmer være så intrikate og flerdimensjonale at de kan motstå enkle forklaringer, selv fra datavitenskapsmennene som skapte dem.

Dette kan være ganske problematisk når visse bruksområder – som i finans og medisin – er definert av bransjebeste praksis eller regjeringens reguleringer som krever gjennomsiktige forklaringer om AI-løsningenes indre virkemåte. Og hvis disse applikasjonene ikke er uttrykksfulle nok til å møte kravene til forklarbarhet, kan de bli ubrukelige uansett deres totale effektivitet.

For å løse denne dilemmaet, har vårt team ved Fidelity Center for Applied Technology (FCAT) — i samarbeid med Amazon Quantum Solutions Lab — foreslått og implementert en tolkbar maskinlæringsmodell for forklarbar AI (XAI) basert på uttrykksfulle booleske formularer. Slike tilnærminger kan inkludere enhver operator som kan brukes på en eller flere booleske variabler, og gir dermed høyere uttrykkskraft sammenlignet med mer rigide regelbaserte og trebaserte tilnærminger.

Du kan lese hele artikkelen her for omfattende detaljer om dette prosjektet.

Vår hypotese var at siden modeller — som beslutningstre — kan bli dype og vanskelige å tolke, var behovet for å finne en uttrykksfull regel med lav kompleksitet men høy nøyaktighet et uovervinnelig optimeringsproblem som måtte løses. Videre, ved å forenkle modellen gjennom denne avanserte XAI-tilnærmingen, kunne vi oppnå ytterligere fordeler, som å avdekke fordommer som er viktige i sammenheng med etisk og ansvarlig bruk av ML; samtidig som det ble lettere å vedlikeholde og forbedre modellen.

Vi foreslo en tilnærming basert på uttrykksfulle booleske formularer fordi de definerer regler med justerbar kompleksitet (eller tolkbarhet) i henhold til hvilke inndata som klassifiseres. En slik formel kan inkludere enhver operator som kan brukes på en eller flere booleske variabler (slik som Og eller Minst), og gir dermed høyere uttrykkskraft sammenlignet med mer rigide regelbaserte og trebaserte metoder.

I dette problemet har vi to konkurrerende mål: å maksimere algoritmens ytelse, samtidig som kompleksiteten minimeres. Derfor, i stedet for å bruke den typiske tilnærmingen til å bruke en av to optimeringsmetoder – å kombinere flere mål til ett eller å begrense ett av målene – valgte vi å inkludere begge i vår formulering. Ved å gjøre dette, og uten tap av generell gyldighet, bruker vi hovedsakelig balansert nøyaktighet som vårt overordnede ytelsesmål.

Også, ved å inkludere operatorene som Minst, var vi motivert av tanken på å møte behovet for høyt tolkbare sjekklister, som en liste over medisinske symptomer som indikerer en bestemt tilstand. Det er tenkelig at en beslutning ville bli tatt ved å bruke en slik sjekklister over symptomer på en måte hvor et minimum antall måtte være til stede for en positiv diagnose. Liksom i finans, kan en bank bestemme om de skal gi kredit til en kunde basert på tilstedeværelsen av et bestemt antall faktorer fra en større liste.

Vi implementerte med hell vår XAI-modell, og sammenlignet den med noen offentlige datasett for kredit, kundeatferd og medisinske tilstander. Vi fant at vår modell generelt er konkurransedyktig med andre kjente alternativer. Vi fant også at vår XAI-modell potensielt kan bli drevet av spesialutstyr eller kvantehardware for å løse rask Integer Lineær Programmering (ILP) eller Kvadratisk Ubegrenset Binær Optimering (QUBO). Tilføyelsen av QUBO-løsere reduserer antall iterasjoner – og fører dermed til en akselerasjon ved rask fremleggelse av ikke-lokale bevegelser.

Som nevnt, kan forklarbar AI-modeller som bruker booleske formularer ha mange bruksområder i helsevesen og i Fidelitys bransje, finans (slik som kreditscoring eller å vurdere hvorfor noen kunder kan ha valgt et produkt mens andre ikke gjorde). Ved å skape disse tolkbare reglene, kan vi oppnå høyere nivåer av innsikt som kan føre til fremtidige forbedringer i produktutvikling eller finjustering, samt optimalisering av markedsføringskampanjer.

Basert på våre funn, har vi bestemt at forklarbar AI med uttrykksfulle booleske formularer er både passende og ønskelig for de bruksområdene som krever ytterligere forklarbarhet. Pluss, ettersom kvantecomputing fortsetter å utvikle seg, ser vi muligheten til å oppnå potensielle hastighetsforbedringer ved å bruke det og andre spesialutstyr eller akseleratorer.

Fremtidig arbeid kan sentrere seg rundt å anvende disse klassifikatorene til andre datasett, å introdusere nye operatorene eller å anvende disse konseptene til andre bruksområder.