Forklarlig kunstig intelligens ved bruk av ekspressive boolske formler

Eksplosjonen innen kunstig intelligens (AI) og maskinlæringsapplikasjoner gjennomsyrer nesten alle bransjer og deler av livet.

Men veksten kommer ikke uten ironi. Mens AI eksisterer for å forenkle og/eller akselerere beslutningstaking eller arbeidsflyter, er metodikken for å gjøre det ofte ekstremt kompleks. Faktisk er noen "black box" maskinlæringsalgoritmer så intrikate og mangefasetterte at de kan trosse enkel forklaring, selv av dataforskerne som skapte dem.

Det kan være ganske problematisk når visse brukstilfeller – for eksempel innen finans og medisin – er definert av beste praksis i industrien eller myndighetsbestemmelser som krever transparente forklaringer til AI-løsninger. Og hvis disse applikasjonene ikke er uttrykksfulle nok til å oppfylle forklaringskravene, kan de bli ubrukelige uavhengig av deres generelle effektivitet.

For å løse denne gåten har teamet vårt på Fidelity Center for Applied Technology (FCAT) – i samarbeid med Amazon Quantum Solutions Lab – har foreslått og implementert en tolkbar maskinlæringsmodell for Explainable AI (XAI) basert på uttrykksfulle boolske formler. En slik tilnærming kan inkludere en hvilken som helst operator som kan brukes på en eller flere boolske variabler, og gir dermed høyere ekspressivitet sammenlignet med mer rigide regelbaserte og trebaserte tilnærminger.

Du kan lese fullt papir her for omfattende detaljer om dette prosjektet.

Vår hypotese var at siden modeller - som beslutningstrær - kan bli dype og vanskelige å tolke, var behovet for å finne en uttrykksregel med lav kompleksitet, men høy nøyaktighet et vanskelig optimeringsproblem som måtte løses. Videre, ved å forenkle modellen gjennom denne avanserte XAI-tilnærmingen, kan vi oppnå ytterligere fordeler, for eksempel å avsløre skjevheter som er viktige i sammenheng med etisk og ansvarlig bruk av ML; samtidig som det er enklere å vedlikeholde og forbedre modellen.

Vi foreslo en tilnærming basert på uttrykksfulle boolske formler fordi de definerer regler med justerbar kompleksitet (eller tolkbarhet) i henhold til hvilke inngangsdata blir klassifisert. En slik formel kan inkludere en hvilken som helst operator som kan brukes på én eller flere boolske variabler (som And eller AtMinst), og gir dermed høyere uttrykksevne sammenlignet med mer rigide regelbaserte og trebaserte metoder.

I denne oppgaven har vi to konkurrerende mål: å maksimere ytelsen til algoritmen, samtidig som den minimerer kompleksiteten. I stedet for å bruke den typiske tilnærmingen med å bruke en av to optimaliseringsmetoder – å kombinere flere mål til ett eller begrense ett av målene – valgte vi å inkludere begge i formuleringen vår. Når vi gjør det, og uten tap av generalitet, bruker vi hovedsakelig balansert nøyaktighet som vår overordnede ytelsesmåling.

Ved å inkludere operatører som AtLeast, ble vi også motivert av ideen om å adressere behovet for svært tolkbare sjekklister, for eksempel en liste over medisinske symptomer som indikerer en bestemt tilstand. Det kan tenkes at en beslutning vil bli tatt ved å bruke en slik sjekkliste over symptomer på en måte som gjør at et minimum antall må være tilstede for en positiv diagnose. På samme måte, i finans, kan en bank bestemme om den skal gi kreditt til en kunde eller ikke basert på tilstedeværelsen av et visst antall faktorer fra en større liste.

Vi har implementert XAI-modellen vår med suksess, og benchmarked den på noen offentlige datasett for kreditt, kundeatferd og medisinske tilstander. Vi fant ut at modellen vår generelt er konkurransedyktig med andre velkjente alternativer. Vi fant også ut at vår XAI-modell potensielt kan drives av spesialutstyr eller kvanteenheter for å løse rask integer lineær programmering (ILP) eller Quadratic Unconstrained Binary Optimization (QUBO). Tillegget av QUBO-løsere reduserer antall iterasjoner – og fører dermed til en fremskyndelse ved raske forslag til ikke-lokale trekk.

Som nevnt kan forklarbare AI-modeller som bruker boolske formler ha mange bruksområder i helsevesenet og i Fidelitys finansfelt (som kredittscoring eller for å vurdere hvorfor noen kunder kan ha valgt et produkt mens andre ikke gjorde det). Ved å lage disse tolkbare reglene kan vi oppnå høyere nivåer av innsikt som kan føre til fremtidige forbedringer i produktutvikling eller foredling, samt optimalisere markedsføringskampanjer.

Basert på funnene våre har vi bestemt at Forklarbar AI ved bruk av ekspressive boolske formler er både passende og ønskelig for de brukstilfellene som krever ytterligere forklaring. I tillegg, ettersom kvantedatabehandling fortsetter å utvikle seg, ser vi muligheten til å få potensielle hastigheter ved å bruke den og andre spesialformåls-maskinvareakseleratorer.

Fremtidig arbeid kan dreie seg om å bruke disse klassifikatorene på andre datasett, introdusere nye operatører eller å bruke disse konseptene på andre brukstilfeller.