Forklarlig AI ved hjælp af udtryksfulde booleske formler

Eksplosionen i kunstig intelligens (AI) og maskinlæringsapplikationer trænger næsten ind i enhver industri og del af livet.

Men dens vækst kommer ikke uden ironi. Mens AI findes for at forenkle og/eller accelerere beslutningsprocesser eller arbejdsgange, er metoden til at gøre det ofte ekstremt kompleks. Faktisk kan nogle “sorte boks”-maskinlæringsalgoritmer være så indviklede og multifacetterede, at de kan modsætte sig enkel forklaring, selv af de computervidenskabsmænd, der skabte dem.

Det kan være ret problematisk, når visse brugsområder – såsom i finans- og medicinområderne – er defineret af branchens bedste praksis eller regeringsreguleringer, der kræver gennemsigtige forklaringer om AI-løsningernes indre mekanismer. Og hvis disse applikationer ikke er udtryksfulde nok til at opfylde forklaringskravene, kan de være værdiløse, uanset deres samlede effektivitet.

For at løse dette dilemma har vores team på Fidelity Center for Applied Technology (FCAT) — i samarbejde med Amazon Quantum Solutions Lab — foreslået og implementeret en fortolkelig maskinlæringsmodel for Forklarlig AI (XAI) baseret på udtryksfulde booleske formler. En sådan tilgang kan omfatte enhver operator, der kan anvendes på en eller flere booleske variabler, og dermed give højere udtryksfuldhed i forhold til mere stive regelbaserede og træbaserede tilgange.

Du kan læse den fulde artikel her for omfattende detaljer om dette projekt.

Vores hypotese var, at da modeller — såsom beslutningstræer — kan blive dybe og vanskelige at fortolke, var behovet for at finde en udtryksfuld regel med lav kompleksitet, men høj nøjagtighed, et uløseligt optimeringsproblem, der skulle løses. Yderligere kunne vi, ved at forenkle modellen gennem denne avancerede XAI-tilgang, opnå yderligere fordele, såsom at afsløre fordomme, der er vigtige i sammenhængen med etisk og ansvarlig brug af ML; samtidig med at det blev lettere at vedligeholde og forbedre modellen.

Vi foreslog en tilgang baseret på udtryksfulde booleske formler, fordi de definerer regler med justerbar kompleksitet (eller fortolkelighed) i forhold til, hvilken indtastningsdata der klassificeres. En sådan formel kan omfatte enhver operator, der kan anvendes på en eller flere booleske variabler (såsom Og eller Mindst), og dermed give højere udtryksfuldhed i forhold til mere stive regelbaserede og træbaserede metoder.

I dette problem har vi to konkurrerende mål: at maksimere algoritmens ydeevne, samtidig med at minimere dens kompleksitet. Derfor valgte vi, i stedet for at anvende den typiske tilgang med at anvende en af to optimeringsmetoder — at kombinere flere mål i ét eller at begrænse ét af målene — at inkludere begge i vores formuleringsmetode. Ved at gøre dette, og uden at gå på kompromis med generel gyldighed, anvender vi hovedsagelig balanced nøjagtighed som vores overordnede ydeevnemål.

Også, ved at inkludere operatører som Mindst, var vi motiveret af tanken om at imødekomme behovet for højtydende checkliste, såsom en liste over medicinske symptomer, der betegner en bestemt tilstand. Det er muligt, at en beslutning ville blive truffet ved at anvende en sådan checkliste over symptomer på en måde, hvor et minimum antal skulle være til stede for en positiv diagnose. Lignende i finans, kan en bank beslutte, om de vil give kredit til en kunde baseret på tilstedeværelsen af et bestemt antal faktorer fra en større liste.

Vi implementerede vores XAI-model med succes og testede den på nogle offentlige datasæt for kredit, kundeopførsel og medicinske tilstande. Vi fandt, at vores model generelt er konkurrencedygtig med andre velkendte alternativer. Vi fandt også, at vores XAI-model potentielt kan køres på specialudstyr eller kvanteenheder til at løse hurtig Integer Linear Programming (ILP) eller Quadratic Unconstrained Binary Optimization (QUBO). Tilføjelsen af QUBO-løsere reducerer antallet af iterationer — og fører dermed til en hastighedsforbedring ved hurtig foreslåelse af ikke-lokale trin.

Som nævnt kan forklarlig AI-modeller, der anvender booleske formler, have mange anvendelser i sundheds- og finanssektorer (såsom kreditscoring eller for at vurdere, hvorfor nogle kunder måske har valgt et produkt, mens andre ikke har). Ved at skabe disse fortolkelige regler kan vi opnå højere niveauer af indsigt, der kan føre til fremtidige forbedringer i produktudvikling eller -forbedring, samt optimering af markedsføringskampagner.

Baseret på vores resultater har vi fastslået, at Forklarlig AI ved hjælp af udtryksfulde booleske formler er både passende og ønskværdig for de brugsområder, der kræver yderligere forklaringsmuligheder. Plus, da kvantecomputering fortsætter med at udvikle sig, forudser vi muligheden for at opnå potentielle hastighedsforbedringer ved at anvende den og andre specialudstyr eller hardware-acceleratorer.

Fremtidigt arbejde kan fokusere på at anvende disse klassificatorer til andre datasæt, introducere nye operatører eller anvende disse koncepter til andre brugsområder.