Förklarlig AI med uttrycksfulla booleska formler

Explosionen inom artificiell intelligens (AI) och maskinlärning tillämpningar genomsyrar nästan varje bransch och del av livet.

Men dess tillväxt kommer inte utan ironi. Medan AI finns för att förenkla och/eller accelerera beslutsfattande eller arbetsflöden, är metoden för att göra detta ofta extremt komplex. Verkligen, vissa “svarta låda” maskinlärningsalgoritmer är så invecklade och mångfacetterade att de kan trotsa enkel förklaring, även av de datavetare som skapade dem.

Det kan vara ganska problematiskt när vissa användningsfall – såsom inom områdena finans och medicin – definieras av branschens bästa praxis eller regeringens regleringar som kräver transparenta förklaringar till de inre arbetsprocesserna i AI-lösningar. Och om dessa tillämpningar inte är uttrycksfulla nog för att uppfylla kraven på förklarbarhet, kan de vara värdelösa oavsett deras övergripande effektivitet.

För att lösa detta dilemma har vårt team på Fidelity Center for Applied Technology (FCAT) — i samarbete med Amazon Quantum Solutions Lab — föreslagit och implementerat en tolkningsbar maskinlärningsmodell för förklarlig AI (XAI) baserad på uttrycksfulla booleska formler. Sådan tillvägagångssätt kan omfatta vilken operator som helst som kan tillämpas på en eller flera booleska variabler, vilket ger högre uttrycksfullhet jämfört med mer rigida regelbaserade och träd-baserade tillvägagångssätt.

Du kan läsa hela artikeln här för omfattande detaljer om detta projekt.

Vår hypotes var att eftersom modeller — såsom besluts-träd — kan bli djupa och svåra att tolka, behovet av att hitta en uttrycksfull regel med låg komplexitet men hög noggrannhet var ett olösligt optimeringsproblem som behövde lösas. Dessutom, genom att förenkla modellen genom detta avancerade XAI-tillvägagångssätt, kunde vi uppnå ytterligare fördelar, såsom att avslöja fördomar som är viktiga i sammanhanget av etisk och ansvarsfull användning av ML; samtidigt som det blev lättare att underhålla och förbättra modellen.

Vi föreslog ett tillvägagångssätt baserat på uttrycksfulla booleska formler eftersom de definierar regler med justerbar komplexitet (eller tolkbarhet) enligt vilka indata klassificeras. Sådan formel kan omfatta vilken operator som helst som kan tillämpas på en eller flera booleska variabler (såsom Och eller Minst), vilket ger högre uttrycksfullhet jämfört med mer rigida regelbaserade och träd-baserade metoder.

I detta problem har vi två konkurrerande mål: att maximera algoritmens prestanda, samtidigt som vi minimerar dess komplexitet. Så, istället för att ta den typiska tillvägagångssättet att tillämpa en av två optimeringsmetoder – kombinera flera mål till ett eller begränsa ett av målen – valde vi att inkludera båda i vår formulering. Genom att göra detta, och utan att förlora allmän giltighet, använder vi i huvudsak balanserad noggrannhet som vår övergripande prestandamått.

Även, genom att inkludera operatorer som Minst, var vi motiverade av idén att tillgodose behovet av högt tolkningsbara kontrollistor, såsom en lista över medicinska symptom som signalerar en viss tillstånd. Det är tänkbart att ett beslut skulle fattas med hjälp av en sådan kontrollista av symptom på ett sätt som kräver att ett minimum antal måste vara närvarande för en positiv diagnos. På samma sätt, inom finans, kan en bank besluta om att ge kredit till en kund baserat på närvaron av ett visst antal faktorer från en större lista.

Vi har framgångsrikt implementerat vår XAI-modell, och testat den på vissa offentliga dataset för kredit, kundbeteende och medicinska tillstånd. Vi fann att vår modell är allmänt konkurrenskraftig med andra välkända alternativ. Vi fann också att vår XAI-modell potentiellt kan drivas av specialiserad hårdvara eller kvantdatorer för att lösa snabba Integer Linear Programming (ILP) eller Quadratic Unconstrained Binary Optimization (QUBO). Tillägget av QUBO-lösare minskar antalet iterationer – vilket leder till en acceleration genom snabb förslag av icke-lokala rörelser.

Som noterat, förklarlig AI-modeller som använder booleska formler kan ha många tillämpningar inom hälso- och sjukvård och inom Fidelitys område finans (såsom kreditvärdering eller för att bedöma varför vissa kunder kan ha valt en produkt medan andra inte gjorde). Genom att skapa dessa tolkningsbara regler, kan vi uppnå högre nivåer av insikt som kan leda till framtida förbättringar i produktutveckling eller förfining, samt optimering av marknadsföringskampanjer.

Baserat på våra resultat, har vi fastställt att förklarlig AI med uttrycksfulla booleska formler är både lämplig och önskvärd för de användningsfall som kräver ytterligare förklarbarhet. Plus, eftersom kvantberäkning fortsätter att utvecklas, förutser vi möjligheten att uppnå potentiella accelerationer genom att använda den och andra specialiserade hårdvaruacceleratorer.

Framtida arbete kan fokusera på att tillämpa dessa klassificerare på andra dataset, införa nya operatorer, eller tillämpa dessa koncept på andra användningsfall.