Verklaarbare AI met behulp van expressieve Booleaanse formules

De explosie van kunstmatige intelligentie (AI) en machine learning-toepassingen doordringt bijna elke sector en elk aspect van het leven.

Maar de groei ervan komt niet zonder ironie. Hoewel AI bestaat om besluitvorming of workflows te vereenvoudigen en/of te versnellen, is de methodologie om dit te doen vaak uiterst complex. Sommige 'black box'-algoritmen voor machinaal leren zijn inderdaad zo ingewikkeld en veelzijdig dat ze een eenvoudige uitleg kunnen tarten, zelfs door de computerwetenschappers die ze hebben gemaakt.

Dat kan behoorlijk problematisch zijn wanneer bepaalde use-cases – zoals op het gebied van financiën en geneeskunde – worden gedefinieerd door best practices uit de branche of overheidsvoorschriften die transparante uitleg vereisen over de interne werking van AI-oplossingen. En als deze toepassingen niet expressief genoeg zijn om te voldoen aan de vereisten voor uitlegbaarheid, kunnen ze onbruikbaar worden, ongeacht hun algehele doeltreffendheid.

Om dit raadsel aan te pakken, heeft ons team van de Fidelity Centrum voor Toegepaste Technologie (FCAT) heeft in samenwerking met het Amazon Quantum Solutions Lab een interpreteerbaar machine learning-model voor Explainable AI (XAI) voorgesteld en geïmplementeerd op basis van expressieve Booleaanse formules. Een dergelijke benadering kan elke operator omvatten die kan worden toegepast op een of meer Booleaanse variabelen, waardoor een hogere expressiviteit wordt geboden in vergelijking met meer rigide op regels gebaseerde en boomgebaseerde benaderingen.

U kunt de volledig papier hier voor uitgebreide informatie over dit project.

Onze hypothese was dat aangezien modellen - zoals beslisbomen - diep kunnen gaan en moeilijk te interpreteren zijn, de noodzaak om een ​​expressieve regel te vinden met een lage complexiteit maar met een hoge nauwkeurigheid een hardnekkig optimalisatieprobleem was dat moest worden opgelost. Verder kunnen we, door het model te vereenvoudigen via deze geavanceerde XAI-benadering, extra voordelen behalen, zoals het blootleggen van vooroordelen die belangrijk zijn in de context van ethisch en verantwoord gebruik van ML; terwijl het ook gemakkelijker wordt om het model te onderhouden en te verbeteren.

We hebben een aanpak voorgesteld die is gebaseerd op expressieve Booleaanse formules omdat deze regels definiëren met afstembare complexiteit (of interpreteerbaarheid) volgens welke invoergegevens worden geclassificeerd. Zo'n formule kan elke operator bevatten die kan worden toegepast op een of meer Booleaanse variabelen (zoals And of Ten minste), waardoor een hogere expressiviteit wordt geboden in vergelijking met meer rigide op regels gebaseerde en boomgebaseerde methodologieën.

In dit probleem hebben we twee concurrerende doelen: de prestaties van het algoritme maximaliseren en tegelijkertijd de complexiteit ervan minimaliseren. Dus in plaats van de typische aanpak te volgen waarbij een van de twee optimalisatiemethoden wordt toegepast – meerdere doelstellingen combineren tot één of één van de doelstellingen beperken – hebben we ervoor gekozen om beide in onze formulering op te nemen. Daarbij, en zonder verlies van algemeenheid, gebruiken we voornamelijk gebalanceerde nauwkeurigheid als onze overkoepelende prestatiemaatstaf.

Door operators zoals AtLeast op te nemen, werden we ook gemotiveerd door het idee om tegemoet te komen aan de behoefte aan goed interpreteerbare checklists, zoals een lijst met medische symptomen die op een bepaalde aandoening duiden. Het is denkbaar dat een beslissing wordt genomen door zo'n checklist met symptomen te gebruiken op een manier dat er een minimum aantal aanwezig zou moeten zijn voor een positieve diagnose. Evenzo kan een bank in de financiële wereld beslissen om al dan niet krediet aan een klant te verstrekken op basis van de aanwezigheid van een bepaald aantal factoren uit een grotere lijst.

We hebben ons XAI-model met succes geïmplementeerd en gebenchmarkt op een aantal openbare datasets voor krediet, klantgedrag en medische aandoeningen. We ontdekten dat ons model over het algemeen concurrerend is met andere bekende alternatieven. We ontdekten ook dat ons XAI-model mogelijk kan worden aangedreven door speciale hardware of kwantumapparaten voor het oplossen van snelle Integer Linear Programming (ILP) of Quadratic Unconstrained Binary Optimization (QUBO). De toevoeging van QUBO-oplossers vermindert het aantal iteraties - wat leidt tot een versnelling door snel voorstellen van niet-lokale zetten.

Zoals opgemerkt, kunnen verklaarbare AI-modellen die Booleaanse formules gebruiken, veel toepassingen hebben in de gezondheidszorg en op het gebied van financiën van Fidelity (zoals kredietscores of om te beoordelen waarom sommige klanten een product hebben gekozen en andere niet). Door deze interpreteerbare regels te creëren, kunnen we hogere niveaus van inzichten bereiken die kunnen leiden tot toekomstige verbeteringen in productontwikkeling of -verfijning, evenals het optimaliseren van marketingcampagnes.

Op basis van onze bevindingen hebben we vastgesteld dat verklaarbare AI met behulp van expressieve Booleaanse formules zowel geschikt als wenselijk is voor gebruikssituaties die verdere verklaarbaarheid vereisen. En aangezien kwantumcomputing zich blijft ontwikkelen, voorzien we de mogelijkheid om potentiële versnellingen te behalen door het en andere hardwareversnellers voor speciale doeleinden te gebruiken.

Toekomstig werk kan zich concentreren op het toepassen van deze classificaties op andere datasets, het introduceren van nieuwe operators of het toepassen van deze concepten op andere use-cases.