Verklaarbare AI met behulp van uitdrukkingsrijke Booleaanse formules

De explosie in kunstmatige intelligentie (AI) en machine learning-toepassingen doordringt bijna elke industrie en elk aspect van het leven.

Maar deze groei gaat niet zonder ironie. Terwijl AI bestaat om besluitvorming of workflows te vereenvoudigen en/of te versnellen, is de methode om dit te doen vaak extreem complex. In feite zijn sommige “black box”-machine learning-algoritmen zo ingewikkeld en veelzijdig dat ze zelfs voor de computerwetenschappers die ze hebben gemaakt, moeilijk uit te leggen zijn.

Dit kan bij bepaalde use cases – zoals in de financiële en medische sector – die worden gedefinieerd door branchestandaarden of overheidsreguleringen die transparante verklaringen van de werking van AI-oplossingen vereisen, problematisch zijn. En als deze toepassingen niet expressief genoeg zijn om aan de verklaringsvereisten te voldoen, kunnen ze nutteloos zijn, ongeacht hun algehele effectiviteit.

Om dit dilemma aan te pakken, heeft ons team bij het Fidelity Center for Applied Technology (FCAT) – in samenwerking met het Amazon Quantum Solutions Lab – een interpreteerbaar machine learning-model voor Verklaarbare AI (XAI) voorgesteld en geïmplementeerd op basis van uitdrukkingsrijke Booleaanse formules. Een dergelijke benadering kan elke operator omvatten die kan worden toegepast op een of meer Booleaanse variabelen, waardoor een hogere expressiviteit wordt geboden in vergelijking met meer rigide regelgebaseerde en treegebaseerde benaderingen.

U kunt het volledige artikel hier lezen voor een uitgebreide beschrijving van dit project.

Onze hypothese was dat, aangezien modellen – zoals beslissingsbomen – diep en moeilijk te interpreteren kunnen worden, de noodzaak om een expressieve regel met lage complexiteit maar hoge nauwkeurigheid te vinden, een onoplosbaar optimalisatieprobleem was dat moest worden opgelost. Bovendien konden we, door het model te vereenvoudigen met deze geavanceerde XAI-benadering, extra voordelen behalen, zoals het blootleggen van vooroordelen die belangrijk zijn in de context van ethisch en verantwoord gebruik van ML; en het makkelijker maken om het model te onderhouden en te verbeteren.

We hebben een benadering voorgesteld op basis van uitdrukkingsrijke Booleaanse formules omdat ze regels definiëren met aanpasbare complexiteit (of interpreteerbaarheid) op basis van de invoergegevens die worden geclassificeerd. Een dergelijke formule kan elke operator omvatten die kan worden toegepast op een of meer Booleaanse variabelen (zoals En of Minstens), waardoor een hogere expressiviteit wordt geboden in vergelijking met meer rigide regelgebaseerde en treegebaseerde methodologieën.

In dit probleem hebben we twee concurrerende doelstellingen: het maximaliseren van de prestaties van het algoritme, terwijl de complexiteit ervan wordt geminimaliseerd. Dus, in plaats van de typische aanpak te volgen van het toepassen van een van de twee optimalisatiemethoden – het combineren van meerdere doelstellingen in één of het beperken van een van de doelstellingen – hebben we ervoor gekozen om beide in onze formulering op te nemen. Door dit te doen, en zonder verlies van algemeenheid, gebruiken we voornamelijk de gebalanceerde nauwkeurigheid als onze overkoepelende prestatie-metric.

Ook, door operators zoals Minstens op te nemen, werden we gemotiveerd door het idee om de noodzaak voor hoog interpreteerbare controlelijsten aan te pakken, zoals een lijst met medische symptomen die een bepaalde aandoening aanduiden. Het is denkbaar dat een beslissing zou worden genomen door het gebruik van een dergelijke controlelijst van symptomen op een manier waarop een minimumaantal aanwezig zou moeten zijn voor een positieve diagnose. Vergelijkbaar, in de financiële sector, kan een bank beslissen of het krediet verleent aan een klant op basis van de aanwezigheid van een bepaald aantal factoren uit een grotere lijst.

We hebben ons XAI-model met succes geïmplementeerd en getest op enkele openbare datasets voor krediet, klantgedrag en medische aandoeningen. We vonden dat ons model over het algemeen concurrerend is met andere bekende alternatieven. We vonden ook dat ons XAI-model mogelijk kan worden aangedreven door speciale hardware of kwantumapparaten voor het oplossen van snelle Integer Lineaire Programmering (ILP) of Quadratische Onbeperkte Binaire Optimalisatie (QUBO). De toevoeging van QUBO-solvers vermindert het aantal iteraties – waardoor een versnelling ontstaat door het snel voorstellen van niet-lokale bewegingen.

Like vermeld, verklarende AI-modellen met Booleaanse formules kunnen veel toepassingen hebben in de gezondheidszorg en in Fidelity’s financiële sector (zoals kredietbeoordeling of om te beoordelen waarom sommige klanten een product hebben geselecteerd en anderen niet). Door deze interpreteerbare regels te creëren, kunnen we hogere niveaus van inzicht bereiken die kunnen leiden tot toekomstige verbeteringen in productontwikkeling of verfijning, evenals het optimaliseren van marketingcampagnes.

Op basis van onze bevindingen hebben we vastgesteld dat Verklaarbare AI met behulp van uitdrukkingsrijke Booleaanse formules zowel geschikt als wenselijk is voor die use cases die verdere verklaring vereisen. Bovendien, aangezien kwantumcomputing verder ontwikkelt, voorzien we de mogelijkheid om potentiële versnellingen te behalen door het gebruik ervan en andere speciale hardware-acceleratoren.

Toekomstig onderzoek kan zich richten op het toepassen van deze classificatoren op andere datasets, het introduceren van nieuwe operators of het toepassen van deze concepten op andere use cases.