Erklärbares KI-System mit ausdrucksstarken Booleschen Formeln

Die Explosion in künstlicher Intelligenz (KI) und maschinellem Lernen ist fast in jeder Branche und jedem Lebensbereich zu finden.

Ihr Wachstum kommt jedoch nicht ohne Ironie. Während KI dazu dient, Entscheidungsfindungen oder Workflows zu vereinfachen oder zu beschleunigen, ist die Methodik dafür oft extrem komplex. Tatsächlich sind einige “Black-Box”-Algorithmen für maschinelles Lernen so kompliziert und vielschichtig, dass sie sogar für die Computerwissenschaftler, die sie entwickelt haben, schwer zu erklären sind.

Dies kann in bestimmten Anwendungsfällen, wie in den Bereichen Finanzen und Medizin, sehr problematisch sein, da diese Branchen von Branchenbest-Praktiken oder Regulierungen geprägt sind, die transparente Erklärungen der inneren Funktionsweise von KI-Lösungen erfordern. Und wenn diese Anwendungen nicht ausdrucksstark genug sind, um die Anforderungen an Erklärbarkeit zu erfüllen, können sie nutzlos sein, unabhängig von ihrer Gesamteffizienz.

Um dieses Dilemma zu lösen, hat unser Team am Fidelity Center for Applied Technology (FCAT) — in Zusammenarbeit mit dem Amazon Quantum Solutions Lab — ein interpretierbares maschinelles Lernmodell für erklärbares KI (XAI) auf der Grundlage ausdrucksstarker Boolescher Formeln vorgeschlagen und implementiert. Ein solcher Ansatz kann jeden Operator umfassen, der auf eine oder mehrere Boolesche Variablen angewendet werden kann, wodurch im Vergleich zu starreren regelbasierten und baumartigen Ansätzen eine höhere Ausdrucksstärke erreicht wird.

Sie können den vollständigen Artikel hier lesen, um umfassende Details über dieses Projekt zu erhalten.

Unsere Hypothese war, dass Modelle wie Entscheidungsbäume tief und schwer zu interpretieren sein können, und dass die Notwendigkeit, eine ausdrucksstarke Regel mit geringer Komplexität aber hoher Genauigkeit zu finden, ein unlösbares Optimierungsproblem darstellt, das gelöst werden muss. Darüber hinaus könnten wir durch die Vereinfachung des Modells durch diesen fortschrittlichen XAI-Ansatz zusätzliche Vorteile erzielen, wie die Offenlegung von Vorurteilen, die im Kontext ethischer und verantwortungsvoller Nutzung von ML wichtig sind, sowie die Erleichterung der Wartung und Verbesserung des Modells.

Wir haben einen Ansatz auf der Grundlage ausdrucksstarker Boolescher Formeln vorgeschlagen, da diese Regeln mit anpassbarer Komplexität (oder Interpretierbarkeit) definieren, basierend auf denen die Eingabedaten klassifiziert werden. Eine solche Formel kann jeden Operator umfassen, der auf eine oder mehrere Boolesche Variablen (wie Und oder Mindestens) angewendet werden kann, wodurch im Vergleich zu starreren regelbasierten und baumartigen Methoden eine höhere Ausdrucksstärke erreicht wird.

In diesem Problem haben wir zwei konkurrierende Ziele: die Leistung des Algorithmus maximieren und seine Komplexität minimieren. Anstatt also den typischen Ansatz zu wählen, bei dem eines von zwei Optimierungsmethoden angewendet wird – die Kombination mehrerer Ziele in eines oder die Einschränkung eines der Ziele – haben wir uns entschieden, beide in unsere Formulierung aufzunehmen. Ohne Einschränkung der Allgemeingültigkeit verwenden wir hauptsächlich die ausgewogene Genauigkeit als unsere umfassende Leistungsmetrik.

Außerdem wurden wir durch die Aufnahme von Operatoren wie Mindestens von der Idee motiviert, die Notwendigkeit für hoch interpretierbare Checklisten zu adressieren, wie eine Liste von medizinischen Symptomen, die eine bestimmte Erkrankung anzeigen. Es ist vorstellbar, dass eine Entscheidung auf der Grundlage einer solchen Checkliste von Symptomen in einer Weise getroffen würde, bei der eine Mindestanzahl von Symptomen für eine positive Diagnose erforderlich wäre. Ähnlich verhält es sich in der Finanzbranche, wo eine Bank entscheiden könnte, ob sie einem Kunden Kredit gewährt oder nicht, basierend auf der Anwesenheit einer bestimmten Anzahl von Faktoren aus einer größeren Liste.

Wir haben unser XAI-Modell erfolgreich implementiert und es auf einigen öffentlichen Datenbanken für Kredit, Kundenverhalten und medizinische Bedingungen getestet. Wir fanden heraus, dass unser Modell im Allgemeinen mit anderen bekannten Alternativen wettbewerbsfähig ist. Wir fanden auch heraus, dass unser XAI-Modell möglicherweise durch spezielle Hardware oder Quantencomputer für die Lösung von schnellem ganzzahligem linearen Programmieren (ILP) oder quadratischer unbeschränkter binärer Optimierung (QUBO) angetrieben werden kann. Die Hinzufügung von QUBO-Lösern reduziert die Anzahl der Iterationen und führt somit zu einer Beschleunigung durch die schnelle Vorschlagung von nicht-lokalen Bewegungen.

Wie bereits erwähnt, können erklärbare KI-Modelle mit Booleschen Formeln viele Anwendungen in der Gesundheitsversorgung und in Fidelitys Finanzbranche (wie Kreditbewertung oder die Bewertung, warum einige Kunden ein bestimmtes Produkt ausgewählt haben und andere nicht) haben. Durch die Erstellung dieser interpretierbaren Regeln können wir höhere Erkenntnisse erlangen, die zu zukünftigen Verbesserungen bei der Produktentwicklung oder -verfeinerung sowie bei der Optimierung von Marketingkampagnen führen können.

Basierend auf unseren Ergebnissen haben wir festgestellt, dass erklärbares KI mit ausdrucksstarken Booleschen Formeln für jene Anwendungsfälle geeignet und wünschenswert ist, die weitere Erklärbarkeit erfordern. Außerdem sehen wir, dass sich durch die Entwicklung der Quantencomputing-Technologie die Möglichkeit bietet, potenzielle Beschleunigungen durch die Nutzung von Quantencomputing und anderen speziellen Hardware-Beschleunigern zu erzielen.

Zukünftige Arbeiten könnten sich auf die Anwendung dieser Klassifizierer auf andere Datenbanken, die Einführung neuer Operatoren oder die Anwendung dieser Konzepte auf andere Anwendungsfälle konzentrieren.