Was ist Explainable AI?

Da künstliche Intelligenz (KI) komplexer und weit verbreitet wird, ist einer der kritischsten Prozesse und Methoden die erklärbare KI (XAI).

Explainable KI kann definiert werden als:

• Ein Satz von Prozessen und Methoden, die es menschlichen Benutzern ermöglichen, die Ergebnisse von Machine-Learning-Algorithmen zu verstehen und zu vertrauen.

Wie Sie erraten können, ist diese Erklärbarkeit unglaublich wichtig, da KI-Algorithmen viele Branchen kontrollieren, was mit dem Risiko von Voreingenommenheit, fehlerhaften Algorithmen und anderen Problemen verbunden ist. Durch die Erreichung von Transparenz mit Erklärbarkeit kann die Welt die Macht von KI wirklich nutzen.

Explainable KI, wie der Name schon sagt, hilft dabei, ein KI-Modell, seine Auswirkungen und mögliche Voreingenommenheiten zu beschreiben. Sie spielt auch eine Rolle bei der Charakterisierung von Modellgenauigkeit, Fairness, Transparenz und Ergebnissen in KI-gesteuerten Entscheidungsprozessen.

Heutige KI-gesteuerte Organisationen sollten immer erklärbare KI-Prozesse anwenden, um Vertrauen und Vertrauen in die KI-Modelle in der Produktion aufzubauen. Explainable KI ist auch der Schlüssel, um ein verantwortungsvolles Unternehmen in der heutigen KI-Umgebung zu werden.

Da heutige KI-Systeme so fortschrittlich sind, führen Menschen normalerweise einen Berechnungsprozess durch, um nachzuvollziehen, wie der Algorithmus zu seinem Ergebnis gekommen ist. Dieser Prozess wird zu einer “Black Box”, was bedeutet, dass es unmöglich ist, ihn zu verstehen. Wenn diese unerklärlichen Modelle direkt aus Daten entwickelt werden, kann niemand verstehen, was innerhalb von ihnen passiert.

Durch das Verständnis, wie KI-Systeme durch erklärbare KI funktionieren, können Entwickler sicherstellen, dass das System wie erwartet funktioniert. Es kann auch dazu beitragen, sicherzustellen, dass das Modell den regulatorischen Standards entspricht, und es bietet die Möglichkeit, das Modell in Frage zu stellen oder zu ändern.

Bild: Dr. Matt Turek/DARPA

Unterschiede zwischen KI und XAI

Einige wichtige Unterschiede helfen dabei, “normale” KI von erklärbaren KI zu unterscheiden, aber am wichtigsten ist, dass XAI spezifische Techniken und Methoden implementiert, die dazu beitragen, dass jede Entscheidung im ML-Prozess nachvollziehbar und erklärbar ist. Im Gegensatz dazu kommt normale KI normalerweise zu ihrem Ergebnis, indem sie einen ML-Algorithmus verwendet, aber es ist unmöglich, vollständig zu verstehen, wie der Algorithmus zu seinem Ergebnis gekommen ist. Im Falle von normaler KI ist es extrem schwierig, die Genauigkeit zu überprüfen, was zu einem Verlust von Kontrolle, Rechenschaftspflicht und Prüfbarkeit führt.

Vorteile von Explainable KI

Es gibt viele Vorteile für jede Organisation, die erklärbare KI anwenden möchte, wie z.B.:

• Schnellere Ergebnisse: Explainable KI ermöglicht es Organisationen, Modelle systematisch zu überwachen und zu verwalten, um Geschäftsergebnisse zu optimieren. Es ist möglich, die Modellleistung kontinuierlich zu bewerten und zu verbessern und die Modellentwicklung fein zu justieren.
  
• Risiken minimieren: Durch die Anwendung von erklärbaren KI-Prozessen können Sie sicherstellen, dass Ihre KI-Modelle erklärbar und transparent sind. Sie können regulatorische, Compliance-, Risiken und andere Anforderungen verwalten, während Sie den Aufwand für manuelle Inspektion minimieren. All dies hilft auch dabei, das Risiko ungewollter Voreingenommenheit zu minimieren. 
• Vertrauen aufbauen: Explainable KI hilft dabei, Vertrauen in die Produktion von KI aufzubauen. KI-Modelle können schnell in die Produktion gebracht werden, Sie können Interpretierbarkeit und Erklärbarkeit sicherstellen und der Modellbewertungsprozess kann vereinfacht und transparenter gemacht werden.

Techniken für Explainable KI

Es gibt einige XAI-Techniken, die alle Organisationen in Betracht ziehen sollten, und sie bestehen aus drei Hauptmethoden: Genauigkeit der Vorhersage, Nachvollziehbarkeit und Entscheidungsverständnis.

Die erste der drei Methoden, Genauigkeit der Vorhersage, ist entscheidend, um KI erfolgreich in täglichen Operationen einzusetzen. Simulationen können durchgeführt werden und XAI-Ausgaben können mit den Ergebnissen im Trainingsdatensatz verglichen werden, was hilft, die Genauigkeit der Vorhersage zu bestimmen. Eine der beliebtesten Techniken, um dies zu erreichen, ist Local Interpretable Model-Agnostic Explanations (LIME), eine Technik, die die Vorhersage von Klassifizierern durch den Machine-Learning-Algorithmus erklärt.

Die zweite Methode ist Nachvollziehbarkeit, die durch die Begrenzung der Entscheidungsmöglichkeiten und die Festlegung eines engeren Rahmens für Machine-Learning-Regeln und -Funktionen erreicht wird. Eine der häufigsten Nachvollziehbarkeitstechniken ist DeepLIFT, oder Deep Learning Important FeaTures. DeepLIFT vergleicht die Aktivierung jedes Neurons mit seinem Referenzneuron, während es einen nachvollziehbaren Link zwischen jedem aktivierten Neuron zeigt. Es zeigt auch die Abhängigkeiten zwischen ihnen.

Die dritte und letzte Methode ist Entscheidungsverständnis, die im Gegensatz zu den anderen beiden Methoden menschlich orientiert ist. Entscheidungsverständnis beinhaltet die Schulung der Organisation, insbesondere des Teams, das mit der KI arbeitet, um es zu ermöglichen, zu verstehen, wie und warum die KI Entscheidungen trifft. Diese Methode ist entscheidend, um Vertrauen in das System aufzubauen.

Prinzipien von Explainable KI

Um ein besseres Verständnis von XAI und seinen Prinzipien zu bieten, bietet das National Institute of Standards (NIST), das Teil des US-Handelsministeriums ist, Definitionen für vier Prinzipien von erklärbaren KI:

1. Ein KI-System sollte Beweise, Unterstützung oder Begründungen für jede Ausgabe liefern. 
2. Ein KI-System sollte Erklärungen liefern, die von seinen Benutzern verstanden werden können. 
3. Die Erklärung sollte den Prozess genau widerspiegeln, den das System verwendet, um zu seiner Ausgabe zu gelangen. 
4. Das KI-System sollte nur unter den Bedingungen arbeiten, für die es entwickelt wurde, und es sollte keine Ausgabe liefern, wenn es nicht genug Vertrauen in das Ergebnis hat.

Diese Prinzipien können weiter in:

• Bedeutsam: Um das Prinzip der Bedeutsamkeit zu erreichen, sollte ein Benutzer die Erklärung verstehen. Dies könnte auch bedeuten, dass im Falle eines KI-Algorithms, der von verschiedenen Arten von Benutzern verwendet wird, es mehrere Erklärungen geben könnte. Zum Beispiel könnte im Falle eines selbstfahrenden Autos eine Erklärung lauten: “Die KI hat die Plastiktüte auf der Straße als Stein kategorisiert und daher Maßnahmen ergriffen, um sie zu vermeiden.” Während diese Erklärung für den Fahrer funktionieren würde, wäre sie für einen KI-Entwickler, der das Problem korrigieren möchte, nicht sehr nützlich. In diesem Fall muss der Entwickler verstehen, warum es eine Fehlklassifizierung gab. 
• ErklärungsGenauigkeit: Im Gegensatz zur Ausgabe-Genauigkeit beinhaltet die Erklärungs-Genauigkeit, dass der KI-Algorithmus genau erklärt, wie er zu seiner Ausgabe gekommen ist. Zum Beispiel, wenn ein Kreditgenehmigungs-Algorithmus eine Entscheidung auf der Grundlage des Einkommens einer Anwendung erklärt, wenn es in Wirklichkeit auf der Grundlage des Wohnortes des Antragstellers basiert, wäre die Erklärung ungenau. 
• Wissensgrenzen: Die Wissensgrenzen des KI-Systems können auf zwei Arten erreicht werden, und es beinhaltet die Eingabe, die außerhalb der Expertise des Systems liegt. Zum Beispiel, wenn ein System entwickelt wurde, um Vogelarten zu klassifizieren und es ein Bild von einem Apfel erhält, sollte es in der Lage sein, zu erklären, dass die Eingabe kein Vogel ist. Wenn das System ein unscharfes Bild erhält, sollte es in der Lage sein, zu berichten, dass es nicht in der Lage ist, den Vogel im Bild zu identifizieren, oder dass seine Identifizierung sehr niedrig ist.

Rolle der Daten in Explainable KI

Einer der wichtigsten Bestandteile von erklärbaren KI ist die Daten.

Laut Google (GOOGL ) , bezüglich Daten und erklärbaren KI, “wird ein KI-System am besten durch die zugrunde liegenden Trainingsdaten und den Trainingsprozess sowie das resultierende KI-Modell verstanden.” Dieses Verständnis hängt von der Fähigkeit ab, ein trainiertes KI-Modell auf den genauen Datensatz zu kartieren, der zum Trainieren verwendet wurde, sowie von der Fähigkeit, die Daten genau zu untersuchen.

Um die Erklärbarkeit eines Modells zu verbessern, ist es wichtig, auf die Trainingsdaten zu achten. Teams sollten die Herkunft der Daten bestimmen, die zum Trainieren eines Algorithmus verwendet wurden, die Rechtmäßigkeit und Ethik, die seine Beschaffung umgeben, mögliche Voreingenommenheit in den Daten und was getan werden kann, um diese Voreingenommenheit zu mindern.

Ein weiterer kritischer Aspekt von Daten und XAI ist, dass irrelevante Daten für das System ausgeschlossen werden sollten. Um dies zu erreichen, sollten irrelevante Daten nicht in den Trainingsdatensatz oder die Eingabedaten aufgenommen werden.

Google hat einen Satz von Praktiken empfohlen, um Interpretierbarkeit und Rechenschaftspflicht zu erreichen:

• Planen Sie Ihre Optionen, um Interpretierbarkeit zu verfolgen
• Behandeln Sie Interpretierbarkeit als einen wichtigen Teil der Benutzeroberfläche
• Entwerfen Sie das Modell, um es interpretierbar zu machen
• Wählen Sie Metriken, die das Endziel und die Endaufgabe widerspiegeln
• Verstehen Sie das trainierte Modell
• Kommunizieren Sie Erklärungen an die Modellbenutzer
• Führen Sie umfangreiche Tests durch, um sicherzustellen, dass das KI-System wie beabsichtigt funktioniert

Indem Sie diesen empfohlenen Praktiken folgen, kann Ihre Organisation sicherstellen, dass sie erklärbare KI erreicht, was der Schlüssel zu jeder KI-gesteuerten Organisation in der heutigen Umgebung ist.