Einführung neuer Transparenzstufen mit KI – Thought Leaders

Von Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, bei Infosys.

Am 9. Januar 2020 informierte die Weltgesundheitsorganisation die Öffentlichkeit über den Ausbruch des Coronavirus in China. Drei Tage zuvor hatte das US-amerikanische Centers for Disease Control and Prevention bereits eine Warnung herausgegeben. Doch ein kanadisches Gesundheitsüberwachungssystem hatte sie beide übertroffen, indem es seinen Kunden bereits am 31. Dezember 2019 eine Warnung über den Ausbruch gesendet hatte! Das System, BlueDot, verwendet künstliche Intelligenz-gesteuerte Algorithmen, die ausländische Nachrichtenberichte, Tier- und Pflanzenkrankheitsnetzwerke und offizielle Bekanntmachungen scannen, um seinen Kunden eine frühzeitige Warnung zu geben, um Gefahrenzonen wie Wuhan zu vermeiden.

In den letzten Jahren ist künstliche Intelligenz zu einer wichtigen Quelle der Transformation, des Wandels und des Wettbewerbsvorteils in der heutigen sich schnell verändernden Wirtschaft geworden. Von der Epidemienüberwachung bis zur Verteidigung, der Gesundheitsversorgung, den autonomen Fahrzeugen und allem dazwischen gewinnt KI zunehmend an Verbreitung. PwC prognostiziert, dass KI bis 2030 bis zu 15,7 Billionen US-Dollar zur globalen Wirtschaft beitragen könnte, wenn sie ihr aktuelles Wachstum beibehält.

Trotz all der Hoffnung, die KI bringt, wirft sie noch immer unbeantwortete Fragen bezüglich Transparenz und Vertrauenswürdigkeit auf. Die Notwendigkeit, die Entscheidungsfähigkeit von KI-Systemen zu verstehen, vorherzusagen und zu vertrauen, ist insbesondere in Bereichen wichtig, die für Leben, Tod und persönliches Wohlbefinden von entscheidender Bedeutung sind.

Ins Unbekannte

Als automatisierte Entscheidungssysteme erstmals eingeführt wurden, um die Entscheidungsfindung zu unterstützen, basierten sie auf handgefertigten Regeln. Dies machte es leicht, ihr Verhalten zu interpretieren und zu modifizieren, aber sie waren nicht skalierbar. Machine-Learning-Modelle kamen auf, um diese Notwendigkeit zu decken; sie benötigten keine menschliche Intervention und konnten aus Daten trainieren – je mehr, desto besser. Obwohl Deep-Learning-Modelle in ihrer Modellierfähigkeit und ihrem Anwendungsbereich unübertroffen sind, wirft die Tatsache, dass diese Modelle größtenteils Black-Box-Systeme sind, beunruhigende Fragen bezüglich ihrer Wahrhaftigkeit, Vertrauenswürdigkeit und Vorurteile im Kontext ihrer weiten Verbreitung auf.

Derzeit gibt es keine direkte Mechanismen, um die implizite Argumentation von Deep-Learning-Modellen nachzuvollziehen. Bei Machine-Learning-Modellen mit Black-Box-Charakter ist die primäre Art der Erklärbarkeit die sogenannte post-hoc-Erklärbarkeit, was bedeutet, dass die Erklärungen aus der Natur und den Eigenschaften der von dem Modell generierten Ausgaben abgeleitet werden. Frühe Versuche, Regeln aus neuronalen Netzen (wie Deep Learning früher bekannt war) zu extrahieren, werden derzeit nicht mehr verfolgt, da die Netze zu groß und vielfältig für eine handhabbare Regelextraktion geworden sind. Es gibt daher einen dringenden Bedarf, Interpretierbarkeit und Transparenz in die Grundstruktur der KI-Modellierung einzuführen.

Aus der Nacht, ins Licht

Diese Sorge hat die Notwendigkeit von Transparenz in der maschinellen Lerntheorie geschaffen, was zum Wachstum der erklärlichen KI, oder XAI, geführt hat. Sie zielt darauf ab, die großen Probleme anzugehen, die unsere Fähigkeit behindern, KI-Entscheidungen vollständig zu vertrauen — einschließlich Vorurteile und Transparenz. Dieses neue Feld der KI bringt Rechenschaftspflicht, um sicherzustellen, dass KI der Gesellschaft mit besseren Ergebnissen für alle Beteiligten nützt.

XAI wird entscheidend sein, um mit den in KI-Systemen und -Algorithmen enthaltenen Vorurteilen umzugehen, die von Menschen programmiert werden, deren Hintergrund und Erfahrungen unbeabsichtigt zu KI-Systemen führen, die Vorurteile aufweisen. Unbeabsichtigte Vorurteile wie Diskriminierung gegenüber einer bestimmten Nationalität oder Ethnie können entstehen, weil das System einen Wert dazu addiert, der auf realen Daten basiert. Um dies zu veranschaulichen: Es könnte festgestellt werden, dass typische Kreditausfälle aus einer bestimmten ethnischen Herkunft stammen, aber die Umsetzung einer restriktiven Richtlinie aufgrund dessen könnte gegen faire Praktiken verstoßen. Falsche Daten sind eine weitere Ursache für Vorurteile. Zum Beispiel könnte ein Gesichtserkennungsscanner 5% der Zeit ungenau sein, weil der Teint der Person oder das Licht, das auf das Gesicht fällt, nicht korrekt ist, was zu Vorurteilen führen könnte. Schließlich ist es unvermeidlich, dass Vorurteile entstehen, wenn die Stichprobendaten nicht die gesamte Bevölkerung repräsentieren.

XAI zielt darauf ab, zu erklären, wie die Black-Box-Entscheidungen von KI-Systemen zustande kommen. Sie untersucht und versucht, die Schritte und Modelle zu verstehen, die an der Entscheidungsfindung beteiligt sind. Sie beantwortet wichtige Fragen wie: Warum hat das KI-System eine bestimmte Vorhersage oder Entscheidung getroffen? Warum hat das KI-System nicht etwas anderes getan? Wann hat das KI-System Erfolg oder Misserfolg? Wann gibt das KI-System genug Vertrauen in die Entscheidung, dass man ihm vertrauen kann, und wie kann das KI-System Fehler korrigieren?

Erklärbare, vorhersehbare und nachvollziehbare KI

Eine Möglichkeit, Erklärbarkeit in KI-Systemen zu erlangen, besteht darin, maschinelle Lernalgorithmen zu verwenden, die von Natur aus erklärbar sind. Zum Beispiel können einfache Formen des maschinellen Lernens wie Entscheidungsbäume, Bayes-Klassifizierer und andere Algorithmen, die eine bestimmte Spurbarkeit und Transparenz in ihrer Entscheidungsfindung aufweisen, die notwendige Sichtbarkeit für kritische KI-Systeme bieten, ohne dabei zu viel Leistung oder Genauigkeit zu opfern.

Da man die Notwendigkeit erkannt hat, Erklärbarkeit für Deep Learning und andere komplexere algorithmische Ansätze zu bieten, verfolgt die US-Verteidigungsbehörde für fortschrittliche Forschungsprojekte (DARPA) Bemühungen, um erklärbare KI-Lösungen durch eine Reihe von Forschungsinitiativen zu produzieren. DARPA beschreibt die Erklärbarkeit von KI in drei Teilen, die Genauigkeit der Vorhersage umfassen, was bedeutet, dass Modelle erklären, wie Schlussfolgerungen erreicht werden, um zukünftige Entscheidungen zu verbessern; Verständnis und Vertrauen von menschlichen Benutzern und Betreibern sowie Überprüfung und Nachvollziehbarkeit der von den KI-Systemen durchgeführten Aktionen.

Die Nachvollziehbarkeit wird es den Menschen ermöglichen, in die Entscheidungsschleifen der KI einzudringen und die Fähigkeit haben, ihre Aufgaben zu stoppen oder zu kontrollieren, wenn es notwendig ist. Ein KI-System wird nicht nur erwartet, eine bestimmte Aufgabe auszuführen oder Entscheidungen zu treffen, sondern auch einen transparenten Bericht darüber zu liefern, warum es bestimmte Entscheidungen getroffen hat, einschließlich der zugrunde liegenden Begründung.

Die Standardisierung von Algorithmen oder sogar XAI-Ansätzen ist derzeit nicht möglich, aber es könnte durchaus möglich sein, Stufen der Transparenz oder Erklärbarkeit zu standardisieren. Standardisierungsorganisationen versuchen, gemeinsame, standardisierte Verständnisse dieser Transparenzstufen zu entwickeln, um die Kommunikation zwischen Endbenutzern und Technologieanbietern zu erleichtern.

Wenn Regierungen, Institutionen, Unternehmen und die allgemeine Öffentlichkeit von KI-basierten Systemen abhängig werden, wird es fundamental sein, ihr Vertrauen durch eine transparentere Entscheidungsfindung zu gewinnen. Die Lancierung der ersten globalen Konferenz, die ausschließlich der XAI gewidmet ist, der International Joint Conference on artificial intelligence: Workshop on Explainable Artificial Intelligence, ist weiterer Beweis dafür, dass das Zeitalter der XAI angekommen ist.