Google erstellt neues Explainable-AI-Programm, um Transparenz und Debugbarkeit zu verbessern

Vor kurzem kündigte Google (GOOGL ) die Erstellung einer neuen Cloud-Plattform an, die es ermöglichen soll, Einblicke in die Entscheidungsfindung von KI-Programmen zu gewinnen, um das Debuggen von Programmen zu erleichtern und die Transparenz zu verbessern. Wie von The Register berichtet, heißt die Cloud-Plattform Explainable AI und markiert einen bedeutenden Versuch von Google, in die Erklärbarkeit von KI zu investieren.

Künstliche neuronale Netze werden in vielen, vielleicht den meisten, der großen KI-Systeme eingesetzt, die heute weltweit verwendet werden. Die neuronalen Netze, die große KI-Anwendungen ausführen, können außerordentlich komplex und groß sein, und mit zunehmender Komplexität eines Systems wird es immer schwieriger, zu verstehen, warum eine bestimmte Entscheidung getroffen wurde. Wie Google in seinem Whitepaper erklärt, werden KI-Systeme mit zunehmender Leistung auch komplexer und daher schwieriger zu debuggen. Die Transparenz geht auch verloren, wenn dies geschieht, was bedeutet, dass voreingenommene Algorithmen schwer zu erkennen und zu korrigieren sind.

Die Tatsache, dass die Argumentation, die das Verhalten komplexer Systeme antreibt, so schwer zu interpretieren ist, hat oft dramatische Konsequenzen. Neben der Schwierigkeit, KI-Voreingenommenheit zu bekämpfen, kann es auch außerordentlich schwierig sein, zwischen spurious Korrelationen und wirklich wichtigen und interessanten Korrelationen zu unterscheiden.

Viele Unternehmen und Forschungsgruppen untersuchen, wie sie das “Black-Box”-Problem der KI angehen und ein System schaffen können, das ausreichend erklärt, warum bestimmte Entscheidungen von einer KI getroffen wurden. Googles Explainable-AI-Plattform stellt seinen eigenen Versuch dar, diese Herausforderung zu meistern. Explainable AI besteht aus drei verschiedenen Tools. Das erste Tool ist ein System, das beschreibt, welche Funktionen von einer KI ausgewählt wurden, und es zeigt auch einen Attribution-Score an, der die Menge an Einfluss darstellt, den eine bestimmte Funktion auf die endgültige Vorhersage hat. Googles Bericht über das Tool gibt ein Beispiel für die Vorhersage, wie lange eine Fahrradtour dauern wird, basierend auf Variablen wie Regen, aktuelle Temperatur, Wochentag und Startzeit. Nachdem das Netz die Entscheidung getroffen hat, wird Feedback gegeben, das zeigt, welche Funktionen den größten Einfluss auf die Vorhersagen hatten.

Wie gibt dieses Tool in Fällen von Bildaten solches Feedback? In diesem Fall erzeugt das Tool eine Überlagerung, die die Bereiche des Bildes hervorhebt, die am stärksten auf die getroffene Entscheidung gewichtet wurden.

Ein weiteres Tool in der Toolkit ist das “What-If”-Tool, das potenzielle Fluktuationen in der Modellleistung anzeigt, wenn einzelne Attribute manipuliert werden. Schließlich kann das letzte Tool so konfiguriert werden, dass es humanoide Rezensenten regelmäßig mit Beispielergebnissen versorgt.

Dr. Andrew Moore, Googles Chef-Wissenschaftler für KI und maschinelles Lernen, beschrieb die Inspiration für das Projekt. Moore erklärte, dass die akademische Gemeinschaft vor etwa fünf Jahren begann, sich über die schädlichen Nebenprodukte der KI-Nutzung Sorgen zu machen, und dass Google sicherstellen wollte, dass ihre Systeme nur auf ethische Weise verwendet wurden. Moore beschrieb ein Ereignis, bei dem das Unternehmen versuchte, ein Computer-Vision-Programm zu entwerfen, um Bauarbeitern zu warnen, wenn jemand keinen Helm trug, aber sie wurden besorgt, dass die Überwachung zu weit gehen und entmenschlichend werden könnte. Moore sagte, es gab einen ähnlichen Grund, warum Google beschloss, keine allgemeine Gesichtserkennungs-API zu veröffentlichen, da das Unternehmen mehr Kontrolle über die Nutzung seiner Technologie haben wollte und sicherstellen wollte, dass sie nur auf ethische Weise verwendet wurde.

Moore hob auch hervor, warum es so wichtig war, dass die Entscheidungen von KI erklärbar sind:

“Wenn Sie ein sicherheitskritisches System oder ein gesellschaftlich wichtiges System haben, das unbeabsichtigte Konsequenzen haben kann, wenn Sie denken, dass Ihr Modell einen Fehler gemacht hat, müssen Sie es diagnostizieren können. Wir möchten erklären, was Erklärbarkeit kann und was nicht. Es ist kein Allheilmittel.