Erklärbarkeit kann jedes Industrie-AI-Problem angehen: Der Mangel an Transparenz

Von: Migüel Jetté, VP of R&D Speech, Rev.

In ihren Anfängen konnte künstliche Intelligenz (KI) möglicherweise auf den Lorbeeren der Neuheit ruhen. Es war okay, dass maschinelles Lernen langsam lernte und einen undurchsichtigen Prozess beibehielt, bei dem die KI-Berechnung für den durchschnittlichen Verbraucher unmöglich zu durchdringen war. Das ändert sich jedoch. Da immer mehr Branchen wie Gesundheitswesen, Finanzen und Justizwesen KI auf eine Weise einsetzen, die einen echten Einfluss auf das Leben der Menschen haben kann, wollen immer mehr Menschen wissen, wie die Algorithmen eingesetzt werden, wie die Daten beschafft werden und wie genau ihre Fähigkeiten sind. Wenn Unternehmen an der Spitze der Innovation in ihren Märkten bleiben wollen, müssen sie auf KI setzen, der ihre Zielgruppe vertraut. KI-Erklärbarkeit ist der Schlüssel, um diese Beziehung zu vertiefen.

KI-Erklärbarkeit unterscheidet sich von Standard-KI-Verfahren, da sie Menschen eine Möglichkeit bietet, zu verstehen, wie die maschinellen Lernalgorithmen Ausgaben erzeugen. Erklärbares KI ist ein System, das Menschen mögliche Ergebnisse und Schwächen bieten kann. Es ist ein maschinelles Lernsystem, das den menschlichen Wunsch nach Fairness, Rechenschaftspflicht und Respekt für die Privatsphäre erfüllen kann. Erklärbares KI ist für Unternehmen unerlässlich, um Vertrauen bei den Verbrauchern aufzubauen.

Während KI expandiert, müssen KI-Anbieter verstehen, dass die Black-Box nicht kann. Black-Box-Modelle werden direkt aus den Daten erstellt und oft kann nicht einmal der Entwickler, der den Algorithmus erstellt hat, erkennen, was die gelernten Gewohnheiten der Maschine beeinflusst hat. Aber der bewusste Verbraucher will nicht mit etwas interagieren, das so undurchsichtig ist, dass es nicht zur Rechenschaft gezogen werden kann. Menschen wollen wissen, wie ein KI-Algorithmus zu einem bestimmten Ergebnis gelangt, ohne das Geheimnis der Quelldaten und der kontrollierten Ausgabe, insbesondere wenn KI-Fehler oft auf Maschinenfehler zurückzuführen sind. Da KI fortschreitet, wollen Menschen Zugang zum maschinellen Lernprozess, um zu verstehen, wie der Algorithmus zu seinem spezifischen Ergebnis gelangt ist. Führungskräfte in jeder Branche müssen verstehen, dass die Menschen früher oder später nicht mehr nur Zugang zu diesem Prozess bevorzugen, sondern ihn als notwendiges Transparenzniveau fordern werden.

ASR-Systeme wie sprachaktivierte Assistenten, Transkriptionstechnologie und andere Dienste, die menschliche Sprache in Text umwandeln, sind besonders von Vorurteilen betroffen. Wenn der Dienst für Sicherheitsmaßnahmen eingesetzt wird, können Fehler aufgrund von Akzenten, Alter oder Hintergrund gravierende Fehler sein, sodass das Problem ernst genommen werden muss. ASR kann beispielsweise in Polizeikörperkameras eingesetzt werden, um Interaktionen automatisch aufzuzeichnen und zu transkribieren – und damit eine Aufzeichnung zu erstellen, die, wenn sie genau transkribiert wird, Leben retten kann. Die Praxis der Erklärbarkeit erfordert, dass die KI nicht nur auf gekaufte Datensätze setzt, sondern die Merkmale des eingehenden Audios verstehen muss, die möglicherweise zu Fehlern führen können, wenn solche existieren. Was ist das akustische Profil? Gibt es Hintergrundgeräusche? Ist der Sprecher aus einem nicht-englischsprachigen Land oder aus einer Generation, die ein Vokabular verwendet, das die KI noch nicht gelernt hat? Maschinelles Lernen muss proaktiv lernen, schneller zu lernen, und kann damit beginnen, Daten zu sammeln, die diese Variablen ansprechen können.

Die Notwendigkeit wird offensichtlich, aber der Weg zur Implementierung dieser Methodik wird nicht immer einfach sein. Die traditionelle Antwort auf das Problem besteht darin, mehr Daten hinzuzufügen, aber eine sophistischere Lösung wird erforderlich sein, insbesondere wenn die von vielen Unternehmen verwendeten gekauften Datensätze inhärent voreingenommen sind. Dies liegt daran, dass es historisch gesehen schwierig war, eine bestimmte Entscheidung zu erklären, die von der KI getroffen wurde, und das liegt an der Komplexität der End-to-End-Modelle. Wir können jedoch jetzt beginnen, zu fragen, wie die Menschen das Vertrauen in die KI verloren haben.

Unvermeidlich wird KI Fehler machen. Unternehmen müssen Modelle aufbauen, die sich ihrer möglichen Schwächen bewusst sind, erkennen, wo und wann die Probleme auftreten, und kontinuierliche Lösungen entwickeln, um stärkere KI-Modelle zu erstellen:

1. Wenn etwas schiefgeht, müssen die Entwickler erklären, was passiert ist, und ein sofortiges Plan entwickeln, um das Modell zu verbessern und ähnliche Fehler in der Zukunft zu reduzieren.
2. Um die Maschine zu ermöglichen, zu erkennen, ob sie richtig oder falsch war, müssen Wissenschaftler eine Rückkopplungsschleife erstellen, damit die KI ihre Schwächen lernen und sich weiterentwickeln kann.
3. Ein weiterer Weg, um ASR zu vertrauen, während die KI noch verbessert wird, besteht darin, ein System zu erstellen, das Konfidenzpunkte bereitstellen kann und Gründe liefert, warum die KI weniger zuversichtlich ist. Zum Beispiel generieren Unternehmen in der Regel Punkte von null bis 100, um ihre eigenen KI-Imperfektionen widerzuspiegeln und Transparenz mit ihren Kunden herzustellen. In der Zukunft können Systeme möglicherweise post-hoc-Erklärungen für die Gründe liefern, warum das Audio herausfordernd war, indem sie mehr Metadaten über das Audio bereitstellen, wie z.B. den wahrgenommenen Geräuschpegel oder einen weniger verstandenen Akzent.

Eine weitere Transparenz wird zu einer besseren menschlichen Überwachung der KI-Schulung und -Leistung führen. Je offener wir sind, wo wir verbessern müssen, desto rechenschaftspflichtiger sind wir, Maßnahmen zu ergreifen, um diese Verbesserungen umzusetzen. Zum Beispiel möchte ein Forscher wissen, warum fehlerhafter Text ausgegeben wurde, damit er das Problem mildern kann, während ein Transkriptionist Beweise dafür benötigt, warum ASR die Eingabe falsch interpretiert hat, um seine Gültigkeit zu bewerten. Durch die Einbeziehung von Menschen in den Prozess können einige der offensichtlichsten Probleme, die auftreten, wenn KI unkontrolliert bleibt, gemildert werden. Es kann auch die Zeit verkürzen, die KI benötigt, um ihre Fehler zu erkennen, zu verbessern und sich selbst in Echtzeit zu korrigieren.

KI hat die Fähigkeit, das Leben der Menschen zu verbessern, aber nur, wenn Menschen sie richtig aufbauen. Wir müssen nicht nur diese Systeme, sondern auch die Menschen hinter der Innovation zur Rechenschaft ziehen. KI-Systeme der Zukunft werden den Grundsätzen folgen, die von den Menschen festgelegt werden, und nur dann werden wir ein System haben, dem die Menschen vertrauen. Es ist Zeit, die Grundlagen zu legen und jetzt nach diesen Grundsätzen zu streben, solange es letztendlich noch Menschen sind, die sich selbst dienen.