Wie Erklärbares KI-System Vertrauen und Rechenschaftspflicht aufbaut

Unternehmen haben bereits begonnen, KI-Technologien in ihre Geschäftsprozesse zu integrieren, um Chatbots, Content-Generatoren und Entscheidungsunterstützungs-Tools einzusetzen. Laut McKinsey nutzen 78% der Unternehmen KI in mindestens einer Geschäftsfunktion.

Die Eile bei der Implementierung ist verständlich – jeder sieht das Potenzial. Doch bei dieser Eile übersehen viele Organisationen, dass alle auf neuronale Netze basierenden Technologien, einschließlich jeder LLM- und generativen KI-Systeme, die heute und in Zukunft eingesetzt werden, einen wesentlichen Fehler haben: Sie sind unvorhersehbar und letztendlich unkontrollierbar.

Einige haben bereits gelernt, dass es echte Konsequenzen haben kann. Bei einem Chevrolet-Händler, der einen Chatbot auf seiner Website eingesetzt hatte, konnte ein Kunde den ChatGPT-Chatbot dazu bringen, ihm einen $58.195 teuren Chevy Tahoe für nur 1 $ zu verkaufen. Ein anderer Kunde bat den Chatbot, ein Python-Skript für komplexe Flüssigkeitsdynamik-Gleichungen zu schreiben, was dieser gerne tat. Der Händler deaktivierte die Chatbots nach diesen Vorfällen.

Im letzten Jahr verlor Air Canada einen Prozess vor einem kleinen Gericht, als es argumentierte, dass sein Chatbot, der einem Passagier ungenaue Informationen über einen Beileidsrabatt gegeben hatte, “eine separate rechtliche Einheit ist, die für ihre eigenen Handlungen verantwortlich ist”.

Diese Unvorhersehbarkeit resultiert aus der grundlegenden Architektur von LLMs. Sie sind so groß und komplex, dass es unmöglich ist, zu verstehen, wie sie zu bestimmten Antworten gelangen oder vorherzusagen, was sie generieren werden, bis sie eine Ausgabe produzieren. Die meisten Organisationen reagieren auf dieses Zuverlässigkeitsproblem, ohne es vollständig zu erkennen.

Die naheliegende Lösung ist, KI-Ergebnisse von Hand zu überprüfen, was funktioniert, aber das Potenzial der Technologie stark einschränkt. Wenn KI als persönlicher Assistent eingesetzt wird – um Texte zu erstellen, Sitzungsprotokolle zu erstellen, Dokumente zusammenzufassen und bei der Codierung zu helfen – erzielt sie bescheidene Produktivitätsgewinne. Nicht genug, um die Wirtschaft zu revolutionieren.

Die wahren Vorteile von KI werden dann eintreten, wenn wir aufhören, sie als Assistenten für bestehende Jobs zu verwenden, und stattdessen ganze Prozesse, Systeme und Unternehmen so umgestalten, dass sie KI ohne menschliche Beteiligung an jedem Schritt nutzen. Betrachten Sie die Kreditvergabe: Wenn eine Bank Kreditbeamten einen KI-Assistenten gibt, um Anträge zusammenzufassen, könnten sie 20-30% schneller arbeiten. Die Einsetzung von KI, um den gesamten Entscheidungsprozess (mit entsprechenden Sicherheitsvorkehrungen) zu übernehmen, könnte die Kosten um über 90% senken und fast alle Bearbeitungszeit eliminieren. Dies ist der Unterschied zwischen inkrementeller Verbesserung und Transformation.

Der Weg zu einer zuverlässigen KI-Implementierung

Um das volle Potenzial von KI auszuschöpfen, ohne ihrer Unvorhersehbarkeit zu erliegen, ist eine sophisticatede Kombination von technischen Ansätzen und strategischem Denken erforderlich. Während mehrere aktuelle Methoden teilweise Lösungen bieten, haben sie alle wesentliche Einschränkungen.

Einige Organisationen versuchen, Zuverlässigkeitsprobleme durch System-Anstoß zu mildern – sie lenken das KI-Verhalten subtil in die gewünschten Richtungen, damit es auf bestimmte Eingaben in bestimmter Weise reagiert. Forscher von Anthropic demonstrierten die Fragilität dieses Ansatzes, indem sie eine “Golden Gate Bridge-Funktion” in Claudes neuronalem Netzwerk identifizierten und, indem sie diese künstlich verstärkten, verursachten sie, dass Claude eine Identitätskrise entwickelte. Als sie nach ihrer physischen Form gefragt wurden, behauptete Claude, die Golden Gate Bridge zu sein, anstatt zuzugeben, dass sie keine hatte. Dieses Experiment zeigte, wie leicht ein Modells Kernfunktion verändert werden kann und dass jeder Anstoß einen Kompromiss darstellt, der möglicherweise einen Aspekt der Leistung verbessert, während er andere verschlechtert.

Ein anderer Ansatz ist es, KI andere KI überwachen zu lassen. Während dieser schichtweise Ansatz einige Fehler auffangen kann, führt er zusätzliche Komplexität ein und reicht immer noch nicht aus, um eine umfassende Zuverlässigkeit zu gewährleisten. Hartcodierte Schutzvorkehrungen sind eine direktere Intervention, wie das Blockieren von Antworten, die bestimmte Schlüsselwörter oder Muster enthalten, wie Vorläuferzutaten für Waffen. Während diese Schutzvorkehrungen gegen bekannte Probleme wirksam sind, können sie nicht vorhersehbare problematische Ausgaben aus diesen komplexen Systemen antizipieren.

Ein effektiverer Ansatz ist der Aufbau von KI-zentrierten Prozessen, die autonom arbeiten können, mit strategisch positionierter menschlicher Aufsicht, um Zuverlässigkeitsprobleme zu erkennen, bevor sie reale Probleme verursachen. Man würde nicht wollen, dass KI direkt Kreditanträge genehmigt oder ablehnt, aber KI könnte eine erste Bewertung für menschliche Betreiber durchführen. Dies kann funktionieren, aber es hängt von der menschlichen Wachsamkeit ab, um KI-Fehler zu erkennen, und untergräbt die potenziellen Effizienzgewinne durch den Einsatz von KI.

Aufbau für die Zukunft

Diese teilweisen Lösungen weisen auf einen umfassenderen Ansatz hin. Organisationen, die grundlegend überdenken, wie ihre Arbeit erledigt wird, anstatt einfach bestehende Prozesse mit KI-Assistenz zu ergänzen, werden den größten Vorteil erzielen. Aber KI sollte nie der letzte Schritt in einem hochriskanten Prozess oder einer Entscheidung sein, also was ist der beste Weg vorwärts?

Zuerst baut KI einen wiederholbaren Prozess auf, der zuverlässig und transparent konsistente Ergebnisse liefert. Zweitens überprüfen Menschen den Prozess, um sicherzustellen, dass sie verstehen, wie er funktioniert, und dass die Eingaben angemessen sind. Schließlich läuft der Prozess autonom – ohne KI – mit periodischer menschlicher Überprüfung der Ergebnisse.

Betrachten Sie die Versicherungsbranche. Der herkömmliche Ansatz könnte darin bestehen, KI-Assistenten hinzuzufügen, um Schadensbearbeiter effizienter arbeiten zu lassen. Ein revolutionärerer Ansatz würde KI nutzen, um neue Tools zu entwickeln – wie Computer-Vision, die Schäden analysiert, oder erweiterte Betrugs-Erkennungsmodelle, die verdächtige Muster identifizieren – und diese Tools in automatisierte Systeme einbinden, die von klaren, verständlichen Regeln gesteuert werden. Menschen würden diese Systeme entwerfen und überwachen, anstatt einzelne Schäden zu bearbeiten.

Dieser Ansatz bewahrt die menschliche Aufsicht an der kritischen Stelle, an der sie am meisten zählt: bei der Gestaltung und Validierung des Systems selbst. Er ermöglicht exponentielle Effizienzgewinne, während er das Risiko eliminiert, dass KI-Unvorhersehbarkeit zu schädlichen Ergebnissen in Einzelfällen führt.

Ein KI-System könnte beispielsweise potenzielle Indikatoren für die Kreditwürdigkeit in Transaktionsdaten identifizieren. Menschliche Experten können dann diese Indikatoren auf Fairness überprüfen und explizite, verständliche Modelle aufbauen, um ihre Vorhersagekraft zu bestätigen.

Dieser Ansatz für erklärbares KI-System wird eine klarere Trennung zwischen Organisationen schaffen, die KI oberflächlich nutzen, und denen, die ihre Betriebe um sie herum transformieren. Letztere werden zunehmend in ihren Branchen vorankommen, indem sie Produkte und Dienstleistungen zu Preispunkten anbieten, die ihre Wettbewerber nicht erreichen können.

Im Gegensatz zu Black-Box-KI-Systemen stellen erklärbare KI-Systeme sicher, dass Menschen eine sinnvolle Aufsicht über die Anwendung der Technologie haben, und schaffen so eine Zukunft, in der KI das menschliche Potenzial erweitert, anstatt einfach menschliche Arbeit zu ersetzen.