Maschine-zu-Mensch-Interaktion: Das “Last-Mile”-Problem, das den Einsatz von KI in Unternehmen behindert

Bis vor Kurzem drehten sich die Gespräche im Vorstand über KI hauptsächlich um die Modelle selbst. Ist ihre Ausgabe genau? Wie sauber waren die Trainingsdaten? Wie können wir Voreingenommenheit reduzieren? Sind Halluzinationen unter Kontrolle? Diese Fragen sind natürlich immer noch wichtig, aber die Ausgabe ist nicht mehr das einzige, worauf Vorstände und Aktionäre achten. Stattdessen interessieren sie sich für etwas, das viel schwieriger zu messen ist – ob KI-Systeme tatsächlich mit Menschen so effektiv zusammenarbeiten, wie sie könnten, in täglichen Interaktionen.

Das ist teilweise der Grund, warum IBM kürzlich einem Aktionärsvorschlag gegenüberstand, der eine größere Transparenz über die Verwaltung von KI-Voreingenommenheit und -Governance forderte. Der Vorschlag konzentrierte sich speziell auf die Minderung von Voreingenommenheit, aber die breitere Schlussfolgerung war, dass KI-Systeme, da sie immer tiefer in Entscheidungsprozesse eingebettet werden, aufgrund ihrer operativen Verantwortlichkeit und messbaren Geschäftsergebnisse und nicht mehr nur aufgrund ihrer grundlegenden Fähigkeiten beurteilt werden.

Was ich in Gesprächen mit Unternehmen sehe, ist, dass sehr wenige Menschen noch darüber diskutieren, ob die Modelle selbst in der Lage sind. Die meisten Organisationen wissen bereits, dass diese Systeme Ausgaben erzeugen, Workflows automatisieren und Erkenntnisse mit außergewöhnlicher Geschwindigkeit liefern können. Die schwierigere Frage ist, ob all dies konsistent die Ergebnisse innerhalb des Unternehmens verbessert. Nutzen Mitarbeiter diese Systeme tatsächlich auf sinnvolle Weise? Vertrauen sie den Empfehlungen, die sie erhalten? Werden Entscheidungen klarer, schneller oder konsistenter? Oder erzeugen Organisationen einfach mehr Inhalt, mehr Analysen und mehr Rauschen, ohne dass sich die Art und Weise, wie Menschen operieren, ändert? Diese Lücke zwischen KI-Fähigkeit und menschlicher Adoption ist das, was ich als die “letzte Meile” der KI in Unternehmen bezeichne. Es ist der Punkt, an dem ROI, Vertrauen, Verantwortlichkeit und operative Konsistenz zusammenlaufen, und es ist der Punkt, an dem viele Bereitstellungen ins Stocken geraten.

Fähigkeit ist nicht die Flaschenhals – menslicher Kontext ist es

Der IBM-Aktionärsvorschlag selbst konzentrierte sich auf Voreingenommenheit, ein bekanntes und wachsendes Problem in der Branche. Die Resolution forderte IBM auf, zusätzliche Berichte über die Methoden zu erstellen, die es verwendet, um Voreingenommenheit in seinen KI-Modellen zu identifizieren und zu mindern, einschließlich der potenziellen Risiken, die mit diesen Minderungsanstrengungen verbunden sind. IBM wehrte sich dagegen, indem es argumentierte, dass viel von dieser Information bereits öffentlich über Modellkarten, Governance-Dokumentation, Transparenzberichte und Einreichungen bei Stanfords Foundation Model Transparency Index verfügbar sei. Die meisten Beobachter gaben zu, dass IBM mehr als viele Anbieter getan hat, um verantwortungsvolle KI-Praktiken zu operationalisieren, während sie auch anerkannten, dass Governance und Voreingenommenheit ungelöste branchenweite Herausforderungen bleiben.

Was mich interessiert, ist nicht, ob IBMs Antwort richtig oder falsch war. Es ist, was die gesamte Situation über die Richtung aussagt, in die sich die Gespräche über KI in Unternehmen entwickeln. Vorstände haben sich größtenteils in eine neue Phase der KI-Bewertung bewegt, die sich auf die Qualität der Entscheidungen, den operativen Einfluss, das Vertrauen der Mitarbeiter und die langfristige Adoption innerhalb des Unternehmens konzentriert.

Dies ist der Punkt, an dem eine neuroscientifische Perspektive mich zu einer anderen Schlussfolgerung führt als der größte Teil der aktuellen Diskussion über KI in Unternehmen. Menschen sind keine rationalen Input-Output-Maschinen. Wir nähern uns Entscheidungen mit endlicher Aufmerksamkeit, schwankendem Vertrauen, kognitiver Überlastung und ständig wechselnder Absicht. Wenn Interaktionen sich langsam anfühlen, wenn vorgefertigte Antworten das vermissen, was wir tatsächlich meinten, oder wenn Menschen gegen das System kämpfen müssen, um zu etwas Nützlichem zu gelangen, bricht die Bindung zusammen, lange bevor die Adoptionsmetriken nachziehen. Halluzinationsrisiko, Inkonsistenz und Voreingenommenheit verschärfen das Problem nur, indem sie Reibung innerhalb von Workflows erzeugen, die ursprünglich dazu gedacht waren, Produktivität und Entscheidungsfindung zu verbessern. Diese “letzte Meile” ist das, was die meisten Organisationen immer noch unterschätzen: KI-Wert wird nicht erstellt, wenn ein Modell eine Antwort generiert, sondern wenn es die richtige Antwort zur richtigen Zeit liefert und Menschen sie genug vertrauen, um darauf zu reagieren.

Warum ignorieren wir den echten “Menschen im Loop” – den Benutzer?

Wir haben in letzter Zeit viel über “Mensch im Loop” und die Wichtigkeit gehört, einen Menschen zu haben, der die von KI generierte Ausgabe abzeichnet. Aber was, wenn der wichtigste Mensch – der Benutzer – nicht richtig verstanden wird? Mensch-zu-Mensch-Interaktion ist komplex und vielschichtig, aber der Grund, warum direkte Kommunikation so gut funktioniert, ist, dass keine Nuancen verloren gehen. Wenn jemand zögert, das Vertrauen verliert, frustriert oder verwirrt wird oder seine Absicht ändert, wird dies während einer Interaktion übertragen und das Gespräch ändert sich entsprechend. Die meisten KI-Systeme kämpfen immer noch darum, diese Signale zu erkennen, weil sie mehr oder weniger “auf Schienen” sind, indem sie nur auf den letzten Benutzereingabe reagieren.

Meiner Meinung nach wird dies zu einer der definierenden Einschränkungen der aktuellen KI-Bereitstellungen in Unternehmen. Wir haben Systeme entwickelt, die außergewöhnlich gut darin sind, Informationen zu generieren, während sie gleichzeitig begrenzt sind in ihrer Fähigkeit, zu erkennen, ob diese Informationen dabei helfen, bessere Entscheidungen zu treffen.

Ein Unternehmen kann KI-Tools für Tausende von Mitarbeitern bereitstellen und dennoch nicht in der Lage sein, eine sinnvolle Ausrichtung zu erzielen, wie diese Systeme tatsächlich genutzt werden. Rahmenwerke wie das NIST AI-Risikomanagement-Framework, ISO/IEC 42001 und der EU-KI-Gesetz drängen Unternehmen zu einer größeren Governance-Reife und operativen Verantwortlichkeit. Aber Governance auf dem Papier reicht nicht aus, wenn die Mitarbeiterbindung an KI fragmentiert bleibt. Wenn verschiedene Teams KI auf völlig unterschiedliche Weise vertrauen und nutzen, wird es fast unmöglich, ROI konsistent zu messen, und das ist ein Problem, das keine Menge an Eingaben beheben kann.

Die Kosten der KI-Überlastung

Wir betreten jetzt eine Phase, in der KI innerhalb von KI-Workflows vollständig allgegenwärtig wird. Es gibt Copiloten, die in Produktivitätssuiten eingebettet sind, KI-generierte Besprechungszusammenfassungen, die nach jedem Anruf eintreffen, Dashboards, die prädiktive Erkenntnisse in Echtzeit liefern, Empfehlungsmotoren, die Mitarbeitern ständig Vorschläge machen, und automatisierte Analysen, die schneller erscheinen, als die meisten Teams realistisch verarbeiten können. Auf dem Papier sieht dies wie Fortschritt aus – Unternehmen produzieren mehr Informationen als je zuvor. Aber die kognitive Wissenschaft hat seit Jahrzehnten klar gesagt, dass mehr Informationen nicht automatisch bessere Entscheidungen produzieren.

Menschen können nur so viel Information aufnehmen, bevor Überlastung einsetzt. Zu viele Empfehlungen erzeugen Zögern. Zu viele Warnungen werden zu Hintergrundrauschen. Zu viele KI-generierte Optionen können Mitarbeiter dazu bringen, anstelle von selbstbewusstem Handeln zu zweifeln. Was interessant ist, ist, dass KI-Systeme außergewöhnlich gut darin sind, Informationen zu produzieren, während sie gleichzeitig relativ schlecht darin sind, zu verstehen, wie Menschen diese Informationen in Kontext empfangen, interpretieren und darauf reagieren. Vorstände kümmern sich letztendlich nicht darum, wie viele Zusammenfassungen, Empfehlungen oder generierte Erkenntnisse ein System produzieren kann. Sie kümmern sich darum, ob Entscheidungen klarer und zuverlässiger werden.

KI ist in ihre Verantwortungsphase eingetreten

Der IBM-Aktionärsvorschlag mag aus Bedenken hinsichtlich Voreingenommenheit entstanden sein, aber ich denke, er spiegelt etwas viel Breiteres wider, das in ganz Unternehmen passiert. Die Neuheit von KI ist vorbei, und Unternehmen, die nach einer soliden Rendite auf ihre KI-Investitionen suchen, können nicht mehr nur auf die Fähigkeit der Modelle selbst schauen. Die Technologie hat sich bewährt, aber jetzt braucht sie ein Maß an Verantwortlichkeit. Wie konsistent nutzen Mitarbeiter diese Systeme? Verbessern sich Entscheidungen? Nehmen Vertrauen und Bindung über die Zeit zu, oder verringern sie sich allmählich? Wenn KI immer tiefer in den täglichen Workflows eingebettet wird, müssen die nächsten Generationen von Systemen möglicherweise viel bewusster für menschliches Verhalten, Aufmerksamkeit, Vertrauen und Absicht werden, wenn Unternehmen eine nachhaltige Adoption und messbare Rendite wollen. Bis dahin wird die “letzte Meile” wahrscheinlich eines der größten Herausforderungen bei der Einführung von KI in Unternehmen bleiben.