Ihr KI-Agent weiß alles – und versteht nichts

„Wir sollten uns meinem Eltern auf ihrer Reise nach Irland anschließen“ – dieser scheinbar harmlose Satz ließ mich erschaudern.

Meine Frau und ich reisen viel. Wir wissen, was uns gefällt. Die Eltern meiner Frau hingegen reisen selten weiter als ein paar hundert Meilen von ihrem Zuhause und haben das Land zusammen nur einmal verlassen – zu unserer Hochzeit.

Um alles noch schlimmer zu machen, war diese Reise ein Weihnachtsgeschenk meines Schwiegervaters an meine Schwiegermutter, damit sie ihre Familie besuchen und vielleicht zum letzten Mal sehen konnte.

Ich konnte mir diese Reise in einem Wort vorstellen: Katastrophe. Wie sollten wir diese wild unterschiedlichen Erfahrungen und Erwartungen so kombinieren, dass wir eine tolle Reise haben oder zumindest nicht am Ende des Tages gegenseitig hassen?

Wie jeder selbstrespektierende Technikfreak griff ich nach der Technologie – speziell nach KI.

Aber was ich nicht erwartet hatte, war, dass mein kleines Experiment mit der Entwicklung einer KI-gesteuerten Familienreiseplanungs-App mich fast alles lehren würde, was ich über die Anwendung von KI in der Unternehmens-IT wissen muss.

Je mehr Sie KI füttern, desto dümmer wird sie

Die meisten Unternehmens-KI-Einsätze folgen einem vorhersehbaren Muster. Unternehmen beginnen damit, einem Agenten eine Reihe von Anweisungen zu geben und ihn mit einer Informationsquelle zu verbinden, sei es ein RAG- (Retrieval-Augmented Generation)-Framework, eine bestehende Wissensbasis oder sogar ein MCP-Server. Als nächstes kommt eine LLM hinzu und darf ihr Ding tun.

Das Problem dabei ist, dass LLMs in ihrem Kern dumm sind. Sie wissen nicht, wie sie alle verfügbaren Informationen priorisieren sollen, und neigen daher dazu, jeden Kontext gleich zu behandeln. Ein Mensch muss eine Kurierungsschicht hinzufügen und dem Modell beibringen, was wichtig und was nicht wichtig ist. Ohne Kurierung erhalten Sie KI, die alles weiß und nichts versteht.

Die drei Arten von Gedächtnis, die zählen

Eine effektive Kurierung von Unternehmens-KI bedeutet, das Beste aus drei bestimmten Arten von Gedächtnis zu machen.

Die erste ist das institutionelle Gedächtnis, das am Anfang ziemlich grundlegend erscheinen kann. Wenn jemand “Finanzdienstleistungen” sagt, weiß der Agent, dass er die Finanzdienstleistungsabteilung des Unternehmens meint und nicht die gesamte Branche. Dies wird zu persistentem organisatorischem Wissen, das mit Definitionen, Vorlieben und Konventionen gefüllt ist, die sich nicht oft ändern. Wenn dies sich auf institutionelles Wissen über strategische Prioritäten, wichtige Initiativen und organisatorische Dynamiken erstreckt, wird es zu einer reichen Quelle institutionellen Kontexts.

Als nächstes kommt die Handlungsgeschichte, die sich auf wichtige Entscheidungen, Aufgaben und Ereignisse konzentriert. Wenn ein Serviceticket erstellt oder ein System bereitgestellt wird, erkennt der Agent diese bestimmte Handlung und zeichnet sie in der Handlungsgeschichte auf. Dies wird zum historischen Bericht, der den organisatorischen Kontext zusammenfügt.

Schließlich gibt es den kurzen konversationellen Kontext. Denken Sie daran als Moment-für-Moment-Interaktion mit einem Agenten. Es ist im Moment nützlich, verliert aber schnell an Relevanz.

Diese drei Arten von Gedächtnis zusammen bilden das Gewichtungssystem, das generische KI-Modelle fehlt. Jetzt, wenn jemand dem Agenten von dem Geschäft erzählt, klassifiziert und priorisiert er all dieses Gedächtnis und kuratiert die Informationen, die wichtig sind. Dies bildet den Kern dessen, was KI liefern sollte: nicht nur Domänen-Daten, sondern Domänen-Urteilsvermögen.

Was kuratiertes Gedächtnis im großen Maßstab aussieht

Aber genug von dem Rahmenwerk, wie sieht es in der Praxis aus? Hier ist, was wir bei der Entwicklung dieser Agenten selbst entdeckt haben.

Ein häufiges IT-Szenario ist das Senden eines Trouble-Tickets an einen Help-Desk-Agenten. Angenommen, Ihr Outlook funktioniert nicht, also tippen Sie eine Beschreibung des Problems ein und warten darauf, dass der Agent es überprüft und eine Lösung vorschlägt.

Aber mit kuratiertem Gedächtnis auf Ihrer Seite könnte ein besserer Prozess darin bestehen, ein Screenshot zu machen, der den Outlook-Fehler zeigt, und ihn dem Agenten hochzuladen. Jetzt kann der Agent (1) auf institutionelles Gedächtnis zurückgreifen, um Ihre Arbeitsumgebung zu verstehen; (2) die Handlungsgeschichte auf verwandte Vorfälle überprüfen; und (3) kontextuelles Urteilsvermögen für eine spezifische Lösung anwenden, nicht nur eine generische Antwort.

Das Ergebnis ist ein intelligenter Agent, der nicht raten muss, um die Antwort zu finden, basierend auf einem Screenshot. Er befragt jetzt tatsächlich, schaut sich alle laufenden Informationen an und liefert eine nützlichere Antwort. Der Agent könnte sogar in einen Netzwerk- oder Schwarm-Effekt expandieren, um andere Benutzer im System zu sehen, ob das Outlook-Problem nur bei Ihnen oder ein unternehmensweites Problem ist.

Die Kontextualisierung der Geschichte oder des Gedächtnisses ist der Unterschied. Wenn Sie Ihr Gedächtnis nicht effektiv kurieren, werden Sie hinter denen zurückbleiben, die es tun. Es ist wichtig, eine Architektur zu haben, die weiß, wie sie diese Daten über die Zeit hinweg verwalten und verstehen kann, was zu behalten, was zu präsentieren und was loszulassen ist.

Zurück zur Reise

Wie hat also meine KI-gesteuerte Reiseplanungs-App meine Sicht auf KI in der Unternehmens-IT verändert?

Was ich entwickelt habe, war eine App, die als unsere persönliche Reise-Konkierge fungierte und damit begann, jeden Teilnehmer zu “befragen”. Wir alle erklärten, was uns auf der Reise wichtig war: was ein Muss und was wir auslassen konnten. Wichtiger noch, es fragte uns nach unserem “Warum” – warum etwas uns wichtig war, was es für uns bedeutete.

Mit diesen Informationen tat es zwei Dinge. Erstens kuratierte es einen Reiseplan, der so ausgewogen war, dass er allen etwas bot – wir konnten alle unsere Wünsche und Vorlieben im Plan sehen, den es produzierte.

Aber natürlich war dieser erste Reiseplan nur ein Entwurf. Es gab noch viele Fragen zu beantworten.

Und das war der Moment, in dem der wahre Zauber passierte. Wir fragten den Agenten nach einem Hotel oder einer Sehenswürdigkeit oder einer Fahrt, und die Antworten, die er uns gab, waren mit dem Kontext unserer einzigartigen Situation angereichert: “Es wäre eine lange Fahrt für die Kinder, aber mein Schwiegervater würde das Schloss (und das einzigartige Café nebenan) lieben – und dies könnte genau der Ort sein, an dem meine Frau diese Massage bekommen kann.”

Voll dieses reichen Verständnisses dessen, was uns wichtig war, konnte es uns helfen, unsere Reise zu planen und zu verfeinern, auf eine Weise, die ich nicht für möglich gehalten hätte.

Und es war in einem dieser ersten Momente, dass ich verstand, was wir für unsere Unternehmenskunden aufbauen mussten: intelligente Systeme, die so sehr mit organisatorischem, transaktionalem und persönlichem Kontext beladen waren, dass jede Antwort und jede Interaktion wie ein Fingerabdruck sein würde: völlig einzigartig für diesen Moment und diese Interaktion, und sie würden eine Art von Wert liefern, die auf keine andere Weise möglich wäre.