Ihr KI-Agent weiß alles – und versteht nichts

“Wir sollten uns meinem Eltern auf ihrer Reise nach Irland anschließen” — diese scheinbar harmlose Aussage ließ mich erschauern.

Meine Frau und ich reisen ausgiebig. Wir wissen, was uns gefällt. Die Eltern meiner Frau hingegen reisen selten weiter als ein paar hundert Meilen von ihrem Zuhause und haben das Land zusammen insgesamt nur einmal verlassen — zu unserer Hochzeit.

Um es noch schlimmer zu machen, war diese Reise ein Weihnachtsgeschenk meines Schwiegervaters an meine Schwiegermutter, damit sie ihre Familie besuchen konnte, vielleicht zum letzten Mal.

Ich konnte mir diese Reise in einem einzigen Wort vorstellen: Katastrophe. Wie sollten wir in der Welt diese wild unterschiedlichen Erfahrungen und Erwartungen so synthetisieren, dass wir eine tolle Reise haben könnten — oder zumindest uns am Ende nicht hassen?

Wie jeder selbstrespektierende Technikfreak griff ich nach der Technologie — speziell nach KI.

Aber was ich nicht erwartet hatte, war, dass mein kleines Experiment mit der Vibe-Codierung einer KI-gesteuerten Familienreiseplanungs-App mich fast alles lehren würde, was ich über die Anwendung von KI im Unternehmens-IT-Bereich wissen muss.

Je mehr Sie der KI füttern, desto dümmer wird sie

Die meisten Unternehmens-KI-Einsätze folgen einem vorhersehbaren Muster. Unternehmen beginnen damit, einem Agenten eine Reihe von Anweisungen zu geben und ihn mit einer Informationsquelle zu verbinden, sei es ein RAG- (Retrieval-Augmented Generation) Framework, eine bestehende Wissensbasis oder sogar einen MCP-Server. Als nächstes kommt eine LLM-Schicht hinzu und lässt sie ihre Sache tun.

Das Problem dabei ist, dass LLMs in ihrem Kern dumm sind. Sie wissen nicht, wie sie alle Informationen, die sie zur Verfügung haben, priorisieren sollen, sodass sie tendenziell jedes Kontextstück gleich behandeln. Ein Mensch muss eine Schicht der Kuratierung hinzufügen, um dem Modell beizubringen, was wichtig ist und was nicht. Ohne Kuratierung erhalten Sie eine KI, die alles weiß und nichts versteht.

Die drei Arten von Gedächtnis, die wichtig sind

Eine effektive Unternehmens-KI-Kuratierung bedeutet, das Beste aus drei bestimmten Arten von Gedächtnis zu machen.

Die erste ist das institutionelle Gedächtnis, das am Anfang ziemlich grundlegend erscheinen kann. Wenn jemand „Finanzdienstleistungen“ sagt, weiß der Agent, dass er die Finanzdienstleistungsabteilung des Unternehmens meint und nicht die gesamte Branche. Das wird zu persistentem organisatorischem Wissen gefüllt mit Definitionen, Vorlieben und Konventionen, die sich nicht oft ändern. Wenn sich dies auf institutionelles Wissen über strategische Prioritäten, wichtige Initiativen und organisatorische Dynamiken ausdehnt, wird es zu einer reichen Quelle institutionellen Kontexts.

Als nächstes kommt die Handlungsgeschichte, die sich auf wichtige Entscheidungen, Aufgaben und Ereignisse konzentriert. Wenn ein Serviceticket erstellt oder ein System bereitgestellt wird, erkennt der Agent diese bestimmte Handlung und zeichnet sie in die Handlungsgeschichte auf. Dies wird zum historischen Bericht, der den organisatorischen Kontext zusammenfügt.

Schließlich gibt es den kurzfristigen konversationellen Kontext. Denken Sie daran, als momentane Interaktion mit einem Agenten. Er ist im Moment nützlich, aber verliert schnell an Relevanz.

Zusammen ergeben diese drei Arten von Gedächtnis das Gewichtungssystem, das generische KI-Modelle fehlt. Jetzt, wenn jemand dem Agenten von dem Geschäft erzählt, klassifiziert und priorisiert er all dieses Gedächtnis und kuratiert die Informationen, die wichtig sind. Dies bildet den Kern dessen, was KI liefern sollte: nicht nur Domänen-Daten, sondern Domänen-Urteilsvermögen.

Was kuratiertes Gedächtnis im großen Maßstab aussieht

Aber genug von dem Rahmenwerk, wie sieht es in der Praxis aus? Hier ist, was wir entdeckt haben, als wir diese Agenten selbst aufgebaut haben.

Ein häufiges IT-Szenario ist das Senden eines Trouble-Tickets an einen Help-Desk-Agenten. Nehmen wir an, Ihr Outlook funktioniert nicht, also tippen Sie eine Beschreibung des Problems ein und warten darauf, dass der Agent es überprüft und einen Vorschlag zur Lösung macht.

Aber mit kuratiertem Gedächtnis auf Ihrer Seite könnte ein besserer Prozess darin bestehen, einen Screenshot zu machen, der den Outlook-Fehler zeigt, und ihn dem Agenten zu uploaden. Jetzt (1) greift der Agent auf institutionelles Gedächtnis zurück, um Ihre Arbeitsumgebung zu verstehen; (2) überprüft die Handlungsgeschichte auf verwandte Vorfälle; und (3) wendet kontextuelles Urteilsvermögen für eine spezifische Lösung an, nicht nur eine generische Antwort.

Das Ergebnis ist ein intelligenter Agent, der nicht raten muss, um die Antwort zu finden, basierend auf einem Screenshot. Er befragt jetzt tatsächlich, schaut sich alle Informationen an, die derzeit ausgeführt werden, und liefert eine nützlichere Antwort. Der Agent könnte sogar in einen Netzwerk- oder Schwarmeffekt expandieren, um andere Benutzer im System zu überprüfen, um zu sehen, ob das Outlook-Problem nur bei Ihnen oder ein unternehmensweites Problem ist.

Die Kontextualisierung der Geschichte oder des Gedächtnisses ist der Unterschied. Wenn Sie Ihr Gedächtnis nicht effektiv kuratieren, werden Sie hinter denen zurückbleiben, die es tun. Es ist wichtig, eine Architektur zu haben, die weiß, wie man diese Daten über die Zeit hinweg managt und versteht, was zu behalten, was zu übermitteln und was loszulassen ist.

Zurück zur Reise

Wie hat also mein KI-gesteuerter Reiseplaner meine Sicht auf KI im Unternehmens-IT-Bereich geändert?

Was ich aufgebaut habe, war eine App, die als unser persönlicher Reise-Concierge fungierte und damit begann, jeden Teilnehmer zu „befragen“. Wir alle erklärten, was uns auf der Reise wichtig war: was ein Muss war und was wir überspringen konnten. Wichtiger noch, sie fragte uns nach unserem „Warum“ — warum etwas wichtig für uns war, was es für uns bedeutete.

Mit diesen Informationen tat sie zwei Dinge. Erstens kuratierte sie einen Reiseplan, der so ausgewogen war, dass er etwas für jeden von uns bot — wir konnten alle unsere Wünsche und Vorlieben im Plan sehen, den sie produzierte.

Aber natürlich war dieser erste Reiseplan nur ein Entwurf. Es gab noch viele Fragen zu beantworten.

Und das war der Moment, in dem der wahre Zauber passierte. Wir fragten den Agenten nach einem Hotel oder einer Sehenswürdigkeit oder einer Fahrt, und die Antworten, die er uns gab, waren mit dem Kontext unserer einzigartigen Situation angereichert: „Es wäre eine lange Fahrt für die Kinder, aber mein Schwiegervater würde das Schloss (und das einzigartige Café nebenan) lieben — und dies könnte genau der richtige Ort für meine Frau sein, um diese Massage zu bekommen.“

Voll dieses reichen Verständnisses dessen, was für uns wichtig war, konnte es uns helfen, unsere Reise zu planen und zu verfeinern, auf eine Weise, die ich nicht für möglich gehalten hätte, wenn es anders gewesen wäre.

Und es war in einem dieser ersten Momente, dass ich verstand, was wir für unsere Unternehmenskunden aufbauen mussten: intelligente Systeme, die so sehr mit organisatorischem, transaktionalem und persönlichem Kontext beladen sind, dass jede Antwort und jede Interaktion wie ein Fingerabdruck sind: völlig einzigartig für diesen Moment und diese Interaktion, um einen Wert zu liefern, der einfach nicht auf andere Weise möglich wäre.