Warum bessere Daten allein für KI-Agenten nicht ausreichen

Jahrelang lautete einer der häufigsten Ratschläge für den Einsatz von KI in Unternehmen, zunächst die Daten in Ordnung zu bringen. Die Logik ist einfach: Soll ein System nützliche Entscheidungen treffen, braucht es genaue und zugängliche Informationen als Grundlage.

Diese Aussage ist nach wie vor richtig, greift jedoch zunehmend zu kurz, da KI-Agenten nicht mehr nur Fragen beantworten und Inhalte erstellen, sondern auch im Auftrag von Mitarbeitenden und Organisationen handeln. Daten können einem Agenten sagen, was über einen Kunden, eine Transaktion, einen Anspruch oder eine Anfrage zutrifft. Sie sagen ihm jedoch nicht unbedingt, was als Nächstes geschehen sollte – oder welche Folgen eine Handlung hätte. Dieser Unterschied ist wichtig, wenn ein Agent nicht mehr nur eine Antwort gibt, sondern eine Anfrage genehmigt, einen Datensatz aktualisiert, einen Kunden kontaktiert oder einen Fall voranbringt.

Von Mitarbeitenden in Unternehmen wird erwartet, dass sie lernen, sich innerhalb einer Struktur aus Genehmigungsketten, Geschäftsregeln, Abhängigkeiten, Ausnahmen und Eskalationswegen zu bewegen – auch Agenten brauchen eine Möglichkeit, das zu tun. Da Gartner prognostiziert, dass bis Ende 2026 40 % der Unternehmensanwendungen aufgabenspezifische KI-Agenten enthalten werden, gegenüber weniger als 5 % im Jahr 2025, werden die Wissenslücken der Agenten immer schwerer zu übersehen sein. 

Gartner prognostiziert außerdem, dass bis 2028 80 % des konkreten ROI durch agentische KI auf spezialisierte, domänenspezifische Agenten entfallen werden. Spezialisierung ist wichtig, löst aber nur einen Teil des Problems. Die Kenntnis eines bestimmten Fachgebiets sagt einem Agenten nicht automatisch, wo seine Verantwortung beginnt und endet, wie seine Aufgabe in einen größeren Prozess eingebettet ist oder wer übernehmen sollte, wenn etwas außerhalb seines Zuständigkeitsbereichs liegt. Damit Agenten zuverlässig an der Arbeit in Unternehmen mitwirken können, brauchen sie sowohl den Kontext der Arbeitsabläufe als auch Geschäftsdaten.

Gute Daten sagen einem Agenten nicht, was als Nächstes geschieht

Betrachten wir einen Kreditantrag: Ein Agent könnte Zugriff auf die Finanzhistorie, Beschäftigungsinformationen und weitere relevante Unterlagen eines Antragstellers haben. Diese Informationen können ihm helfen, den Antrag zu verstehen, sagen ihm aber nicht, wie die Organisation damit verfährt.

Welche Prüfungen müssen zuerst stattfinden? Was ändert sich, wenn ein Antragsteller eine Bedingung erfüllt, eine andere aber nicht? Welche Informationen sind erforderlich, bevor der Fall weiterbearbeitet werden kann? Welche Entscheidungen können automatisch getroffen werden, und welche müssen an einen Kreditsachbearbeiter weitergeleitet werden?

In den meisten Arbeitsabläufen von Unternehmen gibt es zahlreiche solche bedingten Pfade. Ein Prozess kann automatisch weiterlaufen, wenn bestimmte Kriterien erfüllt sind, angehalten werden, während zusätzliche Informationen eingeholt werden, oder bei einem Ausnahmefall einen völlig anderen Verlauf nehmen. Welche Handlung als Nächstes angemessen ist, hängt nicht nur von den verfügbaren Informationen ab, sondern auch davon, an welcher Stelle des Ablaufs sich die Arbeit gerade befindet und was bereits geschehen ist.

Das verändert, was Zuverlässigkeit bei einem Unternehmensagenten bedeutet. Eine korrekte Antwort reicht nicht aus, wenn die nächste Handlung falsch ist. Ein Agent kann die vorliegenden Informationen richtig interpretieren und trotzdem einen Fall in die falsche Phase verschieben, die erforderliche Genehmigung überspringen oder handeln, bevor eine Abhängigkeit erfüllt wurde.

McKinsey hat kürzlich Einblicke in die Zusammenarbeit mit einem Medizintechnikunternehmen veröffentlicht, das festgestellt hatte, dass die von ihm eingesetzte KI-Plattform mehrere seiner zentralen Arbeitsablaufregeln nicht unterstützen konnte. Statt den Start zu verschieben, um diese Lücken zu schließen, setzte das Unternehmen seinen Plan wie vorgesehen um und ließ letztlich schätzungsweise 30 % des angestrebten Nutzens der KI ungenutzt. Dieses Beispiel verdeutlicht, dass Unternehmen den Prozess rund um eine Aufgabe berücksichtigen müssen – nicht nur die Informationen, die für ihre Erledigung nötig sind. 

Leitplanken auf die Entscheidungen abstimmen, die ein Agent treffen kann

Wenn Agenten handlungsfähig werden, muss auch die Governance konkreter werden. Ein Agent, der ein Richtliniendokument abruft, birgt nicht dasselbe Risiko wie ein Agent, der ein Kundenkonto ändert, eine Zahlung genehmigt oder eine Transaktion veranlasst. Dennoch geraten Organisationen leicht in eines von zwei Extremen: Sie lassen Agenten zu frei handeln oder verlangen für nahezu alles eine menschliche Genehmigung.

Die Kontrollen für einen Agenten sollten sich danach richten, welche Entscheidungen er treffen kann und welche Folgen diese haben könnten. Eine Aktion mit geringem Risiko, die sich häufig wiederholt, kann sich dafür eignen, eigenständig ausgeführt zu werden. Für eine andere Aktion könnte ab einem bestimmten Betrag eine Genehmigung erforderlich sein. Ein ungewöhnlicher Fall muss möglicherweise sofort an einen Mitarbeitenden eskaliert werden.

Menschliche Aufsicht ist besonders dann sinnvoll, wenn sie gezielt eingesetzt wird. Muss eine Person jeden routinemäßigen Schritt genehmigen, geht ein großer Teil des Nutzens verloren, den die Einführung eines Agenten bringen soll. Werden dagegen Kontrollpunkte bei Entscheidungen entfernt, die tatsächlich Urteilsvermögen oder Rechenschaftspflicht erfordern, entsteht ein anderes Problem.

IBM Research hat sich für klare Regeln dazu ausgesprochen, welche Handlungen Agenten ausführen dürfen und wann menschliche Aufsicht erforderlich ist. Diese Kontrollen müssen auch den Prozess berücksichtigen, an dem der Agent beteiligt ist. Die Befugnisse eines Agenten bleiben vom Beginn bis zum Ende eines Falls nicht zwangsläufig gleich. Was er sicher tun kann, hängt möglicherweise von der jeweiligen Prozessphase, den bereits verifizierten Informationen, den zuvor getroffenen Entscheidungen und den Folgen der nächsten Handlung ab.

Das bedeutet, dass Unternehmen Governance direkt im Arbeitsablauf verankern müssen. Statt einem Agenten weitreichende Berechtigungen zu erteilen und sich überall auf ihn zu verlassen, können sie festlegen, wo er eigenständig handeln darf, welche zusätzlichen Bedingungen erfüllt sein müssen und wann die Verantwortung an einen Menschen übergehen muss. Die Frage lautet dann weniger, ob ein Agent autonom ist, sondern vielmehr, an welchen Stellen eines Prozesses Autonomie sinnvoll ist.

Agenten müssen mit den bestehenden Geschäftsabläufen arbeiten

Der Prozesskontext wird noch wichtiger, wenn ein Agent mit dem übrigen Unternehmen interagieren muss. Unternehmen fangen nicht bei null an. Eine einzelne Kundenanfrage kann bereits zwischen einem CRM-System, einem Dokumentenarchiv, einer Fallmanagementplattform und einem ERP-System weitergeleitet werden und dabei Mitarbeitende aus mehreren Abteilungen einbeziehen.

Wird ein Agent in einen Teil dieser Umgebung eingebunden, wird dadurch nicht automatisch der gesamte Prozess effizienter. Ein Agent kann seine einzelne Aufgabe perfekt erledigen. Muss ein Mitarbeitender anschließend jedoch seine Ausgabe in eine andere Anwendung kopieren, herausfinden, wer sie als Nächstes benötigt, oder den Prozess an anderer Stelle manuell neu starten, hat sich der Engpass lediglich verlagert.

Deshalb müssen Unternehmen Agenten als Beteiligte an einem größeren Prozess betrachten und nicht als isolierte Werkzeuge. Was löst den Einsatz des Agenten aus? Welche Informationen erhält er? Wofür ist er verantwortlich? Wohin geht die Arbeit, nachdem er seine Aufgabe erledigt hat? Und was geschieht, wenn er seine Aufgabe nicht abschließen kann?

Diese Fragen werden noch wichtiger, wenn Unternehmen mehrere spezialisierte Agenten einsetzen. Deloitte hat Orchestrierung als zentrale Voraussetzung für Unternehmen benannt, die auf Multiagentensysteme hinarbeiten, in denen verschiedene Agenten unterschiedliche Rollen übernehmen und ihre Arbeit koordinieren können. Die Orchestrierung im Unternehmen muss auch die Kommunikation und Koordination der Agenten untereinander umfassen, nicht nur deren individuelles Vorgehen. Ohne diese übergreifende Steuerung riskieren Agenten, auf Grundlage eines unvollständigen Kontexts zu handeln, einander widersprechende Maßnahmen auszulösen oder etablierte Geschäftsregeln und Genehmigungsprozesse zu umgehen. Agenten arbeiten weiterhin in Unternehmen, in denen bereits Anwendungen, Mitarbeitende, Geschäftsregeln und Prozesse vorhanden sind, die sich über Tage, Wochen oder Monate erstrecken können.

Beginnen Sie mit dem abzuschließenden Prozess und bestimmen Sie, welche Rolle Agenten, Menschen und bestehende Systeme darin jeweils übernehmen. Ein Agent kann einen Schritt selbstständig ausführen, ein anderer Agent eine spezialisierte Prüfung vornehmen, ein Mitarbeitender eine Ermessensentscheidung treffen und ein bestehendes System die abschließende Transaktion ausführen. Entscheidend ist, dass die Arbeit zwischen den Beteiligten weitergegeben werden kann, ohne dass dabei der Kontext verloren geht.

Autonomie braucht klare Strukturen

Agenten mehr Struktur zu geben, bedeutet nicht, dass jede Handlung eine weitere Einschränkung erfordert. Tatsächlich kann das Gegenteil der Fall sein. Klare Prozesse können Unternehmen mehr Sicherheit dabei geben, Agenten eigenständig arbeiten zu lassen, denn Grenzen, Ausnahmen und Eskalationspunkte sind dann bereits festgelegt. Ein Agent braucht keine uneingeschränkte Freiheit, um einen echten Mehrwert zu schaffen. Er braucht genügend Verantwortung, um die Arbeit voranzubringen, ausreichend Kontext, um zu wissen, was als Nächstes ansteht, und ein klares Verständnis davon, wann die Verantwortung an anderer Stelle liegt.

Bessere Daten werden Agenten auch weiterhin leistungsfähiger machen. Doch Leistungsfähigkeit allein macht einen Agenten in einem Unternehmen noch nicht nützlich. Entscheidend ist, ob er innerhalb der vom Unternehmen festgelegten Grenzen an der richtigen Stelle eines Prozesses die richtige Handlung ausführen kann.