3 Überlegungen zu sicheren und zuverlässigen KI-Agenten für Unternehmen

Laut Gartner 30 % der GenAI-Projekte wird nach dem Proof-of-Concept wahrscheinlich bis Ende 2025 aufgegeben. Die frühe Einführung von GenAI zeigte, dass die Dateninfrastruktur und Governance-Praktiken der meisten Unternehmen nicht für einen effektiven KI-Einsatz bereit waren. Die erste Welle der GenAI-Produktisierung war mit erheblichen Hürden konfrontiert, und viele Unternehmen hatten Schwierigkeiten, über die Proof-of-Concept-Phase hinauszukommen, um einen sinnvollen Geschäftswert zu erzielen.

Während wir in die zweite Welle der generativen KI-Produktisierung eintreten, erkennen Unternehmen, dass die erfolgreiche Implementierung dieser Technologien mehr erfordert, als einfach nur ein LLM mit ihren Daten zu verbinden. Der Schlüssel zur Entfaltung des KI-Potenzials beruht auf drei Grundpfeilern: Daten in Ordnung bringen und sicherstellen, dass sie für die Integration mit KI bereit sind; Datenverwaltungspraktiken überarbeiten, um die einzigartigen Herausforderungen zu bewältigen, die GenAI mit sich bringt; und KI-Agenten so einsetzen, dass eine sichere und zuverlässige Nutzung natürlich und intuitiv ist, sodass Benutzer nicht gezwungen sind, spezielle Fähigkeiten oder präzise Nutzungsmuster zu erlernen. Zusammen bilden diese Säulen eine solide Grundlage für sichere, effektive KI-Agenten in Unternehmensumgebungen.

So bereiten Sie Ihre Daten richtig für KI vor

Während strukturierte Daten Obwohl sie für das bloße Auge organisiert erscheinen, da sie ordentlich in Tabellen und Spalten angeordnet sind, haben LLMs oft Schwierigkeiten, diese strukturierten Daten zu verstehen und effektiv damit zu arbeiten. Dies liegt daran, dass Daten in den meisten Unternehmen nicht auf semantisch sinnvolle Weise beschriftet sind. Daten haben oft kryptische Beschriftungen, z. B. „ID“, ohne klaren Hinweis darauf, ob es sich um eine Kennung für einen Kunden, ein Produkt oder eine Transaktion handelt. Bei strukturierten Daten ist es auch schwierig, den richtigen Kontext und die Beziehungen zwischen verschiedenen miteinander verbundenen Datenpunkten zu erfassen, z. B. wie Schritte in einer Customer Journey miteinander in Beziehung stehen. So wie wir jedes Bild in Computer Vision Anwendungen, die eine sinnvolle Interaktion ermöglichen, müssen Unternehmen nun die komplexe Aufgabe übernehmen, ihre Daten semantisch zu kennzeichnen und Beziehungen über alle Systeme hinweg zu dokumentieren, um sinnvolle KI-Interaktionen zu ermöglichen.

Darüber hinaus sind die Daten über viele verschiedene Orte verstreut – von herkömmlichen Servern bis hin zu verschiedenen Cloud-Diensten und unterschiedlichen Softwareanwendungen. Dieser Flickenteppich an Systemen führt zu kritischen Interoperabilitäts- und Integrationsproblemen, die bei der Implementierung von KI-Lösungen noch problematischer werden.

Eine weitere grundlegende Herausforderung liegt in der Inkonsistenz der Geschäftsdefinitionen zwischen verschiedenen Systemen und Abteilungen. Beispielsweise definieren Kundenerfolgsteams „Upselling“ möglicherweise auf eine Weise, während das Vertriebsteam es auf eine andere Weise definiert. Wenn Sie einen KI-Agenten oder Chatbot mit diesen Systemen verbinden und Fragen stellen, erhalten Sie unterschiedliche Antworten, weil die Datendefinitionen nicht aufeinander abgestimmt sind. Dieser Mangel an Übereinstimmung ist kein kleines Ärgernis – er ist ein kritisches Hindernis für die Implementierung zuverlässiger KI-Lösungen.

Schlechte Datenqualität schafft ein klassisches „Müll rein, Müll raus”-Szenario, das exponentiell ernster wird, wenn KI-Tools in einem Unternehmen eingesetzt werden. Falsche oder unübersichtliche Daten wirken sich auf weit mehr als eine Analyse aus – sie verbreiten falsche Informationen über Fragen und Interaktionen an alle, die das System verwenden. Um Vertrauen in KI-Systeme für echte Geschäftsentscheidungen aufzubauen, müssen Unternehmen sicherstellen, dass ihre KI-Anwendungen über Daten verfügen, die sauber, genau und in einem angemessenen Geschäftskontext verständlich sind. Dies stellt einen grundlegenden Wandel in der Art und Weise dar, wie Unternehmen im Zeitalter der KI über ihre Datenbestände nachdenken müssen – wo Qualität, Konsistenz und semantische Klarheit genauso wichtig werden wie die Daten selbst.

Stärkung der Governance-Ansätze

Die Datenverwaltung ist in den letzten Jahren zu einem wichtigen Thema für Unternehmen geworden, wobei es vor allem um die Verwaltung und den Schutz von Daten geht, die in Analysen verwendet werden. Unternehmen haben Anstrengungen unternommen, um vertrauliche Informationen abzubilden, Zugriffsstandards einzuhalten, Gesetze wie die DSGVO und den CCPA einzuhalten und personenbezogene Daten zu erkennen. Diese Initiativen sind für die Erstellung KI-fähiger Daten von entscheidender Bedeutung. Wenn Unternehmen jedoch generative KI-Agenten in ihre Arbeitsabläufe einführen, geht die Governance-Herausforderung über die Daten selbst hinaus und umfasst die gesamte Benutzerinteraktion mit KI.

Wir stehen nun vor der Notwendigkeit, nicht nur die zugrunde liegenden Daten zu regulieren, sondern auch den Prozess, durch den Benutzer über KI-Agenten mit diesen Daten interagieren. Bestehende Gesetze, wie das KI-Gesetz der Europäischen Unionund weitere Regulierungen am Horizont unterstreichen die Notwendigkeit, den Frage-Antwort-Prozess selbst zu regeln. Das bedeutet, dass KI-Agenten transparente, erklärbare und nachvollziehbare Antworten liefern müssen. Wenn Benutzer Blackbox-Antworten erhalten – wie etwa auf die Frage „Wie viele Grippepatienten wurden gestern eingeliefert?“ und nur „50“ ohne Kontext erhalten –, ist es schwer, diesen Informationen bei wichtigen Entscheidungen zu vertrauen. Ohne zu wissen, woher die Daten stammen, wie sie berechnet wurden oder ohne Definitionen von Begriffen wie „eingeliefert“ und „gestern“, verliert die Ausgabe der KI an Zuverlässigkeit.

Anders als bei Interaktionen mit Dokumenten, bei denen Benutzer Antworten auf bestimmte PDFs oder Richtlinien zurückverfolgen können, um die Richtigkeit zu überprüfen, fehlt bei Interaktionen mit strukturierten Daten über KI-Agenten oft dieses Maß an Rückverfolgbarkeit und Erklärbarkeit. Um diese Probleme zu lösen, müssen Unternehmen Governance-Maßnahmen implementieren, die nicht nur vertrauliche Daten schützen, sondern auch die KI-Interaktion kontrolliert und zuverlässig machen. Dazu gehört die Einrichtung robuster Zugriffskontrollen, um sicherzustellen, dass nur autorisiertes Personal auf bestimmte Informationen zugreifen kann, die Definition klarer Verantwortlichkeiten für Dateneigentum und -verwaltung sowie die Sicherstellung, dass KI-Agenten Erklärungen und Referenzen für ihre Ergebnisse bereitstellen. Indem Unternehmen ihre Daten-Governance-Praktiken überarbeiten und diese Überlegungen berücksichtigen, können sie die Leistungsfähigkeit von KI-Agenten sicher nutzen und gleichzeitig sich entwickelnde Vorschriften einhalten und das Vertrauen der Benutzer aufrechterhalten.

Über Prompt Engineering hinausdenken

Wenn Organisationen generative KI-Agenten einführen, um die Datenzugänglichkeit zu verbessern, schnelles Engineering hat sich als neue technische Barriere für Geschäftsanwender herausgestellt. Obwohl es als vielversprechender Karriereweg angepriesen wird, schafft Prompt Engineering im Wesentlichen dieselben Barrieren, mit denen wir in der Datenanalyse zu kämpfen hatten. Das Erstellen perfekter Eingabeaufforderungen unterscheidet sich nicht vom Schreiben spezieller SQL-Abfragen oder dem Erstellen von Dashboard-Filtern – es verlagert technisches Fachwissen von einem Format in ein anderes und erfordert dennoch spezielle Fähigkeiten, die die meisten Geschäftsanwender nicht haben und auch nicht benötigen sollten.

Unternehmen versuchen schon seit langem, das Problem der Datenzugänglichkeit zu lösen, indem sie Benutzer darin schulen, Datensysteme besser zu verstehen, Dokumentationen erstellen und spezialisierte Rollen entwickeln. Doch dieser Ansatz ist rückständig – wir verlangen von Benutzern, sich an Daten anzupassen, anstatt dass sich die Daten an Benutzer anpassen. Prompt Engineering droht, dieses Muster fortzusetzen, indem es eine weitere Schicht technischer Vermittler schafft.

Echte Datendemokratisierung erfordert Systeme, die die Geschäftssprache verstehen, nicht Benutzer, die die Datensprache verstehen. Wenn Führungskräfte nach der Kundenbindung fragen, sollten sie keine perfekte Terminologie oder Eingabeaufforderungen benötigen. Systeme sollten die Absicht verstehen, relevante Daten über verschiedene Bezeichnungen hinweg erkennen (ob es sich nun um „Abwanderung“, „Bindung“ oder „Kundenlebenszyklus“ handelt) und kontextbezogene Antworten liefern. Auf diese Weise können sich Geschäftsbenutzer auf Entscheidungen konzentrieren, anstatt lernen zu müssen, technisch perfekte Fragen zu stellen.

Schlussfolgerung

KI-Agenten werden die Arbeitsweise und Entscheidungsfindung von Unternehmen erheblich verändern, bringen aber auch ganz eigene Herausforderungen mit sich, die vor ihrer Einführung bewältigt werden müssen. Bei KI wird jeder Fehler verstärkt, wenn nicht-technische Benutzer Self-Service-Zugriff haben, daher ist es entscheidend, die Grundlagen richtig zu legen.

Unternehmen, die die grundlegenden Herausforderungen der Datenqualität, der semantischen Ausrichtung und der Governance erfolgreich bewältigen und gleichzeitig die Grenzen des Prompt Engineering überwinden, sind in der Lage, den Datenzugriff und die Entscheidungsfindung sicher zu demokratisieren. Der beste Ansatz besteht darin, eine kollaborative Umgebung zu schaffen, die die Teamarbeit erleichtert und die Mensch-Maschine- sowie die Maschine-Maschine-Interaktion aufeinander abstimmt. Dies garantiert, dass KI-gestützte Erkenntnisse genau, sicher und zuverlässig sind, und fördert eine unternehmensweite Kultur, die Daten verwaltet, schützt und ihr volles Potenzial ausschöpft.