3 Überlegungen für sichere und zuverlässige KI-Agenten für Unternehmen

Laut Gartner werden voraussichtlich 30 % der GenAI-Projekte nach dem Proof-of-Concept bis Ende 2025 aufgegeben. Die frühe Einführung von GenAI hat gezeigt, dass die meisten Unternehmen ihre Dateninfrastruktur und Governance-Praktiken nicht auf eine effektive KI-Einführung vorbereitet hatten. Die erste Welle der GenAI-Produktivierung stieß auf erhebliche Hindernisse, da viele Organisationen Schwierigkeiten hatten, über die Proof-of-Concept-Phase hinaus zu gelangen und einen bedeutenden Geschäftswert zu erzielen.

Wenn wir nun in die zweite Welle der generativen KI-Produktivierung eintreten, erkennen Unternehmen, dass die erfolgreiche Implementierung dieser Technologien mehr erfordert als nur die Verbindung eines LLM mit ihren Daten. Der Schlüssel zur Entfaltung des Potenzials von KI liegt auf drei Kernsäulen: die Vorbereitung der Daten und ihre Bereitschaft für die Integration mit KI; die Überarbeitung der Daten-Governance-Praktiken, um die einzigartigen Herausforderungen von GenAI anzugehen; und die Bereitstellung von KI-Agenten in einer Weise, die einen sicheren und zuverlässigen Einsatz natürlicher und intuitiver Weise ermöglicht, sodass Benutzer keine speziellen Fähigkeiten oder genaue Einsatzmuster erlernen müssen. Zusammen bilden diese Säulen eine starke Grundlage für sichere und effektive KI-Agenten in Unternehmensumgebungen.

Daten ordnungsgemäß für KI vorbereiten

Strukturierte Daten mögen auf den ersten Blick organisiert erscheinen, da sie in Tabellen und Spalten angeordnet sind, aber LLMs haben oft Schwierigkeiten, diese strukturierten Daten effektiv zu verstehen und zu bearbeiten. Dies liegt daran, dass in den meisten Unternehmen die Daten nicht semantisch bedeutsam beschriftet sind. Daten haben oft kryptische Bezeichnungen, wie z.B. “ID” ohne klare Angabe, ob es sich um einen Kunden-, Produkt- oder Transaktions-Identifikator handelt. Bei strukturierten Daten ist es auch schwierig, den richtigen Kontext und die Beziehungen zwischen verschiedenen vernetzten Datenpunkten zu erfassen, wie z.B. die Schritte in einer Kundenreise. Ebenso wie wir in Computer-Vision-Anwendungen jedes Bild beschriften mussten, um eine sinnvolle Interaktion zu ermöglichen, müssen Unternehmen nun die komplexe Aufgabe in Angriff nehmen, ihre Daten semantisch zu beschriften und Beziehungen über alle Systeme hinweg zu dokumentieren, um sinnvolle KI-Interaktionen zu ermöglichen.

Darüber hinaus sind Daten über viele verschiedene Orte verstreut – von herkömmlichen Servern bis hin zu verschiedenen Cloud-Diensten und unterschiedlichen Software-Anwendungen. Diese Patchwork-Systeme führen zu kritischen Interoperabilitäts- und Integrationsproblemen, die noch problematischer werden, wenn KI-Lösungen implementiert werden.

Eine weitere grundlegende Herausforderung liegt in der Inkonsistenz von Geschäftsdefinitionen über verschiedene Systeme und Abteilungen hinweg. Zum Beispiel definieren Customer-Success-Teams “Upselling” möglicherweise auf eine Weise, während das Vertriebsteam es auf eine andere Weise definiert. Wenn Sie einen KI-Agenten oder Chatbot mit diesen Systemen verbinden und Fragen stellen, erhalten Sie unterschiedliche Antworten, da die Daten-Definitionen nicht ausgerichtet sind. Diese mangelnde Ausrichtung ist kein geringfügiges Problem – es ist ein kritischer Barrier für die Implementierung zuverlässiger KI-Lösungen.

Schlechte Datenqualität schafft ein klassisches “Müll rein, Müll raus”-Szenario, das bei der Bereitstellung von KI-Tools exponentiell ernster wird. Falsche oder unordentliche Daten beeinflussen weit mehr als eine Analyse – sie verbreiten falsche Informationen an alle Benutzer, die das System über ihre Fragen und Interaktionen verwenden. Um Vertrauen in KI-Systeme für reale Geschäftsentscheidungen aufzubauen, müssen Unternehmen sicherstellen, dass ihre KI-Anwendungen saubere, genaue und im richtigen Geschäftskontext verstandene Daten haben. Dies stellt eine grundlegende Verschiebung dar, wie Unternehmen über ihre Daten-Assets im Zeitalter von KI denken müssen – wo Qualität, Konsistenz und semantische Klarheit genauso wichtig sind wie die Daten selbst.

Stärkung der Governance-Ansätze

Daten-Governance war in den letzten Jahren ein wichtiger Schwerpunkt für Unternehmen, hauptsächlich auf die Verwaltung und den Schutz von Daten für die Analyse konzentriert. Unternehmen haben Anstrengungen unternommen, um sensible Informationen zu kartieren, Zugriffsstandards einzuhalten, Gesetze wie die DSGVO und CCPA zu beachten und personenbezogene Daten zu erkennen. Diese Initiativen sind von entscheidender Bedeutung, um KI-fähige Daten zu schaffen. Allerdings erstreckt sich die Herausforderung der Governance, wenn Unternehmen generative KI-Agenten in ihre Arbeitsabläufe integrieren, über die Daten selbst hinaus auf die gesamte Benutzererfahrung mit KI.

Wir stehen nun vor der Notwendigkeit, nicht nur die zugrunde liegenden Daten, sondern auch den Prozess, durch den Benutzer mit diesen Daten über KI-Agenten interagieren, zu regeln. Bestehende Gesetze wie der Europäische AI-Gesetz und weitere anstehende Regularien unterstreichen die Notwendigkeit, den Frage-Antwort-Prozess selbst zu regeln. Dies bedeutet, dass KI-Agenten transparente, erklärbare und nachvollziehbare Antworten liefern müssen. Wenn Benutzer schwarze Kasten-Antworten erhalten – wie z.B. “Wie viele Grippe-Patienten wurden gestern aufgenommen?” und nur “50” ohne Kontext – ist es schwierig, diesem Informationen für kritische Entscheidungen zu vertrauen. Ohne zu wissen, woher die Daten stammen, wie sie berechnet wurden oder was Begriffe wie “aufgenommen” und “gestern” bedeuten, verliert die Ausgabe der KI an Zuverlässigkeit.

Im Gegensatz zu Interaktionen mit Dokumenten, bei denen Benutzer Antworten auf spezifische PDFs oder Richtlinien zurückverfolgen können, um die Genauigkeit zu überprüfen, fehlt es bei Interaktionen mit strukturierten Daten über KI-Agenten oft an dieser Ebene von Nachvollziehbarkeit und Erklärbarkeit. Um diese Probleme anzugehen, müssen Unternehmen Governance-Maßnahmen implementieren, die nicht nur sensible Daten schützen, sondern auch die KI-Interaktions-Erfahrung regeln und zuverlässig machen. Dazu gehören die Einrichtung robuster Zugriffskontrollen, um sicherzustellen, dass nur autorisierte Personen Zugriff auf bestimmte Informationen haben, die Definition klaren Daten-Eigentums und Verantwortlichkeiten sowie die Sicherstellung, dass KI-Agenten Erklärungen und Referenzen für ihre Ausgaben liefern. Durch die Überarbeitung der Daten-Governance-Praktiken, um diese Überlegungen einzubeziehen, können Unternehmen die Macht von KI-Agenten sicher nutzen, während sie sich an die Entwicklung von Regularien anpassen und das Vertrauen der Benutzer aufrechterhalten.

Jenseits der Prompt-Engineering-Grenzen denken

Wenn Unternehmen generative KI-Agenten einführen, um die Daten-Zugänglichkeit zu verbessern, ist Prompt-Engineering zu einer neuen technischen Hürde für Geschäftsanwender geworden. Obwohl es als vielversprechender Karriereweg gilt, ist Prompt-Engineering im Wesentlichen das Wiedererschaffen der gleichen Barrieren, mit denen wir in der Datenanalyse gekämpft haben. Die Erstellung perfekter Prompts ist nicht anders als das Schreiben spezieller SQL-Abfragen oder das Erstellen von Dashboard-Filtern – es ist die Verschiebung technischer Expertise von einem Format zu einem anderen, was immer noch spezielle Fähigkeiten erfordert, die die meisten Geschäftsanwender nicht haben und nicht haben sollten.

Unternehmen haben lange versucht, die Daten-Zugänglichkeit zu lösen, indem sie Benutzer dazu ausbilden, Daten-Systeme besser zu verstehen, Dokumentationen erstellen und spezielle Rollen entwickeln. Aber dieser Ansatz ist rückwärtsgerichtet – wir bitten Benutzer, sich an die Daten anzupassen, anstatt die Daten an die Benutzer anzupassen. Prompt-Engineering droht, diesen Trend fortzusetzen, indem es eine weitere Schicht technischer Vermittler schafft.

Eine wahre Demokratisierung von Daten erfordert Systeme, die die Geschäftssprache verstehen, nicht Benutzer, die die Daten-Sprache verstehen. Wenn Führungskräfte nach der Kundenrückgewinnung fragen, sollten sie keine perfekte Terminologie oder Prompts benötigen. Systeme sollten die Absicht verstehen, relevante Daten über verschiedene Bezeichnungen (ob “Abwanderung”, “Rückgewinnung” oder “Kundenlebenszyklus”) erkennen und kontextuelle Antworten liefern. Dies ermöglicht es Geschäftsanwendern, sich auf Entscheidungen zu konzentrieren, anstatt zu lernen, technisch perfekte Fragen zu stellen.

Zusammenfassung

KI-Agenten werden wichtige Veränderungen in der Art und Weise mit sich bringen, wie Unternehmen operieren und Entscheidungen treffen, aber sie kommen mit eigenen einzigartigen Herausforderungen, die angegangen werden müssen, bevor sie bereitgestellt werden. Mit KI wird jeder Fehler verstärkt, wenn nicht-technische Benutzer Selbstbedienungszugriff haben, was es entscheidend macht, die Grundlagen richtig zu legen.

Unternehmen, die die grundlegenden Herausforderungen der Datenqualität, semantischen Ausrichtung und Governance erfolgreich angehen und über die Einschränkungen des Prompt-Engineerings hinausgehen, werden in der Lage sein, den Daten-Zugang und die Entscheidungsfindung sicher zu demokratisieren. Der beste Ansatz besteht darin, eine kollaborative Umgebung zu schaffen, die Teamarbeit erleichtert und menschliche und maschinelle Interaktionen ausrichtet. Dies garantiert, dass KI-gesteuerte Erkenntnisse genau, sicher und zuverlässig sind und eine unternehmensweite Kultur fördern, die Daten verwaltet, schützt und ihr volles Potenzial ausschöpft.