Im Jahr 2025 werden GenAI-Copiloten als Killer-App aufkommen, die Unternehmen und Datenmanagement transformieren

Jede technologische Revolution hat einen bestimmten Moment, an dem ein bestimmtes Anwendungsgebiet die Technologie in die breite Anwendung treibt. Dieser Zeitpunkt ist für die generative KI (GenAI) mit der schnellen Verbreitung von Copiloten gekommen.

GenAI als Technologie hat in den letzten Jahren große Fortschritte gemacht. Trotz aller Schlagzeilen und Hypes ist die Adoption von GenAI durch Unternehmen jedoch noch in den Anfängen. Die Gartner-CIO- und Tech-Executive-Umfrage 2024 gibt die Adoption mit nur 9% der Befragten an, während 34% angeben, dass sie dies in den nächsten Jahren tun werden. Eine jüngste Umfrage der Enterprise Strategy Group gibt die GenAI-Adoption bei 30% an. Aber alle Umfragen kommen zu dem gleichen Schluss über 2025.

Prognose 1. Die Mehrheit der Unternehmen wird GenAI bis Ende 2025 in der Produktion einsetzen

Die Adoption von GenAI wird als entscheidend für die Verbesserung der Produktivität und Rentabilität angesehen und ist zu einem Top-Priorität für die meisten Unternehmen geworden. Aber es bedeutet, dass Unternehmen die Herausforderungen überwinden müssen, die bisher in GenAI-Projekten aufgetreten sind, einschließlich:

• Schlechte Datenqualität: GenAI ist nur so gut wie die Daten, die es verwendet, und viele Unternehmen vertrauen ihren Daten noch nicht. Datenqualität sowie unvollständige oder voreingenommene Daten haben alle zu schlechten Ergebnissen geführt.
• GenAI-Kosten: Das Training von GenAI-Modellen wie ChatGPT ist hauptsächlich nur von den besten GenAI-Teams durchgeführt worden und kostet Millionen in Rechenleistung. Stattdessen verwenden Menschen eine Technik namens Retrieval Augmented Generation (RAG). Aber auch mit RAG wird es schnell teuer, auf Daten zuzugreifen und vorzubereiten und die erforderlichen Experten zu versammeln, um erfolgreich zu sein.
• Begrenzte Fähigkeiten: Viele der frühen GenAI-Einsätze erforderten viel Codierung durch eine kleine Gruppe von GenAI-Experten. Obwohl diese Gruppe wächst, gibt es immer noch einen echten Mangel.
• Halluzinationen: GenAI ist nicht perfekt. Es kann halluzinieren und falsche Antworten geben, wenn es denkt, es sei richtig. Sie benötigen eine Strategie, um zu verhindern, dass falsche Antworten Ihr Geschäft beeinträchtigen.
• Datensicherheit: GenAI hat Daten gegenüber den falschen Personen wegen des Trainings, Feinabstimmens oder RAGs offengelegt. Sie müssen Sicherheitsmaßnahmen ergreifen, um gegen diese Lecks zu schützen.

Glücklicherweise hat die Softwareindustrie diese Herausforderungen in den letzten Jahren angegangen. 2025 sieht so aus, als ob einige dieser Herausforderungen gelöst werden und GenAI mainstream wird.

Prognose 2. Modulare RAG-Copiloten werden die häufigste Verwendung von GenAI

Die häufigste Verwendung von GenAI ist die Erstellung von Assistenten oder Copiloten, die Menschen helfen, Informationen schneller zu finden. Copiloten werden normalerweise mit RAG-Pipelines erstellt. RAG ist der Weg. Es ist die häufigste Möglichkeit, GenAI zu verwenden. Da Large Language Models (LLM) allgemeine Modelle sind, die nicht alle oder sogar die neuesten Daten haben, müssen Sie Abfragen, auch als Prompts bekannt, ergänzen, um eine genauere Antwort zu erhalten.
Copiloten helfen Wissensarbeitern, produktiver zu sein, bisher unbeantwortbare Fragen zu beantworten und Expertenleitfäden zu bieten, während sie manchmal auch Routineaufgaben ausführen. Vielleicht der erfolgreichste Copilot-Einsatz bis heute ist, wie sie Software-Entwicklern helfen, Code zu schreiben oder Legacy-Code zu modernisieren.

Aber Copiloten werden erwartet, einen größeren Einfluss zu haben, wenn sie außerhalb von IT eingesetzt werden. Beispiele sind:

• Im Kundenservice können Copiloten eine Supportanfrage erhalten und entweder an einen Menschen für eine Intervention eskalieren oder eine Lösung für einfache Anfragen wie Passwörter zurücksetzen oder Kontozugang bereitstellen, was zu höheren CSAT-Bewertungen führt.
• Im produzierenden Gewerbe können Copiloten Technikern helfen, komplexe Maschinen zu diagnostizieren und spezifische Aktionen oder Reparaturen zu empfehlen, was die Ausfallzeit reduziert.
• Im Gesundheitswesen können Kliniker Copiloten verwenden, um auf die Patientenverlauf und relevante Forschung zuzugreifen und die Diagnose und klinische Versorgung zu leiten, was die Effizienz und klinische Ergebnisse verbessert.

RAG-Pipelines haben bisher größtenteils auf die gleiche Weise funktioniert. Der erste Schritt ist, eine Wissensbasis in eine Vektordatenbank zu laden. Wenn eine Person eine Frage stellt, wird eine GenAI-RAG-Pipeline aufgerufen. Sie rekonstruiert die Frage in einen Prompt, fragt die Vektordatenbank ab, indem sie den Prompt kodiert, um die relevantesten Informationen zu finden, ruft ein LLM mit dem Prompt auf, wobei die abgerufenen Informationen als Kontext verwendet werden, bewertet und formatiert die Ergebnisse und zeigt sie dem Benutzer an.

Aber es stellt sich heraus, dass Sie nicht alle Copiloten gleich gut mit einer einzigen RAG-Pipeline unterstützen können. Also hat sich RAG in eine modulare Architektur namens modulare RAG entwickelt, bei der Sie verschiedene Module für jeden der vielen Schritte verwenden können:

• Indexierung einschließlich Datenchunking und Organisation
• Vorabfrage einschließlich Prompt-Engineering und Optimierung
• Abfrage mit Abfragefeinabstimmung und anderen Techniken
• Nachabfrage-Reranking und Auswahl
• Erzeugung mit Generatorfeinabstimmung, unter Verwendung und Vergleich mehrerer LLMs und Überprüfung
• Orchestrierung, die diesen Prozess verwaltet und ihn iterativ macht, um die besten Ergebnisse zu erzielen

Sie werden eine modulare RAG-Architektur implementieren müssen, um mehrere Copiloten zu unterstützen.

Prognose 3. No-Code/Low-Code-GenAI-Tools werden der Weg

Bis jetzt dürften Sie erkennen, dass GenAI-RAG sehr komplex und schnelllebig ist. Es ist nicht nur, dass neue Best Practices ständig entstehen. Alle Technologien, die an GenAI-Pipelines beteiligt sind, ändern sich so schnell, dass Sie einige davon ersetzen oder mehrere unterstützen müssen. Außerdem ist GenAI nicht nur modulare RAG. Retrieval Augmented Fine Tuning (RAFT) und vollständiges Modelltraining werden auch kosteneffektiv. Ihre Architektur muss all diese Änderungen unterstützen und die Komplexität vor Ihren Ingenieuren verbergen.
Glücklicherweise bieten die besten GenAI-No-Code/Low-Code-Tools diese Architektur. Sie fügen ständig Unterstützung für führende Datenquellen, Vektordatenbanken und LLMs hinzu und machen es möglich, modulare RAG oder Daten in LLMs für Feinabstimmung oder Training zu speisen. Unternehmen setzen diese Tools erfolgreich ein, um Copiloten mit ihren internen Ressourcen zu bereitstellen.

Nexla nutzt nicht nur GenAI, um die Integration zu vereinfachen. Es umfasst eine modulare RAG-Pipeline-Architektur mit erweitertem Datenchunking, Prompt-Engineering, Reranking und Auswahl, Multi-LLM-Unterstützung mit Ergebnis-Ranking und Auswahl, Orchestrierung und mehr – alles ohne Codierung.

Prognose 4. Die Grenze zwischen Copiloten und Agenten wird verschwimmen

GenAI-Copiloten wie Chatbots sind Agenten, die Menschen unterstützen. Am Ende entscheiden Menschen, was mit den generierten Ergebnissen zu tun ist. Aber GenAI-Agenten können vollständig automatisierte Antworten ohne menschliche Beteiligung liefern. Diese werden oft als Agenten oder agentische KI bezeichnet.

Einige Menschen betrachten diese als zwei separate Ansätze. Aber die Realität ist komplexer. Copiloten beginnen bereits, einige grundlegende Aufgaben zu automatisieren, und ermöglichen es Benutzern optional, Aktionen zu bestätigen und die erforderlichen Schritte zur Ausführung zu automatisieren.

Erwarten Sie, dass Copiloten im Laufe der Zeit zu einer Kombination aus Copiloten und Agenten evolvieren. Genau wie Anwendungen dazu beitragen, Geschäftsprozesse umzukonstruieren und zu straffen, könnten und sollten Assistenten dazu verwendet werden, Zwischenschritte der von ihnen unterstützten Aufgaben zu automatisieren. GenAI-basierte Agenten sollten auch Menschen einbeziehen, um Ausnahmen zu behandeln oder einen mit einem LLM generierten Plan zu genehmigen.

Prognose 5. GenAI wird die Adoption von Data Fabrics, Data Products und offenen Datenstandards vorantreiben

GenAI wird erwartet, der größte Treiber des Wandels in der IT in den nächsten Jahren zu sein, da die IT sich anpassen muss, um Unternehmen zu ermöglichen, den vollen Nutzen von GenAI zu realisieren.

Im Rahmen der Gartner-Hype-Cycles für Data Management 2024 hat Gartner drei und nur drei Technologien als transformativ für Data Management und für die Organisationen, die von Daten abhängig sind, identifiziert: Data Fabrics, Data Products und offene Tabellenformate. Alle drei machen es einfacher, Daten für den Einsatz mit GenAI zugänglich zu machen, da sie es einfacher machen, Daten für diese neuen GenAI-Tools zu verwenden.

Nexla hat eine Data-Product-Architektur auf einem Data-Fabric implementiert, und zwar aus diesem Grund. Der Data-Fabric bietet eine einheitliche Schicht, um alle Daten auf die gleiche Weise zu verwalten, unabhängig von Unterschieden in Formaten, Geschwindigkeiten oder Zugriffsprotokollen. Data-Products werden dann erstellt, um spezifische Datenanforderungen zu unterstützen, wie z. B. für RAG.

Zum Beispiel implementiert ein großes Finanzdienstleistungsunternehmen GenAI, um das Risikomanagement zu verbessern. Sie verwenden Nexla, um einen einheitlichen Data-Fabric zu erstellen. Nexla erkennt automatisch das Schema und generiert dann Konnektoren und Data-Products. Das Unternehmen definiert dann Data-Products für spezifische Risikometriken, die Daten aggregieren, bereinigen und in das richtige Format umwandeln, um RAG-Agenten für dynamische regulatorische Berichte zu implementieren. Nexla bietet die Datenverwaltungssteuerungen einschließlich Datenlinie und Zugriffssteuerungen, um die Einhaltung der Vorschriften zu gewährleisten. Unsere Integrationsplattform für Analytics, Betrieb, B2B und GenAI wird auf einer Data-Fabric-Architektur implementiert, bei der GenAI verwendet wird, um wiederverwendbare Konnektoren, Data-Products und Workflows zu erstellen. Die Unterstützung von offenen Datenstandards wie Apache Iceberg erleichtert den Zugriff auf immer mehr Daten.

So kommen Sie mit Ihrem Copiloten auf dem Weg zu agenterischer KI

Wie sollten Sie also vorbereitet sein, um GenAI in Ihrem Unternehmen auf dem Weg zu machen, basierend auf diesen Prognosen?
Zuerst, wenn Sie noch nicht, beginnen Sie mit Ihrem ersten GenAI-RAG-Assistenten für Ihre Kunden oder Mitarbeiter. Identifizieren Sie ein wichtiges und relativ einfaches Anwendungsgebiet, bei dem Sie bereits die richtige Wissensbasis haben, um erfolgreich zu sein.

Zweitens stellen Sie sicher, dass Sie ein kleines Team von GenAI-Experten haben, die Ihnen helfen, die richtige modulare RAG-Architektur mit den richtigen Integrationswerkzeugen zu implementieren, um Ihre ersten Projekte zu unterstützen. Haben Sie keine Angst, neue Anbieter mit No-Code/Low-Code-Tools zu bewerten.

Drittens beginnen Sie, die Datenmanagement-Best-Practices zu identifizieren, die Sie benötigen, um erfolgreich zu sein. Dies umfasst nicht nur einen Data-Fabric und Konzepte wie Data-Products. Sie müssen auch Ihre Daten für KI verwalten.

Die Zeit ist jetzt. 2025 ist das Jahr, in dem die Mehrheit erfolgreich sein wird. Lassen Sie sich nicht zurücklassen.