Im Jahr 2025 werden GenAI-Copiloten als Killer-App auftauchen, die Unternehmen und Datenmanagement transformieren

Jede technologische Revolution hat einen bestimmten Moment, in dem ein bestimmter Anwendungsfall die Technologie in die breite Anwendung treibt. Dieser Zeitpunkt ist für generative KI (GenAI) mit der schnellen Verbreitung von Copiloten gekommen.

GenAI als Technologie hat in den letzten Jahren große Fortschritte gemacht. Trotz all der Schlagzeilen und des Hypes ist die Adoption durch Unternehmen jedoch noch in den Anfängen. Die 2024 Gartner CIO and Tech Executive Survey gibt die Adoption mit nur 9% der Befragten an, wobei 34% angeben, dass sie dies im nächsten Jahr tun werden. Eine kürzlich von der Enterprise Strategy Group durchgeführte Umfrage gibt die GenAI-Adoption mit 30% an. Aber alle Umfragen kommen zu dem gleichen Schluss über 2025.

Vorhersage 1. Die Mehrheit der Unternehmen wird GenAI in der Produktion bis Ende 2025 verwenden

Die Adoption von GenAI wird als entscheidend für die Verbesserung der Produktivität und Rentabilität angesehen und ist zu einer Top-Priorität für die meisten Unternehmen geworden. Aber es bedeutet, dass Unternehmen die Herausforderungen überwinden müssen, die bisher in GenAI-Projekten aufgetreten sind, einschließlich:

• Schlechte Datenqualität: GenAI ist nur so gut wie die Daten, die es verwendet, und viele Unternehmen vertrauen ihren Daten immer noch nicht. Datenqualität sowie unvollständige oder voreingenommene Daten haben alle zu schlechten Ergebnissen geführt.
• GenAI-Kosten: Das Training von GenAI-Modellen wie ChatGPT wurde hauptsächlich nur von den besten GenAI-Teams durchgeführt und kostet Millionen in Rechenleistung. Stattdessen verwenden Menschen eine Technik namens Retrieval Augmented Generation (RAG). Aber auch mit RAG wird es schnell teuer, auf Daten zuzugreifen und sie vorzubereiten und die benötigten Experten zu versammeln.
• Begrenzte Fähigkeiten: Viele der frühen GenAI-Einsätze erforderten viel Codierung durch eine kleine Gruppe von GenAI-Experten. Obwohl diese Gruppe wächst, gibt es immer noch einen echten Mangel.
• Halluzinationen: GenAI ist nicht perfekt. Es kann halluzinieren und falsche Antworten geben, wenn es denkt, es sei richtig. Sie benötigen eine Strategie, um zu verhindern, dass falsche Antworten Ihr Unternehmen beeinträchtigen.
• Datensicherheit: GenAI hat Daten durch ihre Verwendung für Training, Feinabstimmung oder RAG den falschen Personen preisgegeben. Sie benötigen Sicherheitsmaßnahmen, um gegen diese Lecks zu schützen.

Glücklicherweise hat die Softwareindustrie diese Herausforderungen in den letzten Jahren angegangen. 2025 sieht so aus, als ob in diesem Jahr einige dieser Herausforderungen gelöst werden und GenAI mainstream wird.

Vorhersage 2. Modulare RAG-Copiloten werden die häufigste Verwendung von GenAI

Die häufigste Verwendung von GenAI ist die Erstellung von Assistenten oder Copiloten, die Menschen helfen, Informationen schneller zu finden. Copiloten werden normalerweise mit RAG-Pipelines erstellt. RAG ist der Weg. Es ist die häufigste Möglichkeit, GenAI zu verwenden. Da Large Language Models (LLM) allgemeine Modelle sind, die nicht alle oder sogar die neuesten Daten haben, müssen Sie Abfragen, auch bekannt als Prompts, ergänzen, um eine genauere Antwort zu erhalten.
Copiloten helfen Wissensarbeitern, produktiver zu sein, bisher unbeantwortbare Fragen zu beantworten und Expertenleitfäden zu bieten, während sie manchmal auch Routineaufgaben ausführen. Vielleicht der erfolgreichste Copilot-Anwendungsfall bis heute ist, wie sie Software-Entwicklern helfen, Code zu schreiben oder Legacy-Code zu modernisieren.

Aber Copiloten werden einen größeren Einfluss haben, wenn sie außerhalb von IT eingesetzt werden. Beispiele sind:

• Im Kundenservice können Copiloten eine Supportanfrage erhalten und entweder an einen Menschen für eine Intervention eskalieren oder eine Lösung für einfache Anfragen wie Passwort-Reset oder Kontozugang bereitstellen, was zu höheren CSAT-Scores führt.
• Im produzierenden Gewerbe können Copiloten Technikern helfen, komplexe Maschinen zu diagnostizieren und spezifische Aktionen oder Reparaturen zu empfehlen, was die Ausfallzeit reduziert.
• Im Gesundheitswesen können Kliniker Copiloten verwenden, um auf die Patientenakte und relevante Forschung zuzugreifen und die Diagnose und klinische Versorgung zu leiten, was die Effizienz und klinischen Ergebnisse verbessert.

RAG-Pipelines haben bisher größtenteils auf die gleiche Weise funktioniert. Der erste Schritt besteht darin, eine Wissensbasis in eine Vektordatenbank zu laden. Wenn eine Person eine Frage stellt, wird eine GenAI-RAG-Pipeline aufgerufen. Sie konstruiert die Frage in einen Prompt um, fragt die Vektordatenbank ab, indem sie den Prompt codiert, um die relevantesten Informationen zu finden, ruft ein LLM mit dem Prompt auf, wobei die abgerufenen Informationen als Kontext verwendet werden, bewertet und formatiert die Ergebnisse und zeigt sie dem Benutzer an.

Aber es stellt sich heraus, dass Sie nicht alle Copiloten gleich gut mit einer einzigen RAG-Pipeline unterstützen können. Also hat sich RAG zu einer modularen Architektur namens modulare RAG entwickelt, bei der Sie verschiedene Module für jeden der vielen Schritte verwenden können:

• Indexierung einschließlich Datenchunking und -organisation
• Vorabfrage einschließlich Prompt-Engineering und -Optimierung
• Abfrage mit Abfragefeinabstimmung und anderen Techniken
• Nachabfrage-Reranking und -Auswahl
• Generierung mit Generatorfeinabstimmung, unter Verwendung und Vergleich mehrerer LLMs und Verifizierung
• Orchestrierung, die diesen Prozess verwaltet und ihn iterativ macht, um die besten Ergebnisse zu erzielen

Sie werden eine modulare RAG-Architektur implementieren müssen, um mehrere Copiloten zu unterstützen.

Vorhersage 3. No-Code/Low-Code-GenAI-Tools werden die Art und Weise sein

Bis jetzt haben Sie vielleicht erkannt, dass GenAI-RAG sehr komplex und schnelllebig ist. Es ist nicht nur, dass neue Best Practices ständig entstehen. Alle Technologien, die in GenAI-Pipelines verwendet werden, ändern sich so schnell, dass Sie einige davon ersetzen oder mehrere unterstützen müssen. Außerdem ist GenAI nicht nur modulare RAG. Retrieval Augmented Fine Tuning (RAFT) und vollständiges Modelltraining werden ebenfalls kosteneffektiv. Ihre Architektur muss all diese Änderungen unterstützen und die Komplexität vor Ihren Ingenieuren verbergen.
Glücklicherweise bieten die besten GenAI-No-Code/Low-Code-Tools diese Architektur. Sie fügen ständig Unterstützung für führende Datenquellen, Vektordatenbanken und LLMs hinzu und ermöglichen es, modulare RAG oder Daten in LLMs für Feinabstimmung oder Training zu speisen. Unternehmen setzen diese Tools erfolgreich ein, um Copiloten mit ihren internen Ressourcen bereitzustellen.

Nexla verwendet nicht nur GenAI, um die Integration zu vereinfachen. Es enthält eine modulare RAG-Pipeline-Architektur mit erweitertem Datenchunking, Query-Engineering, Reranking und Auswahl, Multi-LLM-Unterstützung mit Ergebnisrangliste und -auswahl, Orchestrierung und mehr – all dies ohne Codierung.

Vorhersage 4. Die Grenze zwischen Copiloten und Agenten wird verschwimmen

GenAI-Copiloten wie Chatbots sind Agenten, die Menschen unterstützen. Am Ende entscheiden Menschen, was sie mit den generierten Ergebnissen tun. Aber GenAI-Agenten können vollständig automatisierte Antworten ohne menschliche Beteiligung liefern. Diese werden oft als Agenten oder agentische KI bezeichnet.

Einige Menschen betrachten diese als zwei separate Ansätze. Aber die Realität ist komplizierter. Copiloten beginnen bereits, einige grundlegende Aufgaben zu automatisieren, und ermöglichen es Benutzern optional, Aktionen zu bestätigen und die erforderlichen Schritte zur Erledigung zu automatisieren.

Erwarten Sie, dass Copiloten im Laufe der Zeit in eine Kombination aus Copiloten und Agenten evolvieren. Genau wie Anwendungen helfen, Geschäftsprozesse umzukonstruieren und zu straffen, sollten Assistenten auch verwendet werden, um Zwischenschritte der Aufgaben zu automatisieren, die sie unterstützen. GenAI-basierte Agenten sollten auch Menschen einbeziehen, um Ausnahmen zu behandeln oder einen mit einem LLM generierten Plan zu genehmigen.

Vorhersage 5. GenAI wird die Adoption von Data Fabrics, Data Products und offenen Datenstandards vorantreiben

GenAI wird erwartet, der größte Treiber des Wandels in der IT in den nächsten Jahren zu sein, da die IT sich anpassen muss, um Unternehmen zu ermöglichen, den vollen Nutzen von GenAI zu realisieren.

Als Teil der Gartner Hype Cycles für Data Management 2024 hat Gartner 3 und nur 3 Technologien als transformativ für das Datenmanagement und für die Organisationen, die von Daten abhängig sind, identifiziert: Data Fabrics, Data Products und offene Tabellenformate. Alle 3 helfen, Daten viel zugänglicher für die Verwendung mit GenAI zu machen, da sie es einfacher machen, Daten von diesen neuen GenAI-Tools zu verwenden.

Nexla hat eine Datenproduktarchitektur auf einem Data Fabric implementiert, und zwar aus diesem Grund. Der Data Fabric bietet eine einheitliche Schicht, um alle Daten auf die gleiche Weise zu verwalten, unabhängig von Unterschieden in Formaten, Geschwindigkeiten oder Zugriffsprotokollen. Datenprodukte werden dann erstellt, um bestimmte Datenanforderungen zu unterstützen, wie z. B. für RAG.

Zum Beispiel implementiert ein großes Finanzdienstleistungsunternehmen GenAI, um das Risikomanagement zu verbessern. Sie verwenden Nexla, um einen einheitlichen Data Fabric zu erstellen. Nexla erkennt automatisch das Schema und generiert dann Konnektoren und Datenprodukte. Das Unternehmen definiert dann Datenprodukte für bestimmte Risikokennzahlen, die Daten aggregieren, bereinigen und in das richtige Format für die Eingabe von RAG-Agenten für dynamische regulatorische Berichterstattung umwandeln. Nexla bietet Datenverwaltungssteuerungen, einschließlich Datenabstammung und Zugriffssteuerungen, um die Einhaltung von Vorschriften zu gewährleisten. Unsere Integrationsplattform für Analytics, Betrieb, B2B und GenAI ist auf einer Data-Fabric-Architektur implementiert, bei der GenAI verwendet wird, um wiederverwendbare Konnektoren, Datenprodukte und Workflows zu erstellen. Die Unterstützung offener Datenstandards wie Apache Iceberg erleichtert den Zugriff auf immer mehr Daten.

Wie Sie Ihren Weg zu agenter KI mit Copiloten finden

Wie sollten Sie also vorbereitet sein, um GenAI in Ihrem Unternehmen auf dem Hauptstrom zu bringen, basierend auf diesen Vorhersagen?
Zuerst, wenn Sie es noch nicht getan haben, beginnen Sie mit Ihrem ersten GenAI-RAG-Assistenten für Ihre Kunden oder Mitarbeiter. Identifizieren Sie einen wichtigen und relativ einfachen Anwendungsfall, bei dem Sie bereits die richtige Wissensbasis haben, um erfolgreich zu sein.

Zweitens stellen Sie sicher, dass Sie ein kleines Team von GenAI-Experten haben, die Ihnen helfen, die richtige modulare RAG-Architektur mit den richtigen Integrationswerkzeugen zu implementieren, um Ihre ersten Projekte zu unterstützen. Haben Sie keine Angst, neue Anbieter mit No-Code/Low-Code-Tools zu bewerten.

Drittens beginnen Sie, die Datenmanagement-Best-Practices zu identifizieren, die Sie benötigen, um erfolgreich zu sein. Dies umfasst nicht nur eine Data Fabric und Konzepte wie Datenprodukte. Sie benötigen auch, Ihre Daten für KI zu verwalten.

Die Zeit ist jetzt. 2025 ist das Jahr, in dem die Mehrheit erfolgreich sein wird. Lassen Sie sich nicht zurücklassen.