Warum GenAI im Pilotenmodus stecken bleibt

Da Unternehmen mit der Umsetzung von Generative-AI-Projekten von der Experimentierphase in die Produktionsphase kämpfen, bleiben viele Unternehmen im Pilotenmodus stecken. Wie unsere jüngste Forschung zeigt, sind 92% der Organisationen besorgt, dass GenAI-Piloten ohne die Lösung fundamentaler Datenprobleme beschleunigt werden. Noch aussagekräftiger: 67% konnten nicht einmal die Hälfte ihrer Piloten in die Produktion überführen. Diese Produktionslücke ist weniger eine Frage der technologischen Reife und mehr eine Frage der Vorbereitung der zugrunde liegenden Daten. Das Potenzial von GenAI hängt von der Stärke des Bodens ab, auf dem es steht. Und heute ist dieser Boden für die meisten Organisationen bestenfalls unsicher.

Warum GenAI im Pilotenmodus stecken bleibt

Obwohl GenAI-Lösungen sicherlich mächtig sind, sind sie nur so effektiv wie die Daten, die sie speisen. Das alte Sprichwort “Müll rein, Müll raus” ist heute truer denn je. Ohne vertrauenswürdige, vollständige, berechtigte und erklärbare Daten produzieren GenAI-Modelle oft Ergebnisse, die ungenau, voreingenommen oder untauglich sind.

Leider haben Organisationen sich beeilt, Low-Effort-Anwendungsfälle wie AI-gesteuerte Chatbots zu implementieren, die auf maßgeschneiderte Antworten aus verschiedenen internen Dokumenten ausgerichtet sind. Und obwohl diese die Kundenerfahrung bis zu einem bestimmten Grad verbessern, erfordern sie keine tiefgreifenden Änderungen an der Dateninfrastruktur des Unternehmens. Um jedoch GenAI strategisch zu skalieren, sei es in der Gesundheitsversorgung, den Finanzdienstleistungen oder der Lieferkettenautomatisierung, ist ein höheres Maß an Datenreife erforderlich.

Tatsächlich nennen 56% der Chief Data Officers die Datenzuverlässigkeit als ein wichtiges Hindernis für die Bereitstellung von AI. Andere Probleme sind unvollständige Daten (53%), Datenschutzprobleme (50%) und größere AI-Governance-Lücken (36%).

Keine Governance, kein GenAI

Um GenAI über die Pilotphase hinaus zu bringen, müssen Unternehmen die Datenverwaltung als strategische Imperative für ihr Geschäft behandeln. Sie müssen sicherstellen, dass die Daten für die Ermächtigung von AI-Modellen geeignet sind, und um dies zu tun, müssen die folgenden Fragen beantwortet werden:

• Stammen die Daten, die zum Trainieren des Modells verwendet werden, aus den richtigen Systemen?
• Haben wir personenbezogene Informationen entfernt und alle Datenschutzvorschriften eingehalten?
• Sind wir transparent und können wir die Herkunft der Daten, die das Modell verwendet, nachweisen?
• Können wir unsere Datenprozesse dokumentieren und nachweisen, dass die Daten frei von Voreingenommenheit sind?

Die Datenverwaltung muss auch in die Kultur einer Organisation eingebettet werden. Dazu ist es erforderlich, die AI-Literacy über alle Teams hinweg aufzubauen. Der EU-AI-Gesetz formalisiert diese Verantwortung, indem er sowohl Anbieter als auch Nutzer von AI-Systemen verpflichtet, ihre Mitarbeiter ausreichend auf die Verantwortung vorzubereiten, wie diese Systeme funktionieren und wie sie verantwortungsvoll eingesetzt werden können. Effektive AI-Adoption geht jedoch über technisches Know-how hinaus. Sie erfordert auch eine starke Grundlage in Datenkompetenzen, von der Datenverwaltung bis hin zur Formulierung analytischer Fragen. Die AI-Literacy zu isolieren von der Datenliteracy wäre kurzsichtig, da sie eng miteinander verknüpft sind.

In Bezug auf die Datenverwaltung gibt es noch viel zu tun. Unter den Unternehmen, die ihre Datenmanagementinvestitionen erhöhen möchten, stimmen 47% zu, dass der Mangel an Datenliteracy ein wichtiges Hindernis ist. Dies unterstreicht die Notwendigkeit, eine umfassende Unterstützung aufzubauen und die richtigen Fähigkeiten in der gesamten Organisation zu entwickeln. Ohne diese Grundlagen werden sogar die leistungsfähigsten LLMs Schwierigkeiten haben, zu liefern.

Entwicklung von AI, die zur Rechenschaft gezogen werden muss

In der aktuellen regulatorischen Umgebung reicht es nicht mehr aus, dass AI “nur funktioniert”, sondern es muss auch rechenschaftspflichtig und erklärbar sein. Der EU-AI-Gesetz und der vorgeschlagene AI-Aktionsplan des Vereinigten Königreichs erfordern Transparenz in Hochrisiko-AI-Anwendungsfällen. Andere folgen diesem Beispiel, und über 1.000 damit verbundene Gesetzesentwürfe stehen in 69 Ländern auf der Tagesordnung.

Diese globale Bewegung hin zu Rechenschaftspflicht ist eine direkte Folge der zunehmenden Verbraucher- und Stakeholderforderungen nach Fairness in Algorithmen. Beispielsweise müssen Organisationen in der Lage sein, die Gründe zu nennen, warum ein Kunde für ein Darlehen abgelehnt wurde oder warum er einen Versicherungsprämienzuschlag erhält. Um dies zu tun, müssen sie wissen, wie das Modell diese Entscheidung getroffen hat, und das hängt wiederum davon ab, ob sie eine klare, auditable Spur der Daten haben, die zum Trainieren des Modells verwendet wurden.

Wenn es keine Erklärbarkeit gibt, riskieren Unternehmen, das Vertrauen ihrer Kunden zu verlieren, sowie finanzielle und rechtliche Konsequenzen zu erleiden. Daher ist die Nachvollziehbarkeit der Datenherkunft und die Rechtfertigung der Ergebnisse kein “Nice-to-have”, sondern eine Compliance-Anforderung.

Und da GenAI über die Verwendung als einfache Werkzeuge hinausgeht und zu vollwertigen Agenten wird, die Entscheidungen treffen und entsprechend handeln können, steigen die Einsätze für eine starke Datenverwaltung noch höher.

Schritte zur Erstellung vertrauenswürdiger AI

Was sieht also gut aus? Um GenAI verantwortungsvoll zu skalieren, sollten Organisationen eine einzige Datenstrategie über drei Säulen anstreben:

• AI an das Geschäft anpassen: Katalogisieren Sie Ihre Daten um wichtige Geschäftsziele, stellen Sie sicher, dass sie den einzigartigen Kontext, Herausforderungen und Chancen Ihres Geschäfts widerspiegeln.
• Vertrauen in AI aufbauen: Legen Sie Richtlinien, Standards und Prozesse für die Einhaltung und Überwachung ethischer und verantwortungsvoller AI-Implementierung fest.
• AI-Daten bereitstellen: Kombinieren Sie Ihre vielfältigen Datenquellen zu einer widerstandsfähigen Datenbasis für robuste AI, indem Sie vordefinierte GenAI-Verbindungen einbauen.

Wenn Organisationen dies richtig machen, beschleunigt die Governance den AI-Wert. Beispielsweise verwenden Hedgefonds in den Finanzdienstleistungen GenAI, um menschliche Analysten bei der Vorhersage von Aktienkursen zu übertreffen, während sie gleichzeitig die Kosten erheblich senken. In der Fertigungsindustrie ermöglicht die durch AI getriebene Optimierung der Lieferkette es Organisationen, in Echtzeit auf geopolitische Veränderungen und Umweltbelastungen zu reagieren.

Und diese sind keine futuristischen Ideen, sondern sie passieren jetzt, getrieben durch vertrauenswürdige Daten.

Mit starken Datenfundamenten reduzieren Unternehmen das Modell-Drift, begrenzen die Neuschulungszyklen und erhöhen die Geschwindigkeit zum Wert. Deshalb ist die Governance kein Hindernis, sondern ein Innovationsbeschleuniger.

Was kommt als Nächstes?

Nach der Experimentierphase investieren Organisationen in transformationale Fähigkeiten. Von der Personalisierung von Kundeninteraktionen bis hin zur Beschleunigung der medizinischen Forschung, Verbesserung der psychischen Gesundheit und Vereinfachung regulatorischer Prozesse beginnt GenAI, sein Potenzial über Branchen hinweg zu demonstrieren.

Diese Gewinne hängen jedoch vollständig von den zugrunde liegenden Daten ab. GenAI beginnt mit dem Aufbau einer starken Datenbasis durch eine starke Datenverwaltung. Und während GenAI und agierende AI weiterhin evolvieren werden, wird es die menschliche Überwachung nicht bald ersetzen. Stattdessen treten wir in eine Phase strukturierter Wertbildung ein, in der AI ein zuverlässiger Co-Pilot wird. Mit den richtigen Investitionen in Datenqualität, Governance und Kultur können Unternehmen GenAI endlich von einem vielversprechenden Piloten in etwas verwandeln, das vollständig abhebt.