Warum GenAI ohne starke Governance ins Stocken gerät

Wenn Unternehmen versuchen, Generative-AI-Projekte von der Experimentierphase in die Produktionsphase zu überführen, bleiben viele Unternehmen stecken. Wie unsere jüngste Forschung zeigt, sind 92% der Organisationen besorgt, dass GenAI-Pilotprojekte beschleunigt werden, bevor grundlegende Datenprobleme angegangen werden. Noch aussagekräftiger: 67% konnten nicht einmal die Hälfte ihrer Pilotprojekte in die Produktion überführen. Diese Produktionslücke ist weniger eine Frage der technologischen Reife und mehr eine Frage der Bereitschaft der zugrunde liegenden Daten. Das Potenzial von GenAI hängt von der Stärke des Bodens ab, auf dem es steht. Und heute ist dieser Boden für die meisten Organisationen bestenfalls unsicher.

Warum GenAI im Pilotstadium stecken bleibt

Obwohl GenAI-Lösungen sicherlich mächtig sind, sind sie nur so effektiv wie die Daten, die sie speisen. Das alte Sprichwort “Müll rein, Müll raus” ist heute truer denn je. Ohne vertrauenswürdige, vollständige, berechtigte und erklärbare Daten produzieren GenAI-Modelle oft Ergebnisse, die ungenau, voreingenommen oder untauglich sind.

Leider haben Organisationen sich beeilt, Low-Effort-Anwendungsfälle wie AI-gesteuerte Chatbots zu deployen, die maßgeschneiderte Antworten aus verschiedenen internen Dokumenten anbieten. Und obwohl diese die Kundenexperience bis zu einem bestimmten Grad verbessern, erfordern sie keine tiefgreifenden Änderungen an der Dateninfrastruktur des Unternehmens. Um GenAI jedoch strategisch zu skalieren, sei es in der Gesundheitsversorgung, den Finanzdienstleistungen oder der Automatisierung der Lieferkette, ist ein höheres Maß an Datenreife erforderlich.

Tatsächlich nennen 56% der Chief Data Officers Datenzuverlässigkeit als ein wichtiger Barrieren für die Bereitstellung von AI. Andere Probleme sind unvollständige Daten (53%), Datenschutzprobleme (50%) und größere AI-Governance-Lücken (36%).

Keine Governance, kein GenAI

Um GenAI über die Pilotphase hinaus zu bringen, müssen Unternehmen die Datenverwaltung als strategische Imperative für ihr Geschäft behandeln. Sie müssen sicherstellen, dass die Daten für die Speisung von AI-Modellen geeignet sind und dass die folgenden Fragen beantwortet werden:

• Stammen die Daten, die zum Trainieren des Modells verwendet werden, aus den richtigen Systemen?
• Haben wir personenbezogene Informationen entfernt und alle Daten- und Datenschutzbestimmungen eingehalten?
• Sind wir transparent und können wir die Herkunft der Daten, die das Modell verwendet, nachweisen?
• Können wir unsere Datenprozesse dokumentieren und nachweisen, dass die Daten frei von Voreingenommenheit sind?

Die Datenverwaltung muss auch in die Kultur des Unternehmens eingebettet werden. Dazu ist es erforderlich, AI-Literacy über alle Teams hinweg aufzubauen. Der EU-AI-Akt formalisiert diese Verantwortung und verlangt von Anbietern und Nutzern von AI-Systemen, dass sie sich bemühen, ihre Mitarbeiter ausreichend AI-literate zu machen, damit sie verstehen, wie diese Systeme funktionieren und wie sie verantwortungsvoll eingesetzt werden können. Effektive AI-Adoption geht jedoch über technisches Know-how hinaus und erfordert auch eine starke Grundlage in Datenkompetenzen, von der Datenverwaltung bis hin zur Formulierung analytischer Fragen. Die AI-Literacy zu isolieren von der Datenliteracy wäre kurzsichtig, da sie eng miteinander verknüpft sind.

In Bezug auf die Datenverwaltung gibt es noch Arbeit zu leisten. Unter den Unternehmen, die ihre Datenmanagementinvestitionen erhöhen möchten, stimmen 47% zu, dass der Mangel an Datenliteracy eine der wichtigsten Barrieren ist. Dies unterstreicht die Notwendigkeit, eine Top-Unterstützung aufzubauen und die richtigen Fähigkeiten im gesamten Unternehmen zu entwickeln. Ohne diese Grundlagen werden sogar die leistungsstärksten LLMs Schwierigkeiten haben, zu liefern.

Entwicklung von AI, die verantwortlich gemacht werden kann

In der aktuellen regulatorischen Umgebung reicht es nicht mehr aus, dass AI “nur funktioniert”, sie muss auch verantwortlich und erklärbar sein. Der EU-AI-Akt und der vorgeschlagene AI-Aktionsplan des Vereinigten Königreichs erfordern Transparenz in Hochrisiko-AI-Anwendungsfällen. Andere folgen diesem Beispiel, und 1.000+ damit verbundene Gesetzesentwürfe stehen in 69 Ländern auf der Tagesordnung.

Diese globale Bewegung hin zu Verantwortlichkeit ist eine direkte Folge der zunehmenden Nachfrage von Verbrauchern und Stakeholdern nach Fairness in Algorithmen. Zum Beispiel müssen Organisationen in der Lage sein, die Gründe zu nennen, warum ein Kunde für ein Darlehen abgelehnt wurde oder warum er einen höheren Versicherungspreis zahlen muss. Um dies tun zu können, müssen sie wissen, wie das Modell diese Entscheidung getroffen hat, und das hängt wiederum davon ab, ob sie eine klare, auditable Spur der Daten haben, die zum Trainieren des Modells verwendet wurden.

Wenn es keine Erklärbarkeit gibt, riskieren Unternehmen, das Vertrauen der Kunden zu verlieren, und sie müssen mit finanziellen und rechtlichen Konsequenzen rechnen. Als Ergebnis ist die Rückverfolgbarkeit der Datenherkunft und die Rechtfertigung der Ergebnisse kein “nice to have”, sondern eine Compliance-Anforderung.

Und da GenAI über die Verwendung als einfache Werkzeuge hinausgeht und zu vollwertigen Agenten wird, die Entscheidungen treffen und entsprechend handeln können, steigen die Anforderungen an eine starke Datenverwaltung noch höher.

Schritte zur Erstellung vertrauenswürdiger AI

Was also sieht gut aus? Um GenAI verantwortungsvoll zu skalieren, sollten Organisationen eine einzelne Datenstrategie über drei Säulen annehmen:

• AI an das Geschäft anpassen: Katalogisieren Sie Ihre Daten um wichtige Geschäftsziele, stellen Sie sicher, dass sie den einzigartigen Kontext, Herausforderungen und Chancen Ihres Geschäfts widerspiegeln.
• Vertrauen in AI aufbauen: Legen Sie Richtlinien, Standards und Prozesse für Compliance und Überwachung der ethischen und verantwortungsvollen AI-Bereitstellung fest.
• AI-Datenbereite Pipelines aufbauen: Kombinieren Sie Ihre diversen Datenquellen zu einer widerstandsfähigen Datenbasis für robuste AI, indem Sie vorkonfigurierte GenAI-Connectivität einbauen.

Wenn Organisationen dies richtig machen, beschleunigt die Governance den AI-Wert. Im Finanzdienstleistungssektor zum Beispiel verwenden Hedgefonds GenAI, um menschliche Analysten bei der Vorhersage von Aktienkursen zu übertreffen, während sie gleichzeitig die Kosten erheblich senken. In der Fertigungsindustrie ermöglicht die durch AI getriebene Optimierung der Lieferkette es Organisationen, in Echtzeit auf geopolitische Veränderungen und Umweltdruck zu reagieren.

Und diese sind keine futuristischen Ideen, sie geschehen jetzt, getrieben durch vertrauenswürdige Daten.

Mit starken Datenfundamenten reduzieren Unternehmen das Modellrutschen, begrenzen die Neuschulungszyklen und erhöhen die Geschwindigkeit zum Wert. Deshalb ist die Governance kein Hindernis, sondern ein Innovationsbeschleuniger.

Was kommt als Nächstes?

Nach der Experimentierphase investieren Organisationen in transformationale Fähigkeiten. Von der Personalisierung von Kundeninteraktionen bis hin zur Beschleunigung der medizinischen Forschung, Verbesserung der psychischen Gesundheit und Vereinfachung regulatorischer Prozesse beginnt GenAI, sein Potenzial über Branchen hinweg zu demonstrieren.

Diese Gewinne hängen jedoch vollständig von den zugrunde liegenden Daten ab. GenAI beginnt mit dem Aufbau einer starken Datenbasis durch starke Datenverwaltung. Und während GenAI und agierende AI weiterentwickelt werden, werden sie die menschliche Aufsicht in absehbarer Zeit nicht ersetzen. Stattdessen treten wir in eine Phase des strukturierten Werteschaffens ein, in der AI ein zuverlässiger Co-Pilot wird. Mit den richtigen Investitionen in Datenqualität, Governance und Kultur können Unternehmen GenAI endlich von einem vielversprechenden Pilotprojekt in etwas verwandeln, das vollständig vom Boden abhebt.