Unternehmens‑KI hängt von Daten ab, denen Menschen vertrauen können

Im Jahr 2025 investierten Unternehmen schätzungsweise 30 bis 40 Milliarden US‑Dollar in generative KI, doch das MIT‑Projekt NANDA stellte fest, dass nur 5 Prozent der mehr als 300 Enterprise‑Implementierungen die es untersuchte messbare finanzielle Erträge erzielten.

Ich habe mehr als 25 Jahre in Unternehmens‑Datenprogrammen gearbeitet. Schon lange bevor generative KI ins Gespräch kam, sah ich, wie schnell Technologie an Glaubwürdigkeit verlor, wenn Menschen den zugrunde liegenden Daten nicht vertrauen konnten. Generative KI erhöht das Risiko, weil sie fragwürdige Daten in eine überzeugende Antwort verwandeln kann.

Früher sagte man: Müll rein, Müll raus. Heute ist es Müll rein, Katastrophe raus. Wenn Daten verdächtig wirkten, konnte eine Person ihr Urteil einsetzen und einen Daten‑Spezialisten kontaktieren. Der Spezialist führte eine Ursachenanalyse durch, identifizierte das Problem und setzte eine Lösung um. Heute können Agenten mit beliebigen Daten, denen sie begegnen, handeln. Ohne fachkundige menschliche Aufsicht kann das Ergebnis Teil der Betriebsabläufe werden, in Entscheidungen verwendet und organisationsweit skaliert werden.

Dasselbe Problem kann in einem Chatbot auftreten. Übersprungene Governance kann schlechte oder unzureichend verstandene Daten in eine Antwort verwandeln, die autoritativ klingt, sofort und in großem Umfang.

Vertrauen ist das eigentliche Hindernis für die Einführung

Wenn ein interner Chatbot jemandem eine selbstsichere, aber falsche Antwort gibt, wird diese Person ihm nicht mehr vertrauen. In einer großen Organisation wird KI auch Daten finden, die Sie lieber nicht entdeckt haben würden. Ich vergleiche das mit schmutzigen Socken unter dem Bett: Diese Daten sind vielleicht nicht sichtbar, aber KI wird sie finden und nutzen.

Der Kontext muss mit den Daten reisen und die Grundlage bilden, auf die LLMs zurückgreifen. Bevor ein KI‑Modell Daten nutzt, müssen die Menschen wissen, was sie bedeuten, woher sie stammen, wem sie gehören und welche Geschäftsregeln und Richtlinien sie umgeben.

Führungskräfte können das übersehen, weil das System selten abstürzt. KI kann selbstsicher falsch sein; sie kann beispielsweise Klebstoff für Ihre Pizza vorschlagen (ein sehr altes Beispiel). Stellen Sie sich einen Chatbot vor, der eine selbstsichere, aber falsche Antwort gibt, und die Belegschaft verliert das Vertrauen. Das Wiederherstellen dieses Vertrauens dauert deutlich länger, als die richtigen Kontrollen von Anfang an einzurichten.

Diese Erosion zeigt sich auch in den Daten. Mitarbeitende in mehr als 90 Prozent der Unternehmen MIT untersuchte nutzen weiterhin persönliche KI‑Tools nebenbei, selbst nachdem der offizielle Pilot, den ihr Arbeitgeber aufgebaut hatte, ihr Vertrauen nicht gewinnen konnte. Wenn das genehmigte Tool ihr Vertrauen nicht gewonnen hat, finden Mitarbeitende einen anderen Weg, die Arbeit zu erledigen.

Ein Großteil der diesjährigen KI‑Forschung weist auf dasselbe Problem hin: Organisationen treiben KI voran, bevor sie die Arbeit geleistet haben, ihre Daten vertrauenswürdig zu machen. Gartner schätzt, dass fast zwei Drittel der Organisationen entweder nicht über die richtigen Daten‑Management‑Praktiken für KI verfügen oder nicht sicher sind, ob sie diese besitzen. Separate Forschung von IDC fand eine ähnliche Lücke im Vertrauensbereich: 78 Prozent der Organisationen geben an, ihrer KI voll zu vertrauen, aber nur 40 Prozent haben tatsächlich in Governance‑ und Erklärbarkeitsmaßnahmen investiert, die dieses Vertrauen rechtfertigen würden.

Die Diskrepanz zwischen Vertrauen und Investition erklärt, warum so viele KI‑Initiativen vor der Produktionsreife stagnieren oder nicht den beabsichtigten Nutzen erzielen.

KI‑Governance ist jetzt der Wettbewerbsvorteil

Während des größten Teils meiner Karriere war Daten‑Governance einer der wenigsten glamourösen Bereiche der Unternehmens‑IT. Das Katalogisieren von Metadaten,, das Definieren von Eigentumsrechten, das Profilieren von Daten und das Verwalten von Workflows konnte sich wie Hausmeistertätigkeit anfühlen. Viele übersprangen es, weil der Aufwand größer schien als der erzeugte Nutzen.

KI hat das verändert. Sie entwickelt sich zu einer Governance‑Fähigkeit in Bereichen wie dem Entwerfen von Daten‑Blueprints, dem Erstellen branchenspezifischer Glossare sowie dem Empfehlen und Aktivieren von Datenrichtlinien. Selbst Daten‑Lineage kann jetzt schneller als zuvor abgeleitet und optimiert werden, wodurch der Wert verwalteter Datenpipelines und Beobachtbarkeit leichter realisierbar wird.

Regulierung erhöht ebenfalls die Dringlichkeit von Datentransparenz. Der EU‑KI‑Act wurde am 2. August 2026 allgemein anwendbar, einschließlich Transparenzregeln für bestimmte Systeme und KI‑generierte Inhalte. Der Act legt zudem separate Anforderungen für Hochrisikosysteme fest, darunter Dokumentation und Informationen, die Deployern helfen, ihre Ausgaben zu interpretieren, obwohl einige Hochrisikobestimmungen später in Kraft treten.

Für Unternehmen lautet die praktische Lehre eindeutig: Klare Lineage und Governance erleichtern die Dokumentation, welche Daten verwendet wurden, woher sie stammen und wie das System funktionieren soll.

Das regulatorische Bild in den USA bleibt unklar. Ohne ein umfassendes Bundes‑KI‑Gesetz müssen Unternehmen verschiedene staatliche Vorgaben navigieren, selbst während das Weiße Haus versucht, die Befugnis der Bundesstaaten zur Schaffung und Durchsetzung eigener KI‑Regeln zu beschränken. Der KI‑Act von Colorado, das bislang umfassendste staatliche Rahmenwerk, wurde bereits einmal im Zuge dieses Kampfes verzögert und neu formuliert, wobei die Kernpflichten nun auf 2027 verschoben wurden. Für viele US‑Unternehmen ist die Versuchung groß, die Unsicherheit abzuwarten.

Ich würde argumentieren, dass das die falsche Instinkthandlung ist. Welches regulatorische Modell in den USA letztlich Erfolg hat, die grundlegende Anforderung wird nicht verschwinden. Wissen, wo Ihre Daten herkommen. Wissen, ob jemand sie tatsächlich validiert hat, bevor die KI sie nutzt. Diese Disziplin jetzt zu entwickeln, wird Unternehmen helfen, sich auf neue Vorschriften vorzubereiten und vielversprechende KI‑Pilotprojekte in Werkzeuge zu verwandeln, die das Unternehmen mit Vertrauen einsetzen kann.

Was die 5 Prozent unterscheidet

Lassen Sie mich von einem Kunden berichten. Das Hauptbuchteam musste jedes Mal, wenn eine Unstimmigkeit in den Büchern auftauchte, 300 separate Tabellenkalkulationen durchforsten. Dreihundert. Schließlich wurde dieses Chaos zu einem einzigen, governeten Daten‑Asset umgebaut, das die Berechnungen, Berichte und die zugrunde liegenden Daten zusammenfasste und im Vorfeld validierte. Beim nächsten Auftreten eines Problems erforderte die Lösung nur einen Bruchteil des bisherigen Aufwands. Allein in diesem Prozess wurden etwa 750 Arbeitstage eingespart – das entspricht mehreren Millionen Dollar an Kosteneinsparungen allein durch das Aufräumen.

Die Verbesserung resultierte daraus, die richtigen Daten leicht auffindbar und zuverlässig genug zu machen, um sie ohne Zweifel zu nutzen. Zusammenarbeit und Wiederverwendung ermöglichten das. Vertrauenswürdige Datenprodukte können an Unternehmensstandards ausgerichtet, im Laufe der Zeit erweitert und aktualisiert, nach Vertrauenswürdigkeit bewertet und für ihren Wert verwaltet werden. Dieser Ansatz reduziert die Notwendigkeit, Hunderte oder Tausende von Produkten zu erstellen, die an einzelne physische Datenbanktabellen gebunden sind.

Starke Programme machen dieses Vertrauen sichtbar. In den Daten‑Marktplätzen, mit denen ich arbeite, können Assets je nach Qualität, Kuratierung, Nutzung und Eigentum als Gold, Silber oder Bronze klassifiziert werden. Ein Business‑User kann sehen, wie zuverlässig ein Asset ist, bevor er es verwendet. Diese Transparenz hilft den Menschen, das Rätselraten zu beenden, und erhöht die Bereitschaft, bereits vorhandene Daten wiederzuverwenden.

Die 95‑Prozent‑Zahl ist eine Warnung dafür, wie nachlässig viele Unternehmen die Daten hinter generativer KI behandelt haben. Die Organisationen, die Fortschritte erzielen, geben den Menschen einen klaren Überblick darüber, wo ihre Daten herkommen, wie sie validiert wurden und ob sie für den jeweiligen Zweck geeignet sind. Nach Jahren, in denen Datenmanagement als Hintergrundarbeit galt, macht KI endlich ihren Wert sichtbar.