Unternehmens‑KI hängt von Daten ab, denen Menschen vertrauen können

Im Jahr 2025 investierten Unternehmen schätzungsweise 30 bis 40 Milliarden US‑Dollar in generative KI, doch das MIT‑Projekt NANDA stellte fest, dass nur 5 % von mehr als 300 Unternehmens‑Implementierungen die es untersuchte messbare finanzielle Erträge erzielten.

Ich habe mehr als 25 Jahre in Unternehmens‑Datenprogrammen gearbeitet. Schon lange bevor generative KI ins Gespräch kam, sah ich, wie schnell Technologie an Glaubwürdigkeit verliert, wenn die Menschen den zugrunde liegenden Daten nicht vertrauen können. Generative KI erhöht die Einsatzbedingungen, weil sie fragwürdige Daten in eine selbstsichere Antwort verwandeln kann.

Früher sagte man ‚Garbage in, garbage out‘. Heute lautet es ‚Garbage in, disaster out‘. Wenn Daten verdächtig wirkten, konnte eine Person ihr Urteil einsetzen und einen Daten‑Spezialisten kontaktieren. Der Spezialist führte eine Ursachenanalyse durch, identifizierte das Problem und setzte eine Korrektur um. Heute können Agenten mit beliebigen Daten handeln, denen sie begegnen. Ohne fachkundige menschliche Aufsicht kann das Ergebnis Teil der Betriebsabläufe werden, in Entscheidungen verwendet und organisationsweit skaliert werden.

Dasselbe Problem kann in einem Chatbot auftreten. Übersprungene Governance kann schlechte oder unzureichend verstandene Daten in eine Antwort verwandeln, die autoritativ klingt, sofort und in großem Umfang.

Vertrauen ist das eigentliche Hindernis für die Einführung

Wenn ein interner Chatbot jemandem eine selbstsichere, aber falsche Antwort gibt, wird diese Person ihm nicht mehr vertrauen. In einer großen Organisation wird KI auch Daten finden, die Sie lieber nicht gefunden hätten. Ich vergleiche das mit schmutzigen Socken unter dem Bett: Diese Daten sind vielleicht nicht sichtbar, aber KI wird diese dunklen Daten finden und nutzen.

Der Kontext muss mit den Daten reisen und die Grundlage bilden, auf die LLMs zurückgreifen. Bevor ein KI‑Modell Daten nutzt, müssen die Menschen wissen, was sie bedeuten, woher sie stammen, wem sie gehören und welche Geschäftsregeln und Richtlinien sie umgeben.

Führungskräfte können das übersehen, weil das System selten abstürzt. KI kann selbstsicher falsch sein; sie kann zum Beispiel Leim für Ihre Pizza vorschlagen (ein sehr altes Beispiel). Stellen Sie sich einen Chatbot vor, der eine selbstsichere, aber falsche Antwort gibt, und die Belegschaft hört auf, ihm zu vertrauen. Das Wiedergewinnen dieses Vertrauens dauert deutlich länger, als die richtigen Kontrollen von Anfang an zu etablieren.

Dieser Vertrauensverlust zeigt sich auch in den Daten. Mitarbeitende in mehr als 90 % der Unternehmen die MIT untersuchte nutzen weiterhin persönliche KI‑Tools nebenbei, selbst nachdem der offizielle Pilot, den ihr Arbeitgeber aufgebaut hatte, ihr Vertrauen nicht gewonnen hat. Wenn das genehmigte Tool ihr Vertrauen nicht gewonnen hat, finden Mitarbeitende einen anderen Weg, die Arbeit zu erledigen.

Ein Großteil der diesjährigen KI‑Forschung weist auf dasselbe Problem hin: Organisationen treiben KI voran, bevor sie die Arbeit geleistet haben, ihre Daten vertrauenswürdig zu machen. Gartner schätzt, dass fast zwei Drittel der Organisationen entweder nicht über die richtigen Datenmanagement‑Praktiken für KI verfügen oder nicht sicher sind, ob sie diese besitzen. Separate Forschung von IDC hat eine ähnliche Lücke im Vertrauensbereich festgestellt: 78 % der Organisationen geben an, ihrer KI voll zu vertrauen, aber nur 40 % haben tatsächlich in Governance‑ und Erklärbarkeitsmaßnahmen investiert, die dieses Vertrauen rechtfertigen würden.

Die Diskrepanz zwischen Vertrauen und Investition erklärt, warum so viele KI‑Initiativen scheitern, bevor sie die Produktion erreichen, oder nicht den beabsichtigten Wert liefern.

KI‑Governance ist jetzt der Wettbewerbsvorteil

Für den größten Teil meiner Karriere war Daten‑Governance einer der wenigsten glamourösen Bereiche der Unternehmens‑IT. Das Katalogisieren von Metadaten, das Definieren von Eigentumsrechten, das Profilieren von Daten und das Verwalten von Workflows konnte sich wie Hausmeistertätigkeit anfühlen. Viele übersprangen es, weil der Aufwand größer erschien als der erzeugte Nutzen.

KI hat das verändert. Sie wird zu einer Governance‑Fähigkeit in Bereichen wie dem Entwerfen von Daten‑Blueprints, dem Erstellen branchenspezifischer Glossare sowie dem Empfehlen und Aktivieren von Datenrichtlinien. Selbst Datenherkunft kann jetzt schneller als zuvor erschlossen und optimiert werden, wodurch der Wert verwalteter Datenpipelines und Beobachtbarkeit leichter realisierbar wird.

Regulierung erhöht auch die Dringlichkeit von Daten‑Transparenz. Der EU AI Act wurde am 2. August 2026 allgemein anwendbar, einschließlich Transparenzregeln für bestimmte Systeme und KI‑generierte Inhalte. Das Gesetz legt zudem separate Anforderungen für hochriskante Systeme fest, einschließlich Dokumentation und Informationen, die Einsatzenden helfen, ihre Ausgaben zu interpretieren, obwohl einige hochriskante Bestimmungen später in Kraft treten.

Für Unternehmen lautet die praktische Lehre einfach: klare Herkunft und Governance erleichtern die Dokumentation, welche Daten verwendet wurden, woher sie stammen und wie das System betrieben werden soll.

Das regulatorische Bild in den USA bleibt unklar. Ohne ein umfassendes Bundes‑KI‑Gesetz müssen Unternehmen verschiedene staatliche Vorgaben navigieren, selbst während das Weiße Haus versucht, die Fähigkeit der Bundesstaaten zu beschränken, eigene KI‑Regeln zu schaffen und durchzusetzen. Der AI Act von Colorado, das umfassendste staatliche Rahmenwerk, wurde bereits einmal im Zuge dieses Kampfes verzögert und neu formuliert, wobei die Kernpflichten nun auf 2027 verschoben wurden. Für viele US‑Unternehmen ist die Versuchung groß, die Unsicherheit abzuwarten.

Ich würde argumentieren, dass das die falsche Instinktreaktion ist. Welches regulatorische Modell letztlich in den USA Erfolg hat, die zugrunde liegende Anforderung wird nicht verschwinden. Wissen, wo Ihre Daten herkommen. Wissen, ob jemand sie tatsächlich validiert hat, bevor die KI sie nutzt. Diese Disziplin jetzt zu entwickeln, wird Unternehmen helfen, sich auf neue Vorschriften vorzubereiten und vielversprechende KI‑Pilotprojekte in Werkzeuge zu verwandeln, die das Unternehmen mit Vertrauen einsetzen kann.

Was die 5 Prozent unterscheidet

Lassen Sie mich von einem Kunden erzählen. Das Hauptbuchteam musste jedes Mal, wenn eine Unstimmigkeit in den Büchern auftauchte, 300 separate Tabellenkalkulationen durchforsten. Dreihundert. Schließlich wurde dieses Chaos zu einem einzigen, governten Daten‑Asset umgebaut, mit den Berechnungen, Berichten und den zugrunde liegenden Daten, die zusammengefasst und im Vorfeld validiert wurden. Beim nächsten Auftreten eines Problems erforderte die Lösung nur einen Bruchteil des bisherigen Aufwands. Allein in diesem Prozess wurden etwa 750 Arbeitstage eingespart. Das entspricht mehreren Millionen Dollar an Kosteneinsparungen allein durch das Aufräumen.

Die Verbesserung ergab sich daraus, dass die richtigen Daten leicht zu finden und zuverlässig genug waren, um sie ohne Zweifel zu nutzen. Zusammenarbeit und Wiederverwendung machten das möglich. Vertrauenswürdige Datenprodukte können an Unternehmensstandards ausgerichtet, im Laufe der Zeit erweitert und aktualisiert, nach Vertrauenswürdigkeit bewertet und für den Wert verwaltet werden. Dieser Ansatz reduziert die Notwendigkeit, Hunderte oder Tausende von Produkten zu erstellen, die an einzelnen physischen Datenbanktabellen gebunden sind.

Starke Programme machen dieses Vertrauen sichtbar. In den Datenmarktplätzen, mit denen ich arbeite, können Assets je nach Qualität, Kuratierung, Nutzung und Eigentum als Gold, Silber oder Bronze klassifiziert werden. Ein Business‑User kann sehen, wie zuverlässig ein Asset ist, bevor er es nutzt. Diese Sichtbarkeit hilft den Menschen, das Rätselraten zu beenden, und erhöht die Bereitschaft, bereits vorhandene Daten wiederzuverwenden.

Die 95‑Prozent‑Zahl ist eine Warnung dafür, wie lässig viele Unternehmen die Daten hinter generativer KI behandelt haben. Die Unternehmen, die Fortschritte machen, geben den Menschen einen klaren Überblick darüber, wo ihre Daten herkommen, wie sie validiert wurden und ob sie für den Zweck geeignet sind. Nach Jahren, in denen Datenmanagement als Hintergrundarbeit galt, macht KI endlich ihren Wert sichtbar.