Vordenker
Warum Unternehmen ihre KI-Governance an Werten ausrichten sollten

Wichtige PunkteEin wertebasiertes KI-Governance-Rahmenwerk ermöglicht es Unternehmen, global zu…
Mehr anzeigen
- Ein wertebasiertes KI-Governance-Rahmenwerk ermöglicht es Unternehmen, global zu agieren, ohne Systeme für jede Rechtsordnung neu aufbauen zu müssen.
- Die Übernahme von sechs Schlüsselwerten wie Rechenschaftspflicht und Fairness stärkt das öffentliche Vertrauen und erfüllt höchste ethische Standards.
- Eine robuste KI-Governance schafft Geschäftswert, indem sie schnellere Markteintritte ermöglicht und Risiken über mehrere Regionen hinweg reduziert.
Im September 2025 kamen erstmals alle Mitgliedstaaten der Vereinten Nationen zusammen, um über internationale KI-Governance zu beraten. Viele waren im Februar erneut beim AI Impact Summit in Delhi vertreten. Die Veranstaltung führte zur Gründung zweier neuer Gremien für KI-Governance, war aber bestenfalls ein symbolischer Erfolg.
Die neuen Mechanismen der UN wurden darauf ausgelegt, Konsens zu erzielen. Deshalb meiden sie umstrittene Bereiche wie die militärische Nutzung von KI und verfügen weder über klare Finanzierungsquellen noch über Durchsetzungsbefugnisse. Erfahrene Beobachter dürfte das nicht überraschen. Den heutigen UN fehlt die Fähigkeit, schnell zu handeln oder die allgemeine Befolgung ihrer Beschlüsse sicherzustellen. Damit sind sie ein schwieriges Forum, um echte Veränderungen zu bewirken.
Das entspricht einem bekannten Muster. Trotz jahrelanger, verstreuter Versuche, Konsens über KI-Regulierung herzustellen, kamen keine bedeutenden internationalen Vereinbarungen zustande. Es entstand ein Vakuum, in dem einzelne Länder und Staatenblöcke eigene Regeln entwickeln mussten. Wirksame KI-Governance ist jedoch entscheidend, wenn KI breit eingesetzt werden, das Vertrauen der Öffentlichkeit gewinnen und dauerhaften gesellschaftlichen und wirtschaftlichen Nutzen bringen soll
Notlösungen und ständiges Nachbessern
Für globale Unternehmen, die KI-Systeme entwickeln und betreiben, ist das Fehlen gemeinsamer, vereinbarter Governance-Mechanismen ein Problem. Sie wollen ihre Systeme weltweit einsetzen, doch keine zwei Rechtsordnungen folgen genau denselben Regeln. Deshalb müssen sie zunächst einen allgemeinen Governance-Rahmen für ihr System schaffen und ihn anschließend in jedem Land, in dem sie tätig sind, von Grund auf neu aufbauen, um die örtlichen Gesetze und Vorschriften einzuhalten. Das verursacht enormen Zusatzaufwand, verteuert KI-Initiativen, erhöht das Risiko von Verzögerungen und schwächt die Fähigkeit globaler Unternehmen, Skaleneffekte zu erzielen und wirksame Werkzeuge für Nutzer überall bereitzustellen.
Es gibt allerdings eine Alternative. Für Unternehmen, die ihren Ansatz vereinfachen wollen, ist ein KI-Governance-Rahmen möglicherweise die beste Wahl, der gemeinsame ethische Grundsätze der unterschiedlichen Regionen berücksichtigt und überall hohe Standards zum Schutz persönlicher Freiheit, Privatsphäre und Sicherheit gewährleistet. Damit können KI-Unternehmen das öffentliche Vertrauen in ihre Technologie stärken, ihre Kundenbasis ausbauen und den möglichen gesellschaftlichen Nutzen der KI erschließen.
Sechs zentrale Werte für KI-Governance
Organisationen, die ihre KI-Governance an Werten ausrichten möchten, würde ich die sechs zentralen Werte empfehlen, denen wir folgen: Rechenschaftspflicht, Erklärbarkeit, Transparenz, Fairness, Sicherheit und Anfechtbarkeit von Entscheidungen.
Wir haben diese Werte gewählt, weil sie alle wesentlichen Bereiche des Lebenszyklus eines KI-Systems abdecken und bereits in verschiedenen internationalen und nationalen KI-Standards verankert sind, etwa im Standard der Internationalen Organisation für Normung ISO/IEC 42001 und im Handbuch für künstliche Intelligenz der britischen Regierung.
Beginnen wir mit der Rechenschaftspflicht: Sie bedeutet, in jeder Phase des KI-Lebenszyklus zu wissen, wer wofür verantwortlich ist. Ohne klare Zuständigkeiten können entscheidende Kontrollen entfallen, weil keine Person oder kein Team die letzte Verantwortung trägt. Organisationen sollten für KI-Systeme und wichtige Phasen namentlich benannte Führungskräfte einsetzen, etwa ihren Chief AI Officer. Sie sollten ein risikobasiertes Governance-Modell nutzen und Werkzeuge von Drittanbietern ebenso gründlich prüfen wie intern entwickelte Werkzeuge. Das heißt, die Bedingungen, Einschränkungen und Haftungsverpflichtungen der Anbieter genauso gut zu verstehen wie die eigenen Systeme.
Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung, OECD, bringt dies in ihren Leitlinien zur Stärkung der Rechenschaftspflicht bei KI gut zum Ausdruck. Sie empfiehlt Organisationen, „Mechanismen zu schaffen, um den KI-Risikomanagementprozess in die umfassendere Organisationsführung einzubetten und eine Kultur des Risikomanagements sowohl innerhalb von Organisationen als auch entlang der gesamten KI-Wertschöpfungskette zu fördern“.
Als Nächstes folgt Erklärbarkeit. Organisationen sollten zeigen können, wie ein KI-System zu einer Entscheidung gelangt. Dafür sind Mechanismen zur Dokumentation und Nachverfolgung der Entscheidungsfindung sowie klare Aufzeichnungen über Systemdesign, Trainingsdaten und Entscheidungsprozesse nötig. Gemeinsam ermöglichen sie Teams, Herkunft und Weg der Informationen von der Entstehung eines Systems bis zu seinem Einsatz zu verstehen.
Fairness soll gewährleisten, dass KI-Systeme gerechte Ergebnisse liefern und bestehende Vorurteile weder reproduzieren noch verstärken. Ohne gezielte Kontrollen können verzerrte Ergebnisse Schäden verursachen, besonders in folgenreichen Bereichen wie Personalgewinnung, Gesundheitsversorgung und Strafjustiz. Um dies zu begrenzen, sollten Organisationen Maßnahmen zur Erkennung von Verzerrungen einführen, Ergebnisse für relevante Gruppen regelmäßig prüfen und Governance-Rahmen entwickeln, die örtliche Anforderungen an Nichtdiskriminierung berücksichtigen. In der Praxis bedeutet dies, Systeme so zu bauen, dass sie den höchsten rechtlichen Standards entsprechen, denen sie voraussichtlich begegnen werden. Dazu gehören Verpflichtungen aus dem britischen Equality Act 2010 und der EU-Grundrechtecharta.
Transparenz schafft Klarheit für Nutzer und Aufsichtsbehörden. Menschen sollten verstehen, wann KI eingesetzt wird, welche Rolle sie bei Entscheidungen spielt und auf welche Daten sie sich stützt. Ein praktischer Ausgangspunkt ist die Standardisierung der Dokumentation von KI-Systemen, unterstützt durch interne Werkzeuge wie Modellkarten. Das sind kurze Begleitdokumente zu Modellen des maschinellen Lernens, die den vorgesehenen Nutzungskontext, Einzelheiten der Verfahren zur Leistungsbewertung und weitere relevante Informationen erläutern. Ohne Transparenz können Nutzer ungerechte Ergebnisse nicht anfechten, Aufsichtsbehörden nicht wirksam eingreifen und schädliche Auswirkungen verborgen bleiben.
Sicherheit schützt KI-Systeme vor unbefugtem Zugriff, Manipulation und unbeabsichtigtem Verhalten. Schwache Sicherheit kann Organisationen, Nutzer und ihre Daten gefährden und finanzielle sowie Rufschäden verursachen. Organisationen sollten Schwellenwerte für Leistung und Genauigkeit festlegen, Systeme unter realistischen Bedingungen Stresstests unterziehen und Red-Team-Tests zur Erkennung von Schwachstellen einsetzen.
Schließlich gewährleistet Anfechtbarkeit einen klaren, zugänglichen Weg, KI-gestützte Entscheidungen anzufechten oder dagegen Beschwerde einzulegen. Ohne sie haben betroffene Nutzer keine Abhilfemöglichkeit, und Probleme werden womöglich nie aufgedeckt oder gelöst. Organisationen sollten Meldemöglichkeiten direkt am Ort der Nutzung anbieten, Führungskräfte mit der Bearbeitung von Beschwerden betrauen und sicherstellen, dass Systeme bei Bedarf angehalten, überprüft oder aktualisiert werden können.
Welche Vorteile bietet ein wertebasierter Rahmen?
Für diesen wertebasierten Ansatz der KI-Governance sprechen zwei gewichtige Gründe. Erstens tragen Entwickler und Betreiber von KI-Systemen ethische Verantwortung gegenüber den Menschen und Organisationen, die von diesen Systemen betroffen sind. Zweitens ist dies ein wirksamerer Weg, die versprochenen Vorteile der KI praktisch zu verwirklichen.
Nutzer von KI-Systemen, Unternehmen wie Einzelpersonen, vertrauen implizit darauf, dass die Entwickler personenbezogene Daten nicht missbrauchen und sie keinen unnötigen Risiken aussetzen. Wird dieses Vertrauen gebrochen, lassen sich Nutzer nur schwer halten. Letztlich akzeptieren Menschen die Einführung der Systeme nur, wenn beide Bedingungen erfüllt sind: Sie vertrauen den Systemen und erkennen deren klaren Nutzen. Andernfalls nehmen gesellschaftliche und wirtschaftliche Spaltungen zu, und viele Chancen dieser Technologie bleiben ungenutzt.
Unternehmen, die dagegen überall einen wertebasierten Rahmen anwenden, auch in Regionen mit weniger strengen Governance-Anforderungen, können Kunden, Investoren und Aufsichtsbehörden zeigen, dass sie höhere Maßstäbe an sich anlegen, als die grundlegende Regelbefolgung verlangt. Das schafft Vertrauen, Beteiligung und letztlich geschäftlichen Erfolg.
Starke KI-Governance schafft Wert und ist keine Compliance-Last. Sie ermöglicht es, neue Produkte schneller auf den Markt zu bringen, Risiken zu verringern und Lösungen zuversichtlich auf mehrere Märkte auszuweiten.
Der McKinsey-Bericht „Der Stand der KI“ kommt zu dem Ergebnis, dass „die Aufsicht des CEO über die KI-Governance … zu den Faktoren gehört, die am stärksten mit einem höheren, von der Organisation selbst berichteten Einfluss ihres Einsatzes generativer KI auf das Nettoergebnis korrelieren“, was die wirtschaftlichen Vorteile dieses Ansatzes unterstreicht. Insofern ist die Verankerung starker ethischer Rahmen in KI-Systemen Ausdruck aufgeklärten Eigeninteresses.
Darüber hinaus ist es schlicht das Richtige. Wir haben unsere globale Richtlinie für ethische KI auf denselben Grundsatz gestützt: Fortschrittliche Technologien müssen Menschen und Gesellschaft dienen, nicht umgekehrt. Dies spiegelt die umfassendere Vision der Gesellschaft 5.0 wider, eines menschenzentrierten Innovationsmodells, das wirtschaftlichen Fortschritt mit der Lösung gesellschaftlicher Herausforderungen verbinden will.
Wenn neue Technologien wie KI zu einer glücklicheren, harmonischeren Gesellschaft beitragen sollen, müssen sie auf starken ethischen Grundlagen beruhen. Das beginnt mit dem Blick nicht nur auf Standards, die Organisationen erfüllen müssen, sondern auch auf diejenigen, die sie erreichen möchten.












