Warum Unternehmen einem wertebasierten Ansatz für die KI-Governance folgen sollten

Im September 2025 kamen alle Mitgliedstaaten der Vereinten Nationen zum ersten Mal zusammen, um die internationale KI-Governance zu diskutieren; viele waren im Februar auf dem AI Impact Summit in Delhi erneut vertreten. Die Veranstaltung führte zur Gründung zweier neuer Gremien, die sich mit der KI-Governance befassen; aber es war bestenfalls ein symbolischer Erfolg.

Die neuen Mechanismen der UN waren darauf ausgelegt, einen Konsens zu erzielen: sie vermeiden umstrittene Bereiche wie die militärische Nutzung von KI und verfügen über keine klaren Finanzierungsquellen und keine Durchsetzungsmechanismen. Dies sollte für erfahrene Beobachter keine Überraschung sein. Die heutige UN verfügt nicht über die Fähigkeit, schnell zu handeln oder die universelle Einhaltung ihrer Entscheidungen zu gewährleisten, was es zu einem schwierigen Forum macht, um echte Veränderungen herbeizuführen.

Das passt zu einem etablierten Muster. Trotz jahrelanger vereinzelter Versuche, einen Konsens über KI-Regulierungen aufzubauen, gab es keine bedeutenden internationalen Vereinbarungen, was ein Vakuum geschaffen hat, in dem einzelne Länder und Blöcke gezwungen waren, ihre eigenen Regeln zu entwickeln. Doch die effektive Governance von KI ist entscheidend, wenn wir sehen möchten, dass sie weit verbreitet ist, vom Publikum vertraut wird und auf eine Weise eingesetzt wird, die dauerhafte soziale und wirtschaftliche Vorteile bringt.

Machen und flicken

Für globale Unternehmen, die KI-Systeme aufbauen und betreiben, ist das Fehlen gemeinsamer, vereinbarter Governance-Mechanismen problematisch. Sie möchten KI-Systeme auf der ganzen Welt einsetzen, aber keine zwei Rechtsordnungen halten sich an dieselben Regeln. Stattdessen sind sie gezwungen, einen generischen Governance-Rahmen um ihr System herum zu erstellen und ihn dann in jedem Land, in dem sie tätig sind, von Grund auf neu aufzubauen, um sicherzustellen, dass er den lokalen Gesetzen und Vorschriften entspricht. Dieser Ansatz schafft eine enorme Menge an zusätzlicher Arbeit, macht KI-Initiativen teurer und anfälliger für Verzögerungen und schwächt die Fähigkeit globaler Unternehmen, Skaleneffekte zu nutzen und effektive Tools mit Benutzern überall zu teilen.

Es gibt jedoch eine Alternative. Für Unternehmen, die ihren Ansatz straffen möchten, kann die beste Option darin bestehen, einen KI-Governance-Rahmen aufzubauen, der gemeinsame ethische Prinzipien in verschiedenen Regionen berücksichtigt, um sicherzustellen, dass sie überall hohe Standards in Bezug auf den Schutz der Freiheit, Privatsphäre und Sicherheit von Personen einhalten. Diese Technik stellt einen leistungsstarken Weg für KI-Unternehmen dar, um das Vertrauen der Öffentlichkeit in ihre Technologie zu erhöhen, ihre Kundenbasis zu stärken und die potenziellen Vorteile von KI für die Gesellschaft zu nutzen.

Sechs Schlüsselwerte für die KI-Governance

Für jede Organisation, die einen wertebasierten Ansatz für die KI-Governance verfolgen möchte, würde ich empfehlen, die sechs Schlüsselwerte zu verwenden, die wir verfolgen: Rechenschaftspflicht, Erklärbarkeit, Transparenz, Fairness, Sicherheit und Anfechtbarkeit.

Wir haben diese Werte ausgewählt, weil sie alle wichtigen Bereiche des KI-Systemlebenszyklus abdecken und weil sie bereits in verschiedenen internationalen und nationalen Standards im Zusammenhang mit KI kodifiziert wurden, wie z.B. der Internationalen Organisation für Normung (ISO/IEC 42001) und dem Artificial Intelligence Playbook für die britische Regierung.

Zunächst bedeutet Rechenschaftspflicht, zu wissen, wer für was verantwortlich ist, in jeder Phase des KI-Lebenszyklus. Ohne klare Verantwortung können wichtige Kontrollen weggelassen werden, weil keine Person oder kein Team die endgültige Verantwortung trägt. Unternehmen sollten senior, benannte Eigentümer – wie ihren Chief AI Officer – KI-Systemen und wichtigen Phasen zuweisen und ein risikobasiertes Governance-Modell verwenden, das dieselbe Prüfung auf Drittanbieter-Tools wie auf selbst entwickelte Tools anwendet. Dies bedeutet, dass man die Lieferbedingungen, Einschränkungen und Haftungen genauso gut versteht wie die eigenen Systeme.

Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) fasst dies gut in ihrer Richtlinie zur Förderung der Rechenschaftspflicht in der KI zusammen, die empfiehlt, dass Unternehmen “Mechanismen schaffen, um den KI-Risikomanagementprozess in die breitere Unternehmensgovernance zu integrieren und eine Kultur des Risikomanagements innerhalb von Unternehmen und entlang der gesamten KI-Wertschöpfungskette zu fördern”.

Als nächstes kommt die Erklärbarkeit. Unternehmen sollten in der Lage sein, zu zeigen, wie ein KI-System eine Entscheidung trifft. Dazu sind Mechanismen erforderlich, um die Entscheidungsfindung zu dokumentieren und zu verfolgen, sowie klare Aufzeichnungen über das Systemdesign, die Trainingsdaten und die Entscheidungsprozesse. Wenn man diese zusammen nimmt, kann man die Herkunft der Informationen von der Systementstehung bis zur Bereitstellung verstehen.

Fairness konzentriert sich darauf, sicherzustellen, dass KI-Systeme faire Ergebnisse produzieren und keine bestehenden Vorurteile replizieren oder verstärken. Ohne bewusste Kontrollen können Systeme Schaden anrichten, indem sie verzerrte Ergebnisse liefern – ein besonderes Problem in Bereichen mit hohem Einfluss wie Rekrutierung, Gesundheitswesen und Strafjustiz. Um dies zu vermeiden, sollten Unternehmen Bias-Erkennungsmaßnahmen implementieren, Ausgaben regelmäßig über relevante Gruppen hinweg überprüfen und Governance-Rahmen entwerfen, die lokale Nichtdiskriminierungsanforderungen berücksichtigen können. In der Praxis bedeutet dies, Systeme zu erstellen, die den höchsten rechtlichen Standard erfüllen, dem sie wahrscheinlich begegnen werden, einschließlich der Verpflichtungen nach Gesetzen wie dem britischen Equality Act 2010 und der EU-Charta der Grundrechte.

Transparenz geht darum, sowohl den Benutzern als auch den Regulierungsbehörden Klarheit zu verschaffen. Die Menschen sollten verstehen, wenn KI verwendet wird, welche Rolle sie bei der Entscheidungsfindung spielt und welche Daten sie untermauert. Ein praktischer Ausgangspunkt ist, die Dokumentation über KI-Systeme hinweg zu standardisieren, unterstützt durch interne Tools wie Modellkarten: kurze Dokumente, die mit maschinellen Lernalgorithmen bereitgestellt werden, um den Kontext zu erklären, in dem die Modelle verwendet werden sollen, Details der Leistungsbeurteilungsverfahren und andere relevante Informationen. Ohne Transparenz können Benutzer ungerechte Ergebnisse nicht anfechten, Regulierungsbehörden können nicht effektiv eingreifen und schädliche Auswirkungen können unter den Teppich gekehrt werden.

Sicherheit beinhaltet den Schutz von KI-Systemen vor unbefugtem Zugriff, Manipulation oder ungewolltem Verhalten. Wenn die Sicherheit schwach ist, können KI-Systeme Unternehmen, Benutzer und ihre Daten gefährden und sie finanziellen und reputationsbedingten Schaden aussetzen. Unternehmen sollten Leistungs- und Genauigkeitsgrenzwerte definieren, Systeme unter realistischen Bedingungen testen und Red-Team-Tests einsetzen, um Schwachstellen zu identifizieren.

Schließlich stellt die Anfechtbarkeit sicher, dass Menschen eine klare und zugängliche Möglichkeit haben, KI-getriebene Entscheidungen anzufechten oder zu beanstanden. Ohne sie haben betroffene Benutzer keine Abhilfe und Probleme können nie an die Oberfläche kommen oder gelöst werden. Unternehmen sollten Berichtskanäle am Ort der Nutzung bereitstellen, senior Eigentümer zur Bearbeitung von Beschwerden zuweisen und sicherstellen, dass Systeme pausiert, überprüft oder aktualisiert werden können, wenn erforderlich.

Was sind die Vorteile eines wertbasierten Rahmens?

Es gibt zwei leistungsstarke Gründe, um einen wertbasierten Ansatz für die KI-Governance zu verfolgen. Erstens, weil diejenigen, die KI-Systeme aufbauen und einsetzen, eine ethische Verantwortung gegenüber den Menschen und Organisationen haben, die von ihnen betroffen sind; und zweitens, weil dies ein effektiverer Weg ist, um die versprochenen Vorteile von KI in der Praxis zu realisieren.

Benutzer von KI-Systemen, sowohl Unternehmen als auch Einzelpersonen, vertrauen implizit den Erstellern, dass sie personenbezogene Daten nicht missbrauchen oder sie nicht unnötigen Risiken aussetzen. Wenn Unternehmen dieses Vertrauen brechen, wird es sehr schwierig für sie, diese Benutzer zu behalten. Letztendlich werden die Menschen, wenn sie KI-Systeme nicht vertrauen oder die klaren Vorteile, die sie bieten, nicht sehen, nicht mit ihrer Einführung einverstanden sein. Dies wird zu mehr sozialer und wirtschaftlicher Spaltung führen und wir werden viele der Chancen, die diese Technologie bietet, verpassen.

Andererseits können Unternehmen, die einen wertbasierten Rahmen überall anwenden – einschließlich in Regionen mit weniger strengen Governance-Anforderungen – ihren Kunden, Investoren und Regulierungsbehörden demonstrieren, dass sie sich selbst einem höheren Standard als den grundlegenden Compliance-Anforderungen unterwerfen. Dies schafft Vertrauen, Engagement und letztendlich Geschäftserfolg.

Starke KI-Governance ist ein Wertschöpfer, kein Compliance-Burden. Sie ermöglicht es Unternehmen, neue Produkte schneller auf den Markt zu bringen, ihr Risiko zu reduzieren und ihre Lösungen mit Zuversicht über mehrere Märkte hinweg zu skalieren.

Der McKinsey-Bericht “Der Zustand der KI” fand heraus, dass “die Überwachung der KI-Governance durch den CEO… ein Element ist, das am meisten mit einem höheren Selbstbericht über die Auswirkungen auf die Unternehmensleistung durch die Nutzung von KI zusammenhängt”, was die kommerziellen Vorteile eines solchen Ansatzes unterstreicht. In diesem Zusammenhang stellt die Einbindung starker ethischer Rahmenbedingungen in KI-Systeme ein aufgeklärtes Eigeninteresse dar.

Darüber hinaus ist es einfach das Richtige zu tun. Wir haben unsere globale ethische KI-Richtlinie um den gleichen Grundsatz herum aufgebaut: dass fortschrittliche Technologien den Menschen und der Gesellschaft dienen müssen, nicht umgekehrt. Dies spiegelt die umfassendere Vision von Society 5.0 wider: ein menschenzentrierter Innovationsmodell, das darauf abzielt, wirtschaftlichen Fortschritt mit der Lösung sozialer Herausforderungen zu verbinden.

Wenn aufkommende Technologien wie KI eine glücklichere, harmonischere Gesellschaft fördern sollen, müssen sie auf starken ethischen Grundlagen aufbauen. Dies beginnt mit der Konzentration nicht nur auf die Standards, die Organisationen erfüllen müssen, sondern auch auf die Standards, die sie erreichen möchten.