Ist Minimierung der beste Ansatz für die KI-Governance?

Wenn Unternehmen künstliche Intelligenz (KI) in ihre Geschäftsabläufe integrieren, benötigen sie klare Wege, um die mit ihrer Entwicklung und Nutzung verbundenen Risiken zu bewältigen. Eine wirksame Governance sorgt für Aufsicht, doch komplexe Verfahren können Ressourcen binden und die Umsetzung verlangsamen. Minimierung bietet die Möglichkeit, Governance verhältnismäßiger zu gestalten, indem die unnötige Datennutzung begrenzt wird, während Rechenschaftspflicht und Schutzmaßnahmen erhalten bleiben.

Warum KI-Governance wichtig ist

KI-Governance legt die Richtlinien, Zuständigkeiten und Aufsichtsmechanismen fest, die bestimmen, wie Unternehmen KI-Systeme entwickeln, einsetzen und nutzen. Sie hilft Unternehmen, Risiken zu erkennen, Entscheidungsbefugnisse zuzuweisen und Verfahren zur Überwachung der Leistung und zur Behebung von Problemen einzurichten.

Bei der Einführung von KI müssen Unternehmen verschiedene Risiken berücksichtigen, darunter Datenschutzverletzungen, Sicherheitslücken, voreingenommene Ergebnisse, ungenaue Ausgaben und begrenzte Transparenz. Ohne angemessene Kontrollen können durch KI generierte Entscheidungen Kunden, Beschäftigte und andere Interessengruppen auf eine Weise beeinträchtigen, die sich nur schwer korrigieren lässt. Governance hilft Unternehmen außerdem, geltende rechtliche Anforderungen zu erfüllen und den Einsatz von KI an den Geschäftszielen auszurichten.

Die International Association of Privacy Professionals berichtete, dass 77 % der befragten Organisationen 2025 an der KI-Governance arbeiteten. Dieser Befund weist auf erhebliche Aufmerksamkeit seitens der Unternehmen für das Thema hin. Die Arbeit an Governance bedeutet jedoch nicht zwangsläufig, dass ein Unternehmen seinen Rahmen abgeschlossen oder vollständig umgesetzt hat.

Klare Zuständigkeiten und kontinuierliche Überwachung helfen Unternehmen, neu auftretende Probleme zu erkennen, unerwartete Ergebnisse zu untersuchen und Kontrollen anzupassen, wenn sich Systeme verändern. Eine wirksame Governance kann außerdem das Vertrauen der Interessengruppen stärken, indem sie zeigt, dass ein Unternehmen die Auswirkungen des KI-Einsatzes berücksichtigt und für seine Entscheidungen rechenschaftspflichtig bleibt.

Herausforderungen der KI-Governance

Governance hilft Unternehmen zwar, KI-Risiken zu bewältigen, doch eine wirksame Aufsicht einzurichten und aufrechtzuerhalten kann schwierig sein. Um den Umfang der Aufsicht festzulegen, müssen Unternehmen bestimmen, welche KI-Systeme, Aktivitäten und Abhängigkeiten Governance erfordern. 

Um den Umfang der KI-Governance klar festzulegen, können sich Unternehmen an ISO/IEC 42001 orientieren. Die Norm enthält Anforderungen für die Einrichtung und Aufrechterhaltung eines KI-Managementsystems. Die Einhaltung kann die Modellleistung verbessern und so eine schnellere und sicherere KI ermöglichen. Sie hilft Unternehmen außerdem zu bestimmen, welche Teile ihrer Betriebsabläufe in den Geltungsbereich ihres KI-Managementsystems fallen. Diese Normen berücksichtigen die geografische Reichweite, Verbindungen zu anderen Systemen und den Umfang der KI-Aktivitäten. 

Zu den weiteren zentralen Herausforderungen gehören:

• Komplexität von KI-Systemen: KI-Anwendungen können auf miteinander verknüpfte Modelle, Datensätze, Drittanbieter-Tools und automatisierte Entscheidungen zurückgreifen. Diese Abhängigkeiten können es erschweren, Ergebnisse nachzuverfolgen, Schwachstellen zu erkennen und festzustellen, wo Kontrollen erforderlich sind.
• Datenschutz und Sicherheit: Unternehmen müssen sensible Informationen während der gesamten Datenerhebung, des Modelltrainings, der Bereitstellung und der laufenden Nutzung schützen. 
• Verzerrungen und begrenzte Transparenz: Nicht repräsentative Trainingsdaten können zu unfairen Ergebnissen beitragen, während intransparente Modellverhaltensweisen es erschweren können, Entscheidungen zu erklären, zu bewerten oder anzufechten.
• Sich wandelnde Vorschriften und Standards: Unternehmen, die in mehreren Rechtsräumen tätig sind, können mit unterschiedlichen oder sich ändernden rechtlichen Anforderungen konfrontiert sein. Governance-Prozesse müssen einschlägige Verpflichtungen berücksichtigen, ohne unnötige Doppelarbeit zu verursachen.
• Ressourcen- und betriebliche Einschränkungen: Fachkenntnisse, Dokumentation, Prüfungen und kontinuierliche Überwachung erfordern Zeit und finanzielle Mittel. 
• Das richtige Maß zwischen Aufsicht und Innovation: Übermäßige Genehmigungsanforderungen können Projekte verzögern, während unzureichende Kontrollen dazu führen können, dass erhebliche Risiken unbeachtet bleiben.

Diese Herausforderungen zeigen, wie wichtig es ist, unnötige Komplexität zu verringern. Eine Minimierung der Governance muss jedoch auch Kontrollen umfassen, die Menschen und Informationen schützen und die Rechenschaftspflicht des Unternehmens sicherstellen.

So stellte der New York State Comptroller fest, dass die Behörden der Stadt New York bei der Aufsicht über KI uneinheitlich vorgingen; einigen fehlten Richtlinien zur Bewertung von Verzerrungen und Genauigkeit. Die Ergebnisse zeigen, dass eine Verringerung der Komplexität klare und einheitliche Governance-Standards erfordert, um die Rechenschaftspflicht zu gewährleisten. 

Was Minimierung in der KI-Governance bedeutet

Bei der Minimierung in der KI-Governance geht es darum, unnötige Datennutzung und Verwaltungsaufwand zu verringern und zugleich die Maßnahmen beizubehalten, die zur Bewältigung von Risiken erforderlich sind. Sie umfasst zwei zentrale Dimensionen: Datenminimierung und Governance-Minimierung. Beide zielen darauf ab, KI-Praktiken in ein angemesseneres Verhältnis zu ihrem Zweck und ihren potenziellen Auswirkungen zu bringen.

Datenminimierung

Datenminimierung beschränkt die Erhebung, Speicherung, Verarbeitung und Weitergabe von Informationen auf das, was ein KI-System für einen festgelegten Zweck benötigt. Organisationen können diesen Grundsatz umsetzen, indem sie den Zugriff auf sensible Informationen beschränken und, sofern angemessen, anonymisierte oder synthetische Daten verwenden.

Die Verringerung unnötiger Daten kann den Eingriff in die Privatsphäre begrenzen und die Menge an Informationen reduzieren, die Organisationen schützen müssen. Datenminimierung erfordert jedoch sorgfältige Abwägungen. Werden relevante Informationen entfernt, kann dies die Modellgenauigkeit beeinträchtigen, die Repräsentation verschiedener Gruppen verringern oder es erschweren, verzerrte Ergebnisse zu erkennen. Organisationen müssen bestimmen, welche Daten erforderlich sind, um den beabsichtigten Zweck zu erreichen und zuverlässige, faire Ergebnisse zu erzielen.

Verschlankung der Governance

Bei der Verschlankung der Governance geht es darum, Aufsichtsprozesse effizienter zu gestalten. Organisationen können sich überschneidende Prüfungen zusammenführen und Bewertungen, wo sinnvoll, wiederverwenden. Außerdem können sie Zuständigkeiten für Entscheidungen klarer festlegen und Genehmigungsebenen abschaffen, die keinen nennenswerten zusätzlichen Risikoschutz bieten.

Diese Änderungen tragen dazu bei, Verwaltungskosten und Verzögerungen zu verringern und zugleich die Zuständigkeiten der Teams klarer zu regeln. Die Verschlankung der Governance sollte jedoch weder unverzichtbare Dokumentation noch unabhängige Prüfungen, menschliche Aufsicht oder verpflichtende Kontrollen abschaffen. Ziel ist es, die Aufsicht effizienter zu gestalten und gleichzeitig die Rechenschaftspflicht zu wahren.

Strategien zur Verschlankung der KI-Governance

Ein Ansatz zur Verschlankung kann die KI-Governance effizienter machen, wenn Organisationen Datenpraktiken und Aufsichtsanforderungen auf die Risiken des jeweiligen Anwendungsfalls abstimmen. Verschiedene Maßnahmen können unnötige Komplexität verringern und zugleich Rechenschaftspflicht, zuverlässige Leistung und angemessene Schutzvorkehrungen gewährleisten.

Einen risikobasierten Ansatz verfolgen

Organisationen können KI-Systeme nach ihrem vorgesehenen Einsatz, ihren potenziellen Auswirkungen und der Sensibilität der verarbeiteten Daten einordnen. Das AI Risk Management Framework des National Institute of Standards and Technology bietet einen Rahmen für das Management von KI-Risiken anhand von vier Funktionen, zu denen Govern, Map, Measure und Manage gehören. Organisationen können diese Funktionen nutzen, um Risiken zu erkennen, ihre Bedeutung einzuschätzen und geeignete Maßnahmen festzulegen.

Klare Datenanforderungen festlegen

Für jedes KI-System sollte ein klarer Zweck festgelegt werden, bevor die Datenerhebung beginnt. Anschließend können Organisationen die erforderlichen Datenkategorien bestimmen, irrelevante Felder entfernen, den Zugriff beschränken und angemessene Aufbewahrungsfristen festlegen. Tests sollten bestätigen, dass die reduzierten Datensätze weiterhin genaue und faire Ergebnisse ermöglichen.

Modelle und Rechenressourcen optimieren

Modelloptimierung, effiziente Algorithmen und energieeffiziente Hardware können dazu beitragen, den unnötigen Rechenaufwand zu verringern. Unternehmen können föderiertes Lernen einsetzen, das den Bedarf an der Übertragung großer Informationsmengen verringert. Diese Verfahren können die Rechenkosten und den Energieverbrauch senken und zugleich den Datenschutz unterstützen. 

Governance-Abläufe vereinfachen

Organisationen können sich überschneidende Prüfungen zusammenführen, Bewertungen zu denselben Risiken wiederverwenden, Zuständigkeiten klar festlegen und Genehmigungswege nach Risikostufen definieren. Standardisierte Prozesse helfen Teams, Routineanwendungen effizient zu bearbeiten und komplexere Fälle an die zuständigen Fachleute weiterzuleiten.

Unverzichtbare Schutzvorkehrungen beibehalten

Ein Ansatz zur Verschlankung muss Datenschutz- und Sicherheitsmaßnahmen, Bias-Prüfungen, angemessene menschliche Aufsicht, Prüfpfade und Verfahren zur Reaktion auf Vorfälle beibehalten. Organisationen sollten außerdem sicherstellen, dass die vereinfachten Prozesse weiterhin den geltenden gesetzlichen und regulatorischen Pflichten entsprechen.

Leistung überwachen und Kontrollen neu bewerten

Die Governance-Anforderungen können sich ändern, wenn ein KI-System weiterentwickelt wird, neue Nutzergruppen erreicht oder zusätzliche Aufgaben übernimmt. Organisationen sollten nach der Bereitstellung Genauigkeit, Fairness und Datenschutzrisiken überwachen. Außerdem sollten sie die Datenanforderungen und Aufsichtsverfahren an veränderte Bedingungen anpassen.

Die Verschlankung der KI-Governance erfolgreich umsetzen

Am wirksamsten ist die Verschlankung als Teil einer risikobasierten Governance-Strategie. Das angemessene Maß an Verschlankung hängt jedoch vom Zweck, der Komplexität und den potenziellen Auswirkungen eines KI-Systems ab. Indem Organisationen Effizienz mit angemessenen Schutzvorkehrungen, Rechenschaftspflicht und kontinuierlicher Bewertung in Einklang bringen, können sie die KI-Governance vereinfachen und zugleich einen verantwortungsvollen und zuverlässigen Einsatz von KI gewährleisten.