Bewegen Sie sich schnell, aber brechen Sie nichts: Wie Sie verantwortungsvolle KI-Adoption und Innovation ausbalancieren

Laut einer aktuellen globalen Umfrage von McKinsey nutzen 78% der Unternehmen KI in mindestens einer Geschäftsfunktion, aber nur 13% haben KI-Compliance-Spezialisten eingestellt und nur 6% haben KI-Ethikspezialisten im Team.

Das ist, ehrlich gesagt, leichtsinniges Verhalten.

Obwohl ich in meiner nicht allzu fernen Vergangenheit ein großer Befürworter der “schnell bewegen und brechen”-Mentalität des Silicon Valley war, können wir uns bei KI – einer Technologie, die mächtiger ist als alles, was wir bisher gesehen haben und mit Lichtgeschwindigkeit wächst – nicht so sorglos verhalten.

Die Adoption von KI ohne nennenswerte Sicherheitsvorkehrungen ist genau die Art von schneller, eckiger Vorgehensweise, die garantiert irgendwann zurückfeuern und das Risiko bergen wird, alles zu brechen. Es braucht nur einen Vorfall von KI-Voreingenommenheit oder -Missbrauch, um Jahre der Aufbauarbeit für die Reputation eines Unternehmens zunichte zu machen.

Und obwohl viele CIOs und CTOs sich dieser Risiken bewusst sind, scheinen sie unter der Annahme zu handeln, dass Regulierungsbehörden schließlich eingeschaltet werden und sie vor der Einrichtung eigener Rahmenbedingungen retten werden, was zu einer Menge Reden über Risiken mit sehr wenig tatsächlicher Kontrolle führt.

Obwohl ich keine Zweifel daran habe, dass Regulierungen schließlich kommen werden, bin ich weniger zuversichtlich, dass sie bald etabliert werden. ChatGPT wurde vor etwa drei Jahren eingeführt, und wir sehen erst jetzt Dinge wie die Sitzung des Senatsjustizausschusses über Chatbots und Sicherheitsrisiken stattfinden. Die Realität ist, dass es Jahre dauern kann, bis wir irgendwelche sinnvollen Regulierungen sehen.

Anstatt dies als Ausrede zu nutzen, um die interne Governance zu vernachlässigen, sollte dies Unternehmen dazu anregen, einen proaktiveren Ansatz zu verfolgen. Insbesondere unter Berücksichtigung der Tatsache, dass Unternehmen ohne eigene Rahmenbedingungen, wenn Regulierungen schließlich kommen, darum kämpfen werden, die Compliance nachträglich anzupassen. Genau das ist passiert, als die DSGVO und das CCPA in Kraft traten.

Genau wie die scrappy Start-ups der frühen 2000er Jahre, die heute als corporate Tech-Giganten angesehen werden, in die sie herangewachsen sind, müssen wir kollektiv unsere Herangehensweise an die verantwortungsvolle Adoption von KI reifen lassen.

Es gibt kein “kaufen Sie jetzt und zahlen Sie später” bei verantwortungsvollen KI-Einsätzen – beginnen Sie jetzt

Der erste Schritt in einer verantwortungsvolleren Herangehensweise an KI ist es, aufzuhören, auf Regulierungsbehörden zu warten und eigene Regeln aufzustellen. Jeder Vorsprung, den Sie heute durch das Vermeiden von Sicherheitsvorkehrungen gewinnen, wird Ihnen in Zukunft nur zurückfeuern, wenn Sie mit dem sehr teuren und störenden Prozess der Nachrüstung konfrontiert werden.

Natürlich ist für viele das Problem, nicht zu wissen, wo man anfangen soll. Mein Unternehmen hat kürzlich 500 CIOs und CTOs in großen Unternehmen befragt und fast die Hälfte (48%) nannte “die Bestimmung dessen, was verantwortungsvolle Nutzung oder Bereitstellung von KI ausmacht” als Herausforderung für die Gewährleistung ethischer KI-Nutzung.

Ein einfacher Ausgangspunkt ist es, den Fokus über die durch KI ermöglichten Funktionen hinaus zu erweitern und die möglichen Risiken zu berücksichtigen. Zum Beispiel kann die Nutzung von KI zwar Zeit für die Mitarbeiter sparen, eröffnet aber auch die Möglichkeit, große Mengen an personenbezogenen Daten (PII) oder Geschäftsgeheimnissen mit ungenehmigten und nicht zugelassenen LLMs zu teilen.

Jedes digitale Unternehmen heute ist mit dem Software Development Life Cycle (SDLC) vertraut, der einen Rahmen für die Erstellung von Qualitätsprodukten bietet. KI-Governance-Best-Practices sollten in diesen täglichen Arbeitsablauf integriert werden, um sicherzustellen, dass verantwortungsvolle Entscheidungsfindung zum Routineprozess wird und nicht nur eine Nachgedanke ist.

Ein Regierungsgremium, wie ein Ethikkomitee oder ein Governance-Board, sollte eingerichtet werden, das die Standards für die Anwendungen von KI innerhalb des Unternehmens definiert und ähnlich die Metriken für die Überwachung und Aufrechterhaltung dieser Standards definiert. Funktional sieht dies wie KI-Tooling und Modell-Governance, Lösungs-Genehmigungen, Risikomanagement, Regulierungs- und Standards-Abstimmung und transparente Kommunikation aus. Obwohl dies technisch gesehen ein “neuer” Prozess ist, ist es nicht sehr unterschiedlich von Datenbest-Practices und der Aufrechterhaltung der Cybersicherheit und kann automatisiert werden, um eine frühzeitige Erkennung von Problemen sicherzustellen.

Natürlich erfordern nicht alle Risiken die gleiche Aufmerksamkeit, daher ist es auch wichtig, einen gestaffelten Risikomanagementprozess zu entwickeln, damit Ihr Team den Großteil seiner Bemühungen auf das konzentrieren kann, was als hohe Priorität definiert wurde.

Schließlich und am wichtigsten ist eine klare und transparente Kommunikation über Governance-Praktiken sowohl intern als auch extern von entscheidender Bedeutung. Dazu gehören die Aufrechterhaltung lebender Dokumente für Governance-Standards und die Bereitstellung kontinuierlicher Schulungen, um Teams auf dem Laufenden zu halten.

Hören Sie auf, Governance als Bedrohung für Innovation zu behandeln

Es ist durchaus möglich, dass die wahre Bedrohung für verantwortungsvolle KI die Überzeugung ist, dass Governance und Innovation gegensätzlich sind. Unsere Umfragedaten zeigten, dass 87% der CIOs und CTOs der Meinung waren, dass zu viele Regulierungen die Innovation einschränken würden.

Aber Governance sollte als strategischer Partner und nicht als Bremsklotz für die Innovation behandelt werden.

Ein Grund, warum Governance als eine Kraft angesehen wird, die den Innovationsprozess behindert, ist, dass sie oft erst am Ende der Produktentwicklung berücksichtigt wird, aber Sicherheitsvorkehrungen sollten Teil des Prozesses sein. Wie oben erwähnt, kann Governance in Sprint-Zyklen integriert werden, sodass ein Produktteam schnell vorankommen kann, während automatisierte Prüfungen auf Fairness, Voreingenommenheit und Compliance parallel laufen. Langfristig zahlt sich dies aus, da Kunden, Mitarbeiter und Regulierungsbehörden mehr Vertrauen haben, wenn sie sehen, dass Verantwortung von Anfang an eingebaut ist.

Und dies hat sich als finanziell rentabel erwiesen. Forschung hat gezeigt, dass Unternehmen mit gut umgesetzten Daten- und KI-Governance-Rahmenwerken eine Verbesserung der finanziellen Leistung um 21-49% erleben. Ein Versagen bei der Einrichtung dieser Rahmenwerke hat jedoch auch seine eigenen Konsequenzen. Laut derselben Studie werden bis 2027 die meisten Unternehmen (60%) “den erwarteten Wert ihrer KI-Anwendungsfälle aufgrund unzusammenhängender ethischer Governance-Rahmenwerke nicht realisieren”.

Ein Vorbehalt gegen das Argument, dass Governance nicht auf Kosten der Innovation gehen muss, ist, dass die Beteiligung von Rechtsteams an diesen Gesprächen tendenziell die Dinge verlangsamt. In meiner Erfahrung jedoch hilft die Einrichtung eines Governance-, Risiko- und Compliance-Teams (GRC) dabei, die Dinge reibungslos und schnell zu halten, indem es als Brücke zwischen den Rechts- und Produktteams dient.

Wenn gut gemanagt, baut das GRC-Team positive Beziehungen zum Rechtsteam auf, indem es als deren “Augen und Ohren” vor Ort agiert und ihnen die Berichte liefert, die sie benötigen, während es auch mit dem Entwicklerteam zusammenarbeitet, um zukünftige Risiken von Klagen und Bußgeldern zu mindern. Letztendlich unterstreicht dies, dass die Investition in Governance von Anfang an der beste Weg ist, um sicherzustellen, dass sie nicht mit der Innovation kollidiert.

Erstellen Sie Überwachungs- und Governance-Systeme, die skalieren können

Trotz der Tatsache, dass so viele der befragten CIOs und CTOs der Meinung waren, dass Regulierungen die Innovation einschränken könnten, erwartet ein ähnlich großer Prozentsatz (84%) von Unternehmen, die KI-Überwachung in den nächsten 12 Monaten zu erhöhen. Angesichts der Wahrscheinlichkeit, dass KI-Integrationen über die Zeit hinweg weiter expandieren und skalieren, ist es ebenso wichtig, dass Governance-Systeme mit ihnen skalieren können.

Etwas, das ich oft in den frühen Phasen von KI-Implementierungen in Unternehmen sehe, ist, dass verschiedene Einheiten innerhalb des Unternehmens in Silos arbeiten, so dass sie unterschiedliche Bereitstellungen gleichzeitig mit unterschiedlichen Visionen davon ausführen, was “verantwortungsvolle KI” bedeutet. Um diese Inkonsistenzen zu vermeiden, wäre es für Unternehmen ratsam, ein dediziertes KI-Zentrum für Exzellenz zu etablieren, das technische, compliance- und geschäftliche Expertise kombiniert.

Das KI-Zentrum für Exzellenz würde sowohl unternehmensweite Standards als auch gestaffelte Genehmigungsprozesse etablieren, bei denen es einen Gleitpfad für Niedrig-Risiko-Anwendungsfälle gibt. Dies gewährleistet, dass die Geschwindigkeit beibehalten wird, während gleichzeitig sichergestellt wird, dass Hoch-Risiko-Bereitstellungen strengere Sicherheitskontrollen durchlaufen. Ähnlich sollte das Zentrum für Exzellenz auch KI-Sicherheits-KPIs für Top-Executive festlegen, damit die Verantwortung nicht in den täglichen Geschäftsfunktionen verloren geht.

Aber um dies zu realisieren, benötigen Executive verbesserte Einblicke in die Überwachung von Governance-Indikatoren. Dashboards, die Echtzeit-Daten zu diesen Indikatoren liefern, wären viel effektiver als die derzeitigen statischen Compliance-Berichte, die sofort veraltet sind und oft ungelesen bleiben. Ideal wäre es, wenn Unternehmen auch KI-Risikoregister erstellen würden, ähnlich wie sie bereits Cybersicherheitsrisiken verfolgen, sowie Prüfungsnachweise, die zeigen, wer eine ML/AI-Implementierung erstellt, getestet und wie sie über die Zeit hinweg funktioniert hat.

Die wichtigste Erkenntnis hier ist, dass verantwortungsvolle KI eine kontinuierliche Governance erfordert. Es geht nicht nur um Genehmigungen bei der Markteinführung, sondern um kontinuierliche Überwachung während des gesamten Lebenszyklus des Modells. Als solche ist Schulung der Schlüssel. Entwickler, Technologen und Geschäftsführer sollten in verantwortungsvolle KI-Praktiken geschult werden, damit sie Probleme frühzeitig erkennen und hohe Governance-Standards während der Systementwicklung aufrechterhalten können. Indem sie dies tun, sind KI-Einsätze sicherer, effektiver und profitabler – ohne dass etwas gebrochen werden muss.