Auf dem AI-Seil: Warum Operationsteams Risiken und Auswirkungen ausbalancieren müssen

AI entwickelt sich in einem so dramatischen Tempo, dass jeder Schritt nach vorne ein Schritt ins Ungewisse ist. Die Chance ist groß, aber die Risiken sind möglicherweise noch größer. Während AI verspricht, Branchen zu revolutionieren – von der Automatisierung routinemäßiger Aufgaben bis hin zur Bereitstellung tiefer Einblicke durch Datenanalyse – gibt es auch ethische Dilemmata, Vorurteile, Datenschutzbedenken und sogar eine negative Rendite (ROI), wenn sie nicht richtig implementiert wird.

Analysten machen bereits Vorhersagen darüber, wie die Zukunft von AI – zumindest teilweise – von Risiken geprägt sein wird.

Laut einem Bericht von Gartner mit dem Titel Riding The AI Whirlwind wird unsere Beziehung zu AI sich ändern, wenn die Technologie fortschreitet und dieses Risiko Gestalt annimmt. Zum Beispiel sagt der Bericht voraus, dass Unternehmen beginnen werden, emotionale AI-bezogene rechtliche Schutzmaßnahmen in ihre Allgemeinen Geschäftsbedingungen aufzunehmen – wobei der Gesundheitssektor innerhalb der nächsten zwei Jahre damit beginnen soll. Der Bericht deutet auch darauf hin, dass bis 2028 mehr als ein Viertel aller Datenlecks in Unternehmen auf einen bestimmten Missbrauch von AI-Agents zurückzuführen sein werden, entweder durch interne Bedrohungen oder externe böswillige Akteure.

Jenseits von Regulierung und Datensicherheit gibt es ein weiteres – relativ unsichtbares – Risiko mit gleich hochem Einsatz. Nicht alle Unternehmen sind “bereit” für AI, und obwohl es verlockend sein kann, sich mit der AI-Implementierung zu beeilen, kann dies zu großen finanziellen Verlusten und operativen Rückschlägen führen. Nehmen wir beispielsweise eine datenintensive Branche wie Finanzdienstleistungen. Während AI das Potenzial hat, die Entscheidungsfindung für Operationsteams in diesem Sektor zu beschleunigen, funktioniert es nur, wenn diese Teams den Erkenntnissen, auf denen sie handeln, vertrauen können. In einem Bericht von 2024 enthüllte ActiveOps, dass 98 % der Führungskräfte im Finanzdienstleistungssektor “erhebliche Herausforderungen” bei der Übernahme von AI für Datensammlung, Analyse und Berichterstellung nennen. Selbst nach der Implementierung haben 9 von 10 Schwierigkeiten, die benötigten Erkenntnisse zu erhalten. Ohne strukturierte Governance, klare Rechenschaftspflicht und eine qualifizierte Belegschaft, um AI-gesteuerte Empfehlungen zu interpretieren, ist das eigentliche “Risiko” für diese Unternehmen, dass ihre AI-Projekte eher zu einer Belastung als zu einem Vermögenswert werden. Das Gehen auf dem AI-Seil ist nicht darum, schnell zu handeln, sondern darum, clever zu handeln.

Hohe Einsätze, hohes Risiko

Das Potenzial von AI, Unternehmen zu verändern, ist unbestreitbar, aber auch die Kosten für Fehlschläge sind unbestreitbar. Während Unternehmen eifrig darauf bedacht sind, AI für Effizienz, Automatisierung und Echtzeit-Entscheidungen zu nutzen, summieren sich die Risiken genauso schnell wie die Chancen. Ein Fehltritt in der AI-Governance, ein Mangel an Aufsicht oder eine Überbetonung von AI-generierten Erkenntnissen auf der Grundlage unzureichender oder schlecht gepflegter Daten kann zu allem führen, von regulatorischen Strafen bis hin zu AI-gesteuerten Sicherheitsverletzungen, fehlerhafter Entscheidungsfindung und Rufschädigung. Da AI-Modelle zunehmend kritische Geschäftsentscheidungen treffen oder zumindest beeinflussen, besteht ein dringender Bedarf für Unternehmen, der Datengovernance Priorität einzuräumen, bevor sie AI-Initiativen skalieren. Wie McKinsey es ausdrückt, müssen Unternehmen eine “alles, überall, gleichzeitig”-Mentalität annehmen, um sicherzustellen, dass Daten über das gesamte Unternehmen hinweg sicher und sicher verwendet werden können, bevor sie ihre AI-Initiativen entwickeln.

Dies ist möglicherweise eines der größten Risiken im Zusammenhang mit AI. Das Versprechen von Automatisierung und Effizienz kann verlockend sein und Unternehmen dazu verleiten, Ressourcen in AI-gesteuerte Projekte zu investieren, bevor sie sicherstellen, dass ihre Daten bereit sind, sie zu unterstützen. Viele Organisationen beeilen sich, AI ohne vorherige Einrichtung einer robusten Datengovernance, crossfunktioneller Zusammenarbeit oder interner Expertise zu implementieren, was letztendlich zu AI-Modellen führt, die bestehende Vorurteile verstärken, unzuverlässige Ausgaben produzieren und letztendlich keine zufriedenstellende Rendite erzielen. Die Realität ist, dass AI keine “Plug-and-Play”-Lösung ist – es ist eine langfristige strategische Investition, die Planung, strukturierte Aufsicht und eine Belegschaft erfordert, die weiß, wie sie effektiv verwendet wird.

Ein solides Fundament schaffen

Laut dem Seiltänzer und Geschäftsführer Marty Wolner ist der beste Rat, wenn man lernen möchte, auf einem Slackline zu laufen, anzufangen, klein anzufangen: “Versuchen Sie nicht, sofort über eine Schlucht zu laufen. Beginnen Sie mit einem niedrigen Draht und erhöhen Sie allmählich die Entfernung und Schwierigkeit, während Sie Ihre Fähigkeiten und Ihr Vertrauen aufbauen.” Er schlägt vor, dasselbe für Unternehmen gilt: “Kleine Erfolge können Sie auf größere Herausforderungen vorbereiten.”

Damit AI langfristigen, nachhaltigen Wert liefert, sind diese “kleinen Erfolge” entscheidend. Während viele Organisationen sich auf die technischen Fähigkeiten von AI und das Erreichen eines Vorsprungs vor der Konkurrenz konzentrieren, liegt die eigentliche Herausforderung darin, den richtigen operativen Rahmen für die AI-Adoption im großen Maßstab zu schaffen. Dazu ist ein dreiteiliger Ansatz erforderlich: robuste Governance, kontinuierliches Lernen und ein Engagement für die ethische Entwicklung von AI.

Governance: AI kann nicht effektiv funktionieren, ohne einen strukturierten Governance-Rahmen, der diktiert, wie es entworfen, bereitgestellt und überwacht wird. Ohne Governance laufen AI-Initiativen Gefahr, fragmentiert, unzurechenbar oder schlicht gefährlich zu werden. Unternehmen müssen klare Richtlinien für Datenmanagement, Transparenz bei der Entscheidungsfindung und Systemüberwachung festlegen, um sicherzustellen, dass AI-gesteuerte Erkenntnisse vertrauenswürdig, erklärbar und überprüfbar sind. Regulierungsbehörden verschärfen bereits die Erwartungen an die AI-Governance, wobei Rahmenwerke wie der EU-AI-Gesetz und sich entwickelnde US-Vorschriften Unternehmen für die Verwendung von AI bei der Entscheidungsfindung zur Rechenschaft ziehen werden. Laut Gartner werden AI-Governance-Plattformen eine wichtige Rolle bei der Ermöglichung spielen, dass Unternehmen ihre AI-Systeme in Bezug auf Rechts-, Ethik- und Betriebsleistung verwalten, um die Einhaltung von Vorschriften bei gleichzeitiger Flexibilität sicherzustellen. Unternehmen, die AI-Governance nicht umsetzen, werden wahrscheinlich erhebliche regulatorische, reputationsbedrohliche und finanzielle Konsequenzen weiter unten auf dem Seil erleben.

Mitarbeiter: AI ist nur so effektiv wie die Menschen, die sie verwenden. Während Unternehmen oft auf die Technologie selbst fokussieren, ist die Fähigkeit der Belegschaft, AI in den täglichen Betrieb zu integrieren, ebenso kritisch. Viele Organisationen fallen in die Falle, anzunehmen, dass AI automatisch die Entscheidungsfindung verbessern wird, wenn in Wirklichkeit die Mitarbeiter trainiert werden müssen, AI-generierte Erkenntnisse zu interpretieren und effektiv zu verwenden. Mitarbeiter müssen nicht nur an AI-gesteuerte Prozesse anpassen, sondern auch die kritischen Denkfähigkeiten entwickeln, die erforderlich sind, um AI-Ausgaben bei Bedarf in Frage zu stellen. Ohne dies laufen Unternehmen Gefahr, sich zu sehr auf AI zu verlassen – und fehlerhafte Modelle zu ermöglichen, strategische Entscheidungen unkontrolliert zu beeinflussen. Schulungsprogramme, Weiterbildungsinitiativen und crossfunktionale AI-Ausbildung müssen Priorität haben, um sicherzustellen, dass Mitarbeiter auf allen Ebenen mit AI zusammenarbeiten können, anstatt durch sie ersetzt oder außer Gefecht gesetzt zu werden.

Ethik: Wenn AI langfristig ein Erfolg für Unternehmen sein soll, muss sie auf ethischen Prinzipien basieren. Algorithmischer Bias, Datenschutzverletzungen und undurchsichtige Entscheidungsprozesse haben bereits das Vertrauen in AI in einigen Branchen untergraben. Unternehmen müssen sicherstellen, dass AI-gesteuerte Entscheidungen den gesetzlichen und regulatorischen Standards entsprechen und dass Kunden, Mitarbeiter und Stakeholder Vertrauen in AI-gesteuerte Prozesse haben können. Dazu müssen proaktive Schritte unternommen werden, um Bias zu beseitigen, die Privatsphäre zu schützen und AI-Systeme zu entwickeln, die transparent arbeiten. Laut The World Bank “geht es bei der AI-Governance darum, faire Chancen zu schaffen, Rechte zu schützen und – entscheidend – Vertrauen in die Technologie aufzubauen.”

Daten: Es ist von entscheidender Bedeutung, über ein einzelnes, konsolidiertes Datenset über den gesamten Betrieb zu verfügen, um sowohl einen Start- als auch einen Endpunkt für die Beteiligung von AI zu bestimmen. Es ist wichtig zu wissen, wo AI bereits verwendet wird, zu verstehen, wo AI eingesetzt werden soll, und in der Lage zu sein, Chancen für weitere AI-Beteiligung zu erkennen, um den anhaltenden Erfolg zu gewährleisten. Daten sind auch der beste Metric, um die Vorteile von AI zu messen – wenn Unternehmen ihre “Startposition” nicht verstehen und die Reise von AI nicht messen, können sie die Vorteile nicht demonstrieren. Wie Galileo einmal sagte: “Messen Sie, was messbar ist, und machen Sie das, was nicht messbar ist, messbar.”

Das Gehen auf dem Seil ist eine Frage der Vorbereitung, der Ruhe und des Findens von Balance bei jedem Schritt nach vorne. Unternehmen, die AI mit bedachter Vorsicht, strukturierter Datengovernance und einer qualifizierten Belegschaft angehen, werden es schaffen, sicher hinüberzukommen, während diejenigen, die ohne sicheren Fuß vorwärts stürmen, einen teuren Fall riskieren.