Mangel an vertrauenswürdigem KI kann Innovation und Geschäftswert behindern

Eine kürzlich unter globalen Geschäftsführern durchgeführte Umfrage zeigt, dass vertrauenswürdige KI eine wichtige Priorität ist, doch viele unternehmen nicht genug Schritte, um dies zu erreichen, aber zu welchem Preis?

Tatsächlich hat die IBM-Umfrage ergeben, dass 85 % der Befragten der Meinung sind, dass Verbraucher eher ein Unternehmen wählen, das transparent darüber ist, wie seine KI-Modelle erstellt, verwaltet und verwendet werden.

Allerdings gaben die meisten zu, dass sie nicht die notwendigen Schritte unternommen haben, um sicherzustellen, dass ihre KI vertrauenswürdig und verantwortungsvoll ist, wie z. B. die Reduzierung von Vorurteilen (74 %), die Überwachung von Leistungsabweichungen und Modellverschiebungen (68 %) und die Sicherstellung, dass sie KI-gesteuerte Entscheidungen erklären können (61 %). Dies ist besorgniserregend, insbesondere wenn man bedenkt, dass der Einsatz von KI weiter wächst – 35 % sagten, sie verwenden KI in ihrem Geschäft, im Vergleich zu 31 % im Vorjahr.

Ich nahm kürzlich am exklusiven Corporate Innovation Summit in Toronto teil, bei dem Teilnehmer innovative Ideen austauschten und Technologien vorstellten, die die Zukunft prägen werden. Ich hatte das Privileg, an drei Roundtable-Gesprächen im Finanzdienstleistungs-, Versicherungs- und Einzelhandelssegment teilzunehmen, bei denen drei wichtige Bereiche hervorgingen: die Notwendigkeit von mehr Transparenz, um Vertrauen in KI zu fördern, die Demokratisierung von KI durch No-Code/Low-Code und die Entwicklung, um durch KI-Regulierungsbest-Praktiken ein schnelleres Zeit-zu-Wert-Verhältnis und Risikominderung zu liefern.

Vertrauen in KI-Technologien erhöhen. Die COVID-19-Pandemie hat den Trend zur Einführung von KI-gesteuerten Chatbots, virtuellen Finanzassistenten und berührungslosen Kunden-Onboarding-Prozessen verstärkt und beschleunigt. Dieser Trend wird weiter anhalten, wie von Cap Gemini bestätigt, das zeigt, dass 78 % der befragten Verbraucher planen, den Einsatz von KI-Technologien, einschließlich digitaler Identitätsverwaltung, in ihren Interaktionen mit Finanzdienstleistungsunternehmen zu erhöhen.

Trotz der inhärenten Vorteile ergeben sich eine Reihe von Herausforderungen. Vor allem ist dies das anhaltende Misstrauen der Verbraucher gegenüber KI-Technologien und wie ihre allgegenwärtige Natur ihre Rechte auf Privatsphäre und Sicherheit beeinträchtigt. 30 % der Verbraucher gaben an, dass sie sich wohler fühlen würden, wenn ihre Finanzdienstleister mehr Transparenz darüber bieten würden, wie ihre biometrischen Daten gesammelt, verwaltet und gesichert werden.

CIOs müssen vertrauenswürdige KI-Prinzipien annehmen und strenge Maßnahmen ergreifen, um die Rechte auf Privatsphäre und Sicherheit zu schützen. Sie können dies durch Verschlüsselung, Datenminimierung und sicherere Authentifizierung, einschließlich der Berücksichtigung von aufkommenden dezentralen digitalen Identitätsstandards, erreichen. Als Ergebnis werden Ihre Bemühungen um intelligente Automatisierung und Selbstbedienung mehr Akzeptanz finden und weniger menschliche Intervention benötigen.

Hindernisse für die Demokratisierung von KI beseitigen. Es gibt einen wachsenden Trend hin zu No-Code/Low-Code-KI-Anwendungsentwicklung, der Forschung vorhersagt, dass er bis 2025 45,5 Milliarden US-Dollar erreichen wird. Der Haupttreiber ist schnellerer Zeit-zu-Wert-Verhältnis mit Verbesserungen in der Produktivität der Anwendungsentwicklung um 10x.

Beispielsweise betrachten 56 % der befragten Finanzdienstleistungsunternehmen die Datenbeschaffung von Kreditnehmern als eine der herausforderndsten und ineffizientesten Schritte im Kreditantragsprozess, was zu hohen Abbruchraten führt. Während KI-gesteuerte biometrische Identifizierung und Datenbeschaffungstechnologien bewiesen haben, dass sie die Effizienz im Kreditantragsprozess verbessern, können sie auch Compliance-Risiken schaffen, insbesondere hinsichtlich Datenschutz, Vertraulichkeit und KI-Algorithmen-Verzerrung.

Um solche Risiken zu mindern und zu beheben, müssen No-Code/Low-Code-Anwendungen umfassende Tests enthalten, um sicherzustellen, dass sie entsprechend den ursprünglichen Designzielen funktionieren, potenzielle Verzerrungen in den Trainingsdatensätzen entfernen, die Stichprobenverzerrung, Labelverzerrung enthalten können, und sicher sind vor feindlichen KI-Angriffen, die sich negativ auf KI-Algorithmen-Ausgänge auswirken können. Die Berücksichtigung von Prinzipien der verantwortungsvollen Datenwissenschaft von Fairness, Genauigkeit, Vertraulichkeit und Sicherheit ist von entscheidender Bedeutung.

Entwicklung eines KI-Regulierungs- und Governance-Rahmens. KI-Regulierung ist kein Nice-to-Have mehr, sondern ein Muss. Laut dem OECD-Tracker für nationale KI-Richtlinien gibt es über 700 KI-Regulierungsinitiativen in über 60 Ländern. Es gibt jedoch freiwillige Verhaltenskodizes und ethische KI-Prinzipien, die von internationalen Standards-Organisationen wie dem Institute of Electrical and Electronic Engineers (IEEE) und dem National Institute of Standards and Technology (NIST) entwickelt wurden.

Die Bedenken der Organisationen umfassen die Annahme, dass KI-Regulierungen mehr strengen Compliance-Verpflichtungen auferlegen, unterstützt durch strenge Durchsetzungsmechanismen, einschließlich Strafen für Nichtcompliance. Dennoch ist KI-Regulierung unvermeidlich.

Europa und Nordamerika ergreifen proaktive Maßnahmen, die CIOs dazu zwingen, mit ihren Technologie- und Geschäftspartnern zusammenzuarbeiten, um effektive Richtlinien zu erstellen. Beispielsweise hat die Europäische Kommission den Künstliche-Intelligenz-Gesetz vorgeschlagen, das risikobasierte Verpflichtungen für KI-Anbieter vorsieht, um Verbraucherrechte zu schützen, während es gleichzeitig Innovation und wirtschaftliche Chancen im Zusammenhang mit KI-Technologien fördert.

Darüber hinaus veröffentlichte die kanadische Bundesregierung im Juni 2022 ihren lang erwarteten Digital Charter Implementation Act, der vor negativen Auswirkungen von Hochrisiko-KI-Systemen schützt. Die USA gehen mit KI-Regulierungsinitiativen voran, wenn auch auf sektoraler Basis. Die Federal Trade Commission (FTC), die Consumer Financial Protection Bureau (CFPB) und die Federal Reserve Board nutzen ihre Regulierungsmechanismen, um Verbraucher vor negativen Auswirkungen zu schützen, die durch die zunehmende Anwendung von KI entstehen können und zu diskriminierenden Ergebnissen führen können, wenn auch ungewollt. Ein KI-Regulierungsrahmen ist für jedes innovative Unternehmen ein Muss.

Vertrauenswürdige KI erfordert datengetriebene Erkenntnisse

Die Umsetzung von vertrauenswürdiger KI kann nicht ohne datengetriebener Ansatz erreicht werden, um zu bestimmen, wo die Anwendungen von KI-Technologien den größten Einfluss haben können, bevor mit der Implementierung begonnen wird. Ist es, um die Kundenbindung zu verbessern, um operative Effizienzen zu realisieren oder um Compliance-Risiken zu mindern?

Jeder dieser Geschäftstreiber erfordert ein Verständnis dafür, wie Prozesse ausgeführt werden, wie Eskalationen und Ausnahmen gehandhabt werden und Variationen in der Prozessausführung, Straßenblockaden und ihre Ursachen identifiziert werden. Basierend auf einer solchen datengetriebenen Analyse können Organisationen fundierte Geschäftsentscheidungen treffen, um den Einfluss und die Ergebnisse im Zusammenhang mit der Implementierung von KI-basierten Lösungen zu bewerten, um Reibung bei der Kundenakquise zu reduzieren und operative Effizienzen zu verbessern. Sobald Organisationen die Vorteile von datengetriebenen Erkenntnissen haben, können sie hochgradig arbeitsintensive Prozesse wie die Einhaltung von KI-Compliance-Mandaten, Compliance-Audits, KYC und AML in Finanzdienstleistungen automatisieren.

Die wichtigste Erkenntnis ist, dass ein integraler Bestandteil von KI-gesteuerter Prozessautomatisierung die Umsetzung von vertrauenswürdigen KI-Best-Praktiken ist. Der ethische Einsatz von KI sollte nicht nur als rechtliche und moralische Verpflichtung, sondern als Geschäftsimperativ betrachtet werden. Es ist ein gutes Geschäft, transparent in der Anwendung von KI zu sein. Es fördert Vertrauen und schafft Markenloyalität.