Mangel an vertrauenswürdigem KI kann Innovation und Geschäftswert behindern

Eine aktuelle Umfrage unter globalen Geschäftsführern zeigt, dass vertrauenswürdige KI eine wichtige Priorität ist, doch viele unternehmen nicht genug, um dies zu erreichen, aber zu welchem Preis?

Tatsächlich hat die IBM-Umfrage enthüllt, dass 85 % der Befragten stimmen, dass Verbraucher eher ein Unternehmen wählen, das transparent ist, wie seine KI-Modelle erstellt, verwaltet und verwendet werden.

Allerdings gaben die meisten zu, dass sie nicht die notwendigen Schritte unternommen haben, um sicherzustellen, dass ihre KI vertrauenswürdig und verantwortungsvoll ist, wie z.B. die Reduzierung von Vorurteilen (74 %), die Überwachung von Leistungsabweichungen und Modellverschiebungen (68 %) und die Gewährleistung, dass sie KI-gesteuerte Entscheidungen erklären können (61 %). Dies ist besorgniserregend, insbesondere wenn man bedenkt, dass die Nutzung von KI weiter wächst – 35 % sagen, dass sie KI in ihrem Unternehmen verwenden, im Vergleich zu 31 % im Vorjahr.

Ich nahm kürzlich an der exklusiven Corporate Innovation Summit in Toronto teil, bei dem Teilnehmer innovative Ideen austauschten und Technologien präsentierten, die die Zukunft prägen werden. Ich hatte das Privileg, an drei Roundtable-Gesprächen im Finanzdienstleistungs-, Versicherungs- und Einzelhandelssektor teilzunehmen, bei denen drei wichtige Bereiche hervorgingen: die Notwendigkeit von mehr Transparenz, um Vertrauen in KI zu fördern, die Demokratisierung von KI durch No-Code/Low-Code und die Entwicklung, um durch KI-Regulierungsbest-Praktiken schnellere Zeit-zu-Wert- und Risikominderung zu liefern.

Vertrauen in KI-Technologien erhöhen. Die COVID-19-Pandemie hat den Trend zur Nutzung von KI-gesteuerten Chatbots, virtuellen Finanzassistenten und berührungslosen Kunden-Onboarding-Prozessen verstärkt und beschleunigt. Dieser Trend wird weiter anhalten, wie in einer Studie von Cap Gemini bestätigt, die zeigt, dass 78 % der befragten Verbraucher planen, die Nutzung von KI-Technologien in ihrer Interaktion mit Finanzdienstleistungsunternehmen zu erhöhen.

Die inhärenten Vorteile nicht mitgerechnet, ergeben sich eine Reihe von Herausforderungen. Vor allem ist dies das anhaltende Misstrauen der Verbraucher gegenüber KI-Technologien und wie ihre allgegenwärtige Natur ihre Privatsphäre- und Sicherheitsrechte beeinträchtigt. 30 % der Verbraucher gaben an, dass sie sich wohler fühlen würden, ihre biometrischen Daten zu teilen, wenn ihre Finanzdienstleister mehr Transparenz über die Erhebung, Verwaltung und Sicherung ihrer Daten bieten würden.

CIOs müssen vertrauenswürdige KI-Prinzipien annehmen und strenge Maßnahmen ergreifen, um die Privatsphäre- und Sicherheitsrechte zu schützen. Sie können dies durch Verschlüsselung, Datenminimierung und sicherere Authentifizierung, einschließlich der Berücksichtigung von aufkommenden dezentralen digitalen Identitätsstandards. Als Ergebnis werden Ihre intelligenten Automatisierungsbemühungen und Selbstbedienungsangebote mehr Akzeptanz finden und weniger menschliche Intervention benötigen.

Barrieren für die Demokratisierung von KI beseitigen. Es gibt eine wachsende Tendenz zur Entwicklung von No-Code/Low-Code-KI-Anwendungen, die Forschung vorhersagt, dass sie bis 2025 45,5 Milliarden US-Dollar erreichen wird. Der Haupttreiber ist schnellere Zeit-zu-Wert mit Verbesserungen in der Produktivität der Anwendungsentwicklung um 10x.

Zum Beispiel betrachten 56 % der Finanzdienstleistungsunternehmen, die befragt wurden, die Datenübermittlung von Kreditnehmern als eine der schwierigsten und ineffizientesten Schritte im Kreditantragsprozess, was zu hohen Abbruchraten führt. Während KI-gesteuerte biometrische Identifizierung und Datenübermittlungstechnologien die Effizienz im Kreditantragsprozess verbessern können, können sie auch Compliance-Risiken schaffen, insbesondere Datenschutz, Vertraulichkeit und KI-Algorithmen-Verzerrung.

Um diese Risiken zu mindern und zu beheben, müssen No-Code/Low-Code-Anwendungen umfassende Tests enthalten, um sicherzustellen, dass sie den anfänglichen Designzielen entsprechen, potenzielle Verzerrungen in den Trainingsdatensätzen beseitigen, die Sampling-Verzerrung, Label-Verzerrung enthalten können, und sicherstellen, dass sie vor adversarialen KI-Angriffen geschützt sind, die die KI-Algorithmen-ergebnisse negativ beeinflussen können. Die Berücksichtigung von verantwortungsvolle Datenwissenschaftsprinzipien von Fairness, Genauigkeit, Vertraulichkeit und Sicherheit ist von entscheidender Bedeutung.

Entwicklung eines KI-Regulierungs- und Governance-Rahmenwerks. KI-Regulierung ist kein Nice-to-Have-Initiative mehr, sondern ein Muss. Laut dem OECD-Tracker für nationale KI-Richtlinien gibt es über 700 KI-Regulierungsinitiativen in über 60 Ländern. Es gibt jedoch freiwillige Verhaltenskodizes und ethische KI-Prinzipien, die von internationalen Standardsorganisationen wie dem Institute of Electrical and Electronic Engineers (IEEE) und dem National Institute of Standards and Technology (NIST) entwickelt wurden.

Die Bedenken der Organisationen umfassen die Annahme, dass KI-Regulierungen strengere Compliance-Verpflichtungen auferlegen werden, unterstützt durch aufwändige Durchsetzungsmechanismen, einschließlich Strafen für Nichtcompliance. Dennoch ist KI-Regulierung unvermeidlich.

Europa und Nordamerika ergreifen proaktive Maßnahmen, die CIOs dazu zwingen, mit ihren Technologie- und Geschäftspartnern zusammenzuarbeiten, um effektive Richtlinien zu entwickeln. Zum Beispiel hat die Europäische Kommission den Künstliche-Intelligenz-Gesetz vorgeschlagen, das risikobasierte Verpflichtungen für KI-Anbieter vorsieht, um Verbraucherrechte zu schützen, während es gleichzeitig die mit KI-Technologien verbundenen Innovationen und wirtschaftlichen Chancen fördert.

Darüber hinaus veröffentlichte die kanadische Bundesregierung im Juni 2022 den lang erwarteten Digital Charter Implementation Act, der vor den negativen Auswirkungen von Hochrisiko-KI-Systemen schützt. Die USA gehen mit KI-Regulierungsinitiativen voran, wenn auch auf sektoraler Basis. Die Federal Trade Commission (FTC), die Consumer Financial Protection Bureau (CFPB) und die Federal Reserve Board nutzen alle ihre regulatorischen Muskeln, um Verbraucher vor den negativen Auswirkungen von KI-Anwendungen zu schützen, die zu diskriminierenden Ergebnissen führen können, wenn auch unabsichtlich. Ein KI-Regulierungsrahmen ist für jedes innovative Unternehmen unerlässlich.

Vertrauenswürdige KI erfordert datengetriebene Erkenntnisse

Die Implementierung von vertrauenswürdiger KI kann nicht ohne einen datengetriebenen Ansatz erreicht werden, um zu bestimmen, wo die Anwendungen von KI-Technologien den größten Einfluss haben, bevor mit der Implementierung begonnen wird. Ist es, um die Kundenbindung zu verbessern, oder um betriebliche Effizienzen zu realisieren oder um Compliance-Risiken zu mindern?

Jeder dieser Geschäftstreiber erfordert ein Verständnis dafür, wie Prozesse ausgeführt werden, wie Eskalationen und Ausnahmen gehandhabt werden und wie Abweichungen in der Prozessausführung und ihre Ursachen identifiziert werden. Basierend auf einer solchen datengetriebenen Analyse können Organisationen fundierte Geschäftsentscheidungen treffen, um den Einfluss und die Ergebnisse zu bestimmen, die mit der Implementierung von KI-basierten Lösungen zur Reduzierung von Kunden-Onboarding-Reibung und zur Verbesserung von betrieblichen Effizienzen verbunden sind. Sobald Organisationen die Vorteile von datengetriebenen Erkenntnissen haben, können sie hochgradig arbeitsintensive Prozesse wie KI-Compliance-Mandate, Compliance-Auditing, Know-Your-Customer (KYC) und Anti-Geldwäsche (AML) in Finanzdienstleistungen automatisieren.

Die wichtigste Erkenntnis ist, dass ein integraler Bestandteil von KI-gesteuerter Prozessautomatisierung die Implementierung von vertrauenswürdigen KI-Best-Praktiken ist. Der ethische Einsatz von KI sollte nicht nur als rechtliche und moralische Verpflichtung, sondern als Geschäftsnotwendigkeit betrachtet werden. Es ist ein gutes Geschäft, transparent in der Anwendung von KI zu sein. Es fördert Vertrauen und schafft Markenloyalität.