Ein Mangel an vertrauenswürdiger KI kann Innovation und Geschäftswert bremsen

Eine aktuelle Umfrage unter globalen Wirtschaftsführern zeigt, dass vertrauenswürdige KI eine große Priorität hat, viele unternehmen jedoch nicht genügend Schritte, um dies zu erreichen, aber zu welchem ​​Preis?

Tatsächlich ist die IBM Umfrage ergab, dass erstaunliche 85 % der Befragten der Aussage zustimmen, dass Verbraucher sich eher für ein Unternehmen entscheiden, das transparent darüber ist, wie seine KI-Modelle erstellt, verwaltet und verwendet werden.

Die Mehrheit gab jedoch zu, dass sie keine wichtigen Schritte unternommen haben, um sicherzustellen, dass ihre KI vertrauenswürdig und verantwortungsbewusst ist, wie z. B. die Reduzierung von Vorurteilen (74 %), die Verfolgung von Leistungsschwankungen und Modellabweichungen (68 %) und die Sicherstellung, dass sie KI-gestützte Erklärungen liefern können Entscheidungen (61 %). Dies ist besorgniserregend, insbesondere wenn man bedenkt, dass der Einsatz von KI weiter zunimmt – 35 % geben an, dass sie jetzt KI in ihrem Unternehmen einsetzen, gegenüber 31 % vor einem Jahr.

Ich habe vor kurzem nur auf Einladung teilgenommen Unternehmensinnovationsgipfel in Toronto, wo die Teilnehmer innovative Ideen austauschten und Technologien vorstellten, die die Zukunft gestalten werden. Ich hatte das Privileg, an drei Rundtischgesprächen in den Bereichen Finanzdienstleistungen, Versicherungen und Einzelhandel teilzunehmen, bei denen drei Schlüsselbereiche zum Vorschein kamen: der Bedarf an mehr Transparenz, um das Vertrauen in die KI zu stärken, die Demokratisierung der KI durch No-Code/Low-Code und die Entwicklung von KI Erzielen Sie eine schnellere Wertschöpfung und Risikominderung durch Best Practices für die KI-Regulierungsgovernance.

Erhöhen Sie das Vertrauen in KI-Technologien. COVID-19 verstärkte und beschleunigte den Trend zur Einführung von KI-gestützten Chatbots, virtuellen Finanzassistenten und berührungslosem Kunden-Onboarding. Dieser Trend wird sich fortsetzen, wie in bestätigt Forschung von Cap Gemini Daraus geht hervor, dass 78 % der befragten Verbraucher planen, bei ihren Interaktionen mit Finanzdienstleistungsunternehmen verstärkt KI-Technologien, einschließlich digitaler Identitätsverwaltung, einzusetzen.

Ungeachtet der inhärenten Vorteile ergeben sich eine Reihe von Herausforderungen. Der wichtigste unter ihnen ist anhaltendes Misstrauen der Verbraucher gegenüber KI-Technologien und wie sich ihre Allgegenwärtigkeit auf ihre Datenschutz- und Sicherheitsrechte auswirkt. 30 % der Verbraucher gaben an, dass es ihnen leichter fallen würde, ihre biometrischen Daten weiterzugeben, wenn ihre Finanzdienstleister mehr Transparenz bei der Erklärung bieten würden, wie ihre Daten erfasst, verwaltet und gesichert werden.

CIOs müssen übernehmen vertrauenswürdige KI-Prinzipien und strenge Maßnahmen zum Schutz der Privatsphäre und der Sicherheitsrechte einführen. Dies können sie durch erreichen Verschlüsselung, Datenminimierung und sicherere Authentifizierung, einschließlich der Berücksichtigung neuer dezentrale digitale Identitätsstandards. Dadurch werden Ihre intelligenten Automatisierungsbemühungen und Self-Service-Angebote stärker angenommen und erfordern weniger menschliches Eingreifen.

Hindernisse für die Demokratisierung der KI beseitigen. Es gibt einen zunehmenden Trend zur Entwicklung von KI-Anwendungen ohne Code/Low-Code Forschungsprojekte Bis zum Jahr 45.5 wird ein Wert von 2025 Milliarden US-Dollar prognostiziert. Der Haupttreiber ist schnellere Amortisationszeit mit Verbesserungen in der Anwendungsentwicklungsproduktivität um 10x.

Beispielsweise denken 56 % der befragten Finanzdienstleistungsunternehmen darüber nach Datensammlung von Kreditnehmern als einer der schwierigsten und ineffizientesten Schritte im Kreditantragsprozess, was zu hohen Abbruchraten führt. Während KI-gesteuerte Technologien zur biometrischen Identifizierung und Datenerfassung nachweislich die Effizienz im Kreditantragsprozess verbessern, können sie dies auch tun Compliance-Risiken schaffen insbesondere Datenschutz, Vertraulichkeit und KI-Algorithmus-Voreingenommenheit.

Um solche Risiken zu mindern und zu beheben, müssen Low-Code-/No-Code-Anwendungen umfassende Tests umfassen, um sicherzustellen, dass sie in Übereinstimmung mit den ursprünglichen Entwurfszielen funktionieren, potenzielle Verzerrungen im Trainingsdatensatz beseitigen, die Stichprobenverzerrungen und Kennzeichnungsverzerrungen umfassen können, und vor Gegnern geschützt sind KI-Angriffe, die sich negativ auf die Ergebnisse der KI-Algorithmen auswirken können. Berücksichtigung von Prinzipien der verantwortungsvollen Datenwissenschaft Fairness, Genauigkeit, Vertraulichkeit und Sicherheit sind von größter Bedeutung.

Entwickeln Sie einen KI-Governance- und Regulierungsrahmen. KI-Governance ist keine „nice to have“-Initiative mehr, sondern eine Notwendigkeit. Laut dem OECD-Tracker zu nationalen KI-Richtlinien gibt es mehr als XNUMX 700 KI-Regulierungsinitiativen in über 60 Ländern in der Entwicklung. Es gibt jedoch freiwillige Verhaltenskodizes und ethische KI-Grundsätze, die von internationalen Standardorganisationen wie der entwickelt wurden Institut für Elektro- und Elektronikingenieure („IEEE“) und den Nationales Institut für Standards und Technologie (NIST).).

Bedenken von Organisationen gehen davon aus, dass die KI-Regulierung mehr erfordern wird strenge Compliance-Verpflichtungen auf sie, gestützt durch belastende Durchsetzungsmechanismen, einschließlich Strafen bei Nichteinhaltung. Dennoch ist eine KI-Regulierung unvermeidlich.

Europa und Nordamerika nehmen proaktive Maßnahmen ein, die von CIOs verlangen, mit ihren Technologie- und Geschäftskollegen zusammenzuarbeiten, um wirksame Richtlinien zu entwickeln. Beispielsweise hat die Europäische Kommission eine vorgeschlagen Gesetz über künstliche Intelligenz schlägt vor, risikobasierte Verpflichtungen für KI-Anbieter einzuführen, um Verbraucherrechte zu schützen und gleichzeitig Innovationen und wirtschaftliche Chancen im Zusammenhang mit KI-Technologien zu fördern.

Darüber hinaus veröffentlichte die kanadische Bundesregierung im Juni 2022 ihr mit Spannung erwartetes Dokument Gesetz zur Umsetzung der Digitalcharta Dies schützt vor negativen Auswirkungen von risikoreichen KI-Systemen. Auch die USA führen KI-Regulierungsinitiativen durch, wenn auch auf sektoraler Ebene. Die Federal Trade Commission (FTC), die Büro für finanziellen Verbraucherschutz (CFPB) und Das Federal Reserve Board Sie alle lassen ihre Regulierungsmuskeln durch ihre Durchsetzungsmechanismen spielen, um Verbraucher vor negativen Auswirkungen zu schützen, die sich aus der zunehmenden Anwendung von KI ergeben und zu diskriminierenden Ergebnissen führen können, wenn auch unbeabsichtigt. Ein KI-Regulierungsrahmen ist für jedes innovative Unternehmen ein Muss.

Um eine vertrauenswürdige KI zu erreichen, sind datengesteuerte Erkenntnisse erforderlich

Die Implementierung vertrauenswürdiger KI kann nicht ohne einen datengesteuerten Ansatz erreicht werden, um zu ermitteln, wo die Anwendungen von KI-Technologien den größten Einfluss haben können, bevor mit der Implementierung fortgefahren wird. Geht es darum, die Kundenbindung zu verbessern, die betriebliche Effizienz zu steigern oder Compliance-Risiken zu mindern?

Jeder dieser Geschäftsfaktoren erfordert ein Verständnis dafür, wie Prozesse ausgeführt werden, wie Eskalationen und Ausnahmen gehandhabt werden und wie Unterschiede bei den Hindernissen für die Prozessausführung und deren Grundursachen identifiziert werden können. Basierend auf einer solchen datengesteuerten Analyse können Unternehmen fundierte Geschäftsentscheidungen über die Auswirkungen und Ergebnisse treffen, die mit der Implementierung KI-basierter Lösungen verbunden sind, um Reibungsverluste beim Kunden-Onboarding zu reduzieren und die betriebliche Effizienz zu verbessern. Sobald Unternehmen von datengesteuerten Erkenntnissen profitieren, können sie äußerst arbeitsintensive Prozesse wie die Erfüllung von KI-Compliance-Anforderungen, Compliance-Audits, KYC und AML in Finanzdienstleistungen automatisieren.

Die wichtigste Erkenntnis ist, dass ein integraler Bestandteil der KI-gestützten Prozessautomatisierung die Implementierung vertrauenswürdiger KI-Best Practices ist. Der ethische Einsatz von KI sollte nicht nur als rechtliche und moralische Verpflichtung, sondern auch als geschäftliche Notwendigkeit betrachtet werden. Es ist wirtschaftlich sinnvoll, bei der Anwendung von KI transparent zu sein. Es schafft Vertrauen und schafft Markentreue.