Voreingenommenheit und Fairness von künstlicher Intelligenz-basierten Systemen im Kampf gegen Finanzkriminalität

Wenn es darum geht, Finanzkriminalität zu bekämpfen, gibt es Herausforderungen, die über den Rahmen hinausgehen, einfache Betrüger oder andere schlechte Akteure zu stoppen.

Einige der neuesten, fortschrittlichen Technologien, die gestartet werden, haben oft ihre eigenen spezifischen Probleme, die während der Adoptionsphase berücksichtigt werden müssen, um erfolgreich Betrüger ohne regulatorische Konsequenzen zu bekämpfen. Bei der Betrugsbekämpfung können Modellfairness und Datenbias auftreten, wenn ein System stärker gewichtet oder unterrepräsentiert ist oder bestimmte Gruppen oder Kategorien von Daten fehlen. Theoretisch könnte ein Vorhersagemodell fälschlicherweise Nachnamen aus anderen Kulturen mit betrügerischen Konten in Verbindung bringen oder das Risiko innerhalb von Bevölkerungssegmenten für bestimmte Arten von Finanzaktivitäten fälschlicherweise verringern.

Voreingenommene KI-Systeme können eine ernsthafte Bedrohung darstellen, wenn Reputationsverluste auftreten können und wenn verfügbare Daten nicht repräsentativ für die Population oder das Phänomen sind, das erforscht wird. Diese Daten enthalten keine Variablen, die das Phänomen, das wir vorhersagen möchten, angemessen erfassen. Alternativ können die Daten Inhalte enthalten, die von Menschen erstellt wurden, die möglicherweise Vorurteile gegenüber Gruppen von Menschen enthalten, die durch kulturelle und persönliche Erfahrungen vererbt wurden, was zu Verzerrungen bei der Entscheidungsfindung führen kann. Zwar mag es auf den ersten Blick so aussehen, als seien Daten objektiv, sie werden jedoch von Menschen gesammelt und analysiert und können daher voreingenommen sein.

Es gibt kein Patentrezept, um die Gefahren von Diskriminierung und Ungerechtigkeit in KI-Systemen zu beseitigen oder permanente Lösungen für das Problem der Fairness und Voreingenommenheitsminderung bei der Konstruktion von maschinellen Lernmodellen und deren Nutzung zu finden. Diese Fragen müssen jedoch aus gesellschaftlichen und geschäftlichen Gründen berücksichtigt werden.

Das Richtige tun in der KI

Das Ansprechen von Voreingenommenheit in KI-basierten Systemen ist nicht nur das Richtige, sondern auch das Klügste für Unternehmen – und die Einsätze für Geschäftsleiter sind hoch. Voreingenommene KI-Systeme können Finanzinstitute auf den falschen Weg führen, indem sie Chancen, Ressourcen, Informationen oder die Qualität der Dienstleistungen ungerecht zuweisen. Sie können sogar gegen bürgerliche Freiheiten verstoßen, die Sicherheit von Personen gefährden oder deren Wohlbefinden beeinträchtigen, wenn sie als abwertend oder beleidigend wahrgenommen werden.

Es ist wichtig, dass Unternehmen die Macht und die Risiken von KI-Voreingenommenheit verstehen. Obwohl oft unbekannt, kann ein voreingenommenes KI-basiertes System schädliche Modelle oder Daten verwenden, die Rassismus oder Geschlechtervorurteile in eine Kreditentscheidung einbeziehen. Informationen wie Namen und Geschlecht können als Stellvertreter für die Kategorisierung und Identifizierung von Antragstellern auf illegale Weise dienen. Selbst wenn die Voreingenommenheit unabsichtlich ist, stellt sie das Unternehmen dennoch aufgrund von Nichteinhaltung regulatorischer Anforderungen aufs Spiel und kann dazu führen, dass bestimmte Gruppen von Menschen ungerechtfertigt Kredite oder Kreditlinien verweigert werden.

Derzeit haben Organisationen nicht die notwendigen Mittel, um Voreingenommenheit in KI-Systemen erfolgreich zu mindern. Da jedoch KI zunehmend in Unternehmen eingesetzt wird, um Entscheidungen zu treffen, ist es wichtig, dass Organisationen danach streben, Voreingenommenheit zu reduzieren, nicht nur aus moralischen Gründen, sondern auch, um regulatorischen Anforderungen zu entsprechen und Umsatz zu erzielen.

“Fairness-bewusste” Kultur und Implementierung

Lösungen, die auf fairness-bewusste Konstruktion und Implementierung ausgerichtet sind, werden die vorteilhaftesten Ergebnisse erzielen. Anbieter sollten eine analytische Kultur haben, die verantwortungsvolle Datenerfassung, -verwaltung und -verwaltung als notwendige Komponenten der algorithmischen Fairness berücksichtigt, da die Ergebnisse eines KI-Projekts, die durch voreingenommene, kompromittierte oder verzerrte Datensätze generiert werden, betroffene Parteien nicht angemessen vor diskriminierendem Schaden schützen.

Diese sind die Elemente der Datenfairness, die Datenwissenschaftler im Auge behalten müssen:

• Repräsentativität: Abhängig vom Kontext kann entweder die Unterrepräsentation oder Überrepräsentation von benachteiligten oder gesetzlich geschützten Gruppen in der Datenstichprobe zu einer systematischen Benachteiligung der gefährdeten Parteien in den Ergebnissen des trainierten Modells führen. Um solche Arten von Stichprobenbias zu vermeiden, ist Fachwissen erforderlich, um die Übereinstimmung zwischen den gesammelten oder erworbenen Daten und der zugrunde liegenden Population zu bewerten, die modelliert werden soll. Technische Teammitglieder sollten Mittel zur Behebung von Repräsentationsfehlern in der Stichprobe anbieten.
• Passend für den Zweck und ausreichend: Es ist wichtig, zu verstehen, ob die gesammelten Daten für den beabsichtigten Zweck des Projekts ausreichend sind. Unzureichende Datensätze können die Qualitäten, die zur Erzielung eines gerechtfertigten Ergebnisses berücksichtigt werden sollten, nicht angemessen widerspiegeln, das mit dem gewünschten Zweck des KI-Systems übereinstimmt. Entsprechend sollten Mitglieder des Projektteams mit technischen und politischen Kompetenzen zusammenarbeiten, um zu bestimmen, ob die Datenmenge ausreichend und passend für den Zweck ist.
• Quellenintegrität und Messgenauigkeit: Eine effektive Voreingenommenheitsminderung beginnt bereits am Anfang der Datenerfassung und -sammlung. Sowohl die Quellen als auch die Messwerkzeuge können diskriminierende Faktoren in einen Datensatz einführen. Um diskriminierenden Schaden zu vermeiden, muss die Datenstichprobe eine optimale Quellenintegrität aufweisen. Dies beinhaltet die Sicherstellung oder Bestätigung, dass die Datenerfassungsprozesse geeignete, zuverlässige und unparteiische Messquellen und robuste Sammlungsmethoden umfassten.
• Aktualität und Neuheit: Wenn die Datensätze veraltete Daten enthalten, können Änderungen in der zugrunde liegenden Datenverteilung die Verallgemeinerbarkeit des trainierten Modells negativ beeinflussen. Wenn diese Verteilungsverschiebungen Veränderungen in sozialen Beziehungen oder Gruppendynamiken widerspiegeln, kann der Verlust an Genauigkeit hinsichtlich der tatsächlichen Merkmale der zugrunde liegenden Population Voreingenommenheit in das KI-System einführen. Um diskriminierende Ergebnisse zu vermeiden, sollten Aktualität und Neuheit aller Elemente des Datensatzes überprüft werden.
• Relevanz, Angemessenheit und Fachwissen: Das Verständnis und die Verwendung der am besten geeigneten Quellen und Datentypen sind entscheidend für den Aufbau eines robusten und unvoreingenommenen KI-Systems. Solides Fachwissen über die zugrunde liegende Populationsverteilung und das vorhergesagte Ziel des Projekts ist instrumental für die Auswahl optimal relevanter Messeneingaben, die zur angemessenen Lösung der definierten Lösung beitragen. Fachexperten sollten eng mit Datenwissenschaftlern zusammenarbeiten, um die am besten geeigneten Kategorien und Quellen der Messung zu bestimmen.

Während KI-basierte Systeme bei der Automatisierung von Entscheidungsprozessen helfen und Kosteneinsparungen bieten, müssen Finanzinstitute, die KI als Lösung in Betracht ziehen, wachsam sein, um sicherzustellen, dass voreingenommene Entscheidungen nicht getroffen werden. Compliance-Verantwortliche sollten in enger Abstimmung mit ihrem Datenwissenschaftsteam stehen, um sicherzustellen, dass KI-Fähigkeiten verantwortungsvoll, effektiv und frei von Voreingenommenheit sind. Die Verfolgung einer Strategie, die verantwortungsvolle KI fördert, ist das Richtige, und sie kann auch einen Weg zur Einhaltung zukünftiger KI-Regulierungen bieten.