Vooroordelen en eerlijkheid van AI-gebaseerde systemen bij financiële criminaliteit

Wanneer het gaat om het bestrijden van financiële criminaliteit, bestaan er uitdagingen die verder gaan dan het stoppen van fraudeurs of andere slechte actoren.

Enkele van de nieuwste, geavanceerde technologieën die worden gelanceerd, hebben vaak hun eigen specifieke problemen die moeten worden overwogen tijdens de adoptiefase om fraudeurs succesvol te bestrijden zonder regulatorische gevolgen. Bij fraudeopsporing kunnen modeloneerlijkheid en gegevensvooroordeel optreden wanneer een systeem zwaarder is gewogen of een bepaalde groep of categorie gegevens ontbreekt. In theorie kan een predictief model ten onrechte associëren met achternamen uit andere culturen met frauduleuze accounts, of vals verlagen van het risico binnen bevolkingssegmenten voor bepaalde soorten financiële activiteiten.

Vooringenomen AI-systemen kunnen een ernstige bedreiging vormen wanneer reputaties kunnen worden beïnvloed en optreden wanneer de beschikbare gegevens niet representatief zijn voor de populatie of het fenomeen dat wordt onderzocht. Deze gegevens bevatten geen variabelen die het fenomeen dat we willen voorspellen, goed vastleggen. Of anderszins kan de gegevens inhoud bevatten die door mensen is gegenereerd, die vooroordeel tegen groepen mensen kan bevatten, geërfd door culturele en persoonlijke ervaringen, wat tot vertekening kan leiden bij het nemen van beslissingen. Terwijl gegevens in eerste instantie objectief lijken, worden ze toch verzameld en geanalyseerd door mensen en kunnen ze dus vooringenomen zijn.

Er is geen zilveren kogel om de gevaren van discriminatie en oneerlijkheid in AI-systemen te bestrijden of permanente oplossingen voor het probleem van eerlijkheid en vooroordeelmitigatie bij het ontwerpen van machine learning-modellen en het gebruik ervan, maar deze kwesties moeten worden overwogen voor zowel sociale als bedrijfsredenen.

Het juiste doen in AI

Het aanpakken van vooroordeel in AI-gebaseerde systemen is niet alleen het juiste, maar ook het slimme voor bedrijven — en de inzet voor bedrijfsleiders is hoog. Vooringenomen AI-systemen kunnen financiële instellingen op het verkeerde pad zetten door kansen, middelen, informatie of de kwaliteit van de dienstverlening oneerlijk toe te wijzen. Ze kunnen zelfs inbreuk maken op de burgerrechten, een gevaar vormen voor de veiligheid van individuen of de welzijn van een persoon beïnvloeden als ze als minachtend of aanstootgevend worden beschouwd.

Het is belangrijk dat ondernemingen de kracht en risico’s van AI-vooringenomenheid begrijpen. Hoewel vaak onbekend bij de instelling, kan een vooringenomen AI-gebaseerd systeem schadelijke modellen of gegevens gebruiken die ras- of geslachtsvooringenomenheid in een kredietbeslissing introduceren. Informatie zoals namen en geslacht kan dienen als tussenpersonen voor het categoriseren en identificeren van aanvragers op illegale wijze. Zelfs als de vooroordeel onbewust is, brengt het de organisatie nog steeds in gevaar door niet te voldoen aan de regulatorische vereisten en kan het leiden tot het onrechtvaardig weigeren van leningen of kredietlimieten voor bepaalde groepen mensen.

Momenteel hebben organisaties niet de middelen om succesvol vooroordeel in AI-systemen te mitigeren. Maar met AI die steeds vaker wordt ingezet in bedrijven om beslissingen te nemen, is het essentieel dat organisaties streven naar het verminderen van vooroordeel, niet alleen om morele redenen, maar om te voldoen aan de regulatorische vereisten en omgeving op te bouwen.

“Eerlijkheidsbewuste” cultuur en implementatie

Oplossingen die zijn gericht op eerlijkheidsbewuste ontwerp en implementatie zullen de meest gunstige resultaten opleveren. Aanbieders moeten een analytische cultuur hebben die verantwoorde gegevensverzameling, -beheer en -beheer beschouwt als noodzakelijke componenten van algoritme-eerlijkheid, omdat, als de resultaten van een AI-project zijn gegenereerd door vooringenomen, gecompromitteerde of vertekende datasets, de betrokken partijen niet voldoende worden beschermd tegen discriminatoire schade.

Dit zijn de elementen van gegevensrechtvaardigheid die datawetenschapsteams in gedachten moeten houden:

• Representativiteit:Afhankelijk van de context kan ondervertegenwoordiging of oververtegenwoordiging van benadeelde of wettelijk beschermde groepen in de gegevenssample leiden tot het systematisch benadelen van kwetsbare partijen in de resultaten van het getrainde model. Om dergelijke soorten steekproefvooroordeel te voorkomen, is domeinexpertise essentieel om de fit tussen de verzamelde of verworven gegevens en de onderliggende populatie die moet worden gemodelleerd, te beoordelen. Technische teamleden moeten middelen bieden om representatieve gebreken in de steekproef te corrigeren.
• Geschikt voor doel en voldoende: Het is belangrijk om te begrijpen of de verzamelde gegevens voldoende zijn voor het beoogde doel van het project. Onvoldoende datasets kunnen de kwaliteiten die moeten worden afgewogen om een gerechtvaardigd resultaat te produceren dat consistent is met het gewenste doel van het AI-systeem, niet eerlijk weerspiegelen. Dienvolgens moeten leden van het projectteam met technische en beleidsvaardigheden samenwerken om te bepalen of de gegevenshoeveelheid voldoende en geschikt is voor het doel.
• Bronintegriteit en meetnauwkeurigheid: Effectieve vooroordeelmitigatie begint bij het begin van de gegevensextractie- en verzamelingsprocessen. Zowel de bronnen als de meetinstrumenten kunnen discriminatoire factoren in een dataset introduceren. Om discriminatoire schade te voorkomen, moet de gegevenssample een optimale bronintegriteit hebben. Dit omvat het waarborgen of bevestigen dat de gegevensverzamelingsprocessen geschikte, betrouwbare en onpartijdige bronnen van meting en robuuste methoden van verzameling betrof.
• Actualiteit en recentheid: Als de datasets verouderde gegevens bevatten, kunnen veranderingen in de onderliggende gegevensverdeling de generaliseerbaarheid van het getrainde model nadelig beïnvloeden. Als deze distributieve verschuivingen veranderingen in sociale relaties of groepsdynamiek weerspiegelen, kan het verlies van nauwkeurigheid met betrekking tot de werkelijke kenmerken van de onderliggende populatie vooroordeel in het AI-systeem introduceren. Om discriminatoire resultaten te voorkomen, moet de actualiteit en recentheid van alle elementen van de dataset worden onderzocht.
• Relevantie, geschiktheid en domeinkennis: Het begrijpen en gebruiken van de meest geschikte bronnen en soorten gegevens zijn cruciaal voor het opbouwen van een robuust en onbevooroordeeld AI-systeem. Solide domeinkennis van de onderliggende populatiedistributie en van het predictieve doel van het project is instrumenteel voor het selecteren van optimale relevante meetinput die bijdraagt aan de redelijke oplossing van de gedefinieerde oplossing. Domeinexperts moeten nauw samenwerken met datawetenschapsteams om te helpen bij het bepalen van optimale categorieën en bronnen van meting.

Terwijl AI-gebaseerde systemen helpen bij het automatiseren van beslissingsprocessen en kostenbesparingen opleveren, moeten financiële instellingen die AI overwegen als oplossing waakzaam zijn om te waarborgen dat vooringenomen beslissingen niet plaatsvinden. Compliance-leiders moeten in overeenstemming zijn met hun datawetenschapsteam om te bevestigen dat AI-mogelijkheden verantwoord, effectief en vrij van vooroordeel zijn. Het hebben van een strategie die verantwoorde AI bevordert, is het juiste om te doen, en het kan ook een pad naar naleving van toekomstige AI-regelgeving bieden.