Fördomar och rättvisa i AI-baserade system inom finansiella brott

När det gäller att bekämpa finansiella brott finns det utmaningar som går utöver att bara stoppa bedragare eller andra dåliga aktörer.

En del av de senaste, avancerade teknologierna som lanseras har ofta sina egna specifika problem som måste beaktas under antagningsstadierna för att framgångsrikt bekämpa bedragare utan regulatoriska återverkningar. I bedrägeridetektering kan modellrättvisa och databias uppstå när ett system är mer tungt vägt eller saknar representation av vissa grupper eller kategorier av data. I teorin kunde en prediktiv modell felaktigt associera efternamn från andra kulturer med bedrägliga konton eller falskt minska risken inom befolkningssegment för vissa typer av finansiella aktiviteter.

Fördömda AI-system kan utgöra en allvarlig hot när rykten kan påverkas och uppstår när tillgänglig data inte är representativ för befolkningen eller fenomenet som undersöks. Denna data innehåller inte variabler som korrekt fångar fenomenet vi vill förutsäga. Alternativt kan data innehålla innehåll som skapats av människor, som kan innehålla fördomar mot grupper av människor, ärvt från kulturella och personliga upplevelser, vilket leder till förvrängningar när beslut fattas. Medan data först kan tyckas objektivt, samlas det in och analyseras av människor och kan därför vara fördomsfullt.

Det finns ingen silverkula när det gäller att åtgärda farorna med diskriminering och orättvisa i AI-system eller permanenta lösningar på problemet med rättvisa och biasmitigation i arkitekturen av maskinlärningsmodeller och användning, men dessa frågor måste beaktas av både samhälleliga och affärsmässiga skäl.

Att göra rätt i AI

Att hantera bias i AI-baserade system är inte bara rätt, utan också smart för företag – och insatserna för företagsledare är höga. Fördömda AI-system kan leda finansiella institutioner på fel väg genom att allokera möjligheter, resurser, information eller kvalitet på tjänster på ett orättvist sätt. De har till och med potentialen att kränka medborgerliga rättigheter, utgöra en fara för människors säkerhet eller påverka en persons välbefinnande om de uppfattas som nedsättande eller stötande.

Det är viktigt för företag att förstå kraften och riskerna med AI-bias. Även om det ofta är okänt för institutionen, kan ett fördömt AI-baserat system använda skadliga modeller eller data som exponerar ras- eller könsbias i ett lånebeslut. Informationen som namn och kön kan vara proxy för att kategorisera och identifiera sökande på olagliga sätt. Även om biasen är oavsiktlig, utsätter den fortfarande organisationen för risk genom att inte följa regulatoriska krav och kan leda till att vissa grupper av människor orättvist nekas lån eller kredit.

För närvarande har organisationer inte de bitar på plats som behövs för att framgångsrikt mildra bias i AI-system. Men eftersom AI alltmer används i företag för att informera beslut, är det viktigt att organisationer strävar efter att minska bias, inte bara av moraliska skäl, utan också för att följa regulatoriska krav och bygga intäkter.

”Rättvisemedveten” kultur och implementering

Lösningar som fokuserar på rättvisemedveten design och implementering kommer att ha de mest fördelaktiga resultaten. Leverantörer bör ha en analytisk kultur som tar hänsyn till ansvarsfull datainsamling, hantering och förvaltning som nödvändiga komponenter i algoritmisk rättvisa, eftersom om resultaten av ett AI-projekt genereras av fördomsfulla, komprometterade eller snedvridna dataset, kommer berörda parter inte tillräckligt att skyddas från diskriminerande skada.

Dessa är elementen av data-rättvisa som data science-team måste ha i åtanke:

• Representativitet: Beroende på sammanhanget kan antingen underrepresentation eller överrepresentation av missgynnade eller lagligt skyddade grupper i datamängden leda till systematiskt missgynnande av utsatta parter i resultaten av den tränade modellen. För att undvika sådana typer av urvalsbias är domänkompetens avgörande för att bedöma passningen mellan den insamlade eller förvärvade datan och den underliggande populationen som ska modelleras. Tekniska teammedlemmar bör erbjuda medel för att åtgärda representativa brister i urvalet.
• Lämplighet och tillräcklighet: Det är viktigt att förstå om den insamlade datan är tillräcklig för det avsedda syftet med projektet. Otillräckliga dataset kan inte rättvist återspegla de egenskaper som bör beaktas för att producera en motiverad utgång som är förenlig med det önskade syftet med AI-systemet. Därför bör medlemmar av projektteamet med teknisk och politisk kompetens samarbeta för att avgöra om datakvantiteten är tillräcklig och lämplig för syftet.
• Källintegritet och mätnoggrannhet: Effektiv biasmitigation börjar i början av dataextraktion och insamling. Både källor och mätverktyg kan införa diskriminerande faktorer i en datamängd. För att säkra diskriminerande ofördel bör datamängden ha en optimal källintegritet. Detta innebär att säkra eller bekräfta att datainsamlingen inbegrep lämpliga, tillförlitliga och opartiska källor för mätning och robusta metoder för insamling.
• Aktualitet och nylighet: Om datamängderna innehåller föråldrad data, kan förändringar i den underliggande datadistributionen negativt påverka den tränade modellens generaliserbarhet. Om dessa distributionella förskjutningar återspeglar förändrade sociala relationer eller gruppdyynamik, kan denna förlust av noggrannhet avseende de faktiska egenskaperna hos den underliggande populationen införa bias i AI-systemet. För att förhindra diskriminerande resultat bör aktualitet och nylighet hos alla delar av datamängden granskas.
• Relevans, lämplighet och domänkunskap: Förståelsen och användningen av de mest lämpliga källorna och typerna av data är avgörande för att bygga ett robust och obestämt AI-system. Fast domänkunskap om den underliggande populationens distribution och om det prediktiva målet för projektet är instrumentalt för att välja optimalt relevanta mätinmatningar som bidrar till den rimliga lösningen av den definierade lösningen. Domänexperter bör samarbeta nära med data science-team för att hjälpa till att bestämma optimalt lämpliga kategorier och källor för mätning.

Medan AI-baserade system hjälper till att automatisera beslutsprocesser och leverera kostnadsbesparingar, måste finansiella institutioner som överväger AI som en lösning vara vaksamma för att säkerställa att fördomsfulla beslut inte sker. Compliance-ledare bör vara i samklang med sitt data science-team för att bekräfta att AI-kapaciteterna är ansvarsfulla, effektiva och fria från bias. Att ha en strategi som främjar ansvarsfull AI är rätt sak att göra, och det kan också ge en väg till efterlevnad av framtida AI-regleringar.