Forutinng og rettferdighet i AI-baserte systemer innen finansiell kriminalitet

Når det gjelder å bekjempe finansiell kriminalitet, finnes det utfordringer som går utenfor omfanget av å bare stoppe svindlere eller andre kriminelle aktører.

Noen av de nyeste, avanserte teknologiene som lanseres, har ofte sine egne spesifikke problemer som må vurderes under innføringsfasen for å vellykke å bekjempe svindlere uten regulatorenske konsekvenser. I svindelforsvar kan modellrettferdighet og databias oppstå når et system er mer tungt veid eller mangler representasjon av bestemte grupper eller kategorier av data. I teorien kunne en prediktiv modell feilaktig assosiere etternavn fra andre kulturer med svindelkontoer, eller feilaktig redusere risiko innen befolkningssegmenter for bestemte typer finansielle aktiviteter.

Forutinngede AI-systemer kan representere en alvorlig trussel når rykter kan bli berørt og oppstår når tilgjengelig data ikke er representativ for befolkningen eller fenomenet som skal undersøkes. Denne dataen inkluderer ikke variabler som korrekt fanger fenomenet vi ønsker å forutsi. Eller alternativt kan dataen inkludere innhold produsert av mennesker, som kan inneholde forutinng mot grupper av mennesker, arvet fra kulturelle og personlige erfaringer, og som kan føre til forvrengninger når beslutninger tas. Mens dataen på overflaten kan se objektiv ut, er den likevel samlet inn og analysert av mennesker, og kan derfor være forutinngede.

Det finnes ingen sølvkule når det gjelder å rette opp farerne med diskriminering og urettferdighet i AI-systemer eller permanente løsninger på problemet med rettferdighet og forutinngsreduksjon i arkitekturen av maskinlæringsmodeller og bruk, men disse problemene må vurderes både av sosiale og forretningsmessige årsaker.

Å gjøre det riktige i AI

Å håndtere forutinng i AI-baserte systemer er ikke bare det riktige, men også det smarte for bedrifter — og innsatsen for bedriftsledere er høy. Forutinngede AI-systemer kan føre finansielle institusjoner på feil vei ved å tildele muligheter, ressurser, informasjon eller kvalitet på tjenesten urettferdig. De har også potensialet til å krenke borgerrettigheter, være skadelig for sikkerheten til enkeltpersoner eller påvirke en persons velvære hvis de oppfattes som nedlatende eller fornærmelige.

Det er viktig for bedrifter å forstå kraften og risikoen med AI-forutinng. Selv om det ofte er ukjent for institusjonen, kan et forutinngede AI-basert system bruke skadelige modeller eller data som eksponerer rasemessig eller kjønnsbasert forutinng i en kreditavgjørelse. Informasjon som navn og kjønn kan være proxyer for å kategorisere og identifisere søkere på ulovlige måter. Selv om forutinngen er uforsett, setter den likevel organisasjonen i risiko ved ikke å være i samsvar med regulatorenske krav og kan føre til at bestemte grupper av mennesker blir urettferdig nektet lån eller kreditt.

For tiden har organisasjonene ikke delene på plass for å vellykke å reducere forutinng i AI-systemer. Men med AI som stadig blir deployert over bedrifter for å informere beslutninger, er det viktig at organisasjonene streber etter å redusere forutinng, ikke bare av moralske årsaker, men også for å være i samsvar med regulatorenske krav og bygge inntekter.

“Rettferdighetssensitiv” Kultur og Implementering

Løsninger som er fokusert på rettferdighetssensitiv design og implementering vil ha de mest gunstige resultater. Leverandører bør ha en analytisk kultur som vurderer ansvarlig datainnsamling, håndtering og forvaltning som nødvendige komponenter av algoritmesk rettferdighet, fordi hvis resultater av et AI-prosjekt er generert av forutinngede, kompromitterte eller skjeve datasett, vil berørte parter ikke være tilstrekkelig beskyttet mot diskriminerende skade.

Disse er elementene av datarettferdighet som datavitenskapelige team må holde i mente:

• Representativitet: Avhengig av konteksten, kan enten underrepresentasjon eller overrepresentasjon av ufordelte eller lovmessig beskyttede grupper i datasamplet føre til systematisk ufordeling av sårbare parter i resultater av den trente modellen. For å unngå slike typer sampling-forutinng, vil domeneekspertise være avgjørende for å vurdere passningen mellom data som er samlet inn eller innhentet og den underliggende befolkningen som skal modelleres. Tekniske teammedlemmer bør tilby midler for å rette opp representasjonelle feil i samplingen.
• Passende for formål og tilstrekkelighet: Det er viktig å forstå om dataene som er samlet inn er tilstrekkelige for prosjektets ønskede formål. Utilstrekkelige datasett kan ikke likeverdig reflektere de kvaliteter som bør veies for å produsere en berettiget utfall som er konsistent med AI-systemets ønskede formål. Derfor bør prosjektteammedlemmer med tekniske og politiske kompetanser samarbeide for å bestemme om datakvantiteten er tilstrekkelig og passende for formålet.
• Kildeintegritet og måleakkuratheit: Effektiv forutinngsreduksjon starter ved begynnelsen av datainnsamling og -samling. Både kilder og måleverktøy kan introdusere diskriminerende faktorer i et datasett. For å sikre diskriminerende non-harm, må datasamplet ha en optimal kildeintegritet. Dette innebærer å sikre eller bekrefte at datainnsamlingsprosessene involverte egnet, pålitelig og upartisk kilde og robuste metoder for innsamling.
• Aktualitet og nylighet: Hvis datasettene inkluderer foreldede data, kan endringer i den underliggende datafordelingen negativt påvirke den trente modellens generaliserbarhet. Gitt at disse distribusjonsskiftene reflekterer endringer i sosiale relasjoner eller gruppedynamikk, kan denne tapet av nøyaktighet med hensyn til de underliggende befolkningens egenskaper introdusere forutinng i AI-systemet. For å forebygge diskriminerende resultater, bør aktualitet og nylighet av alle datasetts elementer vurderes.
• Relevans, passende og domenekunnskap: Forståelsen og bruken av de mest passende kildene og datatypene er avgjørende for å bygge et robust og urettferdig AI-system. Solid domenekunnskap om den underliggende befolkningens distribusjon og om prosjektets prediktive mål, er instrumental for å velge optimalt relevante måleinnputt som bidrar til en rimelig løsning av den definerte løsningen. Domeksekspertene bør samarbeide nært med datavitenskapelige team for å assistere i å bestemme optimalt passende kategorier og kilder for måling.

Mens AI-baserte systemer assisterer i automatiseringsprosesser og leverer kostnadsbesparelser, må finansielle institusjoner som vurderer AI som en løsning være våken for å sikre at forutinngede beslutninger ikke skjer. Compliance-ledere bør være i takt med deres datavitenskapelige team for å bekrefte at AI-kapasiteter er ansvarlige, effektive og fri for forutinng. Å ha en strategi som fremmer ansvarlig AI er det riktige å gjøre, og det kan også gi en vei til samsvar med fremtidige AI-reguleringer.