Forudsigelser og Fairness i AI-baserede Systemer til Finansiel Kriminalitet

Når det kommer til at bekæmpe finansiel kriminalitet, findes der udfordringer, der går ud over det at stoppe svindlere eller andre kriminelle aktører.

Nogle af de nyeste, avancerede teknologier, der lanceres, har ofte deres egne specifikke problemer, der skal være med i overvejelserne under adoptionsfasen for at kunne bekæmpe svindlere uden regulatoriske konsekvenser. I svindelforespørgelse kan modelfairness og databias opstå, når et system er mere tungt vægtet eller mangler repræsentation af bestemte grupper eller kategorier af data. I teorien kunne en prædictiv model forkert associerer efternavne fra andre kulturer med svindelkonti eller falsk reducerer risikoen inden for befolkningssegmenter for bestemte typer af finansielle aktiviteter.

Forudsigelserne i AI-systemer kan udgøre en alvorlig trussel, når rygter kan være berørt, og opstår, når den tilgængelige data ikke er repræsentativ for befolkningen eller fænomenet, der skal undersøges. Disse data inkluderer ikke variabler, der korrekt kan fange fænomenet, vi ønsker at forudsige. Alternativt kan dataene inkludere indhold produceret af mennesker, der kan indeholde bias mod grupper af mennesker, arvet fra kulturelle og personlige erfaringer, hvilket kan føre til forvrængninger, når der træffes beslutninger. Selv om data kan synes objektive, indsamles og analyseres de af mennesker og kan derfor være forbiasede.

Da der ikke findes en enkelt løsning, når det kommer til at afhjælpe farerne ved diskrimination og uretfærdighed i AI-systemer eller permanente løsninger på problemet med fairness og bias-mitigation i arkitekturen af maskinlæringsmodeller og brug, skal disse spørgsmål overvejes både af sociale og erhvervsmæssige årsager.

At Gøre Det Rette i AI

At adressere bias i AI-baserede systemer er ikke kun det rigtige, men også det smarte for virksomheder — og indsatsen for virksomhedsledere er høj. Forudsigelserne i AI-systemer kan føre finansielle institutioner på afveje ved at fordele muligheder, ressourcer, information eller servicekvalitet uretfærdigt. De har endda potentialet til at krænke borgerrettigheder, udgøre en trussel mod individers sikkerhed eller påvirke en persons trivsel, hvis de opfattes som nedladende eller fornærmelige.

Det er vigtigt for virksomheder at forstå kraften og risikoen ved AI-bias. Selv om det ofte er ukendt for institutionen, kan et forudsigelses- AI-system bruge skadelige modeller eller data, der afslører racemæssig eller kønsbias i en kreditbeslutning. Information som navne og køn kan være proxyer for at kategorisere og identificere ansøgere på ulovlige måder. Selv om bias er utilsigtet, sætter det alligevel organisationen i risiko ved ikke at overholde regulatoriske krav og kan føre til, at bestemte grupper af mennesker uretfærdigt bliver afvist lån eller kredit.

I øjeblikket har organisationer ikke de rette dele på plads for at kunne afhjælpe bias i AI-systemer. Men da AI i stigende grad bliver anvendt på tværs af virksomheder for at informere beslutninger, er det afgørende, at organisationer stræber efter at reducere bias, ikke kun af moralske årsager, men for at overholde regulatoriske krav og opbygge omsætning.

“Fairness-Aware” Kultur og Implementering

Løsninger, der fokuserer på fairness-aware design og implementering, vil have de mest gavnlige resultater. Leverandører skal have en analytisk kultur, der tager hensyn til ansvarlig dataindsamling, -håndtering og -styring som nødvendige komponenter i algoritme-fairness, fordi hvis resultaterne af et AI-projekt er genereret af forudsigelses-, kompromitteret eller skævt datasæt, vil berørte parter ikke være tilstrækkeligt beskyttet mod diskriminerende skade.

Disse er elementerne af datafairness, som datavidenskabs-holdene skal holde øje med:

• Repræsentativitet:Afhængigt af konteksten kan enten underrepræsentation eller overrepræsentation af udsatte eller lovbeskyttede grupper i datasættet føre til systematisk udsættelse af sårbare parter i resultaterne af den trænede model. For at undgå denne type af sampling-bias er domæneekspertise afgørende for at vurdere tilpasningen mellem den indsamlede eller erhvervede data og den underliggende befolkning, der skal modelleres. Tekniske teammedlemmer skal tilbyde midler til at rette fejl i repræsentationsfejl i samplingen.
• Passende og Tilstrækkelighed:Det er vigtigt at forstå, om den indsamlede data er tilstrækkelig til formålet med projektet. Utilstrækkelige datasæt kan ikke nødvendigvis afspejle de egenskaber, der skal vejes for at producere en berettiget udgang, der er i overensstemmelse med det ønskede formål med AI-systemet. Herefter skal medlemmer af projektteamet med tekniske og politiske kompetencer samarbejde om at afgøre, om datakvantiteten er tilstrækkelig og passende til formålet.
• Kildeintegritet og Målepræcision:Effektiv bias-mitigation starter allerede i begyndelsen af dataudtrækning og -indsamling. Både kilderne og måleinstrumenterne kan introducere diskriminerende faktorer i et datasæt. For at sikre diskriminerende ikke-skade skal datasættet have en optimal kildeintegritet. Dette indebærer at sikre eller bekræfte, at dataindsamlingprocesserne involverer passende, pålidelige og upartiske kilder af måling og robuste metoder til indsamling.
• Aktualitet og Recency:Hvis datasættene indeholder forældede data, kan ændringer i den underliggende datafordeling påvirke generaliserbarheden af den trænede model. Hvis disse distributionelle skift reflekterer ændringer i sociale relationer eller gruppedynamik, kan denne tab af nøjagtighed i forhold til de faktiske egenskaber af den underliggende befolkning introducere bias i AI-systemet. For at forhindre diskriminerende resultater skal aktualitet og recency af alle elementer i datasættet være underlagt en kritisk vurdering.
• Relevans, Passende og Domæneviden:Forståelsen og brugen af de mest passende kilder og typer af data er afgørende for at opbygge et robust og upartisk AI-system. Solid domæneviden om den underliggende befolkningsfordeling og om det prædiktive mål med projektet er instrumental for at vælge de mest relevante måleindgangsdata, der bidrager til en rimelig løsning af den definerede løsning. Domæneeksperter skal samarbejde tæt med datavidenskabs-hold for at hjælpe med at bestemme de mest passende kategorier og kilder af måling.

Da AI-baserede systemer hjælper med at automatisere beslutningsprocesser og levere omkostningsbesparelser, skal finansielle institutioner, der overvejer AI som en løsning, være på vagt for at sikre, at forudsigelses-bias ikke finder sted. Compliance-ledere skal være i takt med deres datavidenskabs-hold for at bekræfte, at AI-kapaciteterne er ansvarlige, effektive og fri for bias. At have en strategi, der fremmer ansvarlig AI, er det rigtige at gøre, og det kan også give en vej til overholdelse af fremtidige AI-reguleringer.