Pristranost i pravednost sustava temeljenih na umjetnoj inteligenciji unutar financijskog kriminala

Kada je riječ o borbi protiv financijskog kriminala, postoje izazovi koji nadilaze opseg pukog zaustavljanja prevaranata ili drugih loših aktera.

Neke od najnovijih, naprednih tehnologija koje se lansiraju često imaju svoje specifične probleme koji se moraju uzeti u obzir tijekom faza usvajanja kako bi se uspješno borili protiv prevaranata bez regulatornih posljedica. U otkrivanju prijevara, pravednost modela i pristranost podataka mogu se pojaviti kada je sustav jače ponderiran ili mu nedostaje zastupljenost određenih grupa ili kategorija podataka. U teoriji, prediktivni model mogao bi pogrešno povezati prezimena iz drugih kultura s lažnim računima ili lažno smanjiti rizik unutar segmenata stanovništva za određenu vrstu financijskih aktivnosti.

Pristrani sustavi umjetne inteligencije mogu predstavljati ozbiljnu prijetnju kada se može utjecati na reputaciju i događa se kada dostupni podaci nisu reprezentativni za populaciju ili fenomen istraživanja. Ovi podaci ne uključuju varijable koje pravilno prikazuju fenomen koji želimo predvidjeti. Ili alternativno, podaci mogu uključivati ​​sadržaj koji su proizveli ljudi, a koji može sadržavati predrasude prema skupinama ljudi, naslijeđen kulturnim i osobnim iskustvima, što dovodi do iskrivljenja prilikom donošenja odluka. Dok se podaci na prvi pogled mogu činiti objektivnima, ljudi ih ipak prikupljaju i analiziraju te stoga mogu biti pristrani.

Iako ne postoji srebrni metak kada je u pitanju otklanjanje opasnosti od diskriminacije i nepravednosti u sustavima umjetne inteligencije ili trajno rješavanje problema pravednosti i ublažavanja pristranosti u arhitekturi modela strojnog učenja i upotrebe, ta se pitanja moraju uzeti u obzir i za društvo i za poslovni razlozi.

Raditi pravu stvar u AI

Rješavanje pristranosti u sustavima temeljenim na umjetnoj inteligenciji nije samo ispravna, već i pametna stvar za poslovanje — a ulozi za poslovne vođe su visoki. Pristrani sustavi umjetne inteligencije mogu odvesti financijske institucije na krivi put nepravednom dodjelom prilika, resursa, informacija ili kvalitete usluge. Oni čak mogu narušiti građanske slobode, predstavljati štetu sigurnosti pojedinaca ili utjecati na dobrobit osobe ako se dožive kao omalovažavajući ili uvredljivi.

Za poduzeća je važno razumjeti snagu i rizike pristranosti umjetne inteligencije. Iako je institucija često nepoznata, pristrani sustav temeljen na umjetnoj inteligenciji mogao bi koristiti štetne modele ili podatke koji razotkrivaju rasnu ili spolnu pristranost u odluci o kreditiranju. Informacije kao što su imena i spol mogu biti zamjena za kategorizaciju i identifikaciju podnositelja zahtjeva na nezakonite načine. Čak i ako je pristranost nenamjerna, ona i dalje izlaže organizaciju riziku zbog nepridržavanja regulatornih zahtjeva i može dovesti do toga da se određenim skupinama ljudi nepravedno uskraćuju zajmovi ili kreditne linije.

Trenutačno organizacije nemaju pripremljene dijelove za uspješno ublažavanje pristranosti u sustavima umjetne inteligencije. Ali s obzirom na to da se AI sve više primjenjuje u tvrtkama za donošenje informiranih odluka, od ključne je važnosti da organizacije teže smanjenju pristranosti, ne samo iz moralnih razloga, već i radi usklađivanja s regulatornim zahtjevima i stvaranja prihoda.

Kultura i implementacija “svjesna pravednosti”.

Rješenja koja su usmjerena na dizajn i implementaciju svjesnu pravednosti imat će najkorisnije rezultate. Pružatelji bi trebali imati analitičku kulturu koja odgovorno prikupljanje podataka, rukovanje i upravljanje smatra neophodnim komponentama algoritamske pravednosti, jer ako su rezultati projekta umjetne inteligencije generirani pristranim, kompromitiranim ili iskrivljenim skupovima podataka, pogođene strane neće biti adekvatno zaštićene od diskriminirajuća šteta.

Ovo su elementi poštenja podataka koje timovi za znanost o podacima moraju imati na umu:

• Reprezentativnost:Ovisno o kontekstu, podzastupljenost ili prezastupljenost skupina u nepovoljnom položaju ili zakonski zaštićenih skupina u uzorku podataka može dovesti do sustavnog stavljanja ranjivih strana u nepovoljniji položaj u ishodima obučenog modela. Kako bi se izbjegle takve vrste pristranosti uzorkovanja, stručnost u domeni bit će ključna za procjenu usklađenosti između prikupljenih ili stečenih podataka i temeljne populacije koja se modelira. Članovi tehničkog tima trebali bi ponuditi sredstva za ispravljanje reprezentativnih nedostataka u uzorkovanju.
• Prikladnost za namjenu i dostatnost: Važno je razumjeti jesu li prikupljeni podaci dostatni za namjeravanu svrhu projekta. Nedovoljni skupovi podataka možda neće pravedno odražavati kvalitete koje bi trebalo odvagnuti da bi se proizveo opravdan ishod koji je u skladu sa željenom svrhom sustava umjetne inteligencije. U skladu s tim, članovi projektnog tima s tehničkim i političkim kompetencijama trebali bi surađivati ​​kako bi utvrdili je li količina podataka dovoljna i odgovara li namjeni.
• Integritet izvora i točnost mjerenja:Učinkovito ublažavanje pristranosti počinje na samom početku procesa ekstrakcije i prikupljanja podataka. I izvori i alati mjerenja mogu uvesti diskriminirajuće čimbenike u skup podataka. Kako bi se osigurala diskriminirajuća neškodljivost, uzorak podataka mora imati optimalan izvorni integritet. To uključuje osiguranje ili potvrdu da su procesi prikupljanja podataka uključivali prikladne, pouzdane i nepristrane izvore mjerenja i robusne metode prikupljanja.
• Pravovremenost i nedavnost: Ako skupovi podataka uključuju zastarjele podatke, tada promjene u temeljnoj distribuciji podataka mogu nepovoljno utjecati na mogućnost generalizacije uvježbanog modela. Pod uvjetom da ti distribucijski pomaci odražavaju promjenu društvenih odnosa ili grupne dinamike, ovaj gubitak točnosti u pogledu stvarnih karakteristika temeljne populacije može unijeti pristranost u sustav umjetne inteligencije. Kako bi se spriječili diskriminirajući ishodi, potrebno je pomno ispitati pravovremenost i aktualnost svih elemenata skupa podataka.
• Relevantnost, prikladnost i poznavanje domene: Razumijevanje i korištenje najprikladnijih izvora i vrsta podataka ključni su za izgradnju robusnog i nepristranog sustava umjetne inteligencije. Čvrsto poznavanje domene temeljne distribucije stanovništva i prediktivnog cilja projekta je instrumentalno za odabir optimalno relevantnih mjernih ulaza koji doprinose razumnoj razlučivosti definiranog rješenja. Stručnjaci za područje trebali bi blisko surađivati ​​s timovima za znanost podataka kako bi pomogli u određivanju optimalno odgovarajućih kategorija i izvora mjerenja.

Dok sustavi temeljeni na umjetnoj inteligenciji pomažu u procesima automatizacije donošenja odluka i donose uštede troškova, financijske institucije koje razmatraju umjetnu inteligenciju kao rješenje moraju biti oprezne kako bi osigurale da se ne donose pristrane odluke. Voditelji usklađenosti trebali bi biti u koraku sa svojim timom za znanost podataka kako bi potvrdili da su sposobnosti umjetne inteligencije odgovorne, učinkovite i nepristrane. Imati strategiju koja zagovara odgovornu umjetnu inteligenciju ispravna je stvar, a također može pružiti put do usklađenosti s budućim propisima o umjetnoj inteligenciji.