Zaujatost a spravedlnost systémů založených na umělém inteligenci v boji proti finančním zločinům

Při boji proti finančním zločinům existují výzvy, které sahají za rámec pouhého zastavení podvodníků nebo jiných škodlivých aktérů.

Některé z nejnovějších a nejpokročilejších technologií, které jsou uváděny na trh, často mají své vlastní specifické problémy, které je třeba vzít v úvahu během fáze přijetí, aby se úspěšně bojovalo proti podvodníkům bez regulatorních dopadů. Při detekci podvodů může dojít k nespravedlnosti modelu a zaúhlení dat, když je systém více vážen nebo postrádá reprezentaci určitých skupin nebo kategorií dat. Teoreticky by předpovědní model mohl nesprávně spojovat příjmení z jiných kultur s podvodnými účty nebo falešně snižovat riziko uvnitř segmentů populace pro určitý typ finančních aktivit.

Zaujaté systémy umělé inteligence mohou představovat vážnou hrozbu, když mohou být ovlivněny pověsti a dochází k nim, když dostupná data nejsou reprezentativní pro populaci nebo jev, který chceme prozkoumat. Tato data neobsahují proměnné, které řádně zachycují jev, který chceme předpovědět. Nebo alternativně mohou data obsahovat obsah vytvořený lidmi, který může obsahovat zaúhlení proti skupinám lidí, zděděné z kulturních a osobních zkušeností, což vede ke zkreslením při rozhodování. Zatímco na první pohled se data mohou zdát objektivní, jsou stále shromažďována a analyzována lidmi a mohou být tedy zaujatá.

Neexistuje žádný všelék na odstranění nebezpečí diskriminace a nespravedlnosti v systémech umělé inteligence nebo trvalá řešení problému spravedlnosti a odstranění zaúhlení při architektuře modelů strojového učení a jejich použití, tyto problémy je třeba vzít v úvahu jak z důvodu společnosti, tak z důvodu podnikání.

Činění správné věci v umělé inteligenci

Řešení zaúhlení v systémech založených na umělé inteligenci není pouze správné, ale také chytré pro podnikání – a sázky pro lídry podniků jsou vysoké. Zaujaté systémy umělé inteligence mohou vést finanční instituce špatnou cestou přidělováním příležitostí, zdrojů, informací nebo kvality služeb nespravedlivě. Mohou dokonce porušovat občanské svobody, ohrožovat bezpečnost jednotlivců nebo ovlivňovat blaho člověka, pokud jsou vnímány jako urážlivé nebo ofenzivní.

Je důležité, aby podniky rozuměly moci a rizikům zaúhlení umělé inteligence. Ačkoli je často institucí neznámé, zaujatý systém založený na umělé inteligenci by mohl používat škodlivé modely nebo data, která odhalují rasové nebo genderové zaúhlení do rozhodnutí o úvěru. Informace, jako jsou jména a pohlaví, by mohly být zástupci pro kategorizaci a identifikaci žadatelů nezákonným způsobem. I když je zaúhlení neúmyslné, stále to vystavuje organizaci riziku nesplnění regulatorních požadavků a může vést k tomu, že certain skupiny lidí budou nespravedlivě odmítnuty úvěry nebo úvěrové linky.

V současné době nemají organizace k dispozici prostředky pro úspěšné odstranění zaúhlení v systémech umělé inteligence. Avšak s rostoucím nasazováním umělé inteligence v podnicích pro informování rozhodnutí je důležité, aby organizace usilovaly o snížení zaúhlení, nejen z morálních důvodů, ale také pro splnění regulatorních požadavků a generování příjmů.

„Spravedlnost-vědomá“ kultura a implementace

Řešení zaměřená na spravedlnost-vědomý design a implementaci budou mít nejvýhodnější výsledky. Poskytovatelé by měli mít analytickou kulturu, která zahrnuje odpovědné získávání, zpracování a správu dat jako nezbytné součásti algoritmické spravedlnosti, protože pokud jsou výsledky projektu umělé inteligence generovány zaujatými, kompromitovanými nebo zkreslenými daty, postižené strany nebudou dostatečně chráněny před diskriminačním poškozením.

Tyto jsou prvky datové spravedlnosti, které týmy datové vědy musí mít na paměti:

• Reprezentativnost: V závislosti na kontextu může buď podreprezentace nebo nadreprezentace znevýhodněných nebo právně chráněných skupin ve vzorku dat vést k systematickému znevýhodňování zranitelných stran ve výsledcích trénovaného modelu. Pro zabránění takového druhu výběrového zaúhlení bude nezbytné odborné znalosti pro posouzení shody mezi shromážděnými nebo získanými daty a podkladovou populací, která má být modelována. Členové technického týmu by měli nabízet prostředky pro nápravu, aby opravili reprezentační nedostatky ve vzorku.
• Vhodnost a dostatečnost: Je důležité pochopit, zda shromážděná data jsou dostatečná pro zamýšlený účel projektu. Nedostatečná data nemusí spravedlivě odrážet kvality, které by měly být zohledněny pro výrobu odůvodněného výsledku, který je konzistentní s cílem systému umělé inteligence. Přiměřeně by členové projektového týmu s technickými a politickými kompetencemi měli spolupracovat, aby určili, zda je množství dat dostatečné a vhodné pro účel.
• Integrita zdroje a přesnost měření: Účinná mitigace zaúhlení začíná na samém počátku procesů extrakce a shromažďování dat. Obě zdroje a nástroje měření mohou zavést diskriminační faktory do datové sady. Pro zajištění nediskriminačního poškození musí mít datový vzorek optimální integritu zdroje. To zahrnuje zajištění nebo potvrzení, že procesy shromažďování dat zahrnovaly vhodné, spolehlivé a nestranné zdroje měření a robustní metody shromažďování.
• Časovost a aktuálnost: Pokud datové sady obsahují zastaralá data, změny v základním rozdělení dat mohou nepříznivě ovlivnit obecnost trénovaného modelu. Poskytnou-li tyto distribuční posuny změnu sociálních vztahů nebo skupinové dynamiky, tato ztráta přesnosti týkající se skutečných charakteristik podkladové populace může zavést zaúhlení do systému umělé inteligence. Pro prevenci diskriminačních výsledků by měly být časovost a aktuálnost všech prvků datové sady prozkoumány.
• Příslušnost, vhodnost a odborné znalosti: Porozumění a použití nejvhodnějších zdrojů a typů dat jsou zásadní pro stavbu robustního a nezaujatého systému umělé inteligence. Pevné odborné znalosti podkladové populace a cíle projektu jsou instrumentální pro výběr optimálně relevantních vstupů měření, které přispívají k rozumnému řešení definovaného problému. Odborníci z oboru by měli úzce spolupracovat s týmy datové vědy, aby pomohli určit optimálně vhodné kategorie a zdroje měření.

Zatímco systémy založené na umělé inteligenci pomáhají při automatizaci procesů rozhodování a poskytují úspory nákladů, finanční instituce, které zvažují umělou inteligenci jako řešení, by měly být bdělé, aby zajistily, že zaujatá rozhodnutí se neuskutečňují. Lídry regulatorních týmů by měly být v souladu se svými týmy datové vědy, aby potvrdily, že schopnosti umělé inteligence jsou odpovědné, efektivní a bez zaúhlení. Mít strategii, která prosazuje odpovědnou umělou inteligenci, je správná věc, a může to také poskytnout cestu ke splnění budoucích regulatorních požadavků na umělou inteligenci.