Myslitelé
Zaujatost a spravedlnost systémů založených na umělé inteligenci v boji proti finančním zločinům

Klíčové bodyZaujaté systémy umělé inteligence mohou nespravedlivě odmítat půjčky na základě proxy…
Zobrazit více
- Zaujaté systémy umělé inteligence mohou nespravedlivě odmítat půjčky na základě proxy proměnných rasy nebo pohlaví.
- Reprezentativnost dat a integrita zdrojů jsou klíčové pro prevenci diskriminačních výsledků modelů.
- Vedoucí pracovníci v oblasti compliance musí spolupracovat s týmy datové vědy, aby zajistili odpovědné nasazení umělé inteligence.
Při boji proti finančním zločinům existují výzvy, které sahají za rámec pouhého zastavení podvodníků nebo jiných škodlivých aktérů.
Některé z nejnovějších a nejpokročilejších technologií, které jsou uváděny na trh, často mají své vlastní specifické problémy, které je třeba vzít v úvahu během fáze přijetí, aby se úspěšně bojovalo proti podvodníkům bez regulatorních dopadů. Při detekci podvodů může dojít k nespravedlnosti modelu a zkreslení dat, když je některým skupinám nebo datovým kategoriím přisuzována příliš vysoká váha nebo postrádá reprezentaci určitých skupin nebo kategorií dat. Teoreticky by předpovědní model mohl nesprávně spojovat příjmení z jiných kultur s podvodnými účty nebo falešně snižovat riziko uvnitř segmentů populace pro určitý typ finančních aktivit.
Zaujaté systémy umělé inteligence mohou představovat vážnou hrozbu, když mohou být ovlivněny pověsti a dochází k nim, když dostupná data nejsou reprezentativní pro populaci nebo jev, který chceme prozkoumat. Tato data neobsahují proměnné, které řádně zachycují jev, který chceme předpovědět. Nebo alternativně mohou data obsahovat obsah vytvořený lidmi, který může obsahovat zkreslení proti skupinám lidí, zděděné z kulturních a osobních zkušeností, což vede ke zkreslením při rozhodování. Zatímco na první pohled se data mohou zdát objektivní, jsou stále shromažďována a analyzována lidmi a mohou být tedy zaujatá.
Neexistuje žádný všelék na odstranění nebezpečí diskriminace a nespravedlnosti v systémech umělé inteligence nebo trvalá řešení problému spravedlnosti a odstranění zkreslení při architektuře modelů strojového učení a jejich použití, tyto problémy je třeba vzít v úvahu jak z důvodu společnosti, tak z důvodu podnikání.
Činění správné věci v umělé inteligenci
Řešení zkreslení v systémech založených na umělé inteligenci není pouze správné, ale také chytré pro podnikání – a sázky pro lídry podniků jsou vysoké. Zaujaté systémy umělé inteligence mohou vést finanční instituce špatnou cestou přidělováním příležitostí, zdrojů, informací nebo kvality služeb nespravedlivě. Mohou dokonce porušovat občanské svobody, ohrožovat bezpečnost jednotlivců nebo ovlivňovat blaho člověka, pokud jsou vnímány jako urážlivé nebo ofenzivní.
Je důležité, aby podniky rozuměly moci a rizikům zkreslení umělé inteligence. Ačkoli je často institucí neznámé, zaujatý systém založený na umělé inteligenci by mohl používat škodlivé modely nebo data, která odhalují rasové nebo genderové zkreslení do rozhodnutí o úvěru. Informace, jako jsou jména a pohlaví, by mohly sloužit jako zástupné ukazatele pro kategorizaci a identifikaci žadatelů nezákonným způsobem. I když je zkreslení neúmyslné, stále to vystavuje organizaci riziku nesplnění regulatorních požadavků a může vést k tomu, že určitým skupinám lidí budou nespravedlivě odmítnuty úvěry nebo úvěrové linky.
V současné době nemají organizace k dispozici prostředky pro úspěšné odstranění zkreslení v systémech umělé inteligence. Avšak s rostoucím nasazováním umělé inteligence v podnicích pro informování rozhodnutí je důležité, aby organizace usilovaly o snížení zkreslení, nejen z morálních důvodů, ale také pro splnění regulatorních požadavků a generování příjmů.
„Spravedlnost-vědomá“ kultura a implementace
Řešení zaměřená na spravedlnost-vědomý design a implementaci budou mít nejvýhodnější výsledky. Poskytovatelé by měli mít analytickou kulturu, která zahrnuje odpovědné získávání, zpracování a správu dat jako nezbytné součásti algoritmické spravedlnosti, protože pokud jsou výsledky projektu umělé inteligence generovány zaujatými, kompromitovanými nebo zkreslenými daty, postižené strany nebudou dostatečně chráněny před diskriminačním poškozením.
Tyto jsou prvky datové spravedlnosti, které týmy datové vědy musí mít na paměti:
- Reprezentativnost: V závislosti na kontextu může buď podreprezentace nebo nadreprezentace znevýhodněných nebo právně chráněných skupin ve vzorku dat vést k systematickému znevýhodňování zranitelných stran ve výsledcích trénovaného modelu. Pro zabránění takového druhu výběrového zkreslení bude nezbytné odborné znalosti pro posouzení shody mezi shromážděnými nebo získanými daty a podkladovou populací, která má být modelována. Členové technického týmu by měli nabízet prostředky pro nápravu, aby opravili reprezentační nedostatky ve vzorku.
- Vhodnost a dostatečnost: Je důležité pochopit, zda shromážděná data jsou dostatečná pro zamýšlený účel projektu. Nedostatečná data nemusí spravedlivě odrážet kvality, které by měly být zohledněny pro výrobu odůvodněného výsledku, který je konzistentní s cílem systému umělé inteligence. Přiměřeně by členové projektového týmu s technickými kompetencemi a znalostí pravidel a zásad měli spolupracovat, aby určili, zda je množství dat dostatečné a vhodné pro účel.
- Integrita zdroje a přesnost měření: Účinná mitigace zkreslení začíná na samém počátku procesů extrakce a shromažďování dat. Obě zdroje a nástroje měření mohou zavést diskriminační faktory do datové sady. Aby se zabránilo diskriminační újmě musí mít datový vzorek optimální integritu zdroje. To zahrnuje zajištění nebo potvrzení, že procesy shromažďování dat zahrnovaly vhodné, spolehlivé a nestranné zdroje měření a robustní metody shromažďování.
- Časovost a aktuálnost: Pokud datové sady obsahují zastaralá data, změny v základním rozdělení dat mohou nepříznivě ovlivnit schopnost trénovaného modelu zobecňovat. Pokud tyto distribuční posuny odrážejí změny sociálních vztahů nebo skupinové dynamiky, tato ztráta přesnosti týkající se skutečných charakteristik podkladové populace může zavést zkreslení do systému umělé inteligence. Pro prevenci diskriminačních výsledků by měly být časovost a aktuálnost všech prvků datové sady prozkoumány.
- Příslušnost, vhodnost a odborné znalosti: Porozumění a použití nejvhodnějších zdrojů a typů dat jsou zásadní pro stavbu robustního a nezaujatého systému umělé inteligence. Pevné odborné znalosti rozdělení modelované populace a predikčního cíle projektu jsou instrumentální pro výběr optimálně relevantních vstupů měření, které přispívají k rozumnému řešení definovaného problému. Odborníci z oboru by měli úzce spolupracovat s týmy datové vědy, aby pomohli určit optimálně vhodné kategorie a zdroje měření.
Zatímco systémy založené na umělé inteligenci pomáhají při automatizaci procesů rozhodování a poskytují úspory nákladů, finanční instituce, které zvažují umělou inteligenci jako řešení, by měly být bdělé, aby zajistily, že zaujatá rozhodnutí se neuskutečňují. Vedoucí pracovníci odpovědní za dodržování předpisů by měli být v souladu se svými týmy datové vědy, aby potvrdili, že schopnosti umělé inteligence jsou odpovědné, efektivní a bez zkreslení. Mít strategii, která prosazuje odpovědnou umělou inteligenci, je správná věc, a může to také poskytnout cestu ke splnění budoucích regulatorních požadavků na umělou inteligenci.












