Umělá inteligence a prevence finančních zločinů: Proč banky potřebují vyvážený přístup

Umělá inteligence je pro banky dvouřezový meč: zatímco otevírá mnoho možností pro efektivnější operace, může také představovat vnější a vnitřní rizika.

Finanční zločinci využívají tuto technologii k výrobě deepfake videí, hlasů a falešných dokumentů, které mohou projít počítačovou a lidskou detekcí, nebo k urychlení aktivit e-mailového podvodu. Pouze ve Spojených státech se očekává, že generativní umělá inteligence urychlí ztráty z podvodů o 32% ročně, dosáhne 40 miliard dolarů do roku 2027, podle nedávné zprávy Deloitte.

Možná by tedy odpověď bank měly spočívat v tom, aby se samy vyzbrojily lepšími nástroji, využívajícími umělou inteligenci v boji proti finančním zločinům. Finanční instituce skutečně začínají nasazovat umělou inteligenci v rámci boje proti finančním zločinům – k monitorování transakcí, generování zpráv o podezřelé činnosti, automatizaci detekce podvodů a další. Tyto systémy mají potenciál urychlit procesy a zvýšit přesnost.

Problém nastává, když banky nevyvažují implementaci umělých inteligencí s lidským úsudkem. Bez lidského zásahu může adopce umělých inteligencí ovlivnit soulad, předpojatost a adaptabilitu na nové hrozby.

Domníváme se, že je zapotřebí obezřetný, hybridní přístup k adopci umělých inteligencí v finančním sektoru, který bude i nadále vyžadovat lidský vstup.

Rozdíl mezi pravidly řízenými a AI poháněnými AFC systémy

Tradice AFC – a zejména anti-praní špinavých peněz (AML) systémy – fungovaly s pevně stanovenými pravidly stanovenými týmy souladu v reakci na regulace. V případě monitorování transakcí jsou tato pravidla implementována tak, aby označovaly transakce na základě specifických předem definovaných kritérií, jako jsou prahové hodnoty částek transakcí nebo geografické rizikové faktory.

Umělá inteligence představuje nový způsob screeningu finančních rizik. Modely strojového učení lze použít k detekci podezřelých vzorců na základě série dat, která jsou v neustálém vývoji. Systém analyzuje transakce, historická data, chování zákazníků a kontextová data, aby monitoroval podezřelou činnost, zatímco se učí s časem, nabízí adaptivní a potenciálně účinnější monitorování.

Jenomže zatímco pravidly řízené systémy jsou předvídatelné a snadno auditovatelné, AI poháněné systémy zavádějí složitý “černý box” prvek kvůli neprůhledným rozhodovacím procesům. Je obtížnější vysledovat, proč AI systém označí určitou činnost jako podezřelou, protože je zapojeno tolik prvků. To může vést k tomu, že AI systém dospěje k určitému závěru na základě zastaralých kritérií nebo poskytuje fakticky nesprávné informace, aniž by to bylo okamžitě zjistitelné. To může také způsobit problémy pro soulad finančních institucí s regulacemi.

Možné regulační výzvy

Finanční instituce musí dodržovat přísné regulační standardy, jako je směrnice EU o boji proti praní špinavých peněz (AMLD) a zákon USA o bankovním tajemství (Bank Secrecy Act), které vyžadují jasná, stopovatelná rozhodování. AI systémy, zejména hluboké učení, mohou být obtížně interpretovatelné.

Aby banky zajistily odpovědnost při adopci umělých inteligencí, potřebují pečlivé plánování, důkladné testování, specializované rámce souladu a lidský dohled. Lidé mohou ověřit automatizovaná rozhodnutí, například interpretací důvodu, proč byla určitá transakce označena, a tím ji učiní vysvětlitelnou a obhajitelnou pro regulátory.

Finanční instituce jsou také pod rostoucím tlakem, aby využívaly vysvětlitelnou umělou inteligenci (XAI) nástroje, aby učinily AI poháněná rozhodnutí srozumitelná pro regulátory a auditory. XAI je proces, který umožňuje lidem pochopit výstup AI systému a jeho základní rozhodovací proces.

Lidský úsudek vyžadovaný pro holistický pohled

Adopce umělých inteligencí nemůže vést k lenosti s automatizovanými systémy. Lidští analytici přinášejí kontext a úsudek, který umělá inteligence postrádá, umožňující nuancované rozhodování v komplexních nebo nejednoznačných případech, což zůstává zásadní v AFC vyšetřováních.

Mezi rizika závislosti na umělých inteligencích patří možnost chyb (například falešná pozitiva, falešná negativa) a předpojatost. Umělá inteligence může být náchylná k falešným pozitivům, pokud nejsou modely dobře naladěny nebo jsou trénovány na předpojatých datech. Zatímco lidé jsou také náchylní k předpojatosti, dodatečné riziko umělých inteligencí spočívá v tom, že může být obtížné identifikovat předpojatost v systému.

Dále mohou modely umělých inteligencí běžet pouze na datech, která jsou jim podána – nemusí zachytit nové nebo vzácné podezřelé vzorce mimo historické trendy nebo založené na skutečných světových poznatcích. Úplná náhrada pravidly řízených systémů umělými inteligencemi by mohla zanechat slepá místa v AFC monitorování.

V případech předpojatosti, nejednoznačnosti nebo novosti AFC vyžaduje rozlišující oko, které umělá inteligence nemůže poskytnout. Současně, pokud bychom odstranili lidi z procesu, mohlo by to vážně omezit schopnost vašich týmů pochopit vzorce finančních zločinů, identifikovat vzorce a rozpoznat vznikající trendy. To by mohlo učinit obtížnější udržet automatizované systémy aktuální.

Hybridní přístup: kombinace pravidly řízených a AI poháněných AFC

Finanční instituce mohou kombinovat pravidly řízený přístup s AI nástroji, aby vytvořily vícestupňový systém, který využívá silných stránek obou přístupů. Hybridní systém učiní implementaci umělých inteligencí přesnější v dlouhodobém horizontu a flexibilnější při řešení vznikajících finančních zločinů, aniž by obětoval transparentnost.

Aby toho dosáhly, instituce mohou integrovat AI modely s pokračujícím lidským zpětným vazbám. Adaptivní učení modelů by se tak mohlo rozvíjet nejen na základě datových vzorců, ale také na základě lidského vstupu, který je upravuje a rebalancuje.

Ne všechny AI systémy jsou stejné. AI modely by měly podstoupit nepřetržité testování, aby se vyhodnotila jejich přesnost, spravedlnost a soulad, s pravidelnými aktualizacemi na základě regulačních změn a nových hrozeb, jak je identifikují AFC týmy.

Odborníci na rizika a soulad by měli být vyškoleni v oblasti umělých inteligencí, nebo by měl být do týmu najat odborník na umělou inteligenci, aby se zajistilo, že vývoj a nasazení umělých inteligencí budou prováděny v rámci stanovených pravidel. Musí také vyvinout rámce souladu specifické pro umělou inteligenci, které stanoví cestu k souladu s regulacemi v sektoru, který se vyvíjí pro odborníky na soulad.

V rámci adopce umělých inteligencí je důležité, aby všechny prvky organizace byly informovány o schopnostech nových AI modelů, se kterými pracují, ale také o jejich omezeních (jako je potenciální předpojatost), aby je učinily více vnímavými k potenciálním chybám.

Vaše organizace musí také učinit jistá strategická rozhodnutí, aby zachovala bezpečnost a kvalitu dat. Je zásadní investovat do vysoce kvalitních, zabezpečených datových infrastruktur a zajistit, aby byly trénovány na přesných a rozmanitých datech.

Umělá inteligence je a bude i nadále jak hrozbou, tak obranným nástrojem pro banky. Ale musí správně nakládat s touto novou technologií, aby nevytvořily problémy místo jejich řešení.