AI og forebyggelse af finansielle forbrydelser: Hvorfor banker har brug for en balanceret tilgang

AI er en tosidet mønt for banker: selvom det åbner mange muligheder for mere effektive operationer, kan det også udgøre eksterne og interne risici.

Finansielle kriminelle udnytter teknologien til at producere deepfake-videos, stemmer og falske dokumenter, der kan slippe igennem computer- og menneskekontrol, eller til at accelerere email-svindelaktiviteter. I USA alene forventes generativ AI at accelerere svindelstab til en årlig vækstrate på 32%, og nå 40 milliarder USD i 2027, ifølge en rapport fra Deloitte.

Maaske burde bankernes svar være at udstyre sig selv med endnu bedre værktøjer, der udnytter AI på tværs af forebyggelse af finansielle forbrydelser. Finansielle institutioner begynder faktisk at implementere AI i anti-finansielle forbrydelser (AFC)-indsats – for at overvåge transaktioner, generere mistænkelige aktivitetsrapporter, automatisere svindeldetektering og mere. Disse har potentialet til at accelerere processer, samtidig med at nøjagtigheden øges.

Problemet opstår, når banker ikke balancerer implementeringen af AI med menneskelig dømmekraft. Uden en menneskelig faktor kan AI-adopteringsprocessen påvirke overholdelse, bias og tilpasning til nye trusler.

Vi tror på en forsigtig, hybrid tilgang til AI-adopteringsprocessen i den finansielle sektor, en tilgang, der vil fortsætte med at kræve menneskelig indsats.

Forskellen på regelbaserede og AI-drevne AFC-systemer

Traditionelt har AFC – og særligt anti-pengetvætnings-systemer (AML) – opereret med faste regler, der er fastsat af overholdelseshold i respons til reguleringer. I tilfælde af transaktionsovervågning er disse regler implementeret for at markere transaktioner baseret på specifikke foruddefinerede kriterier, såsom transaktionsbeløbsgrænser eller geografiske risikofaktorer.

AI præsenterer en ny måde at screene for finansielle forbrydelserisici. Maskinlæringsmodeller kan bruges til at detektere mistænkelige mønstre baseret på en række datasæt, der er i konstant udvikling. Systemet analyserer transaktioner, historiske data, kundeopførsel og kontekstdatasæt for at overvåge for noget mistænkeligt, samtidig med at det lærer over tid, og tilbyder adaptiv og potentiel mere effektivt kriminelt overvågning.

Men selvom regelbaserede systemer er forudsigelige og lette at gennemgå, introducerer AI-drevne systemer et komplekst “sort boks”-element på grund af uigennemsigtige beslutningsprocesser. Det er sværere at spore en AI-systems begrundelse for at markere bestemt adfærd som mistænkelig, da så mange elementer er involveret. Dette kan få AI-systemet til at nå en vis konklusion baseret på forældede kriterier eller give faktisk forkerte indsigt, uden at dette er umiddelbart opdageligt. Det kan også forårsage problemer for en finansielle institutions overholdelsesregulering.

Mulige reguleringer

Finansielle institutioner skal overholde strenge reguleringer, såsom EU’s AMLD og USA’s Bank Secrecy Act, der kræver klare, sporbare beslutningsprocesser. AI-systemer, især dybe læringsmodeller, kan være svære at fortolke.

For at sikre ansvarlighed, mens AI adopteres, har banker brug for omhyggelig planlægning, grundig testning, specialiserede overholdelsesrammer og menneskelig tilsyn. Mennesker kan validere automatiserede beslutninger ved at fortolke begrundelsen bag en markeret transaktion, og gøre det forklarligt og forsvarligt for reguleringer.

Finansielle institutioner er også under stigende pres for at bruge Explainable AI (XAI)-værktøjer til at gøre AI-drevne beslutninger forståelige for reguleringer og revisorer. XAI er en proces, der giver mennesker mulighed for at forstå outputtet af et AI-system og dets underliggende beslutningsprocesser.

Menneskelig dømmekraft kræves for en holistisk tilgang

Adoptering af AI kan ikke føre til selvtilfredshed med automatiserede systemer. Menneskelige analytikere bringer kontekst og dømmekraft, som AI mangler, og muliggør nuanceret beslutningstagning i komplekse eller tvetydige tilfælde, hvilket forbliver essentiel i AFC-undersøgelser.

Blandt risikoen for afhængighed af AI er muligheden for fejl (f.eks. falske positiver, falske negativer) og bias. AI kan være tilbøjelig til falske positiver, hvis modellerne ikke er godt afstemt, eller er trænet på biasede data. Selvom mennesker også er tilbøjelige til bias, er den tilføjede risiko for AI, at det kan være svært at identificere bias inden for systemet.

Desuden kører AI-modeller på de data, der fødes til dem – de kan ikke fange nye eller sjældne mistænkelige mønstre uden for historiske tendenser eller baseret på virkelige verdensindsigt. En fuldstændig erstatning af regelbaserede systemer med AI kunne efterlade blinde pletter i AFC-overvågning.

I tilfælde af bias, tvetydighed eller nytænkning kræver AFC en diskernerende øje, som AI ikke kan give. Samtidig, hvis vi fjerner mennesker fra processen, kunne det alvorligt hæmme evnen til at forstå mønstre i finansielle forbrydelser, spotte mønstre og identificere opdyrkende tendenser. Dette kunne gøre det sværere at holde automatiserede systemer opdateret.

En hybridtilgang: kombination af regelbaserede og AI-drevne AFC

Finansielle institutioner kan kombinere en regelbaseret tilgang med AI-værktøjer for at skabe et lagdelt system, der udnytter styrkerne i begge tilgange. Et hybrid-system vil gøre AI-implementering mere præcis på lang sigt og mere fleksibelt i forhold til opdyrkende finansielle forbrydelserisici, uden at ofre gennemsigtighed.

For at gøre dette kan institutioner integrere AI-modeller med løbende menneskelig feedback. Modellernes adaptive læringsprocess ville derfor ikke kun vokse baseret på datapatterns, men også på menneskelig indsats, der afstemmer og genafstemmer det.

Ikke alle AI-systemer er lige. AI-modeller skal undergå kontinuerlig testning for at evaluere nøjagtighed, retfærdighed og overholdelse, med regelmæssige opdateringer baseret på reguleringer og nye trusselsinformationer, som identificeret af AFC-holdene.

Risiko- og overholdelsesekspertiser skal trænes i AI eller en AI-ekspert skal ansættes til holdet for at sikre, at AI-udvikling og -implementering udføres inden for bestemte rammer. De skal også udvikle overholdelsesrammer specifikt til AI, og etablere en vej til reguleringer i en opdyrkende sektor for overholdelsesekspertiser.

Som del af AI-adopteringsprocessen er det vigtigt, at alle elementer i organisationen er informeret om AI-modellernes muligheder og begrænsninger, så de kan være mere opmærksomme på mulige fejl.

Organisationen skal også træffe andre strategiske overvejelser for at bevare sikkerhed og datasikkerhed. Det er afgørende at investere i højkvalitets-, sikker datainfrastruktur og sikre, at de er trænet på nøjagtige og diverse datasæt.

AI er og vil fortsætte med at være både en trussel og et forsvarsværktøj for banker. Men de skal håndtere denne kraftfulde nye teknologi korrekt for at undgå at skabe problemer i stedet for at løse dem.