Zijn banken klaar voor AI-stemfraude?

AI-gegenereerde stem heeft de economie van fraude veranderd. Wat eerder een ervaren imitator, een overtuigend script of een gecompromitteerd telefoonnummer vereiste, kan nu op grote schaal worden geprobeerd met tools die alarmingly menselijk klinken.

En wat nog verontrustender is, ze hebben de financiële sector recht in het vizier. Begin 2024 nam een financieel medewerker van het ingenieursbureau Arup deel aan een routinevideoconferentie met de CFO en enkele collega’s van het bedrijf. De stemmen waren vertrouwd, de gezichten herkenbaar en het verzoek leek plausibel genoeg om de basiscontrole te doorstaan. Aan het einde van de oproep had ze $25 miljoen aan overboekingen geautoriseerd. De mensen van wie ze dacht dat ze het waren, waaronder de CFO van het bedrijf, werden later gemeld te zijn AI-gegenereerde deepfakes.

Voor financiële instellingen is het risico niet beperkt tot interne betalingen. Hetzelfde verlies van vertrouwen kan zich ook voordoen bij klantauthenticatie, escalatie van de callcenter, fraudecontroles en herstel van accounts.

Oplichters hebben de relatieve anonimiteit van telefoontjes al decennialang uitgebuit om fraude te plegen. Met AI is de inspanning die hiervoor nodig is nu echter triviaal geworden en de resultaten veel overtuigender. Voor banken en fintechs leidt deze convergentie tot een onbekende kaart van risico’s.

Er is een ongemakkelijke realiteit onder dit alles. Zelfs terwijl aanvallers op zoek zijn naar manieren om binnen te komen, maakt de AI-infrastructuur die financiële instellingen inzetten om hun klantenservice te moderniseren, fraude gemakkelijker om te plegen in het volle zicht.

De oproep die klinkt alsof hij thuishoort

Voor AI was stemfraude relatief gemakkelijk te identificeren. Robocalls klonken plat en volgden een script, en vishingpogingen vertrouwden op menselijke operators die callsheets volgden. In de meeste gevallen was de omvang beperkt door de kwaliteit van de oplichter die de sociale engineering probeerde. Met adequate training en een beetje gezond verstand konden medewerkers meestal de signalen herkennen.

AI heeft dat veranderd door de technische barrière voor imitatie bijna te laten instorten. Met voldoende aanzetten kan AI extreem menselijk klinken, complete met intonatie, emotie en fouten die je van een echte persoon zou verwachten. Om het nog erger te maken, zijn AI-tools die stemmen kunnen kopiëren, gemakkelijk beschikbaar op commerciële platforms en open-source-repositories.

McAfee Labs ontdekte dat drie seconden aan audio voldoende zijn voor een AI-tool om een stemkloon te produceren met 85% nauwkeurigheid. Tien seconden aan opname kunnen dat cijfer boven de 95% tillen. Het bronmateriaal is overal: socialemediaberichten, voicemailberichten, conferentieopnames, winstberichten of LinkedIn-video’s.

Realtime stemomzettingstools werden in 2024 algemeen beschikbaar, wat betekent dat aanvallers vandaag geen vooraf opgenomen clip meer nodig hebben. Ze kunnen gewoon in een microfoon spreken en het resultaat klinkt als degene die ze proberen te imiteren.

Het Arup-geval is instructief: de financieel medewerker had twijfels, maar de aanwezigheid van vertrouwde stemmen en gezichten op de oproep overtrof die, maar besloot om haar ogen en oren te vertrouwen. Datzelfde jaar ontdekten Hongkongse onderzoekers een aparte operatie die de stem van een financieel manager had gekloond om een $18,5 miljoen cryptocurrency-scam te runnen.

Een vertrouwde stem, zo blijkt, is een betrouwbare, en AI heeft die aanname tot een gevaarlijke gemaakt.

Authenticatiefouten worden fraudekansen

Financiële instellingen reageren al op externe bedreigingen. Het uitgaven van ondernemingen aan governance- en compliance-tools voor AI zal naar verwachting groeien van 2,2 miljard dollar in 2025 tot 9,5 miljard dollar in 2035, een signaal van hoe serieus de markt deze kwestie neemt.

Maar het belangrijkste risico ontstaat niet buiten hun muren. Banken en fintechs bouwen AI in hun klantenservice, waaronder AI-geassisteerde IVR-systemen, stembiometrische authenticatie en agente callflows die transacties afhandelen zonder menselijke agenten. Deze inspanningen zijn gericht op het verbeteren van de klantbeleving en het verminderen van menselijke arbeid, maar wanneer deze systemen falen, laten ze een zwakke plek achter die bedreigingsactoren maar al te gemakkelijk kunnen uitbuiten.

Routeringsfouten, context die verloren gaat tussen escalaties en authenticatiesystemen die onvoorspelbaar gedragen, lijken op klantbelevingsproblemen en worden als zodanig gelogd.

Een klant die wordt buitengesloten door stembiometrie zal zelden een melding maken. In plaats daarvan is de kans groot dat hij terugbelt, een manier vindt om met een menselijke agent te praten en hem onder druk zet om de protocollen die deze systemen zijn ontworpen om af te dwingen, te omzeilen.

Het grotere probleem is dat een aanvaller die een klant imiteert, dit ook kan doen. Financiële instellingen zijn zich hiervan bewust. In feite overwegen 91% van de Amerikaanse banken hun strategieën voor stembiometrische authenticatie opnieuw vanwege de risico’s van AI-klooninig.

Heroverweging lost deze problemen niet op. Een instelling waarvan de stemauthenticatie regelmatig faalt voor legitieme klanten, heeft al de voorwaarden gecreëerd die een vastberaden hacker nodig heeft om het systeem uit te buiten. Immers, een hacker hoeft geen technische kwetsbaarheid te vinden wanneer wrijving in de klantreis hem een manier biedt om binnen te komen.

Bedrijven moeten hun perspectief veranderen, niet hun beveiligingsstack

Tools die AI-gegenereerde synthetische stemmen kunnen detecteren, worden beter, maar een bedreigingsactor die de systemen van een bank zoekt naar kwetsbaarheden, zoekt niet naar een enkel punt van falen. Ze zoeken naar gebieden waar systemen stamelen en elkaar missen, waar authenticatiesystemen signalen niet duidelijk doorgeven. Betere detectie aan de perimeter kan die kloof niet dichten.

Wat kan helpen, is de manier waarop leiders de steminfrastructuur behandelen. Net als bij elke andere onderdeel van uw software-stack, vereist de steminfrastructuur hetzelfde niveau van onderzoek als de perimeterbeveiliging.

In de praktijk zal zo’n beveiligingshouding zowel functionele als robuustheidstests vereisen over de omstandigheden waaronder IVR, biometrische authenticatie en andere stemsystemen in productie worden geconfronteerd: lage kwaliteit audio, verschillende accenten en achtergrondgeluiden, randgeval-escalaties en authenticatiegrensscenario’s waar legitieme bellers net buiten de acceptatiegrenzen van het systeem vallen.

Het antwoord is niet een eenmalige certificeringsprocedure. Banken hebben een continue validatie van de volledige stemreis nodig, van IVR-routing en biometrische authenticatie tot escalatie, overdracht en terugvalpaden. Ongeacht hoe vaak de stemsystemen worden bijgewerkt, zullen fraude tactieken van nature evolueren om kieren in welke verdediging dan ook te vinden. Een systeem dat validatie bij implementatie doorstaat, moet frequent en herhaaldelijk in echte wereldomstandigheden worden getest om ervoor te zorgen dat het nog steeds beveiligd is, zelfs als de prestaties zijn geëvolueerd.

Het is de moeite waard om op te merken dat continue testing op grote schaal budgetoverwegingen met zich mee zal brengen. Er is ook de inherente spanning tussen snel bewegen (nieuwe mogelijkheden implementeren om concurrerend te blijven) en systemen grondig valideren voordat ze interactie hebben met echte klanten en echte fraudepogingen.

Terwijl het moeilijk is om die spanning schoon op te lossen, maakt het wel duidelijk wat de kosten zijn van het overslaan van validatie: een falen in uw systeem dat gefrustreerde klanten al hebben gevonden, is een zwakke plek, ongeacht hoe uw bedrijf het categoriseert.

Beter klantreizen worden een fraudeverdediging

De externe en interne risico’s die hierboven worden beschreven, zijn geen afzonderlijke problemen met verschillende oplossingen. De wrijving die wordt gegenereerd door onbetrouwbare klantreizen, creëert gedragskloven die sociale engineering is ontworpen om uit te buiten.

Dat is een oplosbaar probleem, maar alleen als instellingen beseffen dat de impact van een slechte klantbeleving verder kan reiken dan alleen retentie of omzet. Banken zullen AI-stemfraude niet oplossen door het alleen als een detectieprobleem te behandelen. Ze moeten ook de onduidelijkheid, wrijving en falenpunten in hun eigen stemreizen verwijderen. In een tijdperk waarin een vertrouwde stem niet langer per se te vertrouwen is, wordt de betrouwbaarheid van de reis zelf onderdeel van het beveiligingsmodel.