Är banker redo för AI-röstbedrägeri?

AI-genererad röst har förändrat ekonomin för bedrägeri. Det som tidigare krävde en skicklig imitator, ett övertygande manus eller ett komprometterat telefonnummer kan nu försökas i stor skala med verktyg som låter alarmingly mänskliga.

Och vad som är ännu mer oroväckande, de har den finansiella sektorn rakt i sina sikten. I början av 2024 gick en finansarbetare på ingenjörsföretaget Arup med i vad som tycktes vara ett rutinmässigt videomöte med företagets CFO och flera kollegor. Rösterna var bekanta, ansiktena igenkännliga och begäran tycktes trovärdig nog för att passera grundläggande granskning. Vid mötets slut hade hon godkänt 25 miljoner dollar i överföringar. Personerna hon trodde att hon talade med, inklusive företagets CFO, rapporterades senare ha varit AI-genererade deepfakes.

För finansiella institutioner är risken inte begränsad till interna betalningsgodkännanden. Samma kollaps i förtroende kan spela ut över kundautentisering, kontaktcenter-eskalerings-, bedrägerikontroll- och kontoåterställningsresor.

Bedragare har utnyttjat den relativa anonymiteten i telefonsamtal för att begå bedrägeri i decennier. Med AI har dock den insats som krävs blivit trivial, och resultaten är mycket mer övertygande. För banker och fintech-företag resulterar denna konvergens i en outredd karta av risker.

Det finns en obehagligare verklighet under detta. Även när angripare provar sig fram för att hitta sätt in, gör den AI-infrastruktur som finansiella institutioner använder för att modernisera sin kundsupport det lättare att begå bedrägeri på öppen gata.

Samtal som låter som om de hör hemma

Före AI var röstbedrägeri relativt lätt att identifiera. Robot-samtal lät platta och följde ett manus, och vishing-försök förlitade sig på mänskliga operatörer som följde anropssidor. I de flesta fall var omfattningen begränsad av bedragarens sociala ingenjörskap. Med tillräcklig utbildning och lite sunt förnuft kunde personalen vanligtvis upptäcka tecknen.

AI har förändrat detta genom att nästan kollapsa den tekniska barriären för imitation. Med tillräcklig uppmaning kan AI låta extremt mänskligt, komplett med betoning, känslor och brister som man förväntar sig av en riktig person. Saker och ting blir värre, AI-verktyg som kan kopiera röster är lätt tillgängliga på kommersiella plattformar och öppen källkods-repositorier.

McAfee Labs fann att tre sekunder av ljud är tillräckligt för ett AI-verktyg för att producera en röstklon med 85% noggrannhet. Tio sekunder av inspelning kan driva den siffran över 95%. Källmaterialet finns överallt: sociala medieinlägg, telefonsvarare, konferensinspelningar, vinstsamtal eller LinkedIn-videor.

Real-tidsröstomvandlingsverktyg blev allmänt tillgängliga 2024, vilket innebär att angripare idag inte längre behöver en förinspelad klipp. De kan helt enkelt tala in i en mikrofon, och utmatningen kommer att låta som vem de försöker imitera.

Arup-fallet är instruktivt: Finansarbetaren hade tvivel, men närvaron av bekanta röster och ansikten på samtalet överträffade dem, men beslutade att lita på sina ögon och öron. Samma år avslöjade Hongkong-utredare en separat operation som hade klonat en finansiell chefens röst för att köra en 18,5 miljoner dollar kryptotransaktionsscam.

En bekant röst, det visar sig, är en pålitlig, och AI har gjort den antagandet farligt att ha.

Autentiseringsfel blir bedrägerimöjligheter

Finansiella institutioner svarar redan på yttre hot. Företagsutgifter för styrning och efterlevnad av AI-verktyg förväntas växa från 2,2 miljarder dollar 2025 till 9,5 miljarder dollar 2035, ett tecken på hur allvarligt marknaden tar detta.

Men den mer betydande risken uppstår inte utanför deras väggar. Banker och fintech-företag lägger till AI i sin kundsupportstack, bygger AI-assisterade IVR-system, röstbiometrisk autentisering och agenter som hanterar transaktioner utan mänskliga agenter. Dessa ansträngningar syftar till att förbättra kundupplevelsen och minska mänskligt arbete, men när dessa system misslyckas, lämnar de en svag punkt som hotaktörer hittar alltför lätt att utnyttja.

Routningsfel, sammanhang som förloras mellan eskaleringar och autentiseringssystem som beter sig oförutsägbart ser ut som kundupplevelseproblem och loggas som sådana.

Men dessa CX-problem kan förvandlas till något värre nedströms. En kund som är låst av röstbiometri kommer sällan att rapportera det. Istället är chansen stor att de kommer att ringa tillbaka, hitta ett sätt att prata med en mänsklig agent och pressa dem till att kringgå de protokoll som systemen byggdes för att verkställa.

Det större problemet är att en angripare som imiterar en kund kan göra det också. Finansiella institutioner är väl medvetna om detta. Faktum är att 91% av USA:s banker omprövar sin röstbiometrisk autentiseringsstrategi i ljuset av AI-kloningsrisker.

Omprövning kommer inte att lösa dessa problem. En institution vars röstautentisering regelbundet misslyckas för legitima kunder har redan skapat de förhållanden som en besluten hacker behöver för att utnyttja systemet. Efter allt behöver en hacker inte hitta en teknisk sårbarhet när friktionen i kundresan tillåter dem en väg in.

Företag måste ändra sin synvinkel, inte sin säkerhetsstack

Verktyg som kan upptäcka AI-genererade syntetiska röster förbättras, men en hotaktör som provar en banks system för sårbarheter letar inte efter en enda punkt för misslyckande. De letar efter områden där systemen snubblar och missar varandra, där autentiseringssystemen misslyckas med att skicka signaler tydligt. Bättre upptäckt vid periferin kan inte stänga den luckan.

Vad som kan hjälpa är att ompröva hur ledare behandlar röstinfrastruktur. Liksom varje del av er programvarustack kräver röstinfrastruktur samma nivå av granskning som periferiförsvar.

I praktiken kommer en sådan säkerhetsställning att kräva både funktionella och motståndstester över de förhållanden som IVR, biometrisk autentisering och andra röstsystem kommer att möta i produktion: lågkvalitetsljud, olika accenter och bakgrundsljud, gränsfall för eskalering och autentiseringsgränser där legitima samtalare ligger strax utanför systemets acceptansgränser.

Svaret är inte en engångscertifieringsövning. Banker behöver kontinuerlig validering av hela röstresan, från IVR-routning och biometrisk autentisering till eskalering, överföring och återställningsvägar. Oavsett hur ofta röstsystem uppdateras kommer bedrägeritaktiker att naturligt utvecklas för att hitta sprickor i vilka försvar de än möter. Ett system som klarar validering vid distribution måste testas ofta och upprepat i verkliga förhållanden för att säkerställa att det fortfarande är säkert även om dess prestanda har utvecklats.

Det är värt att notera att kontinuerlig testning i stor skala kommer att medföra budgetöverväganden. Det finns också den inneboende spänningen mellan att flytta snabbt (distribuera nya funktioner för att hålla jämna steg) och validera system noggrant innan de interagerar med riktiga kunder och möter riktiga bedrägeriförsök.

Medan det är svårt att lösa den spänningen rent, gör det klart kostnaden för att hoppa över validering: Ett misslyckande i ert system som frustrerade kunder redan har hittat sin väg runt är en svag punkt, oavsett hur ert företag kategoriserar det.

Bättre kundresor blir ett bedrägeriförsvar

De yttre och inre risker som beskrivs ovan är inte separata problem med olika lösningar. Friktionen som skapas av opålitliga kundresor skapar beteendegap som social ingenjörskap är utformat för att utnyttja.

Det är ett lösbart problem, men bara om institutioner inser att effekten av dålig kundupplevelse kan nå längre än bara kundbehållning eller intäkter. Banker kommer inte att lösa AI-röstbedrägeri genom att behandla det som ett upptäcktsproblem ensamt. De måste också ta bort tvetydigheten, friktionen och felpunkterna i sina egna röstresor. I en era där en bekant röst inte längre kan lita på som standard blir tillförlitligheten i resan själv en del av säkerhetsmodellen.