Er bankerne klare for AI-stemmebedrageri?

AI-generert stemme har endret økonomien for bedrageri. Det som tidligere krevde en dyktig etterligning, en overbevisende manus eller et kompromittert telefonnummer, kan nå forsøkes i stor skala med verktøy som høres alarmingly menneskelige ut.

Og hva er enda mer bekymringsverdig, er at de har finanssektoren rett og slett i sine søkelys. Tidlig i 2024 ble en finansarbeider ved ingeniørfirmaet Arup med på en rutinevideoopptak med selskapets CFO og flere kolleger. Stemmen var kjente, ansiktene var gjenkjennelige, og forespørselen virket plausibel nok til å gå gjennom grunnleggende skråning. Ved slutten av samtalen hadde hun godkjent 25 millioner dollar i overføringer. Personene hun trodde hun snakket med, inkludert selskapets CFO, ble senere rapportert å ha vært AI-genererte deepfakes.

For finansinstitusjoner er risikoen ikke begrenset til interne betalingsgodkjenninger. Samme sammenbrudd i tillit kan spille ut over kundeaute ntisering, kontorsoppgradering, bedragerikontroll og kontoopprettingsprosesser.

Bedragere har utnyttet den relative anonymiteten til telefonopptak til å begå bedrageri i årevis. Med AI er imidlertid den innsatsen som kreves nå blitt trivial, og resultater er langt mer overbevisende. For banker og finansteknologiselskaper er denne konvergensen med på å skape en ukartet risikokart.

Det er en mer ubehagelig realitet under dette. Selv mens angripere søker etter måter å komme inn på, gjør AI-infrastrukturen som finansinstitusjoner deployer for å modernisere sin kundeservice det enklere å begå bedrageri åpen og ærlig.

Samtalen som høres ut som den hører hjemme

Før AI var stemmebedrageri relativt enkelt å identifisere. Robotopptak høres flatt og følger et manus, og vishingforsøk avhenger av menneskelige operatører som følger oppkallsskjema. I de fleste tilfeller var skalaen begrenset av kvaliteten på bedrageren som forsøkte sosial manipulering. Med tilstrekkelig opplæring og litt sunn fornuft kunne ansatte vanligvis se tegnene.

AI har endret dette ved å nesten kollapse den tekniske barrieren for etterligning. Med tilstrekkelig prompting kan AI høres ekstremt menneskelig, komplett med intonasjon, emosjon og feil som du ville forvente fra en ekte person. Ting blir verre, AI-verktøy som kan kopiere stemmer er lett tilgjengelige på kommersielle plattformer og åpne kildekodemagasiner.

McAfee Labs fant at tre sekunder med lyd er tilstrekkelig for et AI-verktøy å produsere en stemmekopi med 85% nøyaktighet. Ti sekunder med opptak kan skyve den figuren over 95%. Kilde materialet er overalt: sosiale medieinnlegg, voicemail-hilsener, konferanseopptak, kvartalsrapporter eller LinkedIn-videoer.

Sanntids stemmeomvandlingsverktøy ble bredt tilgjengelige i 2024, som betyr at angripere i dag ikke lenger trenger en forhåndsinnspilt klipp. De kan bare snakke inn i en mikrofon, og utgangen vil høres ut som hvem de forsøker å etterligne.

Arup-saken er instruktiv: Finansarbeideren hadde tvil, men nærværet av kjente stemmer og ansikter på samtalen overrodde dem, men bestemte seg for å stole på øynene og ørene sine. Samme år avdekket Hongkong-etterforskere en separat operasjon som hadde klonet en finanssjeffs stemme for å drive en 18,5 millioner dollar kryptovaluta-svindel.

En kjent stemme, det viser seg, er en pålitelig en, og AI har gjort det antagendet et farlig ett å ha.

Autentiseringsfeil blir til bedragerimuligheter

Finansinstitusjoner responderer allerede til eksterne trusler. Bedriftsutgifter til styring og overholdelse av AI-verktøy er prognostisert å vokse fra 2,2 milliarder dollar i 2025 til 9,5 milliarder dollar i 2035, et signal på hvor alvorlig markedet tar dette.

Men den mer konsekvensfulle risikoen oppstår ikke utenfor deres vegger. Banker og finansteknologiselskaper legger AI i sin kundesupportstakk, bygger AI-assisterte IVR-systemer, stemmebiometriske autentiseringssystemer og agente samtalefløter som håndterer transaksjoner uten menneskelige agenter. Disse innsatsene er rettet mot å forbedre kundeserfaringen og redusere menneskelig arbeid, men når disse systemene feiler, etterlater de et svakt punkt som trusler kan finne alt for lett å utnytte.

Rutingsfeil, kontekst som går tapt mellom oppgraderinger, og autentiseringssystemer som oppfører seg uforutsigbart, ser ut som kundeserfaringproblemer og blir logget som slike.

Men disse kundeserfaringproblemer kan forvandle seg til noe verre nedover i prosessen. En kunde som er låst ut av stemmebiometri vil sjelden rapportere det. I stedet er sjansen høy at de vil ringe tilbake, finne en måte å snakke med en menneskelig agent og presser dem til å omgå de very protokollene disse systemene var bygget for å håndheve.

Det større problemet er at en angriper som etterligner en kunde kan gjøre det også. Finansinstitusjoner er godt klar over dette. Faktisk 91% av USAs banker gjenoverveier sine stemmebiometriske autentiseringsstrategier i lys av AI-kloningsrisiko.

Gjenoverveiing vil ikke løse disse problemene. En institusjon hvis stemmeautentisering regelmessig feiler legitime kunder, har allerede skapt de very forholdene en bestemt hacker trenger for å utnytte systemet. Etter all, en hacker trenger ikke å finne en teknisk sårbarhet når friksjon i kundeserfaringen gir dem en måte inn.

Selskapene må endre sin perspektiv, ikke sin sikkerhetsstakk

Verktøy som kan detektere AI-genererte syntetiske stemmer er forbedret, men en trusler som søker etter svakheter i en banks systemer, er ikke på jakt etter ett enkelt svakt punkt. De søker etter områder hvor systemene snubler og glemmer hverandre, hvor autentiseringssystemer feiler å overføre signaler tydelig. Bedre deteksjon ved periferien kan ikke lukke den gapen.

Hva som kan hjelpe, er å gjenoverveie hvordan ledere behandler stemmeinfrastruktur. Som med enhver del av din programvarestakk, krever stemmeinfrastruktur samme nivå av skarpsyn som periferiforsvar.

I praksis vil en slik sikkerhetsinnstilling kreve både funksjonelle og holdbarhetstester over forholdene som IVR, biometriske autentiseringssystemer og andre stemmesystemer vil møte i produksjon: lavkvalitetslyd, forskjellige aksenter og bakgrunnsstøy, kanttilfeller, oppgraderinger og autentiseringsgrense-scenarier hvor legitime ringere er like utenfor systemets akseptanse-terskler.

Svaret er ikke en engangscertifisering. Banker trenger kontinuerlig validering av hele stemmeferden, fra IVR-ruting og biometrisk autentisering til oppgradering, overføring og fallback-punkter. Uansett hvor ofte stemmesystemer oppdateres, vil bedrageritaktikker naturlig utvikle seg for å finne sprøer i hva enn forsvar de møter. Et system som passerer validering ved deployering, må testes hyppig og gjentakende i sanntid til å sikre at det fortsatt er sikker, selv om dens ytelse har utviklet seg.

Det er verdt å merke seg at kontinuerlig testing i stor skala vil komme med budsjettkonsekvenser. Det er også den innebygde spenningen mellom å flytte raskt (deployere nye funksjoner for å holde seg konkurransedyktig) og å validere systemer grundig før de interagerer med ekte kunder og møter ekte bedrageriforsøk.

Selv om det er vanskelig å løse den spenningen reneste, gjør det klart kostnadene ved å hoppe over validering: En feil i ditt system som frustrerte kunder allerede har funnet en måte å gå rundt, er et svakt punkt, uansett hvordan ditt selskap kategoriserer det.

Bedre kundeserfaringer blir til bedrageriforsvar

De eksterne og interne risikoene beskrevet ovenfor er ikke separate problemer med forskjellige løsninger. Friksjonen produsert av upålitelige kundeserfaringer skaper atferdsgapper som sosial manipulering er designet for å utnytte.

Dette er et løsbart problem, men bare hvis institusjoner innser at effekten av dårlig kundeserfaring kan nå lengre enn bare opprettholdelse eller inntekt. Banker vil ikke løse AI-stemmebedrageri ved å behandle det som et deteksjonsproblem alene. De må også fjerne usikkerheten, friksjonen og feilpunktene inne i sine egne stemmeferder. I en tid hvor en kjent stemme ikke lenger kan stoles på som standard, blir påliteligheten av ferden selv en del av sikkerhetsmodellen.