Er bankerne klar til AI-stemmesvindel?

AI-genereret stemme har ændret økonomien for svindel. Det, der tidligere krævede en dygtig efterligning, en overbevisende manuskript eller et kompromitteret telefonnummer, kan nu forsøges i stor målestok med værktøjer, der lyder alarmingly menneskeligt.

Og hvad der er endnu mere bekymrende, er, at de har den finansielle sektor lige i deres sigte. I begyndelsen af 2024 deltog en finansarbejder i et ingeniørfirma Arup i, hvad der så ud til at være en rutinevideoopkald med firmaets CFO og flere kollegaer. Stemmerne var kendte, ansigterne genkendelige, og anmodningen så ud til at være plausibel nok til at passere grundlæggende undersøgelse. Ved afslutningen af opkaldet havde hun godkendt 25 millioner dollars i overførsler. Personerne, hun troede, hun talte med, herunder firmaets CFO, blev senere rapporteret at have været AI-genererede deepfakes.

For finansielle institutioner er risikoen ikke begrænset til interne betalingsgodkendelser. Den samme sammenbrud i tillid kan spille ud over kundeaftaler, callcenter-escalering, svindelkontroller og konto-genoprettelsesrejser.

Svindlere har udnyttet den relative anonymitet af telefonopkald til at begå svindel i årtier. Med AI er det dog blevet meget lettere, og resultaterne er langt mere overbevisende. For banker og fintech-virksomheder resulterer denne konvergens i en ukendt risikokort.

Der er en mere ubehagelig realitet under dette. Selv mens angribere søger efter måder at komme ind, gør den AI-infrastruktur, som finansielle institutioner anvender til at modernisere deres kundesupport, det lettere at begå svindel åbenlyst.

Opkaldet, der lyder, som om det hører til

Før AI var stemmesvindel relativt let at identificere. Robotopkald lød flade og fulgte et manuskript, og vishing-forsøg afhang af menneskelige operatører, der fulgte opkaldsark. I de fleste tilfælde var omfanget begrænset af svindlernes kvalitet, der forsøgte social manipulation. Med tilstrækkelig træning og lidt sund fornuft kunne personalet normalt spotte tegnene.

AI har ændret dette ved næsten atcollapse den tekniske barriere for efterligning. Med tilstrækkelig promptning kan AI lyde ekstremt menneskeligt, komplet med inflection, emotion og fejl, som man ville forvente fra en rigtig person. At gøre tingene værre, er AI-værktøjer, der kan kopiere stemmer, let tilgængelige på kommercielle platforme og åbne kilde-repositorier.

McAfee Labs fandt, at tre sekunders lyd er tilstrækkeligt for et AI-værktøj til at producere en stemmeklon med 85% nøjagtighed. Ti sekunders optagelse kan presse dette tal over 95%. Kildematerialet er overalt: sociale medie-indlæg, voicemail-hilsner, konferenceoptagelser, indtægtsopkald eller LinkedIn-videoer.

Real-time stemmeomdannelseværktøjer blev bredt tilgængelige i 2024, hvilket betyder, at angribere i dag ikke længere behøver en forudindspillet klip. De kan blot tale ind i en mikrofon, og outputtet vil lyde som den person, de forsøger at efterligne.

Arup-sagen er instruktiv: Finansarbejderen havde tvivl, men tilstedeværelsen af kendte stemmer og ansigter på opkaldet overvandt dem, men besluttede at stole på hendes øjne og ører. Samme år afslørede Hongkong-efterforskere en separat operation, der havde klonet en finansmanagers stemme til at køre en 18,5 millioner dollars kryptokurrency-svindel.

En kendt stemme, det viser sig, er en tillid til en, og AI har gjort denne antagelse til en farlig en at have.

Godkendelsesfejl bliver til svindelmuligheder

Finansielle institutioner responderer allerede på eksterne trusler. Enterprise-udgifter til regering og overholdelse af værktøjer til AI forventes at vokse fra 2,2 milliarder dollars i 2025 til 9,5 milliarder dollars i 2035, et signal om, hvor alvorligt markedet tager dette.

Men den mere konsekvensfulde risiko opstår ikke uden for deres mure. Banker og fintech-virksomheder lagrer AI i deres kundesupport-stak, bygger AI-assisterede IVR-systemer, stemme-biometrisk godkendelse og agente-opkaldsflader, der håndterer transaktioner uden menneskelige agenter. Disse bestræbelser er rettet mod at forbedre kundeservicen og reducere menneskelig arbejdskraft, men når disse systemer fejler, efterlader de et svagt punkt, som trusler kan finde alt for let at udnytte.

Routingsfejl, kontekst, der går tabt mellem eskaleringer, og godkendelsessystemer, der opfører sig upredsigeligt, ligner kundeservicaproblemer og logges som sådanne.

Men disse CX-problemer kan udvikle sig til noget værre længere nede. En kunde, der er låst ud af stemme-biometrik, vil sjældent rapportere det. I stedet er sandsynligheden høj, at de vil ringe tilbage, finde en måde at tale med en menneskelig agent og presse dem til at omgå de protokoller, disse systemer var bygget til at gennemtvinge.

Det større problem er, at en angriber, der efterligner en kunde, også kan gøre det. Finansielle institutioner er meget bevidste om dette. Faktisk 91% af USAs banker overvejer at genoverveje deres stemme-biometriske godkendelsesstrategier i lyset af AI-kloningsrisici.

Genovervejelse vil ikke løse disse problemer. En institution, hvis stemme-godkendelse regelmæssigt fejler legitime kunder, har allerede skabt de præcise betingelser, en beslutsom hacker behøver for at udnytte systemet. Efter alt, en hacker behøver ikke at finde en teknisk sårbarhed, når friktion i kundeservicen giver dem en vej ind.

Virksomhederne skal ændre deres perspektiv, ikke deres sikkerhedsstak

Værktøjer, der kan detektere AI-genererede syntetiske stemmer, forbedres, men en trusler, der søger efter svagheder i bankens systemer, søger ikke efter et enkelt svagt punkt. De søger efter områder, hvor systemer snubler og misser hinanden, hvor godkendelsessystemer fejler at sende signaler tydeligt. Bedre detektion ved periferien kan ikke lukke denne lukning.

Hvad der kan hjælpe, er at overveje, hvordan ledere behandler stemme-infrastruktur. Som med enhver del af software-stakken kræver stemme-infrastruktur den samme niveau af gennemgang som periferiforsvar.

I praksis vil en sådan sikkerhedsposition kræve både funktionelle og resiliencestests på tværs af de betingelser, som IVR, biometrisk godkendelse og andre stemme-systemer vil møde i produktion: lavkvalitetslyd, forskellige accenter og baggrundsstøj, kant-escaleringer og godkendelsesgrænse-scenarier, hvor legitime kaldere ligger lige uden for systemets acceptgrænser.

Svaret er ikke en enkelt certificeringsøvelse. Banker har brug for kontinuerlig validering af den fulde stemmerejse, fra IVR-routning og biometrisk godkendelse til eskalering, overførsel og fallback-veje. Uanset hvor ofte stemmesystemer opdateres, vil svindeltaktikker naturligt udvikle sig til at finde sprækker i hvilke som helst forsvar, de møder. Et system, der passerer validering ved installation, skal testes hyppigt og gentaget i virkelige forhold for at sikre, at det stadig er sikkert, selv om dets ydeevne er udviklet.

Det er værd at bemærke, at kontinuerlig testning i stor målestok vil komme med budgetovervejelser. Der er også den indbyggede spænding mellem at flytte hurtigt (at implementere nye funktioner for at blive konkurrencedygtig) og at validere systemer grundigt, før de interagerer med rigtige kunder og møder rigtige svindelforsøg.

Selv om det er svært at løse denne spænding renligt, gør det klart omkostningerne ved at springe validering over: Et fejl i jeres system, som frustrerede kunder allerede har fundet en måde rundt, er et svagt punkt, uanset hvordan jeres virksomhed kategoriserer det.

Bedre kundeservicerejser bliver til svindelforsvar

De eksterne og interne risici, der er beskrevet ovenfor, er ikke separate problemer med forskellige løsninger. Friktionen, der produceres af upålidelige kundeservicerejser, skaber adfærds-mellemlom, som social manipulation er designet til at udnytte.

Det er et løseligt problem, men kun hvis institutioner indser, at virkningen af dårlig kundeservice kan nå længere end blot til beholdelse eller omsætning. Banker vil ikke løse AI-stemmesvindel ved at behandle det som et detektionsproblem alene. De skal også fjerne tvivl, friktion og fejlpunkter inde i deres egen stemmerejse. I en æra, hvor en kendt stemme ikke længere kan tillides som standard, bliver pålideligheden af rejsen selv en del af sikkerhedsmodellen.