Sono pronte le banche per la frode vocale dell’AI?

L’AI generata ha cambiato l’economia della frode. Ciò che un tempo richiedeva un abile imitatore, un copione convincente o un numero di telefono compromesso può ora essere tentato su larga scala con strumenti che suonano allarmantemente umani.

E ciò che è ancora più preoccupante, hanno nel mirino il settore finanziario. All’inizio del 2024, un dipendente finanziario della società di ingegneria Arup ha partecipato a una videochiamata di routine con il CFO e diversi colleghi. Le voci erano familiari, i volti riconoscibili e la richiesta sembrava abbastanza plausibile da superare un controllo di base. Alla fine della chiamata, aveva autorizzato 25 milioni di dollari in trasferimenti. Le persone che credeva di stare parlando, compreso il CFO della società, sono state in seguito segnalate come essere state generate dall’AI.

Per le istituzioni finanziarie, il rischio non si limita alle autorizzazioni di pagamento interne. Lo stesso crollo della fiducia può verificarsi anche nell’autenticazione dei clienti, nell’escalation dei call center, nei controlli di frode e nei percorsi di recupero dei conti.

Gli scammers hanno sfruttato l’anonimato relativo delle chiamate telefoniche per commettere frodi per decenni. Tuttavia, con l’AI, lo sforzo richiesto è ora diventato banale e i risultati sono molto più convincenti. Per le banche e le fintech, questa convergenza sta risultando in una mappa di rischi inesplorata.

C’è una realtà più scomoda sotto questo. Anche mentre gli attaccanti cercano di trovare punti deboli, l’infrastruttura AI che le istituzioni finanziarie stanno implementando per modernizzare il loro supporto clienti sta rendendo più facile commettere frodi in piena vista.

La chiamata che sembra appartenere

Prima dell’AI, la frode vocale era relativamente facile da identificare. Le chiamate automatiche suonavano piatte e seguivano uno script, e i tentativi di vishing si basavano su operatori umani che seguivano fogli di chiamata. Nella maggior parte dei casi, la scala era limitata dalla qualità dello scammers che tentava l’inganno sociale. Con un addestramento adeguato e un po’ di buon senso, il personale poteva di solito rilevare i segni.

L’AI ha cambiato questo, riducendo notevolmente la barriera tecnica per l’imitazione. Con sufficienti prompt, l’AI può suonare estremamente umana, completa di inflessione, emozione e difetti che ci si aspetterebbe da una persona reale. Le cose si fanno peggiori, gli strumenti AI che possono copiare voci sono facilmente disponibili su piattaforme commerciali e repository open-source.

McAfee Labs ha scoperto che tre secondi di audio sono sufficienti per un tool AI per produrre una copia vocale con 85% di accuratezza. Dieci secondi di registrazione possono spingere quel numero sopra il 95%. Il materiale di origine è ovunque: post sui social media, saluti di posta vocale, registrazioni di conferenze, chiamate di guadagno, o video di LinkedIn.

Gli strumenti di conversione vocale in tempo reale sono diventati ampiamente disponibili nel 2024, il che significa che gli attaccanti non hanno più bisogno di un clip pre-registrato. Possono semplicemente parlare in un microfono, e l’output suonerà come chiunque stiano cercando di imitare.

Il caso Arup è istruttivo: il dipendente finanziario aveva dei dubbi, ma la presenza di voci e volti familiari nella chiamata li ha superati, e ha deciso di fidarsi dei suoi occhi e orecchi. Quello stesso anno, gli investigatori di Hong Kong hanno scoperto un’operazione separata che aveva clonato la voce di un gestore finanziario per eseguire una 18,5 milioni di dollari di truffa di criptovaluta.

Una voce familiare, si scopre, è una voce affidabile, e l’AI ha reso quell’assunzione pericolosa da fare.

I fallimenti dell’autenticazione stanno diventando opportunità di frode

Le istituzioni finanziarie stanno già rispondendo alle minacce esterne. La spesa aziendale per gli strumenti di governance e conformità per l’AI è prevista crescere da 2,2 miliardi di dollari nel 2025 a 9,5 miliardi di dollari entro il 2035, un segnale di come il mercato stia prendendo seriamente questo.

Tuttavia, il rischio più consequenziale non sta sorgendo al di fuori dei loro muri. Le banche e le fintech stanno integrando l’AI nel loro supporto clienti, costruendo sistemi IVR assistiti dall’AI, autenticazione biometrica vocale e flussi di chiamata agente che gestiscono le transazioni senza agenti umani. Questi sforzi sono finalizzati a migliorare l’esperienza del cliente e ridurre il lavoro umano, ma quando questi sistemi falliscono, lasciano un punto debole che gli attaccanti trovano fin troppo facile da sfruttare.

Gli errori di routing, il contesto perso tra le escalation e i sistemi di autenticazione che si comportano in modo imprevedibile sembrano problemi di esperienza del cliente e vengono registrati come tali.

Tuttavia, questi problemi di esperienza del cliente possono trasformarsi in qualcosa di peggio a valle. Un cliente che è bloccato dall’autenticazione vocale biometrica raramente lo segnalerà. Invece, è probabile che richiami, trovi un modo per parlare con un agente umano e lo spinga a bypassare le stesse procedure che quei sistemi erano stati costruiti per applicare.

Il problema più grande è che un attaccante che imita un cliente può farlo anche lui. Le istituzioni finanziarie sono ben consapevoli di questo. In effetti, 91% delle banche degli Stati Uniti stanno rivedendo le loro strategie di autenticazione vocale biometrica alla luce dei rischi di clonazione dell’AI.

La riconsiderazione non risolverà questi problemi. Un’istituzione la cui autenticazione vocale regolarmente fallisce i clienti legittimi ha già creato le condizioni che un hacker determinato necessita per sfruttare il sistema. Dopo tutto, un hacker non ha bisogno di trovare una vulnerabilità tecnica quando la frizione nel percorso del cliente gli consente di entrare.

Le aziende devono cambiare la loro prospettiva, non il loro stack di sicurezza

Gli strumenti che possono rilevare voci sintetiche generate dall’AI stanno migliorando, ma un attaccante che sta sondando i sistemi di una banca per vulnerabilità non sta cercando un singolo punto di fallimento. Stanno cercando aree in cui i sistemi inciampano e si mancano a vicenda, dove i sistemi di autenticazione falliscono nel passare segnali in modo chiaro. Una migliore rilevazione al perimetro non può chiudere quella lacuna.

Ciò che può aiutare è riconsiderare come i leader trattano l’infrastruttura vocale. Come qualsiasi parte del loro stack software, l’infrastruttura vocale richiede lo stesso livello di scrutinio delle difese perimetrali.

Nella pratica, una tale posizione di sicurezza richiederà sia test funzionali che di resilienza in tutte le condizioni che i sistemi IVR, l’autenticazione biometrica e altri sistemi vocali affronteranno in produzione: audio di bassa qualità, accenti e rumori di sottofondo diversi, escalation edge-case, e scenari di confine di autenticazione dove i chiamanti legittimi sono appena fuori dai limiti di accettazione del sistema.

La risposta non è un esercizio di certificazione una tantum. Le banche necessitano di una convalida continua dell’intero percorso vocale, dall’IVR di routing e dall’autenticazione biometrica all’escalation, al trasferimento e ai percorsi di fallback. Indipendentemente da quanto frequentemente i sistemi vocali vengono aggiornati, le tattiche di frode evolveranno naturalmente per trovare fessure in qualsiasi difesa che incontrino. Un sistema che supera la convalida alla distribuzione deve essere testato frequentemente e ripetutamente in condizioni del mondo reale per assicurarsi che sia ancora sicuro anche se le sue prestazioni sono evolute.

Vale la pena notare che la convalida continua su larga scala verrà con considerazioni di budget. C’è anche la tensione intrinseca tra muoversi rapidamente (distribuire nuove capacità per rimanere competitivi) e convalidare i sistemi in modo approfondito prima che interagiscano con clienti reali e affrontino tentativi di frode reali.

Mentre è difficile risolvere quella tensione in modo pulito, rende chiaro il costo dell’omissione della convalida: un fallimento nel vostro sistema che i clienti frustrati hanno già trovato un modo per aggirare è un punto debole, indipendentemente da come la vostra azienda lo categorizza.

I percorsi del cliente migliori stanno diventando una difesa contro la frode

I rischi esterni e interni descritti sopra non sono problemi separati con soluzioni diverse. La frizione prodotta da percorsi del cliente inaffidabili sta creando lacune comportamentali che l’inganno sociale è progettato per sfruttare.

Questo è un problema risolvibile, ma solo se le istituzioni si rendono conto che l’impatto di una cattiva esperienza del cliente può raggiungere più in là della semplice fidelizzazione o del fatturato. Le banche non risolveranno la frode vocale dell’AI trattandola solo come un problema di rilevamento. Devono anche rimuovere l’ambiguità, la frizione e i punti di fallimento all’interno dei propri percorsi vocali. In un’era in cui una voce familiare non può più essere considerata affidabile per default, l’affidabilità del percorso stesso diventa parte del modello di sicurezza.