Deepfakes e AI: approfondimenti dal rapporto 2024 di Pindrop su Intelligenza e Sicurezza della Voce

L’avanzamento rapido dell’intelligenza artificiale (AI) ha portato notevoli benefici e cambiamenti trasformativi in vari settori. Tuttavia, ha anche introdotto nuovi rischi e sfide, in particolare quando si tratta di frode e sicurezza. I deepfakes, un prodotto dell’AI generativa, stanno diventando sempre più sofisticati e rappresentano una minaccia sostanziale per l’integrità dei sistemi di sicurezza basati sulla voce.

I risultati del rapporto 2024 di Pindrop sull’Intelligenza e la Sicurezza della Voce evidenziano l’impatto dei deepfakes su vari settori, i progressi tecnologici che guidano queste minacce e le soluzioni innovative in fase di sviluppo per contrastarle.

L’ascesa dei Deepfakes: una spada a doppio taglio

I deepfakes utilizzano algoritmi di apprendimento automatico avanzati per creare contenuti audio e video sintetici altamente realistici. Sebbene queste tecnologie abbiano applicazioni emozionanti nel settore dello spettacolo e dei media, presentano anche gravi sfide di sicurezza. Secondo il rapporto di Pindrop, i consumatori statunitensi sono più preoccupati per il rischio di deepfakes e cloni vocali nel settore bancario e finanziario, con il 67,5% che esprime una preoccupazione significativa.

Impatto sulle Istituzioni Finanziarie

Le istituzioni finanziarie sono particolarmente vulnerabili agli attacchi di deepfakes. I truffatori utilizzano voci generate da AI per impersonare individui, ottenere accesso non autorizzato ai conti e manipolare transazioni finanziarie. Il rapporto rivela che nel 2023 ci sono stati un numero record di violazioni dei dati, per un totale di 3.205 incidenti, con un aumento del 78% rispetto all’anno precedente. Il costo medio di una violazione dei dati negli Stati Uniti ammonta ora a 9,5 milioni di dollari, con i centri di contatto che subiscono il maggior impatto in termini di sicurezza.

Un caso degno di nota ha coinvolto l’uso di una voce deepfake per ingannare un’azienda con sede a Hong Kong e farle trasferire 25 milioni di dollari, evidenziando il potenziale devastante di queste tecnologie quando utilizzate in modo malizioso.

Minacce più ampie ai Media e alla Politica

Al di là dei servizi finanziari, i deepfakes rappresentano anche una minaccia significativa per i media e le istituzioni politiche. La capacità di creare contenuti audio e video falsi convincenti può essere utilizzata per diffondere disinformazione, manipolare l’opinione pubblica e minare la fiducia nei processi democratici. Il rapporto segnala che il 54,9% dei consumatori è preoccupato per la minaccia dei deepfakes alle istituzioni politiche, mentre il 54,5% si preoccupa del loro impatto sui media.

Nel 2023, la tecnologia dei deepfakes è stata implicata in diversi incidenti di alto profilo, tra cui un attacco di robocall che ha utilizzato una voce sintetica del Presidente Biden. Tali incidenti sottolineano l’urgenza di sviluppare meccanismi di rilevamento e prevenzione robusti.

Progressi Tecnologici che Guidano i Deepfakes

La diffusione di strumenti di AI generativa, come ChatGPT di OpenAI, Bard di Google (GOOGL ) e Bing AI di Microsoft (MSFT ), ha notevolmente ridotto le barriere per la creazione di deepfakes. Oggi, oltre 350 sistemi di AI generativa vengono utilizzati per vari applicazioni, tra cui Eleven Labs, Descript, Podcastle, PlayHT e Speechify. Ad esempio, il modello VALL-E di Microsoft può clonare una voce da un clip audio di soli tre secondi.

Questi progressi tecnologici hanno reso i deepfakes più economici e facili da produrre, aumentando la loro accessibilità sia per utenti benigni che per attori malintenzionati. Entro il 2025, Gartner prevede che l’80% delle offerte di AI conversazionale incorporerà l’AI generativa, rispetto al 20% del 2023.

Contrastare i Deepfakes: le Innovazioni di Pindrop

Per affrontare la crescente minaccia dei deepfakes, Pindrop ha introdotto diverse soluzioni all’avanguardia. Una delle più note è la Garanzia Deepfake Pulse, una garanzia senza precedenti che rimborsa i clienti idonei se la Suite di Prodotti di Pindrop non riesce a rilevare un deepfake o altra frode vocale sintetica. Questa iniziativa mira a fornire tranquillità ai clienti mentre spinge i confini delle capacità di rilevamento delle frodi.

Soluzioni Tecnologiche per Migliorare la Sicurezza

Il rapporto di Pindrop evidenzia l’efficacia della tecnologia di rilevamento della “vivacità” (liveness detection), che analizza le chiamate telefoniche in tempo reale per rilevare caratteristiche spettro-temporali che indicano se la voce nella chiamata è “viva” o sintetica. Nei test interni, la soluzione di rilevamento della vivacità di Pindrop si è rivelata essere il 12% più precisa dei sistemi di riconoscimento vocale e il 64% più precisa degli esseri umani nell’identificare voci sintetiche.

Inoltre, Pindrop impiega una prevenzione delle frodi e un’autenticazione a più fattori integrate, sfruttando la voce, il dispositivo, il comportamento, i metadati del carrier e i segnali di vivacità per potenziare la sicurezza. Questo approccio a più strati aumenta notevolmente la barriera per gli truffatori, rendendo sempre più difficile il loro successo.

Tendenze Future e Preparazione

Guardando avanti, il rapporto prevede che le frodi dei deepfakes continueranno a salire, rappresentando un rischio di 5 miliardi di dollari per i centri di contatto negli Stati Uniti soltanto. La crescente sofisticazione dei sistemi di sintesi vocale, combinata con la tecnologia di sintesi vocale a basso costo, presenta sfide continue.

Per stare al passo con queste minacce, Pindrop consiglia tecniche di rilevamento del rischio precoci, come la rilevazione della spoofing dell’ID del chiamante e la rilevazione continua delle frodi, per monitorare e mitigare le attività fraudolente in tempo reale. Implementando queste misure di sicurezza avanzate, le organizzazioni possono proteggersi meglio contro il panorama in evoluzione delle frodi guidate dall’AI.

Conclusione

L’emergere dei deepfakes e dell’AI generativa rappresenta una sfida significativa nel campo della frode e della sicurezza. Il rapporto 2024 di Pindrop sull’Intelligenza e la Sicurezza della Voce sottolinea l’urgente necessità di soluzioni innovative per contrastare queste minacce. Con progressi nel rilevamento della vivacità, nell’autenticazione a più fattori e nelle strategie di prevenzione delle frodi, Pindrop è all’avanguardia degli sforzi per garantire la sicurezza e la fiducia nelle interazioni basate sulla voce. Mentre il paesaggio tecnologico continua a evolversi, anche i nostri approcci per garantire la sicurezza e la fiducia nell’era digitale devono evolversi.