Immagina questo: sei al lavoro, concentrato su una scadenza stretta, quando ricevi una chiamata da quello che sembra essere il numero di telefono di tua madre. La voce all’altro capo è inconfondibilmente la sua, calma e amorevole, ma con un accenno di urgenza insolito. Ti dice che si è imbattuta in gravi problemi mentre era in vacanza a Parigi e ha bisogno del tuo aiuto finanziario immediato per risolvere la situazione. Sai che si trova a Parigi e i dettagli che fornisce, fino al nome del suo hotel, rendono la chiamata ancora più convincente. Senza esitare, trasferisci il denaro, solo per scoprire in seguito che tua madre non ha mai fatto quella chiamata; era un avanzato sistema di intelligenza artificiale che mimava perfettamente la sua voce e fabbricava uno scenario dettagliato. Ti si rizzano i capelli sulla nuca mentre ti rendi conto di cosa è appena successo.

Questo scenario, un tempo pura fantascienza, è ora una realtà emergente. L’alba delle tecnologie di intelligenza artificiale come i grandi modelli linguistici (LLM) ha portato a incredibili avanzamenti. Tuttavia, una minaccia significativa si profila all’orizzonte: le truffe potenziate dall’intelligenza artificiale. Il potenziale per truffe sofisticate alimentate dall’intelligenza artificiale è una nuova minaccia all’orizzonte del progresso tecnologico. Mentre le truffe telefoniche sono state una preoccupazione fin dall’invenzione del telefono, l’integrazione ampia dei grandi modelli linguistici (LLM) in ogni aspetto della comunicazione digitale ha elevato drasticamente le poste in gioco. Mentre abbracciamo il potenziale dell’intelligenza artificiale, è cruciale che rafforziamo anche le nostre difese contro queste minacce sempre più sofisticate.

Il Paesaggio Attuale delle Truffe Telefoniche

I criminali hanno cercato di ingannare individui inesperti per convincerli a trasferire denaro o divulgare informazioni sensibili per anni, ma nonostante la diffusione delle truffe telefoniche, molte di queste truffe sono relativamente primitive, basate su operatori umani che leggono copioni. Tuttavia, anche con questa limitazione, le truffe telefoniche continuano a essere un’impresa criminale lucrativa.

Secondo la Commissione Federale per il Commercio degli Stati Uniti, nel 2022 solo, gli americani hanno perso oltre 8,8 miliardi di dollari a causa di truffe, con una parte significativa attribuita a truffe telefoniche, il che significa che anche nella loro forma attuale, meno avanzata, molte di queste tattiche funzionano ancora su individui vulnerabili. Cosa succede quando si evolvono?

Il Futuro delle Truffe Potenziate dall’Intelligenza Artificiale

Il paesaggio delle truffe telefoniche è pronto per un cambiamento drammatico con l’avvento di diverse tecnologie chiave:

Grandi Modelli Linguistici (LLM)

Questi sistemi di intelligenza artificiale possono generare testo simile a quello umano e impegnarsi in conversazioni naturali. Quando applicati alle truffe, gli LLM potrebbero creare copioni molto convincenti e adattivi, rendendo molto più difficile per le potenziali vittime identificare la truffa.

Generazione Potenziata da Recupero (RAG)

Questa tecnologia consente ai sistemi LLM di accedere e utilizzare grandi quantità di informazioni in tempo reale. I truffatori possono creare un profilo di una persona in base alle informazioni pubblicamente disponibili, come i loro account social. Possono anche utilizzare tecniche di ingegneria sociale sui loro amici e familiari per raccogliere informazioni più profonde. Ciò darà loro accesso a informazioni come l’identità della vittima, le informazioni sul lavoro o anche le attività recenti. Possono quindi utilizzare il RAG per fornire agli LLM il contesto necessario, rendendo i loro approcci apparentemente personalizzati e legittimi.

Generazione di Audio Sintetico

Piattaforme come Resemble AI e Lyrebird sono alla guida nella creazione di voci generate da intelligenza artificiale estremamente realistiche. Queste tecnologie sono in grado di produrre audio personalizzato, simile a quello umano, che può essere utilizzato in varie applicazioni, che vanno dagli assistenti virtuali al servizio clienti automatizzato e alla creazione di contenuti. Aziende come ElevenLabs stanno spingendo i confini più in là, consentendo agli utenti di creare voci sintetiche che possono replicare da vicino la loro voce, permettendo un nuovo livello di personalizzazione e coinvolgimento nelle interazioni digitali.

Generazione di Video Sintetico

Aziende come Synthesia stanno già dimostrando il potenziale per creare contenuti video realistici con avatar generati da intelligenza artificiale. Nei prossimi anni, questa tecnologia potrebbe consentire ai truffatori di impersonare amici o familiari o creare personaggi completamente fittizi per le videochiamate, introducendo un livello di realismo fisico precedentemente impossibile nelle truffe.

Sincronizzazione Labiale dell’Intelligenza Artificiale

Start-up come Sync Labs stanno sviluppando tecnologie di sincronizzazione labiale avanzate che possono abbinare audio generato a filmati video. Ciò potrebbe essere utilizzato per creare video deep-fake estremamente convincenti di personaggi storici, politici, celebrità e praticamente chiunque altro, ulteriormente confondendo i confini tra realtà e inganno.

La combinazione di queste tecnologie dipinge un quadro piuttosto preoccupante. Immagina una chiamata truffaldina in cui l’intelligenza artificiale può adattare la conversazione in tempo reale, armata di informazioni personali sulla vittima, e addirittura passare a una videochiamata con una persona apparentemente reale le cui labbra si muovono in perfetta sincronia con la voce generata. Il potenziale per l’inganno è veramente enorme.

La Necessità di Misure di Sicurezza Migliorate

Mentre queste truffe potenziate dall’intelligenza artificiale diventano più sofisticate, i metodi di verifica dell’identità e dell’autenticità dovranno correre con gli avanzamenti dell’intelligenza artificiale. Ci dovranno essere avanzamenti normativi e tecnologici per mantenere il mondo online sicuro.

Miglioramenti Normativi

Leggi più Rigorose sulla Privacy dei Dati: L’attuazione di leggi più rigorose sulla privacy dei dati limiterebbe la quantità di informazioni personali disponibili per i truffatori. Queste leggi potrebbero includere requisiti più severi per la raccolta dei dati, protocolli di consenso degli utenti migliorati e penalità più severe per le violazioni dei dati.

Cloud Privato per i Modelli di Intelligenza Artificiale più Potenti: Le norme potrebbero imporre che i modelli di intelligenza artificiale più potenti siano ospitati su infrastrutture cloud private e sicure anziché essere resi disponibili apertamente. Ciò limiterebbe l’accesso alle tecnologie più avanzate, rendendo più difficile per gli attori malintenzionati utilizzarle per le truffe. (ad esempio: https://security.apple.com/blog/private-cloud-compute/)

Collaborazione Internazionale sulle Norme dell’Intelligenza Artificiale: Data la natura globale della tecnologia dell’intelligenza artificiale, la collaborazione internazionale sulle norme regolamentari potrebbe essere benefica. Stabilire un organismo globale responsabile della creazione e dell’applicazione di norme internazionali sull’intelligenza artificiale potrebbe aiutare nel contrastare i crimini legati all’intelligenza artificiale a livello transnazionale.

Campagne di Sensibilizzazione Pubblica: I governi e gli organismi regolatori dovrebbero investire in campagne di sensibilizzazione pubblica per educare i cittadini sui potenziali rischi delle truffe dell’intelligenza artificiale e su come proteggersi. La consapevolezza è un passo fondamentale per empowerment degli individui e delle organizzazioni nell’attuazione delle misure di sicurezza necessarie.

Le attuali norme sull’intelligenza artificiale sono insufficienti per prevenire le truffe, e la sfida della regolamentazione futura è complicata dalla natura open-source di molte tecnologie potenti. Questa apertura consente a chiunque di accedere e modificare queste tecnologie per i propri scopi. Pertanto, accanto a norme più severe, sono necessari avanzamenti nelle tecnologie di sicurezza.

Rilevamento dei Dati Sintetici

Rilevamento dell’audio sintetico: Mentre i truffatori utilizzano l’intelligenza artificiale, anche le nostre difese devono farlo. Aziende come Pindrop stanno sviluppando sistemi alimentati da intelligenza artificiale che possono rilevare l’audio sintetico in tempo reale durante le chiamate telefoniche. La loro tecnologia analizza oltre 1.300 caratteristiche dell’audio di una chiamata per determinare se proviene da una persona reale o da un sistema di intelligenza artificiale sofisticato.

Rilevamento del video sintetico: Rilevamento del video sintetico: Proprio come l’audio, anche il video può essere manipolato dall’intelligenza artificiale, ponendo minacce significative sotto forma di deep-fake e altri contenuti video sintetici. Aziende come Deepware stanno sviluppando tecnologie per rilevare il video sintetico. La piattaforma di Deepware utilizza algoritmi di apprendimento automatico avanzati per analizzare le sottili incongruenze nei dati video, come movimenti innaturali, illuminazione irregolare e anomalie dei pixel che sono spesso presenti nei contenuti generati da intelligenza artificiale. Identificando queste discordanze, la tecnologia di Deepware può determinare se un video è genuino o se è stato manipolato, aiutando a proteggere individui e organizzazioni dall’essere ingannati da truffe sofisticate basate su video e campagne di disinformazione.

Avanzamenti nell’Autenticazione dell’Identità

Stanno essere sviluppati vari modi per confermare l’identità di un utente e uno o più di questi diventeranno mainstream nei prossimi anni per rendere internet più sicuro.

Autenticazione a due fattori per le conversazioni remote: L’autenticazione a due fattori (2FA) rimane un componente fondamentale della comunicazione sicura. Con questo metodo, ogni chiamata telefonica o email scatenerà un messaggio di testo con un codice di verifica univoco, simile alle attuali iscrizioni via email. Sebbene la 2FA sia efficace per l’autenticazione di base, le sue limitazioni significano che non può essere affidabile in tutti i contesti, necessitando lo sviluppo di metodi più avanzati per garantire una sicurezza completa su internet che possa funzionare in background.

Autenticazione multi-fattore basata sul comportamento: Oltre a verificare l’identità all’inizio di una chiamata, i sistemi di sicurezza futuri potrebbero analizzare continuamente il comportamento durante l’interazione. Aziende come BioCatch utilizzano biometrie comportamentali per creare profili utente in base a come gli individui interagiscono con i loro dispositivi. Questa tecnologia può rilevare anomalie nel comportamento che potrebbero indicare che un truffatore sta utilizzando informazioni rubate, anche se sono passati i controlli di autenticazione iniziali.

Autenticazione basata su biometria: Aziende come Onfido sono alla guida della tecnologia di verifica dell’identità basata su biometria, offrendo strumenti di verifica dell’identità alimentati da intelligenza artificiale che individuano deep-fake sofisticati e altre forme di frode di identità. Il loro sistema utilizza una combinazione di verifica dei documenti e analisi biometrica per assicurarsi che la persona all’altro capo della chiamata o della videochiamata sia realmente chi afferma di essere.

Autenticazione avanzata basata sulla conoscenza: I sistemi di autenticazione futuri potrebbero incorporare domande generate dinamicamente dall’intelligenza artificiale in base all’impronta digitale di un utente e alle attività recenti. Ad esempio, Prove, un’azienda specializzata nell’identità basata sul telefono, sta sviluppando soluzioni che sfruttano l’intelligenza del telefono e l’analisi del comportamento per verificare le identità. La loro tecnologia può analizzare i modelli di utilizzo del dispositivo per creare una “firma di identità” univoca che è significativamente più difficile per i truffatori replicare.

Autenticazione basata su blockchain: La tecnologia blockchain offre un metodo decentralizzato e a prova di manomissione per la verifica dell’identità. Aziende come Civic stanno sviluppando sistemi di verifica dell’identità basati su blockchain che consentono agli utenti di controllare le proprie informazioni personali mentre forniscono un’autenticazione sicura. Questi sistemi creano un record verificabile e immutabile dell’identità di una persona, ideale per la gestione di transazioni ad alto rischio.

Conclusione

La convergenza di LLM, RAG, generazione di audio sintetico, generazione di video sintetico e sincronizzazione labiale è una sorta di spada a doppio taglio. Mentre questi avanzamenti hanno un potenziale enorme per applicazioni positive, rappresentano anche rischi significativi quando utilizzati dai truffatori.

Questa corsa agli armamenti continua tra gli esperti di sicurezza e i cybercriminali sottolinea la necessità di innovazione continua e vigilanza nel campo della sicurezza digitale. Possiamo lavorare per sfruttare i benefici di questi potenti strumenti mitigandone il potenziale per il danno solo riconoscendo e preparandoci a questi rischi.

Una regolamentazione completa, l’educazione su queste nuove forme di truffe, l’investimento in misure di sicurezza all’avanguardia e, forse più importante, una sana dose di scetticismo da parte di ciascuno di noi quando interagiamo con entità sconosciute online o al telefono sarà essenziale per navigare in questo nuovo paesaggio.