L’impatto crescente dell’AI sulle truffe elettorali questa stagione

Nel 2022, le email maliziose che prendevano di mira i lavoratori elettorali della contea della Pennsylvania sono aumentate intorno alle elezioni primarie del 17 maggio, con un aumento del 546% in sei mesi. Abbinato al potenziale per nefasti modelli linguistici grandi (LLM) su questi attacchi di phishing tradizionali, c’è una alta probabilità che l’americano medio sarà il bersaglio di una truffa ancora più realistica questa stagione elettorale.

I governi iniziano a prendere nota, soprattutto mentre l’AI si integra nella nostra vita quotidiana. Ad esempio, l’Agenzia per la sicurezza cibernetica e delle infrastrutture degli Stati Uniti ha lanciato un programma per aumentare la sicurezza elettorale – dimostrando una crescente domanda da parte del governo e del pubblico per proteggere se stessi e i loro dati da potenziali attori malintenzionati questa stagione elettorale.

E anche più recentemente, alla Conferenza sulla sicurezza di Monaco del 2024, 20 aziende tecnologiche e di AI hanno firmato un “Accordo tecnologico per combattere l’uso ingannevole dell’AI nelle elezioni del 2024,” che evidenzia i principi guida per proteggere le elezioni e il processo elettorale, tra cui prevenzione, provenienza, rilevamento, protezione reattiva, valutazione e consapevolezza pubblica. Composto da importanti player tecnologici come Microsoft (MSFT ), Amazon (AMZN ) e Google, questo segna un importante cambiamento nell’industria che anche al di là delle affiliazioni politiche, la sicurezza dei dati è un argomento che preoccuperà i cittadini e gli esperti di sicurezza informatica per tutto il resto di questa stagione elettorale. Inoltre, l’AI generativa avrà un grande impatto su come gli attori malintenzionati possono eseguire i loro attacchi, rendendoli più facili da eseguire e più realistici.

Tipi di truffe elettorali

Mentre la stagione elettorale non è l’unico momento in cui vediamo un aumento delle truffe, quando si tratta di votare, sia nelle elezioni primarie che in quelle generali, tendiamo a vedere un aumento di diversi metodi e tecniche. Ognuno di questi viene utilizzato con l’obiettivo tipico di ottenere l’accesso all’account di un individuo o di ottenere un guadagno monetario e le conseguenze di cadere in queste truffe possono avere conseguenze importanti. In effetti, la truffa dei deepfake da sola ha costato agli Stati Uniti più di 3,4 miliardi di dollari in perdite.

Alcuni esempi di truffe che vediamo durante la stagione elettorale includono:

• Phishing: il phishing coinvolge l’uso di collegamenti, email e siti web falsi per ottenere l’accesso a informazioni sensibili dei consumatori – di solito installando malware sul sistema bersaglio. Questi dati vengono quindi utilizzati per rubare altre identità, ottenere l’accesso a beni di valore e sovraccaricare le caselle di posta con spam di posta elettronica. Durante la stagione elettorale, le email di phishing possono essere camuffate come email di donazione, inducendo un cittadino a cliccare sul collegamento, pensando di stare donando a un candidato, ma in realtà cadendo in uno schema di un attore malintenzionato.
• Robocall, impersonazioni e chatbot generati da AI: Come visto nel New Hampshire quando un robocall ha impersonato il Presidente Biden, esortando i cittadini a non votare, la stagione elettorale porterà a un aumento di impersonazioni di sondaggisti o candidati politici per falsamente guadagnare la fiducia e ottenere informazioni sensibili.
• Deepfake: con l’aumento dell’AI, i deepfake sono diventati incredibilmente realistici oggi e possono essere utilizzati per impersonare un capo o anche la tua celebrità preferita. I deepfake sono video o immagini che utilizzano l’AI per sostituire i volti o manipolare le espressioni facciali o il discorso. Molti dei deepfake che incontriamo quotidianamente saranno in forma di video, con un clip contraffatto che ritrae la persona che dice o fa qualcosa che non ha mai fatto. Ci si aspetta che questo sia particolarmente diffuso durante la stagione elettorale, con il rischio che i deepfake vengano creati per impersonare i candidati. Anche al di fuori degli Stati Uniti, come nel Regno Unito, ci sono timori che i deepfake possano essere utilizzati per manipolare le elezioni.

L’impatto dell’AI sulle elezioni

Oltre a queste truffe, gli algoritmi di AI vengono utilizzati per generare messaggi, email e post sui social media più convincenti e coinvolgenti per ingannare gli utenti e far loro rivelare informazioni sensibili.

Microsoft e OpenAI hanno pubblicato un briefing sulle minacce, “Navigare le minacce informatiche e rafforzare le difese nell’era dell’AI”, che ha notato che cinque attori minacciosi della Russia, della Corea del Nord, dell’Iran e della Cina hanno già utilizzato la GenAI per nuovi e innovativi modi per migliorare le loro operazioni contro bersagli morbidi.

Truffe come chatbot, clonazione vocale e altro sono portate a un livello superiore con l’AI come strumento per diffondere disinformazione, sviluppare malware e impersonare individui. Gli strumenti di clonazione vocale possono creare repliche quasi perfette della voce o del volto di una figura elettorale, ad esempio. L’AI potrebbe anche essere utilizzata per inondare i centri di chiamata con chiamate di votanti false, sovraccaricandoli con disinformazione.

Sul massimo allarme sarà il social media, poiché è il principale veicolo per le campagne elettorali questa stagione. Gli elettori condivideranno se hanno votato e forse anche mostreranno il loro sostegno al loro candidato preferito sulle loro pagine. Tuttavia, quest’anno presenta una nuova minaccia, poiché vediamo un aumento di truffe di phishing AI (compresi smishing e vishing).

Considera se qualcuno ha pubblicato sul proprio account social un messaggio di sostegno a un candidato specifico. Pochi minuti dopo, riceve un’email che sembra provenire da un manager di campagna, ringraziandolo per il suo sostegno. Quella potenziale vittima potrebbe interagire con quell’email cliccando su un collegamento, aprendo la strada al raccolta di credenziali, perdita finanziaria o installazione di malware. A causa della capacità dell’AI di monitorare, creare e consegnare campagne di phishing mirate in tempo reale, anche i post sui social media apparentemente innocui ora espongono gli utenti a un nuovo livello di schemi di phishing realistici.

Rimanere vigili durante la stagione elettorale

Gli attacchi come il phishing continueranno a essere un modo comune per gli attori malintenzionati per creare truffe realistiche che possono sfuggire anche ai più esperti, e nell’era dell’AI generativa il potenziale impatto di questi è stato accelerato per consentire agli attori malintenzionati un accesso più rapido alle informazioni sensibili.

Mentre le aziende utilizzano la tecnologia per proteggere i loro dati e dipendenti, i consumatori devono anche essere consapevoli delle tecniche per rilevare e evitare le truffe. Alcune di queste includono:

• Essere attenti ai collegamenti o ai titoli di posta elettronica casuali o con errori di ortografia
• Non cliccare su un collegamento da un mittente sconosciuto
• Utilizzare l’autenticazione a due fattori o l’autenticazione biometrica quando possibile
• Rendere privati i profili sui social media
• Segnalare l’attività maliziosa
• Educazione di altri colleghi o familiari
• Cercare un dominio del sito web .gov per verificare l’autenticità di un candidato elettorale
• Se si dispone di un reparto IT sul posto di lavoro, è possibile chiedere anche:
  • Reti Zero Trust
  • Autenticazione a due fattori resistente al phishing
  • Strumenti di sicurezza per la posta elettronica (DMARC, DKIM, SPF)
  • Metodi per firmare digitalmente il contenuto (o un altro modo per verificare criptograficamente le comunicazioni)

Anche se le stagioni elettorali sono un momento in cui essere in allerta, gli attacchi possono verificarsi in qualsiasi momento, quindi è importante assicurarsi che le fondamenta della sicurezza informatica siano solide e affidabili tutto l’anno.