Come le Deepfake Potenziate dall’Intelligenza Artificiale Minacciano l’Integrità Elettorale — E Cosa Fare

Le pubblicità elettorali possono già essere piuttosto confuse e controverse.

Ora immagina di essere bersagliato da una pubblicità elettorale in cui un candidato esprime forti posizioni che influenzano il tuo voto — e la pubblicità non è nemmeno reale. È una deepfake.

Questo non è un ipotetico scenario futuristico; le deepfake sono un problema reale e pervasivo. Abbiamo già visto “endorsement” generati dall’AI che fanno notizia, e ciò che abbiamo sentito rappresenta solo la punta dell’iceberg.

Mentre ci avviciniamo alle elezioni presidenziali statunitensi del 2024, stiamo entrando in un territorio inesplorato in materia di sicurezza informatica e integrità delle informazioni. Ho lavorato all’intersezione tra sicurezza informatica e intelligenza artificiale fin da quando entrambi questi concetti erano ancora in fase di sviluppo, e non ho mai visto nulla di simile a ciò che sta accadendo ora.

L’evoluzione rapida dell’intelligenza artificiale — in particolare l’intelligenza artificiale generativa e, naturalmente, la facilità di creare deepfake realistici — ha trasformato il panorama delle minacce elettorali. Questa nuova realtà richiede un cambio di paradigma nelle nostre assunzioni di base riguardo alla sicurezza elettorale e all’educazione degli elettori.

Intelligenza Artificiale Militarizzata

Non è necessario prendere la mia esperienza personale come prova; ci sono molti elementi di prova che le sfide di sicurezza informatica che affrontiamo oggi stanno evolvendo a un ritmo senza precedenti. Nel giro di pochi anni, abbiamo assistito a una trasformazione drammatica nelle capacità e nelle metodologie degli attori potenziali. Questa evoluzione specchia l’accelerazione nello sviluppo delle tecnologie di intelligenza artificiale, ma con una svolta preoccupante.

Ad esempio:

• Weaponizzazione rapida delle vulnerabilità. Gli attaccanti di oggi possono sfruttare rapidamente le vulnerabilità appena scoperte, spesso più velocemente di quanto i patch possano essere sviluppati e distribuiti. Gli strumenti di intelligenza artificiale accelerano ulteriormente questo processo, riducendo il tempo tra la scoperta della vulnerabilità e la sua sfruttamento.
• Superficie di attacco ampliata. L’adozione diffusa delle tecnologie cloud ha notevolmente allargato la superficie di attacco potenziale. L’infrastruttura distribuita e il modello di responsabilità condivisa tra fornitori di servizi cloud e utenti creano nuovi vettori di sfruttamento se non gestiti correttamente.
• Misure di sicurezza tradizionali obsolete. Gli strumenti di sicurezza tradizionali come firewall e software antivirus stanno faticando a stare al passo con queste minacce in evoluzione, specialmente quando si tratta di rilevare e mitigare i contenuti generati dall’intelligenza artificiale.

Chi Sta Parlando

In questo nuovo panorama di minacce, le deepfake rappresentano una sfida particolarmente insidiosa all’integrità elettorale. Ricerche recenti di Ivanti forniscono alcuni numeri sulla minaccia: più della metà dei lavoratori (54%) non sono consapevoli che l’intelligenza artificiale avanzata possa impersonare la voce di chiunque. Questa mancanza di consapevolezza tra gli elettori potenziali è profondamente preoccupante mentre ci avviciniamo a un ciclo elettorale critico.

C’è molto in gioco.

La sofisticazione della tecnologia delle deepfake di oggi consente agli attori minacciosi, sia stranieri che domestici, di creare contenuti di testo, audio e video falsi convincenti con uno sforzo minimo. Un semplice prompt di testo può ora generare una deepfake che è sempre più difficile da distinguere dal contenuto genuino. Questa capacità ha serie implicazioni per la diffusione di disinformazione e la manipolazione dell’opinione pubblica.

Sfide nell’Attribuzione e nella Mitigazione

L’attribuzione è una delle sfide più significative che affrontiamo con l’interferenza elettorale generata dall’intelligenza artificiale. Mentre storicamente abbiamo associato l’interferenza elettorale con attori statali, la democratizzazione degli strumenti di intelligenza artificiale significa che gruppi domestici, mossi da varie motivazioni ideologiche, possono ora utilizzare queste tecnologie per influenzare le elezioni.

Questa diffusione di potenziali attori minacciosi complica la nostra capacità di identificare e mitigare le fonti di disinformazione. Sottolinea anche la necessità di un approccio multifacético alla sicurezza elettorale che vada oltre le misure di sicurezza informatica tradizionali.

Uno Sforzo Coordinato per Mantenere l’Integrità Elettorale

Affrontare la sfida delle deepfake potenziate dall’intelligenza artificiale nelle elezioni richiederà uno sforzo coordinato attraverso più settori. Ecco le aree chiave in cui dobbiamo concentrare i nostri sforzi:

• Sicurezza “shift-left” per i sistemi di intelligenza artificiale. Dobbiamo applicare i principi della sicurezza “shift-left” allo sviluppo dei sistemi di intelligenza artificiale stessi. Ciò significa incorporare considerazioni di sicurezza fin dalle prime fasi dello sviluppo del modello di intelligenza artificiale, comprese le considerazioni per un uso potenziale improprio nell’interferenza elettorale.
• Applicazione di configurazioni sicure. I sistemi e le piattaforme di intelligenza artificiale che potrebbero potenzialmente essere utilizzati per generare deepfake dovrebbero avere configurazioni sicure e robuste per impostazione predefinita. Ciò include misure di autenticazione solide e restrizioni sui tipi di contenuti che possono essere generati.
• Sicurezza della catena di approvvigionamento dell’intelligenza artificiale. Come ci concentriamo sulla sicurezza della catena di approvvigionamento del software, dobbiamo estendere questa vigilanza alla catena di approvvigionamento dell’intelligenza artificiale. Ciò include l’esame dei set di dati utilizzati per addestrare i modelli di intelligenza artificiale e degli algoritmi impiegati nei sistemi di intelligenza artificiale generativa.
• Capacità di rilevamento avanzate. Dobbiamo investire e sviluppare strumenti di rilevamento avanzati che possano identificare contenuti generati dall’intelligenza artificiale, in particolare nel contesto di informazioni relative alle elezioni. Ciò probabilmente coinvolgerà l’utilizzo dell’intelligenza artificiale stessa per combattere la disinformazione generata dall’intelligenza artificiale.
• Educazione e consapevolezza degli elettori. Un componente cruciale della nostra difesa contro le deepfake è un elettorato informato. Abbiamo bisogno di programmi di educazione completi per aiutare gli elettori a comprendere l’esistenza e il potenziale impatto dei contenuti generati dall’intelligenza artificiale e per fornire loro gli strumenti per valutare criticamente le informazioni che incontrano.
• Collaborazione tra settori. Il settore tecnologico, in particolare le aziende di IT e sicurezza informatica, deve lavorare a stretto contatto con le agenzie governative, i funzionari elettorali e le organizzazioni dei media per creare un fronte unito contro l’interferenza elettorale guidata dall’intelligenza artificiale.

Cosa C’è Adesso, e Cosa C’è Dopo

Mentre implementiamo queste strategie, è cruciale che continuiamo a misurare la loro efficacia. Ciò richiederà nuovi metriche e strumenti di monitoraggio progettati specificamente per tracciare l’impatto dei contenuti generati dall’intelligenza artificiale sul discorso elettorale e sul comportamento degli elettori.

Dovremmo anche essere pronti ad adattare rapidamente le nostre strategie. Il campo dell’intelligenza artificiale sta evolvendo a un ritmo vertiginoso, e le nostre misure difensive devono evolversi altrettanto rapidamente. Ciò potrebbe coinvolgere l’utilizzo dell’intelligenza artificiale stessa per creare misure di sicurezza più robuste e adattabili.

La sfida delle deepfake potenziate dall’intelligenza artificiale nelle elezioni rappresenta un nuovo capitolo nella sicurezza informatica e nell’integrità delle informazioni. Per affrontarla, dobbiamo pensare al di là dei paradigmi di sicurezza tradizionali e favorire la collaborazione tra settori e discipline. L’obiettivo: sfruttare il potere dell’intelligenza artificiale a beneficio dei processi democratici mentre ne mitigiamo il potenziale danno. Questo non è solo una sfida tecnica, ma una sfida societale che richiederà vigilanza, adattamento e cooperazione continui.

L’integrità delle nostre elezioni — e, per estensione, la salute della nostra democrazia — dipende dalla nostra capacità di affrontare questa sfida frontalmente. È una responsabilità che grava su tutti noi: tecnologi, responsabili delle politiche e cittadini.