Quanto lontano e oscuro possono andare i Deepfake?

Man mano che l’IA si integra più profondamente nella nostra vita quotidiana, la tecnologia dei deepfake è diventata una preoccupazione crescente per molti, in particolare per coloro che amano condividere momenti personali sui social media. Che si tratti di una serata con gli amici o di un picnic in famiglia alle Bahamas, le foto condivise su piattaforme come Instagram, Facebook e Snapchat non sono necessariamente al sicuro da un possibile uso improprio.

Una giovane donna della Corea ha recentemente preso parte ai social media per esprimere il suo distress per un video deepfake creato come atto di vendetta. Nel video, sembrava essere spogliata. Ha supplicato con passione la rimozione del video generato dall’IA e ha esortato l’individuo a smettere di diffonderlo.

A ottobre 2023, personaggi famosi come la co-conduttrice di CBS Mornings Gayle King, l’attore Tom Hanks e la personalità di YouTube MrBeast sono stati vittime di video deepfake non autorizzati che si sono diffusi sui social media. Un altro video che ritraeva la giornalista di CNN Clarissa Ward vicino al confine tra Israele e Gaza è stato manipolato per gettare dubbi sulla sua relazione.

Questi video, realizzati con tecnologia deepfake all’avanguardia, hanno il potere di sostituire individui all’interno di contenuti esistenti. La loro natura realistica è inquietante, portando molti a credere nella loro autenticità. Ciò include canzoni generate dall’IA che imitano famose star, alcune delle quali sono diventate hit.

Questi eventi hanno scatenato preoccupazioni globali sul potenziale per l’umiliazione pubblica, il molestie e il ricatto, sottolineando ulteriormente il potenziale sinistro dei deepfake.

Perché la tecnologia dei deepfake è più pericolosa di quanto pensi

L’aumento di incidenti inquietanti indica l’urgenza di misure proattive contro i deepfake. Attualmente, non esiste una legge universale che affronti i deepfake o il contenuto generato dall’IA non autorizzato, anche negli Stati Uniti. Sebbene non possano essere completamente eradicati, possono essere adottate misure protettive.

Per coloro che non sono familiari, la tecnologia dei deepfake utilizza l’IA per creare immagini, video o clip audio realistici ma falsi. Questa tecnologia ingannevole ha guadagnato popolarità intorno al 2017 quando un utente anonimo di Reddit ha introdotto un algoritmo per generare video falsi realistici.

Sebbene inizialmente destinata all’intrattenimento, all’istruzione o all’attivismo, il rapido avanzamento dell’IA, insieme alle capacità dei deepfake, presenta una moltitudine di preoccupazioni di sicurezza ed etiche. Ciò include:

1. Violenza della privacy: una preoccupazione principale è l’uso non autorizzato della somiglianza di una persona. I casi notevoli includono video deepfake per adulti di celebrità, che danneggiano la loro immagine. Ad esempio, nel 2017, un video inappropriato che ritraeva falsamente l’attrice Gal Gadot si è diffuso ampiamente.
2. Disinformazione e manipolazione: i deepfake possono distorcere la verità, influenzando l’opinione pubblica. Un esempio notevole è un video deepfake che ritrae l’ex presidente Obama, creato da BuzzFeed e Jordan Peele. Sebbene fosse destinato come PSA contro la disinformazione, sottolinea il potenziale uso improprio della tecnologia.

1. Frode e ricatto: questa tecnologia può produrre prove false o ingannare attraverso la duplicazione della voce o dell’immagine. I criminali potrebbero utilizzare i deepfake per l’estorsione o addirittura per la frode finanziaria, come visto quando una società energetica del Regno Unito è stata ingannata nel trasferire una somma significativa, potenzialmente attraverso un deepfake vocale.
2. Pregiudizio e discriminazione: i deepfake possono perpetuare o amplificare i pregiudizi sociali, potenzialmente rappresentando in modo errato specifiche demografie.

Deepfake: minacce alla democrazia, alle relazioni e all’identità

Sebbene la tecnologia dei deepfake in sé non sia intrinsecamente malevola, il suo uso improprio può essere dannoso. Può distorcere i risultati elettorali, mettere a dura prova le relazioni personali e violare l’identità personale, come mostrato in programmi di intrattenimento come “DeepFake Love” e “Clickbait” di Netflix.

Pensieri conclusivi

I deepfake stanno trasformando il regno digitale, aprendo strade innovative e presentando sfide etiche. L’assenza di regolamentazione globale e di strumenti di rilevamento efficaci rende questo un problema critico. Sebbene la consapevolezza pubblica e l’alfabetizzazione dei media siano essenziali, formano solo una parte della soluzione.

È vitale riflettere: consideriamo i deepfake come meraviglie tecnologiche o minacce per il benessere individuale e sociale? La conversazione deve persistere, poiché la consapevolezza collettiva e l’azione sono cruciali nel mitigare gli impatti dannosi della tecnologia dei deepfake.