Che cosa sono i Deepfake?

Poiché i deepfake diventano più facili da creare e più diffusi, si presta loro maggiore attenzione. I deepfake sono diventati il fulcro delle discussioni che coinvolgono l’etica dell’intelligenza artificiale, la disinformazione, l’apertura delle informazioni e di Internet, e la regolamentazione. È utile essere informati riguardo ai deepfake e avere una comprensione intuitiva di cosa siano i deepfake. Questo articolo chiarirà la definizione di un deepfake, esaminerà i loro casi d’uso, discuterà come i deepfake possano essere rilevati e esaminerà le implicazioni dei deepfake per la società.

Che cosa sono i Deepfake?

Prima di discutere ulteriormente dei deepfake, sarebbe utile prendersi un po’ di tempo per chiarire cosa sono effettivamente i “deepfake”. C’è una notevole quantità di confusione riguardo al termine Deepfake, e spesso il termine viene applicato in modo errato a qualsiasi media contraffatto, indipendentemente dal fatto che si tratti o meno di un vero deepfake. Affinché un media contraffatto possa essere considerato un Deepfake, il media contraffatto in questione deve essere generato con un sistema di apprendimento automatico, specificamente una rete neurale profonda.

L’ingrediente chiave dei deepfake è l’apprendimento automatico. L’apprendimento automatico ha reso possibile per i computer generare automaticamente video e audio in modo relativamente rapido e facile. Le reti neurali profonde vengono addestrate su immagini di una persona reale in modo che la rete possa imparare come le persone appaiono e si muovono in condizioni ambientali bersaglio. La rete addestrata viene quindi utilizzata su immagini di un’altra persona e integrata con ulteriori tecniche di grafica computerizzata per combinare la nuova persona con le immagini originali. Un algoritmo di codifica viene utilizzato per determinare le somiglianze tra il viso originale e il viso bersaglio. Una volta isolate le caratteristiche comuni dei visi, viene utilizzato un secondo algoritmo di intelligenza artificiale chiamato decodificatore. Il decodificatore esamina le immagini codificate (comprimate) e le ricostruisce in base alle caratteristiche presenti nelle immagini originali. Vengono utilizzati due decodificatori, uno sul viso della persona originale e il secondo sul viso della persona bersaglio. Affinché lo scambio possa essere effettuato, il decodificatore addestrato su immagini della persona X viene alimentato con immagini della persona Y. Il risultato è che il viso della persona Y viene ricostruito sulle espressioni facciali e sull’orientamento della persona X.

Attualmente, ci vuole ancora un bel po’ di tempo per creare un deepfake. Il creatore del falso deve trascorrere molto tempo regolando manualmente i parametri del modello, poiché parametri subottimali porteranno a imperfezioni e glitch nell’immagine che rivelano la vera natura del falso.

Sebbene si supponga spesso che la maggior parte dei deepfake sia stata creata con un tipo di rete neurale chiamata rete neurale antagonista generativa (GAN), molti (forse la maggior parte) deepfake creati oggi non si basano su GAN. Sebbene le GAN abbiano svolto un ruolo importante nella creazione dei primi deepfake, la maggior parte dei video deepfake è creata attraverso metodi alternativi, secondo Siwei Lyu della SUNY Buffalo.

È necessario un’enorme quantità di dati di addestramento per addestrare una GAN, e le GAN richiedono molto più tempo per generare un’immagine rispetto ad altre tecniche di generazione di immagini. Le GAN sono anche più adatte per generare immagini statiche rispetto ai video, poiché le GAN hanno difficoltà a mantenere la coerenza tra i fotogrammi. È molto più comune utilizzare un codificatore e più decodificatori per creare deepfake.

Che cosa sono i Deepfake utilizzati per?

Molti dei deepfake trovati online sono di natura pornografica. Secondo una ricerca condotta da Deeptrace, un’azienda di intelligenza artificiale, su un campione di circa 15.000 video deepfake presi nel settembre 2019, circa il 95% di essi erano di natura pornografica. Un’impressione preoccupante di questo fatto è che, man mano che la tecnologia diventa più facile da usare, potrebbero aumentare gli incidenti di vendetta pornografica contraffatta.

Tuttavia, non tutti i deepfake sono di natura pornografica. Ci sono utilizzi più legittimi per la tecnologia deepfake. La tecnologia di deepfake audio potrebbe aiutare le persone a trasmettere la loro voce regolare dopo che è stata danneggiata o persa a causa di malattia o lesione. I deepfake possono anche essere utilizzati per nascondere i volti delle persone che si trovano in situazioni sensibili e potenzialmente pericolose, consentendo comunque di leggere le loro labbra e le loro espressioni. La tecnologia deepfake potrebbe essere utilizzata per migliorare il doppiaggio di film in lingue straniere, aiutare nella riparazione di media vecchi e danneggiati e persino creare nuovi stili d’arte.

Deepfake non video

Mentre la maggior parte delle persone pensa a video falsi quando sente il termine “deepfake”, i video falsi non sono di certo l’unico tipo di media contraffatto prodotto con la tecnologia deepfake. La tecnologia deepfake viene utilizzata per creare foto e audio falsi. Come menzionato in precedenza, le GAN vengono spesso utilizzate per generare immagini false. Si ritiene che ci siano stati molti casi di profili falsi su LinkedIn e Facebook con immagini di profilo generate con algoritmi deepfake.

È possibile creare anche audio deepfake. Le reti neurali profonde vengono addestrate per produrre cloni di voce/ pelli di voce di diverse persone, tra cui celebrità e politici. Un famoso esempio di audio Deepfake è quando l’azienda di intelligenza artificiale Dessa ha utilizzato un modello di intelligenza artificiale, supportato da algoritmi non di intelligenza artificiale, per ricreare la voce del conduttore di podcast Joe Rogan.

Come rilevare i Deepfake

Man mano che i deepfake diventano più sofisticati, diventerà sempre più difficile distinguerli dai media autentici. Attualmente, ci sono alcuni segni rivelatori che le persone possono cercare per accertare se un video è potenzialmente un deepfake, come una cattiva sincronizzazione labiale, movimenti innaturali, sfarfallii intorno al bordo del viso e deformazione di dettagli fini come capelli, denti o riflessi. Altri segni potenziali di un deepfake includono parti di qualità inferiore dello stesso video e battito delle palpebre irregolare degli occhi.

Sebbene questi segni possano aiutare a rilevare un deepfake al momento, man mano che la tecnologia deepfake migliora, l’unica opzione per un rilevamento affidabile dei deepfake potrebbe essere altri tipi di intelligenza artificiale addestrati a distinguere i falsi dai media autentici.

Le aziende di intelligenza artificiale, tra cui molte delle grandi aziende tecnologiche, stanno studiando metodi per rilevare i deepfake. Lo scorso dicembre, è stato avviato un challenge di rilevamento dei deepfake, supportato da tre giganti del settore: Amazon, Facebook e Microsoft. I team di ricerca di tutto il mondo hanno lavorato su metodi di rilevamento dei deepfake, competendo per sviluppare i migliori metodi di rilevamento. Altri gruppi di ricercatori, come un gruppo di ricercatori combinati di Google e Jigsaw, stanno lavorando su un tipo di “analisi facciale forense” che può rilevare i video che sono stati alterati, rendendo i loro set di dati open source e incoraggiando gli altri a sviluppare metodi di rilevamento dei deepfake. La suddetta Dessa ha lavorato per perfezionare le tecniche di rilevamento dei deepfake, cercando di garantire che i modelli di rilevamento funzionino sui video deepfake trovati nel web (su Internet) e non solo sui set di dati di addestramento e testing precomposti, come il set di dati open source fornito da Google.

Esistono anche altre strategie che vengono studiate per affrontare la proliferazione dei deepfake. Ad esempio, verificare i video per la coerenza con altre fonti di informazione è una strategia. Le ricerche possono essere effettuate per video di eventi potenzialmente ripresi da altre angolazioni, o i dettagli di sfondo del video (come modelli meteorologici e luoghi) possono essere verificati per incongruenze. Oltre a questo, un sistema di registro online basato sulla Blockchain potrebbe registrare i video quando vengono inizialmente creati, mantenendo i loro audio e immagini originali in modo che i video derivati possano essere sempre verificati per manipolazione.

In definitiva, è importante che vengano creati metodi affidabili per rilevare i deepfake e che questi metodi di rilevamento tengano il passo con le nuove tecnologie dei deepfake. Sebbene sia difficile sapere esattamente quali saranno gli effetti dei deepfake, se non ci saranno metodi affidabili per rilevare i deepfake (e altre forme di media contraffatte), la disinformazione potrebbe potenzialmente diffondersi e compromettere la fiducia delle persone nella società e nelle istituzioni.

Implicazioni dei Deepfake

Quali sono i pericoli di permettere ai deepfake di proliferare incontrollati?

Uno dei più grandi problemi che i deepfake creano attualmente è la pornografia non consensuale, creata combinando i volti delle persone con video e immagini pornografiche. Gli esperti di etica dell’intelligenza artificiale sono preoccupati che i deepfake potrebbero essere utilizzati per creare più fake di vendetta. Oltre a questo, i deepfake potrebbero essere utilizzati per bullizzare e danneggiare la reputazione di chiunque, poiché potrebbero essere utilizzati per mettere le persone in situazioni compromettenti e controverse.

Le aziende e gli specialisti di sicurezza informatica hanno espresso preoccupazione per l’uso dei deepfake per facilitare truffe, frodi e estorsioni. Si sostiene che i deepfake audio siano stati utilizzati per convincere i dipendenti di un’azienda a trasferire denaro ai truffatori

È possibile che i deepfake abbiano effetti dannosi anche al di là di quelli elencati. I deepfake potrebbero potenzialmente erodere la fiducia delle persone nei media in generale e rendere difficile per le persone distinguere tra notizie vere e false. Se molti video sul web sono falsi, diventa più facile per i governi, le aziende e altre entità gettare dubbi su controversie legittime e pratiche non etiche.

Quando si tratta di governi, i deepfake potrebbero addirittura rappresentare una minaccia per il funzionamento della democrazia. La democrazia richiede che i cittadini siano in grado di prendere decisioni informate sui politici sulla base di informazioni affidabili. La disinformazione mina i processi democratici. Ad esempio, il presidente del Gabon, Ali Bongo, è apparso in un video che cercava di rassicurare i cittadini del Gabon. Il presidente era stato considerato malato per un lungo periodo di tempo, e la sua improvvisa apparizione in un video probabilmente falso ha scatenato un tentativo di colpo di stato. Il presidente Donald Trump ha affermato che una registrazione audio di lui che si vantava di afferrare le donne per i genitali era falsa, nonostante abbia anche descritto come “discorso da spogliatoio”. Il principe Andrew ha anche affermato che un’immagine fornita dall’avvocato di Emily Maitilis era falsa, sebbene l’avvocato abbia insistito sulla sua autenticità.

In definitiva, sebbene ci siano utilizzi legittimi per la tecnologia deepfake, ci sono molti potenziali danni che possono derivare dal maluso di quella tecnologia. Per questo motivo, è estremamente importante che vengano create e mantenute metodologie per determinare l’autenticità dei media.