L’esperto afferma che i DeepFakes “perfettamente reali” saranno disponibili tra 6 mesi

Le impressionanti ma controverse DeepFakes, immagini e video manipolati o generati da reti neurali profonde, sono probabili diventeranno ancora più impressionanti e più controversi nel prossimo futuro, secondo Hao Li, direttore del Vision and Graphics Lab all’Università della California del Sud. Li è un esperto di visione artificiale e DeepFakes, e in un’intervista recente con CNBC ha affermato che i DeepFakes “perfettamente reali” saranno probabilmente disponibili entro sei mesi.

Li ha spiegato che la maggior parte dei DeepFakes è ancora riconoscibile come falsa all’occhio umano, e anche i DeepFakes più convincenti richiedono ancora uno sforzo sostanziale da parte del creatore per renderli apparsi realistici. Tuttavia, Li è convinto che entro sei mesi, i DeepFakes che appaiono perfettamente reali saranno probabilmente disponibili man mano che gli algoritmi diventano più sofisticati.

Li inizialmente pensava che ci sarebbero voluti tra due e tre anni per rendere i DeepFakes estremamente convincenti più comuni, facendo questa previsione a una conferenza recente ospitata al Massachusetts Institute of Technology. Tuttavia, Li ha rivisto la sua tempistica dopo la rivelazione dell’app cinese Zao e altri sviluppi recenti riguardanti la tecnologia DeepFakes. Li ha spiegato a CNBC che i metodi necessari per creare DeepFakes realistici sono più o meno i metodi attualmente utilizzati e che il principale ingrediente che creerà DeepFakes realistici è più dati di formazione.

Li e i suoi colleghi ricercatori hanno lavorato duramente sulla tecnologia di rilevamento dei DeepFakes, in previsione dell’arrivo di DeepFakes estremamente convincenti. Li e i suoi colleghi, come Hany Farid dell’Università della California a Berkeley, hanno sperimentato con algoritmi DeepFakes all’avanguardia per capire come funziona la tecnologia che li crea.

Li ha spiegato a CNBC:

“Se si desidera rilevare i DeepFakes, è necessario anche vedere quali sono i limiti. Se è necessario costruire framework di intelligenza artificiale in grado di rilevare cose estremamente reali, questi devono essere addestrati utilizzando queste tipologie di tecnologie, quindi in qualche modo è impossibile rilevarli se non si sa come funzionano.”

Li e i suoi colleghi sono impegnati a creare strumenti per rilevare i DeepFakes in riconoscimento dei potenziali problemi e pericoli che la tecnologia comporta. Li e i suoi colleghi sono lontani dall’essere l’unico gruppo di ricercatori di intelligenza artificiale preoccupati per gli effetti possibili dei DeepFakes e interessati a creare contromisure.

Di recente, Facebook (META ) ha avviato una partnership congiunta con MIT, Microsoft (MSFT ) e l’Università di Oxford per creare la DeepFake Detection Challenge, che mira a creare strumenti che possono essere utilizzati per rilevare quando immagini o video sono stati alterati. Questi strumenti saranno open source e utilizzabili da aziende, organizzazioni dei media e governi. Nel frattempo, i ricercatori dell’Istituto di scienze dell’informazione dell’Università della California del Sud hanno recentemente creato una serie di algoritmi che possono distinguere i video falsi con un’accuratezza del 96%.

Tuttavia, Li ha anche spiegato che il problema con i DeepFakes è il modo in cui possono essere utilizzati in modo improprio, e non la tecnologia stessa. Li ha notato diverse utilizzazioni legittime possibili per la tecnologia DeepFake, tra cui nel settore dell’intrattenimento e della moda.

Le tecniche DeepFake sono state utilizzate anche per replicare le espressioni facciali delle persone con il viso oscurato in immagini. I ricercatori hanno utilizzato reti generative avversarie per creare un viso interamente nuovo che aveva la stessa espressione di un soggetto in un’immagine originale. Le tecniche sviluppate dall’Università norvegese di scienza e tecnologia potrebbero aiutare a rendere le espressioni facciali durante le interviste con persone sensibili che necessitano di privacy, come i whistleblower. Qualcun altro potrebbe lasciare che il proprio viso sia utilizzato come sostituto per la persona che necessita di anonimato, ma le espressioni facciali della persona potrebbero ancora essere lette.

Man mano che la sofisticazione della tecnologia DeepFake aumenta, i casi d’uso legittimi per i DeepFakes aumenteranno anche. Tuttavia, il pericolo aumenterà anche, e per questo motivo, il lavoro di rilevamento dei DeepFakes svolto da Li e altri diventa ancora più importante.