L’accuratezza del rilevamento dei deepfake scende del 49% in un anno di progressi nei video AI

Nota con interesse un nuovo studio guidato dall’Ucraina che indica che la generazione più vecchia di rilevatori di video deepfake performa molto male sui video genAI all’avanguardia attuali, sia che i generatori siano open source, installazioni AI locali come quelli di Alibaba Wan 2.2 o Hunyuan Video; sia modelli solo API, chiusi, come Grok Imagine o Kling.

Fai clic per riprodurre (CONTENUTO AUDIO). Tre esempi dalla categoria ‘Direct to camera casual’ nel dataset DF26. Fonte 

Nel 2024, un altro studio aveva già dimostrato che la capacità umana di rilevare video AI era non molto al di sopra del caso, al 57%. Ciò che aggiunge il nuovo lavoro (intitolato DF26: Non Riusciamo Più a Distinguere il Falso dal Reale) è una prova empirica che i rilevatori automatici di deepfake sono crollati drasticamente in efficacia da allora – dal 94% al 48%, di fronte all’output video genAI più recente.

Dal nuovo dataset generato per lo studio, esempi di video generati da immagine‑a‑video e da testo‑a‑video (sotto), confrontati con video reali a sinistra. Il corpus si concentra su configurazioni ‘persuasive’ e credibili di testa e spalle, che sono tra i domini genAI più preoccupanti al momento. Fonte

Il calo più marcato nei test effettuati per lo studio rappresenta una diminuzione del 49%. Poiché il benchmark precedente risale al 2025, e il nuovo studio testa una gamma dei più recenti modelli video di generazione 2026, questa cifra rappresenta quasi un anno di deterioramento nell’efficacia del rilevamento dei video AI.

Dettagli dei modelli utilizzati per generare i video contro i quali sono stati testati i rilevatori.

I modelli commerciali chiusi usati per generare questo output che elude i rilevatori erano Grok 1.0; Kling 3.0; Veo 3.1; e Wan 2.6. Sono stati generati solo esempi di testo‑a‑video per questi, poiché i tentativi di generazione immagine‑a‑video (I2V) spesso attivavano filtri riguardo alla ‘generazione di deepfake’, o avrebbero violato i termini di servizio della piattaforma.

Guarda Nei Miei Occhi

Questi trigger si sono verificati, probabilmente, perché i ricercatori si sono concentrati sulla forma di persuasione video più potenzialmente potente e, si potrebbe sostenere, sinistra – varie varianti di video ‘testa e spalle’ e ‘talking head’, con soggetti che parlano alla telecamera, come avviene nei video di influencer su YouTube e TikTok, o in scenari di reportage giornalistico (inclusi intervistati via collegamenti satellitari, ecc.).

Gli autori sostengono che questi scenari siano obiettivi primari per l’attività deepfake, non ultimo perché rappresentano contesti ‘influencer’ e vari altri contesti ‘informativi’ – contesti in cui esiste l’assunzione di una relazione di fiducia preesistente, e dove tale relazione ha quindi un grande potenziale di abuso (naturalmente ciò si applica almeno altrettanto a chiamate video deepfake, sebbene i ricercatori non ne trattino).

Dall’apice dell’era dei deepfake basati su autoencoder, la manipolazione di filmati reali di Richard Nixon è riuscita a simulare il suo annuncio della morte degli astronauti di Apollo 9 nel 1969 – un evento che non si è mai verificato, ma per il quale lo script reale è stato usato per imporre una voce e movimenti labiali deepfatti.

Oltre a concentrarsi su questo scenario di influencer, il nuovo benchmark – e i video creati per esso – si concentrano sulla valutazione del intero fotogramma del video, in contrasto con le strategie storiche di rilevamento dei deepfake.

Quelle strategie più vecchie eseguivano manipolazione facciale o manipolazione dell’espressione, o sostituzione facciale (o al meglio, dell’intera testa) all’interno di video reali – che era effettivamente l’unico approccio ragionevole, fino a quando i modelli basati sulla diffusione non divennero sufficientemente efficaci da sostituirli negli ultimi 18‑24 mesi.

Volti Lontani

Non è più così; il più vecchio metodo basato su autoencoder risale all’avvento iniziale dei deepfake alla fine del 2017; e questa tecnica, che sostituisce solo l’area all’interno dei contorni esterni del volto, è stata completamente esaurita entro il 2022.

Il principale terreno di attività dei deepfake, 2017‑2023 – ma per la nuova generazione di piattaforme video genAI, non esiste tale confine su cui concentrare l’attenzione. Fonte

Tuttavia, poiché il settore della ricerca scientifica ama una costante a lungo termine – dove l’obiettivo è fisso e dove nel corso degli anni/decenni si possono provare una gamma evolutiva di approcci – i metodi di rilevamento deepfake basati sulla ‘sostituzione/modifica del volto interno’ sono persistiti nella letteratura e nelle offerte commerciali di rilevamento, ben oltre la validità della tecnologia sottostante a cui sono rivolti.

Oltre ai tre modelli proprietari testati per il nuovo lavoro, sono stati provati anche tre modelli open source molto capaci e utilizzabili dai consumatori: Wan 2.2 A14B; HunyuanVideo 1.5; e LTX 2.3, che ha incantato recentemente la comunità FOSS genAI. La gamma LTX è anche in grado di generare voce:

Fai clic per riprodurre: esperimenti con la serie LTX su r/stablediffusion, la cui community si occupa solo di modelli FOSS. Fonte 

Progettazione dei Dati

Gli autori intendono il loro nuovo dataset, DF26, come un set di ‘hold-out’ per la valutazione di materiale non visto. La raccolta comprende 2.691 video in tre scenari di discorsi pubblici: indirizzi diretti alla telecamera o informali; dichiarazioni ufficiali; e interviste in studio.

Tutti i clip video generati dall’IA sono stati basati su 271 clip reali curati da OpenVid; TalkingCelebs; e MAVOS-DD.

Campione dalla collezione OpenVid, da cui sono stati prelevati 271 video reali come materiale di base per i video generati dall’IA nella collezione DF26. Altri due dataset hanno anche contribuito a questa componente non falsificata di DF26. Fonte

I 271 video reali sono stati usati per generare i video IA derivando prompt di scena corrispondenti dai loro fotogrammi, per poi inserire tali prompt – e il primo fotogramma stesso, dove supportato – nei sette modelli di generazione video, producendo un totale di 2.420 clip sintetiche.

Gli autori hanno garantito che nessun fotogramma reale contenente sovrapposizioni di testo (come annunci su chi sta parlando, ecc.) fosse inserito nei flussi di generazione, poiché questi avrebbero probabilmente incoraggiato scorciatoie e assunzioni. I clip candidati sono stati valutati da Gemini 2.5.

Inoltre, i segmenti con più di un volto sono stati scartati, per imporre una configurazione a ‘singolo oratore’.

Fai clic per riprodurre [NO SOUND]. Dal dataset associato al documento, esempi di generazioni video all’avanguardia su sette dei più recenti e potenti modelli generativi, sia open che closed source. I modelli usati per il dataset includono anche quelli capaci di generare voce (vedi esempi precedenti in questo articolo). Fonte

I ricercatori hanno utilizzato la popolare piattaforma commerciale Higgsfield AI, che mette a disposizione un’ampia varietà di modelli closed e open source, con diversi livelli di controllo e guardrails.

Con una NVIDIA H200 (141 GB di VRAM) come GPU di base per un cluster di ricerca interno, sono state necessarie circa 440 ore GPU per generare 1.626 video per la collezione.

Oltre a garantire che nessun testo fosse visibile nell’output, è stato anche necessario offuscare o in generale evitare la rappresentazione di filigrane dei contenuti generati dall’IA, poiché anche questo rappresenterebbe una potenziale ‘scorciatoia’ per un valutatore o un sistema di valutazione.

Test

La metrica primaria usata per un’ultima serie di test è stata l’Area Under Receiver Operating Characteristic Curve (AUC / AUROC), con l’Equal Error Rate (EER) come misura complementare.

I rilevatori basati su fotogrammi (che valutano singoli fotogrammi indipendentemente) sono stati testati su 32 fotogrammi equidistanti da ciascun video, con i punteggi poi mediati in un unico risultato. I rilevatori temporali (che possono usare informazioni da fotogrammi successivi) hanno invece analizzato la sequenza video stessa.

I risultati per i rilevatori temporali DFD-FCG e PwTF-DVD sono mostrati di seguito, insieme ai risultati per ForAda; Effort; FSFM; GenD-CLIP e GenD-DINO; e DFD-HR. Tutti sono stati addestrati sul venerabile dataset FaceForensics++.

Risultati dei test che confrontano i rilevatori deepfake su CelebDF++ e DF26. Tutti i rilevatori sono stati addestrati su FaceForensics++, con AUROC più alto e EER più basso che indicano prestazioni migliori.

Gli autori osservano che la maggior parte dei rilevatori funziona bene su Celeb-DF++ (CDFv3), ma cala bruscamente sulla nuova collezione DF26 più impegnativa.

‘[Multiple] i rilevatori all’avanguardia raggiungono prestazioni elevate sul benchmark CelebDF++ [16] (CDFv3), con i metodi temporali che ottengono un AUROC di 94,3 e 92,3.

‘Tuttavia, le loro prestazioni calano notevolmente su DF26, a 48,2 e 61,6 AUROC, rispettivamente.

‘La maggior parte dei metodi peggiora in modo significativo, rimanendo quasi al caso; l’AUROC più alto, 69,7, è raggiunto da GenD-PE.

‘Ciò dimostra che DF26 è un benchmark più impegnativo per i rilevatori all’avanguardia.’

Image-to-video, osservano, si è rivelato più difficile da rilevare rispetto a text-to-video, sia per le persone sia per i rilevatori automatici, con PwTF-DVD che ha ottenuto i migliori risultati sul materiale I2V e GenD-PE in testa sul T2V.

Le prestazioni sono variate drasticamente a seconda del generatore che ha prodotto il video falso, suggerendo che i rilevatori spesso apprendono tracce specifiche del generatore anziché una firma generale del video sintetico. PwTF-DVD, ad esempio, ha raggiunto 92,9 AUROC sull’output text-to-video di Wan 2.2, ma è sceso a una performance quasi casuale su HunyuanVideo 1.5 – nonostante entrambi appartengano allo stesso panorama di generazione moderna:

Prestazioni del rilevatore su generatori video commerciali e open source. L’ampia variazione tra le colonne mostra che l’affidabilità del rilevamento dipende fortemente dal modello che ha prodotto il video, con GenD-PE che ottiene la media AUROC più alta complessiva.

Di seguito vediamo che il riaddestramento di GenD-PE su nuovo materiale DF26 ha migliorato sostanzialmente la sua capacità di rilevare video da generatori non visti durante l’addestramento:

Risultati del riaddestramento per GenD-PE su generatori video non visti. L’addestramento su materiale DF26 più recente ha generalmente migliorato le prestazioni cross‑generator rispetto all’addestramento originale su FaceForensics++.

L’addestramento su HunyuanVideo 1.5 ha portato l’AUROC a almeno 93,1 su Grok Imagine 1.0, Veo 3.1 e Wan 2.6, a sostegno dell’argomento del documento secondo cui i rilevatori addestrati solo su dataset più vecchi come FaceForensics++ sono poco adatti ai video generativi attuali.

Come ci si poteva aspettare, i due rilevatori temporali hanno avuto molta più facilità con i video open source rispetto ai clip provenienti da modelli commerciali. DFD-FCG è sceso da 57,4 AUROC su materiale open source a 34,5 su video chiuso; mentre PwTF-DVD è passato da 70,5 a 48,3:

Risultati del confronto tra due rilevatori temporali in base alla fonte del generatore e allo scenario di parlato. Entrambi hanno avuto prestazioni sostanzialmente peggiori su video chiuso, mentre le differenze tra i tipi di scena erano minori.

Tuttavia, il documento non arriva a dichiarare che i modelli commerciali siano semplicemente più difficili da rilevare, poiché differenze nella famiglia del modello, nel post‑processing e nella qualità visiva potrebbero anch’esse influire.

Il tipo di scena ha avuto molta meno importanza: DFD-FCG è rimasto vicino al caso su clip diretto‑camera, dichiarazioni ufficiali e interviste in studio, mentre PwTF-DVD ha ottenuto i migliori risultati su dichiarazioni ufficiali. Secondo il documento, sembra che il generatore stesso conti più del modo di presentazione.

È stato condotto anche uno studio umano per verificare se le persone avessero le stesse difficoltà con DF26 dei rilevatori automatici. In 232 sessioni di etichettatura, i partecipanti hanno giudicato brevi clip di DF26, CelebDF++ e DeepSpeak v2 come reali o false, senza sapere quanti esempi di ciascuna classe avrebbero visto.

Accuratezza umana su DF26, CelebDF++ e DeepSpeak v2. I partecipanti hanno identificato i video reali a tassi simili su tutti e tre i dataset, mentre l’accuratezza sui video falsi di DF26 è scesa quasi al caso.

Le prestazioni sui video reali erano simili su tutti e tre i dataset, con il 76,0 % per DF26, il 75,5 % per CelebDF++ e il 72,8 % per DeepSpeak v2. La differenza è emersa con i video falsi, dove l’accuratezza è scesa al 52,6 % su DF26, rispetto al 74,5 % e al 69,8 % sui due dataset più vecchi.

Pertanto, secondo il documento, sebbene i partecipanti non fossero generalmente confusi da DF26, hanno faticato a trovare prove visibili specifiche che i suoi video sintetici fossero falsi.

Conclusione

Nonostante un aumento segnalato di 16 volte nella frequenza dei deepfake negli ultimi due anni, la realtà effettiva dei deepfake maligni è in gran parte assente dalla nostra esperienza comune, a meno che non siamo noi stessi bersagliati.

Nel caso delle vittime di deepfake sessuali, questo è del tutto comprensibile – ma poiché i deepfake ora hanno un impatto crescente sul reato di frode, potrebbe essere utile se più di quel materiale potesse essere condiviso con il pubblico, così che il nostro contesto si aggiorni dall’«età d’oro» dei deepfake basati su autoencoder a un’era molto più incisiva e ingannevole dei deepfake basati su diffusione.

Naturalmente, la maggior parte del materiale relativo ai risultati dei modelli nel nuovo studio, così come di altri modelli, appare sui social media senza un contesto adeguato, su piattaforme i cui supervisori o non riescono a distinguere l’IA dal reale, o che semplicemente non se ne curano.

Un ulteriore parametro che tutti possiamo applicare ai video di cui dubitiamo è credulità ragionevole – ma questa facoltà varia così tanto tra gli individui da risultare inaffidabile. Potrebbe quindi essere che, per un periodo di transizione, mentre ci acclimatizziamo all’impatto di questa tecnologia e alle sue capacità sempre crescenti, dobbiamo semplicemente rimandare il giudizio.

Pubblicato per la prima volta lunedì 14 settembre 2026