5 migliori strumenti e tecniche per il rilevamento di deepfake (maggio 2024)

Nell’era digitale, i deepfake sono emersi come una minaccia significativa all’autenticità dei contenuti online. Questi sofisticati video generati dall’intelligenza artificiale possono imitare in modo convincente persone reali, rendendo sempre più difficile distinguere la realtà dalla finzione. Tuttavia, con l’avanzare della tecnologia alla base dei deepfake, sono progrediti anche gli strumenti e le tecniche progettati per rilevarli. In questo blog esploreremo i cinque principali strumenti e tecniche di rilevamento dei deepfake oggi disponibili.

1. Sentinella

(Immagine: sentinella)

Sentinel è una piattaforma di protezione leader basata sull'intelligenza artificiale che aiuta i governi democratici, le agenzie di difesa e le imprese a fermare la minaccia dei deepfake. La tecnologia di Sentinel è utilizzata da organizzazioni leader in Europa. Il sistema funziona consentendo agli utenti di caricare media digitali tramite il loro sito Web o API, che viene quindi analizzato automaticamente per contraffazione AI. Il sistema determina se il supporto è un deepfake o meno e fornisce una visualizzazione della manipolazione.

La tecnologia di rilevamento dei deepfake di Sentinel è progettata per proteggere l'integrità dei media digitali. Utilizza algoritmi AI avanzati per analizzare i media caricati e determinare se sono stati manipolati. Il sistema fornisce un rapporto dettagliato dei suoi risultati, inclusa una visualizzazione delle aree dei media che sono state alterate. Ciò consente agli utenti di vedere esattamente dove e come i media sono stati manipolati.

Caratteristiche principali di Sentinel:

• Rilevamento deepfake basato su AI
• Utilizzato dalle principali organizzazioni in Europa
• Consente agli utenti di caricare media digitali per l'analisi
• Fornisce una visualizzazione della manipolazione

2. Rilevatore di deepfake in tempo reale di Intel

Intel ha introdotto un rilevatore di deepfake in tempo reale noto come FakeCatcher. Questa tecnologia è in grado di rilevare video falsi con un tasso di precisione del 96%, restituendo risultati in millisecondi. Il rilevatore, progettato in collaborazione con Umur Ciftci della State University di New York a Binghamton, utilizza hardware e software Intel, funziona su un server e si interfaccia attraverso una piattaforma basata sul web.

FakeCatcher cerca indizi autentici nei video reali, valutando ciò che ci rende umani: il sottile "flusso sanguigno" nei pixel di un video. Quando i nostri cuori pompano sangue, le nostre vene cambiano colore. Questi segnali del flusso sanguigno vengono raccolti da tutto il viso e gli algoritmi traducono questi segnali in mappe spaziotemporali. Quindi, utilizzando il deep learning, può rilevare istantaneamente se un video è reale o falso.

Caratteristiche principali del rilevatore di deepfake in tempo reale di Intel:

• Sviluppato in collaborazione con la State University di New York a Binghamton
• Può rilevare video falsi con un tasso di precisione del 96%.
• Restituisce i risultati in millisecondi
• Utilizza un sottile "flusso sanguigno" nei pixel di un video per rilevare i deepfake

3. Verifichiamo

(Immagine: WeVerify)

WeVerify è un progetto volto a sviluppare metodi e strumenti intelligenti per la verifica dei contenuti human-in-the-loop e l'analisi della disinformazione. Il progetto si concentra sull'analisi e la contestualizzazione dei social media e dei contenuti web all'interno del più ampio ecosistema online per esporre i contenuti fabbricati. Ciò si ottiene attraverso la verifica dei contenuti multimodali, l'analisi dei social network, il debunking micro-targeting e un database pubblico basato su blockchain di falsi noti.

Caratteristiche principali di WeVerify:

• Sviluppa metodi e strumenti intelligenti per la verifica dei contenuti human-in-the-loop e l'analisi della disinformazione
• Analizza e contestualizza i social media e i contenuti web
• Espone i contenuti fabbricati attraverso la verifica dei contenuti multimodali, l'analisi dei social network e il debunking micro-targeting
• Utilizza un database pubblico basato su blockchain di falsi noti

4. Strumento di autenticazione video di Microsoft**

(Immagine: Microsoft)

Lo strumento di autenticazione video di Microsoft è un potente strumento in grado di analizzare una foto o un video per fornire un punteggio di affidabilità che indichi se il supporto è stato manipolato. Rileva il limite di fusione del deepfake e sottili elementi in scala di grigi che non sono rilevabili dall'occhio umano. Fornisce inoltre questo punteggio di affidabilità in tempo reale, consentendo il rilevamento immediato dei deepfake.

Lo strumento di autenticazione video utilizza algoritmi AI avanzati per analizzare i media e rilevare i segni di manipolazione. Cerca sottili cambiamenti negli elementi in scala di grigi dei media, che sono spesso un segno rivelatore di un deepfake. Lo strumento fornisce un punteggio di affidabilità in tempo reale, consentendo agli utenti di determinare rapidamente se il supporto è autentico o meno.

Funzionalità principali dello strumento di autenticazione video di Microsoft:

• Analizza foto o video
• Fornisce un punteggio di affidabilità in tempo reale
• Rileva sottili variazioni della scala di grigi
• Consente il rilevamento immediato di deepfake

5. Rilevamento di deepfake tramite discrepanze fonema-visema

Questa tecnica innovativa, sviluppata dai ricercatori della Stanford University e dell'Università della California, sfrutta il fatto che i visemi, che denotano la dinamica della forma della bocca, a volte sono diversi o incoerenti con il fonema parlato. Questa incoerenza è un difetto comune nei deepfake, poiché l'intelligenza artificiale spesso fatica a far corrispondere perfettamente il movimento della bocca con le parole pronunciate.

La tecnica Phoneme-Viseme Mismatch utilizza algoritmi AI avanzati per analizzare il video e rilevare queste incoerenze. Confronta il movimento della bocca (visemi) con le parole pronunciate (fonemi) e cerca eventuali discrepanze. Se viene rilevata una mancata corrispondenza, è una forte indicazione che il video è un deepfake.

Funzionalità principali del rilevamento di deepfake tramite disallineamenti fonema-visema:

• Sviluppato da ricercatori della Stanford University e dell'Università della California
• Sfrutta le incoerenze tra visemi e fonemi nei deepfake
• Utilizza algoritmi AI avanzati per rilevare le mancate corrispondenze
• Fornisce una forte indicazione di deepfake se viene rilevata una mancata corrispondenza

Il futuro del rilevamento dei deepfake

Mentre navighiamo nel panorama digitale del 21° secolo, lo spettro dei deepfake incombe. Questi video generati dall'intelligenza artificiale, che possono imitare in modo convincente persone reali, rappresentano una minaccia significativa per l'autenticità dei contenuti online. Hanno il potenziale per interrompere qualsiasi cosa, dalle relazioni personali alle elezioni politiche, rendendo più critica che mai la necessità di strumenti e tecniche di rilevamento dei deepfake efficaci.

I cinque strumenti e le tecniche di rilevamento dei deepfake che abbiamo esplorato in questo blog rappresentano l'avanguardia in questo campo. Utilizzano algoritmi AI avanzati per analizzare e rilevare i deepfake con una precisione impressionante. Ogni strumento e tecnica offre un approccio unico al rilevamento dei deepfake, dall'analisi dei sottili elementi in scala di grigi di un video al tracciamento delle espressioni facciali e dei movimenti dei soggetti.

Sentinel, ad esempio, utilizza l'intelligenza artificiale per analizzare i media digitali e determinare se sono stati manipolati, fornendo una visualizzazione della manipolazione. Lo strumento di autenticazione video di Microsoft, d'altra parte, fornisce un punteggio di affidabilità in tempo reale che indica se una foto o un video è stato manipolato. Questi strumenti, insieme agli altri di cui abbiamo discusso, stanno guidando la lotta contro i deepfake, contribuendo a garantire l'autenticità dei contenuti online.

Tuttavia, poiché la tecnologia alla base dei deepfake continua ad avanzare, anche i nostri metodi di rilevamento devono farlo. Lo sviluppo della tecnologia deepfake è un obiettivo in rapido movimento e i nostri strumenti e le nostre tecniche devono evolversi per tenere il passo. Ciò richiederà ricerca e sviluppo continui, nonché collaborazione tra ricercatori, aziende tecnologiche e responsabili politici.

Inoltre, è importante ricordare che la tecnologia da sola non può risolvere il problema dei deepfake. Anche l'istruzione e la consapevolezza sono fondamentali. Dobbiamo tutti diventare consumatori più esigenti di contenuti online, mettendo in discussione la fonte delle informazioni e cercando segni di manipolazione. Rimanendo informati sugli ultimi sviluppi nella tecnologia e nel rilevamento dei deepfake, tutti noi possiamo svolgere un ruolo nella lotta a questa minaccia.