Angolo di Anderson

Le nostre capacità inconsce di rilevare i deepfake potrebbero alimentare futuri sistemi automatizzati

Martin Anderson
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveI dati EEG rivelano che i segnali neurali subconsci possono distinguere i volti reali…
Vedi di più
  • I dati EEG rivelano che i segnali neurali subconsci possono distinguere i volti reali da quelli falsi anche quando gli osservatori falliscono a livello conscio.
  • Lo studio suggerisce di addestrare i rilevatori di deepfake sull'attività cerebrale anziché sui giudizi soggettivi umani per ottenere una maggiore accuratezza.
  • I partecipanti hanno identificato erroneamente il 69% dei volti reali come falsi, evidenziando l'inaffidabilità della percezione conscia per il rilevamento dei deepfake.

Una nuova ricerca dall’Australia suggerisce che il nostro cervello è abile nel riconoscere deepfake sofisticati, anche quando crediamo consapevolmente che le immagini che stiamo vedendo siano reali.

Il risultato implica inoltre la possibilità di utilizzare le risposte neurali delle persone a volti deepfake (piuttosto che le loro opinioni dichiarate) per addestrare sistemi automatizzati di rilevamento di deepfake. Tali sistemi sarebbero addestrati sulle caratteristiche deepfake delle immagini, non su stime confuse di plausibilità, ma sui nostri meccanismi percettivi istintivi per il riconoscimento dell’identità facciale.

‘Sebbene il cervello può ‘riconoscere’ la differenza tra volti reali e volti realistici, gli osservatori non possono distinguere consapevolmente tra di loro. I nostri risultati sulla dissociazione tra risposta cerebrale e comportamento hanno implicazioni per lo studio della percezione di volti falsi, le domande che poniamo quando chiediamo di identificare immagini false e i possibili modi in cui possiamo stabilire standard di protezione contro l’abuso di immagini false.’

I risultati sono emersi in una serie di test progettati per valutare il modo in cui le persone rispondono a immagini false, tra cui immagini di volti palesemente falsi, auto, spazi interni e volti capovolti (cioè rovesciati).

Varie iterazioni e approcci per gli esperimenti, che hanno coinvolto due gruppi di soggetti di test che dovevano classificare un'immagine mostrata brevemente come 'falsa' o 'reale'. Il primo round si è svolto su Amazon Mechanical Turk, con 200 volontari, mentre il secondo round ha coinvolto un numero inferiore di volontari che hanno risposto ai test mentre erano collegati a macchine EEG. Fonte: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Varie iterazioni e approcci per gli esperimenti, che hanno coinvolto due gruppi di soggetti di test che dovevano classificare un’immagine mostrata brevemente come ‘falsa’ o ‘reale’. Il primo round si è svolto su Amazon Mechanical Turk, con 200 volontari, mentre il secondo round ha coinvolto un numero inferiore di volontari che hanno risposto ai test mentre erano collegati a macchine EEG. Fonte: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf


Scrittore di apprendimento automatico, specialista di dominio nella sintesi di immagini umane. Ex responsabile dei contenuti di ricerca presso Metaphysic.ai, fino alla sua fusione nella Brahma.ai di DNEG.
Sito web: martinanderson.ai
Contatto: martin@martinanderson.ai