Le nostre abilità subconscie di rilevamento di deepfake potrebbero alimentare sistemi automatizzati futuri

Una nuova ricerca dall’Australia suggerisce che il nostro cervello è abile nel riconoscere deepfake sofisticati, anche quando crediamo consapevolmente che le immagini che stiamo vedendo siano reali.

Il risultato implica inoltre la possibilità di utilizzare le risposte neurali delle persone a volti deepfake (piuttosto che le loro opinioni dichiarate) per addestrare sistemi automatizzati di rilevamento di deepfake. Tali sistemi sarebbero addestrati sulle caratteristiche deepfake delle immagini, non su stime confuse di plausibilità, ma sui nostri meccanismi percettivi istintivi per il riconoscimento dell’identità facciale.

‘[A]lthough il cervello può ‘riconoscere’ la differenza tra volti reali e volti realistici, gli osservatori non possono distinguere consapevolmente tra di loro. I nostri risultati sulla dissociazione tra risposta cerebrale e comportamento hanno implicazioni per lo studio della percezione di volti falsi, le domande che poniamo quando chiediamo di identificare immagini false e i possibili modi in cui possiamo stabilire standard di protezione contro l’abuso di immagini false.’

I risultati sono emersi in una serie di test progettati per valutare il modo in cui le persone rispondono a immagini false, tra cui immagini di volti palesemente falsi, auto, spazi interni e volti capovolti (cioè rovesciati).

Varie iterazioni e approcci per gli esperimenti, che hanno coinvolto due gruppi di soggetti di test che dovevano classificare un’immagine mostrata brevemente come ‘falsa’ o ‘reale’. Il primo round si è svolto su Amazon Mechanical Turk, con 200 volontari, mentre il secondo round ha coinvolto un numero inferiore di volontari che hanno risposto ai test mentre erano collegati a macchine EEG. Fonte: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf