Strumenti del browser AI mirano a riconoscere Deepfakes e altri media falsi

Gli sforzi delle aziende tecnologiche per contrastare le informazioni false e i contenuti falsi stanno guadagnando slancio in tempi recenti, poiché le tecnologie di generazione di contenuti falsi sofisticate come DeepFakes diventano più facili da usare e più raffinate. Uno dei prossimi tentativi di aiutare le persone a rilevare e combattere i deepfakes è RealityDefender, prodotto da la AI Foundation, che si è impegnata a sviluppare agenti e assistenti AI etici che gli utenti possono addestrare a completare vari compiti.

Il progetto più noto della AI Foundation è una piattaforma che consente alle persone di creare le proprie persone digitali che sembrano loro e li rappresentano in spazi di ritrovo virtuali. La AI Foundation è supervisionata dal Global AI Council e, come parte del loro mandato, devono anticipare i possibili impatti negativi delle piattaforme AI, quindi cercare di superare questi problemi. Come riportato da VentureBeat, uno degli strumenti che la AI Foundation ha creato per aiutare a rilevare i deepfakes è chiamato Reality Defender. Reality Defender è uno strumento che una persona può utilizzare nel proprio browser web (controllare), che analizzerà video, immagini e altri tipi di media per rilevare segni che il media è stato contraffatto o alterato in qualche modo. Si spera che lo strumento aiuterà a contrastare il flusso crescente di deepfakes su Internet, che secondo alcune stime è quasi raddoppiato nel corso degli ultimi sei mesi.

Reality Defender funziona utilizzando una varietà di algoritmi basati su AI che possono rilevare indizi che suggeriscono che un’immagine o un video potrebbe essere stato contraffatto. I modelli AI rilevano segni sottili di inganno e manipolazione, e i falsi positivi rilevati dal modello vengono etichettati come errati dagli utenti dello strumento. I dati vengono quindi utilizzati per riaddestrare il modello. Le aziende AI che creano deepfakes non ingannevoli hanno il loro contenuto etichettato con un tag “AI onesto” o un marchio d’acqua che consente alle persone di identificare facilmente i falsi generati da AI.

Reality Defender è solo uno degli strumenti e di una piattaforma di responsabilità AI che la AI Foundation sta cercando di creare. La AI Foundation sta perseguendo la creazione di Guardian AI, una piattaforma di responsabilità costruita sul principio che gli individui dovrebbero avere accesso ad agenti AI personali che lavorano per loro e che possono aiutare a proteggerli dall’exploitazione da parte di attori malintenzionati. In sostanza, la AI Foundation sta cercando di espandere la portata dell’AI nella società, portandola a più persone, mentre allo stesso tempo protegge i rischi dell’AI.

Reality Defender non è l’unico nuovo prodotto basato su AI che mira a ridurre le informazioni false negli Stati Uniti. Un prodotto simile è chiamato SurfSafe, creato da due studenti universitari di UC Berkeley, Rohan Phadte e Ash Bhat. Secondo The Verge, SurfSafe funziona consentendo agli utenti di fare clic su un pezzo di media di cui sono curiosi e il programma eseguirà una ricerca di immagine inversa e cercherà di trovare contenuti simili da fonti attendibili su Internet, segnalando le immagini note per essere state modificate.

Non è chiaro quanto efficaci saranno queste soluzioni nel lungo termine. Il professore del Dartmouth College e l’esperto di forensi Hany Farid è stato citato da The Verge come dicendo che è “estremamente scettico” che i piani di sistemi come Reality Defender funzioneranno in modo significativo. Farid ha spiegato che una delle sfide chiave nel rilevamento di contenuti falsi è che i media non sono puramente falsi o reali. Farid ha spiegato:

“C’è un continuum; una gamma incredibilmente complessa di problemi da affrontare. Alcuni cambiamenti sono insignificanti e alcuni alterano fondamentalmente la natura di un’immagine. Pretendere di poter addestrare un’AI a rilevare la differenza è incredibilmente ingenuo. E pretendere di poter crowdsourcere è ancora più così.”

Inoltre, è difficile includere elementi di crowdsourcing, come l’etichettatura dei falsi positivi, perché gli esseri umani sono generalmente molto cattivi nel rilevare immagini false. Gli esseri umani spesso commettono errori e perdono dettagli sottili che segnalano un’immagine come falsa. Non è chiaro come affrontare gli attori malintenzionati che trollano quando segnalano contenuti.

Sembra probabile che, per essere massimamente efficaci, gli strumenti di rilevamento di falsi debbano essere combinati con sforzi di alfabetizzazione digitale che insegnino alle persone come ragionare sui contenuti con cui interagiscono online.