Deepfake e navigazione nella nuova era dei media sintetici

Ricordi le “notizie false”? Il termine è stato utilizzato (e abusato) così estensivamente a questo punto che può essere difficile ricordare a cosa si riferiva inizialmente. Ma il concetto ha un’origine molto specifica. Dieci anni fa, i giornalisti iniziarono a suonare l’allarme su un afflusso di presunti “siti di notizie” che lanciavano false, spesso assurde, affermazioni su politici e celebrità. Molti potevano immediatamente capire che questi siti erano illegittimi.

Ma molti altri mancavano degli strumenti critici per riconoscere questo. Il risultato fu il primo fermento di una crisi epistemologica che ora sta per inghiottire internet – una crisi che ha raggiunto la sua manifestazione più spaventosa con l’ascesa dei deepfake.

Accanto a un deepfake anche solo passabile, i “siti di notizie false” di un tempo sembrano innocui. Peggio ancora, anche coloro che credono di possedere livelli di alfabetizzazione media relativamente alti sono a rischio di essere ingannati. I media sintetici creati con l’uso di algoritmi di apprendimento profondo e intelligenza generativa hanno il potenziale di scatenare il caos sulle fondamenta della nostra società. Secondo Deloitte, quest’anno solo potrebbero costare alle aziende più di 250 milioni di dollari attraverso transazioni false e altre forme di frode. Nel frattempo, il World Economic Forum ha definito i deepfake “uno degli usi più preoccupanti dell’AI”, sottolineando il potenziale di “chatbot e avatar AI in tempo reale guidati da un’agenda” per facilitare nuove forme di manipolazione personalizzata (e molto efficace).

La risposta suggerita dal WEF a questo problema è sensata: essi sostengono una “mentalità di zero fiducia“, una mentalità che porta un certo scetticismo in ogni incontro con i media digitali. Se vogliamo distinguere tra autentico e sintetico in futuro – soprattutto in ambienti online immersivi – una tale mentalità sarà sempre più essenziale.

Due approcci per combattere la crisi dei deepfake

Combattere la disinformazione rampante generata dai media sintetici richiederà, a mio parere, due approcci distinti.

Il primo consiste nella verifica: fornire un modo semplice per gli utenti internet di tutti i giorni per determinare se il video che stanno guardando è effettivamente autentico. Tali strumenti sono già ampiamente utilizzati in settori come le assicurazioni, dato il potenziale di attori malintenzionati di presentare false richieste supportate da video, fotografie e documenti contraffatti. Democratizzare questi strumenti – renderli gratuiti e facili da accedere – è un passo fondamentale in questa lotta, e stiamo già vedendo un significativo movimento su questo fronte.

Il secondo passo è meno tecnologico e quindi più impegnativo: ovvero, aumentare la consapevolezza e promuovere le competenze di pensiero critico. All’indomani dello scandalo delle “notizie false” originale, nel 2015, le organizzazioni no-profit in tutto il paese hanno elaborato programmi di alfabetizzazione media e hanno lavorato per diffondere le migliori pratiche, spesso in collaborazione con istituzioni civiche locali per potenziare i cittadini comuni a riconoscere le falsità. Naturalmente, le “notizie false” di vecchio stile sono un gioco da ragazzi rispetto ai deepfake più avanzati, il che è il motivo per cui dobbiamo raddoppiare gli sforzi su questo fronte e investire nell’istruzione a tutti i livelli.

I deepfake avanzati richiedono un pensiero critico avanzato

Naturalmente, queste iniziative educative erano un po’ più facili da intraprendere quando la disinformazione in questione era basata sul testo. Con i siti di “notizie false”, i segni di frode erano spesso ovvi: design web scadente, errori di battitura, fonti strane. Con i deepfake, i segni sono molto più sottili – e spesso impossibili da notare a prima vista.

Di conseguenza, gli utenti di internet di ogni età devono effettivamente riaddestrarsi per esaminare i video digitali in cerca di indicatori di deepfake. Ciò significa prestare attenzione a una serie di fattori. Per i video, potrebbe significare aree sfocate e ombre non reali; movimenti e espressioni facciali non naturali; toni di pelle troppo perfetti; schemi di abbigliamento e movimenti inconsistenti; errori di sincronizzazione labiale; e così via. Per l’audio, potrebbe significare voci che suonano troppo pulite (o chiaramente digitalizzate), una mancanza di tono emotivo umano, schemi di parlato strani o frasi insolite.

Nel breve termine, questo tipo di auto-addestramento può essere molto utile. Chiedendoci, più e più volte, Questo sembra sospetto?, affiniamo non solo la nostra capacità di rilevare i deepfake, ma anche le nostre competenze di pensiero critico in generale. Detto ciò, stiamo rapidamente avvicinandoci a un punto in cui nemmeno l’occhio più addestrato sarà in grado di separare il fatto dalla finzione senza aiuto esterno. I segni visivi – le irregolarità menzionate sopra – saranno tecnologicamente levigati, in modo che i clip interamente prodotti saranno indistinguibili dall’articolo genuino. Ciò che ci rimarrà è la nostra intuizione situazionale – la nostra capacità di chiederci domande come Un politico o una celebrità direbbero davvero qualcosa del genere? È plausibile il contenuto di questo video?

È in questo contesto che le piattaforme di rilevamento AI diventano essenziali. Con l’occhio nudo reso irrilevante per lo scopo di rilevamento dei deepfake, queste piattaforme possono servire come arbitri definitivi della realtà – paratie contro l’abisso epistemologico. Quando un video sembra reale ma sembra in qualche modo sospetto – come accadrà sempre più spesso nei prossimi mesi e anni – queste piattaforme possono mantenerci saldi nei fatti confermando la veridicità di base di qualsiasi cosa stiamo guardando. In ultima analisi, con tecnologie così potenti, l’unica cosa che può salvarci è l’AI stessa. Dobbiamo combattere il fuoco con il fuoco – ovvero, utilizzare il buon AI per estirpare i peggiori abusi della tecnologia.

In realtà, l’acquisizione di queste competenze in alcun modo non deve essere un processo cinico o negativo. Promuovere una mentalità di zero fiducia può invece essere considerato un’opportunità per affinare il proprio pensiero critico, l’intuizione e la consapevolezza. Chiedendoci, più e più volte, certe domande chiave – Questo ha senso? È sospetto? – aumentiamo la nostra capacità di confrontare non solo i media falsi, ma il mondo in generale. Se c’è un lato positivo nell’era dei deepfake, questo è. Stiamo essere costretti a pensare con la nostra testa e a diventare più empirici nella nostra vita quotidiana – e questo può essere solo una cosa buona.