Nel 2024, i deepfake diventeranno mainstream. Ecco come le aziende possono proteggersi

Da almeno le elezioni del 2016, quando le preoccupazioni sulla disinformazione sono esplose nella coscienza pubblica, gli esperti hanno suonato l’allarme sui deepfake. Le implicazioni di questa tecnologia erano – e rimangono – terrificanti. La proliferazione incontrollata di media sintetici iper-realistiche rappresenta una minaccia per tutti – dai politici alle persone comuni. In un ambiente già caratterizzato da una diffusa sfiducia, i deepfake promettono di alimentare ulteriormente le fiamme.

Come si è scoperto, le nostre paure erano premature. La competenza tecnica necessaria per creare effettivamente i deepfake, unita alla loro spesso scarsa qualità, ha significato che per almeno gli ultimi due cicli elettorali presidenziali, sono rimasti un problema minimo.

Ma tutto questo sta per cambiare – sta già cambiando. Negli ultimi due anni, la tecnologia di intelligenza artificiale generativa è entrata nel mainstream, semplificando radicalmente il processo di creazione di deepfake per il consumatore medio. Queste stesse innovazioni hanno notevolmente aumentato la qualità dei deepfake, tanto che, in un test alla cieca, la maggior parte delle persone non sarebbe in grado di distinguere un video contraffatto dal vero.

Quest’anno, in particolare, abbiamo iniziato a vedere indizi di come questa tecnologia potrebbe influenzare la società se non si prendono misure per contrastarla. Lo scorso anno, ad esempio, una foto generata da AI di Papa Francesco che indossa un cappotto insolitamente elegante è diventata virale e molti l’hanno ritenuta autentica. Mentre ciò potrebbe sembrare, a un certo livello, un innocuo scherzo, rivela la pericolosa potenza di questi deepfake e quanto sia difficile fermare la disinformazione una volta che ha iniziato a diffondersi. Possiamo aspettarci di trovare esempi molto meno divertenti – e molto più pericolosi – di questo tipo di falsità virale nei mesi e negli anni a venire.

Per questo motivo, è fondamentale che le organizzazioni di ogni tipo – dai media alle finanze ai governi alle piattaforme di social media – adottino un approccio proattivo alla rilevazione dei deepfake e alla verifica dell’autenticità dei contenuti. Una cultura di fiducia attraverso salvaguardie deve essere stabilita ora, prima che un’onda di deepfake possa spazzare via la nostra comprensione condivisa della realtà.

Comprendere la minaccia dei deepfake

Prima di addentrarsi in ciò che le organizzazioni possono fare per contrastare questo aumento di deepfake, vale la pena approfondire il motivo per cui gli strumenti di salvaguardia sono necessari. Di solito, coloro che si preoccupano dei deepfake citano il loro potenziale effetto sulla politica e sulla fiducia sociale. Queste conseguenze potenziali sono estremamente importanti e non dovrebbero essere trascurate in nessuna conversazione sui deepfake. Tuttavia, la crescita di questa tecnologia ha effetti potenzialmente disastrosi in molti settori dell’economia statunitense.

Prendiamo ad esempio l’assicurazione. Al momento, la frode assicurativa annuale negli Stati Uniti ammonta a 308,6 miliardi di dollari – un numero grosso modo un quarto delle dimensioni dell’intera industria. Allo stesso tempo, le operazioni di back-end della maggior parte delle compagnie assicurative sono sempre più automatizzate, con il 70% delle richieste standard previste come senza intervento umano entro il 2025. Ciò significa che le decisioni sono sempre più prese con un minimo intervento umano: self-service sul front-end e automazione facilitata da AI sul back-end.

Ironia della sorte, la stessa tecnologia che ha permesso questo aumento dell’automazione – ovvero l’apprendimento automatico e l’intelligenza artificiale – ha garantito il suo sfruttamento da parte di attori malintenzionati. È ora più facile che mai per la persona media manipolare le richieste – ad esempio, utilizzando programmi di intelligenza artificiale generativa come Dall-E, Midjourney o Stable Diffusion per far apparire un’auto più danneggiata di quanto non sia in realtà. Già esistono app specifiche per questo scopo, come Dude Your Car!, che consente agli utenti di creare artificialmente ammaccature nelle foto delle loro auto.

Lo stesso vale per i documenti ufficiali, che possono ora essere facilmente manipolati – con fatture, valutazioni di underwriting e persino firme modificate o inventate integralmente. Questa capacità è un problema non solo per le assicurazioni, ma per l’intera economia. È un problema per le istituzioni finanziarie, che devono verificare l’autenticità di una vasta gamma di documenti. È un problema per i rivenditori, che potrebbero ricevere una lamentela che un prodotto è arrivato difettoso, accompagnata da un’immagine contraffatta.

Le aziende semplicemente non possono operare con questo livello di incertezza. Un certo grado di frode è probabilmente sempre inevitabile, ma con i deepfake, non stiamo parlando di frode ai margini – stiamo parlando di un potenziale disastro epistemologico in cui le aziende non hanno alcun mezzo chiaro per determinare la verità dalla finzione e finiscono per perdere miliardi di dollari a causa di questa confusione.

Combattere il fuoco con il fuoco: come l’AI può aiutare

Quindi, cosa si può fare per combattere questo? Forse non sorprendentemente, la risposta si trova nella stessa tecnologia che facilita i deepfake. Se vogliamo fermare questa piaga prima che acquisti più slancio, dobbiamo combattere il fuoco con il fuoco. L’AI può aiutare a generare deepfake – ma può anche, fortunatamente, aiutare a identificarli automaticamente e su larga scala.

Utilizzando gli strumenti AI giusti, le aziende possono automaticamente determinare se una determinata fotografia, video o documento è stato manomesso. Portando decine di modelli diversi al compito di identificazione delle falsificazioni, l’AI può automaticamente dire alle aziende se una determinata fotografia o video è sospetto. Come gli strumenti che le aziende stanno già utilizzando per automatizzare le operazioni quotidiane, questi strumenti possono funzionare in background senza gravare sul personale già sovraccarico o sottrarre tempo ai progetti importanti.

Se e quando una fotografia viene identificata come potenzialmente alterata, il personale umano può essere allertato e può valutare direttamente il problema, aiutato dalle informazioni fornite dall’AI. Utilizzando l’analisi deep-scan, può dire alle aziende perché ritiene che una fotografia sia stata probabilmente contraffatta – puntando, ad esempio, a metadati alterati manualmente, all’esistenza di immagini identiche in tutto il web, a varie irregolarità fotografiche, ecc.

Niente di tutto ciò è inteso per denigrare i notevoli progressi che abbiamo visto nella tecnologia di intelligenza artificiale generativa negli ultimi anni, che hanno effettivamente applicazioni utili e produttive in molti settori. Ma la potenza – e la semplicità – di questa tecnologia emergente garantisce quasi la sua manipolazione da parte di coloro che cercano di manipolare le organizzazioni, sia per guadagno personale che per seminare il caos sociale.

Le organizzazioni possono avere il meglio di entrambi i mondi: i benefici di produttività dell’AI senza gli svantaggi dei deepfake ubiqui. Ma ciò richiede un nuovo livello di vigilanza, soprattutto considerando il fatto che gli output dell’AI generativa stanno diventando sempre più persuasivi, dettagliati e realistici di giorno in giorno. Più presto le organizzazioni si concentreranno su questo problema, più presto potranno godere appieno dei benefici di un mondo automatizzato.