Alex Fink, Executive di Tecnologia, Fondatore e Amministratore Delegato di Otherweb – Serie di Interviste

Alex Fink è un Executive di Tecnologia e il Fondatore e Amministratore Delegato di Otherweb, una società di beneficenza pubblica che utilizza l’intelligenza artificiale per aiutare le persone a leggere notizie e commenti, ascoltare podcast e cercare nel web senza paywall, clickbait, pubblicità, video che si avviano automaticamente, link di affiliazione o qualsiasi altro contenuto “spazzatura”. Otherweb è disponibile come app (iOS e Android), sito web, newsletter o estensione del browser autonoma. Prima di Otherweb, Alex era Fondatore e Amministratore Delegato di Panopteo e Co-fondatore e Presidente di Swarmer.

Può fornire una panoramica di Otherweb e della sua missione di creare uno spazio di notizie senza spazzatura?

Otherweb è una società di beneficenza pubblica, creata per aiutare a migliorare la qualità delle informazioni che le persone consumano.

Il nostro prodotto principale è un’app di notizie che utilizza l’intelligenza artificiale per filtrare la spazzatura e consentire agli utenti di personalizzare tutto – controllando ogni soglia di qualità e ogni meccanismo di ordinamento utilizzato dall’app.

In altre parole, mentre il resto del mondo crea algoritmi in scatola nera per massimizzare l’engagement degli utenti, noi vogliamo dare agli utenti il maggior valore possibile nel minor tempo possibile, e rendiamo tutto personalizzabile. Abbiamo anche reso i nostri modelli di intelligenza artificiale e i set di dati disponibili alle fonti in modo che le persone possano vedere esattamente cosa stiamo facendo e come valutiamo il contenuto.

Cosa l’ha ispirato a concentrarsi sulla lotta contro la disinformazione e le notizie false utilizzando l’intelligenza artificiale?

Sono nato nell’Unione Sovietica e ho visto cosa succede a una società quando tutti consumano propaganda e nessuno ha idea di cosa stia succedendo nel mondo. Ho ricordi vividi dei miei genitori che si svegliavano alle 4 del mattino, si chiudevano nello sgabuzzino e accendevano la radio per ascoltare la Voce dell’America. Era illegale, naturalmente, ed è per questo che lo facevano di notte e si assicuravano che i vicini non potessero sentire – ma ci dava accesso a informazioni reali. Di conseguenza, siamo partiti 3 mesi prima che tutto crollasse e scoppiasse la guerra nella mia città natale.

Ricordo di aver visto foto di carri armati per strada dove sono cresciuto e di aver pensato “quindi questo è il valore delle informazioni reali”.

Voglio che più persone abbiano accesso a informazioni reali e di alta qualità.

Quanto è grave la minaccia dei deepfake, in particolare nel contesto dell’influenzamento delle elezioni? Può condividere esempi specifici di come i deepfake siano stati utilizzati per diffondere disinformazione e quale impatto hanno avuto?

Nel breve termine, è una minaccia molto seria.

Gli elettori non si rendono conto che le registrazioni video e audio non possono più essere considerate attendibili. Pensano che il video sia la prova che qualcosa è successo, e 2 anni fa questo era ancora vero, ma ora non è più così.

Quest’anno, in Pakistan, gli elettori di Imran Khan hanno ricevuto telefonate da Imran Khan stesso, personalmente, chiedendo loro di boicottare le elezioni. Era falso, naturalmente, ma molte persone ci hanno creduto.

Gli elettori in Italia hanno visto una delle loro politiche femminili apparire in un video pornografico. Era falso, naturalmente, ma quando la falsità è stata scoperta – il danno era già stato fatto.

Anche qui in Arizona, abbiamo visto una newsletter pubblicizzare se stessa mostrando un video di endorsement con Kari Lake. Lei non aveva mai dato il suo endorsement, naturalmente, ma la newsletter ha comunque ottenuto migliaia di iscritti.

Quindi, a novembre, credo che sia quasi inevitabile che vedremo almeno una notizia bomba falsa. E è molto probabile che cada proprio prima delle elezioni e si scopra essere falsa subito dopo le elezioni – quando il danno sarà già stato fatto.

Quanto sono efficaci gli strumenti di intelligenza artificiale attuali nell’identificazione dei deepfake e quali miglioramenti prevede per il futuro?

In passato, il modo migliore per identificare le immagini false era quello di ingrandirle e cercare gli errori caratteristici (aka “artefatti”) che i creatori di immagini tendevano a fare. Illuminazione errata, ombre mancanti, bordi irregolari su certi oggetti, sovra-compressione intorno agli oggetti, ecc.

Il problema con la modifica basata su GAN (aka “deepfake”) è che nessuno di questi artefatti comuni è presente. Il modo in cui funziona il processo è che un modello di intelligenza artificiale modifica l’immagine, e un altro modello di intelligenza artificiale cerca gli artefatti e li segnala – e il ciclo si ripete più e più volte fino a quando non ci sono più artefatti.

Di conseguenza, non c’è generalmente modo di identificare un deepfake video ben fatto guardando il contenuto stesso.

Dobbiamo cambiare la nostra mentalità e iniziare ad assumere che il contenuto sia reale solo se possiamo tracciare la catena di custodia fino alla fonte. Pensateci come alle impronte digitali. Vedere le impronte digitali sull’arma del delitto non è sufficiente. È necessario sapere chi ha trovato l’arma del delitto, chi l’ha portata nella stanza di archiviazione, ecc. – è necessario essere in grado di tracciare ogni singola volta che è cambiata mano e assicurarsi che non sia stata manomessa.

Quali misure possono adottare i governi e le società di tecnologia per prevenire la diffusione di disinformazione durante periodi critici come le elezioni?

Il miglior antidoto alla disinformazione è il tempo. Se si vede qualcosa che cambia le cose, non si deve pubblicare in fretta – si deve prendere un giorno o due per verificare che sia realmente vero.

Purtroppo, questo approccio collide con il modello di business dei media, che premia i clic anche se il materiale si rivela falso.

Come Otherweb utilizza l’intelligenza artificiale per garantire l’autenticità e l’accuratezza delle notizie che aggrega?

Abbiamo scoperto che c’è una forte correlazione tra correttezza e forma. Le persone che vogliono dire la verità tendono a utilizzare un certo linguaggio che enfatizza la moderazione e l’umiltà, mentre le persone che disprezzano la verità cercano di ottenere molta attenzione.

Il focus principale di Otherweb non è il fact-checking. È il form-checking. Selezioniamo articoli che evitano il linguaggio accattivante, forniscono riferimenti esterni per ogni affermazione, esprimono le cose come stanno e non utilizzano tecniche di persuasione.

Questo metodo non è perfetto, naturalmente, e in teoria un attore malvagio potrebbe scrivere una falsità nello stile esatto che i nostri modelli premiano. Ma nella pratica, non succede. Le persone che vogliono mentire anche vogliono molta attenzione – è la cosa che abbiamo insegnato ai nostri modelli a rilevare e filtrare.

Con la crescente difficoltà nel distinguere le immagini reali da quelle false, come possono piattaforme come Otherweb aiutare a ripristinare la fiducia degli utenti nel contenuto digitale?

Il miglior modo per aiutare le persone a consumare contenuti migliori è quello di campionare da tutte le parti, selezionare il meglio di ciascuna e esercitare molta moderazione. La maggior parte dei media si affretta a pubblicare informazioni non verificate in questi giorni. La nostra capacità di riferire informazioni da centinaia di fonti e concentrarci sugli elementi migliori ci consente di proteggere gli utenti dalla maggior parte delle forme di disinformazione.

Qual è il ruolo dei metadati, come gli standard C2PA, nella verifica dell’autenticità delle immagini e dei video?

È l’unica soluzione praticabile. Gli standard C2PA possono o non possono essere gli standard giusti, ma è chiaro che l’unico modo per validare se il video che si sta guardando riflette qualcosa che è realmente accaduto nella realtà è quello di a) assicurarsi che la fotocamera utilizzata per catturare il video stesse solo catturando e non modificando, e b) assicurarsi che nessuno abbia modificato il video dopo che è uscito dalla fotocamera. Il miglior modo per farlo è quello di concentrarsi sui metadati.

Quali sviluppi futuri prevede nella lotta contro la disinformazione e i deepfake?

Credo che, entro 2-3 anni, le persone si adatteranno alla nuova realtà e cambieranno la loro mentalità. Prima del 19° secolo, la migliore forma di prova era la testimonianza degli testimoni oculari. I deepfake sono probabilmente destinati a farci tornare a questi standard collaudati.

Per quanto riguarda la disinformazione in generale, credo che sia necessario adottare una visione più sfumata e separare la disinformazione (ovvero informazioni false create intenzionalmente per ingannare) dalla spazzatura (ovvero informazioni create per essere monetizzate, indipendentemente dalla loro veridicità).

L’antidoto alla spazzatura è un meccanismo di filtraggio che rende la spazzatura meno probabile di diffondersi. Cambierebbe la struttura degli incentivi che fa diffondere la spazzatura come un incendio. La disinformazione esisterà ancora, proprio come è sempre esistita. Siamo stati in grado di farvi fronte nel 20° secolo e saremo in grado di farvi fronte nel 21°.

È la valanga di spazzatura che dobbiamo preoccuparci, perché è la parte con cui non siamo attrezzati per affrontare al momento. È il problema principale che l’umanità deve affrontare.

Una volta che cambieremo gli incentivi, il rapporto segnale/rumore di Internet migliorerà per tutti.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare il sito web di Otherweb, o seguirli su X o LinkedIn.