I Ricercatori Stanno Iniziando Ad Addestrare L’Intelligenza Artificiale Per Combattere I Discorsi D’odio Online

Le notizie false e i discorsi d’odio online stanno diventando un problema non solo quotidiano, ma anche minuto per minuto. IkigaiLab riferisce che Facebook (META ) e Twitter hanno dovuto chiudere recentemente più di 1,5 miliardi e 70 milioni di account rispettivamente, solo per cercare di limitare la diffusione di notizie false e discorsi d’odio in tutto il mondo.

Tuttavia, al momento, un tale compito richiede un’enorme forza lavoro umana e ore di lavoro quasi costanti solo per affrontare la punta dell’iceberg dei discorsi d’odio. Per risolvere il problema, i ricercatori in numerosi laboratori stanno iniziando ad addestrare l’intelligenza artificiale (AI) per aiutare in questo compito enorme.

Ikigai cita il sistema Rosetta che Facebook sta utilizzando per comprendere l’autenticità delle notizie, delle immagini o di altri contenuti caricati su quel social media. Come spiegato, ciò che Rosetta fa è scansionare “le parole, le immagini, la lingua, il font, la data del post tra le altre variabili e cerca di capire se le informazioni presentate sono genuine o no.” Dopo che il sistema raccoglie le informazioni e considera che l’AI non è ancora completamente “adatta a comprendere le allusioni, i riferimenti, le sfumature e i contesti in cui il contenuto è stato pubblicato,” i moderatori umani prendono il controllo e guidano il sistema AI per scoprire i discorsi d’odio e le notizie false.

Per cercare di sviluppare ulteriormente la capacità dei sistemi AI di coprire tutte le possibili sfumature che caratterizzano i discorsi d’odio, un team di ricercatori alla UC Santa Barbara e Intel (INTC ), come riporta TheNextWeb (TNW), “ha preso migliaia di conversazioni dalle comunità più sporche di Reddit e Gab e le ha utilizzate per sviluppare e addestrare l’AI per combattere i discorsi d’odio.”

Secondo il loro rapporto, per farlo, il gruppo congiunto di ricercatori ha creato un set di dati specifico che presenta “migliaia di conversazioni curate appositamente per assicurarsi che fossero piene di discorsi d’odio.” Hanno anche utilizzato un elenco dei gruppi su Reddit che sono caratterizzati principalmente dall’uso di discorsi d’odio compilato da Justin Caffier di Vox.

I ricercatori hanno finito per raccogliere “più di 22.000 commenti da Reddit e oltre 33.000 da Gab.” Hanno scoperto che i due siti mostrano parole chiave di odio popolari simili, ma le distribuzioni sono molto diverse.

Hanno notato che a causa di queste differenze è molto difficile per i social media intervenire in tempo reale, poiché il flusso di discorsi d’odio è così alto che richiederebbe un numero infinito di persone per seguirlo.

Per affrontare il problema, il team di ricerca ha iniziato ad addestrare l’AI per intervenire. Il loro database iniziale è stato inviato ai lavoratori di Amazon (AMZN ) Turk per essere etichettato. Dopo aver identificato le istanze individuali di discorsi d’odio, i lavoratori hanno elaborato frasi che l’AI avrebbe utilizzato “per dissuadere gli utenti dal pubblicare discorsi d’odio simili in futuro.”

Sulla base di ciò, il team “ha eseguito questo set di dati e il database di interventi attraverso vari sistemi di apprendimento automatico e di elaborazione del linguaggio naturale e ha creato una sorta di prototipo per un’intervento AI contro i discorsi d’odio online.”

I risultati prodotti sono stati eccellenti, ma poiché lo sviluppo è ancora in una fase iniziale, il sistema non è ancora pronto per essere utilizzato attivamente. Come spiegato, “the sistema, in teoria, dovrebbe rilevare i discorsi d’odio e inviare immediatamente un messaggio al poster per informarlo del perché non dovrebbe pubblicare cose che rappresentano chiaramente discorsi d’odio. Ciò si basa su più della semplice rilevazione delle parole chiave – affinché l’AI funzioni, deve capire il contesto.”