Rilevamento di discorsi d’odio e stereotipi con l’intelligenza artificiale

Oggi, internet è il fondamento della comunicazione e della connessione globale. Tuttavia, con questa connettività online senza precedenti, assistiamo anche al lato oscuro del comportamento umano, ovvero i discorsi d’odio, gli stereotipi e i contenuti dannosi. Questi problemi hanno permeato i social media, i forum online e altri spazi virtuali, infliggendo danni duraturi agli individui e alla società. Pertanto, è necessario rilevare i discorsi d’odio.

Secondo il Pew Research Center, il 41% degli adulti americani afferma di aver personalmente subito abusi online, e il 25% sono vittime di gravi molestie.

Per creare un ambiente online più positivo e rispettoso, è fondamentale adottare misure proattive e sfruttare il potere della tecnologia. In questo senso, l’intelligenza artificiale (AI) fornisce soluzioni innovative per rilevare e contrastare i discorsi d’odio e gli stereotipi.

Limitazioni delle tecniche di mitigazione attuali e la necessità di misure proattive

Le misure attuali per mitigare i discorsi d’odio sono limitate. Non possono efficacemente limitare la diffusione di contenuti dannosi online. Queste limitazioni includono:

• Approcci reattivi, che si basano principalmente sulla moderazione umana e su algoritmi statici, faticano a tenere il passo con la rapida diffusione dei discorsi d’odio.
• Il volume enorme di contenuti online sovraccarica i moderatori umani, portando a risposte ritardate e a casi di retorica dannosa non rilevati.
• Inoltre, la comprensione del contesto e le sfumature linguistiche in evoluzione rappresentano sfide per i sistemi automatizzati nell’identificare e interpretare correttamente i casi di discorsi d’odio.

Per affrontare queste limitazioni e creare un ambiente online più sicuro, è necessario passare a misure proattive. Adottando misure basate sull’intelligenza artificiale, possiamo rafforzare le nostre comunità digitali, promuovendo l’inclusività e un mondo online coeso.

Identificazione e segnalazione dei discorsi d’odio con l’intelligenza artificiale

Nella lotta contro i discorsi d’odio, l’intelligenza artificiale emerge come un alleato formidabile, con algoritmi di apprendimento automatico (ML) per identificare e segnalare rapidamente e con precisione i contenuti dannosi. Analizzando grandi quantità di dati, i modelli di intelligenza artificiale possono imparare a riconoscere modelli e sfumature linguistiche associati ai discorsi d’odio, consentendo loro di categorizzare e rispondere efficacemente ai contenuti offensivi.

Per addestrare i modelli di intelligenza artificiale per la rilevazione accurata dei discorsi d’odio, vengono utilizzate tecniche di apprendimento supervisionato e non supervisionato. L’apprendimento supervisionato prevede la fornitura di esempi etichettati di discorsi d’odio e di contenuti non dannosi per insegnare al modello a distinguere tra le due categorie. Al contrario, i metodi di apprendimento non supervisionato e semi-supervisionato sfruttano i dati non etichettati per sviluppare la comprensione del modello dei discorsi d’odio.

Sfruttamento delle tecniche di counterspeech dell’intelligenza artificiale per contrastare i discorsi d’odio

La counterspeech emerge come una strategia potente per contrastare i discorsi d’odio sfidando e affrontando direttamente le narrazioni dannose. Consiste nel generare contenuti persuasivi e informativi per promuovere l’empatia, la comprensione e la tolleranza. Consente agli individui e alle comunità di partecipare attivamente alla creazione di un ambiente digitale positivo.

Sebbene i dettagli specifici dei modelli di counterspeech possano variare in base alla tecnologia e agli approcci di sviluppo dell’intelligenza artificiale, alcune caratteristiche e tecniche comuni includono:

• Generazione di linguaggio naturale (NLG): I modelli di counterspeech utilizzano la NLG per produrre risposte simili a quelle umane in forma scritta o parlata. Le risposte sono coerenti e contestualmente rilevanti per l’istanza specifica di discorso d’odio che stanno contrastando.
• Analisi dei sentimenti: I modelli di counterspeech dell’intelligenza artificiale utilizzano l’analisi dei sentimenti per valutare il tono emotivo dei discorsi d’odio e adattare le loro risposte di conseguenza. Ciò garantisce che la counterspeech sia sia efficace che empatica.
• Comprensione del contesto: Analizzando il contesto che circonda i discorsi d’odio, i modelli di counterspeech possono generare risposte che affrontano questioni o malintesi specifici, contribuendo a una counterspeech più efficace e mirata.
• Diversità dei dati: Per evitare pregiudizi e garantire l’equità, i modelli di counterspeech vengono addestrati su set di dati diversificati che rappresentano varie prospettive e sfumature culturali. Ciò aiuta a generare risposte inclusive e sensibili culturalmente.
• Apprendimento dai feedback degli utenti: I modelli di counterspeech possono migliorare costantemente imparando dai feedback degli utenti. Questo ciclo di feedback consente al modello di raffinare le sue risposte in base alle interazioni nel mondo reale, aumentando la sua efficacia nel tempo.

Esempi di contrasto ai discorsi d’odio con l’intelligenza artificiale

Un esempio concreto di tecnica di counterspeech dell’intelligenza artificiale è il “Redirect Method” sviluppato da Google’s Jigsaw e Moonshot CVE. Il Redirect Method utilizza la pubblicità mirata per raggiungere individui suscettibili a ideologie estremiste e discorsi d’odio. Questo approccio basato sull’intelligenza artificiale mira a dissuadere gli individui dall’interagire con contenuti dannosi e promuovere l’empatia, la comprensione e un allontanamento dalle credenze estremiste.

I ricercatori hanno anche sviluppato un modello di intelligenza artificiale innovativo chiamato BiCapsHate che agisce come uno strumento potente contro i discorsi d’odio online, come riportato in IEEE Transactions on Computational Social Systems. Supporta un’analisi bidirezionale del linguaggio, migliorando la comprensione del contesto per una determinazione accurata dei contenuti odiosi. Questo progresso cerca di mitigare l’impatto dannoso dei discorsi d’odio sui social media, offrendo la possibilità di interazioni online più sicure.

Allo stesso modo, i ricercatori dell’Università del Michigan hanno sfruttato l’intelligenza artificiale per contrastare i discorsi d’odio online utilizzando un approccio chiamato Rule By Example (RBE). Utilizzando l’apprendimento profondo, questo approccio apprende le regole per la classificazione dei discorsi d’odio da esempi di contenuti odiosi. Queste regole vengono applicate al testo di input per identificare e prevedere con precisione i discorsi d’odio online.

Considerazioni etiche per i modelli di rilevamento dei discorsi d’odio

Per massimizzare l’efficacia dei modelli di counterspeech basati sull’intelligenza artificiale, le considerazioni etiche sono fondamentali. Tuttavia, è importante bilanciare la libertà di espressione e la proibizione della diffusione di contenuti dannosi per evitare la censura.

La trasparenza nello sviluppo e nella distribuzione dei modelli di counterspeech dell’intelligenza artificiale è essenziale per instaurare fiducia e responsabilità tra gli utenti e gli stakeholder. Inoltre, garantire l’equità è altrettanto importante, poiché i pregiudizi nei modelli di intelligenza artificiale possono perpetuare la discriminazione e l’esclusione.

Ad esempio, l’intelligenza artificiale progettata per identificare i discorsi d’odio può involontariamente amplificare il pregiudizio razziale. La ricerca ha scoperto che i principali modelli di intelligenza artificiale per i discorsi d’odio erano 1,5 volte più propensi a segnalare i tweet degli afroamericani come offensivi. Erano 2,2 volte più propensi a segnalare i tweet come discorsi d’odio scritti in inglese afroamericano. Prove simili sono emerse da uno studio di 155.800 post di Twitter relativi ai discorsi d’odio, evidenziando la sfida di affrontare il pregiudizio razziale nella moderazione dei contenuti dell’intelligenza artificiale.

In un altro studio, i ricercatori hanno testato quattro sistemi di intelligenza artificiale per la rilevazione dei discorsi d’odio e hanno scoperto che tutti lottavano per identificare correttamente le frasi tossiche. Per diagnosticare i problemi esatti nei modelli di rilevamento dei discorsi d’odio, hanno creato una tassonomia di 18 tipi di discorsi d’odio, tra cui insulti e linguaggio minaccioso. Hanno anche evidenziato 11 scenari che mettono in difficoltà l’intelligenza artificiale, come l’uso di parolacce in dichiarazioni non odiose. Di conseguenza, lo studio ha prodotto HateCheck, un set di dati open-source di quasi 4.000 esempi, volto a migliorare la comprensione delle sfumature dei discorsi d’odio per i modelli di intelligenza artificiale.

Conoscenza e alfabetizzazione digitale

Contrastare i discorsi d’odio e gli stereotipi richiede un approccio proattivo e multidimensionale. Pertanto, aumentare la consapevolezza e promuovere l’alfabetizzazione digitale è vitale nel contrastare i discorsi d’odio e gli stereotipi.

Educare gli individui sull’impatto dei contenuti dannosi favorisce una cultura di empatia e comportamento online responsabile. Le strategie che incoraggiano il pensiero critico abilitano gli utenti a distinguere tra il discorso legittimo e i discorsi d’odio, riducendo la diffusione di narrazioni dannose. Inoltre, dotare gli utenti delle competenze per identificare e rispondere efficacemente ai discorsi d’odio è fondamentale. Li abiliterà a sfidare e contrastare la retorica dannosa, contribuendo a un ambiente digitale più sicuro e rispettoso.

Man mano che la tecnologia dell’intelligenza artificiale evolve, la potenzialità di affrontare i discorsi d’odio e gli stereotipi con maggiore precisione e impatto cresce esponenzialmente. Pertanto, è importante consolidare la counterspeech basata sull’intelligenza artificiale come uno strumento potente per favorire l’empatia e l’engagement positivo online.

Per ulteriori informazioni sulle tendenze e la tecnologia dell’intelligenza artificiale, visitate unite.ai.