Pregiudizio dell’IA e Stereotipi Culturali: Effetti, Limitazioni e Mitigazione

L’Intelligenza Artificiale (IA), in particolare l’IA Generativa, continua a superare le aspettative con la sua capacità di comprendere e mimare la cognizione e l’intelligenza umana. Tuttavia, in molti casi, i risultati o le previsioni dei sistemi di IA possono riflettere vari tipi di pregiudizio dell’IA, come ad esempio quelli culturali e razziali.

Il blog di Buzzfeed “Barbies del Mondo” (che ora è stato cancellato) manifesta chiaramente questi pregiudizi culturali e inesattezze. Queste “barbies” sono state create utilizzando Midjourney, un generatore di immagini di IA leader, per scoprire come sarebbero apparse le barbies in ogni parte del mondo. Ne parleremo più avanti.

Ma questo non è il primo caso in cui l’IA è stata “razzista” o ha prodotto risultati inaccurati. Ad esempio, nel 2022, Apple (AAPL ) è stata citata in giudizio per presunte accuse che il sensore di ossigeno nel sangue dell’Apple Watch era pregiudizievole nei confronti delle persone di colore. In un altro caso segnalato, gli utenti di Twitter hanno scoperto che l’IA di ritaglio automatico delle immagini di Twitter favoriva i volti delle persone bianche rispetto a quelli neri e le donne rispetto agli uomini. Questi sono sfide critiche e affrontarle è significativamente difficile.

In questo articolo, esamineremo cosa sia il pregiudizio dell’IA, come impatti sulla nostra società e discuteremo brevemente come i pratici possano mitigarlo per affrontare sfide come gli stereotipi culturali.

Cosa è il Pregiudizio dell’IA?

Il pregiudizio dell’IA si verifica quando i modelli di IA producono risultati discriminatori contro determinate demografie. Ci sono diversi tipi di pregiudizi che possono entrare nei sistemi di IA e produrre risultati inaccurati. Alcuni di questi pregiudizi dell’IA sono:

• Pregiudizio Stereotipico: Il pregiudizio stereotipico si riferisce al fenomeno in cui i risultati di un modello di IA consistono in stereotipi o nozioni percepite su una determinata demografia.
• Pregiudizio Razziale: Il pregiudizio razziale nell’IA si verifica quando il risultato di un modello di IA è discriminatorio e ingiusto nei confronti di un individuo o gruppo in base alla loro etnia o razza.
• Pregiudizio Culturale: Il pregiudizio culturale si verifica quando i risultati di un modello di IA favoriscono una cultura rispetto a un’altra.

Oltre ai pregiudizi, altri problemi possono anche ostacolare i risultati di un sistema di IA, come ad esempio:

• Inesattezze: Le inesattezze si verificano quando i risultati prodotti da un modello di IA sono inaccurati a causa di dati di formazione inconsistenti.
• Allucinazioni: Le allucinazioni si verificano quando i modelli di IA producono risultati fiction e falsi che non sono basati su dati fattuali.

L’Impatto del Pregiudizio dell’IA sulla Società

L’impatto del pregiudizio dell’IA sulla società può essere devastante. I sistemi di IA pregiudizievoli possono produrre risultati inaccurati che amplificano i pregiudizi già esistenti nella società. Questi risultati possono aumentare la discriminazione e le violazioni dei diritti, influenzare i processi di assunzione e ridurre la fiducia nella tecnologia di IA.

Inoltre, i risultati dell’IA pregiudizievole spesso portano a previsioni inaccurate che possono avere gravi conseguenze per gli individui innocenti. Ad esempio, nel agosto 2020, Robert McDaniel è diventato il bersaglio di un atto criminale a causa dell’algoritmo di polizia predittiva del Dipartimento di Polizia di Chicago che lo ha etichettato come “persona di interesse”.

Allo stesso modo, i sistemi di IA sanitaria pregiudizievoli possono avere esiti acuti per i pazienti. Nel 2019, la rivista Science ha scoperto che un algoritmo medico ampiamente utilizzato negli Stati Uniti era pregiudizievole nei confronti delle persone di colore, il che ha portato a una gestione della cura di alto rischio per i pazienti neri.

Barbies del Mondo

Nel luglio 2023, Buzzfeed ha pubblicato un blog che comprendeva 194 barbies generate da IA da tutto il mondo. Il post è diventato virale su Twitter. Sebbene Buzzfeed abbia scritto una dichiarazione di disclaimer, non ha impedito ai netizen di notare le inesattezze razziali e culturali. Ad esempio, l’immagine di IA generata della Barbie tedesca indossava l’uniforme di un generale delle SS naziste.

Allo stesso modo, l’immagine di IA generata della Barbie del Sudan del Sud era rappresentata con una pistola al suo fianco, riflettendo il pregiudizio profondamente radicato negli algoritmi di IA.

Oltre a questo, diverse altre immagini hanno mostrato inesattezze culturali, come la Barbie del Qatar che indossava un Ghutra, un copricapo tradizionale indossato dagli uomini arabi.

Questo post di blog ha ricevuto una forte reazione per stereotipi culturali e pregiudizi. La London Interdisciplinary School (LIS) ha definito questo “danno rappresentativo” che deve essere tenuto sotto controllo imponendo standard di qualità e stabilendo organismi di vigilanza sull’IA.

Limitazioni dei Modelli di IA

L’IA ha il potenziale per rivoluzionare molte industrie. Tuttavia, se scenari come quelli menzionati sopra si verificano, può portare a una riduzione dell’adozione generale dell’IA, risultando in opportunità mancate. Tali casi si verificano generalmente a causa di limitazioni significative nei sistemi di IA, come ad esempio:

• Mancanza di Creatività: Poiché l’IA può prendere decisioni solo in base ai dati di formazione forniti, le manca la creatività per pensare fuori dagli schemi, il che ostacola la risoluzione creativa dei problemi.

• Mancanza di Comprensione Contestuale: I sistemi di IA hanno difficoltà a comprendere le sfumature contestuali o le espressioni linguistiche di una regione, il che spesso porta a errori nei risultati.

• Pregiudizio di Formazione: L’IA si basa su dati storici che possono contenere campioni discriminatori. Durante la formazione, il modello può facilmente apprendere modelli discriminatori per produrre risultati ingiusti e pregiudizievoli.

Come Ridurre il Pregiudizio nei Modelli di IA

Gli esperti stimano che entro il 2026, il 90% del contenuto online potrebbe essere generato sinteticamente. Pertanto, è fondamentale ridurre rapidamente i problemi presenti nelle tecnologie di IA Generativa.

Ci sono diverse strategie chiave che possono essere implementate per ridurre il pregiudizio nei modelli di IA. Alcune di queste sono:

• Garantire la Qualità dei Dati: Ingestire dati completi, accurati e puliti in un modello di IA può aiutare a ridurre il pregiudizio e produrre risultati più precisi.
• Set di Dati Diversi: Introdurre set di dati diversi in un sistema di IA può aiutare a mitigare il pregiudizio poiché il sistema di IA diventa più inclusivo nel tempo.

• Cicli di Feedback: Con un ciclo di feedback e apprendimento costante, i modelli di IA possono migliorare gradualmente i loro risultati.

• Aumento delle Regolamentazioni: Le regolamentazioni globali sull’IA sono fondamentali per mantenere la qualità dei sistemi di IA attraverso i confini. Pertanto, le organizzazioni internazionali devono lavorare insieme per garantire la standardizzazione dell’IA.

• Aumento dell’Adozione di IA Responsabile: Le strategie di IA responsabile contribuiscono positivamente alla mitigazione del pregiudizio dell’IA, coltivando l’equità e la precisione nei sistemi di IA e garantendo che servano una base di utenti diversificata e si impegnino nel miglioramento continuo.

Incorporando set di dati diversi, responsabilità etica e canali di comunicazione aperti, possiamo garantire che l’IA sia una fonte di cambiamento positivo in tutto il mondo.

Se desideri saperne di più sul pregiudizio e il ruolo dell’Intelligenza Artificiale nella nostra società, leggi i seguenti blog.

• Come le Città Stanno Implementando Tecnologie Leader che Sfruttano Algoritmi di IA Non Pregiudizievoli
• L’IA Può Combattere le Informazioni Errate e il Pregiudizio nelle Notizie
• Pregiudizio e Equità dei Sistemi Basati sull’IA all’Interno del Crimine Finanziario
• Un Controllo del Pregiudizio Basato sull’IA per gli Articoli di Notizie, Disponibile in Python