Biais de l’IA et stéréotypes culturels : effets, limites et mitigation

L’intelligence artificielle (IA), en particulier l’IA générative, continue de dépasser les attentes avec sa capacité à comprendre et à imiter la cognition et l’intelligence humaines. Cependant, dans de nombreux cas, les résultats ou les prédictions des systèmes d’IA peuvent refléter divers types de biais d’IA, tels que les biais culturels et raciaux.

Le blog « Barbies du monde » de Buzzfeed (qui a maintenant été supprimé) manifeste clairement ces biais culturels et inexactitudes. Ces « barbies » ont été créées à l’aide de Midjourney, un générateur d’images d’IA de pointe, pour découvrir à quoi ressembleraient les barbies dans différentes parties du monde. Nous en discuterons plus en détail plus tard.

Mais ce n’est pas la première fois que l’IA a été « raciste » ou a produit des résultats inexacts. Par exemple, en 2022, Apple (AAPL ) a été poursuivi pour allégations selon lesquelles le capteur d’oxygène du sang de l’Apple Watch était biaisé contre les personnes de couleur. Dans un autre cas signalé, les utilisateurs de Twitter ont constaté que l’IA de recadrage d’images automatique de Twitter favorisait les visages des personnes blanches par rapport aux personnes noires et aux femmes par rapport aux hommes. Ce sont des défis importants, et les relever est considérablement difficile.

Dans cet article, nous examinerons ce qu’est le biais d’IA, comment il affecte notre société et discuterons brièvement de la manière dont les praticiens peuvent atténuer ce biais pour relever des défis tels que les stéréotypes culturels.

Qu’est-ce que le biais d’IA ?

Le biais d’IA se produit lorsque les modèles d’IA produisent des résultats discriminatoires contre certaines démographies. Plusieurs types de biais peuvent pénétrer dans les systèmes d’IA et produire des résultats incorrects. Certains de ces biais d’IA sont :

• Biais stéréotypé : Le biais stéréotypé fait référence au phénomène dans lequel les résultats d’un modèle d’IA consistent en stéréotypes ou en notions perçues sur une démographie particulière.
• Biais racial : Le biais racial dans l’IA se produit lorsque le résultat d’un modèle d’IA est discriminatoire et injuste pour un individu ou un groupe en fonction de son ethnie ou de sa race.
• Biais culturel : Le biais culturel intervient lorsque les résultats d’un modèle d’IA favorisent une culture par rapport à une autre.

En plus des biais, d’autres problèmes peuvent également entraver les résultats d’un système d’IA, tels que :

• Inexactitudes : Les inexactitudes se produisent lorsque les résultats produits par un modèle d’IA sont incorrects en raison de données de formation incohérentes.
• Hallucinations : Les hallucinations se produisent lorsque les modèles d’IA produisent des résultats fictifs et faux qui ne sont pas basés sur des données factuelles.

L’impact du biais d’IA sur la société

L’impact du biais d’IA sur la société peut être néfaste. Les systèmes d’IA biaisés peuvent produire des résultats inexacts qui amplifient les préjugés déjà existants dans la société. Ces résultats peuvent accroître la discrimination et les violations des droits, affecter les processus d’embauche et réduire la confiance dans la technologie d’IA.

De plus, les résultats biaisés de l’IA mènent souvent à des prédictions inexacts qui peuvent avoir de graves conséquences pour les individus innocents. Par exemple, en août 2020, Robert McDaniel est devenu la cible d’un acte criminel en raison de l’algorithme de police prédictive du département de police de Chicago qui l’a étiqueté comme « personne d’intérêt ».

De même, les systèmes d’IA de santé biaisés peuvent avoir des conséquences graves pour les patients. En 2019, Science a découvert qu’un algorithme médical américain largement utilisé était biaisé contre les personnes de couleur, ce qui a conduit à ce que les patients noirs reçoivent moins de soins de gestion des risques élevés.

Barbies du monde

En juillet 2023, Buzzfeed a publié un blog composé de 194 barbies générées par l’IA de toutes les parties du monde. La publication est devenue virale sur Twitter. Bien que Buzzfeed ait écrit un avis de non-responsabilité, cela n’a pas empêché les internautes de pointer les inexactitudes raciales et culturelles. Par exemple, l’image de la Barbie allemande générée par l’IA portait l’uniforme d’un général de la SS.

De même, l’image de la Barbie du Soudan du Sud générée par l’IA était représentée en train de tenir un pistolet à ses côtés, reflétant les biais profondément ancrés dans les algorithmes d’IA.

En outre, plusieurs autres images ont montré des inexactitudes culturelles, telles que la Barbie du Qatar portant un ghutra, un couvre-chef traditionnel porté par les hommes arabes.

Ce billet de blog a reçu un énorme backlash pour les stéréotypes culturels et les biais. La London Interdisciplinary School (LIS) a qualifié cela de « préjudice représentationnel » qui doit être contrôlé en imposant des normes de qualité et en établissant des organes de surveillance de l’IA.

Limitations des modèles d’IA

L’IA a le potentiel de révolutionner de nombreuses industries. Mais si des scénarios comme ceux mentionnés ci-dessus se multiplient, cela peut conduire à une baisse de l’adoption générale de l’IA, entraînant des opportunités manquées. De tels cas se produisent généralement en raison de limitations importantes dans les systèmes d’IA, telles que :

• Manque de créativité : Puisque l’IA ne peut prendre des décisions que sur la base des données de formation données, elle manque de créativité pour penser en dehors des sentiers battus, ce qui entrave la résolution de problèmes créatifs.

• Manque de compréhension contextuelle : Les systèmes d’IA ont du mal à comprendre les nuances contextuelles ou les expressions linguistiques d’une région, ce qui conduit souvent à des erreurs dans les résultats.

• Biais de formation : L’IA repose sur des données historiques qui peuvent contenir toutes sortes d’échantillons discriminatoires. Lors de la formation, le modèle peut facilement apprendre des modèles discriminatoires pour produire des résultats biaisés et injustes.

Comment réduire les biais dans les modèles d’IA

Les experts estiment que d’ici 2026, 90 % du contenu en ligne pourrait être généré de manière synthétique. Il est donc essentiel de minimiser rapidement les problèmes présents dans les technologies d’IA générative.

Plusieurs stratégies clés peuvent être mises en œuvre pour réduire les biais dans les modèles d’IA. Certaines de ces stratégies sont :

• Assurer la qualité des données : L’ingestion de données complètes, exactes et propres dans un modèle d’IA peut aider à réduire les biais et à produire des résultats plus précis.
• Ensembles de données diversifiés : L’introduction d’ensembles de données diversifiés dans un système d’IA peut aider à atténuer les biais à mesure que le système d’IA devient plus inclusif avec le temps.

• Boucles de rétroaction : Avec une boucle de rétroaction et d’apprentissage constante, les modèles d’IA peuvent améliorer progressivement leurs résultats

• Augmentation de la réglementation : Les réglementations mondiales sur l’IA sont cruciales pour maintenir la qualité des systèmes d’IA à travers les frontières. Les organisations internationales doivent donc travailler ensemble pour assurer la normalisation de l’IA.

• Adoption accrue de l’IA responsable : Les stratégies d’IA responsable contribuent positivement à atténuer les biais d’IA, à cultiver l’équité et la précision dans les systèmes d’IA et à garantir qu’ils servent une base d’utilisateurs diversifiée tout en visant une amélioration continue.

En incorporant des ensembles de données diversifiés, la responsabilité éthique et des moyens de communication ouverts, nous pouvons nous assurer que l’IA est une source de changement positif dans le monde.

Si vous souhaitez en savoir plus sur les biais et le rôle de l’intelligence artificielle dans notre société, lisez les blogs suivants.

• Comment les villes déployer les technologies de pointe en utilisant des algorithmes d’IA non biaisés
• L’IA peut lutter contre les fausses informations et les biais dans les actualités
• Biais et équité des systèmes d’IA dans la lutte contre la criminalité financière
• Un contrôle de biais pour les articles de actualité en Python