Sesgo de IA y estereotipos culturales: efectos, limitaciones y mitigación

Inteligencia artificial (IA), en particular IA generativa, continúa superando las expectativas con su capacidad para comprender e imitar la cognición y la inteligencia humanas. Sin embargo, en muchos casos, los resultados o predicciones de los sistemas de IA pueden reflejar varios tipos de sesgos de la IA, como los culturales y raciales.

Buzzfeed “Barbies del mundoEl blog (que ahora está eliminado) manifiesta claramente estos prejuicios e inexactitudes culturales. Estas 'barbies' fueron creadas usando a mitad de camino – un generador de imágenes de IA líder, para descubrir cómo serían las Barbies en cada parte del mundo. Hablaremos más sobre esto más adelante.

Pero esta no es la primera vez que la IA ha sido “racista” o ha producido resultados inexactos. Por ejemplo, en 2022, Apple fue demandado por acusaciones de que el sensor de oxígeno en sangre del Apple Watch estaba sesgado contra las personas de color. En otro caso reportado, los usuarios de Twitter descubrieron que La IA de recorte automático de imágenes de Twitter favoreció los rostros de los blancos sobre los negros y de las mujeres sobre los hombres. Estos son desafíos críticos y abordarlos es un desafío significativo.

En este artículo, veremos qué es el sesgo de la IA, cómo afecta a nuestra sociedad y discutiremos brevemente cómo los profesionales pueden mitigar para abordar desafíos como los estereotipos culturales.

¿Qué es el sesgo de la IA?

El sesgo de la IA ocurre cuando los modelos de IA producen resultados discriminatorios contra ciertos datos demográficos. Varios tipos de sesgos pueden ingresar a los sistemas de inteligencia artificial y producir resultados incorrectos. Algunos de estos sesgos de la IA son:

• Sesgo estereotipado: El sesgo estereotipado se refiere al fenómeno en el que los resultados de un modelo de IA consisten en estereotipos o nociones percibidas sobre un determinado grupo demográfico.
• Sesgo racial: El sesgo racial en la IA ocurre cuando el resultado de un modelo de IA es discriminatorio e injusto para un individuo o grupo en función de su origen étnico o raza.
• Sesgo cultural: El sesgo cultural entra en juego cuando los resultados de un modelo de IA favorecen a una determinada cultura sobre otra.

Además de los sesgos, otras cuestiones también pueden obstaculizar los resultados de un sistema de IA, como por ejemplo:

• Imprecisiones: Las imprecisiones ocurren cuando los resultados producidos por un modelo de IA son incorrectos debido a datos de entrenamiento inconsistentes.
• Alucinaciones: Las alucinaciones ocurren cuando los modelos de IA producen resultados ficticios y falsos que no se basan en datos reales.

El impacto del sesgo de la IA en la sociedad

El impacto del sesgo de la IA en la sociedad puede ser perjudicial. Los sistemas de IA sesgados pueden producir resultados inexactos que amplifican los prejuicios que ya existen en la sociedad. Estos resultados pueden aumentar la discriminación y las violaciones de derechos, afectar los procesos de contratación y reducir la confianza en la tecnología de inteligencia artificial.

Además, los resultados sesgados de la IA a menudo conducen a predicciones inexactas que pueden tener graves consecuencias para personas inocentes. Por ejemplo, en agosto de 2020, Roberto McDaniel se convirtió en el objetivo de un acto criminal debido a que el algoritmo policial predictivo del Departamento de Policía de Chicago lo etiquetó como una "persona de interés".

De manera similar, los sistemas de IA de atención médica sesgados pueden tener resultados graves para los pacientes. En 2019, Ciencia: descubrió que un método ampliamente utilizado Algoritmo médico estadounidense tenía prejuicios raciales contra las personas de color, lo que llevó a que los pacientes negros recibieran menos atención de alto riesgo.

Barbies del mundo

En julio 2023, Buzzfeed publicó un blog compuesto por 194 Barbies generadas por IA de todo el mundo. La publicación se volvió viral en Twitter. Aunque Buzzfeed escribió una declaración de descargo de responsabilidad, eso no impidió que los internautas señalaran las inexactitudes raciales y culturales. Por ejemplo, la imagen generada por IA de la Barbie alemana vestía el uniforme de una Nazis de las SS general.

De manera similar, la imagen generada por IA de una Barbie de Sudán del Sur se mostró sosteniendo un arma a su costado, lo que refleja el sesgo profundamente arraigado en los algoritmos de IA.

Aparte de esto, varias otras imágenes mostraban inexactitudes culturales, como la Barbie de Qatar con un Gutra, un tocado tradicional usado por los hombres árabes.

Esta publicación de blog recibió una reacción masiva por los estereotipos y prejuicios culturales. El Escuela Interdisciplinaria de Londres (LIS) llamado a esto daño representacional eso debe mantenerse bajo control imponiendo estándares de calidad y estableciendo órganos de supervisión de la IA.

Limitaciones de los modelos de IA

La IA tiene el potencial de revolucionar muchas industrias. Pero, si proliferan escenarios como los mencionados anteriormente, puede provocar una caída en la adopción general de la IA, lo que resultará en oportunidades perdidas. Estos casos suelen ocurrir debido a limitaciones importantes en los sistemas de IA, como:

• Falta de creatividad: Dado que la IA sólo puede tomar decisiones basadas en los datos de entrenamiento proporcionados, carece de creatividad para pensar de manera innovadora, lo que dificulta la resolución creativa de problemas.

• Falta de comprensión contextual: Los sistemas de IA enfrentan dificultades para comprender los matices contextuales o las expresiones lingüísticas de una región, lo que a menudo genera errores en los resultados.

• Sesgo de entrenamiento: La IA se basa en datos históricos que pueden contener todo tipo de muestras discriminatorias. Durante el entrenamiento, el modelo puede aprender fácilmente patrones discriminatorios para producir resultados injustos y sesgados.

Cómo reducir el sesgo en los modelos de IA

Expertos estimación que para 2026, el 90% del contenido en línea podría generarse sintéticamente. Por lo tanto, es vital minimizar rápidamente los problemas presentes en las tecnologías de IA generativa.

Se pueden implementar varias estrategias clave para reducir el sesgo en los modelos de IA. Algunos de estos son:

• Garantice la calidad de los datos: La incorporación de datos completos, precisos y limpios en un modelo de IA puede ayudar a reducir el sesgo y producir resultados más precisos.
• Diversos conjuntos de datos: La introducción de diversos conjuntos de datos en un sistema de IA puede ayudar a mitigar el sesgo a medida que el sistema de IA se vuelve más inclusivo con el tiempo.

• Circuitos de retroalimentacion: Con una constante bucle de retroalimentación y aprendizaje, Los modelos de IA pueden mejorar gradualmente sus resultados.

• Regulaciones aumentadas: Las regulaciones globales de IA son cruciales para mantener la calidad de los sistemas de IA a través de las fronteras. Por lo tanto, las organizaciones internacionales deben trabajar juntas para garantizar la estandarización de la IA.

• Mayor adopción de IA responsable: Las estrategias de IA responsable contribuyen positivamente a mitigar el sesgo de la IA, cultivar la equidad y la precisión en los sistemas de IA y garantizar que sirvan a una base de usuarios diversa mientras se esfuerzan por lograr una mejora continua.

Al incorporar diversos conjuntos de datos, responsabilidad ética y medios de comunicación abiertos, podemos garantizar que la IA sea una fuente de cambios positivos en todo el mundo.

Si quieres aprender más sobre los prejuicios y el papel de la Inteligencia Artificial en nuestra sociedad, lee los siguientes blogs.

• Cómo las ciudades están implementando tecnologías líderes aprovechando algoritmos de IA imparciales
• AI puede combatir la desinformación y el sesgo en las noticias
• Sesgo y equidad de los sistemas basados ​​en IA dentro del crimen financiero
• Un verificador de sesgo impulsado por IA para artículos de noticias, disponible en Python