Desenmascarando el sesgo en la inteligencia artificial: desafíos y soluciones

El reciente avance de la inteligencia artificial generativa ha visto un acompañamiento en la expansión de aplicaciones empresariales en diversas industrias, incluyendo finanzas, salud, transporte. El desarrollo de esta tecnología también conducirá a otras tecnologías emergentes como tecnologías de defensa cibernética, avances en computación cuántica y técnicas de comunicación inalámbrica de vanguardia. Sin embargo, esta explosión de tecnologías de próxima generación viene con su propio conjunto de desafíos.

Por ejemplo, la adopción de la inteligencia artificial puede permitir ataques cibernéticos más sofisticados, cuellos de botella de memoria y almacenamiento debido al aumento de la potencia de cálculo y preocupaciones éticas sobre los sesgos presentados por los modelos de inteligencia artificial. La buena noticia es que NTT Research ha propuesto una forma de superar el sesgo en las redes neuronales profundas (DNN), un tipo de inteligencia artificial.

Esta investigación es un avance significativo dado que los modelos de inteligencia artificial no sesgados contribuirán a la contratación, el sistema de justicia penal y la salud cuando no estén influenciados por características como la raza, el género. En el futuro, la discriminación tiene el potencial de ser eliminada mediante el uso de estos sistemas automatizados, mejorando así las iniciativas empresariales de diversidad y inclusión en toda la industria. Por último, los modelos de inteligencia artificial con resultados no sesgados mejorarán la productividad y reducirán el tiempo que se tarda en completar estas tareas. Sin embargo, pocas empresas han sido obligadas a detener sus programas generados por inteligencia artificial debido a las soluciones sesgadas de la tecnología.

Por ejemplo, Amazon descontinuó el uso de un algoritmo de contratación cuando descubrió que el algoritmo exhibía una preferencia por los solicitantes que usaban palabras como “ejecutado” o “capturado” con más frecuencia, que eran más comunes en los currículos de los hombres. Otro ejemplo flagrante de sesgo proviene de Joy Buolamwini, una de las personas más influyentes en la inteligencia artificial en 2023 según TIME, en colaboración con Timnit Gebru en MIT, que reveló que las tecnologías de análisis facial demostraron tasas de error más altas al evaluar a las minorías, particularmente a las mujeres minoritarias, potencialmente debido a datos de entrenamiento inadequadamente representativos.

Recientemente, las DNN se han vuelto omnipresentes en la ciencia, la ingeniería y los negocios, e incluso en aplicaciones populares, pero a veces dependen de atributos espurios que pueden transmitir sesgo. Según un estudio de MIT en los últimos años, los científicos han desarrollado redes neuronales profundas capaces de analizar vastas cantidades de entradas, incluyendo sonidos e imágenes. Estas redes pueden identificar características compartidas, lo que les permite clasificar palabras o objetos objetivo. Actualmente, estos modelos están a la vanguardia del campo como los modelos primarios para replicar los sistemas sensoriales biológicos.

El científico senior de NTT Research y asociado del Centro de Ciencia del Cerebro de la Universidad de Harvard, Hidenori Tanaka, y tres otros científicos propusieron superar las limitaciones del ajuste fino ingenuo, el método de estado actual para reducir los errores o “pérdidas” de una DNN, con un nuevo algoritmo que reduce la dependencia de un modelo en atributos propensos a sesgo.

Estudiaron los paisajes de pérdida de las redes neuronales a través de la lente de la conectividad de modos, la observación de que los minimizadores de las redes neuronales recuperados a través del entrenamiento en un conjunto de datos están conectados a través de caminos simples de baja pérdida. En particular, se preguntaron lo siguiente: ¿están los minimizadores que dependen de diferentes mecanismos para hacer sus predicciones conectados a través de caminos simples de baja pérdida?

Descubrieron que el ajuste fino ingenuo no puede alterar fundamentalmente el mecanismo de toma de decisiones de un modelo, ya que requiere moverse a un valle diferente en el paisaje de pérdida. En cambio, es necesario impulsar el modelo sobre las barreras que separan los “sumideros” o “valles” de baja pérdida. Los autores llaman a este algoritmo correctivo Ajuste fino basado en conectividad (CBFT).

Antes de este desarrollo, una DNN, que clasifica imágenes como un pez (una ilustración utilizada en este estudio), utilizaba tanto la forma del objeto como el fondo como parámetros de entrada para la predicción. Sus caminos de minimización de pérdida operarían, por lo tanto, en modos mecanísticamente disímiles: uno que depende del atributo legítimo de la forma y otro del atributo espurio del color de fondo. Como tal, estos modos carecerían de conectividad lineal, o un camino simple de baja pérdida.

El equipo de investigación comprende la lente mecanística sobre la conectividad de modos considerando dos conjuntos de parámetros que minimizan la pérdida utilizando fondos y formas de objetos como los atributos de entrada para la predicción, respectivamente. Y luego se preguntaron, ¿están los minimizadores mecanísticamente disímiles conectados a través de caminos de baja pérdida en el paisaje? ¿La disimilitud de estos mecanismos afecta la simplicidad de sus caminos de conectividad? ¿Podemos explotar esta conectividad para cambiar entre minimizadores que utilizan nuestros mecanismos deseados?

En otras palabras, las redes neuronales profundas, dependiendo de lo que hayan recogido durante el entrenamiento en un conjunto de datos particular, pueden comportarse muy diferente cuando se les prueba en otro conjunto de datos. La propuesta del equipo se redujo al concepto de similitudes compartidas. Se basa en la idea anterior de conectividad de modos, pero con un giro – considera cómo funcionan los mecanismos similares. Su investigación condujo a los siguientes descubrimientos reveladores:

• los minimizadores que tienen mecanismos diferentes pueden estar conectados de una manera compleja y no lineal
• cuando dos minimizadores están conectados linealmente, está estrechamente relacionado con lo similares que son sus modelos en términos de mecanismos
• el ajuste fino simple puede no ser suficiente para eliminar las características no deseadas recogidas durante el entrenamiento anterior
• si se encuentran regiones que están linealmente desconectadas en el paisaje, se pueden hacer cambios eficientes en el funcionamiento interno de un modelo.

Aunque esta investigación es un gran paso en la explotación del potencial total de la inteligencia artificial, las preocupaciones éticas alrededor de la inteligencia artificial pueden seguir siendo una batalla cuesta arriba. Los tecnólogos y los investigadores están trabajando para combatir otras debilidades éticas en la inteligencia artificial y otros grandes modelos de lenguaje, como la privacidad, la autonomía y la responsabilidad.

La inteligencia artificial se puede utilizar para recopilar y procesar grandes cantidades de datos personales. El uso no autorizado o poco ético de estos datos puede comprometer la privacidad de las personas, lo que genera preocupaciones sobre la vigilancia, las violaciones de datos y el robo de identidad. La inteligencia artificial también puede suponer una amenaza cuando se trata de la responsabilidad de sus aplicaciones autónomas, como los coches autónomos. Establecer marcos legales y estándares éticos para la responsabilidad y la rendición de cuentas será esencial en los próximos años.

En conclusión, el crecimiento rápido de la tecnología de inteligencia artificial generativa tiene un gran potencial para diversas industrias, desde las finanzas y la salud hasta el transporte. A pesar de estos desarrollos prometedores, las preocupaciones éticas que rodean a la inteligencia artificial siguen siendo sustanciales. A medida que navegamos por esta era transformadora de la inteligencia artificial, es vital que los tecnólogos, los investigadores y los responsables de las políticas trabajen juntos para establecer marcos legales y estándares éticos que garanticen el uso responsable y beneficioso de la tecnología de inteligencia artificial en los años venideros. Los científicos de NTT Research y la Universidad de Michigan están un paso adelante en el juego con su propuesta para un algoritmo que podría potencialmente eliminar los sesgos en la inteligencia artificial.