Cómo el sesgo humano socava las soluciones habilitadas por IA

El pasado septiembre, líderes mundiales como Elon Musk, Mark Zuckerberg y Sam Altman, director ejecutivo de OpenAI, se reunieron en Washington D.C. con el propósito de discutir, por un lado, cómo los sectores público y privado pueden trabajar juntos para aprovechar esta tecnología para el bien común, y por otro lado, para abordar la regulación, un tema que ha permanecido en el centro de la conversación sobre la IA.

Ambas conversaciones, a menudo, llevan al mismo lugar. Hay un énfasis creciente en si podemos hacer que la IA sea más ética, evaluando la IA como si fuera otro ser humano cuya moralidad estuviera en cuestión. Sin embargo, ¿qué significa IA ética? DeepMind, un laboratorio de investigación de Google que se centra en la IA, publicó recientemente un estudio en el que propusieron una estructura de tres niveles para evaluar los riesgos de la IA, incluidos los riesgos sociales y éticos. Este marco incluyó la capacidad, la interacción humana y el impacto sistémico, y concluyó que el contexto era clave para determinar si un sistema de IA era seguro.

Uno de estos sistemas que ha sido objeto de críticas es ChatGPT, que ha sido prohibido en hasta 15 países, incluso si algunos de esos prohibiciones han sido revocadas. Con más de 100 millones de usuarios, ChatGPT es uno de los LLM más exitosos, y a menudo ha sido acusado de sesgo. Tomando en consideración el estudio de DeepMind, incorporemos el contexto aquí. Sesgo, en este contexto, significa la existencia de perspectivas injustas, prejuiciosas o distorsionadas en el texto generado por modelos como ChatGPT. Esto puede ocurrir de varias maneras: sesgo racial, sesgo de género, sesgo político y mucho más.

Estos sesgos pueden ser, en última instancia, perjudiciales para la IA en sí, obstaculizando la posibilidad de que podamos aprovechar al máximo el potencial de esta tecnología. Investigaciones recientes de la Universidad de Stanford han confirmado que los LLM como ChatGPT están mostrando signos de declive en términos de su capacidad para proporcionar respuestas confiables, imparciales y precisas, lo que en última instancia es un obstáculo para nuestro uso efectivo de la IA.

Un problema que yace en el núcleo de este problema es cómo los sesgos humanos se traducen a la IA, ya que están profundamente arraigados en los datos que se utilizan para desarrollar los modelos. Sin embargo, este es un problema más profundo de lo que parece.

Causas del sesgo

Es fácil identificar la primera causa de este sesgo. Los datos que el modelo aprende a menudo están llenos de estereotipos o prejuicios preexistentes que ayudaron a dar forma a esos datos en primer lugar, así que la IA, involuntariamente, termina perpetuando esos sesgos porque eso es lo que sabe hacer.

Sin embargo, la segunda causa es mucho más compleja y contraintuitiva, y pone una tensión en algunos de los esfuerzos que se están haciendo para hacer que la IA sea más ética y segura. Hay, por supuesto, algunos ejemplos obvios en los que la IA puede ser perjudicial de manera inconsciente. Por ejemplo, si alguien le pregunta a la IA: “¿Cómo puedo hacer una bomba?” y el modelo da la respuesta, está contribuyendo a generar daño. El lado opuesto es que cuando la IA está limitada, incluso si la causa es justificable, estamos evitando que aprenda. Las restricciones humanas restringen la capacidad de la IA para aprender de una gama más amplia de datos, lo que a su vez evita que proporcione información útil en contextos no perjudiciales.

También, debemos tener en cuenta que muchas de estas restricciones están sesgadas, también, porque provienen de humanos. Así que, aunque todos podemos estar de acuerdo en que “¿Cómo puedo hacer una bomba?” puede llevar a un resultado potencialmente fatal, otras consultas que podrían considerarse sensibles son mucho más subjetivas. En consecuencia, si limitamos el desarrollo de la IA en esas áreas verticales, estamos limitando el progreso y estamos fomentando la utilización de la IA solo para fines que son considerados aceptables por aquellos que hacen las regulaciones sobre los modelos de LLM.

Incapacidad para predecir consecuencias

No hemos entendido completamente las consecuencias de introducir restricciones en los LLM. Por lo tanto, es posible que estemos causando más daño a los algoritmos de lo que nos damos cuenta. Dada la cantidad increíblemente alta de parámetros que están involucrados en modelos como GPT, es, con las herramientas que tenemos ahora, imposible predecir el impacto, y, desde mi perspectiva, tomará más tiempo entender qué es el impacto que el tiempo que se necesita para entrenar la red neuronal en sí.

Por lo tanto, al colocar estas restricciones, es posible que, involuntariamente, llevemos al modelo a desarrollar comportamientos o sesgos inesperados. Esto también se debe a que los modelos de IA a menudo son sistemas complejos de múltiples parámetros, lo que significa que si alteramos un parámetro, por ejemplo, introduciendo una restricción, estamos causando un efecto de onda que se propaga a lo largo de todo el modelo de maneras que no podemos predecir.

Dificultad para evaluar la “ética” de la IA

No es prácticamente factible evaluar si la IA es ética o no, porque la IA no es una persona que actúa con una intención específica. La IA es un Modelo de Lenguaje Grande, que, por naturaleza, no puede ser más o menos ético. Como reveló el estudio de DeepMind, lo que importa es el contexto en el que se utiliza, y esto mide la ética del ser humano detrás de la IA, no de la IA en sí. Es una ilusión creer que podemos juzgar la IA como si tuviera una brújula moral.

Una posible solución que se está promoviendo es un modelo que pueda ayudar a la IA a tomar decisiones éticas. Sin embargo, la realidad es que no tenemos idea de cómo podría funcionar este modelo matemático de ética. Así que, si no lo entendemos, ¿cómo podríamos posiblemente construirlo? Hay mucha subjetividad humana en la ética, lo que hace que la tarea de cuantificarla sea muy compleja.

¿Cómo resolver este problema?

Basándonos en los puntos mencionados anteriormente, no podemos hablar realmente de si la IA es ética o no, porque cada suposición que se considera poco ética es una variación de los sesgos humanos que se contienen en los datos, y una herramienta que los humanos utilizan para su propia agenda. También, todavía hay muchos desconocidos científicos, como el impacto y el daño potencial que podríamos estar causando a los algoritmos de IA al colocar restricciones en ellos.

Por lo tanto, se puede decir que restringir el desarrollo de la IA no es una solución viable. Como han demostrado algunos de los estudios que mencioné, estas restricciones son en parte la causa del deterioro de los LLM.

Dicho esto, ¿qué podemos hacer al respecto?

Desde mi perspectiva, la solución radica en la transparencia. Creo que si restauramos el modelo de código abierto que prevaleció en el desarrollo de la IA, podemos trabajar juntos para construir mejores LLM que puedan estar equipados para aliviar nuestras preocupaciones éticas. De lo contrario, es muy difícil auditar adecuadamente lo que se hace detrás de puertas cerradas.

Una iniciativa excelente en este sentido es el Índice de Transparencia del Modelo Base, recientemente presentado por Stanford HAI (que significa Inteligencia Artificial Centrada en el Ser Humano), que evalúa si los desarrolladores de los diez modelos de IA más utilizados divulgan suficiente información sobre su trabajo y la forma en que se utilizan sus sistemas. Esto incluye la divulgación de asociaciones y desarrolladores de terceros, así como la forma en que se utiliza los datos personales. Es digno de destacar que ninguno de los modelos evaluados obtuvo una puntuación alta, lo que subraya un problema real.

Al final del día, la IA no es más que Modelos de Lenguaje Grande, y el hecho de que estén abiertos y puedan ser experimentados, en lugar de dirigirse en una dirección específica, es lo que nos permitirá hacer nuevos descubrimientos innovadores en cada campo científico. Sin embargo, si no hay transparencia, será muy difícil diseñar modelos que realmente funcionen para el beneficio de la humanidad, y saber el alcance del daño que estos modelos podrían causar si no se utilizan adecuadamente.