Detener a la IA para que deje de contar historias: Una guía para prevenir alucinaciones

La IA está revolucionando la forma en que opera casi todas las industrias. Está haciéndonos más eficientes, más productivos y, cuando se implementa correctamente, mejores en nuestros trabajos en general. Pero a medida que nuestra dependencia de esta tecnología novedosa aumenta rápidamente, debemos recordar un simple hecho: la IA no es infalible. Sus salidas no deben tomarse como un valor absoluto porque, al igual que los humanos, la IA puede cometer errores.

Llamamos a estos errores “alucinaciones de la IA”. Estos errores van desde responder incorrectamente a un problema de matemáticas hasta proporcionar información inexacta sobre políticas gubernamentales. En industrias altamente reguladas, las alucinaciones pueden llevar a multas costosas y problemas legales, sin mencionar a los clientes insatisfechos.

La frecuencia de las alucinaciones de la IA debería ser, por lo tanto, una causa de preocupación: se estima que los modelos de lenguaje grande (LLM) modernos alucinan en cualquier lugar desde el 1% hasta el 30% del tiempo. Esto resulta en cientos de respuestas falsas generadas a diario, lo que significa que las empresas que buscan aprovechar esta tecnología deben ser extremadamente selectivas al elegir qué herramientas implementar.

Exploraremos por qué ocurren las alucinaciones de la IA, qué está en juego y cómo podemos identificarlas y corregirlas.

Basura dentro, basura fuera

¿Recuerdas jugar al juego “teléfono” de niño? ¿Cómo la frase inicial se distorsionaba a medida que pasaba de jugador a jugador, resultando en una declaración completamente diferente para cuando llegaba al final del círculo?

La forma en que la IA aprende de sus entradas es similar. Las respuestas que generan los LLM son tan buenas como la información que se les proporciona, lo que significa que el contexto incorrecto puede llevar a la generación y difusión de información falsa. Si un sistema de IA se construye con datos que son inexactos, desactualizados o sesgados, entonces sus salidas reflejarán eso.

Así, un LLM es tan bueno como sus entradas, especialmente cuando hay una falta de intervención o supervisión humana. A medida que más soluciones de IA autónomas proliferan, es fundamental que proporcione herramientas con el contexto de datos correcto para evitar causar alucinaciones. Necesitamos un entrenamiento riguroso de estos datos y/o la capacidad de guiar a los LLM para que respondan solo desde el contexto que se les proporciona, en lugar de extraer información de cualquier lugar de Internet.

¿Por qué importan las alucinaciones?

Para las empresas que se enfrentan a los clientes, la precisión es todo. Si los empleados confían en la IA para tareas como sintetizar datos de clientes o responder a consultas de clientes, necesitan confiar en que las respuestas que generan estas herramientas son precisas.

De lo contrario, las empresas corren el riesgo de dañar su reputación y lealtad del cliente. Si los clientes reciben respuestas insuficientes o falsas de un chatbot, o si se les deja esperando mientras los empleados verifican las salidas del chatbot, pueden llevar su negocio a otro lugar. La gente no debería preocuparse por si las empresas con las que interactúan les están proporcionando información falsa: quieren un apoyo rápido y confiable, lo que significa que obtener estas interacciones correctas es de la máxima importancia.

Los líderes empresariales deben hacer su debida diligencia al seleccionar la herramienta de IA adecuada para sus empleados. La IA debería liberar tiempo y energía para que el personal se concentre en tareas de mayor valor; invertir en un chatbot que requiere una constante supervisión humana derrota el propósito de la adopción. Pero, ¿son realmente tan prominentes las alucinaciones o es el término simplemente sobreutilizado para identificar cualquier respuesta que asumimos que es incorrecta?

Combatiendo las alucinaciones de la IA

Considera: Teoría del significado dinámico (DMT), el concepto de que se intercambian una comprensión entre dos personas – en este caso, el usuario y la IA. Pero, las limitaciones del lenguaje y el conocimiento de los sujetos causan una falta de alineación en la interpretación de la respuesta.

En el caso de las respuestas generadas por la IA, es posible que los algoritmos subyacentes no estén aún completamente equipados para interpretar o generar texto de manera que se alinee con las expectativas que tenemos como humanos. Esta discrepancia puede llevar a respuestas que pueden parecer precisas en la superficie pero que en última instancia carecen de la profundidad o la sutileza necesarias para una comprensión real.

Además, la mayoría de los LLM de propósito general extraen información solo de contenido que está disponible públicamente en Internet. Las aplicaciones empresariales de la IA funcionan mejor cuando están informadas por datos y políticas específicos de industrias y empresas individuales. Los modelos también se pueden mejorar con retroalimentación humana directa – particularmente soluciones agénticas que están diseñadas para responder al tono y la sintaxis.

Dichas herramientas también deben someterse a pruebas rigurosas antes de que se vuelvan accesibles al consumidor. Esto es una parte crítica de prevenir las alucinaciones de la IA. Todo el flujo debe probarse utilizando conversaciones basadas en turnos con el LLM interpretando el papel de una persona. Esto permite a las empresas asumir mejor el éxito general de las conversaciones con un modelo de IA antes de lanzarlo al mundo.

Es esencial que tanto los desarrolladores como los usuarios de la tecnología de IA permanezcan conscientes de la teoría del significado dinámico en las respuestas que reciben, así como de la dinámica del lenguaje que se utiliza en la entrada. Recuerda, el contexto es clave. Y, como humanos, la mayoría de nuestro contexto se entiende a través de medios no dichos, ya sea a través del lenguaje corporal, las tendencias sociales – incluso nuestro tono. Como humanos, tenemos el potencial de alucinar en respuesta a preguntas. Pero, en nuestra iteración actual de la IA, nuestra comprensión humana a humana no se contextualiza tan fácilmente, por lo que debemos ser más críticos con el contexto que proporcionamos al escribir.

Basta decir que no todos los modelos de IA son creados iguales. A medida que la tecnología se desarrolla para completar tareas cada vez más complejas, es crucial que las empresas que buscan implementarlas identifiquen herramientas que mejorarán las interacciones y experiencias del cliente en lugar de restarles valor.

La carga no recae solo en los proveedores de soluciones para asegurarse de que han hecho todo lo posible para minimizar la posibilidad de que ocurran alucinaciones. Los compradores potenciales también tienen su papel que desempeñar. Al priorizar soluciones que se han entrenado y probado rigurosamente y que pueden aprender de datos propietarios (en lugar de cualquier cosa y todo en Internet), las empresas pueden aprovechar al máximo sus inversiones en IA para preparar a los empleados y a los clientes para el éxito.