Si tu empleado actuara como una IA, ya lo habrías despedido

Imagina que acabas de contratar a alguien nuevo y, la mayor parte de los días, es eficiente, conocedor, articulado y seguro de sí mismo. Es todo lo que esperabas, demostrando muchas de las cualidades de un gran empleado.

Ahora imagina que, de vez en cuando, al enfrentarse a una pregunta cuya respuesta no conocen, simplemente inventan algo. Es fluido, convincente, así que al principio lo tomas al pie de la letra. Pero cuando tiene consecuencias para el negocio, vuelves al empleado, lo desafías, y no puede explicar su proceso de pensamiento ni compartir sus razonamientos. Incluso podrías explicarle que está equivocado, y recibirás una insistencia en lo contrario y más fabricaciones para intentar respaldarlo. Después de la segunda o tercera vez que ocurre, ¿probablemente lo habrías despedido, o al menos le habrías dado una advertencia? La respuesta para la mayoría de los empleadores es casi definitivamente sí.

Me parece desconcertante que las empresas entreguen ahora flujos de trabajo críticos y la toma de decisiones a un ‘empleado’ que se sabe que muestra este comportamiento exacto. La única razón por la que pasa desapercibido es porque este ‘empleado’ es software y no una persona.

Por qué la IA no falla como lo hacen las personas

Existe una suposición común e incorrecta entre las empresas que implementan IA: que si la tecnología tiene una tasa de error, es prácticamente el mismo problema que el error humano y puede gestionarse de la misma manera. Pero los controles, revisiones y escaladas no siempre funcionan con los grandes modelos de lenguaje (LLM). Están diseñados para sonar como humanos, pero si miras lo que hay bajo el capó, verás que no operan como nosotros en absoluto.

Si un empleado estrella comete un error, asumiríamos que el error fue honesto: estaba dando lo mejor de sí y se equivocó. Sucede. Si deliberadamente inventa una respuesta para evadir no saber algo, y lo hace de forma repetida, lo veríamos como una falta. Los gerentes saben dónde centrar su supervisión, porque la dificultad y los márgenes de error coinciden. Pueden pedir al empleado que explique su razonamiento y cuestionarlo al respecto. El empleado suele saber cuándo está fuera de su alcance y lo dice. Y después de un error, aprende, de modo que el mismo error no se repite en un ciclo constante.

Los sistemas de IA invierten cada una de estas suposiciones. Su respuesta predeterminada al fracaso es una invención fluida y segura. Producirán una respuesta plausible que simplemente no es cierta, lo cual es el comportamiento exacto que acabaría con una carrera humana. Los LLM están diseñados para producir la continuación estadísticamente más probable de un fragmento de texto, y cuando no conocen la respuesta, con frecuencia generan algo que suena como si pudiera ser correcto de todos modos. Los propios investigadores de OpenAI han reconocido que algún nivel de error factual es una inevitabilidad estadística de cómo funcionan estos modelos, y que el entrenamiento premia una conjetura segura sobre una admisión honesta de incertidumbre.

Dónde entran los enfoques neuro-simbólicos

Esto es precisamente lo que enfoques neuro-simbólicos están diseñados para corregir. Emparejan redes neuronales, que son excelentes para comprender lenguaje y datos del mundo real desordenados, con razonamiento determinista basado en reglas. Esto significa que las conclusiones de un sistema se derivan de una lógica explícita que puede inspeccionarse, en lugar de emerger de un proceso que nadie puede ver dentro de él.

Sin esta capa adicional de lógica que proporciona la tecnología neuro-simbólica, los errores de la IA no se correlacionan con la dificultad del trabajo como ocurre con los de una persona: son impredecibles. Pueden aparecer en tareas triviales mientras que las difíciles se completan sin problemas, lo que dificulta discernir dónde centrar mejor la supervisión humana. Sus explicaciones, cuando se ofrecen, se generan después del hecho en lugar de proporcionar una cuenta verdadera de cómo llegaron a una conclusión. Este mismo error puede repetirse indefinidamente, porque no hay nadie dentro del sistema que aprenda de él o que sea responsable.

Confianza sin comprensión

Los investigadores han documentado que cuando las personas son nuevas en un sistema, tienden a abandonarlo después de un solo error visible; pero cuando es familiar, tienden al extremo opuesto – aceptar sus resultados simplemente porque se han acostumbrado a ellos, no porque esos resultados se hayan vuelto más fiables. Lo que rara vez se ve es el nivel adecuado de confianza, porque eso depende de que la gente entienda cuándo es probable que un sistema de IA esté equivocado y pueda reconocerlo.

Eso no significa que la IA no deba ser confiada con trabajo importante. Significa que hemos estado dispuestos a otorgarle un tipo de confianza que no le daríamos a una persona, en parte porque no hay un individuo evidente al que responsabilizar cuando falla.

Si la IA va a asumir trabajos basados en juicios de la misma forma que lo haría un colega valioso, necesita cumplir los mismos estándares básicos. Las respuestas deben ser verificables, con razonamiento visible, y aceptar el hecho de que a veces, lo mejor que puede hacer es decir “No lo sé”.