Los LLM no son razonamiento — solo son muy buenos en la planificación

Los modelos de lenguaje grande (LLM) como OpenAI’s o3, Google’s Gemini 2.0 (GOOGL ), y DeepSeek’s R1 han mostrado un progreso notable en la resolución de problemas complejos, la generación de texto similar al humano y incluso la escritura de código con precisión. Estos LLM avanzados a menudo se denominan “modelos de razonamiento” por sus habilidades notables para analizar y resolver problemas complejos. Pero, ¿estos modelos realmente razonan, o simplemente son excepcionalmente buenos en planificar? Esta distinción es sutil pero profunda, y tiene implicaciones importantes para cómo entendemos las capacidades y limitaciones de los LLM.

Para entender esta distinción, comparemos dos escenarios:

• Razonamiento: Un detective que investiga un crimen debe unir pruebas contradictorias, deducir cuáles son falsas y llegar a una conclusión basada en pruebas limitadas. Este proceso implica inferencia, resolución de contradicciones y pensamiento abstracto.
• Planificación: Un jugador de ajedrez que calcula la mejor secuencia de movimientos para dar jaque mate a su oponente.

Aunque ambos procesos involucran varios pasos, el detective se involucra en un profundo razonamiento para hacer inferencias, evaluar contradicciones y aplicar principios generales a un caso específico. El jugador de ajedrez, por otro lado, se involucra principalmente en la planificación, seleccionando una secuencia óptima de movimientos para ganar el juego. Los LLM, como veremos, funcionan mucho más como el jugador de ajedrez que como el detective.

Entendiendo la diferencia: Razonamiento vs. Planificación

Para comprender por qué los LLM son buenos en la planificación en lugar de en el razonamiento, es importante entender primero la diferencia entre ambos términos. El razonamiento es el proceso de derivar nuevas conclusiones de premisas dadas utilizando la lógica y la inferencia. Implica identificar y corregir inconsistencias, generar nuevas ideas en lugar de simplemente proporcionar información, tomar decisiones en situaciones ambiguas y participar en la comprensión causal y el pensamiento contrafáctico, como los escenarios “¿Qué pasaría si?”.

La planificación, por otro lado, se centra en estructurar una secuencia de acciones para lograr un objetivo específico. Depende de descomponer tareas complejas en pasos más pequeños, seguir estrategias de resolución de problemas conocidas, adaptar patrones aprendidos anteriormente a problemas similares y ejecutar secuencias estructuradas en lugar de derivar nuevas ideas. Aunque tanto el razonamiento como la planificación involucran procesamiento paso a paso, el razonamiento requiere una mayor abstracción y inferencia, mientras que la planificación sigue procedimientos establecidos sin generar conocimiento fundamentalmente nuevo.

Cómo los LLM abordan el “razonamiento”

Los LLM modernos, como OpenAI’s o3 y DeepSeek-R1, están equipados con una técnica llamada Chain-of-Thought (CoT) para mejorar sus capacidades de resolución de problemas. Este método anima a los modelos a descomponer problemas en pasos intermedios, imitando la forma en que los humanos piensan en un problema de manera lógica. Para ver cómo funciona, consideremos un simple problema de matemáticas:

Si una tienda vende manzanas a $2 cada una, pero ofrece un descuento de $1 por manzana si se compran más de 5 manzanas, ¿cuánto costarían 7 manzanas?

Un LLM típico que utiliza CoT podría resolverlo de la siguiente manera:

1. Determinar el precio regular: 7 * $2 = $14.
2. Identificar que se aplica el descuento (ya que 7 > 5).
3. Calcular el descuento: 7 * $1 = $7.
4. Restar el descuento del total: $14 – $7 = $7.

Al presentar explícitamente una secuencia de pasos, el modelo minimiza la posibilidad de errores que surgen al intentar predecir una respuesta de una vez. Aunque este desglose paso a paso hace que los LLM parezcan razonar, es esencialmente una forma de resolución de problemas estructurada, similar a seguir una receta paso a paso. Por otro lado, un verdadero proceso de razonamiento podría reconocer una regla general: Si el descuento se aplica más allá de 5 manzanas, entonces cada manzana cuesta $1. Un humano puede inferir tal regla de inmediato, pero un LLM no puede, ya que simplemente sigue una secuencia estructurada de cálculos.

Por qué Chain-of-thought es planificación, no razonamiento

Aunque Chain-of-Thought (CoT) ha mejorado el desempeño de los LLM en tareas orientadas a la lógica, como problemas de palabras matemáticas y desafíos de codificación, no implica un verdadero razonamiento lógico. Esto se debe a que CoT sigue el conocimiento procedimental, dependiendo de pasos estructurados en lugar de generar nuevas ideas. Carece de una comprensión real de la causalidad y las relaciones abstractas, lo que significa que el modelo no participa en el pensamiento contrafáctico o considera situaciones hipotéticas que requieren intuición más allá de los datos vistos. Además, CoT no puede cambiar fundamentalmente su enfoque más allá de los patrones en los que se ha entrenado, limitando su capacidad para razonar creativamente o adaptarse en escenarios desconocidos.

Qué se necesitaría para que los LLM se conviertan en verdaderas máquinas de razonamiento

Entonces, ¿qué necesitan los LLM para razonar realmente como los humanos? Aquí hay algunas áreas clave donde requieren mejora y posibles enfoques para lograrlo:

1. Comprensión simbólica: Los humanos razonan manipulando símbolos y relaciones abstractas. Los LLM, sin embargo, carecen de un mecanismo de razonamiento simbólico genuino. Integrar la inteligencia artificial simbólica o modelos híbridos que combinan redes neuronales con sistemas de lógica formal podría mejorar su capacidad para participar en un verdadero razonamiento.
2. Inferencia causal: El verdadero razonamiento requiere comprender la causa y el efecto, no solo las correlaciones estadísticas. Un modelo que razone debe inferir principios subyacentes a partir de los datos, en lugar de simplemente predecir el siguiente token. La investigación en inteligencia artificial causal, que modela explícitamente las relaciones de causa y efecto, podría ayudar a los LLM a transitar de la planificación al razonamiento.
3. Auto-reflexión y Metacognición: Los humanos constantemente evalúan sus propios procesos de pensamiento preguntándose “¿Tiene sentido esta conclusión?” Los LLM, por otro lado, no tienen un mecanismo para la auto-reflexión. Construir modelos que puedan evaluar críticamente sus propias salidas sería un paso hacia el verdadero razonamiento.
4. Sentido común e intuición: Aunque los LLM tienen acceso a vastas cantidades de conocimiento, a menudo luchan con el razonamiento de sentido común. Esto sucede porque no tienen experiencias del mundo real para dar forma a su intuición, y no pueden reconocer fácilmente las absurdidades que los humanos detectarían de inmediato. También carecen de una forma de incorporar dinámicas del mundo real en su toma de decisiones. Una forma de mejorar esto podría ser construir un modelo con un motor de sentido común, que podría involucrar la integración de entrada sensorial del mundo real o el uso de grafos de conocimiento para ayudar al modelo a comprender el mundo de la manera que los humanos lo hacen.
5. Pensamiento contrafáctico: El razonamiento humano a menudo implica preguntar, “¿Qué pasaría si las cosas fueran diferentes?” Los LLM luchan con este tipo de escenarios “¿qué pasaría si” porque están limitados por los datos en los que se han entrenado. Para que los modelos piensen más como los humanos en estas situaciones, necesitarían simular escenarios hipotéticos y comprender cómo los cambios en las variables pueden afectar los resultados. También necesitarían una forma de probar diferentes posibilidades y generar nuevas ideas, en lugar de simplemente predecir basándose en lo que ya han visto. Sin estas capacidades, los LLM no pueden verdaderamente imaginar futuros alternativos; solo pueden trabajar con lo que han aprendido.

Conclusión

Aunque los LLM pueden parecer razonar, en realidad están confiando en técnicas de planificación para resolver problemas complejos. Ya sea resolviendo un problema de matemáticas o participando en deducción lógica, están organizando principalmente patrones conocidos de una manera estructurada en lugar de comprender profundamente los principios detrás de ellos. Esta distinción es crucial en la investigación de la IA porque, si confundimos una planificación sofisticada con un razonamiento genuino, corremos el riesgo de sobreestimar las verdaderas capacidades de la IA.

El camino hacia un verdadero razonamiento de la IA requerirá avances fundamentales más allá de la predicción de tokens y la planificación probabilística. Requerirá avances en lógica simbólica, comprensión causal y metacognición. Hasta entonces, los LLM permanecerán como herramientas poderosas para la resolución de problemas estructurados, pero no pensarán verdaderamente como los humanos.