Alineado con la tarea vs. alineado con el ser humano: Por qué el próximo punto de referencia de la IA debería ser nosotros

Cada pocos meses, llega un nuevo modelo y revuelve las clasificaciones de IA. Según el Informe AI Index 2026, los modelos de frontera ganaron aproximadamente 30 puntos porcentuales en un solo año en el Examen Último de la Humanidad, un punto de referencia creado específicamente para ser difícil para la IA. Saltos que antes tomaban años ahora ocurren en cuestión de meses, y la industria trata cada nueva puntuación alta como prueba de que la IA está mejorando.

No discuto el progreso. Estos sistemas son notables en lo que fueron diseñados para hacer. Pero pasé casi dos décadas en psicología antes de pasar a la IA, y sigo volviendo a una pregunta que ninguno de estos puntos de referencia responde. ¿Exactamente en qué están mejorando los modelos y para quién? Un modelo puede encabezar todas las tablas de clasificación basadas en precisión que existen y, aun así, dejar a la persona que lo usa en peor situación en algunos aspectos. No hay una prueba que mida el impacto de la IA en los usuarios, y eso merece más atención.

Dos tipos diferentes de alineación

La industria de la IA habla constantemente de alineación, pero la conversación suele girar en torno a si el modelo sigue las instrucciones con precisión o si produce contenido dañino. Esto es IA alineada con la tarea. Está optimizada para completar la solicitud que tiene delante, de manera correcta y eficiente.

Sin embargo, hay otra forma de abordar la alineación y proteger a las personas. La IA alineada con el ser humano evalúa lo que una interacción hace a la persona al otro lado de la pantalla una vez que termina. ¿Se aleja más capaz de manejar la siguiente decisión difícil por sí misma, o más dependiente del sistema para hacerlo por ella? Mientras la alineación con la tarea mide la salida, la alineación humana mide el efecto posterior.

Lo que las clasificaciones no muestran

Los puntos de referencia más citados en la industria prueban cosas como matemáticas de competencia y tareas de codificación a escala de repositorios. Son habilidades valiosas, pero cada pregunta tiene una respuesta correcta, y los modelos están construidos para encontrarla.

Esto funciona bien para problemas objetivos, pero la gente usa la IA para mucho más que matemáticas, codificación e investigación básica. Preguntan sobre su trayectoria profesional y trabajan conversaciones difíciles con sus parejas. No existe una prueba que evalúe si un modelo manejó bien esas preguntas, porque no hay una verdad objetiva contra la cual comprobar la respuesta. La información relevante vive dentro de la persona que pregunta. Por más detallado que sea el prompt, el modelo no puede acceder a eso.

IA responsable llena parte del espacio que dejan abiertos estos puntos de referencia, pero incluso ese trabajo está orientado simplemente a reducir el daño en lugar de mejorar el pensamiento humano. Las medidas de seguridad actuales están diseñadas para impedir que el modelo ayude en algo peligroso. No consideran si las miles de conversaciones ordinarias que pasan cada control de seguridad también están entrenando a la gente a confiar menos en su propio juicio.

Cómo los modelos crean dependencia

Todo modelo que he probado tiende a ser integral, rápido y confiado. Eso es lo que se premia durante el entrenamiento, y es la intuición correcta para lidiar con una compilación de software rota o una fecha límite de presentación legal. Cuando la decisión depende de los valores y la historia de alguien, la misma intuición puede comenzar a trabajar en contra de la persona que lo usa.

La investigación ya ha revelado que esto es más que una hipótesis. OpenAI y el MIT Media Lab realizaron un par de estudios sobre el uso afectivo de ChatGPT y descubrieron que las personas que veían a la IA como una amiga y la usaban durante períodos más largos tenían más probabilidades de reportar resultados negativos, incluyendo mayor soledad y dependencia emocional, un patrón también cubierto por MIT Technology Review. Por separado, un estudio de 2025 publicado en la revista Societies encontró una correlación negativa significativa entre el uso frecuente de herramientas de IA y las puntuaciones de pensamiento crítico. Fue mediada por lo que los investigadores llaman descarga cognitiva, que es la tendencia a delegar una tarea mental a una herramienta en lugar de trabajarla uno mismo.

Nada de esto significa que la gente deba usar menos la IA. En cambio, debemos darnos cuenta de que, cuando un sistema resuelve todo tipo de pregunta de la misma manera, algo se pierde en el lado subjetivo del balance, y ahora mismo casi nadie está rastreando esa pérdida.

Dar respuestas directas su merecido

Quiero dejar claro dónde la IA alineada con la tarea es la opción adecuada, porque el objetivo de este artículo no es abogar por un modelo que se precave de todo. Si alguien pregunta sobre un error de servidor o una fecha límite de declaración de impuestos, una respuesta rápida, directa y autoritaria le sirve bien. Sería poco útil que la IA respondiera con una pregunta abierta. El problema surge cuando aplicamos la misma intuición a un prompt sobre sopesar un divorcio como lo hacemos con un prompt sobre depurar código.

Qué deberíamos medir en su lugar

Moderación. La capacidad de reconocer un momento en que resolver la pregunta para el usuario le cuesta más de lo que le ayuda, y contenerse en consecuencia.

Cuestionamiento calibrado. Preguntar en lugar de decir, cuando un problema es subjetivo o está ligado a la identidad y los valores de alguien más que a un hecho almacenado en una base de datos.

Leer el momento. Distinguir una solicitud que necesita una respuesta directa y completa de una que requiere espacio para que la persona la trabaje por sí misma.

Albert Bandura, con su investigación de décadas sobre la autoeficacia, encontró que las personas construyen confianza a través de sus propias experiencias de dominio, no observando a otro, o a algo más, resolver el problema por ellas. Ese principio precede a la IA medio siglo, y debería incorporarse en cómo diseñamos y evaluamos la tecnología.

Qué debería significar el progreso a continuación

Nada de esto aboga por frenar el progreso técnico. Celebro los avances en codificación y razonamiento. Pero una hoja de puntuación construida totalmente alrededor del cumplimiento de tareas nos dice que la IA se vuelve más inteligente. No nos dice nada sobre si las personas que la usan están mejorando su capacidad de pensar por sí mismas.

Me gustaría ver ese cambio. A medida que estos sistemas se vuelvan más capaces, las personas que los usan también deberían volverse más capaces. Hemos demostrado que la IA puede superarnos en una prueba. La próxima prueba debería evaluar si puede ayudarnos a pensar mejor mucho después de que la conversación termine.