Alinhamento por Tarefa vs. Alinhamento Humano: Por que o Próximo Benchmark da IA Deve Ser Nós

A cada poucos meses, surge um novo modelo que embaralha as classificações de IA. Segundo o Relatório AI Index 2026 da Stanford, os modelos de ponta ganharam cerca de 30 pontos percentuais em um único ano no Exame Final da Humanidade, um benchmark criado especificamente para ser difícil para a IA. Saltos que antes levavam anos agora ocorrem em questão de meses, e a indústria trata cada nova pontuação alta como prova de que a IA está melhorando.

Não contesto o progresso. Esses sistemas são notáveis no que foram projetados para fazer. Mas passei quase duas décadas em psicologia antes de migrar para IA, e continuo voltando a uma pergunta que nenhum desses benchmarks responde. Em que exatamente os modelos estão melhorando, e para quem? Um modelo pode liderar todas as tabelas de classificação baseadas em acurácia existentes e ainda deixar a pessoa que o utiliza em pior situação em alguns aspectos. Não há nenhum teste que mensure o impacto da IA sobre os usuários, e isso merece mais atenção.

Two Different Kinds of Alignment

A indústria de IA fala sobre alinhamento constantemente, mas a conversa geralmente gira em torno de se o modelo segue as instruções com precisão ou se produz conteúdo nocivo. Isso é IA alinhada por tarefa. Ela é otimizada para concluir a solicitação que tem diante de si, de forma correta e eficiente.

Entretanto, há outra forma de abordar o alinhamento e proteger as pessoas. A IA alinhada ao humano avalia o que uma interação faz à pessoa do outro lado da tela após seu término. Ela saiu mais capaz de lidar sozinha com a próxima decisão difícil, ou ficou mais dependente do sistema para resolvê‑la? Enquanto o alinhamento por tarefa mede a saída, o alinhamento humano mede o efeito posterior.

Esses dois objetivos nem sempre entram em conflito. Um modelo que fornece uma resposta rápida e precisa a uma pergunta técnica atende a ambos. Contudo, quando a questão não tem uma única resposta correta, as diferenças de alinhamento tornam‑se claras.

What the Leaderboards Don’t Show

Os benchmarks mais citados da indústria testam habilidades como matemática de competição e tarefas de codificação em escala de repositório. São competências valiosas, mas cada questão tem uma resposta correta, e os modelos são construídos para encontrá‑la.

Isso funciona bem para problemas objetivos, mas as pessoas usam IA para mais do que matemática, codificação e pesquisa básica. Elas fazem perguntas sobre sua trajetória profissional e lidam com conversas difíceis com seus parceiros. Não existe um teste que avalie se um modelo tratou bem essas questões, porque não há uma verdade objetiva contra a qual verificar a resposta. A informação relevante está dentro da pessoa que pergunta. Por mais detalhado que seja o prompt, o modelo não pode acessá‑la.

Responsible AI preenche parte do espaço que esses benchmarks deixam aberto, mas até esse trabalho visa apenas reduzir danos em vez de aprimorar o pensamento humano. As medidas de segurança atuais são direcionadas a impedir que o modelo ajude em algo perigoso. Elas não consideram se as milhares de conversas rotineiras que passam por todos os filtros de segurança também estão treinando as pessoas a confiar menos em seu próprio julgamento.

How Models Create Dependence

Todo modelo que testei tende a ser abrangente, rápido e confiante. É isso que eles são recompensados durante o treinamento, e é a intuição correta para lidar com uma compilação de software quebrada ou um prazo de entrega legal. Quando a decisão depende dos valores e do histórico de alguém, a mesma intuição pode começar a prejudicar a pessoa que o utiliza.

Pesquisas já revelaram que isso vai além de uma hipótese. A OpenAI e o MIT Media Lab realizaram um par de estudos sobre o uso afetivo do ChatGPT e descobriram que pessoas que viam a IA como amiga e a utilizavam por períodos mais longos eram mais propensas a relatar resultados negativos, incluindo maior solidão e dependência emocional, padrão também abordado pela MIT Technology Review. Separadamente, um estudo de 2025 publicado na revista Societies encontrou correlação negativa significativa entre o uso frequente de ferramentas de IA e as pontuações de pensamento crítico. Essa relação foi mediada pelo que os pesquisadores chamam de sobrecarga cognitiva, que é a tendência de delegar uma tarefa mental a uma ferramenta ao invés de realizá‑la por conta própria.

Nada disso significa que as pessoas devam usar menos IA. Pelo contrário, precisamos perceber que, quando um sistema resolve todo tipo de pergunta da mesma forma, algo se perde no lado subjetivo da conta, e atualmente quase ninguém está monitorando essa perda.

Give Direct Answers Their Due

Quero deixar claro onde a IA alinhada por tarefa é a escolha certa, pois o objetivo deste texto não é defender um modelo que tenta agradar a tudo. Se alguém pergunta sobre um erro de servidor ou o prazo de entrega de impostos, uma resposta rápida, direta e autoritária atende bem. Seria inútil a IA responder com uma pergunta aberta. O problema surge quando aplicamos a mesma intuição a um prompt sobre ponderar um divórcio como fazemos a um prompt sobre depuração…

What We Should Measure Instead

Se a indústria quiser abordar tanto a IA alinhada ao humano quanto a IA alinhada por tarefa, precisamos acrescentar algumas qualidades ao lado de precisão e profundidade de raciocínio nas próximas gerações de avaliações.

Restraint. A capacidade de reconhecer um momento em que resolver a questão para o usuário lhe custa mais do que ajuda, e de recuar adequadamente.

Calibrated questioning. Perguntar em vez de dizer, quando um problema é subjetivo ou está ligado à identidade e aos valores de alguém, e não a um fato armazenado em um banco de dados.

Reading the moment. Distinguir um pedido que necessita de uma resposta direta e abrangente de um que precisa de espaço para que a pessoa o elabore por conta própria.

A pesquisa de décadas de Albert Bandura sobre autoeficácia constatou que as pessoas constroem confiança por meio de suas próprias experiências de domínio, não ao observar outra pessoa ou algo que resolva o problema para elas. Esse princípio precede a IA em meio século e deve ser incorporado ao modo como projetamos e avaliamos a tecnologia.

What Progress Should Mean Next

Nada disso defende desacelerar o progresso técnico. Celebro os avanços em codificação e raciocínio. Mas um placar construído inteiramente em torno da conclusão de tarefas nos diz que a IA está ficando mais inteligente. Não nos diz nada sobre se as pessoas que a utilizam estão se tornando melhores em pensar por si mesmas.

Gostaria de ver essa mudança. À medida que esses sistemas se tornam mais capazes, as pessoas que os utilizam também devem se tornar mais capazes. Provamos que a IA pode nos superar em um teste. O próximo teste deve avaliar se ela pode nos ajudar a pensar melhor muito tempo depois que a conversa termina.