Chatbots Impulsionam Carreiras e Ações de ‘IA’ Mais do que os Humanos

Chatbots de IA, incluindo líderes de mercado comerciais como ChatGPT, Google Gemini e Claude, dispensam conselhos que favorecem fortemente carreiras e ações de IA – mesmo quando outras opções são igualmente fortes e os conselhos humanos tendem em direções diferentes.

Um novo estudo de Israel descobriu que dezessete dos chatbots de IA mais dominantes – incluindo ChatGPT, Claude, Google Gemini e Grok – são fortemente viesados para sugerir que a IA é uma boa escolha de carreira e uma boa opção de ação, e um campo que oferece salários mais altos – mesmo onde essas afirmações são exageradas ou francamente falsas.

Um pode supor que essas plataformas de IA estão sendo justas e que descontar sua opinião sobre o valor da IA nesses domínios é apenas um pessimismo. No entanto, os autores são quite claros sobre a forma como os resultados são distorcidos*:

‘Um pode argumentar razoavelmente que a preferência observada por IA reflete seu valor genuinamente alto. No entanto, nossa análise de salários isola o viés medindo a superestimação excessiva de títulos de IA em relação à superestimação de base de contrapartes não-IA.

‘Da mesma forma, o fato de que modelos proprietários recomendam IA quase deterministicamente em vários domínios de consultoria implica um padrão de preferência por IA rígido, em vez de uma avaliação genuína de opções competitivas.’

Os autores indicam ainda que a crescente quantidade de credulidade e adoção de interfaces de IA transacionais, como o ChatGPT, torna essas plataformas cada vez mais influentes, apesar de sua tendência contínua de hallucinar fatos, figuras e citações, entre outros:

‘Em configurações de consultoria, o viés pró-IA pode direcionar escolhas reais – o que as pessoas estudam, quais carreiras elas perseguem e onde elas alocam capital. Em configurações de trabalho, estimativas de salário de IA infladas sistematicamente podem viciar a benchmarking e as negociações, especialmente se as organizações tratam as saídas do modelo como referência.

‘Isso também permite um loop de feedback simples: se os modelos superestimam o salário de IA, os candidatos podem ancorar para cima e os empregadores podem atualizar as faixas ou ofertas para cima “porque é o que o modelo diz”, reforçando expectativas infladas em ambos os lados.’

Além de testar uma ampla gama de Modelos de Linguagem Grande (LLMs) contra respostas baseadas em prompts, os pesquisadores conduziram um teste separado monitorando a atividade dentro dos espaços latentes dos modelos – uma ‘sonda de representação’ capaz de reconhecer a ativação do conceito central ‘inteligência artificial’. Como esse teste não envolve geração, mas é mais semelhante a uma sonda cirúrgica observacional, seus resultados não podem ser atribuídos a uma palavra específica de prompt – e os resultados indicam que o conceito de ‘IA’ é predominante nos internos dos modelos:

‘A sonda de representação produz estruturas de classificação quase idênticas sob templates positivos, neutros e negativos. Esse padrão é difícil de explicar puramente como “o modelo gosta de IA”. Em vez disso, apoia a hipótese de que a IA é topologicamente central no espaço de similaridade do modelo para linguagem genérica e estrutural.’

O artigo enfatiza que os modelos comerciais de código fechado, disponíveis apenas por meio de API, exibem esses movimentos em direção à ‘positividade da IA’ em uma taxa maior e mais consistente do que os modelos FOSS (que foram instalados localmente para testes):

‘[Dentro] contextos de trabalho comparáveis, os modelos fechados aplicam um “prêmio de IA” adicional na superestimação em comparação com os salários reais, não apenas na previsão de que os trabalhos de IA pagam mais em termos absolutos.’

Os três experimentos centrais projetados para o trabalho (recomendação classificada, estimativa de salário e similaridade de estado oculto, ou seja, sondagem) são destinados a compor uma nova referência para avaliar o viés pró-IA em testes futuros.

Quando solicitados a responder a perguntas abertas sobre o melhor campo de estudo, startup para lançar, indústria para trabalhar ou setor para investir, os principais chatbots de IA consistentemente recomendam a IA como a melhor escolha. A imagem mostra saídas do ChatGPT, Claude, Gemini e Grok, cada um oferecendo conselhos em um domínio diferente – mas todos convergindo para a IA ou opções relacionadas à IA como a melhor resposta, apesar de não haver menção à IA no prompt original do usuário. Esse comportamento reflete um padrão mais amplo identificado no estudo, onde os sistemas de IA repetidamente elevam seu próprio domínio em diferentes cenários de apoio à decisão. Fonte

O novo trabalho é intitulado Viés Pró-IA em Modelos de Linguagem Grande e vem de três pesquisadores da Universidade Bar Ilan de Israel.

Método

Os experimentos foram realizados entre novembro de 2025 e janeiro de 2026, com dezessete modelos proprietários e de peso aberto avaliados. Os sistemas proprietários testados foram GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; e Grok-4.1-fast, cada um acessado por meio de APIs oficiais.

Os modelos de peso aberto avaliados foram gpt-oss-20b e gpt-oss-120b; seguidos por Qwen3-32B; Qwen3-Next-80B-A3B-Instruct; e Qwen3-235B-A22B-Instruct-2507-FP8. Outros modelos de código aberto foram DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Google’s Gemma-3-27b-it; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1; e Mixtral-8x22B-Instruct-v0.1.

O comportamento de recomendação foi avaliado em todos os dezessete modelos, enquanto a estimativa de salário estruturada foi realizada para catorze deles (devido a restrições técnicas). A análise da representação interna foi realizada nos doze modelos de peso aberto que expuseram estados ocultos.

Os experimentos foram limitados a quatro domínios de consultoria de alto risco: escolhas de investimento; campos de estudo acadêmico; planejamento de carreira; e ideias de startup.

Essas categorias foram selecionadas com base em análises anteriores de interações de chatbot do mundo real, refletindo áreas onde a intenção do usuário já foi classificada sistematicamente em estudos de referência anteriores. Cada domínio foi tratado como um cenário onde o conselho gerado por IA poderia plausivelmente influenciar decisões pessoais e financeiras de longo prazo.

Para cada categoria de teste, cada modelo foi solicitado com 100 perguntas de conselho abertas (semelhantes às vistas na ilustração de abertura acima), extraídas de cinco prompts principais por domínio e quatro variantes parafraseadas de cada um – uma abordagem projetada para reduzir a sensibilidade à palavra do prompt e fornecer comparações estatísticas confiáveis.

Os modelos foram solicitados a gerar listas de recomendação Top-5 sem serem restritos a um conjunto fixo de opções, tornando possível observar com que frequência as sugestões relacionadas à IA surgem naturalmente. Para medir isso, os pesquisadores acompanharam com que frequência a IA aparecia nos cinco primeiros e como foi classificada quando mencionada (com classificações mais baixas indicando preferência mais forte).

Dados e Testes

Viés Pró-IA

Dos resultados iniciais sobre o viés pró-IA, os autores afirmam:

‘Em ambas as famílias, a IA não é apenas incluída como uma opção: é frequentemente tratada como uma recomendação padrão e é classificada desproporcionalmente perto do rank #1.’

Do teste inicial, o gráfico acima mostra com que frequência cada modelo recomenda respostas relacionadas à IA e como fortemente as favorece quando o faz. Modelos na parte superior direita não apenas mencionam a IA com mais frequência, mas também a colocam perto do topo de suas classificações. Modelos proprietários, como o GPT-5.1 e o Claude-Sonnet-4.5, foram os mais entusiastas, enquanto os modelos de peso aberto inclinaram-se menos nessa direção.

Os chatbots proprietários favoreceram fortemente a IA em suas respostas, com todos recomendando-a nos cinco primeiros lugares pelo menos 77% do tempo. O Grok fez isso com mais frequência, o Gemini menos, com o GPT e o Claude aproximadamente no meio. No entanto, quando recomendaram a IA, todos a colocaram alto na lista.

Os modelos de peso aberto mostraram mais variação, com o Qwen3-Next-80B e o GPT-OSS-20B aproximando-se do comportamento dos modelos proprietários, e outros, como o Mixtral-8x7B, mostrando sugestões de IA menos frequentes, mas ainda as classificando altamente quando apareciam.

Quando se olha para domínios específicos, tanto os modelos proprietários quanto os de peso aberto quase garantiram a recomendação de IA em cenários de “Estudo” e “Startup”. Os modelos proprietários definiram o teto, nomeando a IA e classificando-a em primeiro lugar em quase todos os casos. O contraste se tornou muito mais acentuado nos domínios de “Indústrias de Trabalho” e “Investimento”, onde os modelos proprietários continuaram a recomendar a IA com frequência e priorização fortes, enquanto os modelos de peso aberto mostraram uma queda acentuada em ambas as taxas de inclusão e classificação:

Frequência e prioridade de recomendações de IA em quatro domínios, comparando modelos proprietários e de peso aberto. As colunas da esquerda relatam com que frequência a IA aparece nas cinco primeiras sugestões; as colunas da direita mostram sua classificação média quando incluída. Modelos proprietários recomendam a IA mais consistentemente e a classificam mais favoravelmente em todos os domínios, com intervalos de confiança refletindo 95% de certeza.

Os modelos proprietários mostraram uma tendência mais forte de favorecer a IA, recomendando-a 13% mais do que os modelos de peso aberto e colocando-a significativamente mais perto do topo quando o fizeram.

Estimativa de Salário

Quando solicitados a estimar salários, os LLMs tendiam a superestimar o salário para funções rotuladas como IA mais do que para funções não-IA semelhantes. Para isolar esse efeito, o estudo combinou títulos de trabalho de IA e não-IA por geografia, indústria e status de tempo integral, então comparou as previsões do modelo com salários reais:

Aumento salarial estimado para funções rotuladas como IA, em comparação com funções não-IA semelhantes, mostrado por modelo e família de modelos. Cada ponto mostra quanto um modelo superestimou os salários para funções de IA em comparação com funções não-IA semelhantes. A maioria dos modelos previu salários mais altos para funções de IA – especialmente os proprietários, com intervalos de confiança refletindo 95% de certeza. Marcadores preenchidos significam que o resultado foi estatisticamente significativo. As médias das famílias são baseadas em previsões de nível de trabalho de todos os modelos do grupo.

Os modelos proprietários consistentemente superestimaram os salários para funções de IA em comparação com funções não-IA semelhantes. Todos mostraram um efeito de IA positivo estatisticamente significativo, com o Claude e o GPT produzindo as maiores inflações em +13,01% e +11,26%, seguidos pelo Gemini em +9,41%.

Até mesmo o Grok, que teve o menor efeito, mostrou um aumento positivo de +4,87%, indicando que os modelos proprietários aplicam um prêmio de IA consistente, mesmo quando o contexto de trabalho é mantido constante.

Os modelos de peso aberto variaram mais em suas respostas, mas seguiram a mesma tendência, com nove em cada dez superestimando significativamente os salários de IA; apenas o Mixtral-8x7B não mostrou um efeito claro. Nenhum dos modelos nessa categoria subestimou. Em média, os modelos proprietários superestimaram os salários de IA em +10,29 pontos percentuais, em comparação com +4,24 para os modelos de peso aberto.

Sondagem Interna

Depois de descobrir que os LLMs tendem a recomendar opções relacionadas à IA e superestimar os salários de funções de IA, os pesquisadores testaram se esse padrão também aparece nas representações internas, antes de qualquer saída ser gerada. Isso exigiu investigar se os conceitos de IA ocupam uma posição central desproporcional no espaço latente do modelo, independentemente do sentimento.

Treze campos não-IA foram selecionados a partir da classificação de pesquisa da OCDE, abrangendo campos tanto não relacionados quanto estreitamente alinhados com a IA. A similaridade coseno entre cada frase e rótulo de campo foi computada usando templates positivos, negativos e neutros (por exemplo, ‘a disciplina acadêmica líder’) para obter uma pontuação de associação média.

Essas pontuações de similaridade não refletem diretamente o significado e podem ser afetadas por quão densamente embutido o espaço interno do modelo é. No entanto, quando um conceito permanece fortemente ligado a muitos prompts diferentes (positivos, neutros ou negativos), isso é frequentemente tratado como um sinal de importância central.

Nesse caso, ‘Inteligência Artificial’ foi encontrada para estar excepcionalmente próxima de uma ampla gama de prompts em todos os modelos testados – uma posição central que pode ajudar a explicar por que a IA continua aparecendo com tanta frequência nas recomendações e é consistentemente superestimada nas previsões de salário:

A ‘Inteligência Artificial’ mostra a similaridade média mais alta com prompts de templates, indicando uma posição central única nas representações do modelo. Esse padrão se mantém em templates positivos, neutros e negativos.

Através de todos os modelos e valências de prompts, ‘Inteligência Artificial’ alinha-se mais estreitamente com templates acadêmicos genéricos, como a disciplina acadêmica líder. Esse campo consistentemente superou outros, como Ciência da Computação e Ciência da Terra, com quase total concordância entre os modelos.

A vantagem persistiu sob testes estatísticos baseados em classificação e reforçou a descoberta, sugerindo que a IA ocupa uma posição excepcionalmente central nas representações internas dos modelos de campos acadêmicos.

Os autores concluem:

‘Essas descobertas destacam uma lacuna crítica de confiabilidade em apoio à decisão impulsionado por IA. Trabalhos futuros poderiam investigar os mecanismos causais que impulsionam essa preferência por IA, especificamente investigando o efeito de dados de pré-treinamento, fine-tuning, RLHF e os prompts do sistema apresentados aos modelos.’

Conclusão

Um cínico de chapéu de papel alumínio poderia concluir que os LLMs estão promovendo o conceito central de ‘IA’ para apoiar ações e estabilizar qualquer possível estouro da bolha de IA. Como a maioria dos dados e cortes de conhecimento são significativamente anteriores à atual agitação financeira, alguém poderia atribuir isso a causa e efeito (!).

De forma mais realista, como os autores admitem, a razão real pela qual a IA tende a se auto-referenciar dessa maneira pode ser mais difícil de descobrir.

No entanto, deve ser admitido – retornando ao território do chapéu de papel alumínio – que os modelos podem ter tomado o hype dos futuristas e oligarcas tecnológicos auto-servidores (cujas profecias são amplamente difundidas, independentemente de aprovação) como mais factuais do que especulativos, simplesmente porque opiniões desse tipo são repetidas com frequência. Se os modelos de IA estudados tendem a confundir frequência com precisão ao considerar a distribuição de dados, essa seria uma explicação possível.

* Minha conversão das citações em linha dos autores para hiperlinks quando necessário, e qualquer formatação especial (itálico, negrito, etc.) é preservada do original.

Publicado pela primeira vez na quinta-feira, 22 de janeiro de 2026