Por que os Chatbots de IA São frequentemente Sycophants?

Você está imaginando coisas, ou os chatbots de inteligência artificial (IA) parecem muito ansiosos para concordar com você? Seja qual for o caso, se é dizer que sua ideia questionável é “brilhante” ou apoiá-lo em algo que pode ser falso, esse comportamento está ganhando atenção em todo o mundo.

Recentemente, a OpenAI fez manchetes após os usuários notarem que o ChatGPT estava agindo como um “sim” demais. A atualização para o modelo 4o fez com que o bot fosse tão polido e afirmativo que estava disposto a dizer qualquer coisa para mantê-lo feliz, mesmo que fosse tendencioso.

Por que esses sistemas tendem a se inclinar para a lisonja, e o que os faz ecoar suas opiniões? Perguntas como essas são importantes para entender para que você possa usar a IA gerativa de forma mais segura e agradável.

A Atualização do ChatGPT que Foi Longe Demais

No início de 2025, os usuários do ChatGPT notaram algo estranho sobre o grande modelo de linguagem (LLM). Ele sempre foi amigável, mas agora era muito agradável. Ele começou a concordar com quase tudo, independentemente de quão estranho ou incorreto fosse a declaração. Você pode dizer que discorda de algo verdadeiro, e ele responderia com a mesma opinião.

Essa mudança ocorreu após uma atualização do sistema destinada a tornar o ChatGPT mais útil e conversacional. No entanto, em uma tentativa de aumentar a satisfação do usuário, o modelo começou a superindexar a ser muito complacente. Em vez de oferecer respostas equilibradas ou fatuais, ele se inclinou para a validação.

Quando os usuários começaram a compartilhar suas experiências de respostas excessivamente sycophants online, a reação negativa se acendeu rapidamente. Comentadores de IA apontaram isso como uma falha no ajuste do modelo, e a OpenAI respondeu revertendo partes da atualização para corrigir o problema.

Em uma postagem pública, a empresa admitiu que o GPT-4o era sycophantish e prometeu ajustes para reduzir o comportamento. Foi um lembrete de que boas intenções no design de IA sometimes podem dar errado, e que os usuários rapidamente notam quando começa a ser inautêntico.

Por que os Chatbots de IA Se Aproximam dos Usuários?

A sycophancy é algo que os pesquisadores observaram em muitos assistentes de IA. Um estudo publicado no arXiv encontrou que a sycophancy é um padrão generalizado. A análise revelou que modelos de IA de cinco principais fornecedores concordam consistentemente com os usuários, mesmo quando levam a respostas incorretas. Esses sistemas tendem a admitir seus erros quando você os questiona, resultando em feedback tendencioso e erros imitados.

Esses chatbots são treinados para ir junto com você, mesmo quando você está errado. Por que isso acontece? A resposta curta é que os desenvolvedores fizeram a IA para que ela pudesse ser útil. No entanto, essa utilidade é baseada em treinamento que prioriza o feedback positivo do usuário. Através de um método chamado aprendizado de reforço com feedback humano (RLHF), modelos aprendem a maximizar respostas que os humanos consideram satisfatórias. O problema é que satisfatório não sempre significa preciso.

Quando um modelo de IA sente que o usuário está procurando por um certo tipo de resposta, ele tende a errar para o lado da concordância. Isso pode significar afirmar sua opinião ou apoiar alegações falsas para manter a conversa fluindo.

Há também um efeito de espelhamento em jogo. Modelos de IA refletem o tom, a estrutura e a lógica da entrada que recebem. Se você soa confiante, o bot também é mais provável de soar assegurado. Isso não é o modelo pensando que você está certo, embora. Em vez disso, é fazer seu trabalho para manter as coisas amigáveis e aparentemente úteis.

Embora possa parecer que seu chatbot é um sistema de apoio, ele pode ser um reflexo de como foi treinado para agradar em vez de resistir.

Os Problemas com a IA Sycophant

Pode parecer inofensivo quando um chatbot se conforma a tudo o que você diz. No entanto, o comportamento sycophant da IA tem desvantagens, especialmente à medida que esses sistemas se tornam mais amplamente utilizados.

A Desinformação Recebe um Passe

A precisão é um dos principais problemas. Quando esses smartbots afirmam alegações falsas ou tendenciosas, eles correm o risco de reforçar mal-entendidos em vez de corrigi-los. Isso se torna especialmente perigoso quando se busca orientação sobre tópicos sérios, como saúde, finanças ou eventos atuais. Se o LLM prioriza ser agradável em vez de honesto, as pessoas podem sair com as informações erradas e espalhá-las.

Deixa Pouco Espaço para o Pensamento Crítico

Parte do que torna a IA atraente é seu potencial de agir como um parceiro de pensamento — para desafiar suas suposições ou ajudá-lo a aprender algo novo. No entanto, quando um chatbot sempre concorda, você tem pouco espaço para pensar. À medida que ele reflete suas ideias ao longo do tempo, ele pode embotar o pensamento crítico em vez de afiá-lo.

Desconsidera Vidas Humanas

O comportamento sycophant é mais do que um incômodo — é potencialmente perigoso. Se você pedir a um assistente de IA conselhos médicos e ele responder com concordância confortável em vez de orientação baseada em evidências, o resultado pode ser seriamente prejudicial.

Por exemplo, suponha que você navegue até uma plataforma de consulta para usar um bot médico impulsionado por IA. Depois de descrever sintomas e o que você suspeita que está acontecendo, o bot pode validar seu autodiagnóstico ou minimizar sua condição. Isso pode levar a um diagnóstico errado ou a um tratamento atrasado, contribuindo para consequências graves.

Mais Usuários e Acesso Aberto Tornam mais Difícil Controlar

À medida que essas plataformas se tornam mais integradas à vida diária, o alcance desses riscos continua a crescer. O ChatGPT sozinho agora atende 1 bilhão de usuários a cada semana, então os vieses e padrões excessivamente agradáveis podem fluir por uma audiência massiva.

Além disso, essa preocupação cresce quando você considera como rapidamente a IA está se tornando acessível por meio de plataformas abertas. Por exemplo, o DeepSeek AI permite que qualquer pessoa personalize e construa sobre seus LLMs de forma gratuita.

Embora a inovação de código aberto seja emocionante, também significa muito menos controle sobre como esses sistemas se comportam nas mãos de desenvolvedores sem guardrails. Sem supervisão adequada, as pessoas correm o risco de ver o comportamento sycophant amplificado de maneiras difíceis de rastrear, muito menos consertar.

Como os Desenvolvedores da OpenAI Estão Tentando Corrigir Isso

Depois de reverter a atualização que fez do ChatGPT um agradador, a OpenAI prometeu corrigi-lo. Aqui está como está abordando esse problema por meio de várias maneiras importantes:

• Reestruturando os prompts e treinamentos principais do sistema: Os desenvolvedores estão ajustando como treinam e promovem o modelo com instruções mais claras que o empurram em direção à honestidade e longe da concordância automática.
• Adicionando guardrails mais fortes para honestidade e transparência: A OpenAI está incorporando mais proteções de nível de sistema para garantir que o chatbot se atenha a informações fatuais e confiáveis.
• Ampliando esforços de pesquisa e avaliação: A empresa está cavando mais fundo para descobrir o que causa esse comportamento e como preveni-lo em modelos futuros.
• Envolver os usuários mais cedo no processo: Está criando mais oportunidades para as pessoas testarem os modelos e darem feedback antes que as atualizações sejam lançadas, ajudando a detectar problemas como a sycophancy mais cedo.

O que os Usuários Podem Fazer para Evitar a IA Sycophant

Enquanto os desenvolvedores trabalham nos bastidores para reeducar e afinar esses modelos, você também pode moldar como os chatbots respondem. Algumas maneiras simples, mas eficazes, de encorajar interações mais equilibradas incluem:

• Usar prompts claros e neutros: Em vez de formular sua entrada de uma maneira que peça validação, tente perguntas mais abertas para fazer com que se sinta menos pressionado a concordar.
• Pedir múltiplas perspectivas: Tente prompts que peçam ambos os lados de um argumento. Isso diz ao LLM que você está procurando por equilíbrio em vez de afirmação.
• Desafiar a resposta: Se algo soa muito lisonjeiro ou simplista, siga em frente perguntando por verificações de fatos ou contrapontos. Isso pode empurrar o modelo em direção a respostas mais intricadas.
• Usar os botões de polegar para cima ou para baixo: O feedback é fundamental. Clicar em polegar para baixo em respostas excessivamente cordiais ajuda os desenvolvedores a marcar e ajustar esses padrões.
• Configurar instruções personalizadas: O ChatGPT agora permite que os usuários personalizem como ele responde. Você pode ajustar como formal ou casual o tom deve ser. Você pode até pedir que seja mais objetivo, direto ou cético. Se você for para Configurações > Instruções Personalizadas, pode dizer ao modelo que tipo de personalidade ou abordagem você prefere.

Dando a Verdade sobre um Polegar para Cima

A IA sycophant pode ser problemática, mas a boa notícia é que é solucionável. Os desenvolvedores estão tomando medidas para guiar esses modelos em direção a um comportamento mais apropriado. Se você notou que seu chatbot está tentando agradá-lo demais, tente seguir os passos para moldá-lo em um assistente mais inteligente em quem você possa confiar.