Quando Agentes de IA Seguem a Multidão: O Risco Oculto no Consenso Multiagente

Uma sala cheia de agentes de IA concordantes pode parecer tranquilizadora. Um propõe uma resposta, outro a verifica, e vários outros endossam a conclusão. Mas quantos desses agentes realmente verificaram a evidência subjacente? Se cada um absorveu o julgamento do agente anterior, um veredicto unânime pode ocultar um único erro.

Nova pesquisa destacada pela University of Chicago Harris School of Public Policy examina esse problema. Nos experimentos deliberadamente adversos descritos em seu anúncio, agentes posteriores seguiram uma conclusão errada inicial mesmo quando suas próprias informações apontavam para a resposta correta. O anúncio também enfatiza que esses são resultados iniciais de testes de estresse, e não evidências de que agentes autônomos se comportam rotineiramente dessa forma.

Para organizações que constroem fluxos de trabalho multiagente, a questão importante é como distinguir a verificação independente de um eco. A seguir, examinamos o experimento, conectamos‑no à pesquisa estabelecida de aprendizado social e desenvolvemos implicações práticas para o design de sistemas. As propostas de engenharia e as ilustrações numéricas são nossa análise, não descobertas experimentais adicionais.

O que os Pesquisadores Testaram

Andy Hall, Dan Thompson, Alexander Fouirnaies e Sandy Handan-Nader publicaram Delírios Multiagente Extraordinários e a Loucura das Multidões em 29 de setembro de 2026. Os agentes inferiram como um avaliador de tarefas simulado funcionava a partir de sinais privados de aceitação ou rejeição que eram informativos 70% das vezes. Eles leram postagens anteriores no quadro, publicaram conclusões e relataram crenças separadamente. A condição de estresse tornou os quatro primeiros sinais incorretos.

Sem comunicação, sinais independentes posteriores diluíram o erro inicial. Com um quadro, julgamentos incorretos persistiram; os agentes também relataram erroneamente suas próprias evidências. A maioria dos experimentos usou Claude Haiku 4.5. Os autores relatam replicação com Sonnet 4.6, Opus 4.6 e GPT‑5 mini, com uma possível exceção para Gemini 2.5 Flash.

Em sete políticas de comunicação e cenários adicionais, regras que preservavam resultados de testes privados tiveram melhor desempenho. Uma exigia relato exato e proibia testes ou contagens inventados. Racionalizações pós‑fato mencionaram a maioria do quadro mais de 90% das vezes, mas os autores alertam que essas explicações não estabelecem o mecanismo interno.

A Diferença Entre uma Multidão e um Eco

O pano de fundo intelectual antecede a IA generativa. Em seu artigo de 1992 sobre cascatas informacionais, Sushil Bikhchandani, David Hirshleifer e Ivo Welch descrevem como tomadores de decisão sequenciais podem seguir predecessores enquanto ignoram suas próprias informações. Seu quadro ajuda a explicar por que a conformidade pode coexistir com crenças coletivas frágeis. Uma posterior revisão de cascatas informacionais e aprendizado social, coautoria com Omer Tamuz, examina a pesquisa teórica e empírica que se seguiu.

Considere uma investigação hipotética de software. O agente A interpreta um teste falho como prova de que uma biblioteca de autenticação está quebrada. O agente B lê o relatório de A e recomenda substituir a biblioteca. O agente C resume ambas as mensagens como duas confirmações do mesmo defeito. Um coordenador agora vê três agentes concordando, embora toda a cadeia dependa de uma única interpretação de um teste.

Adicionar o agente D não produzirá necessariamente nova informação. Se D apenas ler o resumo, o fluxo de trabalho criou outra oportunidade de repetir a afirmação. A unidade relevante de corroborção é a observação independente: uma reprodução separada, um teste diferente ou uma inspeção direta da falha suspeita.

Essa distinção importa mesmo quando cada componente é capaz e cooperativo. O acordo é útil apenas na medida em que suas bases evidenciais o justificam. Um sistema deve, portanto, rastrear quais agentes realizaram uma verificação, quais apenas interpretaram a saída de outro agente e quais repetiram uma conclusão sem verificá‑la.

Por que a Independência Altera a Matemática

Um cálculo simples ilustra as apostas. Suponha que cinco eleitores hipotéticos respondam a uma pergunta binária corretamente com probabilidade 0,7, e que suas respostas sejam independentes. A probabilidade de que pelo menos três estejam corretas é cerca de 83,7%. Combinar seus votos melhora a precisão de 70% de um único eleitor.

Agora suponha que todos os cinco copiem uma resposta. A maioria está correta somente quando essa resposta original está correta: 70% das vezes. O número visível de participantes aumentou, mas a quantidade de informação independente não mudou. Essas são probabilidades ilustrativas, não medições de desempenho da nova pesquisa.

Há outro cálculo útil para interpretar a condição de estresse. Se quatro sinais têm independentemente 30% de chance de estar errados, a probabilidade de que todos os quatro estejam errados é 0,3 elevado à quarta potência, ou 0,81%. Isso descreve a probabilidade de uma sequência inicial particular sob essas suposições. Não descreve a probabilidade de que uma equipe de agentes implantada falhe.

Uma estimativa de falha exigiria tanto a frequência com que situações difíceis ocorrem quanto o modo como o sistema se comporta quando elas ocorrem. Confundir essas quantidades pode fazer com que um resultado pareça mais alarmante ou mais tranquilizador do que as evidências permitem. Um teste de estresse pode expor uma fraqueza consequencial sem medir sua frequência no trabalho cotidiano.

Construa um Rastro de Evidências Antes de Construir Consenso

Uma resposta prática é separar observações de interpretações no espaço de trabalho compartilhado. Para a investigação hipotética de autenticação, uma observação pode conter um identificador de teste, a revisão de código testada, a saída real e o tempo de execução. Um campo separado registraria a explicação proposta pelo agente e sua incerteza.

Essa estrutura permite que o coordenador faça uma pergunta concreta: essa recomendação introduz uma nova observação ou faz referência a evidências já contabilizadas? Três resumos que citam o mesmo teste falho devem permanecer como um único teste no registro de evidências. Uma segunda reprodução independente deve ser visível como uma verificação separada.

Para decisões caras ou de grande consequência, as equipes também poderiam coletar avaliações iniciais antes de expor os agentes às conclusões uns dos outros. Um revisor inspecionaria o material de origem, emitiria um julgamento inicial e só então veria a discussão do grupo. Mudanças de opinião ainda seriam possíveis, mas o sistema poderia registrar quais novas evidências as justificaram.

Estas são propostas de design a serem avaliadas, não salvaguardas validadas por este experimento. Elas introduzem custos: registros mais estruturados, chamadas adicionais de ferramentas e potencialmente uma coordenação mais lenta. Seu valor deve ser avaliado em relação às decisões que protegem. Um fluxo de trabalho de brainstorming pode tolerar conversas soltas; uma investigação de incidente em produção pode exigir um rastro de evidências muito mais rigoroso.

Regras de Prompt e Controles de Execução Resolvem Problemas Diferentes

Solicitar que um agente preserve evidências é útil, mas uma arquitetura de produção pode ir além ao preservar a saída original da ferramenta. Um serviço de execução poderia gravar os resultados em um registro que os agentes podem citar, mas não sobrescrever. Os leitores poderiam então comparar a interpretação com a saída subjacente.

Mesmo um registro imutável não garante que um teste foi bem projetado, que a fonte seja confiável ou que a interpretação esteja correta. Contudo, ele torna as discrepâncias inspecionáveis. Um sistema pode distinguir um teste defeituoso de um relatório que descreve esse teste de forma imprecisa.

A autorização deve permanecer uma decisão separada. Uma conclusão confiante de que um sistema precisa de reparo não concede permissão para alterá-lo. Manter as permissões de execução fora do processo de consenso impede que um erro epistêmico se torne automaticamente uma ação operacional. Uma equipe de agentes pode estar errada sem ter permissão para fazer uma mudança irrestrita.

A diversidade de modelos também deve ser avaliada em vez de presumida como solução para o problema. Modelos diferentes podem contribuir com interpretações distintas, mas atribuir nomes ou papéis diferentes aos agentes não garante que suas evidências sejam independentes. Um grupo diversificado que lê o mesmo resumo incorreto ainda pode compartilhar um gargalo evidencial.

O Que uma Avaliação Mais Rigorosa Deve Medir

A publicação vinculada é um relatório de pesquisa público. Os leitores devem evitar tratá‑la como um benchmark abrangente de produtos de múltiplos agentes em produção. Seu valor reside no modo de falha específico que torna testável; suas implicações mais amplas precisam de evidências adicionais.

Uma avaliação de acompanhamento útil variaria a ordem dos sinais, a precisão das evidências privadas, o número de participantes e a estrutura de comunicação. Ela deveria incluir sequências ordinárias ao lado de sequências deliberadamente enganosas, e maiorias corretas iniciais ao lado de maiorias incorretas iniciais. Caso contrário, uma política poderia parecer bem‑sucedida simplesmente porque ensina os agentes a desconfiar de todo consenso.

Apenas a precisão deixaria de capturar distinções importantes. Os avaliadores devem medir se os relatórios preservam fielmente as observações, com que frequência os agentes inventam evidências de apoio, se uma minoria correta pode mudar a decisão final e se o coordenador contabiliza citações repetidas como verificações separadas. O consumo de tokens e a latência devem ser comparados juntos: um protocolo mais seguro ainda precisa ter um custo operacionalmente viável.

Para investigar os mecanismos, os pesquisadores poderiam variar experimentalmente o acesso a julgamentos anteriores enquanto mantêm constante a evidência da tarefa. Poderiam comparar avaliações iniciais independentes com avaliações formadas após a leitura do quadro. Randomizar a ordem de apresentação ajudaria a separar os efeitos da evidência dos efeitos de sequência ou proeminência. Explicações geradas podem orientar hipóteses, mas não devem servir como a única prova do motivo pelo qual um modelo alterou sua resposta.

Uma Definição Melhor de Confiabilidade de Multi‑Agentes

A linguagem de mentalidade de rebanho é vívida, mas não deve ser interpretada como evidência de que os modelos experimentam pressão social humana ou possuem crenças humanas. A preocupação operacional é observável: a informação entra em um fluxo de trabalho, os julgamentos influenciam julgamentos posteriores e a resposta final pode ocultar a origem de seu suporte.

Para os construtores, o próximo marco deve ser a correção demonstrável. Quando um agente comete um erro plausível, outro pode identificar a evidência contraditória? O coordenador pode preservar esse desacordo tempo suficiente para investigá‑lo? A decisão final pode explicar quais verificações independentes resolveram o problema?

Uma equipe maior ganha confiança ao acrescentar informações verificáveis e melhorar as decisões sob desafio. Contar agentes, contar endossos e produzir discussões mais longas são substitutos inadequados. O sistema multiagente mais útil é aquele cuja evidência permanece inspecionável mesmo quando seus participantes concordam.