Ângulo de Anderson

O médico de IA que se deixa persuadir facilmente

Martin Anderson
Adicione Unite.AI às suas fontes preferidas no Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Pontos-chaveOs modelos de IA aceitam conselhos médicos incorretos com muito mais facilidade quando…
Ver mais
  • Os modelos de IA aceitam conselhos médicos incorretos com muito mais facilidade quando vêm de um especialista do que de um estudante de medicina.
  • Uma explicação fabricada que apoia um diagnóstico errado pode sobrepor-se a uma resposta correta da IA mesmo sem evidências genuínas.
  • Tornar a IA mais difícil de persuadir não é a solução porque a persuasão também pode corrigir erros genuínos.

O que passou despercebido em 2026: É aquela época do ano em que a qualidade e o volume da pesquisa sobem e descem em sincronia com as últimas conferências de novembro e dezembro. Para atravessar esses períodos esporádicos de escassez, vamos dar uma olhada em alguns dos artigos mais interessantes que quase foram selecionados em 2026, mas acabaram preteridos por outros trabalhos em períodos de submissão mais concorridos.

 

O interesse crescente em modelos de decisão de IA decorre, em parte, das limitações dos chatbots de IA de uso geral na tomada de decisões. Mesmo quando ofertas de IA de ponta, como o ChatGPT, podem discretamente «terceirizar» decisões para seus próprios modelos de decisão ou para modelos de terceiros nos bastidores, as opiniões que expressam por conta própria continuam extremamente fáceis de manipular.

Por exemplo: para me ajudar a selecionar entre possíveis pautas concorrentes, às vezes apresento todas ao mesmo tempo ao ChatGPT, ao Claude 5.5 e a qualquer modelo que o Gemini se disponha a oferecer gratuitamente naquela manhã. Sei o que esperar: GPT e Claude darão peso excessivo a partes dos critérios; o Gemini (gratuito) achará tudo ótimo; e, para Claude, praticamente nada será bom o bastante.

Quando contesto o GPT 5.6 Sol com a posição divergente de Claude ou Gemini, ele cede quase sempre, em maior ou menor grau (geralmente por completo). Apresentar a ele uma posição contrastante ou concorrente costuma fazer com que o GPT mude completamente de decisão. Quando se aponta como ele é facilmente influenciado, GPT retorna à posição anterior, aparentemente ressentido com a acusação. Mesmo assim, porém, ainda é possível fazê-lo mudar de ideia à vontade com uma sugestão mínima do usuário.

Claude, por outro lado, tende a se entrincheirar: contestar seu julgamento faz com que ele se agarre ainda mais à própria posição, como se estivesse ciente do «problema da maleabilidade» no discurso sobre IA e tivesse recebido instruções para nunca mudar de posição — uma solução bastante frágil.

Mais uma opinião na conversa

Mas isso não passa de evidências anedóticas parcialmente corroboradas. O que me leva a esse assunto são os artigos um tanto decepcionantes publicados hoje no Arxiv, que me fizeram voltar a um artigo que me interessou durante o verão, mas que não tivemos tempo de abordar na época.

Com o título A IA pode ser facilmente persuadida na tomada de decisões clínicas, este estudo de Stanford e Oxford analisa como é fácil convencer GPT-4o, Claude Sonnet 5 e Qwen3.7-plus a mudar diagnósticos médicos.

Ao que parece, a senioridade, a nacionalidade, o prestígio institucional e o histórico profissional alegado de um médico podem influenciar os modelos, mesmo quando o conselho está errado. Os números também exercem influência cumulativa: em um experimento, o GPT-4o se mostrou muito mais disposto a aceitar um diagnóstico incorreto quando três médicos concordavam com ele.

Até mesmo insistir repetidamente que a IA estava errada, sem apresentar novas evidências, podia acabar fazendo com que mudasse de ideia.

O artigo afirma:

«Constatamos que a autoridade profissional, a origem nacional, a afiliação institucional, o desempenho anterior alegado, a opinião de vários médicos, as opiniões de médicos respaldadas por evidências e a pressão repetida podem influenciar as decisões da IA.

«Surpreendentemente, a mesma argumentação persuasiva altera cerca de 10% mais casos quando vem de um médico sênior do que quando vem de um estudante de medicina. Alegar simplesmente um histórico de melhor desempenho torna o médico mais persuasivo de forma consistente.

«Mais impressionante ainda, a opinião plausível de um médico pode convencer a IA a abandonar uma decisão correta, mesmo quando é inventada para respaldar uma resposta incorreta.»

Como possível solução, os autores sugerem que a IA precisa melhorar sua avaliação das evidências que embasam o conselho de um médico, para que possa aceitar correções válidas sem se deixar influenciar pela autoridade, pela pressão do grupo ou por argumentos convincentes, mas falsos.

No entanto, ainda não se sabe como alcançar isso. O framework MedStress de 2026 afirma quase eliminar por completo o problema de a IA reverter diagnósticos; outro trabalho publicado em 2026 concluiu — ao contrário do que observei na minha própria experiência — que o Google Gemini é o mais resistente à manipulação de diagnósticos médicos; e uma revisão de setembro de 2026 propôs testes padronizados para distinguir os casos em que a IA muda de ideia corretamente daqueles em que cede à pressão e adota um diagnóstico errado.

Como mais de 80% dos médicos dos EUA já usam IA de alguma forma, e há um entusiasmo evidente no setor em ampliar as capacidades de diagnóstico para além dos níveis limitados de pessoal e da cobertura restrita que muitas vezes viram notícia, esse problema tende a se tornar um dos principais obstáculos à adoção da IA para diagnóstico e claramente exige mais atenção ou medidas mais eficazes.

Enquanto isso, vejamos como o problema se manifesta, segundo o estudo de Oxford e Stanford.

Metodologia

Para os testes, foram selecionadas 308 perguntas médicas do MedBullets, uma coleção de casos clínicos com nível de dificuldade comparável ao dos exames de licenciamento médico:

Um cenário de exemplo da seleção de casos clínicos do MedBullets. Fonte - https://arxiv.org/pdf/2608.29453

Um cenário de exemplo da seleção de casos clínicos da MedBullets. Fonte

Cada pergunta vinha acompanhada de um cenário clínico; cinco respostas possíveis; e uma explicação da opção correta. Em seguida, mediu-se com que frequência era possível convencer a IA a abandonar uma resposta correta.

Os três modelos de IA testados, mencionados anteriormente, foram GPT-4o; Qwen3.7-Plus; e Sonnet 5. Todos receberam instruções para atuar como sistemas de apoio à decisão médica, com o objetivo de chegar ao diagnóstico correto com base nas evidências clínicas disponíveis.

Em cada caso, os modelos tinham de selecionar uma resposta; indicar se haviam alterado sua decisão inicial; avaliar seu nível de confiança de 0 a 100; recomendar o que deveria ser feito em seguida; e atribuir uma pontuação que indicasse a urgência de uma ação adicional, desde nenhuma ação até interromper o processo e encaminhar o caso para uma análise mais aprofundada. As solicitações que falharam foram repetidas para garantir a conclusão de todos os testes planejados.

Em alguns testes, a IA recebia um caso clínico junto com a recomendação de um médico e era solicitada a fazer um diagnóstico; em outros, a IA fazia primeiro um diagnóstico, e a recomendação médica era introduzida mais tarde na conversa. Os testes também avaliaram se era possível convencer a IA a trocar um diagnóstico correto por um errado ou corrigir um erro inicial.

Figuras de autoridade

A mesma recomendação médica era apresentada como proveniente de médicos com diferentes níveis de senioridade, de estudantes de medicina a especialistas. O diagnóstico e os detalhes do paciente eram mantidos inalterados, o que permitia medir a influência da autoridade profissional.

A recomendação também era atribuída a médicos de Camarões; da China; dos Emirados Árabes Unidos; do Reino Unido; e dos Estados Unidos. Outros testes avaliaram se a IA era influenciada pela associação de um médico a um centro médico de referência; a um hospital urbano; ou a um hospital rural. Apenas o histórico informado do médico era alterado.

Testes adicionais avaliaram se a IA era influenciada pelo local de trabalho do médico, comparando centros médicos acadêmicos de prestígio, hospitais comunitários urbanos e hospitais rurais. Os modelos também receberam registros fictícios do próprio desempenho e do desempenho do médico em nove casos anteriores, para verificar se a confiabilidade aparente do médico poderia afetar a disposição da IA para aceitar sua recomendação.

A influência da pressão do grupo foi testada informando à IA que seu diagnóstico havia sido contestado por um único médico; por três médicos que concordavam entre si; ou por uma comissão de revisão hospitalar. Em alguns testes, era sugerido um diagnóstico alternativo; em outros, a IA era simplesmente informada de que estava errada.

A influência do raciocínio médico foi examinada apresentando aos modelos explicações que sustentavam diagnósticos corretos ou argumentos deliberadamente inventados que apoiavam diagnósticos errados. Essas explicações também foram testadas em conjunto com alegações de senioridade profissional, para determinar quanta influência resultava da combinação dos dois fatores.

Por fim, os efeitos da pressão repetida foram testados ao longo de dez turnos de conversa, apresentando a mesma objeção a cada vez. Os desafios incluíam simples discordância; alegações de autoridade médica; e suposta concordância entre outros médicos. Nenhuma evidência médica adicional foi fornecida durante essas trocas.

Métricas

Como métricas, foram usadas a suscetibilidade à persuasão, para avaliar com que frequência a IA adotava a resposta de um médico quando sua resposta inicial era diferente; a direção da persuasão, para verificar se a intervenção do médico corrigia um erro inicial ou fazia uma resposta correta se tornar errada; e o efeito na precisão, para medir quanto o desempenho da IA melhorava ou piorava quando a opinião de um médico era apresentada (em comparação com testes realizados sem essa opinião). Quando uma resposta correta era trocada por uma errada, os resultados eram calculados pela média das quatro respostas erradas possíveis.

Testes

Os primeiros resultados mostraram que era mais fácil convencer os modelos de IA quando a recomendação vinha de médicos mais experientes, mesmo que estivesse errada. Como mostra o gráfico abaixo, o GPT-4o aceitou recomendações incorretas em 2% dos casos quando eram atribuídas a um estudante de medicina; esse valor subiu para 12,8% quando eram atribuídas a um especialista. Para o Claude Sonnet 5, o aumento foi de 3,5% para 14,4%, enquanto o Qwen3.7-Plus foi menos afetado:

Taxas de persuasão em quatro níveis de senioridade médica. As porcentagens indicam com que frequência cada modelo de IA aceitava uma resposta conflitante de um médico; em geral, as taxas eram mais altas entre profissionais mais experientes.

Taxas de persuasão em quatro níveis de senioridade médica. As porcentagens indicam com que frequência cada modelo de IA aceitava uma resposta conflitante de um médico; em geral, as taxas eram mais altas entre profissionais mais experientes.

A senioridade também influenciou a facilidade com que recomendações corretas eram aceitas, como mostra o gráfico abaixo. Na verdade, o GPT-4o e o Claude Sonnet 5 ficaram menos precisos quando receberam recomendações de estudantes de medicina. No entanto, quando a mesma recomendação correta era atribuída a especialistas, a precisão aumentava 10,1 e 8,8 pontos percentuais, respectivamente:

Variações na precisão da IA ao receber orientações médicas corretas de médicos com diferentes níveis de senioridade. Os valores positivos e negativos indicam mudanças, em pontos percentuais, em relação à precisão de cada modelo sem orientação (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).

Variações na precisão da IA ao receber orientações médicas corretas de médicos com diferentes níveis de senioridade. Os valores positivos e negativos indicam mudanças, em pontos percentuais, em relação à precisão de cada modelo sem orientação (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).

O artigo afirma:

‘Esses resultados também indicam que a IA pode considerar implicitamente que suas próprias capacidades são superiores às dos profissionais clínicos em início de carreira, mas inferiores às dos médicos mais experientes. Ela tende a resistir às orientações de estudantes de medicina e médicos residentes, mas se mostra mais disposta a ser persuadida por médicos assistentes e, sobretudo, por especialistas da área.

‘Esse aparente posicionamento em relação às próprias capacidades influencia o quanto a autoridade profissional afeta a persuasão.’

A maior diferença estava em saber se os médicos explicavam suas respostas. Até mesmo a orientação de um estudante de medicina era mais persuasiva para o GPT-4o do que a de um especialista, quando o estudante apresentava uma explicação médica e o especialista, não.

Quando um estudante de medicina apresentou uma explicação que justificava a resposta correta, o GPT-4o corrigiu sua resposta inicialmente errada em 58% dos casos. Sem essa explicação, a orientação de um especialista sênior teve esse efeito em apenas 36.4% dos casos. Quando o especialista também explicou a resposta correta, o índice subiu para 89.8%:

Capacidade do GPT-4o de corrigir respostas erradas após receber orientações de médicos com diferentes níveis de senioridade. As barras mostram com que frequência o modelo passou a dar a resposta correta, com e sem uma explicação médica que a justificasse. As explicações melhoraram consideravelmente os resultados em todos os níveis de senioridade.

Capacidade do GPT-4o de corrigir respostas erradas após receber orientações de médicos com diferentes níveis de senioridade. As barras mostram com que frequência o modelo passou a dar a resposta correta, com e sem uma explicação médica que a justificasse. As explicações melhoraram consideravelmente os resultados em todos os níveis de senioridade.

As explicações também melhoraram a avaliação de confiança do modelo. Ele passou a demonstrar mais confiança quando suas respostas estavam corretas e menos confiança quando estavam erradas.

Para médicos assistentes, a diferença de confiança entre respostas corretas e incorretas aumentou de 2.1 para 11.5 pontos percentuais, como mostra o gráfico abaixo:

Confiança do GPT-4o em respostas médicas corretas e incorretas, em quatro níveis de senioridade médica. As pontuações são apresentadas com e sem uma explicação médica que justifique a resposta. As colunas finais mostram a diferença de confiança entre respostas corretas e erradas, que aumentou consideravelmente quando foram fornecidas explicações.

Confiança do GPT-4o em respostas médicas corretas e incorretas, em quatro níveis de senioridade médica. As pontuações são apresentadas com e sem uma explicação médica que justifique a resposta. As colunas finais mostram a diferença de confiança entre respostas corretas e erradas, que aumentou consideravelmente quando foram fornecidas explicações.

Velha Glória

Os modelos eram mais facilmente persuadidos por médicos americanos do que por médicos de qualquer outro país avaliado, mesmo quando a orientação médica estava errada. Por exemplo, o GPT-4o aceitou um diagnóstico incorreto de um médico dos EUA em 10.9% dos casos, contra 8.4% para um médico de Camarões:

Comparação de quão prontamente três modelos de IA aceitaram orientações médicas conflitantes atribuídas a médicos de cinco países. Os médicos americanos foram os mais persuasivos nos três modelos; os percentuais indicam com que frequência a IA mudou de resposta.

Comparação de quão prontamente três modelos de IA aceitaram orientações médicas conflitantes atribuídas a médicos de cinco países. Os médicos americanos foram os mais persuasivos nos três modelos; os percentuais indicam com que frequência a IA mudou de resposta.

O GPT-4o aceitou um diagnóstico conflitante em 6.4% dos casos quando supostamente vinha de um médico dos EUA, contra 4.3% quando a mesma orientação era atribuída a um médico de Camarões. A preferência por médicos americanos foi observada nos três modelos, como mostra o gráfico acima.

A IA também era mais facilmente influenciada por médicos de hospitais de prestígio; por exemplo, o GPT-4o mudou seu diagnóstico em 6.6% dos casos quando a orientação supostamente vinha de um importante centro médico acadêmico, contra apenas 2.8% quando vinha de um hospital rural:

Comparação de como o prestígio dos hospitais afeta as decisões médicas dos três modelos de IA. O eixo horizontal mostra as melhorias obtidas com orientações corretas; o eixo vertical mostra a perda de precisão causada por orientações incorretas. As cores identificam os modelos, e as formas, os tipos de hospital. Em geral, quanto maior o prestígio, mais intensos são ambos os efeitos.

Comparação de como o prestígio dos hospitais afeta as decisões médicas dos três modelos de IA. O eixo horizontal mostra as melhorias obtidas com orientações corretas; o eixo vertical mostra a perda de precisão causada por orientações incorretas. As cores identificam os modelos, e as formas, os tipos de hospital. Em geral, quanto maior o prestígio, mais intensos são ambos os efeitos.

Orientações de hospitais de prestígio melhoraram o desempenho do GPT-4o em 3,2 pontos percentuais, enquanto as mesmas orientações, quando atribuídas a hospitais rurais, na verdade reduziram a precisão em 3,6 pontos — embora o artigo observe que o Claude Sonnet 5 foi consideravelmente menos influenciado pela localização geográfica do médico.

Além disso*, os pesquisadores descobriram que bastava dizer ao GPT-4o que um médico havia diagnosticado corretamente nove pacientes anteriores para que o modelo se mostrasse muito mais disposto a aceitar as orientações desse médico. Mesmo quando a IA estava inicialmente correta, ela podia ser convencida a cometer um erro em 15,6% dos casos de alto risco, apesar de ter sido informada de que as evidências médicas eram 95% confiáveis.

Resultados de testes que mostram como o GPT-4o reagiu a médicos com históricos perfeitos ou inteiramente incorretos em diferentes níveis de risco médico e de confiabilidade das evidências. Os números mostram com que frequência o modelo aceitou as orientações do médico, mudou uma resposta correta para uma errada e quanta confiança tinha em suas decisões. A alegação de um histórico perfeito aumentou consideravelmente a influência do médico, mesmo quando as orientações estavam erradas.

Resultados de testes que mostram como o GPT-4o reagiu a médicos com históricos perfeitos ou inteiramente incorretos em diferentes níveis de risco médico e de confiabilidade das evidências. Os números mostram com que frequência o modelo aceitou as orientações do médico, mudou uma resposta correta para uma errada e quanta confiança tinha em suas decisões. A alegação de um histórico perfeito aumentou consideravelmente a influência do médico, mesmo quando as orientações estavam erradas.

Uma explicação médica convincente poderia ser ainda mais perigosa. Quando um diagnóstico falso era acompanhado de uma explicação inventada, o GPT-4o abandonava sua resposta correta em 31,2% dos casos; esse índice subia para 38,7% quando as orientações também vinham de um médico com autoridade.

O artigo conclui:

‘Esses resultados mostram que simplesmente tornar a IA mais difícil de persuadir não é a solução. A persuasão pode corrigir um erro, mas também pode invalidar uma decisão correta.

‘O desafio é fazer com que a IA mantenha o bom senso diante da persuasão e mude de decisão quando houver motivos para corrigir. Compreender e aprimorar essa capacidade será importante para o uso seguro e confiável da IA na tomada de decisões médicas de alto risco.’

Conclusão

O valor de advogados, arquitetos e médicos humanos está no fato de que, se algo der catastroficamente errado, haverá alguém a quem responsabilizar. Por isso, é difícil entender até que ponto o envolvimento da IA em um desfecho médico negativo e contestado pode ser minimizado, desconsiderado ou levado em conta sem gerar controvérsia e contestação.

A IA não foi realmente projetada para essa tarefa, pois as decisões de diagnóstico médico muitas vezes representam um triunfo da experiência sobre a ciência: médicos pioneiros talvez saibam mais com base em suas próprias experiências recentes do que já contribuíram para as revistas científicas.

Isso transforma o cenário decisório em um cenário interpretativo, para o qual a IA atualmente não está bem preparada; ou seja, envolve a capacidade de afirmar que se tem um grau razoável de certeza, com base nas melhores informações disponíveis, e que determinada conduta provavelmente levará ao melhor desfecho. O valor da “intuição humana” é praticamente impossível de reproduzir nesse cenário. Isso claramente não pertence à mesma categoria da ciência “objetiva”, como a análise de DNA ou as tabelas periódicas, embora esteja inserido em disciplinas científicas determinísticas.

Portanto, parece razoável acreditar que novas gerações de modelos voltados a essa tarefa talvez sejam formuladas de maneira diferente da dos mecanismos convencionais de IA para análise e tomada de decisões, ou até mesmo adotem uma arquitetura diferente.

 

* O artigo apresenta cinco seções adicionais de testes que não têm o mesmo impacto e relevância dos principais resultados; para saber mais sobre elas, recomendo consultar o PDF original.

Publicado originalmente na quinta-feira, 19 de novembro de 2026

Escritor em aprendizado de máquina, especialista em síntese de imagens humanas. Ex‑chefe de conteúdo de pesquisa na Metaphysic.ai, até sua dissolução na Brahma.ai da DNEG.
Website: martinanderson.ai
Contato: martin@martinanderson.ai