Dados Médicos Anonimizados de Décadas Atrás Podem Causar Erros de Diagnóstico de IA Agora

De acordo com uma nova colaboração de pesquisa entre a Alemanha e o Reino Unido, registros de pacientes anonimizados que foram incluídos em conjuntos de dados médicos há décadas podem fazer com que sistemas de IA treinados com eles reconheçam as características do paciente real anos depois – e tratem um paciente de 2026 como se ainda fosse 2012 (ou o ano em que seus dados anonimizados foram incluídos inicialmente no(s) conjunto(s) de dados).

Isso pode significar, por exemplo, que um paciente que foi registrado como recebendo tratamento contra o câncer há 20 anos, e que posteriormente entrou em remissão de longo prazo, poderia agora ser tratado pelo sistema de IA no contexto de sua versão mais antiga, afetada por câncer – aumentando logicamente as chances de um diagnóstico falso de recidiva.

Por outro lado, se a versão de 2012 dos dados desse paciente refletia saúde perfeita em exames de rotina, essa perspectiva otimista poderia ser imposta à versão mais antiga e atual do paciente, mascarando a detecção de novas condições ou problemas que possam necessitar de tratamento.

Do novo artigo, uma ilustração de como o viés de memorização pode afetar um paciente que retorna. Um modelo treinado nos eletrocardiogramas saudáveis anteriores de Alice atribui apenas 15% de probabilidade ao seu posterior ataque cardíaco, comparado a 73% para um modelo que nunca viu seus registros históricos. Fonte

Contendo a ‘Imigração de Dados’

O cenário se torna mais provável devido a várias diretrizes nacionais e regionais que recomendam que os dados de pacientes para esses fins sejam idealmente obtidos no país onde os sistemas derivados deles pretendem ser utilizados, o que ‘localiza’ o conjunto de pacientes nos conjuntos de dados e aumenta notavelmente a chance desse tipo de evento de desanonimização não detectado.

Por inferência, limitar a quantidade de dados disponíveis a apenas um conjunto de dados nacional aumenta a chance de memorização – a possibilidade de que o modelo veja os mesmos dados tantas vezes durante o treinamento que se torne ‘fixado’ nesses padrões excessivamente aprendidos. Por outro lado, quanto maior e mais diversificado for um conjunto de dados, mais provável será que ele generalize para dados não vistos após o treinamento, em vez de memorizar pontos ou configurações de dados específicos.

No entanto, acrescentar dados médicos ‘estrangeiros’ corre o risco de introduzir evidências de tendências de saúde nacionais e idiossincrasias que não se aplicariam no país onde o modelo treinado está sendo implantado; nesse sentido, como o novo artigo admite, certa quantidade de memorização é apropriada e útil, pois ajuda o modelo a operar dentro das características médicas gerais mais prováveis de uma população específica.

O artigo afirma*:

‘[When] modelos são implantados prospectivamente, a memorização cria um risco específico e subestimado. Como os registros de um paciente são altamente auto-similares ao longo do tempo, um registro futuro pode atuar como uma pista parcial para um registro histórico memorizado, deslocando as previsões do modelo em direção ao estado de saúde anterior do paciente.

Este não é um cenário hipotético. Modelos de IA médica são rotineiramente implantados na mesma população de onde seus dados de treinamento foram obtidos.

‘Por exemplo, o programa nacional de rastreamento de câncer de mama da Alemanha programa usa um modelo de IA treinado em 1,2 milhão de mamografias provenientes da mesma população de rastreamento que ele agora atende.

‘Implantações comparáveis estão em andamento em outros lugares, incluindo programas nacionais de rastreamento de câncer de mama no Reino Unido e Suécia.

‘Diretrizes regulatórias incentivam ativamente isso, com o EU AI Act exigindo que os dados de treinamento reflitam o contexto geográfico e situacional do uso pretendido (Art. 10(4)), e diretrizes internacionais semelhantes para o desenvolvimento de IA médica pedindo que a população de pacientes pretendida seja suficientemente representada no conjunto de dados de treinamento de um modelo.’

Calamidade Histórica Persistente..?

Embora o artigo não aborde a questão, parece estatisticamente lógico que pacientes que não (ou não) realizam exames médicos regulares ao longo da vida, e cujos registros anonimizados entram periodicamente no fluxo de dados de IA, tendam a aparecer nos dados de pacientes anonimizados quase exclusivamente nos momentos em que necessitaram de tratamento – o que tenderia a aumentar a chance de ‘projetar’ uma condição curada há muito tempo no mesmo paciente agora, já que os registros não têm um contrapeso de ‘boa saúde’.

Isso é confirmado por pesquisas anteriores sobre ‘viés de presença informada’ em registros eletrônicos de saúde, que constatam que os conjuntos de dados médicos representam desproporcionalmente períodos em que os pacientes estão doentes e interagindo com os serviços de saúde.

Um estudo constatou que pacientes gravemente enfermos tiveram 5,05 vezes mais dias com dados laboratoriais e 6,85 vezes mais dias com prescrições de medicamentos do que os pacientes mais saudáveis.

Em 2022, cerca de 76 % dos adultos dos EUA relataram ter feito um check‑up de rotina no ano anterior, definido pelos CDC como um exame físico geral, e não como tratamento para uma condição específica; e na Europa, uma pesquisa multilíngue de 2023 concluiu que 58 % participaram de pelo menos alguns check‑ups preventivos; mas apenas 15 % compareceram a todas as consultas preventivas consideradas relevantes para eles.

A extensão do efeito

O estudo testou o efeito em quatro grandes conjuntos de dados médicos, abrangendo gravações de ECG, radiografias torácicas e prontuários eletrônicos; nomeadamente, o banco de dados de radiografias torácicas MIMIC-CXR e os registros de atendimento de emergência MIMIC-IV-ED, juntamente com MIMIC-ECG e a muito maior coleção de ECGs HEEDB. Os conjuntos de dados variaram em tamanho de dezenas de milhares de pacientes para mais de 1,8 milhão de pessoas.

Os autores observam que o efeito calculado varia consideravelmente, com alterações na probabilidade prevista ultrapassando 70 pontos percentuais em alguns casos:

Resultados que mostram como dados históricos de pacientes alteram previsões posteriores. Os painéis superiores comparam a frequência e a magnitude dessas alterações nos quatro conjuntos de dados; os painéis inferiores mostram como o efeito varia com o tempo desde o último registro de treinamento do paciente. Efeitos significativos tornam‑se menos comuns ao longo do tempo, mas permanecem detectáveis décadas depois.

Como controle, os pesquisadores dividiram aleatoriamente os modelos em grupos e repetiram a comparação, embora isso não tenha produzido alterações significativas nas previsões futuras.

O efeito, observa o artigo, pode também persistir por décadas. Embora geralmente tenha se tornado mais fraco e menos comum à medida que o intervalo entre os registros aumentou, o conjunto de dados HEEDB, que contém ECGs coletados dos anos 1980 a 2025, mostrou alterações significativas nas previsões por mais de 25 anos após o registro de treinamento mais recente do paciente.

Dano diagnóstico

Os pesquisadores do novo artigo – intitulado Memorisation bias in medical AI – simularam a seguir como a memorização poderia afetar a precisão diagnóstica quando pacientes posteriormente encontrarem um modelo treinado com seus registros anteriores.

Os casos futuros foram divididos de acordo com se o paciente havia desenvolvido uma nova condição; ausente de seus dados históricos de treinamento; ou se retornava com essencialmente o mesmo estado de saúde.

Para novas condições, o efeito mostrou‑se consistentemente negativo, com modelos que haviam visto previamente os registros históricos do paciente apresentando menor sensibilidade em uma variedade de diagnósticos representados nos quatro conjuntos de dados. Isso incluiu infartos e outras anomalias de ECG; condições pulmonares; e resultados críticos mais amplos.

Em termos práticos, os modelos produziram mais falsos negativos quando a saúde do paciente mudou; mas quando a saúde do paciente não mudou, a memória do modelo de seus registros anteriores tornou‑se mais provável de gerar o diagnóstico correto. Tanto a sensibilidade quanto a especificidade aumentaram porque a condição atual do paciente se assemelhava à condição já representada nos dados de treinamento.

Os autores observam que isso pode tornar tais sistemas difíceis de avaliar com precisão: se a maioria dos pacientes que retornam ainda tem as mesmas condições, o modelo terá melhor desempenho neles, potencialmente ocultando sua menor sensibilidade para pacientes que desenvolveram novas condições.

Remédios

Como possível salvaguarda, os pesquisadores testaram privacidade diferencial (que limita a quantidade de informação sobre qualquer exemplo individual de treinamento que um modelo pode reter) durante o treinamento.

Embora proteger registros individuais tenha reduzido o efeito de memorização, não o eliminou, mesmo na configuração mais forte testada. Aplicar a proteção ao nível do paciente, abrangendo todos os registros pertencentes à mesma pessoa, foi muito mais eficaz e quase eliminou o efeito.

Deve‑se observar, porém, que se um conjunto de dados foi anonimizado de forma irrecuperável, os dados do paciente não podem ser isolados de modo que permita tais métodos; e, os pesquisadores observam, se o conjunto de dados não for treinado com privacidade diferencial habilitada, ataques de inferência de associação tornam‑se um risco; se for, os recursos necessários para o treinamento aumentam notavelmente.

Conclusão

Os autores concluem observando que, embora os incidentes preocupantes ocorram atualmente a uma taxa relativamente baixa, isso pode mudar no futuro*:

‘Há razão para esperar que o número de diagnósticos perdidos atribuíveis ao viés de memorização aumente no futuro, embora não testemos isso diretamente. Pesquisas anteriores mostraram que a proporção de dados de treinamento que um modelo memoriza aumenta com a capacidade do modelo [6, 7, 9, 10, 40].’

‘Isso é preocupante, dado que o desenvolvimento atual de modelos de IA é guiado pelas “leis de escala” [41], que impulsionam o rápido crescimento tanto dos tamanhos dos modelos quanto dos conjuntos de dados na busca por desempenho aprimorado. ‘

‘À medida que modelos de IA maiores são treinados com dados históricos provenientes de populações de pacientes cada vez maiores, o número absoluto de indivíduos afetados pelo viés de memorização provavelmente aumentará drasticamente, agravando os riscos que identificamos aqui.’

* Minha conversão das citações inline dos autores em hyperlinks, com alguma interpretação onde a replicação exata não é possível ou útil.

Primeira publicação sexta‑feira, 18 de setembro de 2026