Inteligência Artificial na Saúde Pode Trazer Riscos Juntamente com Oportunidades

A inteligência artificial (IA) tem um enorme potencial no campo da saúde, capaz de melhorar diagnósticos e encontrar novos medicamentos mais eficazes. No entanto, como discutido em um artigo recente da Scientific American, a velocidade com que a IA está penetrando no campo da saúde também abre muitos novos desafios e riscos.

Ao longo dos últimos cinco anos, a FDA (Agência de Alimentos e Medicamentos dos EUA) aprovou mais de 40 produtos de IA diferentes. No entanto, como relatado pela Scientific American, nenhum dos produtos liberados para venda nos EUA teve seu desempenho avaliado em ensaios clínicos controlados randomizados. Muitas ferramentas médicas de IA não exigem sequer aprovação da FDA.

Evan Topol, autor de “Deep Medicine: Como a Inteligência Artificial Pode Tornar a Saúde Mais Humana”, afirmou à Scientific American que muitos dos produtos de IA que alegam ser eficazes em tarefas como diagnóstico de doenças não foram testados rigorosamente, com o primeiro ensaio clínico randomizado de uma ferramenta de detecção e diagnóstico de IA sendo realizado no último outubro. Além disso, poucas startups de tecnologia publicam seus artigos de pesquisa em periódicos revisados por pares, onde seu trabalho será analisado por cientistas.

Quando testados e controlados adequadamente, os sistemas de IA podem ser ferramentas poderosas que ajudam os profissionais de saúde a detectar sintomas não notados, melhorando os resultados de saúde.

Como exemplo, uma ferramenta de IA para detectar doença ocular diabética foi testada em centenas de pacientes e pareceu ser confiável. A empresa responsável pelo teste trabalhou com a FDA por mais de oito anos para aprimorar o produto. O teste, IDx-DR, está sendo introduzido em clínicas de atenção primária, onde pode potencialmente ajudar a detectar sinais precoces de retinopatia diabética, encaminhando pacientes a especialistas em olhos se sintomas suspeitos forem encontrados.

Se não forem testados cuidadosamente, os sistemas de IA que os profissionais de saúde podem usar para orientar seu diagnóstico e tratamento têm o potencial de criar danos em vez de evitá-los.

O artigo da Scientific American detalha um problema potencial com a confiança na IA para diagnosticar doenças, apontando o exemplo de uma IA destinada a analisar radiografias de tórax e detectar quais pacientes podem desenvolver pneumonia. Embora o sistema tenha se mostrado preciso quando testado no Hospital Mount Sinai, em Nova York, ele falhou quando testado em imagens tiradas em outros hospitais. Os pesquisadores descobriram que a IA estava distinguindo entre imagens criadas por sistemas de raios-X portáteis e aquelas criadas em um departamento de radiologia. Os médicos usam sistemas de raios-X portáteis em pacientes que muitas vezes estão muito doentes para deixar suas camas, e esses pacientes têm um maior risco de desenvolver pneumonia.

Alarmes falsos também são uma preocupação. A DeepMind criou um aplicativo móvel de IA capaz de prever a insuficiência renal aguda em pacientes hospitalizados até 48 horas antes. No entanto, o sistema relatou também dois alarmes falsos para cada insuficiência renal que foi prevista com sucesso. Falsos positivos podem ser prejudiciais, pois podem encorajar os médicos a gastar tempo e recursos desnecessários ordenando exames adicionais ou alterando tratamentos prescritos.

Em outro incidente, um sistema de IA concluiu incorretamente que os pacientes que tinham pneumonia eram mais propensos a sobreviver se tivessem asma, o que poderia levar os médicos a alterar os tratamentos para pacientes com asma.

Os sistemas de IA desenvolvidos para um hospital muitas vezes têm um desempenho ruim quando são usados em um hospital diferente. Há várias causas para isso. Em primeiro lugar, os sistemas de IA são frequentemente treinados em registros eletrônicos de saúde, mas muitos registros eletrônicos de saúde são incompletos ou incorretos, pois seu propósito principal é frequentemente a cobrança e não o cuidado ao paciente. Por exemplo, uma investigação realizada pela KHN descobriu que, ocasionalmente, havia erros de vida ou morte nos registros médicos dos pacientes, como listas de medicamentos que continham medicamentos impróprios. Além disso, as doenças são frequentemente mais complicadas, e o sistema de saúde é mais complexo do que pode ser antecipado por engenheiros e cientistas de IA.

À medida que a IA se torna cada vez mais prolífica, será importante para os desenvolvedores de IA trabalharem ao lado das autoridades de saúde para garantir que seus sistemas de IA sejam testados apropriadamente e para que os órgãos reguladores garantam que os padrões sejam estabelecidos e seguidos para a confiabilidade das ferramentas de diagnóstico de IA.