Artigo Examina Como Reduzir o Risco de Usar IA na Medicina

Programas de inteligência artificial são capazes de melhorar a saúde de várias maneiras diferentes. Por exemplo, aplicações de IA podem usar visão computacional para ajudar os médicos a diagnosticar condições a partir de radiografias e ressonâncias magnéticas. Algoritmos de aprendizado de máquina também podem ser usados para ajudar a reduzir as taxas de falsos positivos, extrair padrões sutis dos dados que os humanos podem não ser capazes de encontrar em dados médicos. No entanto, com as possibilidades vêm novos desafios, e recentemente um novo artigo foi publicado na Science que examinou possíveis riscos e estratégias regulatórias para técnicas de aprendizado de máquina médica em um esforço para minimizar quaisquer efeitos colaterais negativos do uso de IA em um contexto médico.

Expansão de Aplicações para IA na Saúde

A IA está vendo suas aplicações no campo médico expandir rapidamente. Desenvolvimentos recentes no campo da saúde, impulsionados pela IA, incluem a criação de uma nova empresa farmacêutica que visa usar a IA para criar novos medicamentos, a criação de sensores de saúde remotos impulsionados por IA e aplicativos de visão computacional que analisam tomografias computadorizadas e radiografias.

Para ser mais preciso, a Genesis Therapeutics é uma startup que visa usar a IA para acelerar o processo de descoberta de medicamentos, esperando criar medicamentos que possam reduzir a gravidade de doenças debilitantes. A Genesis Therapeutics é apenas uma das quase 170 empresas que usam a IA para pesquisar novas formulações de medicamentos. Enquanto isso, em termos de dispositivos de monitoramento de saúde, a iRhythm (IRTC ) e a startup francesa de IA Cardiologs estão usando algoritmos de IA para analisar dados de ECG e monitorar a saúde de pessoas que têm condições cardíacas e estão em risco de complicações. O software projetado pelas empresas pode detectar murmúrios cardíacos, uma condição causada por fluxo sanguíneo turbulento.

Finalmente, um estudo recente que investigou como a visão computacional pode ser aplicada a imagens médicas encontrou que os sistemas de visão computacional performam pelo menos tão bem ou melhor do que radiologistas especializados ao examinar tomografias computadorizadas para encontrar pequenas hemorragias. Os algoritmos usados no estudo foram capazes de renderizar previsões após examinar tomografias computadorizadas por apenas um segundo. Os sistemas de visão computacional também foram capazes de localizar a hemorragia dentro do cérebro.

Então, enquanto os benefícios potenciais do uso de IA na saúde são claros, o que é menos claro é quais novos desafios e riscos surgirão como efeito colateral do uso de IA no campo da saúde.

Regulamentação de um Campo em Expansão

Como o TechXplore relatou, para avaliar os possíveis desvantagens do uso de IA na saúde, um grupo de pesquisadores recentemente publicou um artigo na Science, visando derivar respostas para antecipar possíveis problemas com a IA e explorar soluções potenciais para esses problemas. Problemas que podem surgir do uso de IA no campo da saúde incluem a recomendação inadequada de tratamentos que resultam em lesões, preocupações com a privacidade e viés algorítmico/desigualdade.

A FDA apenas aprovou a IA médica que usa algoritmos “trancados”, algoritmos que produzem consistentemente o mesmo resultado a cada vez que são executados. No entanto, grande parte do potencial da IA reside em sua capacidade de aprender e responder a novos tipos de entradas. Para permitir que algoritmos “adaptáveis” sejam mais usados e aprovados pela FDA, os autores do artigo examinaram em detalhes como os riscos relacionados à atualização de algoritmos podem ser mitigados.

Os autores defendem que os engenheiros e pesquisadores de aprendizado de máquina devem se concentrar no monitoramento contínuo de modelos ao longo de toda a vida de sua implantação. Entre as ferramentas sugeridas para monitorar sistemas de IA estava a própria IA, que poderia ajudar a fornecer relatórios automatizados sobre como um sistema de IA está se comportando. Também é possível que vários dispositivos de IA monitorem uns aos outros.

“Para gerenciar os riscos, os reguladores devem se concentrar particularmente no monitoramento contínuo e na avaliação de riscos, e menos no planejamento de mudanças futuras nos algoritmos”, disseram os autores do artigo.

Os autores do artigo também recomendam que os reguladores se concentrem em desenvolver novos métodos para identificar, monitorar, avaliar e gerenciar riscos. O artigo aplica muitas das técnicas que a FDA usou para regular outras formas de tecnologia médica.

Como os autores do artigo explicaram:

“Nosso objetivo é enfatizar os riscos que podem surgir de mudanças inesperadas na forma como os sistemas de IA/ML médicos reagem ou se adaptam a seus ambientes. Atualizações paramétricas sutis, frequentemente não reconhecidas, ou novos tipos de dados podem causar erros grandes e caros.”