A Inteligência Artificial Pode Ser Amiga ou Inimiga na Melhoria da Equidade em Saúde. Aqui está Como Garantir que Ela Ajude, Não Machuque

As desigualdades e disparidades em saúde são generalizadas em divisões socioeconômicas, raciais e de gênero. Como sociedade, temos uma responsabilidade moral, ética e econômica para fechar essas lacunas e garantir acesso consistente, justo e acessível a serviços de saúde para todos.

A Inteligência Artificial (IA) ajuda a resolver essas disparidades, mas também é uma espada de dois gumes. Certamente, a IA já está ajudando a otimizar a entrega de cuidados, permitir a medicina personalizada em larga escala e apoiar descobertas inovadoras. No entanto, os vieses inerentes nos dados, algoritmos e usuários podem piorar o problema se não tivermos cuidado.

Isso significa que aqueles de nós que desenvolvem e implantam soluções de saúde impulsionadas por IA devem ter cuidado para evitar que a IA amplie involuntariamente as lacunas existentes, e os órgãos governamentais e associações profissionais devem desempenhar um papel ativo no estabelecimento de limites para evitar ou mitigar vieses.

Aqui está como a utilização da IA pode ajudar a reduzir as lacunas de desigualdade em vez de ampliá-las.

Alcançar a Equidade nos Ensaios Clínicos

Muitos novos ensaios de drogas e tratamentos têm sido historicamente viesados em seu design, seja intencionalmente ou não. Por exemplo, até 1993, as mulheres não eram obrigadas por lei a ser incluídas em pesquisas clínicas financiadas pelo NIH. Mais recentemente, as vacinas contra a COVID-19 nunca foram testadas intencionalmente em mulheres grávidas — foi apenas porque algumas participantes dos ensaios estavam grávidas no momento da vacinação que sabemos que é seguro.

Um desafio com a pesquisa é que não sabemos o que não sabemos. No entanto, a IA ajuda a descobrir conjuntos de dados viesados analisando dados populacionais e sinalizando representações desproporcionais ou lacunas na cobertura demográfica. Garantindo a representação diversa e treinando modelos de IA com dados que representam com precisão as populações-alvo, a IA ajuda a garantir a inclusividade, reduzir danos e otimizar resultados.

Garantir Tratamentos Equitativos

É bem estabelecido que as mulheres negras grávidas que experimentam dor e complicações durante o parto são frequentemente ignoradas, resultando em uma taxa de mortalidade materna 3 vezes maior para as mulheres negras do que para as mulheres não hispânicas brancas independentemente da renda ou educação. O problema é amplamente perpetuado por vieses inerentes: há uma concepção errônea generalizada entre os profissionais de saúde de que as pessoas negras têm uma maior tolerância à dor do que as pessoas brancas.

O viés nos algoritmos de IA pode piorar o problema: os pesquisadores de Harvard descobriram que um algoritmo comum previa que as mulheres negras e latinas tinham menos chances de ter partos vaginais bem-sucedidos após uma cesariana (VBAC), o que pode ter levado os médicos a realizar mais cesarianas em mulheres de cor. No entanto, os pesquisadores descobriram que “a associação não é apoiada pela plausibilidade biológica”, sugerindo que a raça é “um proxy para outras variáveis que refletem o efeito do racismo na saúde”. O algoritmo foi posteriormente atualizado para excluir raça ou etnia ao calcular o risco.

Isso é uma aplicação perfeita para a IA para erradicar o viés implícito e sugerir (com evidências) caminhos de cuidado que podem ter sido anteriormente negligenciados. Em vez de continuar a praticar “cuidado padrão”, podemos usar a IA para determinar se essas melhores práticas são baseadas na experiência de todas as mulheres ou apenas das mulheres brancas. A IA ajuda a garantir que nossas bases de dados incluam os pacientes que têm mais a ganhar com os avanços em saúde e tecnologia.

Embora possa haver condições em que a raça e a etnia possam ser fatores impactantes, devemos ter cuidado para saber como e quando eles devem ser considerados e quando estamos simplesmente recorrendo a vieses históricos para informar nossas percepções e algoritmos de IA.

Fornecer Estratégias de Prevenção Equitativas

As soluções de IA podem facilmente negligenciar certas condições em comunidades marginalizadas sem uma consideração cuidadosa para o viés potencial. Por exemplo, a Administração de Veteranos está trabalhando em vários algoritmos para prever e detectar sinais de doença cardíaca e ataques cardíacos. Isso tem um tremendo potencial de salvar vidas, mas a maioria dos estudos historicamente não incluiu muitas mulheres, para as quais a doença cardíaca é a principal causa de morte. Portanto, é desconhecido se esses modelos são tão eficazes para as mulheres, que frequentemente apresentam sintomas muito diferentes dos homens.

Incluir um número proporcional de mulheres nesse conjunto de dados pode ajudar a prevenir alguns dos 3,2 milhões de ataques cardíacos e meio milhão de mortes relacionadas ao coração anualmente nas mulheres por meio da detecção e intervenção precoces. Da mesma forma, novas ferramentas de IA estão removendo os algoritmos baseados em raça na triagem de doenças renais, que historicamente excluíram os negros, hispânicos e nativos americanos, resultando em atrasos no tratamento e maus resultados clínicos.

Em vez de excluir indivíduos marginalizados, a IA pode realmente ajudar a prever riscos de saúde para populações subatendidas e permitir avaliações de risco personalizadas para melhor direcionar intervenções. Os dados podem já estar lá; é apenas uma questão de “ajustar” os modelos para determinar como a raça, gênero e outros fatores demográficos afetam os resultados — se é que o fazem.

Otimizar Tarefas Administrativas

Além de afetar diretamente os resultados dos pacientes, a IA tem um potencial incrível para acelerar os fluxos de trabalho nos bastidores para reduzir as disparidades. Por exemplo, as empresas e os prestadores de serviços já estão usando a IA para preencher lacunas na codificação de reivindicações e na adjudicação, validar códigos de diagnóstico contra anotações de médicos e automatizar processos de pré-autorização para procedimentos diagnósticos comuns.

Ao otimizar essas funções, podemos reduzir drasticamente os custos operacionais, ajudar os escritórios de prestadores de serviços a funcionar de forma mais eficiente e dar ao pessoal mais tempo para passar com os pacientes, tornando assim os cuidados exponencialmente mais acessíveis e acessíveis.

Cada um de Nós Tem um Papel Importante a Desempenhar

O fato de termos essas ferramentas incríveis à nossa disposição torna ainda mais imperativo que as usemos para erradicar e superar os vieses em saúde. Infelizmente, não há um órgão certificador nos EUA que regule os esforços para usar a IA para “desviar” a entrega de saúde, e mesmo para as organizações que estabeleceram diretrizes, não há incentivo regulatório para cumpri-las.

Portanto, a responsabilidade é nossa, como praticantes de IA, cientistas de dados, criadores de algoritmos e usuários, para desenvolver uma estratégia consciente para garantir a inclusividade, a diversidade de dados e o uso equitativo dessas ferramentas e insights.

Para fazer isso, a integração e interoperabilidade precisam ser essenciais. Com tantas fontes de dados — desde dispositivos portáteis e provedores de laboratórios e imagens de terceiros até registros de cuidados primários, trocas de informações de saúde e registros de pacientes internados —, devemos integrar todos esses dados para que as peças-chave sejam incluídas, independentemente do formato da fonte. A indústria precisa de normalização de dados, padronização e correspondência de identidade para garantir que os dados essenciais do paciente sejam incluídos, mesmo com grafias de nomes ou convenções de nomenclatura diferentes com base em culturas e idiomas variados.

Também devemos incorporar avaliações de diversidade em nosso processo de desenvolvimento de IA e monitorar o “desvio” em nossas métricas ao longo do tempo. Os praticantes de IA têm a responsabilidade de testar o desempenho do modelo em subgrupos demográficos, realizar auditorias de viés e entender como o modelo toma decisões. Podemos ter que ir além das suposições baseadas em raça para garantir que nossa análise represente a população para a qual estamos construindo. Por exemplo, os membros da tribo indígena Pima que vivem na Reserva do Rio Gila, no Arizona, têm taxas extremamente altas de obesidade e diabetes tipo 2, enquanto os membros da mesma tribo que vivem logo ao lado, nas montanhas Sierra Madre, no México, têm taxas drasticamente mais baixas de obesidade e diabetes, provando que a genética não é o único fator.

Finalmente, precisamos que organizações como a Associação Médica Americana, o Escritório do Coordenador Nacional de Tecnologia de Informação em Saúde e organizações especializadas como o Colégio Americano de Obstetrícia e Ginecologia, Academia Americana de Pediatria, Colégio Americano de Cardiologia e muitas outras trabalhem juntas para estabelecer padrões e estruturas para a troca de dados e acuidade para proteger contra vieses.

Ao padronizar a compartilhamento de dados de saúde e expandir o HTI-1 e HTI-2 para exigir que os desenvolvedores trabalhem com órgãos de credenciamento, ajudamos a garantir a conformidade e corrigir erros passados de desigualdade. Além disso, ao democratizar o acesso a dados de pacientes completos e precisos, podemos remover as cegueiras que perpetuaram o viés e usar a IA para resolver disparidades de cuidados por meio de insights mais abrangentes e objetivos.