Quando Evitar o Uso de IA na Saúde

Quando uma nova tecnologia surge em uma indústria, pode haver a tentação de considerá-la como uma solução para todos os problemas da indústria. A IA na saúde é um exemplo disso. À medida que a tecnologia continua a avançar, ela tem sido adotada para casos de uso em desenvolvimento de medicamentos, coordenação de cuidados e reembolso, para citar alguns. Existem muitos casos de uso legítimos para a IA na saúde, onde a tecnologia é muito melhor do que qualquer alternativa atualmente disponível.

No entanto, a IA – como está hoje – só é boa em certas tarefas, como entender grandes quantidades de dados e fazer julgamentos com base em regras bem definidas. Outras situações, particularmente aquelas em que o contexto adicional é essencial para tomar a decisão certa, não são bem adaptadas para a IA. Vamos explorar alguns exemplos.

Negando Reclamações e Cuidados

Seja para uma reclamação ou cuidado, as negações são decisões complexas e muito importantes para serem tratadas apenas pela IA. Ao negar uma reclamação ou cuidado, há um imperativo moral óbvio para fazê-lo com a máxima cautela, e com base nas capacidades atuais da IA, isso exige a entrada humana.

Além do elemento moral, os planos de saúde se colocam em risco quando confiam demais na IA para tomar decisões de negação. Os planos podem, e estão, enfrentando processos judiciais por usar a IA de forma inadequada para negar reclamações, com litígios acusando os planos de não atender aos requisitos mínimos para revisão médica porque a IA foi usada em vez disso.

Confiantes em Decisões Passadas

Confiar na IA para tomar decisões com base apenas em como ela tomou uma decisão anterior tem uma falha óbvia: uma decisão errada do passado viverá para influenciar outras. Além disso, porque as regras de política que informam a IA são frequentemente distribuídas por sistemas ou imperfeitamente codificadas por humanos, os sistemas de IA podem acabar adotando e, em seguida, perpetuando, uma compreensão inexata dessas políticas. Para evitar isso, as organizações precisam criar uma fonte única de verdade política, para que a IA possa se referir e aprender a partir de um conjunto de dados confiável.

Construindo em Sistemas Legados

Como uma tecnologia relativamente nova, a IA traz uma sensação de possibilidade, e muitas equipes de ciência de dados de planos de saúde estão ansiosas para aproveitar essa possibilidade rapidamente, aproveitando as ferramentas de IA já integradas às plataformas empresariais existentes. O problema é que os processos de reclamações de saúde são extremamente complexos, e as plataformas empresariais frequentemente não entendem as nuances. Colocar a IA em cima dessas plataformas legadas como uma solução de tamanho único (que não leva em conta todos os fatores variados que afetam a adjudicação de reclamações) acaba causando confusão e imprecisão, em vez de criar processos mais eficientes.

Inclinando-se para Dados Antigos

Um dos maiores benefícios da IA é que ela melhora cada vez mais na orquestração de tarefas à medida que aprende, mas esse aprendizado só pode ocorrer se houver um loop de feedback constante que ajude a IA a entender o que ela fez de errado, para que possa ajustar-se adequadamente. Esse feedback deve não apenas ser constante, mas também baseado em dados limpos e precisos. Afinal, a IA é apenas tão boa quanto os dados que ela aprende.

Quando a IA na Saúde É Benéfica

O uso de IA em um setor onde as saídas são tão consequenciais quanto a saúde certamente requer cautela, mas isso não significa que não existam casos de uso em que a IA faça sentido.

Por um lado, não há falta de dados na saúde (considere que o registro médico de uma pessoa pode ter milhares de páginas), e os padrões dentro desses dados podem nos dizer muito sobre o diagnóstico de doenças, a adjudicação correta de reclamações e mais. É aqui que a IA se destaca, procurando padrões e sugerindo ações com base nesses padrões que os revisores humanos podem seguir.

Outra área em que a IA se destaca é no catálogo e ingestão de políticas e regras que governam como as reclamações são pagas. IA geradora (GenAI) pode ser usada para transformar esse conteúdo de política de vários formatos em código legível por máquina que pode ser aplicado consistentemente em todas as reclamações de pacientes. A GenAI também pode ser usada para resumir informações e exibi-las em um formato fácil de ler para um humano revisar.

A linha principal que permeia todos esses casos de uso é que a IA está sendo usada como um co-piloto para humanos que a supervisionam, e não como o show principal. Desde que as organizações possam manter essa ideia em mente ao implementar a IA, elas estarão em uma posição para ter sucesso durante essa era em que a saúde está sendo transformada pela IA.