Quando Evitar a IA na Saúde

Sempre que um novo avanço tecnológico se torna parte de uma indústria, pode haver uma tentação de considerar esse brinquedo novo e brilhante como uma solução para todos os problemas da indústria. A IA na saúde é um grande exemplo. À medida que a tecnologia continua a avançar, ela tem sido adotada para casos de uso no desenvolvimento de medicamentos, coordenação de cuidados e reembolso, para citar alguns. Existem muitos casos de uso legítimos para a IA na saúde, onde a tecnologia é muito melhor do que qualquer alternativa atualmente disponível.

No entanto, a IA – como está hoje – é excelente apenas em certas tarefas, como entender grandes quantidades de dados e fazer julgamentos com base em regras bem definidas. Outras situações, particularmente onde o contexto adicional é essencial para tomar a decisão certa, não são bem adaptadas para a IA. Vamos explorar alguns exemplos.

Negando Reivindicações e Cuidados

Seja para uma reivindicação ou cuidado, as negações são decisões complexas e muito importantes para serem tratadas apenas pela IA. Ao negar uma reivindicação ou cuidado, há um imperativo moral óbvio para fazê-lo com a máxima cautela, e com base nas capacidades da IA hoje, isso exige entrada humana.

Além do elemento moral, os planos de saúde se colocam em risco quando confiam demais na IA para tomar decisões de negação. Os planos podem, e estão, enfrentando processos judiciais, por usar a IA de forma inadequada para negar reivindicações, com litígios acusando os planos de não atender aos requisitos mínimos de revisão médica porque a IA foi usada em vez disso.

Confiar em Decisões Passadas

Confiar na IA para tomar decisões com base apenas em como ela tomou uma decisão anterior tem uma falha óbvia: uma decisão errada do passado viverá para influenciar outras. Além disso, porque as regras de política que informam a IA são frequentemente distribuídas por sistemas ou imperfeitamente codificadas por humanos, os sistemas de IA podem acabar adotando e, em seguida, perpetuando, uma compreensão inexata dessas políticas. Para evitar isso, as organizações precisam criar uma única fonte de verdade de política, para que a IA possa se referir e aprender a partir de um conjunto de dados confiável.

Construindo em Sistemas Legados

Como uma tecnologia relativamente nova, a IA traz um senso de possibilidade, e muitas equipes de ciência de dados de planos de saúde estão ansiosas para aproveitar essa possibilidade rapidamente, utilizando ferramentas de IA já construídas em plataformas empresariais existentes. O problema é que os processos de reivindicação de saúde são extremamente complexos, e as plataformas empresariais frequentemente não entendem as nuances. Colocar a IA em cima dessas plataformas legadas como uma solução de um tamanho que se ajusta a todos (que não leva em conta todos os fatores variados que afetam a adjudicação de reivindicações) acaba causando confusão e imprecisão, em vez de criar processos mais eficientes.

Inclinando-se para Dados Antigos

Um dos maiores benefícios da IA é que ela melhora cada vez mais na orquestração de tarefas à medida que aprende, mas esse aprendizado só pode ocorrer se houver um loop de feedback constante que ajude a IA a entender o que ela fez de errado, para que possa ajustar-se de acordo. Esse feedback não apenas deve ser constante, mas também deve ser baseado em dados limpos e precisos. Afinal, a IA é apenas tão boa quanto os dados que ela aprende.

Quando a IA na Saúde É Benéfica

O uso da IA em um setor onde as saídas são tão consequenciais quanto a saúde certamente requer cautela, mas isso não significa que não existam casos de uso onde a IA faz sentido.

Por um lado, não há falta de dados na saúde (considere que o registro médico de uma pessoa pode ter milhares de páginas), e os padrões dentro desses dados podem nos dizer muito sobre o diagnóstico de doenças, a adjudicação correta de reivindicações e mais. É aqui que a IA se destaca, procurando padrões e sugerindo ações com base nesses padrões que revisores humanos podem seguir.

Outra área onde a IA se destaca é no catálogo e ingestão de políticas e regras que governam como as reivindicações são pagas. IA geradora (GenAI) pode ser usada para transformar esse conteúdo de política de vários formatos em código legível por máquina que pode ser aplicado consistentemente em todas as reivindicações de pacientes. A GenAI também pode ser usada para resumir informações e exibi-las em um formato fácil de ler para um humano revisar.

A linha principal que perpassa todos esses casos de uso é que a IA está sendo usada como um co-piloto para humanos que a supervisionam, e não como o principal responsável. Desde que as organizações possam manter essa ideia em mente ao implementar a IA, elas estarão em uma posição para ter sucesso durante essa era em que a saúde está sendo transformada pela IA.