Inteligência Artificial Gerativa na Indústria de Saúde Precisa de uma Dose de Explicabilidade

A velocidade notável com que as ferramentas de inteligência artificial gerativa baseadas em texto podem concluir tarefas de escrita e comunicação de alto nível tem tocado uma corda com as empresas e os consumidores. Mas os processos que ocorrem nos bastidores para permitir essas capacidades impressionantes podem tornar arriscado para indústrias sensíveis e regulamentadas pelo governo, como seguros, finanças ou saúde, aproveitar a inteligência artificial gerativa sem empregar considerável cautela.

Alguns dos exemplos mais ilustrativos disso podem ser encontrados na indústria de saúde.

Essas questões são normalmente relacionadas aos conjuntos de dados extensos e diversificados usados para treinar os Grandes Modelos de Linguagem (LLMs) – os modelos que as ferramentas de inteligência artificial gerativa baseadas em texto se alimentam para realizar tarefas de alto nível. Sem intervenção explícita de programadores, esses LLMs tendem a coletar dados indiscriminadamente de várias fontes na internet para expandir sua base de conhecimento.

Essa abordagem é mais apropriada para casos de uso orientados ao consumidor de baixo risco, nos quais o objetivo final é direcionar os clientes a ofertas desejáveis com precisão. No entanto, cada vez mais, os grandes conjuntos de dados e as vias confusas pelas quais os modelos de IA geram suas saídas estão obscurecendo a explicabilidade que os hospitais e os prestadores de serviços de saúde necessitam para rastrear e prevenir possíveis imprecisões.

Nesse contexto, explicabilidade refere-se à capacidade de entender as vias lógicas de qualquer LLM dado. Os profissionais de saúde que buscam adotar ferramentas de inteligência artificial gerativa assistivas devem ter meios para entender como seus modelos produzem resultados para que os pacientes e o pessoal estejam equipados com total transparência em vários processos de tomada de decisão. Em outras palavras, em uma indústria como a saúde, onde vidas estão em jogo, as apostas são simplesmente muito altas para que os profissionais malinterpretem os dados usados para treinar suas ferramentas de IA.

Felizmente, há uma maneira de contornar o impasse da explicabilidade da inteligência artificial gerativa – apenas requer um pouco mais de controle e foco.

Mistério e Ceticismo

Na inteligência artificial gerativa, o conceito de entender como um LLM vai do Ponto A – a entrada – ao Ponto B – a saída – é muito mais complexo do que com algoritmos não gerativos que seguem padrões mais definidos.

As ferramentas de inteligência artificial gerativa fazem inúmeras conexões enquanto atravessam da entrada para a saída, mas para o observador externo, como e por que elas fazem qualquer série de conexões permanece um mistério. Sem uma maneira de ver o “processo de pensamento” que um algoritmo de IA toma, os operadores humanos carecem de um meio abrangente de investigar seu raciocínio e rastrear possíveis imprecisões.

Além disso, os conjuntos de dados em expansão contínua usados pelos algoritmos de ML complicam ainda mais a explicabilidade. Quanto maior o conjunto de dados, mais provável que o sistema aprenda com informações relevantes e irrelevantes e produza “alucinações de IA” – falsidades que desviam dos fatos externos e da lógica contextual, por mais convincentes que sejam.

Na indústria de saúde, esses tipos de resultados defeituosos podem desencadear uma série de problemas, como diagnósticos errados e prescrições incorretas. Além das consequências éticas, legais e financeiras, esses erros poderiam facilmente danificar a reputação dos prestadores de serviços de saúde e das instituições médicas que representam.

Portanto, apesar de seu potencial para melhorar as intervenções médicas, melhorar a comunicação com os pacientes e fortalecer a eficiência operacional, a inteligência artificial gerativa na saúde permanece envolta em ceticismo, e com razão – 55% dos clínicos não acreditam que esteja pronta para uso médico e 58% desconfiam dela por completo. No entanto, as organizações de saúde estão prosseguindo, com 98% integrando ou planejando uma estratégia de implantação de inteligência artificial gerativa para tentar compensar o impacto da escassez de mão de obra contínua do setor.

Controle a Fonte

A indústria de saúde é frequentemente apanhada de surpresa no clima de consumo atual, que valoriza a eficiência e a velocidade sobre garantir medidas de segurança inabaláveis. As notícias recentes sobre as armadilhas da coleta quase ilimitada de dados para treinar LLMs, levando a processos por violação de direitos autorais, trouxeram essas questões para o primeiro plano. Algumas empresas também enfrentam alegações de que os dados pessoais dos cidadãos foram minerados para treinar esses modelos de linguagem, potencialmente violando leis de privacidade.

Os desenvolvedores de IA para indústrias altamente regulamentadas devem, portanto, exercer controle sobre as fontes de dados para limitar erros potenciais. Ou seja, priorizar a extração de dados de fontes confiáveis e aprovadas pela indústria, em vez de coletar páginas da web externas de forma aleatória e sem permissão expressa. Para a indústria de saúde, isso significa limitar as entradas de dados a páginas de Perguntas Frequentes, arquivos CSV e bancos de dados médicos – entre outras fontes internas.

Se isso soa um pouco limitante, tente procurar um serviço no site de um grande sistema de saúde. As organizações de saúde dos EUA publicam centenas, se não milhares, de páginas informativas em suas plataformas; a maioria está enterrada tão profundamente que os pacientes nunca podem acessá-las. As soluções de inteligência artificial gerativa baseadas em dados internos podem fornecer essas informações aos pacientes de forma conveniente e transparente. Isso é um ganho para todos os lados, pois o sistema de saúde finalmente vê o retorno sobre o investimento nesse conteúdo, e os pacientes podem encontrar os serviços de que precisam instantaneamente e sem esforço.

O Que Vem a Seguir para a Inteligência Artificial Gerativa em Indústrias Regulamentadas?

A indústria de saúde pode se beneficiar da inteligência artificial gerativa de várias maneiras.

Considere, por exemplo, a queima de estoque generalizada que afeta o setor de saúde dos EUA nos últimos tempos – próximo a 50% da força de trabalho está projetada para sair até 2025. Os chatbots de inteligência artificial gerativa poderiam ajudar a aliviar muito da carga de trabalho e preservar as equipes de acesso ao paciente superestendidas.

No lado do paciente, a inteligência artificial gerativa tem o potencial de melhorar os serviços de call center dos prestadores de serviços de saúde. A automação de IA tem o poder de atender a uma ampla gama de consultas por meio de vários canais de contato, incluindo Perguntas Frequentes, problemas de TI, recargas de medicamentos e referências de médicos. Além da frustração que vem com esperar na linha, apenas cerca da metade dos pacientes dos EUA consegue resolver seus problemas na primeira ligação, resultando em altas taxas de abandono e acesso prejudicado aos cuidados. A baixa satisfação do cliente cria ainda mais pressão para que a indústria atue.

Para a indústria realmente se beneficiar da implementação da inteligência artificial gerativa, os prestadores de serviços de saúde precisam facilitar a reestruturação intencional dos dados que seus LLMs acessam.