Abordando o Ceticismo em Relação à IA na Saúde: Superando Obstáculos para uma Comunicação Segura

Líderes de saúde estão ansiosos para adotar a IA, em parte para manter o ritmo com concorrentes e outras indústrias, mas, mais importante, para aumentar a eficiência e melhorar as experiências dos pacientes. No entanto, apenas 77% dos líderes de saúde realmente confiam na IA para beneficiar seus negócios.

Enquanto os chatbots de IA são excelentes em lidar com tarefas rotineiras, processar dados e resumir informações, a indústria de saúde altamente regulamentada se preocupa principalmente com a confiabilidade e precisão dos dados que são alimentados e interpretados por essas ferramentas. Sem o uso e treinamento adequados dos funcionários, as violações de dados se tornam ameaças adicionais.

Apesar disso, 95% dos líderes de saúde planejam aumentar os orçamentos de IA em até 30% em 2025, com modelos de linguagem grande (LLMs) surgindo como uma das ferramentas mais confiáveis. À medida que os LLMs amadurecem, 53% dos líderes de saúde já implementaram políticas formais para ajudar suas equipes a se adaptar a eles, e outros 39% planejam implementar políticas em breve.

Para os provedores de saúde que desejam otimizar os serviços de comunicação com a IA, mas ainda estão hesitantes em fazê-lo, aqui estão algumas recomendações para superar os principais obstáculos.

1.   Treine a IA com Fontes Médicas Confiáveis

Embora os líderes de saúde possam não estar diretamente envolvidos no treinamento de IA, eles devem desempenhar um papel fundamental na supervisão de sua implementação. Eles devem garantir que os provedores de chatbots estejam treinando e atualizando regularmente sua IA com fontes credíveis.

Os dados ricos e estruturados capturados pelos registros eletrônicos de saúde (EHRs) obrigatórios oferecem vastos repositórios de dados de saúde digitais que agora podem servir como base para o treinamento de algoritmos de IA. Os LLMs avançados podem compreender pesquisas médicas, análises técnicas, revisões de literatura e avaliações críticas. No entanto, em vez de treinar essas ferramentas com todos os dados de uma vez, novas evidências mostram que se concentrar em um número menor de interseções maximiza o desempenho da IA, mantendo o custo de treinamento baixo.

2.   Garanta Práticas de Dados Conformes com o HIPAA

A Lei de Portabilidade e Responsabilidade de Seguro de Saúde (HIPAA) estabelece padrões para a proteção de informações de saúde confidenciais de pacientes (PHI). Para se alinhar com essas regulamentações, os líderes de saúde devem garantir que os fornecedores terceirizados:

• Coletem apenas a quantidade mínima de PHI necessária para cumprir o propósito do chatbot.
• Concedam acesso a PHI apenas ao pessoal autorizado com políticas de senha e autenticação fortes.
• Empreguem técnicas de criptografia robustas para proteger PHI em repouso e em trânsito.
• Armazenem dados necessários em servidores conformes com o HIPAA com controles de acesso fortes.
• Garantam que assinem acordos de associados de negócios (BAAs) para cumprir com o HIPAA.
• Pedem seu plano de resposta para incidentes de segurança.

Os líderes de saúde que usam essas ferramentas devem verificar regularmente os relatórios de acesso — uma etapa que também é fácil de automatizar com a IA — e enviar alertas à gestão se ocorrer atividade incomum.

Além disso, eles devem obter consentimento claro e informado dos pacientes antes de coletar e usar suas PHI. Ao solicitar consentimento, comunique como os dados do paciente serão usados e protegidos.

3.   Interfaces Bem Projetadas que Melhoram os Fluxos de Trabalho

Um dos principais obstáculos ao migrar para os EHRs obrigatórios foi a usabilidade da tecnologia. Os médicos estavam insatisfeitos com a quantidade de tempo gasto em tarefas administrativas à medida que se adaptavam aos fluxos de trabalho complicados, aumentando o risco de queimadura profissional e a chance de cometer erros que podem afetar o tratamento do paciente.

Quando trabalhar com fornecedores terceirizados, solicite uma demonstração e uma segunda opinião antes de selecionar uma plataforma ou solução de software de IA. Não se esqueça de perguntar se o produto permite personalização que se adapte aos programas atuais para que você possa integrar os recursos prontos para uso que melhor se adequem aos seus fluxos de trabalho.

O design centrado no usuário e os formatos de dados e protocolos padronizados ajudarão a facilitar a troca de informações sem interrupções entre a tecnologia de saúde e as plataformas de IA. Com esses padrões em vigor, os algoritmos de IA podem ser integrados de forma significativa ao cuidado clínico em vários ambientes de saúde. Os protocolos estabelecidos também ajudam essas ferramentas a funcionar melhor, facilitando a interoperabilidade e permitindo o acesso a conjuntos de dados maiores e mais diversificados.

4.   Uso Apropriado e Treinamento de Funcionários

Um estudo de 2024 descobriu que os conselhos médicos fornecidos por ‘médicos humanos e IA’ eram, de fato, mais abrangentes, mas menos empáticos do que os fornecidos por ‘médicos humanos’ sozinhos. Para preencher a lacuna, os líderes de saúde devem entender as capacidades e limitações da IA e garantir a supervisão humana e intervenção adequadas.

Os líderes de saúde podem incorporar chatbots em seus sites e aplicativos de pacientes para oferecer aos usuários acesso instantâneo a informações médicas, ajudando na autodiagnóstico e educação em saúde. Essas ferramentas podem enviar lembretes oportunos aos pacientes para renovar suas prescrições, ajudando os pacientes a aderir aos planos de tratamento. Eles também podem ajudar a classificar os pacientes com base na gravidade de sua condição, ajudando os provedores de saúde a priorizar os casos e alocar recursos de forma eficiente.

No entanto, essas ferramentas ainda podem “alucinar”, e é imperativo que um validador humano esteja envolvido em tarefas complexas. Trabalhe com especialistas terceirizados para definir sua visão para as ferramentas de comunicação de IA e criar os fluxos de trabalho desejados. Uma vez que você concorde com os casos de uso, os processos de gestão de mudança operacional e cultural — como o modelo de 8 etapas de mudança de Kotter — oferecem um plano de ação para a integração de funcionários, melhorando assim os resultados dos pacientes.

5.   Peça ao Chatbot para Detectar Erros

Nenhum líder de negócios deseja cometer erros, mas a indústria de saúde é um ambiente de alto risco onde mesmo pequenas negligências podem levar a consequências graves. No entanto, mesmo os melhores clínicos não estão imunes a erros médicos. A IA pode ser uma ferramenta poderosa para melhorar o cuidado ao paciente, detectando erros e preenchendo lacunas.

Uma investigação de 2023 que usou o GPT-4 para transcrever e resumir uma conversa entre um paciente e um clínico posteriormente empregou o chatbot para revisar a conversa em busca de erros. Durante a validação, ele detectou um erro no índice de massa corporal (IMC) do paciente. O chatbot também notou que as notas do paciente não mencionavam os exames de sangue que foram solicitados, nem a justificativa para solicitá-los.

Esse exemplo indica que a IA pode ser usada como um complemento para ajudar os médicos a lidar com alucinações, omissões e erros da IA que podem ser usados para treinar e melhorar as aplicações de IA.

A IA de saúde existe para apoiar médicos e enfermeiros, simplificar os fluxos de trabalho, melhorar a acessibilidade dos pacientes ao cuidado e minimizar as negligências. Embora não possam substituir completamente a empatia, a intuição e a experiência prática que os provedores de saúde trazem para a mesa, essas ferramentas oferecem excelentes benefícios analíticos e de economia de tempo. Quando os líderes de saúde levam o tempo necessário para garantir a adesão cuidadosa às regulamentações do HIPAA, a comunicação transparente com os pacientes e o treinamento adequado dos funcionários, eles podem implementar essas ferramentas com segurança e confiança.