Abordando o Ceticismo em Relação à IA na Saúde: Superando Obstáculos para uma Comunicação Segura

Líderes de saúde estão ansiosos para adotar a IA, em parte para manter o ritmo com concorrentes e outras indústrias, mas, mais importante, para aumentar a eficiência e melhorar as experiências dos pacientes. No entanto, apenas 77% dos líderes de saúde realmente confiam na IA para beneficiar seus negócios.

Enquanto os chatbots de IA são excelentes em lidar com tarefas rotineiras, processar dados e resumir informações, a indústria de saúde altamente regulamentada se preocupa mais com a confiabilidade e precisão dos dados que são alimentados e interpretados por essas ferramentas. Sem uso e treinamento de funcionários adequados, violações de dados se tornam ameaças adicionais.

Mesmo assim, 95% dos líderes de saúde planejam aumentar os orçamentos de IA em até 30% em 2025, com grandes modelos de linguagem (LLMs) surgindo como uma das ferramentas mais confiáveis. À medida que os LLMs amadurecem, 53% dos líderes de saúde já implementaram políticas formais para ajudar suas equipes a se adaptarem a eles, e outros 39% planejam implementar políticas em breve.

Para provedores de saúde que desejam otimizar os serviços de comunicação com a IA, mas ainda estão hesitantes em fazê-lo, aqui estão algumas recomendações para superar os obstáculos mais comuns.

1.   Treine a IA com Fontes Médicas Confiáveis

Embora os líderes de saúde possam não estar diretamente envolvidos no treinamento de IA, eles devem desempenhar um papel fundamental na supervisão de sua implementação. Eles devem garantir que os fornecedores de chatbots estejam treinando e atualizando regularmente sua IA com fontes credíveis.

Os ricos dados estruturados capturados por registros eletrônicos de saúde (EHRs) obrigatórios oferecem vastos repositórios de dados de saúde digitais que agora podem servir como base para o treinamento de algoritmos de IA. Os LLMs avançados podem compreender pesquisas médicas, análises técnicas, revisões de literatura e avaliações críticas. No entanto, em vez de treinar essas ferramentas com todos os dados de uma vez, novas evidências mostram que se concentrar em um número menor de interseções maximiza o desempenho da IA, mantendo o custo de treinamento baixo.

2.   Garanta Práticas de Dados Conformes com o HIPAA

A Lei de Portabilidade e Responsabilidade de Seguro de Saúde (HIPAA) estabelece padrões para a proteção de informações de saúde sensíveis do paciente (PHI). Para alinhar com essas regulamentações, os líderes de saúde devem garantir que os fornecedores terceirizados:

• Coletem apenas a quantidade mínima de PHI necessária para cumprir o propósito do chatbot.
• Concedam acesso a PHI apenas ao pessoal autorizado com fortes políticas de senha e autenticação.
• Empreguem técnicas de criptografia robustas para proteger PHI em repouso e em trânsito.
• Armazenem dados necessários em servidores conformes com o HIPAA com controles de acesso fortes.
• Garantam que assinem acordos de associados de negócios (BAAs) para cumprir com o HIPAA.
• Perguntem sobre seu plano de resposta para incidentes de segurança.

Líderes de saúde que usam essas ferramentas devem verificar regularmente os relatórios de acesso — um passo que também é fácil de automatizar com a IA — e enviar alertas para a gestão se ocorrer atividade incomum.

Além disso, eles devem obter consentimento claro e informado dos pacientes antes de coletar e usar seus PHI. Ao solicitar consentimento, comuniquem como os dados do paciente serão usados e protegidos.

3.   Interfaces Bem Projetadas que Melhoram os Fluxos de Trabalho

Um dos principais obstáculos ao transitar para EHRs obrigatórios foi a usabilidade da tecnologia. Médicos estavam insatisfeitos com a quantidade de tempo gasto em tarefas administrativas à medida que se adaptavam aos fluxos de trabalho complicados, aumentando o risco de queimadura profissional e a chance de cometer erros que podem afetar o tratamento do paciente.

Ao trabalhar com fornecedores terceirizados, solicite uma demonstração e uma segunda opinião antes de selecionar uma plataforma ou solução de software de IA. Não se esqueça de perguntar se seu produto permite personalização que se adapte a programas atuais, para que você possa integrar os recursos prontos para uso que melhor se adaptam aos seus fluxos de trabalho.

O design centrado no usuário e os formatos e protocolos de dados padronizados ajudarão a facilitar a troca de informações sem interrupções entre a tecnologia de saúde e as plataformas de IA. Com esses padrões em vigor, os algoritmos de IA podem ser integrados de forma significativa nos cuidados clínicos em vários ambientes de saúde. Protocolos estabelecidos também ajudam essas ferramentas a performar melhor, facilitando a interoperabilidade e permitindo o acesso a conjuntos de dados mais amplos e diversificados.

4.   Uso Apropriado e Treinamento de Funcionários

Um estudo de 2024 encontrou que os conselhos médicos fornecidos por ‘médicos humanos e IA’ eram, de fato, mais abrangentes, mas menos empáticos do que os fornecidos por ‘médicos humanos’ sozinhos. Para preencher a lacuna, os líderes de saúde devem entender as capacidades e limitações da IA e garantir supervisão e intervenção humanas apropriadas.

Líderes de saúde podem incorporar chatbots em seus sites e aplicativos de pacientes para oferecer aos usuários acesso instantâneo a informações médicas, ajudando no autodiagnóstico e educação em saúde. Essas ferramentas podem enviar lembretes oportunos aos pacientes para reabastecer suas prescrições, ajudando os pacientes a aderir aos planos de tratamento. Eles também podem ajudar a classificar os pacientes com base na gravidade de sua condição, ajudando os provedores de saúde a priorizar os casos e alocar recursos de forma eficiente.

No entanto, essas ferramentas ainda podem “alucinar”, e é imperativo que um validador humano esteja envolvido em tarefas complexas. Trabalhe com especialistas terceirizados para definir sua visão para ferramentas de comunicação de IA e criar os fluxos de trabalho desejados. Uma vez que você concorde com os casos de uso, processos de mudança cultural e operacional — como o processo de mudança de 8 etapas de Kotter — oferecem um plano de ação para a integração de funcionários, melhorando assim os resultados dos pacientes.

5.   Peça ao Chatbot para Detectar Erros

Nenhum líder de negócios deseja cometer erros, mas a indústria de saúde é um ambiente de alto risco onde mesmo pequenas negligências podem levar a consequências graves. No entanto, mesmo os melhores clínicos não são imunes a erros médicos. A IA pode ser uma ferramenta poderosa para melhorar os cuidados ao paciente, detectando erros e preenchendo lacunas.

Uma investigação de 2023 que usou o GPT-4 para transcrever e resumir uma conversa entre um paciente e um clínico mais tarde empregou o chatbot para revisar a conversa para erros. Durante a validação, detectou um erro no índice de massa corporal (IMC) do paciente. O chatbot também notou que as notas do paciente não mencionavam os exames de sangue que foram solicitados, nem a justificativa para solicitá-los.

Esse exemplo indica que a IA pode ser usada como um suplemento para ajudar os médicos a lidar com alucinações, omissões e erros da IA que podem ser usados para treinar e melhorar as aplicações de IA.

A IA de saúde existe para apoiar médicos e enfermeiros, simplificar os fluxos de trabalho, melhorar o acesso dos pacientes aos cuidados e minimizar negligências. Embora não possam substituir completamente a empatia, a intuição e a experiência do mundo real que os provedores de saúde humanos trazem para a mesa, essas ferramentas oferecem excelentes benefícios analíticos e de economia de tempo. Quando os líderes de saúde levam o tempo necessário para garantir o cumprimento cuidadoso das regulamentações do HIPAA, comunicação transparente com os pacientes e treinamento adequado de funcionários, eles podem implementar essas ferramentas com segurança e confiança.