Matthew Crowson, MD, Diretor de Gerenciamento de Produtos de IA/IA Geral da Wolters Kluwer Health – Série de Entrevistas

Dr. Matt Crowson é um líder em tecnologia de saúde e cirurgião que se concentra em aplicar a IA na prática clínica. Ele é Diretor de IA/IA Geral do Produto da Wolters Kluwer (WKL.SW ) Health, onde lidera iniciativas para melhorar a síntese de evidências e a análise de dados do mundo real. Anteriormente, ele liderou a prática de IA para provedores de saúde da Deloitte, desenvolvendo soluções de IA geral para melhorar a documentação, os ciclos de receita e a pesquisa. Ele também atua como professor assistente na Harvard Medical School e é autor de mais de 90 publicações revisadas por pares.

Wolters Kluwer é um provedor global de informações profissionais, software e serviços, apoiando clientes em saúde, impostos e contabilidade, direito e regulamentação, conformidade financeira e ESG. Com sede na Holanda, a empresa aproveita a expertise da indústria e a tecnologia avançada para entregar ferramentas que simplificam os fluxos de trabalho, garantem a conformidade e apoiam a tomada de decisões críticas. Suas operações abrangem mais de 180 países, com ofertas organizadas em divisões como Saúde, Impostos e Contabilidade, Direito e Regulamentação, Conformidade Financeira e Corporativa e Desempenho Corporativo e ESG.

Vamos começar com uma pergunta pessoal – como você equilibra seus papéis duplos como cirurgião e líder de produto de IA? Seu trabalho clínico moldou sua visão do que a IA deve ou não ser na saúde?

Honestamente? Começa com uma caixa de tempo implacável e uma máquina de café industrial. As manhãs de clínica mantêm minhas habilidades de atendimento ao paciente honestas, enquanto o resto do dia é gasto transformando essa dor de frente em especificações de produto. Os dois papéis se alimentam mutuamente: ver um residente clicar em dez telas para pedir Tylenol é toda a pesquisa de mercado de que preciso.

Os projetos de IA fracassam quando ninguém na sala sentiu essa dor. Nossa Pesquisa de Saúde Pronta para o Futuro mostra que 80% dos líderes dizem que “otimizar fluxos de trabalho” é uma prioridade máxima. Ainda assim, apenas 63% acham que estão preparados para fazer isso com IA geral (IAG). Isso é o clássico hiato entre estratégia e execução que os especialistas em domínio podem fechar perguntando o “porquê” clínico certo antes de escrever uma linha de código.

Minha lente clínica também mantém a missão prática. O pessoal da linha de frente nos disse que seus principais imperativos são consertar a escassez de pessoal (82%), eliminar a sobrecarga administrativa (77%) e esmagar o esgotamento (76%). Se um algoritmo não move uma dessas agulhas, é apenas teatro. Os clínicos desligam rápido.

Essa lente também me torna cauteloso sobre onde a IA não deve se aventurar. De fato, 57% dos profissionais se preocupam que a dependência excessiva da IAG possa erodir o julgamento clínico, mas apenas 18% dizem que suas organizações têm guardrails publicados. Até que a governança se atualize, o mandato é claro: automatize a papelada, não o pensamento.

Então, para mim, o equilíbrio não é realmente café versus calendário. É sobre manter um pé na clínica – para que eu nunca esqueça quem a IA é suposta servir – e um pé no produto, para que esse conhecimento seja enviado. Faça isso bem, e o café é apenas um bônus.

O Relatório da Pesquisa de Saúde Pronta para o Futuro da Wolters Kluwer destaca uma grande lacuna entre o entusiasmo e a execução da IAG. Você ficou surpreso com algum dos resultados? O que mais lhe chamou a atenção?

Eu não fiquei surpreso nem um pouco. Eu ainda não encontrei um clínico anti-automatização. O que desacelera o rollout não é o medo de algum cenário “Skynet em scrubs”, mas sim a rotina diária das operações de saúde. A pesquisa cristaliza essa realidade. Oito em cada dez líderes classificam a otimização do fluxo de trabalho como uma prioridade máxima, mas apenas seis em cada dez dizem que estão preparados para deixar a IAG lidar com isso. Essa diferença é exatamente o que vejo: minas terrestres de responsabilidade, dados que parecem mais um armário de lixo do que um lago de dados e incentivos financeiros que ainda recompensam o volume em vez da eficiência. Há outros obstáculos também, incluindo um vácuo de treinamento, fadiga de TI sombra e neblina regulatória.

O que mais me chamou a atenção foi como esses obstáculos são mundanos. A escassez de pessoal, a sobrecarga administrativa e o esgotamento dominam a lista de preocupações, mas apenas 18% das organizações têm políticas formais de IAG. Se você não sabe quem assina um modelo ou como seus resultados são auditados, o entusiasmo morre no escritório de conformidade. Além disso, 68% dos respondentes dizem que os custos de mão de obra são sua maior pressão financeira, e não é de se admirar que os executivos queiram provas de retorno sobre o investimento (ROI) antes de assinar outra fatura de software. O título não é “pânico da IA”, é “Ótima ideia – mostre-me o fluxo de trabalho e o caso de negócios”.

Mais da metade dos profissionais de saúde pesquisados se preocupa que a IAG possa erodir as habilidades de tomada de decisão clínica. Você acha que esse medo é válido – ou reflete preocupações mais profundas sobre confiança e transparência nos sistemas de IA?

Alguma da ansiedade é real, mas tem menos a ver com medos de ficção científica de uma IA rebelde e mais com a responsabilidade simples. Quando uma ferramenta oferece diagnósticos diferenciais em segundos, você precisa de uma proveniência cristalina: De onde veio a recomendação, quem assina e como ela é auditada? Hoje, apenas uma pequena minoria de organizações tem governança formal de IAG, então os clínicos recorrem à cautela. Isso aparece em nossos dados como 57% dizendo “a dependência excessiva pode erodir o julgamento”. Para mim, isso é um sinal de que eles não querem uma caixa preta intrusiva em sua licença para praticar.

Eu vejo a questão através de uma lente histórica. Quando as planilhas chegaram aos departamentos de finanças, alguns contadores se preocuparam que seus músculos analíticos atrofiariam. Em vez disso, o software de planilha se tornou a nova base, elevando o nível de precisão. A saúde está atrasada para um salto semelhante. Perdemos muitos pacientes devido à variação no cuidado; o erro médico ainda é uma das principais causas de lesão e morte. A superpotência da IAG pode ser reduzir essas barras de erro, destacando diretrizes, contraindicações e outliers mais rápido do que qualquer ser humano possa vasculhar o gráfico. Mas ela deve permanecer como uma assistente, não como uma tomadora de decisões autônoma, especialmente na próxima janela de três a cinco anos.

Então, sim, o medo é válido, mas é solucionável. Conjuntos de dados transparentes, rastros de auditoria e checkpoints de loop humano transformam a “erosão da IA” em “aumento da IA”. Dê aos clínicos recomendações rastreáveis e linhas de responsabilidade claras, e esse 57% desaparecerá. Não é sobre substituir a expertise; é sobre aumentá-la com ferramentas melhores.

Apenas 18% dos respondentes dizem que estão cientes de políticas claras de IAG em suas organizações. Quais são os riscos potenciais de implantar ferramentas de IAG sem essa governança em vigor?

Pense nisso como lançar um novo medicamento sem uma etiqueta de dosagem. Os dados de saúde são altamente sensíveis, e os modelos de IAG se tornam mais inteligentes apenas quando absorvem esse contexto rico em informações de saúde protegidas (ISP). Sem políticas de gestão de dados estritas para governar quem pode carregar informações, como esses dados são registrados e onde residem, uma organização está apenas a um clique de uma violação de privacidade que pode fazer manchetes.

A responsabilidade é a próxima mina terrestre. Se o algoritmo imagina uma dose contraindicada, quem come a reclamação por má conduta? O fornecedor, o hospital ou o clínico que clicou em “aceitar”? Agora, essa resposta é nebulosa porque menos de um em cada cinco organizações têm “regras da estrada” codificadas para a IAG. Em um vácuo, os advogados muitas vezes recorrem aos bolsos mais profundos, e essa incerteza sozinha pode estancar a inovação.

A governança também protege contra riscos mais sutis, como deriva do modelo e viés. Um bot de oncologia treinado com as diretrizes do último trimestre pode silenciosamente sair do curso, empurrando o cuidado para fora dos trilhos baseados em evidências. Políticas que exigem controle de versão, monitoramento de resultados e gatilhos de pôr do sol mantêm os algoritmos longe de se tornarem perigos de segurança.

Finalmente, a confiança está em jogo. Os clínicos se preocupam que a dependência excessiva da IAG possa embotar seu julgamento clínico; a implantação de ferramentas opacas apenas confirma esses medos. Governança clara, transparência na linhagem de dados, protocolos de validação e checkpoints de loop humano transformam a ansiedade da “caixa preta” em confiança de que a IA é uma equipe assistente, não um residente rebelde.

Com base em seu trabalho com a Wolters Kluwer e na sala de operações, qual é o caso de uso mais realista de curto prazo para a IAG na saúde?

Esqueça os cirurgiões robóticos. Nos próximos três anos, a oportunidade assassina da IAG é a aniquilação administrativa. Duas faixas já estão provando seu valor:

1. Registro de notas de frente. Ferramentas de escuta ambiental agora redigem a nota de progresso enquanto um médico está conversando com seu paciente, então a colocam diretamente no registro eletrônico de saúde (RES). Nossa pesquisa mostra que 41% dos respondentes colocam isso em sua lista de desejos de IAG, e a tecnologia já está em funcionamento em sistemas de saúde de adoção precoce. Vários estudos mostraram que os sistemas de ditado ambiental podem reduzir a carga cognitiva em 51% e o tempo de “pajama” após o expediente em mais de 60%. Isso é um ROI difícil; você pode sentir isso rapidamente.
2. Proteção de receita de back-office. O próximo dominó é o pacote de autorização prévia, cartas de apelo de negação e outros resíduos do ciclo de receita. Para referência, 67% dos líderes dizem que a autorização prévia sozinha está sufocando a produtividade, e 62% apontam a sobrecarga administrativa do RES. Modelos de linguagem grandes que lêem o gráfico e preenchem automaticamente esses formulários já estão economizando dias em reclamações e liberando funcionários para trabalhos de maior valor.

Por que esses dois? Eles atingem o trifecta de baixo risco clínico, alto alívio da força de trabalho e justificativa de dólares e centavos clara. Em um mercado onde 68% dos executivos listam os custos de mão de obra como a principal pressão financeira, as ferramentas que devolvem horas sem alterar o plano de cuidado são as mais fáceis de dizer “sim”. O diagnóstico autônomo virá mais tarde; agora, a IAG ganha seu valor fazendo a prancheta desaparecer.

A pesquisa observa que os dados não são o principal risco citado pelos respondentes – o que é surpreendente, considerando o quanto a privacidade de dados domina os noticiários. Quais riscos os clínicos e administradores veem como mais prementes?

Eu também fiquei surpreso. Os noticiários nos fariam acreditar que as violações de HIPAA mantêm todos os CIOs de hospitais acordados à noite. No entanto, nossos dados mostram que apenas 56% dos profissionais citam a privacidade como um risco de IAG de topo, enquanto uma fatia ainda maior (57%!) se preocupa com a “perda de julgamento clínico”. Isso me diz que o medo da linha de frente não é o hacker, é a responsabilidade.

Aqui está o que os clínicos e administradores estão suando:

• Roulette de responsabilidade. Se o algoritmo desvia o cuidado do curso, quem assina o cheque de má conduta? A falta de regulamentações e padrões claros é classificada ao lado de lacunas de transparência em 55%, sinalizando uma grande ansiedade sobre o raio de ação legal.
• Chicote regulatório. Setenta e seis por cento dos líderes já se sentem chicoteados por regras do Medicare e Medicaid em constante mudança; camadas de IAG opacas sobre isso são uma venda difícil até que as guardrails se solidifiquem.
• Deriva do modelo e viés. Cinquenta e cinco por cento sinalizam o viés de modelos subtreinados como um risco crítico, um lembrete de que dados estagnados podem ser tão perigosos quanto dados ausentes.

Em resumo, a maioria das organizações assume que seus firewalls são decentes; elas não têm uma cadeia de responsabilidade clara quando a saída de um LLM (Modelo de Linguagem Grande) acaba em um plano de cuidado. Até que as estruturas de governança especifiquem a propriedade, os rastros de auditoria e os cadernos de atualização, os rollouts da IAG continuarão a estagnar, independentemente de quão sólido seja o stack de segurança.

Você acredita que as ferramentas de IAG acabarão melhorando ou diluindo a autonomia do clínico? Como podemos projetar sistemas que apoiem a tomada de decisão sem ultrapassá-la?

A IAG está prestes a expandir, não reduzir, a autonomia clínica. Agora, grande parte dessa autonomia é dificultada pela triagem da caixa de entrada, pela papelada de autorização prévia e pelas ginásticas do RES. Não é surpresa, então, que o pessoal da linha de frente classifique “otimizar fluxos de trabalho” como seu principal caso de uso para a IAG (80% de prioridade) embora apenas 63% se sintam tecnicamente prontos para executar. Farmacêuticos e profissionais de saúde aliados já estão apostando no lado positivo: 41% e 47% esperam que a IAG corte suficiente gordura administrativa para reduzir as necessidades de pessoal de apoio. Liberar os clínicos da entrada de dados significa mais tempo de face a face com os pacientes. Essa é a autonomia que todos querem.

Ainda assim, a pesquisa nos lembra de que a autonomia corta ambos os caminhos, como já discutimos anteriormente: 57% dos respondentes se preocupam que a dependência excessiva da IAG possa embotar o julgamento clínico. O antídoto é um design pensado, não um recuo. Os sistemas devem mostrar seu trabalho com bandeiras de proveniência, citações e pontuações de confiança, para que os humanos permaneçam como os árbitros finais. O controle de versão e o monitoramento pós-implantação capturam a deriva silenciosa do modelo antes que ela envenene os caminhos de cuidado, enquanto os botões “sempre visíveis de anulação” tornam claro que o algoritmo é uma assistente, não o médico responsável.

A governança é a última milha. Apenas 18% dos profissionais dizem que sua organização tem uma política de IAG publicada. Sem uma cadeia de responsabilidade transparente, mesmo a melhor experiência do usuário estagnarará em um limbo legal. Políticas robustas precisam especificar a gestão de dados, os rastros de auditoria e a delimitação de papéis que sejam socializados em todo o pessoal médico, enfermeiros e o assistente médico que pressiona o botão. Quando combinamos essas guardrails com um design nativo do fluxo de trabalho, a IAG deixa de ser uma ameaça à autonomia e começa a agir como o co-piloto que os clínicos estão implorando.

O que está segurando a adoção mais – limitações tecnológicas, incerteza regulatória, fricção de fluxo de trabalho ou algo mais profundo, como resistência cultural?

É um déficit de execução envolto em incentivos legados. A maioria dos líderes de sistemas de saúde pode articular uma visão de IAG elegante, mas seu músculo operacional não acompanhou. Nossa pesquisa mostra a desconexão em uma linha: 80% dos respondentes classificam “otimizar fluxos de trabalho” como uma prioridade máxima, mas apenas 63% acreditam que estão preparados para fazer isso. A visão é barata; os engenheiros de integração, os livros de jogadas de gerenciamento de mudanças e os orçamentos de GPU não são.

A governança é o próximo buraco. Apenas 18% dos profissionais estão cientes de uma política de IAG publicada em seu hospital. Sem regras claras de uso de dados, validação e responsabilidade, qualquer piloto promissor arrisca se tornar uma granada de conformidade. Essa neblina legal é amplificada pela incerteza macro. De fato, 75% dos líderes se preocupam que as regras do Medicare e Medicaid em constante mudança vão derrubar qualquer solução que implantem.

Em seguida, vem a fricção de trincheira: quase metade dos executivos cita dados sujos e pesadelos de integração do RES como barreiras principais, e apenas 42% dizem que têm um processo para conectar ferramentas de IAG aos fluxos de trabalho existentes. Se o modelo não pode ver o gráfico ou adiciona cliques, os clínicos o abandonarão antes do almoço.

Finalmente, há o “purgatório do piloto”. Vários estudos externos estimam a taxa de sucesso de pilotos de IA que se formam em escala empresarial em cerca de um em dez. Os conselhos celebram o demo, emitem um comunicado à imprensa e seguem em frente. Porque ninguém financia o trabalho de encanamento subsequente sem glamour. A IAG permanecerá como uma promessa do PowerPoint até que os hospitais contratem donos de produtos que já enviaram software antes.

Em resumo, a tecnologia e a cultura não são bloqueadores separados. Eles estão fundidos. Resolva para a liderança responsável, orçamentos de integração reais, guardrails explícitas e o apetite por IAG corresponderá ao seu hype.

Você construiu sistemas de IA focados em resultados pragmáticos e baseados em evidências. Qual conselho você daria aos líderes de saúde que estão tentando navegar pelo hype e identificar investimentos de IA realmente valiosos?

Comece com um diagnóstico, não com um demo. Antes de deixar um martelo brilhante caçar pregos, quantifique o prego: O uso do centro cirúrgico está baixo por 8% há dois trimestres seguidos? As apelações de negação estão languidescendo e sangrando receita? A unidade de enfermagem três está gastando duas horas por turno em “tempo de toggle” do RES (tempo gasto alternando entre telas e tarefas)? Uma vez que a dor é explícita, a ferramenta certa tende a se apresentar. Como Sir William Osler lembrou à comunidade médica gerações atrás, “Ouça o paciente; [ele] dirá o diagnóstico”.

Com o problema fixado, interrogue o caso de negócios como um CFO. Exija números duros: métricas de baseline, deltas projetados e janelas de payback que sobrevivem a um teste de cheiro de sala de conselho. Lembre-se de que apenas cerca de um em cada dez pilotos de IA se formam em escala empresarial; se o fornecedor não puder mostrar um cliente ao vivo que moveu o KPI que você se importa, continue andando.

Em seguida, decida comprar, construir ou parceiro. Comprar pode acelerar o tempo de valor, mas fique atento ao vaporware vestido com buzzwords. Construir dá controle, mas apenas se você tiver um proprietário de lucro e perda de tigre que já enviou aprendizado de máquina de produção antes. Parcerias híbridas muitas vezes atingem o equilíbrio: seus dados, seu modelo, dividindo o lado positivo, dividindo o risco.

Finalmente, priorize equipes pequenas e multifuncionais com responsabilidade clara. Pense em uma equipe de duas pizzas, incluindo o CMO, CIO, chefe de engenharia de dados e um campeão da linha de frente, em vez de grandes comitês de direção. Alinhe seus incentivos com metas de resultado de vários anos, em vez de métricas de curto prazo, e dê a eles um orçamento de infraestrutura dedicado – GPUs, engenharia de dados, operações de aprendizado de máquina (MLOps) – para que o projeto progrida além da fase de piloto.

Finalmente, olhando para o futuro: como seria um sistema de IAG totalmente integrado e responsável em um ambiente hospitalar daqui a cinco anos? Quais são os marcos que precisamos atingir para chegar lá?

Imagine entrar em uma clínica onde o médico nunca gira para o teclado. A conversa flui, e um agente de escuta ambiental discreto captura o diálogo, redige uma nota, aciona ordens baseadas em diretrizes e gera o pacote de autorização prévia antes que a mão do médico esteja na maçaneta da porta. Os primeiros pilotos já estão provando o conceito, e 41% dos clínicos em nossa pesquisa dizem que é exatamente a funcionalidade de IAG que eles querem em seguida.

O que torna essa cena possível não é robótica de ficção científica; é uma arquitetura invisível que combina dados limpos e interoperáveis com uma camada de orquestração em tempo real e “governança como código”. Ainda temos dever de casa a fazer. Para fechar as lacunas, pense em encanamento de dados primeiro, então, incorpore as guardrails (em vez de conectá-las) para transformar o hype em hábito.

Os marcos caem naturalmente uma vez que a base é estabelecida. No primeiro ano, eu recomendo que os hospitais e sistemas de saúde conectem o tecido de dados, publiquem diretrizes de IAG em toda a empresa e construam um pipeline de MLOps. No segundo ano de implementação, será importante dimensionar a documentação ambiental em todas as clínicas ambulatoriais, medir o tempo de documentação e o tempo de “pajama” após o expediente. No terceiro ano, deixe a IAG redigir apelações de negação e pacotes de autorização prévia (67% dos líderes disseram que essa carga está madura para eliminação). Nos quarto e quinto anos, evolua para o suporte de decisão clínica em tempo real com proveniência e, eventualmente, planejamento de cuidado baseado em conversa, onde o sistema executa as ordens no momento em que são faladas.

Obrigado pela ótima entrevista, leitores que desejam aprender mais devem visitar Wolters Kluwer ou ler o Relatório da Pesquisa de Saúde Pronta para o Futuro.