Vivek Desai, Diretor de Tecnologia, América do Norte, na RLDatix – Série de Entrevistas

Vivek Desai é o Diretor de Tecnologia da América do Norte na RLDatix, uma empresa de software e serviços de operações de saúde conectadas. A RLDatix está em uma missão para mudar a saúde. Eles ajudam as organizações a impulsionar uma atenção mais segura e eficiente, fornecendo ferramentas de governança, risco e conformidade que impulsionam a melhoria e a segurança gerais.

O que o atraiu inicialmente para a ciência da computação e a cibersegurança?

Fui atraído pelas complexidades do que a ciência da computação e a cibersegurança estão tentando resolver – sempre há um desafio emergente para explorar. Um exemplo disso é quando a nuvem começou a ganhar tração. Ela prometia muito, mas também levantava algumas questões sobre a segurança da carga de trabalho. Ficou claro desde cedo que os métodos tradicionais eram uma solução provisória e que as organizações em geral precisariam desenvolver novos processos para garantir a segurança das cargas de trabalho na nuvem. Navegar por esses novos métodos foi uma jornada particularmente emocionante para mim e para muitos outros que trabalham nesse campo. É uma indústria dinâmica e em constante evolução, então cada dia traz algo novo e emocionante.

Pode compartilhar algumas das responsabilidades atuais que você tem como Diretor de Tecnologia da RLDatix?  

Atualmente, estou focado em liderar nossa estratégia de dados e encontrar maneiras de criar sinergias entre nossos produtos e os dados que eles contêm, para melhor entender as tendências. Muitos de nossos produtos abrigam tipos semelhantes de dados, então meu trabalho é encontrar maneiras de quebrar essas barreiras e tornar mais fácil para nossos clientes, tanto hospitais quanto sistemas de saúde, acessar os dados. Com isso, também estou trabalhando em nossa estratégia global de inteligência artificial (IA) para informar esse acesso e utilização de dados em todo o ecossistema.

Mantenha-se atualizado sobre as tendências emergentes em várias indústrias é outro aspecto crucial do meu papel, para garantir que estamos seguindo a direção estratégica certa. Estou mantendo um olho atento nos grandes modelos de linguagem (LLMs). Como empresa, estamos trabalhando para encontrar maneiras de integrar LLMs em nossa tecnologia, para empoderar e melhorar os seres humanos, especificamente os provedores de saúde, reduzir sua carga cognitiva e permitir que se concentrem em cuidar dos pacientes.

Em sua postagem no LinkedIn intitulada “Uma Reflexão sobre Meu 1º Ano como Diretor de Tecnologia,” você escreveu, “Os Diretores de Tecnologia não trabalham sozinhos. Eles fazem parte de uma equipe.” Pode elaborar sobre alguns dos desafios que você enfrentou e como você lidou com a delegação e o trabalho em equipe em projetos que são intrinsicamente tecnicamente desafiadores?

O papel de um Diretor de Tecnologia mudou fundamentalmente nas últimas décadas. Os dias de trabalhar em uma sala de servidores acabaram. Agora, o trabalho é muito mais colaborativo. Juntos, em unidades de negócios, alinhamos as prioridades organizacionais e transformamos essas aspirações em requisitos técnicos que nos impulsionam para frente. Hospitais e sistemas de saúde atualmente navegam por muitos desafios diários, desde a gestão da força de trabalho até as restrições financeiras, e a adoção de nova tecnologia pode não ser sempre uma prioridade. Nosso maior objetivo é mostrar como a tecnologia pode ajudar a mitigar esses desafios, em vez de adicioná-los, e o valor geral que ela traz para seus negócios, funcionários e pacientes em geral. Esse esforço não pode ser feito sozinho ou mesmo dentro da minha equipe, então a colaboração abrange unidades multidisciplinares para desenvolver uma estratégia coesa que demonstre esse valor, seja dando aos clientes acesso a insights de dados desbloqueados ou ativando processos que eles atualmente não conseguem realizar.

Qual é o papel da inteligência artificial no futuro das operações de saúde conectadas?

À medida que os dados integrados se tornam mais disponíveis com a IA, eles podem ser utilizados para conectar sistemas disparatados e melhorar a segurança e a precisão em todo o continuum de cuidados. Esse conceito de operações de saúde conectadas é uma categoria em que a RLDatix está focada, pois desbloqueia dados e insights ação para os tomadores de decisão de saúde – e a IA é fundamental para tornar isso uma realidade.

Um aspecto inegociável dessa integração é garantir que o uso de dados seja seguro e em conformidade, e que os riscos sejam compreendidos. Somos líderes de mercado em política, risco e segurança, o que significa que temos uma grande quantidade de dados para treinar LLMs fundamentais com mais precisão e confiabilidade. Para alcançar operações de saúde conectadas verdadeiras, o primeiro passo é mesclar as soluções disparatadas, e o segundo é extrair dados e normalizá-los em todo o conjunto de soluções. Os hospitais se beneficiarão enormemente de um conjunto de soluções interconectadas que possam combinar conjuntos de dados e fornecer valor ação para os usuários, em vez de manter conjuntos de dados separados de soluções de ponto individuais.

Em uma palestra recente, a Diretora de Produto Barbara Staruk compartilhou como a RLDatix está utilizando inteligência artificial geradora e grandes modelos de linguagem para simplificar e automatizar a relatórios de incidentes de segurança do paciente. Pode elaborar sobre como isso funciona?

Essa é uma iniciativa muito significativa para a RLDatix e um ótimo exemplo de como estamos maximizando o potencial dos LLMs. Quando os hospitais e sistemas de saúde completam relatórios de incidentes, existem atualmente três formatos padrão para determinar o nível de dano indicado no relatório: os Formatos Comuns da Agency for Healthcare Research and Quality, o Conselho Nacional de Coordenação para a Prevenção de Erros de Medicamento e a Classificação de Eventos de Segurança da Healthcare Performance Improvement (HPI). Atualmente, podemos facilmente treinar um LLM para ler o texto em um relatório de incidente. Se um paciente morre, por exemplo, o LLM pode facilmente identificar essa informação. O desafio, no entanto, está em treinar o LLM para determinar o contexto e distinguir entre categorias mais complexas, como dano permanente grave, uma taxonomia incluída na Classificação de Eventos de Segurança da HPI, por exemplo, versus dano temporário grave. Se a pessoa que relata não inclui contexto suficiente, o LLM não poderá determinar o nível de categoria de dano apropriado para aquele incidente de segurança do paciente.

A RLDatix está visando implementar uma taxonomia mais simples, globalmente, em todo o nosso portfólio, com categorias concretas que possam ser facilmente distinguidas pelo LLM. Com o tempo, os usuários poderão simplesmente escrever o que ocorreu e o LLM lidará com isso, extrairá todas as informações importantes e preencherá os formulários de incidente. Isso não é apenas um economizador de tempo significativo para uma força de trabalho já estressada, mas à medida que o modelo se torna ainda mais avançado, também seremos capazes de identificar tendências críticas que permitirão que as organizações de saúde tomem decisões mais seguras em todo o espectro.

Quais são outras maneiras pelas quais a RLDatix começou a incorporar LLMs em suas operações?

Outra maneira pela qual estamos utilizando LLMs internamente é para simplificar o processo de credenciamento. Cada credencial de provedor é formatada de forma diferente e contém informações únicas. Para colocar em perspectiva, pense em como todos os currículos têm um formato diferente – desde fontes até experiência de trabalho, educação e formatação geral. O credenciamento é semelhante. Onde o provedor frequentou a faculdade? Qual é sua certificação? Quais artigos são publicados? Cada profissional de saúde fornecerá essas informações de sua própria maneira.

Na RLDatix, os LLMs nos permitem ler essas credenciais e extrair todos os dados em um formato padronizado, para que aqueles que trabalham na entrada de dados não precisem procurar extensivamente por isso, permitindo que eles gastem menos tempo no componente administrativo e concentrem seu tempo em tarefas significativas que adicionam valor.

A cibersegurança sempre foi desafiadora, especialmente com a mudança para tecnologias baseadas em nuvem, pode discutir alguns desses desafios?

A cibersegurança é desafiadora, o que torna importante trabalhar com o parceiro certo. Garantir que os LLMs permaneçam seguros e em conformidade é a consideração mais importante ao utilizar essa tecnologia. Se a sua organização não tiver o pessoal dedicado em casa para fazer isso, pode ser incrivelmente desafiador e demorado. É por isso que trabalhamos com a Amazon Web Services (AWS) na maioria de nossas iniciativas de cibersegurança. A AWS nos ajuda a instilar segurança e conformidade como princípios fundamentais dentro de nossa tecnologia, para que a RLDatix possa se concentrar no que realmente fazemos bem – que é construir ótimos produtos para nossos clientes em todos os nossos verticais respeitivos.

Quais são algumas das novas ameaças de segurança que você viu com a adoção recente e rápida de LLMs?

Do ponto de vista da RLDatix, existem várias considerações que estamos trabalhando para mitigar os vieses e a injustiça. Os LLMs são tão bons quanto os dados em que são treinados. Fatores como gênero, raça e outras demografias podem incluir muitos vieses inerentes, pois o conjunto de dados em si é tendencioso. Por exemplo, pense em como o sudeste dos Estados Unidos usa a palavra “y’all” no linguajar cotidiano. Isso é um viés linguístico único inerente a uma população de pacientes específica que os pesquisadores devem considerar ao treinar o LLM para distinguir nuances linguísticas com precisão em comparação com outras regiões. Esses tipos de vieses devem ser tratados em escala quando se trata de utilizar LLMs dentro da saúde, pois treinar um modelo dentro de uma população de pacientes não significa necessariamente que o modelo funcionará em outra.

Mantenha a segurança, a transparência e a responsabilidade são também grandes focos para nossa organização, bem como mitigar qualquer oportunidade para alucinações e desinformação. Garantir que estamos ativamente abordando quaisquer preocupações de privacidade, que entendemos como um modelo alcançou uma resposta específica e que temos um ciclo de desenvolvimento seguro no lugar são todos componentes importantes de uma implementação e manutenção eficazes.

Quais são outras algoritmos de aprendizado de máquina que são utilizados na RLDatix?

Usar aprendizado de máquina para descobrir insights críticos de programação tem sido um caso de uso interessante para nossa organização. No Reino Unido, especificamente, estamos explorando como aproveitar o aprendizado de máquina para entender melhor como a escalação, ou a programação de enfermeiros e médicos, ocorre. A RLDatix tem acesso a uma quantidade massiva de dados de programação da última década, mas o que podemos fazer com toda essa informação? É aí que entra o aprendizado de máquina. Estamos utilizando um modelo de aprendizado de máquina para analisar esses dados históricos e fornecer insights sobre como uma situação de escalação pode parecer duas semanas à frente, em um hospital específico ou em uma região específica.

Esse caso de uso específico é um modelo de aprendizado de máquina muito alcançável, mas estamos empurrando a barra ainda mais, conectando-o a eventos da vida real. Por exemplo, e se olhássemos para todos os calendários de futebol na área? Sabemos de primeira mão que eventos esportivos geralmente levam a mais lesões e que um hospital local provavelmente terá mais pacientes internados no dia de um evento em comparação com um dia típico. Estamos trabalhando com a AWS e outros parceiros para explorar quais conjuntos de dados públicos podemos semear para tornar a programação ainda mais fluída. Já temos dados que sugerem que veremos um aumento de pacientes em torno de grandes eventos esportivos ou até mesmo em condições climáticas adversas, mas o modelo de aprendizado de máquina pode levar isso um passo adiante, tomando esses dados e identificando tendências críticas que ajudarão a garantir que os hospitais estejam adequadamente escalonados, reduzindo assim a pressão sobre nossa força de trabalho e levando nossa indústria um passo adiante na direção de cuidados mais seguros para todos.

Obrigado pela ótima entrevista, leitores que desejam aprender mais devem visitar RLDatix.