Vivek Desai, Director de Tecnología, Norteamérica en RLDatix – Serie de Entrevistas

Vivek Desai es el Director de Tecnología de Norteamérica en RLDatix, una empresa de software y servicios de operaciones de atención médica conectada. RLDatix está en una misión para cambiar la atención médica. Ayudan a las organizaciones a impulsar una atención más segura y eficiente al proporcionar herramientas de gobernanza, riesgo y cumplimiento que impulsan la mejora y la seguridad en general.

¿Qué te atrajo inicialmente a la informática y la ciberseguridad?

Me atrajeron las complejidades de lo que la informática y la ciberseguridad están tratando de resolver – siempre hay un desafío emergente que explorar. Un gran ejemplo de esto es cuando la nube comenzó a ganar tracción. Tenía un gran promesa, pero también planteaba algunas preguntas sobre la seguridad de la carga de trabajo. Estaba muy claro desde el principio que los métodos tradicionales eran una solución provisional, y que las organizaciones en general necesitarían desarrollar nuevos procesos para garantizar la seguridad de las cargas de trabajo en la nube. Navegar por estos nuevos métodos fue un viaje particularmente emocionante para mí y para muchos otros que trabajan en este campo. Es una industria dinámica y en constante evolución, así que cada día trae algo nuevo y emocionante.

¿Podrías compartir algunas de las responsabilidades actuales que tienes como Director de Tecnología de RLDatix?

Actualmente, me enfoco en liderar nuestra estrategia de datos y encontrar formas de crear sinergias entre nuestros productos y los datos que contienen, para comprender mejor las tendencias. Muchos de nuestros productos almacenan tipos de datos similares, así que mi trabajo es encontrar formas de romper esas barreras y hacer que sea más fácil para nuestros clientes, tanto hospitales como sistemas de salud, acceder a los datos. Con esto, también estoy trabajando en nuestra estrategia global de inteligencia artificial (IA) para informar el acceso y la utilización de los datos en todo el ecosistema.

Mantenerme al tanto de las tendencias emergentes en diversas industrias es otro aspecto crucial de mi función, para asegurarme de que estamos avanzando en la dirección estratégica correcta. Actualmente, estoy prestando mucha atención a los grandes modelos de lenguaje (LLM). Como empresa, estamos trabajando para encontrar formas de integrar LLM en nuestra tecnología, para empoderar y mejorar a los seres humanos, específicamente a los proveedores de atención médica, reducir su carga cognitiva y permitirles centrarse en cuidar a los pacientes.

En tu publicación de blog de LinkedIn titulada “Una reflexión sobre mi 1er año como Director de Tecnología“, escribiste, “Los Directores de Tecnología no trabajan solos. Son parte de un equipo”. ¿Podrías elaborar sobre algunos de los desafíos que has enfrentado y cómo has abordado la delegación y el trabajo en equipo en proyectos que son inherentemente técnicamente desafiantes?

El papel de un Director de Tecnología ha cambiado fundamentalmente en la última década. Se han ido los días de trabajar en una sala de servidores. Ahora, el trabajo es mucho más colaborativo. Juntos, a través de las unidades comerciales, alineamos las prioridades organizacionales y convertimos esas aspiraciones en requisitos técnicos que nos impulsan hacia adelante. Los hospitales y los sistemas de salud actualmente navegan por muchos desafíos diarios, desde la gestión de la fuerza laboral hasta las limitaciones financieras, y la adopción de nueva tecnología puede que no siempre sea una prioridad. Nuestro objetivo más grande es mostrar cómo la tecnología puede ayudar a mitigar estos desafíos, en lugar de sumar a ellos, y el valor general que aporta a su negocio, empleados y pacientes en general. Este esfuerzo no se puede hacer solo ni siquiera dentro de mi equipo, así que la colaboración abarca unidades multidisciplinarias para desarrollar una estrategia cohesiva que muestre ese valor, ya sea que se derive de dar a los clientes acceso a información de datos desbloqueada o activar procesos que actualmente no pueden realizar.

¿Cuál es el papel de la inteligencia artificial en el futuro de las operaciones de atención médica conectada?

A medida que los datos integrados se vuelven más disponibles con la IA, se pueden utilizar para conectar sistemas dispares y mejorar la seguridad y la precisión en todo el continuum de la atención. Este concepto de operaciones de atención médica conectada es una categoría en la que nos enfocamos en RLDatix, ya que desbloquea datos y conocimientos accionables para los tomadores de decisiones de la atención médica – y la IA es fundamental para hacer que eso sea una realidad.

Un aspecto indispensable de esta integración es garantizar que el uso de los datos sea seguro y cumpla con las normas, y que se comprendan los riesgos. Somos los líderes del mercado en política, riesgo y seguridad, lo que significa que tenemos una gran cantidad de datos para entrenar LLM fundamentales con mayor precisión y confiabilidad. Para lograr operaciones de atención médica conectada verdaderas, el primer paso es fusionar las soluciones dispares, y el segundo es extraer los datos y normalizarlos a través de esas soluciones. Los hospitales se beneficiarán enormemente de un grupo de soluciones interconectadas que puedan combinar conjuntos de datos y brindar valor accionable a los usuarios, en lugar de mantener conjuntos de datos separados de soluciones de punto individuales.

En una conferencia reciente, la Directora de Producto Barbara Staruk compartió cómo RLDatix está utilizando la inteligencia artificial generativa y los grandes modelos de lenguaje para simplificar y automatizar la informes de incidentes de seguridad del paciente. ¿Podrías elaborar sobre cómo funciona esto?

Esta es una iniciativa muy significativa para RLDatix y un gran ejemplo de cómo estamos maximizando el potencial de los LLM. Cuando los hospitales y los sistemas de salud completan informes de incidentes, hay actualmente tres formatos estándar para determinar el nivel de daño indicado en el informe: los formatos comunes de la Agencia para la Investigación y la Calidad de la Atención Médica, el Consejo Coordinador Nacional para la Información de Errores de Medicación y la Prevención y la Clasificación de Eventos de Seguridad (SEC) de la Mejora del Desempeño de la Atención Médica. Actualmente, podemos entrenar fácilmente a un LLM para leer el texto en un informe de incidente. Si un paciente fallece, por ejemplo, el LLM puede identificar fácilmente esa información. El desafío, sin embargo, radica en entrenar al LLM para determinar el contexto y distinguir entre categorías más complejas, como daño permanente grave, una taxonomía incluida en la SEC para la mejora del desempeño de la atención médica, por ejemplo, en comparación con daño temporal grave. Si la persona que informa no incluye suficiente contexto, el LLM no podrá determinar el nivel de daño apropiado para ese incidente de seguridad del paciente en particular.

RLDatix tiene como objetivo implementar una taxonomía más simple, a nivel global, en todo nuestro portafolio, con categorías concretas que puedan ser fácilmente distinguidas por el LLM. Con el tiempo, los usuarios podrán simplemente escribir lo que ocurrió y el LLM se encargará de extraer toda la información importante y prellenar los formularios de incidentes. No solo es un ahorro de tiempo significativo para una fuerza laboral ya tensa, sino que, a medida que el modelo se vuelva aún más avanzado, también podremos identificar tendencias críticas que permitirán a las organizaciones de atención médica tomar decisiones más seguras en todo el espectro.

¿De qué otras maneras RLDatix ha comenzado a incorporar LLM en sus operaciones?

Otra forma en que estamos utilizando LLM internamente es para simplificar el proceso de credenciales. Las credenciales de cada proveedor están formateadas de manera diferente y contienen información única. Para ponerlo en perspectiva, piense en cómo todos los currículos lucen diferentes – desde fuentes, experiencia laboral, educación y formato general. La credencialización es similar. ¿Dónde asistió el proveedor a la universidad? ¿Cuál es su certificación? ¿En qué artículos se han publicado? Cada profesional de la salud proporcionará esa información a su manera.

En RLDatix, los LLM nos permiten leer esas credenciales y extraer todos los datos en un formato estandarizado para que aquellos que trabajan en la entrada de datos no tengan que buscarlos extensivamente, lo que les permite pasar menos tiempo en el componente administrativo y centrar su tiempo en tareas significativas que agregan valor.

La ciberseguridad siempre ha sido un desafío, especialmente con el cambio a tecnologías basadas en la nube, ¿podrías discutir algunos de estos desafíos?

La ciberseguridad es un desafío, lo que hace que sea importante trabajar con el socio adecuado. Garantizar que los LLM permanezcan seguros y cumplan con las normas es la consideración más importante al utilizar esta tecnología. Si su organización no tiene personal dedicado en casa para hacer esto, puede ser increíblemente desafiante y consumir mucho tiempo. Es por eso que trabajamos con Amazon Web Services (AWS) en la mayoría de nuestras iniciativas de ciberseguridad. AWS nos ayuda a instilar la seguridad y el cumplimiento como principios básicos dentro de nuestra tecnología para que RLDatix pueda centrarse en lo que realmente hacemos bien – lo que es construir grandes productos para nuestros clientes en todos nuestros verticales respectivos.

¿Cuáles son algunas de las nuevas amenazas de seguridad que has visto con la adopción reciente y rápida de LLM?

Desde la perspectiva de RLDatix, hay varias consideraciones que estamos trabajando a medida que desarrollamos y entrenamos LLM. Un enfoque importante para nosotros es mitigar los sesgos y la injusticia. Los LLM solo son tan buenos como los datos con los que se entrenan. Factores como el género, la raza y otras demografías pueden incluir muchos sesgos inherentes porque el conjunto de datos en sí está sesgado. Por ejemplo, piense en cómo el sureste de los Estados Unidos utiliza la palabra “y’all” en el lenguaje cotidiano. Este es un sesgo de lenguaje único inherente a una población de pacientes específica que los investigadores deben considerar al entrenar al LLM para distinguir con precisión las sutilezas del lenguaje en comparación con otras regiones. Esos tipos de sesgos deben abordarse a gran escala al utilizar LLM dentro de la atención médica, ya que entrenar un modelo dentro de una población de pacientes en particular no necesariamente significa que el modelo funcionará en otra.

Mantener la seguridad, la transparencia y la rendición de cuentas también son puntos de enfoque importantes para nuestra organización, así como mitigar cualquier oportunidad para alucinaciones y desinformación. Asegurarnos de que estemos abordando activamente cualquier preocupación de privacidad, que comprendamos cómo un modelo llegó a una respuesta determinada y que tengamos un ciclo de desarrollo seguro en su lugar son componentes importantes de una implementación y mantenimiento efectivos.

¿Cuáles son otros algoritmos de aprendizaje automático que se utilizan en RLDatix?

Utilizar el aprendizaje automático (ML) para descubrir conocimientos críticos de programación ha sido un caso de uso interesante para nuestra organización. En el Reino Unido, específicamente, hemos estado explorando cómo aprovechar el ML para comprender mejor cómo se produce la programación de enfermeras y médicos. RLDatix tiene acceso a una gran cantidad de datos de programación de la última década, pero ¿qué podemos hacer con toda esa información? Ahí es donde entra en juego el ML. Estamos utilizando un modelo de ML para analizar esos datos históricos y proporcionar información sobre cómo podría ser una situación de personal en dos semanas, en un hospital específico o en una región determinada.

Ese caso de uso específico es un modelo de ML muy alcanzable, pero estamos empujando el límite aún más al conectarlo a eventos de la vida real. Por ejemplo, ¿qué pasa si miramos todos los horarios de fútbol en el área? Sabemos de primera mano que los eventos deportivos suelen generar más lesiones y que un hospital local probablemente tendrá más pacientes internados el día de un evento en comparación con un día típico. Estamos trabajando con AWS y otros socios para explorar qué conjuntos de datos públicos podemos sembrar para hacer que la programación sea aún más fluida. Ya tenemos datos que sugieren que veremos un aumento de pacientes alrededor de los eventos deportivos importantes o incluso el clima inclemente, pero el modelo de ML puede ir un paso más allá al tomar esos datos e identificar tendencias críticas que ayudarán a garantizar que los hospitales estén adecuadamente dotados de personal, en última instancia reduciendo la presión sobre nuestra fuerza laboral y llevando a nuestra industria un paso más hacia la atención más segura para todos.

Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar RLDatix.