Vivek Desai, Director de Tecnología, América del Norte en RLDatix – Serie de Entrevistas

Vivek Desai es el Director de Tecnología de América del Norte en RLDatix, una empresa de software y servicios de operaciones de atención médica conectada. RLDatix está en una misión para cambiar la atención médica. Ayudan a las organizaciones a impulsar una atención más segura y eficiente, proporcionando herramientas de gobernanza, riesgo y cumplimiento que impulsan la mejora y la seguridad en general.

¿Qué te atrajo inicialmente a la informática y la ciberseguridad?

Me gustaban las complejidades de lo que la informática y la ciberseguridad tratan de resolver – siempre hay un desafío emergente que explorar. Un buen ejemplo de esto es cuando la nube comenzó a ganar tracción. Tenía un gran promesa, pero también planteaba algunas preguntas sobre la seguridad de la carga de trabajo. Fue muy claro desde el principio que los métodos tradicionales eran una solución temporal, y que las organizaciones en general necesitarían desarrollar nuevos procesos para asegurar eficazmente las cargas de trabajo en la nube. Navegar por estos nuevos métodos fue un viaje emocionante para mí y para muchos otros que trabajan en este campo. Es una industria dinámica y en constante evolución, así que cada día trae algo nuevo y emocionante.

¿Puedes compartir algunas de las responsabilidades actuales que tienes como Director de Tecnología de RLDatix?

Actualmente, me enfoco en liderar nuestra estrategia de datos y encontrar formas de crear sinergias entre nuestros productos y los datos que contienen, para entender mejor las tendencias. Muchos de nuestros productos almacenan tipos similares de datos, así que mi trabajo es encontrar formas de romper esas barreras y hacer que sea más fácil para nuestros clientes, tanto hospitales como sistemas de salud, acceder a los datos. Con esto, también estoy trabajando en nuestra estrategia global de inteligencia artificial (IA) para informar el acceso y la utilización de los datos en todo el ecosistema.

Mantenerme al día sobre las tendencias emergentes en diversas industrias es otro aspecto crucial de mi función, para asegurarme de que estamos avanzando en la dirección estratégica correcta. Estoy siguiendo de cerca los modelos de lenguaje grande (LLM). Como empresa, estamos trabajando para encontrar formas de integrar LLM en nuestra tecnología, para empoderar y mejorar a los humanos, específicamente a los proveedores de atención médica, reducir su carga cognitiva y permitirles centrarse en cuidar a los pacientes.

En tu publicación de blog de LinkedIn titulada “Una reflexión sobre mi 1er año como Director de Tecnología“, escribiste, “Los Directores de Tecnología no trabajan solos. Son parte de un equipo”. ¿Puedes elaborar sobre algunos de los desafíos que has enfrentado y cómo has abordado la delegación y el trabajo en equipo en proyectos que son inherentemente técnicamente desafiantes?

El papel del Director de Tecnología ha cambiado fundamentalmente en la última década. Se han ido los días de trabajar en una sala de servidores. Ahora, el trabajo es mucho más colaborativo. Juntos, a través de unidades comerciales, alineamos las prioridades organizacionales y convertimos esas aspiraciones en requisitos técnicos que nos impulsan hacia adelante. Los hospitales y los sistemas de salud actualmente navegan por muchos desafíos diarios, desde la gestión de la fuerza laboral hasta las limitaciones financieras, y la adopción de nueva tecnología puede que no siempre sea una prioridad. Nuestro objetivo principal es demostrar cómo la tecnología puede ayudar a mitigar estos desafíos, en lugar de agregar a ellos, y el valor general que aporta a su negocio, empleados y pacientes en general. Este esfuerzo no se puede hacer solo o incluso dentro de mi equipo, así que la colaboración abarca unidades multidisciplinarias para desarrollar una estrategia cohesiva que demuestre ese valor, ya sea que se derive de dar a los clientes acceso a información de datos desbloqueada o activar procesos que actualmente no pueden realizar.

¿Cuál es el papel de la inteligencia artificial en el futuro de las operaciones de atención médica conectada?

Como los datos integrados se vuelven más disponibles con la IA, se pueden utilizar para conectar sistemas dispares y mejorar la seguridad y la precisión en todo el continuum de la atención. Este concepto de operaciones de atención médica conectada es una categoría en la que nos enfocamos en RLDatix, ya que desbloquea datos y conocimientos accionables para los responsables de la toma de decisiones en la atención médica – y la IA es fundamental para hacer que eso sea una realidad.

Un aspecto no negociable de esta integración es asegurarse de que el uso de los datos sea seguro y cumpla con las normas, y que se entiendan los riesgos. Somos el líder del mercado en política, riesgo y seguridad, lo que significa que tenemos una gran cantidad de datos para entrenar LLM fundamentales con más precisión y confiabilidad. Para lograr operaciones de atención médica conectada verdaderas, el primer paso es fusionar las soluciones dispares, y el segundo es extraer los datos y normalizarlos en esas soluciones. Los hospitales se beneficiarán enormemente de un grupo de soluciones interconectadas que puedan combinar conjuntos de datos y brindar valor accionable a los usuarios, en lugar de mantener conjuntos de datos separados de soluciones de punto individuales.

En una conferencia reciente, la Directora de Producto Barbara Staruk compartió cómo RLDatix está utilizando la inteligencia artificial generativa y los modelos de lenguaje grande para simplificar y automatizar la presentación de informes de incidentes de seguridad del paciente. ¿Puedes elaborar sobre cómo funciona esto?

Esta es una iniciativa muy significativa para RLDatix y un gran ejemplo de cómo estamos maximizando el potencial de los LLM. Cuando los hospitales y los sistemas de salud completan informes de incidentes, hay actualmente tres formatos estándar para determinar el nivel de daño indicado en el informe: los formatos comunes de la Agencia para la Investigación y la Calidad de la Atención Médica, el Consejo Coordinador Nacional para la Presentación de Informes de Errores de Medicación y la Clasificación de Eventos de Seguridad de la Mejora del Desempeño de la Atención Médica (HPI). Actualmente, podemos entrenar fácilmente a un LLM para leer el texto en un informe de incidente. Si un paciente fallece, por ejemplo, el LLM puede identificar fácilmente esa información. El desafío, sin embargo, radica en entrenar al LLM para determinar el contexto y distinguir entre categorías más complejas, como daño permanente grave, una taxonomía incluida en la clasificación de eventos de seguridad de HPI, por ejemplo, en comparación con daño temporal grave. Si la persona que informa no incluye suficiente contexto, el LLM no podrá determinar el nivel de categoría de daño adecuado para ese incidente de seguridad del paciente.

RLDatix está trabajando para implementar una taxonomía más simple, a nivel global, en todo nuestro portafolio, con categorías concretas que puedan ser fácilmente distinguidas por el LLM. Con el tiempo, los usuarios podrán simplemente escribir lo que ocurrió y el LLM se encargará de extraer toda la información importante y prellenar los formularios de incidente. No solo es un ahorro de tiempo significativo para una fuerza laboral ya estresada, sino que, a medida que el modelo se vuelva más avanzado, también podremos identificar tendencias críticas que permitirán a las organizaciones de atención médica tomar decisiones más seguras en general.

¿De qué otras maneras RLDatix ha comenzado a incorporar LLM en sus operaciones?

Otra forma en que estamos utilizando LLM internamente es para simplificar el proceso de acreditación. Las credenciales de cada proveedor están formateadas de manera diferente y contienen información única. Para ponerlo en perspectiva, piense en cómo todos los currículos lucen diferentes – desde fuentes, experiencia laboral, educación y formato en general. La acreditación es similar. ¿Dónde asistió el proveedor a la universidad? ¿Cuál es su certificación? ¿En qué artículos están publicados? Cada profesional de la salud proporcionará esa información a su manera.

En RLDatix, los LLM nos permiten leer esas credenciales y extraer todos los datos en un formato estandarizado, para que aquellos que trabajan en la entrada de datos no tengan que buscar extensivamente, lo que les permite pasar menos tiempo en el componente administrativo y centrar su tiempo en tareas que agregan valor.

La ciberseguridad siempre ha sido un desafío, especialmente con el cambio a tecnologías basadas en la nube, ¿podrías discutir algunos de estos desafíos?

La ciberseguridad es un desafío, lo que hace que sea importante trabajar con el socio adecuado. Asegurarse de que los LLM permanezcan seguros y cumplan con las normas es la consideración más importante al utilizar esta tecnología. Si su organización no tiene personal dedicado en casa para hacer esto, puede ser increíblemente desafiante y consume mucho tiempo. Es por eso que trabajamos con Amazon Web Services (AWS) en la mayoría de nuestras iniciativas de ciberseguridad. AWS nos ayuda a instilar la seguridad y el cumplimiento como principios básicos dentro de nuestra tecnología, para que RLDatix pueda centrarse en lo que realmente hacemos bien – lo que es construir grandes productos para nuestros clientes en todos nuestros verticales respectivos.

¿Cuáles son algunas de las nuevas amenazas de seguridad que has visto con la adopción reciente y rápida de LLM?

Desde la perspectiva de RLDatix, hay varias consideraciones que estamos trabajando. Un enfoque importante para nosotros es mitigar los sesgos y la injusticia. Los LLM son tan buenos como los datos en los que se entrenan. Factores como el género, la raza y otras demografías pueden incluir muchos sesgos inherentes porque el conjunto de datos en sí es sesgado. Por ejemplo, piense en cómo el sureste de los Estados Unidos utiliza la palabra “y’all” en el lenguaje cotidiano. Este es un sesgo lingüístico único inherente a una población de pacientes específica que los investigadores deben considerar al entrenar al LLM para distinguir con precisión las sutilezas del lenguaje en comparación con otras regiones. Esos sesgos deben ser abordados a gran escala al utilizar LLM en la atención médica, ya que entrenar un modelo dentro de una población de pacientes en particular no necesariamente significa que el modelo funcionará en otra.

Mantener la seguridad, la transparencia y la rendición de cuentas son también puntos de enfoque importantes para nuestra organización, así como mitigar cualquier oportunidad para alucinaciones y desinformación. Asegurarnos de que estemos abordando activamente cualquier preocupación de privacidad, que entendamos cómo un modelo llegó a una respuesta determinada y que tengamos un ciclo de desarrollo seguro en su lugar son todos componentes importantes de una implementación y mantenimiento efectivos.

¿Cuáles son algunos otros algoritmos de aprendizaje automático que se utilizan en RLDatix?

Utilizar el aprendizaje automático (ML) para descubrir conocimientos críticos de programación ha sido un caso de uso interesante para nuestra organización. En el Reino Unido, específicamente, hemos estado explorando cómo aprovechar el ML para comprender mejor cómo se produce la programación de enfermeras y médicos. RLDatix tiene acceso a una gran cantidad de datos de programación de la última década, pero ¿qué podemos hacer con toda esa información? Eso es donde entra en juego el ML. Estamos utilizando un modelo de ML para analizar esos datos históricos y brindar información sobre cómo podría verse una situación de personal dos semanas a partir de ahora, en un hospital específico o en una región determinada.

Ese caso de uso específico es un modelo de ML muy alcanzable, pero estamos empujando el límite aún más al conectarlo a eventos de la vida real. ¿Qué pasa si miramos cada calendario de fútbol en el área? Sabemos de primera mano que los eventos deportivos suelen generar más lesiones y que un hospital local probablemente tendrá más pacientes internados el día de un evento en comparación con un día típico. Estamos trabajando con AWS y otros socios para explorar qué conjuntos de datos públicos podemos sembrar para hacer que la programación sea aún más fluida. Ya tenemos datos que sugieren que veremos un aumento de pacientes alrededor de eventos deportivos importantes o incluso condiciones climáticas adversas, pero el modelo de ML puede llevarlo un paso más allá al tomar esos datos y identificar tendencias críticas que ayudarán a asegurarse de que los hospitales estén adecuadamente dotados de personal, lo que en última instancia reducirá la presión sobre nuestra fuerza laboral y llevará a nuestra industria un paso más allá en la consecución de una atención más segura para todos.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar RLDatix.