Ittai Dayan, MD, Co-fundador y CEO de Rhino Health – Serie de entrevistas

Ittai Dayan, MD es el co-fundador y CEO de Rhino Health. Su experiencia se encuentra en el desarrollo de inteligencia artificial y diagnósticos, así como en medicina clínica e investigación. Fue miembro principal de la práctica de atención médica de BCG y ejecutivo de hospital. Actualmente se enfoca en contribuir al desarrollo de inteligencia artificial segura, equitativa e impactante en la industria de la atención médica y las ciencias de la vida. En Rhino Health, están utilizando computación distribuida y aprendizaje federado como medio para mantener la privacidad de los pacientes y fomentar la colaboración en el fragmentado paisaje de la atención médica.

Sirvió en las fuerzas especiales del IDF, lideró el centro de traducción de inteligencia artificial basado en centros académicos-médicos más grande del mundo. Es un experto en desarrollo y comercialización de inteligencia artificial, y un corredor de larga distancia.

¿Podría compartir la historia de la creación de Rhino Health?

Mi viaje en inteligencia artificial comenzó cuando era un clínico e investigador, utilizando una forma temprana de ‘biomarcador digital’ para medir la respuesta al tratamiento en trastornos mentales. Más tarde, lideré el Centro de Ciencia de Datos Clínicos (CCDS) en Mass General Brigham. Allí, supervisé el desarrollo de decenas de aplicaciones clínicas de inteligencia artificial y presencié de primera mano los desafíos subyacentes asociados con el acceso y la ‘activación’ de los datos necesarios para desarrollar y entrenar productos de inteligencia artificial de grado regulatorio.

A pesar de los muchos avances en la inteligencia artificial en la atención médica, el camino desde el desarrollo hasta el lanzamiento de un producto en el mercado es largo y a menudo accidentado. Las soluciones se estrellan (o simplemente decepcionan) una vez desplegadas clínicamente, y apoyar el ciclo de vida completo de la inteligencia artificial es casi imposible sin acceso continuo a una gran cantidad de datos clínicos. El desafío ha cambiado de crear modelos a mantenerlos. Para responder a este desafío, convencí al sistema de Mass General Brigham del valor de tener su propio ‘CRO especializado en inteligencia artificial’ (CRO = Organización de Investigación Clínica), para probar algoritmos de múltiples desarrolladores comerciales.

Sin embargo, el problema persistió: los datos de salud todavía están muy fragmentados, y incluso una gran cantidad de datos de una red no son suficientes para combatir los objetivos cada vez más estrechos de la inteligencia artificial médica. En el verano de 2020, inicié y lideré (junto con la Dra. Mona Flores de NVIDIA (NVDA )) el estudio de aprendizaje federado de atención médica más grande del mundo en ese momento, EXAM. Utilizamos el aprendizaje federado para crear un modelo predictivo de resultados de COVID, aprovechando datos de todo el mundo, sin compartir ningún dato. Publicado posteriormente en Nature Medicine, este estudio demostró el impacto positivo de aprovechar conjuntos de datos diversos y dispares y subrayó el potencial para un uso más extendido del aprendizaje federado en la atención médica.

Esta experiencia, sin embargo, puso de relieve una serie de desafíos. Estos incluyeron orquestar datos en sitios de colaboración, garantizar la trazabilidad de los datos y la caracterización adecuada, así como la carga que se impone a los departamentos de TI de cada institución, que debían aprender tecnologías de vanguardia que no estaban acostumbrados a utilizar. Esto requirió una nueva plataforma que apoyara estas colaboraciones de ‘datos distribuidos’ novatos. Decidí unirme a mi co-fundador, Yuval Baror, para crear una plataforma de extremo a extremo para apoyar colaboraciones que preservan la privacidad. Esa plataforma es la ‘Plataforma de Rhino Health’, que aprovecha el aprendizaje federado y el cómputo de borde.

¿Por qué cree que los modelos de inteligencia artificial a menudo no logran ofrecer los resultados esperados en un entorno de atención médica?

La inteligencia artificial médica a menudo se entrena con conjuntos de datos pequeños y estrechos, como conjuntos de datos de una sola institución o región geográfica, lo que lleva a que el modelo resultante solo funcione bien con los tipos de datos que ha visto. Una vez que el algoritmo se aplica a pacientes o escenarios que difieren del conjunto de datos de entrenamiento estrecho, el rendimiento se ve gravemente afectado.

Andrew Ng capturó la idea bien cuando dijo: “Resulta que cuando recopilamos datos del Hospital Stanford… podemos publicar artículos que muestran [que los algoritmos] son comparables a los radiólogos humanos para detectar ciertas condiciones. … [Cuando] se toma ese mismo modelo, ese mismo sistema de inteligencia artificial, a un hospital más antiguo de la calle, con una máquina más antigua, y el técnico utiliza un protocolo de imagen ligeramente diferente, ese desplazamiento de datos causa que el rendimiento del sistema de inteligencia artificial se degrade significativamente”.³

En resumen, la mayoría de los modelos de inteligencia artificial no se entrenan con datos lo suficientemente diversos y de alta calidad, lo que resulta en un rendimiento deficiente en el ‘mundo real’. Este problema ha sido bien documentado en círculos científicos y de corriente principal, como en Science y Politico.

¿Cuán importante es probar en grupos de pacientes diversos?

Probar en grupos de pacientes diversos es crucial para garantizar que el producto de inteligencia artificial resultante no solo sea eficaz y performante, sino también seguro. Los algoritmos que no se entrenan o prueban en grupos de pacientes lo suficientemente diversos pueden sufrir de sesgo algorítmico, un problema grave en la atención médica y la tecnología de la atención médica. No solo reflejarán el sesgo que estaba presente en los datos de entrenamiento, sino que también exacerbarán ese sesgo y comprenderán las desigualdades raciales, étnicas, religiosas, de género, etc. existentes en la atención médica. No probar en grupos de pacientes diversos puede resultar en productos peligrosos.

Un estudio publicado recientemente⁵, que utilizó la Plataforma de Rhino Health, investigó el rendimiento de un algoritmo de inteligencia artificial para detectar aneurismas cerebrales desarrollado en un sitio en cuatro sitios diferentes con una variedad de tipos de escáner. Los resultados demostraron una variabilidad significativa en el rendimiento en sitios con diferentes tipos de escáner, lo que destaca la importancia de entrenar y probar en conjuntos de datos diversos.

¿Cómo identifica si una subpoblación no está representada?

Un enfoque común es analizar las distribuciones de variables en diferentes conjuntos de datos, individualmente y combinados. Eso puede informar a los desarrolladores tanto al preparar conjuntos de datos de ‘entrenamiento’ como de ‘validación’. La Plataforma de Rhino Health permite hacer eso, y además, los usuarios pueden ver cómo se desempeña el modelo en diferentes cohortes para garantizar la generalización y el rendimiento sostenible en subpoblaciones.

¿Podría describir qué es el aprendizaje federado y cómo resuelve algunos de estos problemas?

El aprendizaje federado (FL) se puede definir ampliamente como el proceso en el que los modelos de inteligencia artificial se entrenan y luego continúan mejorando con el tiempo, utilizando datos dispares, sin necesidad de compartir o centralizar datos. Esto es un gran avance en el desarrollo de la inteligencia artificial. Históricamente, cualquier usuario que desee colaborar con múltiples sitios debe combinar esos datos, lo que induce una serie de onerosas, costosas y tediosas tareas legales, de riesgo y de cumplimiento.

Hoy en día, con software como la Plataforma de Rhino Health, el aprendizaje federado se está convirtiendo en una realidad cotidiana en la atención médica y las ciencias de la vida. El aprendizaje federado permite a los usuarios explorar, curar y validar datos mientras esos datos permanecen en los servidores locales de los colaboradores. El código contenedorizado, como un algoritmo de inteligencia artificial o una aplicación analítica, se envía al servidor local donde se ejecuta el código, como el entrenamiento o la validación de un algoritmo de inteligencia artificial, de manera ‘local’. Los datos permanecen con el ‘custodio de los datos’ en todo momento.

Los hospitales, en particular, están preocupados por los riesgos asociados con la agregación de datos de pacientes sensibles. Esto ya ha llevado a situaciones embarazosas, donde se ha hecho evidente que las organizaciones de atención médica colaboraron con la industria sin entender exactamente el uso de sus datos. A su vez, limitan la cantidad de colaboración que tanto la industria como los investigadores académicos pueden hacer, lo que ralentiza el desarrollo y el impacto de la calidad de los productos en la industria de la atención médica. El aprendizaje federado puede mitigar eso y permitir colaboraciones de datos como nunca antes, mientras controla el riesgo asociado con esas colaboraciones.

¿Podría compartir la visión de Rhino Health para permitir la creación rápida de modelos utilizando datos más diversos?

Nuestra visión es una ecosistema de desarrolladores y usuarios de inteligencia artificial, colaborando sin miedo ni restricción, mientras respetan los límites de las regulaciones. Los colaboradores pueden identificar rápidamente los datos de entrenamiento y prueba necesarios de todo el mundo, acceder e interactuar con esos datos y iterar en el desarrollo del modelo para garantizar la generalización, el rendimiento y la seguridad suficientes.

En el centro de esto se encuentra la Plataforma de Rhino Health, que proporciona un ‘lugar único’ para que los desarrolladores de inteligencia artificial construyan conjuntos de datos masivos y diversos, entrenen y validen algoritmos de inteligencia artificial y monitoreen y mantengan productos de inteligencia artificial desplegados de forma continua.

¿Cómo evita la Plataforma de Rhino Health el sesgo de la inteligencia artificial y ofrece explicabilidad de la inteligencia artificial?

Al desbloquear y simplificar las colaboraciones de datos, los desarrolladores de inteligencia artificial pueden aprovechar conjuntos de datos más grandes y diversos en el entrenamiento y la prueba de sus aplicaciones. El resultado de conjuntos de datos más robustos es un producto más generalizable que no está afectado por los sesgos de una sola institución o conjunto de datos estrecho. En apoyo de la explicabilidad de la inteligencia artificial, nuestra plataforma proporciona una visión clara de los datos utilizados en el proceso de desarrollo, con la capacidad de analizar los orígenes de los datos, las distribuciones de valores y otras métricas clave para garantizar la diversidad y la calidad adecuadas de los datos. Además, nuestra plataforma permite funcionalidades que no son posibles si los datos se combinan simplemente, incluyendo permitir a los usuarios mejorar aún más sus conjuntos de datos con variables adicionales, como las calculadas a partir de puntos de datos existentes, para investigar la inferencia causal y mitigar los factores de confusión.

¿Cómo responde a los médicos que están preocupados por que una dependencia excesiva de la inteligencia artificial pueda llevar a resultados sesgados que no se validan de forma independiente?

Simpatizamos con esta preocupación y reconocemos que algunas de las aplicaciones en el mercado pueden ser sesgadas. Nuestra respuesta es que debemos unirnos como industria, como una comunidad de atención médica que se preocupa en primer lugar por la seguridad del paciente, para definir políticas y procedimientos para prevenir esos sesgos y garantizar aplicaciones de inteligencia artificial seguras y fiables. Los desarrolladores de inteligencia artificial tienen la responsabilidad de garantizar que sus productos de inteligencia artificial comercializados se validen de forma independiente para lograr la confianza de los profesionales de la salud y los pacientes. Rhino Health se dedica a apoyar productos de inteligencia artificial seguros y fiables y está trabajando con socios para permitir y simplificar la validación independiente de las aplicaciones de inteligencia artificial antes de su despliegue en entornos clínicos, desbloqueando las barreras para los datos de validación necesarios.

¿Cuál es su visión para el futuro de la inteligencia artificial en la atención médica?

La visión de Rhino Health es un mundo donde la inteligencia artificial ha alcanzado su máximo potencial en la atención médica. Estamos trabajando diligentemente para crear transparencia y fomentar la colaboración al afirmar la privacidad para permitir este mundo. Visualizamos una inteligencia artificial en la atención médica que no esté limitada por firewalls, geografías o restricciones regulatorias. Los desarrolladores de inteligencia artificial tendrán acceso controlado a todos los datos que necesitan para construir modelos poderosos y generalizables, y para monitorear y mejorarlos continuamente con un flujo de datos en tiempo real. Los proveedores y los pacientes tendrán la confianza de saber que no pierden el control sobre sus datos y pueden garantizar que se utilicen para el bien. Las organizaciones de salud pública se beneficiarán de estos avances en la inteligencia artificial, mientras que los pacientes y los proveedores descansan tranquilos sabiendo que la privacidad está protegida.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Rhino Health.