Josh Miller, CEO de Gradient Health – Serie de entrevistas

Josh Miller es el CEO de Gradient Health, una empresa fundada en la idea de que los diagnósticos automatizados deben existir para que la atención médica sea equitativa y accesible para todos. Gradient Health tiene como objetivo acelerar los diagnósticos automatizados de inteligencia artificial con datos que están organizados, etiquetados y disponibles.

¿Podría compartir la historia de origen detrás de Gradient Health?

Mi cofundador Ouwen y yo acabábamos de salir de nuestra primera startup, FarmShots, que utilizaba la visión por computadora para ayudar a reducir la cantidad de pesticidas utilizados en la agricultura, y estábamos buscando nuestro próximo desafío.

Siempre hemos estado motivados por el deseo de encontrar un problema difícil de resolver con tecnología que a) tenga la oportunidad de hacer mucho bien en el mundo, y b) conduzca a un negocio sólido. Ouwen estaba trabajando en su título médico, y con nuestra experiencia en visión por computadora, la imagen médica era un ajuste natural para nosotros. Debido al impacto devastador del cáncer de mama, elegimos la mamografía como una posible aplicación inicial. Así que dijimos: “¿Ok, dónde empezamos? Necesitamos datos. Necesitamos mil mamografías. ¿Dónde se obtiene ese nivel de datos?” y la respuesta fue “En ninguna parte”. Nos dimos cuenta de inmediato de que es realmente difícil encontrar datos. Después de meses, esta frustración se convirtió en un problema filosófico para nosotros, pensamos: “cualquiera que esté tratando de hacer algo bueno en este espacio no debería tener que luchar y esforzarse para obtener los datos que necesitan para construir algoritmos que salvan vidas”. Y así dijimos: “hey, tal vez ese es realmente nuestro problema para resolver”.

¿Cuáles son los riesgos actuales en el mercado con datos no representativos?

A partir de numerosos estudios y ejemplos del mundo real, sabemos que si construimos un algoritmo utilizando solo datos de la costa oeste, y lo llevamos al sureste, simplemente no funcionará. Una y otra vez escuchamos historias de inteligencia artificial que funciona muy bien en el hospital del noreste donde se creó, y cuando lo despliegan en otro lugar, la precisión disminuye a menos del 50%.

Creo que el propósito fundamental de la inteligencia artificial, a nivel ético, es que debería disminuir las disparidades en la salud. El objetivo es hacer que la atención de calidad sea asequible y accesible para todos. Pero el problema es que cuando se construye sobre datos deficientes, en realidad se aumentan las disparidades. Estamos fallando en la misión de la inteligencia artificial en la atención médica si solo funciona para hombres blancos de la costa. Las personas de orígenes subrepresentados sufrirán en realidad más discriminación como resultado, no menos.

¿Podría discutir cómo Gradient Health obtiene datos?

Claro, nos asociamos con todos los tipos de sistemas de salud en todo el mundo cuyos datos de otro modo se almacenan, lo que les cuesta dinero y no beneficia a nadie. Desidentificamos completamente sus datos en la fuente y luego los organizamos cuidadosamente para los investigadores.

¿Cómo garantiza Gradient Health que los datos sean imparciales y lo más diversos posible?

Hay muchas formas. Por ejemplo, cuando recopilamos datos, nos aseguramos de incluir muchos centros de salud comunitarios, donde a menudo se tienen datos más representativos, así como los hospitales más grandes. También obtenemos nuestros datos de un gran número de sitios clínicos. Tratamos de obtener tantos sitios como sea posible de una amplia gama de poblaciones posibles. Así que no solo tener un gran número de sitios, sino tenerlos geográfica y socioeconómicamente diversos. Porque si todos sus sitios están en hospitales del centro de la ciudad, no es representativo, ¿verdad?

Para validar todo esto, ejecutamos estadísticas en todos estos conjuntos de datos y los personalizamos para el cliente, para asegurarnos de que obtengan datos que sean diversos en términos de tecnología y demografía.

¿Por qué es tan importante este nivel de control de datos para diseñar algoritmos de inteligencia artificial robustos?

Hay muchas variables que una inteligencia artificial puede encontrar en el mundo real, y nuestro objetivo es asegurarnos de que el algoritmo sea lo más robusto posible. Para simplificar las cosas, pensamos en cinco variables clave en nuestros datos. La primera variable que pensamos es “fabricante de equipo”. Es obvio, pero si construimos un algoritmo utilizando solo datos de escáneres GE, no funcionará tan bien en un Hitachi, por ejemplo.

En líneas similares está la variable “modelo de equipo”. Esta es en realidad bastante interesante desde una perspectiva de desigualdad en la salud. Sabemos que los hospitales de investigación grandes y bien financiados tienden a tener las versiones más recientes y mejores de los escáneres. Y, si solo entrenan su inteligencia artificial con sus propios modelos de 2022, no funcionará tan bien en un modelo más antiguo de 2010. Estos sistemas más antiguos son exactamente los que se encuentran en áreas rurales y menos acomodadas. Así que, al utilizar solo datos de los modelos más nuevos, están introduciendo involuntariamente más sesgo contra las personas de estas comunidades.

Las otras variables clave son el género, la etnia y la edad, y nos esforzamos mucho para asegurarnos de que nuestros datos estén equilibrados proporcionalmente en todos ellos.

¿Cuáles son algunos de los obstáculos regulatorios que enfrentan las empresas de MedTech?

Estamos empezando a ver que la FDA realmente investiga el sesgo en los conjuntos de datos. Hemos tenido investigadores que vienen a nosotros y dicen: “La FDA ha rechazado nuestro algoritmo porque faltaba una población afroamericana del 15%” (el porcentaje aproximado de afroamericanos que son parte de la población de EE. UU.). También hemos escuchado sobre un desarrollador al que se le dijo que necesitaba incluir al 1% de isleños del Pacífico en sus datos de entrenamiento.

Así que la FDA está empezando a darse cuenta de que estos algoritmos, que se entrenaron en un solo hospital, no funcionan en el mundo real. El hecho es que, si quieres obtener la marca CE y la aprobación de la FDA, debes venir con un conjunto de datos que represente a la población. Ya no es aceptable entrenar una inteligencia artificial en un grupo pequeño o no representativo.

El riesgo para las empresas de MedTech es que invierten millones de dólares para llevar su tecnología a un lugar donde creen que están listos para la aprobación regulatoria, y luego, si no pueden obtenerla, nunca obtendrán reembolso o ingresos. En última instancia, el camino hacia la comercialización y el camino hacia tener el tipo de impacto beneficioso en la atención médica que desean tener requiere que se preocupen por el sesgo de los datos.

¿Cuáles son algunas de las opciones para superar estos obstáculos desde una perspectiva de datos?

En los últimos años, los métodos de gestión de datos han evolucionado, y los desarrolladores de inteligencia artificial ahora tienen más opciones disponibles que nunca antes. Desde intermediarios de datos y socios hasta aprendizaje federado y datos sintéticos, hay nuevos enfoques para estos obstáculos. Cualquiera que sea el método que elijan, siempre los animamos a considerar si sus datos son realmente representativos de la población que utilizará el producto. Esto es, con diferencia, el aspecto más difícil de obtener datos.

Una solución que ofrece Gradient Health es Gradient Label, ¿qué es esta solución y cómo permite etiquetar datos a gran escala?

La inteligencia artificial de imagen médica no solo requiere datos, sino también anotaciones expertas. Y ayudamos a las empresas a obtener esas anotaciones expertas, incluidas las de radiólogos.

¿Cuál es su visión para el futuro de la inteligencia artificial y los datos en la atención médica?

Ya hay miles de herramientas de inteligencia artificial ahí fuera que examinan todo, desde las puntas de los dedos hasta las puntas de los pies, y creo que esto seguirá creciendo. Creo que habrá al menos 10 algoritmos para cada condición en un libro de texto médico. Cada uno tendrá múltiples herramientas, probablemente competitivas, para ayudar a los clínicos a brindar la mejor atención.

No creo que probablemente terminemos viendo un Tricorder al estilo de Star Trek que examine a alguien y aborde todos los problemas posibles de la cabeza a los pies. En cambio, tendremos aplicaciones especializadas para cada subconjunto.

¿Hay algo más que le gustaría compartir sobre Gradient Health?

Estoy emocionado con el futuro. Creo que estamos avanzando hacia un lugar donde la atención médica es barata, equitativa y accesible para todos, y estoy ansioso por que Gradient tenga la oportunidad de desempeñar un papel fundamental en hacer que esto suceda. Todo el equipo aquí cree genuinamente en esta misión, y hay una pasión unida entre ellos que no se obtiene en todas las empresas. ¡Y me encanta!

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Gradient Health.