Josh Miller, CEO de Gradient Health – Serie de entrevistas

Josh Miller es el CEO de Gradient Health, una empresa fundada en la idea de que los diagnósticos automatizados deben existir para que la atención médica sea equitativa y accesible para todos. Gradient Health tiene como objetivo acelerar los diagnósticos automatizados de inteligencia artificial con datos organizados, etiquetados y disponibles.

¿Podría compartir la historia de la creación de Gradient Health?

Mi cofundador Ouwen y yo habíamos salido de nuestra primera startup, FarmShots, que utilizaba visión por computadora para ayudar a reducir la cantidad de pesticidas utilizados en la agricultura, y estábamos buscando nuestro próximo desafío.

Siempre hemos estado motivados por el deseo de encontrar un problema difícil de resolver con tecnología que a) tenga la oportunidad de hacer mucho bien en el mundo, y b) conduzca a un negocio sólido. Ouwen estaba trabajando en su título médico, y con nuestra experiencia en visión por computadora, la imagen médica era un ajuste natural para nosotros. Debido al impacto devastador del cáncer de mama, elegimos la mamografía como una posible aplicación inicial. Así que dijimos: “¿Dónde empezamos? Necesitamos datos. Necesitamos mil mamografías. ¿Dónde se obtiene ese nivel de datos?” y la respuesta fue “En ninguna parte”. Nos dimos cuenta de inmediato de que es realmente difícil encontrar datos. Después de meses, esta frustración se convirtió en un problema filosófico para nosotros, pensamos: “Cualquiera que esté tratando de hacer algo bueno en este espacio no debería tener que luchar y esforzarse para obtener los datos que necesitan para construir algoritmos que salvan vidas”. Y así dijimos: “¿Quizás ese es nuestro problema para resolver?”

¿Cuáles son los riesgos actuales en el mercado con datos no representativos?

De numerosos estudios y ejemplos del mundo real, sabemos que si construimos un algoritmo utilizando solo datos de la costa oeste, y lo llevamos al sureste, no funcionará. Una y otra vez escuchamos historias de inteligencia artificial que funciona bien en el hospital del noreste donde se creó, y cuando lo despliegan en otro lugar, la precisión disminuye a menos del 50%.

Creo que el propósito fundamental de la inteligencia artificial, a nivel ético, es que debe disminuir las disparidades en la salud. El objetivo es hacer que la atención de calidad sea asequible y accesible para todos. Pero el problema es que cuando se construye sobre datos deficientes, en realidad se aumentan las disparidades. Estamos fallando en la misión de la inteligencia artificial en la atención médica si solo funciona para los hombres blancos de la costa. Las personas de orígenes subrepresentados sufrirán aún más discriminación como resultado, no menos.

¿Podría discutir cómo Gradient Health obtiene datos?

Claro, nos asociamos con todos los tipos de sistemas de salud en todo el mundo cuyos datos están almacenados, lo que les cuesta dinero y no beneficia a nadie. Desidentificamos sus datos en la fuente y luego los organizamos cuidadosamente para los investigadores.

¿Cómo garantiza Gradient Health que los datos sean imparciales y lo más diversos posible?

Hay muchas formas. Por ejemplo, cuando recopilamos datos, nos aseguramos de incluir muchas clínicas comunitarias, donde a menudo se encuentran datos más representativos, así como los hospitales más grandes. También obtenemos nuestros datos de un gran número de sitios clínicos. Tratamos de obtener tantos sitios como sea posible de una amplia gama de poblaciones posibles. Así que no solo tener un gran número de sitios, sino tenerlos geográfica y socioeconómicamente diversos. Porque si todos sus sitios están en hospitales del centro, no es datos representativos, ¿verdad?

Para validar todo esto, ejecutamos estadísticas en todos estos conjuntos de datos y los personalizamos para el cliente, para asegurarnos de que estén obteniendo datos que sean diversos en términos de tecnología y demografía.

¿Por qué es tan importante este nivel de control de datos para diseñar algoritmos de inteligencia artificial robustos?

Hay muchas variables que un algoritmo de inteligencia artificial podría encontrar en el mundo real, y nuestro objetivo es asegurarnos de que el algoritmo sea lo más robusto posible. Para simplificar las cosas, pensamos en cinco variables clave en nuestros datos. La primera variable que pensamos es “fabricante de equipo”. Es obvio, pero si construimos un algoritmo solo utilizando datos de escáneres GE, no funcionará tan bien en un escáner Hitachi, por ejemplo.

En líneas similares está la variable “modelo de equipo”. Esta es interesante desde una perspectiva de desigualdad en la salud. Sabemos que los hospitales de investigación grandes y bien financiados tienden a tener las versiones más recientes y mejores de los escáneres. Y si solo entrenan su inteligencia artificial con sus propios modelos de 2022, no funcionará tan bien en un modelo de 2010. Estos sistemas más antiguos son exactamente los que se encuentran en áreas menos acomodadas y rurales. Así que, al utilizar solo datos de los modelos más nuevos, están introduciendo involuntariamente más sesgo contra las personas de estas comunidades.

Las otras variables clave son el género, la etnia y la edad, y nos esforzamos mucho por asegurarnos de que nuestros datos estén equilibrados proporcionalmente en todos ellos.

¿Cuáles son algunos de los obstáculos regulatorios que enfrentan las empresas de MedTech?

Estamos empezando a ver que la FDA realmente investiga el sesgo en los conjuntos de datos. Hemos tenido investigadores que vienen a nosotros y dicen: “La FDA ha rechazado nuestro algoritmo porque faltaba una población afroamericana del 15%” (el porcentaje aproximado de afroamericanos que forman parte de la población de los EE. UU.). También hemos escuchado a un desarrollador que dice que necesita incluir al 1% de isleños hawaianos del Pacífico en sus datos de entrenamiento.

Así que la FDA está empezando a darse cuenta de que estos algoritmos, que se entrenaron en un solo hospital, no funcionan en el mundo real. El hecho es que, si quieres obtener la marca CE y la aprobación de la FDA, debes venir con un conjunto de datos que represente a la población. Ya no es aceptable entrenar una inteligencia artificial en un grupo pequeño o no representativo.

El riesgo para las empresas de MedTech es que invierten millones de dólares para llevar su tecnología a un lugar donde creen que están listos para la aprobación regulatoria, y si no pueden obtenerla, nunca obtendrán reembolso ni ingresos. En última instancia, el camino hacia la comercialización y el camino hacia tener el tipo de impacto beneficioso en la atención médica que desean tener requiere que se preocupen por el sesgo en los datos.

¿Cuáles son algunas de las opciones para superar estos obstáculos desde una perspectiva de datos?

En los últimos años, los métodos de gestión de datos han evolucionado, y los desarrolladores de inteligencia artificial ahora tienen más opciones disponibles que nunca antes. Desde intermediarios de datos y socios hasta aprendizaje federado y datos sintéticos, hay nuevos enfoques para estos obstáculos. Cualquiera que sea el método que elijan, siempre los animamos a considerar si sus datos son verdaderamente representativos de la población que utilizará el producto. Esto es, con mucho, el aspecto más difícil de obtener datos.

Una solución que ofrece Gradient Health es Gradient Label, ¿cuál es esta solución y cómo permite etiquetar datos a gran escala?

La inteligencia artificial de imagen médica no solo requiere datos, sino también anotaciones expertas. Y ayudamos a las empresas a obtener esas anotaciones expertas, incluidas las de radiólogos.

¿Cuál es su visión para el futuro de la inteligencia artificial y los datos en la atención médica?

Ya hay miles de herramientas de inteligencia artificial que examinan todo, desde las puntas de los dedos hasta las puntas de los pies, y creo que esto seguirá creciendo. Creo que habrá al menos 10 algoritmos para cada condición en un libro de medicina. Cada uno tendrá múltiples herramientas competitivas para ayudar a los clínicos a brindar la mejor atención.

No creo que vayamos a terminar viendo un dispositivo de estilo Tricorder que escanea a alguien y aborda todos los problemas posibles de la cabeza a los pies. En cambio, tendremos aplicaciones especializadas para cada subconjunto.

¿Hay algo más que le gustaría compartir sobre Gradient Health?

Estoy emocionado con el futuro. Creo que estamos avanzando hacia un lugar donde la atención médica es barata, igualitaria y accesible para todos, y estoy ansioso por que Gradient tenga la oportunidad de desempeñar un papel fundamental en hacer que esto suceda. Todo el equipo aquí cree genuinamente en esta misión, y hay una pasión unida en ellos que no se encuentra en todas las empresas. ¡Y me encanta!

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Gradient Health.