Josh Miller, CEO da Gradient Health – Série de Entrevistas

Josh Miller é o CEO da Gradient Health, uma empresa fundada na ideia de que diagnósticos automatizados devem existir para que a saúde seja equitativa e acessível a todos. A Gradient Health visa acelerar os diagnósticos automatizados de IA com dados organizados, rotulados e disponíveis.

Poderia compartilhar a história de criação da Gradient Health?

Meu co-fundador Ouwen e eu havíamos acabado de sair de nossa primeira startup, FarmShots, que utilizava visão computacional para ajudar a reduzir a quantidade de pesticidas usados na agricultura, e estávamos procurando por nosso próximo desafio.

Sempre fomos motivados pelo desejo de encontrar um problema difícil de resolver com tecnologia que a) tenha a oportunidade de fazer muito bem no mundo, e b) leve a um sólido negócio. Ouwen estava trabalhando em seu diploma de medicina, e com nossa experiência em visão computacional, a imagem médica era uma escolha natural para nós. Devido ao impacto devastador do câncer de mama, escolhemos a mamografia como uma aplicação potencial. Então, dissemos: “Ok, onde começamos? Precisamos de dados. Precisamos de mil mamografias. Onde você consegue essa escala de dados?” e a resposta foi “Em lugar nenhum”. Percebemos imediatamente que é muito difícil encontrar dados. Depois de meses, essa frustração cresceu em um problema filosófico para nós, pensamos: “Qualquer pessoa que esteja tentando fazer o bem nesse espaço não deve ter que lutar e se esforçar para obter os dados de que precisam para construir algoritmos que salvam vidas”. E então dissemos: “Ei, talvez esse seja realmente o nosso problema para resolver”.

Quais são os riscos atuais no mercado com dados não representativos?

A partir de inúmeros estudos e exemplos do mundo real, sabemos que se construímos um algoritmo usando apenas dados da costa oeste e o trazemos para o sudeste, ele simplesmente não funcionará. Várias vezes ouvimos histórias de IA que funciona muito bem no hospital nordestino em que foi criada, e então, quando a implantam em outro lugar, a precisão cai para menos de 50%.

Acredito que o propósito fundamental da IA, em um nível ético, é que ela deve diminuir as discrepâncias de saúde. O objetivo é tornar o cuidado de qualidade acessível e a preço acessível a todos. Mas o problema é que, quando você o constrói com base em dados ruins, você realmente aumenta as discrepâncias. Estamos falhando na missão da IA de saúde se permitirmos que ela funcione apenas para homens brancos da costa. Pessoas de origens sub-representadas sofrerão mais discriminação como resultado, não menos.

Poderia discutir como a Gradient Health obtém dados?

Certo, nos associamos a todos os tipos de sistemas de saúde ao redor do mundo cujos dados estão armazenados, custando dinheiro e não beneficiando ninguém. Desidentificamos cuidadosamente seus dados na fonte e, em seguida, os organizamos para os pesquisadores.

Como a Gradient Health garante que os dados sejam imparciais e tão diversificados quanto possível?

Há muitas maneiras. Por exemplo, quando estamos coletando dados, nos certificamos de incluir muitas clínicas comunitárias, onde você frequentemente tem dados mais representativos, bem como os grandes hospitais. Também obtemos nossos dados de um grande número de sites clínicos. Tentamos obter tantos sites quanto possível de uma ampla gama de populações quanto possível. Então, não apenas ter um grande número de sites, mas tê-los geograficamente e socioeconomicamente diversificados. Porque, se todos os seus sites forem de hospitais do centro da cidade, ainda não é um dado representativo, é?

Para validar tudo isso, executamos estatísticas em todos esses conjuntos de dados e os personalizamos para o cliente, para garantir que eles estejam obtendo dados que sejam diversificados em termos de tecnologia e demografia.

Por que esse nível de controle de dados é tão importante para projetar algoritmos de IA robustos?

Há muitas variáveis que uma IA pode encontrar no mundo real, e nosso objetivo é garantir que o algoritmo seja tão robusto quanto possível. Para simplificar as coisas, pensamos em cinco variáveis-chave em nossos dados. A primeira variável que pensamos é “fabricante de equipamento”. É óbvio, mas se você construir um algoritmo usando apenas dados de scanners da GE, ele não funcionará tão bem em um Hitachi, por exemplo.

Em linhas semelhantes está a variável “modelo de equipamento”. Essa é interessante do ponto de vista da desigualdade de saúde. Sabemos que os grandes hospitais de pesquisa bem financiados tendem a ter as versões mais recentes e melhores dos scanners. E, se eles treinam sua IA apenas com seus próprios modelos de 2022, ela não funcionará tão bem em um modelo mais antigo de 2010. Esses sistemas mais antigos são exatamente os encontrados em áreas menos afluentes e rurais. Então, ao usar apenas dados de modelos mais novos, eles estão inadvertidamente introduzindo mais viés contra as pessoas dessas comunidades.

As outras variáveis-chave são gênero, etnia e idade, e vamos a grandes lengths para garantir que nossos dados sejam proporcionalmente equilibrados em todos eles.

Quais são alguns dos obstáculos regulatórios que as empresas de MedTech enfrentam?

Estamos começando a ver a FDA realmente investigar o viés nos conjuntos de dados. Tivemos pesquisadores que vieram até nós e disseram: “A FDA rejeitou nosso algoritmo porque faltava uma população de 15% de afro-americanos” (a porcentagem aproximada de afro-americanos que fazem parte da população dos EUA). Também ouvimos falar de um desenvolvedor que foi informado de que precisava incluir 1% de ilhéus do Pacífico Hawaiano em seus dados de treinamento.

Então, a FDA está começando a perceber que esses algoritmos, que foram treinados apenas em um hospital, não funcionam no mundo real. O fato é que, se você quer obter a marca CE e a aprovação da FDA, você precisa vir com um conjunto de dados que represente a população. Já não é mais aceitável treinar uma IA em um grupo pequeno ou não representativo.

O risco para as empresas de MedTech é que elas investem milhões de dólares para levar sua tecnologia a um ponto em que acham que estão prontas para a aprovação regulatória, e então, se não conseguirem, nunca obterão reembolso ou receita. Em última análise, o caminho para a comercialização e o caminho para ter o tipo de impacto benéfico na saúde que desejam ter exigem que elas se importem com o viés dos dados.

Quais são algumas das opções para superar esses obstáculos do ponto de vista dos dados?

Nos últimos anos, os métodos de gerenciamento de dados evoluíram, e os desenvolvedores de IA agora têm mais opções disponíveis do que nunca. Desde intermediários de dados e parceiros até aprendizado federado e dados sintéticos, há novas abordagens para esses obstáculos. Qualquer método que eles escolham, sempre encorajamos os desenvolvedores a considerar se seus dados são realmente representativos da população que usará o produto. Isso é, de longe, o aspecto mais difícil de obter dados.

Uma solução que a Gradient Health oferece é o Gradient Label, o que é essa solução e como ela habilita a rotulagem de dados em escala?

A IA de imagem médica não requer apenas dados, mas também anotações de especialistas. E ajudamos as empresas a obter essas anotações de especialistas, incluindo radiologistas.

Qual é sua visão para o futuro da IA e dos dados em saúde?

Já existem milhares de ferramentas de IA que analisam tudo, desde as pontas dos dedos até as pontas dos pés, e acho que isso continuará. Acho que haverá pelo menos 10 algoritmos para cada condição em um livro de medicina. Cada um terá múltiplas ferramentas competitivas para ajudar os clínicos a fornecer o melhor cuidado.

Não acho que vamos acabar vendo um dispositivo estilo Tricorder da Star Trek que digitalize alguém e aborde todos os possíveis problemas da cabeça aos pés. Em vez disso, teremos aplicações especializadas para cada subconjunto.

Há algo mais que você gostaria de compartilhar sobre a Gradient Health?

Estou animado com o futuro. Acho que estamos nos movendo em direção a um lugar onde a saúde é barata, igual e acessível a todos, e estou ansioso para que a Gradient tenha a chance de desempenhar um papel fundamental nisso. A equipe aqui acredita genuinamente nessa missão, e há uma paixão unida entre eles que você não encontra em todas as empresas. E eu amo!

Obrigado pela ótima entrevista, leitores que desejam aprender mais devem visitar Gradient Health.