Josh Miller, CEO da Gradient Health – Série de Entrevistas

Josh Miller é o CEO da Gradient Health, uma empresa fundada na ideia de que diagnósticos automatizados devem existir para que a saúde seja equitativa e acessível a todos. A Gradient Health tem como objetivo acelerar os diagnósticos automatizados de IA com dados que são organizados, rotulados e disponíveis.

Você poderia compartilhar a história de criação da Gradient Health?

Meu co-fundador Ouwen e eu acabáramos de sair de nossa primeira startup, FarmShots, que utilizava visão computacional para ajudar a reduzir a quantidade de pesticidas usados na agricultura, e estávamos procurando por nosso próximo desafio.

Sempre fomos motivados pelo desejo de encontrar um problema difícil para resolver com tecnologia que a) tenha a oportunidade de fazer muito bem no mundo e b) leve a um sólido negócio. Ouwen estava trabalhando em seu diploma de medicina, e com nossa experiência em visão computacional, a imagem médica foi uma escolha natural para nós. Devido ao impacto devastador do câncer de mama, escolhemos a mamografia como uma aplicação potencial. Então, dissemos: “Ok, onde começamos? Precisamos de dados. Precisamos de mil mamografias. Onde você consegue essa escala de dados?” e a resposta foi “Em lugar nenhum”. Percebemos imediatamente que é realmente difícil encontrar dados. Depois de meses, essa frustração se transformou em um problema filosófico para nós, pensamos: “qualquer um que esteja tentando fazer o bem nesse espaço não deve ter que lutar e se esforçar para obter os dados de que precisam para construir algoritmos que salvam vidas”. E então dissemos: “ei, talvez esse seja realmente o nosso problema para resolver”.

Quais são os riscos atuais no mercado com dados não representativos?

A partir de inúmeros estudos e exemplos do mundo real, sabemos que se construímos um algoritmo usando apenas dados da costa oeste e o trazemos para o sudeste, ele simplesmente não funcionará. Várias vezes ouvimos histórias de IA que funciona muito bem no hospital nordestino em que foi criada, e então, quando a implantam em outro lugar, a precisão cai para menos de 50%.

Acredito que o propósito fundamental da IA, em um nível ético, é que ela deve diminuir as discrepâncias de saúde. O objetivo é tornar o cuidado de qualidade acessível e barato para todos. Mas o problema é que, quando você o constrói com base em dados ruins, você na verdade aumenta as discrepâncias. Estamos falhando na missão da IA em saúde se a deixarmos funcionar apenas para homens brancos das costas. Pessoas de origens sub-representadas sofrerão mais discriminação como resultado, e não menos.

Você poderia discutir como a Gradient Health obtém dados?

Sim, nos associamos a todos os tipos de sistemas de saúde em todo o mundo, cujos dados estão armazenados e não estão beneficiando ninguém. Desidentificamos completamente seus dados na fonte e, em seguida, os organizamos cuidadosamente para os pesquisadores.

Como a Gradient Health garante que os dados sejam imparciais e o mais diversificados possível?

Há muitas maneiras. Por exemplo, quando coletamos dados, nos certificamos de incluir muitas clínicas comunitárias, onde você geralmente tem dados mais representativos, bem como os grandes hospitais. Também obtemos nossos dados de um grande número de locais clínicos. Tentamos obter o maior número possível de locais de uma ampla gama de populações. Então, não é apenas ter um grande número de locais, mas tê-los geograficamente e socioeconomicamente diversificados. Porque, se todos os seus locais forem de hospitais do centro da cidade, ainda não é um dado representativo, é?

Para validar tudo isso, executamos estatísticas em todos esses conjuntos de dados e os personalizamos para o cliente, para garantir que eles obtenham dados que sejam diversificados em termos de tecnologia e demografia.

Por que esse nível de controle de dados é tão importante para projetar algoritmos de IA robustos?

Há muitas variáveis que uma IA pode encontrar no mundo real, e nosso objetivo é garantir que o algoritmo seja o mais robusto possível. Para simplificar as coisas, pensamos em cinco variáveis principais em nossos dados. A primeira variável que pensamos é o “fabricante de equipamento”. É óbvio, mas se você constrói um algoritmo usando apenas dados de scanners da GE, ele não funcionará tão bem em um Hitachi, por exemplo.

Em linhas semelhantes está a variável “modelo de equipamento”. Essa é realmente interessante do ponto de vista da desigualdade de saúde. Sabemos que os grandes hospitais de pesquisa bem financiados tendem a ter as versões mais recentes e melhores dos scanners. E, se eles apenas treinam sua IA com seus próprios modelos de 2022, ela não funcionará tão bem em um modelo mais antigo de 2010. Esses sistemas mais antigos são exatamente os encontrados em áreas menos afluentes e rurais. Então, ao usar apenas dados de modelos mais novos, eles estão involuntariamente introduzindo mais viés contra as pessoas dessas comunidades.

As outras variáveis principais são gênero, etnia e idade, e nos esforçamos muito para garantir que nossos dados sejam proporcionalmente equilibrados em todos eles.

Quais são alguns dos obstáculos regulatórios que as empresas de MedTech enfrentam?

Estamos começando a ver a FDA realmente investigar o viés nos conjuntos de dados. Tivemos pesquisadores que vieram até nós e disseram: “a FDA rejeitou nosso algoritmo porque faltava uma população de 15% de afro-americanos” (a porcentagem aproximada de afro-americanos que fazem parte da população dos EUA). Também ouvimos falar de um desenvolvedor que foi informado de que precisava incluir 1% de ilhéus do Pacífico Havaiano em seus dados de treinamento.

Então, a FDA está começando a perceber que esses algoritmos, que foram treinados em um único hospital, não funcionam no mundo real. O fato é que, se você quer obter a marca CE e a aprovação da FDA, você precisa vir com um conjunto de dados que represente a população. É, justamente, não mais aceitável treinar uma IA em um grupo pequeno ou não representativo.

O risco para as empresas de MedTech é que elas investem milhões de dólares para obter sua tecnologia em um lugar onde acham que estão prontas para a aprovação regulatória, e então, se não conseguirem passar, nunca obterão reembolso ou receita. Em última análise, o caminho para a comercialização e o caminho para ter o tipo de impacto benéfico na saúde que desejam ter exige que elas se importem com o viés dos dados.

Quais são algumas das opções para superar esses obstáculos do ponto de vista dos dados?

Ao longo dos últimos anos, os métodos de gerenciamento de dados evoluíram, e os desenvolvedores de IA agora têm mais opções disponíveis do que nunca. Desde intermediários de dados e parceiros até o aprendizado federado e dados sintéticos, há novas abordagens para esses obstáculos. Qualquer método que eles escolham, sempre encorajamos os desenvolvedores a considerar se seus dados são realmente representativos da população que usará o produto. Isso é, de longe, o aspecto mais difícil de obter dados.

Uma solução que a Gradient Health oferece é o Gradient Label, o que é essa solução e como ela habilita a rotulagem de dados em escala?

A IA de imagem médica não requer apenas dados, mas também anotações de especialistas. E ajudamos as empresas a obter essas anotações de especialistas, incluindo radiologistas.

Qual é sua visão para o futuro da IA e dos dados em saúde?

Já existem milhares de ferramentas de IA por aí que analisam tudo, desde as pontas dos dedos até as pontas dos pés, e acho que isso vai continuar. Acho que haverá pelo menos 10 algoritmos para cada condição em um livro de medicina. Cada um terá múltiplas ferramentas competitivas para ajudar os clínicos a fornecer o melhor cuidado.

Não acho que vamos acabar vendo um dispositivo estilo Tricorder da série Star Trek que digitaliza alguém e aborda todos os problemas possíveis da cabeça aos pés. Em vez disso, teremos aplicações especializadas para cada subconjunto.

Há algo mais que você gostaria de compartilhar sobre a Gradient Health?

Estou animado com o futuro. Acho que estamos nos movendo em direção a um lugar onde a saúde é barata, igual e acessível a todos, e estou ansioso para que a Gradient tenha a chance de desempenhar um papel fundamental em tornar isso real. A equipe toda aqui acredita genuinamente nessa missão, e há uma paixão unida entre eles que você não encontra em todas as empresas. E eu amo!

Obrigado pela ótima entrevista, leitores que desejam aprender mais devem visitar Gradient Health.