Josh Miller, PDG de Gradient Health – Série d’entretiens

Josh Miller est le PDG de Gradient Health, une entreprise fondée sur l’idée que les diagnostics automatisés doivent exister pour que les soins de santé soient équitables et accessibles à tous. Gradient Health vise à accélérer les diagnostics automatisés par intelligence artificielle avec des données organisées, étiquetées et accessibles.

Pouvez-vous partager l’histoire de la création de Gradient Health ?

Mon co-fondateur Ouwen et moi venions de quitter notre première start-up, FarmShots, qui utilisait la vision par ordinateur pour aider à réduire la quantité de pesticides utilisés en agriculture, et nous cherchions notre prochain défi.

Nous avons toujours été motivés par le désir de trouver un problème difficile à résoudre avec la technologie qui a) a la possibilité de faire beaucoup de bien dans le monde, et b) conduit à un solide business. Ouwen travaillait sur son diplôme de médecine, et avec notre expérience dans la vision par ordinateur, l’imagerie médicale était une option naturelle pour nous. En raison de l’impact dévastateur du cancer du sein, nous avons choisi la mammographie comme application potentielle. Nous avons donc dit : « Ok, où commençons-nous ? Nous avons besoin de données. Nous avons besoin de mille mammographies. Où peut-on obtenir ce type de données ? » et la réponse était « Nulle part ». Nous nous sommes rendu compte immédiatement que c’est vraiment difficile de trouver des données. Après des mois, cette frustration est devenue un problème philosophique pour nous, nous avons pensé : « tout le monde qui essaie de faire du bien dans ce domaine ne devrait pas avoir à se battre et à lutter pour obtenir les données dont ils ont besoin pour construire des algorithmes qui sauvent des vies ». Et nous avons donc dit : « hey, peut-être que c’est vraiment notre problème à résoudre ».

Quels sont les risques actuels sur le marché avec des données non représentatives ?

D’après de nombreuses études et exemples du monde réel, nous savons que si nous construisons un algorithme en utilisant uniquement des données de la côte ouest, et que vous l’apportez au sud-est, il ne fonctionnera pas. À plusieurs reprises, nous entendons des histoires d’intelligence artificielle qui fonctionne très bien dans l’hôpital du nord-est où elle a été créée, et puis lorsqu’ils la déployeront ailleurs, la précision tombe à moins de 50 %.

Je crois que le but fondamental de l’intelligence artificielle, sur un plan éthique, est qu’elle devrait diminuer les disparités en matière de santé. L’objectif est de rendre les soins de qualité abordables et accessibles à tous. Mais le problème est que lorsque vous le construisez sur de mauvaises données, vous augmentez en fait les disparités. Nous échouons dans la mission de l’intelligence artificielle en santé si nous laissons cela fonctionner uniquement pour les hommes blancs de la côte. Les personnes issues de milieux sous-représentés souffriront en fait de plus de discrimination en conséquence, et non de moins.

Pouvez-vous discuter de la façon dont Gradient Health obtient des données ?

Bien sûr, nous nous associons à tous les types de systèmes de santé dans le monde dont les données sont autrement stockées, ce qui coûte de l’argent et ne profite à personne. Nous désidentifions soigneusement leurs données à la source, puis nous les organisons soigneusement pour les chercheurs.

Comment Gradient Health garantit-elle que les données sont impartiales et aussi diverses que possible ?

Il y a beaucoup de façons. Par exemple, lorsque nous collectons des données, nous nous assurons d’inclure de nombreuses cliniques communautaires, où vous avez souvent des données beaucoup plus représentatives, ainsi que les grands hôpitaux. Nous obtenons également nos données à partir d’un grand nombre de sites cliniques. Nous essayons d’obtenir autant de sites que possible à partir d’une large gamme de populations possibles. Donc, ce n’est pas seulement avoir un grand nombre de sites, mais les avoir géographiquement et socio-économiquement divers. Parce que si tous vos sites sont issus d’hôpitaux du centre-ville, ce n’est toujours pas des données représentatives, n’est-ce pas ?

Pour valider tout cela, nous exécutons des statistiques sur l’ensemble de ces ensembles de données, et nous les personnalisons pour le client, pour nous assurer qu’ils obtiennent des données qui sont diverses en termes de technologie et de démographie.

Pourquoi ce niveau de contrôle des données est-il si important pour concevoir des algorithmes d’intelligence artificielle robustes ?

Il y a de nombreuses variables que l’intelligence artificielle peut rencontrer dans le monde réel, et notre objectif est de nous assurer que l’algorithme est aussi robuste que possible. Pour simplifier les choses, nous pensons à cinq variables clés dans nos données. La première variable que nous considérons est le « fabricant d’équipement ». C’est évident, mais si vous construisez un algorithme en utilisant uniquement des données de scanners GE, il ne fonctionnera pas aussi bien sur un Hitachi, par exemple.

De même, la « version de l’équipement » est une variable intéressante du point de vue des inégalités en matière de santé. Nous savons que les grands hôpitaux de recherche bien financés ont tendance à avoir les versions les plus récentes des scanners. Et si ils ne forment leur intelligence artificielle qu’avec leurs propres modèles 2022, elle ne fonctionnera pas aussi bien sur un modèle plus ancien de 2010. Ces anciens systèmes sont exactement ceux que l’on trouve dans les zones moins aisées et rurales. Donc, en n’utilisant que des données de modèles plus récents, ils introduisent involontairement un biais supplémentaire contre les personnes de ces communautés.

Les autres variables clés sont le sexe, l’ethnicité et l’âge, et nous prenons de grandes précautions pour nous assurer que nos données sont équilibrées de manière proportionnelle sur tous ces points.

Quels sont les principaux obstacles réglementaires auxquels les entreprises de MedTech sont confrontées ?

Nous commençons à voir la FDA vraiment enquêter sur les biais dans les ensembles de données. Nous avons eu des chercheurs qui sont venus nous dire : « la FDA a rejeté notre algorithme parce qu’il manquait une population afro-américaine de 15 % » (le pourcentage approximatif d’Afro-Américains qui font partie de la population américaine). Nous avons également entendu parler d’un développeur qui a été informé qu’il devait inclure 1 % d’insulaire du Pacifique dans ses données de formation.

La FDA commence à se rendre compte que ces algorithmes, qui n’ont été formés qu’à un seul hôpital, ne fonctionnent pas dans le monde réel. Le fait est que si vous voulez obtenir une marque CE et un agrément de la FDA, vous devez venir avec un ensemble de données qui représente la population. Il n’est plus acceptable de former une intelligence artificielle sur un petit groupe ou un groupe non représentatif.

Le risque pour les entreprises de MedTech est qu’elles investissent des millions de dollars pour amener leur technologie à un point où elles pensent être prêtes pour l’homologation réglementaire, et puis si elles ne peuvent pas l’obtenir, elles n’obtiendront jamais de remboursement ou de revenus. En fin de compte, la voie de la commercialisation et la voie d’avoir l’impact bénéfique sur les soins de santé qu’ils veulent avoir nécessitent qu’ils se soucient du biais des données.

Quelles sont les options pour surmonter ces obstacles du point de vue des données ?

Au fil des ans, les méthodes de gestion des données ont évolué, et les développeurs d’intelligence artificielle ont maintenant plus d’options disponibles qu’auparavant. Des intermédiaires de données et des partenaires à l’apprentissage fédéré et aux données synthétiques, il y a de nouvelles approches de ces obstacles. Quelle que soit la méthode qu’ils choisissent, nous encourageons toujours les développeurs à considérer si leurs données sont vraiment représentatives de la population qui utilisera le produit. C’est de loin l’aspect le plus difficile de la collecte de données.

Une solution que propose Gradient Health est Gradient Label, quelle est cette solution et comment permet-elle d’étiqueter les données à grande échelle ?

L’intelligence artificielle d’imagerie médicale nécessite non seulement des données, mais également des annotations d’experts. Et nous aidons les entreprises à obtenir ces annotations d’experts, y compris des radiologues.

Quelle est votre vision pour l’avenir de l’intelligence artificielle et des données dans les soins de santé ?

Il y a déjà des milliers d’outils d’intelligence artificielle qui examinent tout, des extrémités de vos doigts aux extrémités de vos orteils, et je pense que cela va continuer. Je pense qu’il y aura au moins 10 algorithmes pour chaque affection dans un manuel médical. Chacun aura probablement plusieurs outils concurrents pour aider les cliniciens à fournir les meilleurs soins.

Je ne pense pas que nous allons finir par voir un style de tricordeur Star Trek qui scanne quelqu’un et résout tous les problèmes possibles de la tête aux pieds. Au lieu de cela, nous aurons des applications spécialisées pour chaque sous-ensemble.

Y a-t-il autre chose que vous aimeriez partager sur Gradient Health ?

Je suis enthousiaste à l’idée de l’avenir. Je pense que nous allons vers un endroit où les soins de santé sont peu coûteux, égaux et accessibles à tous, et je suis impatient que Gradient ait la chance de jouer un rôle fondamental pour faire que cela se produise. L’équipe entière ici croit vraiment en cette mission, et il y a une passion unie à travers eux que vous n’obtenez pas dans toutes les entreprises. Et j’adore cela !

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Gradient Health.