Ittai Dayan, MD, Co-fondateur et PDG de Rhino Health – Série d’entretiens

Ittai Dayan, MD est le co-fondateur et PDG de Rhino Health. Son expérience est dans le développement de l’intelligence artificielle et de la médecine diagnostique, ainsi que dans la médecine clinique et la recherche. Il est un ancien membre clé de la pratique de santé de BCG et un dirigeant d’hôpital. Il se concentre actuellement sur la contribution au développement d’une intelligence artificielle sûre, équitable et efficace dans le secteur des soins de santé et des sciences de la vie. Chez Rhino Health, ils utilisent le calcul distribué et l’apprentissage fédéré pour maintenir la confidentialité des patients et favoriser la collaboration à travers le paysage fragmenté des soins de santé.

Il a servi dans les forces spéciales de l’armée israélienne, a dirigé le plus grand centre de recherche translationnelle en intelligence artificielle basé sur un centre médical universitaire au monde. Il est un expert dans le développement et la commercialisation de l’IA, et un coureur de longue distance.

Pouvez-vous partager l’histoire de la création de Rhino Health ?

Mon parcours dans l’IA a commencé lorsque j’étais clinicien et chercheur, en utilisant une forme précoce de « biomarqueur numérique » pour mesurer la réponse au traitement des troubles mentaux. Plus tard, j’ai dirigé le Centre de sciences de données cliniques (CCDS) de Mass General Brigham. Là, j’ai supervisé le développement de dizaines d’applications d’IA cliniques et j’ai constaté de visu les défis sous-jacents associés à l’accès et à l’« activation » des données nécessaires pour développer et former des produits d’IA de réglementation.

Malgré les nombreux progrès de l’IA dans les soins de santé, la route de la création à la mise sur le marché d’un produit est longue et souvent accidentée. Les solutions échouent (ou déçoivent simplement) une fois déployées cliniquement, et le soutien du cycle de vie complet de l’IA est presque impossible sans un accès continu à une large gamme de données cliniques. Le défi est passé de la création de modèles à leur maintien. Pour répondre à ce défi, j’ai convaincu le système de Mass General Brigham de la valeur d’avoir leur propre « CRO spécialisé pour l’IA » (CRO = Organisation de recherche clinique), pour tester les algorithmes de plusieurs développeurs commerciaux.

Cependant, le problème est resté – les données de santé sont toujours très cloisonnées, et même une grande quantité de données d’un seul réseau ne suffit pas pour combattre les cibles de plus en plus étroites de l’IA médicale. À l’été 2020, j’ai initié et dirigé (avec le Dr Mona Flores de NVIDIA (NVDA )), la plus grande étude d’apprentissage fédéré dans le domaine de la santé à ce moment-là, EXAM. Nous avons utilisé l’apprentissage fédéré pour créer un modèle prédictif de résultats de COVID, en exploitant les données du monde entier, sans partager aucune donnée.. Par la suite, publié dans Nature Medicine, cette étude a démontré l’impact positif de l’utilisation de jeux de données divers et disparates et a souligné le potentiel d’une utilisation plus large de l’apprentissage fédéré dans les soins de santé.

Cette expérience, cependant, a mis en évidence un certain nombre de défis. Cela comprenait l’orchestration des données à travers les sites collaboratifs, l’assurance de la traçabilité des données et de leur caractérisation appropriée, ainsi que la charge imposée aux départements informatiques de chaque établissement, qui devaient apprendre des technologies de pointe qu’ils n’avaient pas l’habitude d’utiliser. Cela a nécessité une nouvelle plate-forme qui soutiendrait ces nouvelles « collaborations de données distribuées ». J’ai décidé de me joindre à mon co-fondateur, Yuval Baror, pour créer une plate-forme de bout en bout pour soutenir les collaborations préservant la confidentialité. Cette plate-forme est la « plate-forme Rhino Health », qui utilise l’apprentissage fédéré et le calcul de pointe.

Pourquoi pensez-vous que les modèles d’IA échouent souvent à fournir les résultats attendus dans un environnement de soins de santé ?

L’IA médicale est souvent formée sur de petits jeux de données étroits, tels que des jeux de données provenant d’une seule institution ou d’une région géographique, ce qui fait que le modèle ne fonctionne bien que sur les types de données qu’il a vus. Une fois que l’algorithme est appliqué à des patients ou à des scénarios qui diffèrent du jeu de données d’entraînement étroit, les performances sont gravement affectées.

Andrew Ng, a capturé cette notion lorsqu’il a déclaré : « Il s’avère que lorsque nous collectons des données de l’hôpital Stanford… nous pouvons publier des articles montrant [les algorithmes] sont comparables aux radiologues humains pour détecter certaines conditions. … [Lorsque] vous prenez ce même modèle, ce même système d’IA, à un hôpital plus ancien dans la rue, avec une machine plus ancienne, et que le technicien utilise un protocole d’imagerie légèrement différent, les données dérivent pour causer la dégradation significative des performances du système d’IA. »³

En d’autres termes, la plupart des modèles d’IA ne sont pas formés sur des données suffisamment diverses et de haute qualité, ce qui entraîne de mauvaises performances dans le « monde réel ». Ce problème a été bien documenté à la fois dans les cercles scientifiques et dans les médias, tels que dans Science et Politico.

Combien est-il important de tester sur des groupes de patients divers ?

Tester sur des groupes de patients divers est crucial pour garantir que le produit d’IA résultant est non seulement efficace et performant, mais également sûr. Les algorithmes qui ne sont pas formés ou testés sur des groupes de patients suffisamment divers peuvent souffrir de biais algorithmiques, un problème grave dans les soins de santé et la technologie de la santé. Non seulement de tels algorithmes reflètent-ils les biais présents dans les données d’entraînement, mais ils exacerbent également ces biais et aggravent les inégalités raciales, ethniques, religieuses, de genre, etc. existantes dans les soins de santé. Le fait de ne pas tester sur des groupes de patients divers peut entraîner des produits dangereux.

Une étude récemment publiée⁵, utilisant la plate-forme Rhino Health, a examiné les performances d’un algorithme d’IA détectant les anévrismes cérébraux développé sur un site sur quatre sites différents avec des types de scanners variés. Les résultats ont montré une variabilité significative des performances sur les sites avec différents types de scanners, soulignant l’importance de la formation et du test sur des jeux de données divers.

Comment identifiez-vous si une sous-population n’est pas représentée ?

Une approche courante consiste à analyser les distributions de variables dans différents ensembles de données, individuellement et combinés. Cela peut informer les développeurs à la fois lors de la préparation des ensembles de données « d’entraînement » et des ensembles de données de validation. La plate-forme Rhino Health permet de le faire, et en outre, les utilisateurs peuvent voir comment le modèle se comporte sur différentes cohortes pour garantir la généralisabilité et les performances durables sur les sous-populations.

Pouvez-vous décrire ce qu’est l’apprentissage fédéré et comment il résout certains de ces problèmes ?

L’apprentissage fédéré (FL) peut être défini de manière générale comme le processus dans lequel les modèles d’IA sont formés et continuent à s’améliorer avec le temps, en utilisant des données disparates, sans avoir besoin de partager ou de centraliser les données. C’est un grand pas en avant dans le développement de l’IA. Historiquement, tout utilisateur qui souhaite collaborer avec plusieurs sites doit regrouper ces données, ce qui induit une myriade de problèmes juridiques, de risques et de conformité onéreux et chronophages.

Aujourd’hui, avec des logiciels tels que la plate-forme Rhino Health, l’apprentissage fédéré devient une réalité quotidienne dans les soins de santé et les sciences de la vie. L’apprentissage fédéré permet aux utilisateurs d’explorer, de curer et de valider les données tout en gardant ces données sur les serveurs locaux des collaborateurs. Le code conteneurisé, tel qu’un algorithme d’IA/ML ou une application analytique, est envoyé au serveur local où l’exécution de ce code, telle que la formation ou la validation d’un algorithme d’IA/ML, est effectuée « localement ». Les données restent ainsi avec le « gardien de données » à tout moment.

Les hôpitaux, en particulier, sont préoccupés par les risques associés à l’agrégation de données de patients sensibles. Cela a déjà conduit à des situations embarrassantes, où il est devenu clair que les organisations de soins de santé ont collaboré avec l’industrie sans comprendre exactement l’utilisation de leurs données. Cela les amène à limiter la quantité de collaboration que l’industrie et les chercheurs universitaires peuvent faire, ralentissant ainsi la R&D et affectant la qualité des produits dans l’ensemble du secteur des soins de santé. L’apprentissage fédéré peut atténuer cela et permettre des collaborations de données comme jamais auparavant, tout en contrôlant les risques associés à ces collaborations.

Pouvez-vous partager la vision de Rhino Health pour permettre la création rapide de modèles en utilisant des données plus diverses ?

Nous nous représentons un écosystème de développeurs et d’utilisateurs d’IA, collaborant sans crainte ni contrainte, tout en respectant les limites de la réglementation.. Les collaborateurs peuvent rapidement identifier les données de formation et de test nécessaires à partir de géographies différentes, accéder et interagir avec ces données, et itérer sur le développement de modèles pour garantir une généralisabilité, des performances et une sécurité suffisantes.

Au cœur de cela se trouve la plate-forme Rhino Health, qui offre un « guichet unique » pour les développeurs d’IA pour construire des ensembles de données massifs et divers, former et valider les algorithmes d’IA, et surveiller et maintenir en permanence les produits d’IA déployés.

Comment la plate-forme Rhino Health empêche-t-elle les biais d’IA et offre-t-elle une explication d’IA ?

En débloquant et en rationalisant les collaborations de données, les développeurs d’IA peuvent exploiter des ensembles de données plus grands et plus divers pour la formation et le test de leurs applications. Le résultat de ces ensembles de données plus robustes est un produit plus généralisable qui n’est pas alourdi par les biais d’une seule institution ou d’un ensemble de données étroit. Pour soutenir l’explication de l’IA, notre plate-forme fournit une vue claire sur les données utilisées tout au long du processus de développement, avec la capacité d’analyser l’origine des données, la distribution des valeurs et d’autres métriques clés pour garantir une diversité et une qualité de données adéquates. En outre, notre plate-forme permet une fonctionnalité qui n’est pas possible si les données sont simplement regroupées, y compris la possibilité pour les utilisateurs d’améliorer davantage leurs ensembles de données avec des variables supplémentaires, telles que celles calculées à partir de points de données existants, afin d’examiner l’inférence causale et d’atténuer les facteurs de confusion.

Comment répondez-vous aux médecins qui s’inquiètent que une dépendance excessive à l’égard de l’IA pourrait conduire à des résultats biaisés qui ne sont pas validés de manière indépendante ?

Nous partageons cette préoccupation et reconnaissons que de nombreuses applications sur le marché aujourd’hui peuvent en effet être biaisées. Notre réponse est que nous devons nous réunir en tant qu’industrie, en tant que communauté de soins de santé qui se préoccupe avant tout de la sécurité des patients, pour définir des politiques et des procédures pour prévenir de tels biais et garantir des applications d’IA sûres et efficaces. Les développeurs d’IA ont la responsabilité de garantir que leurs produits d’IA commercialisés sont validés de manière indépendante pour gagner la confiance des professionnels de la santé et des patients. Rhino Health est dédié à soutenir des produits d’IA sûrs et fiables et travaille avec des partenaires pour permettre et rationaliser la validation indépendante des applications d’IA avant leur déploiement dans les environnements cliniques en éliminant les obstacles à la validation des données nécessaires.

Quelle est votre vision pour l’avenir de l’IA dans les soins de santé ?

La vision de Rhino Health est celle d’un monde où l’IA a atteint son plein potentiel dans les soins de santé. Nous travaillons assidûment pour créer de la transparence et favoriser la collaboration en affirmant la confidentialité pour permettre ce monde. Nous nous représentons une IA dans les soins de santé qui n’est pas limitée par les pare-feu, les géographies ou les restrictions réglementaires. Les développeurs d’IA auront un accès contrôlé à toutes les données dont ils ont besoin pour construire des modèles puissants et généralisables – et pour les surveiller et les améliorer en permanence avec un flux de données en temps réel. Les prestataires et les patients auront la confiance de savoir qu’ils ne perdent pas le contrôle de leurs données et peuvent garantir qu’elles sont utilisées à bon escient. Les organismes de réglementation pourront surveiller l’efficacité des modèles utilisés dans le développement de produits pharmaceutiques et d’appareils en temps réel. Les organisations de santé publique bénéficieront de ces progrès de l’IA, tandis que les patients et les prestataires de soins peuvent dormir sur leurs deux oreilles, sachant que la confidentialité est protégée.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Rhino Health.