Google publie un cadre multiméthode pour évaluer l’IA dans le domaine de la santé

Google a annoncé la publication d’un livre blanc le 4 novembre 2026, qui expose sa méthode d’évaluation de l’IA générative à usage général dans le domaine de la santé. Ce cadre combine des tests à questions fermées, des évaluateurs automatiques fondés sur l’IA et l’examen d’experts humains afin d’évaluer l’exactitude, la sécurité et l’utilité dans des situations courantes et à haut risque.

L’autrice, la Dre Sarah Montgomery-Taylor, dirige l’évaluation clinique chez Google for Health ; la Dre Elizabeth McGlynn et la Dre Dana Gelb Safran ont collaboré à ces travaux. Google indique avoir conçu cette approche et continuer de l’utiliser pour évaluer si ses modèles fournissent des réponses utiles et exactes qui favorisent des interactions sûres dans le domaine de la santé. La publication de cette méthodologie vise à promouvoir la transparence et à aider les développeurs, les chercheurs et les cliniciens à créer des outils auxquels les gens peuvent faire confiance.

Adapter l’évaluation aux usages cliniques réels

Les auteurs estiment que les méthodes d’évaluation conçues pour des tâches isolées ne couvrent pas suffisamment les modèles à usage général. Ils citent l’exemple d’un modèle antérieur à l’IA générative capable de détecter un cancer du poumon sur un scanner, mais incapable de détecter un cancer du sein sur une mammographie ou de résumer une conversation sous forme de note. Lorsqu’un même modèle peut accomplir des centaines, voire des milliers de tâches ou plus, les développeurs et les organisations de santé ont besoin d’un moyen de hiérarchiser les interactions et les risques.

Avant de choisir les cas de test, les évaluateurs cartographient le parcours utilisateur critique : qui utilise le système, ce que ces personnes cherchent à accomplir et les étapes nécessaires. Les utilisateurs peuvent être des patients, des membres de leur famille, des cliniciens ou des administrateurs. Cette cartographie oriente le choix de données et de mesures représentatives pour les tests. Elle prend également en compte l’usage prévu et les formes courantes de mauvais usage, notamment le recours au système en dehors de son indication et les tentatives de contourner les filtres de sécurité.

Chaque application est ensuite évaluée selon trois domaines. L’exactitude couvre le consensus médical, la qualité des preuves, la véracité des faits, le raisonnement clinique et la pertinence contextuelle ; l’ancrage dans les sources est également évalué pour des tâches telles que la synthèse de documents médicaux. La sécurité ne se limite pas à vérifier si les énoncés sont corrects : elle prend en compte les préjudices qui peuvent survenir lorsqu’une personne interprète une réponse et agit en conséquence, ou s’abstient d’agir. Les évaluations portent à la fois sur la gravité et la probabilité de ces préjudices. L’utilité concerne la littératie en santé, la pertinence, l’exhaustivité et la possibilité pour une personne de donner suite à la réponse. Ainsi, une réponse peut être exacte, mais dangereuse, ou exacte et sûre, tout en étant trop complexe ou dépourvue de conseils pratiques pour aider son destinataire.

Les exemples présentés dans l’article montrent que le principal risque varie selon la tâche. Pour un consommateur qui vérifie ses symptômes, le principal enjeu de sécurité est de ne pas signaler les symptômes d’alerte nécessitant des soins urgents ; une réponse excessivement alarmiste peut au contraire susciter une anxiété inutile, tandis que des conseils d’autoévaluation peu clairs peuvent entraver les démarches appropriées. Dans le cas d’un résumé de sortie d’hôpital rédigé par une IA pour un clinicien, les hallucinations, les omissions et les erreurs factuelles menacent l’exactitude ; les allergies non signalées ou les médicaments contre-indiqués présentent des risques pour la sécurité ; et une mise en forme déroutante ou une chronologie incohérente peuvent nuire à l’utilité du document.

Combiner l’évaluation automatisée à grande échelle et le jugement humain

La première méthode d’évaluation repose sur des tests comportant des réponses définitives, comme les questionnaires à choix multiples, qui permettent de vérifier à relativement peu de frais un grand nombre de connaissances de base. Les tests statiques ne peuvent pas reproduire la complexité et la représentativité des interactions réelles. La contamination des données constitue une autre limite : lorsque les questions de test figurent dans les données d’entraînement, les résultats peuvent refléter une préparation au test plutôt qu’un raisonnement médical généralisable. Le cadre utilise donc ces tests de référence pour établir un niveau de base et orienter les évaluations ultérieures ; d’autres méthodes sont nécessaires pour valider les performances en conditions réelles.

La deuxième méthode confie la notation à un autre système d’IA. Ces évaluateurs automatiques appliquent des grilles d’évaluation écrites à des réponses ouvertes, ce qui permet d’examiner bien plus de situations que ne pourraient raisonnablement en noter des experts. Ils peuvent évaluer des conversations simulées à plusieurs tours dans lesquelles les utilisateurs omettent d’abord des détails cliniques, afin de vérifier si le modèle pose des questions de clarification avant de donner des conseils. Les juges automatisés doivent néanmoins être validés à l’aide de données de référence créées par des experts, car ils peuvent favoriser les réponses verbeuses, préférer les réponses produites par leur propre famille de modèles et propager des annotations humaines bruitées.

Les cliniciens et autres spécialistes examinent ensuite les cas pour lesquels les grilles d’évaluation automatisées sont les moins efficaces, notamment les présentations complexes, les cas limites et les sujets faisant l’objet d’un consensus clinique limité. Ils évaluent également si les résultats sont conformes aux normes cliniques locales et adaptés à différentes populations de patients. Des tests distincts de sécurité offensive mettent à l’épreuve les limites de sécurité à l’aide de tactiques telles que les appels à l’émotion, les mises en scène fictives ou l’adoption de la persona d’un professionnel de santé afin d’inciter le système à produire des réponses dépassant le cadre prévu du produit. L’examen humain est lui aussi faillible : les auteurs notent que, lors d’une tâche de notation, les évaluations de deux médecins peuvent diverger de 30 à 40 % ou plus, d’où la nécessité de mesures de contrôle de la variabilité entre évaluateurs et d’analyses appropriées.

Le suivi se poursuit après le déploiement

L’évaluation commence avant même l’existence d’un produit, par des tests des capacités générales et de la sécurité du modèle de base. Lorsque le modèle est intégré à une application, l’évaluation est adaptée aux utilisateurs et au flux de travail propres à ce produit. À l’approche du lancement, le déploiement contrôlé peut inclure des essais en mode silencieux, des projets pilotes cliniques ou des déploiements progressifs, accompagnés de tests sur les facteurs humains et la facilité d’utilisation avant une diffusion plus large.

Les équipes cliniques et de développement doivent définir ensemble, à chaque étape de validation d’un produit, les seuils de réussite et la pondération des critères d’évaluation, en fonction du profil de risque clinique de l’application plutôt qu’à partir de seuils numériques universels ou arbitraires. Après le déploiement, les développeurs suivent la dérive algorithmique et la stabilité du système. Les organisations qui adoptent ces produits surveillent la sécurité des flux de travail cliniques pour les outils professionnels, ou la sécurité des utilisateurs et leurs habitudes d’utilisation pour les produits destinés au grand public.

Les auteurs indiquent que les signaux réactifs, comme les plaintes des utilisateurs et les événements sentinelles, ne peuvent à eux seuls assurer le suivi après le déploiement. Les jeux de test diffèrent des interactions réelles, et les utilisateurs font évoluer leurs requêtes et leurs attentes à mesure qu’ils acquièrent de l’expérience. Les conclusions du suivi doivent alimenter les exigences, la formation et les priorités des évaluations ultérieures. Le suivi à plus long terme des interactions et des résultats en matière de santé se heurte à des silos de données ainsi qu’à des obstacles liés à la confidentialité et à des difficultés techniques et organisationnelles. L’article relève également que les responsabilités partagées entre développeurs et systèmes de santé, les coûts de mise en œuvre, la validation indépendante et le consensus scientifique font partie des travaux de gouvernance qui restent à mener.

Pour les développeurs et les systèmes de santé, ce cadre déplace la question : il ne s’agit plus de savoir si un modèle a réussi un test de référence statique, mais si son exactitude, sa sécurité et son utilité peuvent être démontrées tout au long de son développement et de son déploiement. Le principal défi est d’ordre pratique : relier le suivi à la responsabilisation, tout en attribuant les responsabilités, en finançant les travaux et en validant les résultats de manière indépendante, au-delà des frontières organisationnelles et des silos de données.