De la prédiction à l’action responsable : Concevoir l’incertitude dans l’IA Femtech

Dans le domaine de la santé des femmes, la précision est nécessaire, mais ce n’est que la première couche de sécurité du produit. Il est important que le système sache quand une prédiction est suffisamment solide pour être utilisée et qu’il soit conçu pour le dire lorsqu’il ne l’est pas.

Ouvrez la plupart des applications de suivi de fertilité ou de cycle, et vous verrez un résultat propre : ovulation le jour 15, un label de haute fertilité, un score de confiance de 78 %. Le nombre semble précis. La biologie qui se cache derrière est tout autre.

Une date de période est quelque chose que l’utilisateur a observé. L’ovulation est un événement latent que aucun appareil de consommation ne mesure directement. Elle est déduite de proxies. La température de la peau reflète non seulement la progestérone, mais également le sommeil, l’alcool, la maladie, les conditions ambiantes et l’endroit où le capteur était placé cette nuit-là. Une entrée de symptôme mélange la physiologie avec la perception, la mémoire et la décision de l’utilisateur de la consigner. Au moment où tout cela se résout en “Jour 15, 78%”, plusieurs types d’incertitude ont été silencieusement compressés en une phrase qui sonne confiante.

Dans les produits que j’ai travaillés dans le domaine de la santé des femmes, le problème difficile n’est pas la précision. Le modèle que je reviens sans cesse est l’intégrité de la décision. La précision vous indique à quel point un modèle prédit bien. Elle ne dit rien sur le fait que le produit sait quand une prédiction est suffisamment solide pour être utilisée. Dans un domaine où la même sortie peut informer une planification décontractée ou une décision contraceptive, cet écart est là où la confiance est gagnée ou perdue.

Mon argument est donc que l’IA Femtech n’a pas principalement besoin de meilleures prédictions. Elle a besoin d’une meilleure conception de l’incertitude. Et la conception de l’incertitude n’est pas un avertissement ajouté avant le lancement ; c’est une architecture. Je la structure en six couches qui transportent un signal des entrées brutes à une action que le système peut justifier et auditer. J’applique une version à six couches de la méthode de décision à l’action calibrée, conçue pour régir la façon dont les signaux de santé incertains sont convertis en actions autorisées et responsables. La méthode comprend la qualification des données, la calibration de l’inférence, la cartographie des conséquences, la politique de contrôle, l’exécution du flux de travail et une boucle de responsabilité. Son chemin de gouvernance commence avec les données de santé, qui mènent à l’architecture de la décision et culminent dans une action responsable.

1. Qualifier les données avant de leur faire confiance

La première couche décide de ce que le système sait vraiment. Les produits Femtech puisent dans des sources très différentes. Cela peut inclure des choses que l’utilisateur a directement observées, telles que des dates de période ou des rapports subjectifs comme la douleur ou l’humeur, ainsi que des fonctionnalités de portables comme la température de la peau et la variabilité de la fréquence cardiaque, et des variables que le modèle a générées lui-même. Traiter ces éléments comme des entrées interchangeables est le péché originel.

Chaque signal nécessite une provenance que le système peut lire : d’où il vient, quand, à quelle fréquence il est échantillonné, ce qui le perturbe et comment il se rapporte à la chose que vous prédisez vraiment. L’ovulation est l’événement. La température, le mucus cervical, l’LH et les dates de cycle sont des preuves de cet événement, chacune avec son propre retard et son propre erreur.

Les données manquantes méritent une attention particulière, car dans le suivi de la santé, elles sont rarement aléatoires. Les gens enregistrent plus lorsqu’ils sont inquiets et arrêtent lorsqu’ils se sentent bien, donc un écart peut contenir autant d’informations qu’une entrée. Dans une analyse réelle de plus de 600 000 cycles ovulatoires, l’ovulation n’a pas pu être détectée dans 665 603 des 1,4 million de cycles initialement considérés. Les trois quarts d’entre eux avaient des lectures de température valides sur moins de la moitié des jours du cycle. La suffisance des données était un facteur limitant important dans ce que l’algorithme pouvait déduire. Un produit qui émet une étiquette de fertilité propre dans cette situation n’est pas confiant. Il fabrique une précision qu’il n’a pas.

2. Calibrer l’inférence à l’évidence

Un seul score de confiance ne peut représenter ce qui se passe vraiment, car ces systèmes sont confrontés à plusieurs sources d’incertitude à la fois. Celles-ci incluent la variabilité biologique du processus lui-même, la qualité de la mesure, les manques dans l’auto-suivi, l’incertitude du modèle due à des données de formation minces, et le décalage de distribution lorsque l’utilisateur actuel ne ressemble pas à la population sur laquelle le modèle a été validé.

Dans la même analyse, seuls 13 % des cycles étaient exactement de 28 jours de long, et la phase folliculaire moyenne a duré 16,9 jours sur une plage suffisamment large pour rendre toute hypothèse fixe de “jour 14” trompeuse. L’étude Apple Women’s Health Study a constaté que la longueur du cycle et la variabilité intrapersonnelle étaient associées à l’âge, à l’ethnicité autodéclarée et à l’indice de masse corporelle. La personnalisation, alors, ne peut pas signifier remplacer une moyenne de population par un point personnel. Cela signifie produire une distribution qui se resserre à mesure que les preuves s’accumulent.

Considérons deux prédictions basées sur l’IA qui lisent toutes deux “75%”. L’une repose sur un an d’histoire et de mesures denses, et son incertitude est principalement due à la biologie réelle. L’autre repose sur deux cycles, cinq lectures de température, des voyages récents et des médicaments inconnus. Ici, l’incertitude est principalement due aux données manquantes. Même nombre. Le produit ne devrait pas être autorisé à répondre de la même manière. C’est aussi pourquoi la calibration doit être vérifiée dans les sous-groupes – les performances agrégées peuvent cacher un modèle qui est trop confiant, en particulier pour les cycles irréguliers ou les utilisateurs en péri-ménopause. La littérature clinico-IA sépare désormais la discrimination, la calibration et l’utilité de décision pour cette raison exacte. Un modèle peut classer les utilisateurs bien et produire encore des probabilités incorrectes pour de véritables décisions.

3. Cartographier les conséquences de l’erreur

La troisième couche demande ce qui se passe lorsque le système est incorrect, et lie la réponse autorisée à ce coût. Un résumé de cycle, une estimation de la fenêtre de fertilité, un label de faible fertilité lu comme une orientation contraceptive et une interprétation de symptôme qui décide si quelqu’un recherche des soins ne sont pas le même produit, même si le modèle derrière eux est identique.

Je classe les sorties en quatre niveaux par conséquence : informationnel, comportemental, reproductif et clinique. Chacun a son propre seuil d’évidence, son langage autorisé et son chemin d’escalade. Une probabilité de 70 % pourrait être suffisante pour deviner quand une période va commencer et n’est nulle part près de suffisante pour rassurer quelqu’un qui essaie de ne pas tomber enceinte.

C’est là que la conception rencontre la réglementation. Que le logiciel entre dans le territoire des dispositifs médicaux dépend de son utilisation prévue et du rôle que sa sortie joue dans une décision de santé. La directive actuelle de la FDA sur le logiciel de soutien à la décision clinique, mise à jour en janvier 2026, est explicite sur le fait que les fonctions destinées aux patients et aux soignants peuvent répondre à la définition d’un dispositif. La position réglementaire n’est pas une revue juridique à la fin. Elle est codée dans vos seuils, votre formulation et votre logique d’escalade dès le premier jour.

4. Transformer l’incertitude en politique de contrôle

Un “résultats peuvent être inexacts” généralisé renvoie tout le problème d’interprétation à l’utilisateur. Une politique de contrôle fait le contraire. Pour un état d’évidence donné, elle décide si le système affiche une observation, propose une plage bornée, demande une autre mesure, pointe vers un clinicien ou refuse de répondre. L’abstention est une capacité de produit, pas un échec. “Nous ne sommes pas sûrs encore” devrait être un état conçu avec une prochaine étape, pas un écran d’erreur.

Concrètement, au lieu de “Ovulation : Jour 15, Confiance 78%”, une réponse réglementée ressemble à ceci : l’ovulation est probablement dans une fenêtre de quatre jours ; la confiance est limitée par les données de température manquantes et le sommeil perturbé ; quelques lectures supplémentaires affineraient l’estimation, et un test LH pourrait ajouter des preuves prospectives et resserrer la fenêtre probable. L’utilisateur obtient une estimation, la raison pour laquelle elle est incertaine et l’action unique qui la changerait.

5. Soutenir l’action que la sortie implique

Même une application de consommation crée un flux de travail : enregistrer une autre lecture, répéter un test, continuer à observer, exporter des données, appeler un clinicien. Le système devrait savoir quelle action chaque réponse pointe et si elle peut supporter cette action en toute sécurité.

La frontière entre les conseils de produit et les conseils médicaux vit ici, et ce n’est pas une ligne fixe. Le contenu éducatif expliquant ce qu’un signal signifie généralement se situe en toute sécurité du côté des conseils. Le produit passe dans un territoire à plus haut risque le moment où il interprète les données d’une personne comme une maladie, dirige un traitement ou offre une assurance qui porte un poids clinique réel. Cette frontière doit tenir à chaque interaction, et pas seulement dans les conditions de service.

6. Fermer la boucle de responsabilité

La dernière couche juge l’ensemble du système, et non seulement le modèle. Les métriques de modèle standard sont toujours importantes et se concentrent sur la discrimination, la calibration, les performances des sous-groupes, la validation externe et temporelle. Mais les métriques de produit sont tout aussi importantes. Nous devrions demander combien de fois le système a eu suffisamment d’entrées pour agir, combien de fois il s’est abstenu. Plus celui que j’insisterais est un taux de fausse assurance, signifiant combien de fois il a dit à quelqu’un que tout allait bien sur des preuves qui ne pouvaient pas soutenir l’affirmation.

Chaque réponse ayant des conséquences devrait être reconstruite après coup. Les régulateurs, les organismes de normalisation et les institutions de gouvernance mondiale de la santé adoptent de plus en plus cette vision du cycle de vie. Les principes de bonne pratique de l’apprentissage automatique de l’IMDRF traitent l’IA médicale fiable comme une responsabilité du cycle de vie total couvrant la conception, le déploiement et la surveillance, écho de la directive de l’OMS sur l’IA pour la santé.

À quoi ressemble l’architecture dans la pratique

Supposons qu’un produit ait trois mois de dates de période, six nuits de température, un test LH positif, un éparpillement d’entrées de symptômes et une semaine de mauvais sommeil. La probabilité d’ovulation la plus élevée du modèle atterrit sur le jour 15. Une application d’estimation de point produit “Ovulation : Jour 15, Confiance 78%”.

L’architecture produit quelque chose de différent. Elle marque les données de température comme étant rares et perturbées par le sommeil. Elle génère une distribution sur plusieurs jours candidats plutôt que d’un seul. Elle applique un seuil doux pour la conscience du cycle mais un seuil plus strict si la sortie touche à la prévention de la grossesse. Elle propose une plage plus la prochaine mesure utile. Et elle stocke l’ensemble de l’état d’évidence afin que la décision puisse être reconstruite plus tard. Même modèle sous-jacent et produit très différent.

Le droit d’agir

Les systèmes Femtech ne font que devenir plus riches en données, avec des applications, des accessoires, des tests à domicile, des dossiers médicaux et des couches de conversation empilés les uns sur les autres. Plus de données peuvent affiner l’inférence, mais elles élargissent également la surface pour la fausse précision. Les équipes qui gagnent la confiance ne seront pas celles qui ont le score de confiance le plus propre. Ce seront celles dont les produits savent ce qu’ils ne savent pas et sont conçus pour le dire.

La précision décrit la qualité d’une prédiction. L’intégrité de la décision décide si le produit a gagné le droit d’agir sur celle-ci.