De la predicție la acțiune responsabilă: proiectarea incertitudinii în Femtech AI

În sănătatea femeilor, acuratețea este necesară, dar este doar primul strat de siguranță a produsului. Este important ca sistemul să știe când o predicție este suficient de puternică pentru a fi luată în considerare și să fie proiectat să spună atunci când nu este.

Deschideți majoritatea aplicațiilor de urmărire a fertilității sau a ciclului menstrual și veți vedea un rezultat curat: ovulația pe ziua 15, o etichetă de fertilitate ridicată, un scor de încredere de 78%. Numărul pare precis. Biologia de sub el nu este.

O dată a perioadei este ceva observat de utilizator. Ovulația este un eveniment latent pe care niciun dispozitiv pentru consumatori nu îl măsoară direct. Este dedus din proxy-uri. Temperatura pielii reflectă nu numai progesteronul, ci și somnul, alcoolul, boala, condițiile ambientale și unde a stat senzorul în acea noapte. O intrare de simptom amestecă fiziologia cu percepția, memoria și decizia utilizatorului de a o înregistra. Până când toate acestea se rezumă la “Ziua 15, 78%”, mai multe tipuri de incertitudine au fost comprimate într-o propoziție care sună încrezător.

În produsele pe care le-am lucrat în sănătatea femeilor, problema dificilă nu este acuratețea. Șablonul la care mă întorc în mod constant este integritatea deciziei. Acuratețea spune cât de bine prezice un model. Nu spune nimic despre faptul că produsul știe când o predicție este suficient de puternică pentru a fi luată în considerare. Într-un domeniu în care aceeași ieșire poate informa planificarea casual sau o decizie contraceptivă, acea lacună este unde se câștigă sau se pierde încrederea.

Așadar, argumentul meu este că Femtech AI nu are nevoie în primul rând de o predicție mai bună. Are nevoie de o proiectare mai bună a incertitudinii. Și proiectarea incertitudinii nu este un avertisment atașat înainte de lansare; este o arhitectură. O structurăm în șase straturi care poartă un semnal de la intrarea brută la o acțiune pe care sistemul o poate justifica și audita. Aplic o versiune cu șase straturi a Metodei de decizie la acțiune calibrată, proiectată pentru a guverna modul în care semnalele de sănătate incerte sunt convertite în acțiuni permise și responsabile. Metoda include calificarea datelor, calibrarea inferenței, cartografierea consecințelor, politica de control, execuția fluxului de lucru și un buclă de responsabilitate. Calea sa de guvernare începe cu datele de sănătate, care duc la arhitectura deciziei și se încheie cu acțiunea responsabilă.

1. Calificați datele înainte de a avea încredere în ele

Primul strat decide ce știe realmente sistemul. Produsele Femtech extrag din surse foarte diferite. Pot include lucruri observate direct de utilizator, cum ar fi datele perioadei sau rapoarte subiective cum ar fi durerea sau dispoziția, precum și caracteristici purtate cum ar fi temperatura pielii și variabilitatea ritmului cardiac, și variabile generate de modelul însuși. Tratarea acestor intrări ca fiind interschimbabile este păcatul original.

Fiecare semnal are nevoie de o proveniență pe care sistemul o poate citi: de unde vine, când, cât de des este eșantionat, ce îl influențează și cum se relatează la evenimentul pe care îl preziceți. Ovulația este evenimentul. Temperatura, mucusul cervical, LH și datele ciclului sunt dovezi despre acel eveniment, fiecare cu propriul decalaj și propria eroare.

Datele lipsă merită o atenție specială, deoarece în urmărirea sănătății, ele sunt rareori aleatorii. Oamenii înregistrează mai mult atunci când sunt îngrijorați și încetează atunci când se simt bine, astfel încât o lacună poate purta la fel de multă informație ca și o intrare. Într-o analiză din lumea reală a mai mult de 600.000 de cicluri ovulatorii, ovulația nu a putut fi detectată în 665.603 din cele 1,4 milioane de cicluri luate în considerare inițial. Trei sferturi dintre acestea aveau citiri de temperatură valabile pe mai puțin de jumătate din zilele ciclului. Suficiența datelor a fost un factor limitativ major în ceea ce modelul putea deduce. Un produs care emite o etichetă de fertilitate curată în acea situație nu este încrezător. Fabrică precizia pe care nu o are.

2. Calibrați inferența la dovezi

Un singur scor de încredere nu poate reprezenta ceea ce se întâmplă realmente, deoarece aceste sisteme se confruntă cu mai multe surse distincte de incertitudine simultan. Acestea includ variabilitatea biologică a procesului în sine, calitatea măsurătorii, lipsa din auto-urmărirea, incertitudinea modelului din cauza datelor de antrenament subțiri, și schimbarea distribuției atunci când utilizatorul curent nu seamănă cu populația pe care modelul a fost validat.

În aceeași analiză, doar 13% din cicluri aveau exact 28 de zile, iar faza foliculară medie a durat 16,9 zile, pe o rază suficient de largă pentru a face orice asumpție fixă “ziua 14” înșelătoare. Studiul Apple pentru sănătatea femeilor a găsit că lungimea ciclului și variabilitatea intrapersonală au fost asociate cu vârsta, etnia auto-raportată și indicele de masă corporală. Personalizarea, atunci, nu poate însemna înlocuirea unei medii populaționale cu un punct personal. Înseamnă producerea unei distribuții care se strânge pe măsură ce se acumulează dovezi.

Considerați două predicții bazate pe IA care ambele citesc “75%”. Una se bazează pe un an de istoric și măsurători dense, iar incertitudinea sa este în mare parte biologie reală. Cealaltă se bazează pe două cicluri, cinci citiri de temperatură, recentă călătorie și medicație necunoscută. Aici, incertitudinea este în mare parte datorată lipsei de date. Același număr. Produsul nu ar trebui să răspundă la ele în același mod. Acesta este și motivul pentru care calibrarea trebuie verificată în subgrupuri — performanța agregată poate ascunde un model care este supraincrezător, în special pentru cicluri neregulate sau utilizatori perimenopauzali. Literatura clinică IA separă acum discriminarea, calibrarea și utilitatea deciziei exact din acest motiv. Un model poate clasifica utilizatorii bine și totuși produce probabilități incorecte pentru decizii reale.

3. Cartografia consecinței greșelii

Al treilea strat întreabă ce se întâmplă atunci când sistemul este greșit și leagă răspunsul permis de acel cost. O sinteză a ciclului, o estimare a ferestrei de fertilitate, o etichetă de fertilitate scăzută citită ca îndrumare contraceptivă și o interpretare a simptomului care decide dacă cineva caută îngrijire nu sunt același produs, chiar dacă modelul din spatele lor este identic.

Îi sortează ieșirile în patru niveluri după consecințe: informațional, comportamental, reproductiv și clinic. Fiecare primește propria sa prag de dovezi, limbaj permis și cale de escaladare. O probabilitate de 70% ar putea fi suficientă pentru a ghici când va începe perioada și nu este aproape suficientă pentru a-l asigura pe cineva că nu va rămâne însărcinat.

Acesta este locul în care designul întâlnesc reglementarea. Dacă software-ul traversează în teritoriul dispozitivului medical depinde de utilizarea sa intenționată și de rolul pe care ieșirea sa îl joacă într-o decizie de sănătate. Ghidul actual al FDA pentru software-ul de sprijin pentru decizii clinice, actualizat în ianuarie 2026, este explicit că funcțiile destinate pacienților și îngrijitorilor pot îndeplini definiția unui dispozitiv. Poziționarea reglementară nu este o revizuire juridică la sfârșit. Este încodat în pragurile dvs., cuvintele și logica de escaladare de la început.

4. Transformați incertitudinea într-o politică de control

O “rezultatele pot fi inexacte” înmână întreaga problemă de interpretare utilizatorului. O politică de control face contrariul. Pentru un anumit stat de dovezi, decide dacă sistemul arată o observație, oferă un interval limitat, cere o altă măsurătoare, indică spre un clinician sau refuză să răspundă. Abținerea este o capacitate a produsului, nu o eșec. “Nu suntem siguri încă” ar trebui să fie un stat proiectat cu un pas următor, nu o ecran de eroare.

Concret, în loc de “Ovulație: Ziua 15, 78%”, un răspuns guvernat citește mai mult așa: ovulația este cel mai probabil într-o fereastră de patru zile; încrederea este limitată de datele de temperatură lipsă și somnul perturbat; câteva citiri suplimentare ar putea îmbunătăți estimarea, și un test LH ar putea adăuga dovezi prospective și îngusta fereastra probabilă. Utilizatorul primește o estimare, motivul pentru care este incertă și singura acțiune care ar schimba-o.

5. Sprijiniți acțiunea implicată de ieșire

Chiar și o aplicație de consumator creează un flux de lucru: înregistrați o altă citire, repetați un test, continuați să observați, exportați date, sunați un clinician. Sistemul ar trebui să știe ce acțiune indică fiecare răspuns și dacă poate susține acea acțiune în siguranță.

Granița dintre îndrumarea produsului și sfatul medical trăiește aici, și nu este o linie fixă. Conținutul educațional care explică ce înseamnă de obicei un semnal se află în siguranță pe partea îndrumării. Produsul se deplasează într-un teritoriu cu risc mai mare în momentul în care interpretează datele unei persoane ca boală, direcționează tratamentul sau oferă asigurări care au o greutate clinică reală. Acea graniță trebuie să se mențină la fiecare interacțiune, nu doar în termenii serviciului.

6. Închideți bucla de responsabilitate

Ultimul strat judecă întregul sistem, nu doar modelul. Metricele standard ale modelului încă mai contează și se concentrează pe discriminare, calibrare, performanță în subgrupuri, validare externă și temporală. Dar metricele de nivel produs contează la fel de mult. Ar trebui să întrebăm cât de des sistemul a avut suficiente intrări pentru a acționa, cât de des s-a abținut. Plus unul pe care aș insista este rata de reasigurare falsă, adică cât de des a spus cuiva că totul pare în regulă pe baza unor dovezi care nu ar fi putut susține afirmația.

Fiecare răspuns cu consecințe ar trebui să poată fi reconstruit ulterior. Regulatorii, organismele de standardizare și instituțiile globale de guvernanță a sănătății adoptă din ce în ce mai mult această perspectivă pe tot ciclul de viață. Principiile de bună practică a învățării automate a IMDRF tratează IA medicală de încredere ca o responsabilitate pe tot ciclul de viață, care cuprinde proiectarea, implementarea și monitorizarea, ecouând ghidul OMS privind IA pentru sănătate.

Cum arată arhitectura în practică

Să zicem că un produs are trei luni de date ale perioadei, șase nopți de temperatură, un test LH pozitiv, o serie de intrări de simptome și o săptămână de somn prost. Probabilitatea maximă de ovulație a modelului ajunge pe ziua 15. O aplicație cu estimare punctuală arată “Ovulație: Ziua 15, Încredere 78%”.

Arhitectura produce ceva diferit. Marchează datele de temperatură ca fiind rare și perturbate de somn. Generează o distribuție peste mai multe zile candidate, în loc de una singură. Aplică un prag blând pentru conștientizarea ciclului, dar unul mai strict dacă ieșirea atinge prevenirea sarcinii. Ofertă o gamă plus următoarea măsurătoare utilă. Și stochează întregul stat de dovezi astfel încât decizia să poată fi reconstruită ulterior. Același model de bază și un produs foarte diferit.

Dreptul de a acționa

Sistemele Femtech devin din ce în ce mai bogate în date, cu aplicații, dispozitive purtabile, teste de acasă, dosare medicale și straturi conversaționale suprapuse. Mai multe date pot ascuți inferența, dar pot extinde și suprafața pentru precizie falsă. Echipele care câștigă încredere nu vor fi cele cu scorul de încredere cel mai curat. Vor fi cele ale căror produse știu ce nu știu și sunt proiectate să spună atunci când nu știu.

Acuratețea descrie calitatea unei predicții. Integritatea deciziei decide dacă produsul a câștigat dreptul de a acționa în conformitate.