Fra prediksjon til ansvarlig handling: Designing usikkerhet i Femtech AI

I kvinnehygieneprodukter er nøyaktighet nødvendig, men det er bare det første laget av produktsikkerhet. Det er viktig at systemet vet når en prediksjon er sterk nok til å handle på og er bygget for å si det når det ikke er.

Åpne de fleste fertiliteets- eller syklus-sporende apper, og du vil se et rent resultat: ovulasjon på dag 15, en høy-fertilitetslabel, en konfidensscore på 78%. Tallet ser presist ut. Biologien under det er det ikke.

En periode dato er noe brukeren observerer. Ovulasjon er en latent hendelse som ingen forbruker-enhet måler direkte. Den er inferert fra proxyer. Hudtemperatur reflekterer ikke bare progesteron, men også søvn, alkohol, sykdom, omgivelsesforhold og hvor sensoren satt den natten. En symptominformasjon blandes fysiologi med persepsjon, minne og brukerens beslutning om å logge det hele. Når all dette løser seg inn i “Dag 15, 78%”, har flere forskjellige typer usikkerhet blitt stille komprimert inn i en selvbevisst lydende setning.

I de produktene jeg har arbeidet med over kvinnehygiene, er det harde problemet ikke nøyaktighet. Mønsteret jeg returnerer til er beslutningsintegritet. Nøyaktighet forteller deg hvor godt en modell predikerer. Den sier ingenting om hvorvidt produktet vet når en prediksjon er sterk nok til å handle på. I et område hvor samme utgang kan informere om planlegging eller en prevensjonsbeslutning, er det gapet hvor tillit blir vunnet eller tapt.

Så mitt argument er at Femtech AI ikke primært trenger bedre prediksjon. Den trenger bedre usikkerhetsdesign. Og usikkerhetsdesign er ikke en disclaimer boltet på før lansering; det er en arkitektur. Jeg strukturerer det i seks lag som bærer en signal fra rå innputt til en handling systemet kan rettferdiggjøre og auditere. Jeg anvender en seks-lags versjon av den kalibrerte beslutnings-til-håndtering produktmetoden, designet for å styre hvordan usikre helse-signaler konverteres til tillatte og ansvarlige handlinger. Metoden inkluderer datakvalifisering, inferenskalibrering, konsekvenskartlegging, kontrollpolitikk, arbeidsflytutøvelse og en ansvarsløkke. Dens styrende vei starter med helsedata, som leder til beslutningsarkitektur og kulminerer i ansvarlig handling.

1. Kvalifiser dataene før du stoler på dem

Det første laget bestemmer hva systemet faktisk vet. Femtech-produkter trekker fra svært forskjellige kilder. Det kan inkludere ting brukeren direkte observerer, som periode-datoer eller subjektive rapporter som smerte eller humør, samt wearable-funksjoner som hudtemperatur og hjerte-rhythme-variabilitet, og variabler modellen genererte selv. Å behandle disse som utvekslelige innputt er den opprinnelige synden.

Hver signal trenger proveniens som systemet kan lese: hvor det kommer fra, når, hvor ofte det samples, hva som forstyrrer det og hvordan det relaterer til det du faktisk predikerer. Ovulasjon er hendelsen. Temperatur, cervikal slim, LH og syklus-datoer er bevis om den hendelsen, hver med sin egen forsinkelse og feil.

Manglende data fortjener særlig oppmerksomhet fordi, i helse-sporing, er det sjelden tilfeldig. Folk logger mer når de er bekymret og stopper når de føler seg fine, så et hull kan bære like mye informasjon som en innføring. I en virkelig analyse av over 600 000 ovulatoriske sykluser, kunne ovulasjon ikke bli detektert i 665 603 av de 1,4 millioner syklusene først vurdert. Tre kvartaler av disse hadde gyldige temperatur-lesninger på færre enn halvparten av dagene i syklusen. Data-suffisiens var en stor begrensning i hva algoritmen kunne slutte.

2. Kalibrer inferensen til bevisene

En enkelt konfidensscore kan ikke representere hva som faktisk skjer, fordi disse systemene møter flere forskjellige kilder for usikkerhet på samme tid. Disse inkluderer biologisk variasjon i prosessen selv, måle-kvalitet, manglende fra selv-sporing, modell-usikkerhet fra tynn treningsdata og distribusjons-forandring når den nåværende brukeren ikke ligner populasjonen modellen ble valideret på.

I samme analyse var bare 13% av syklusene nøyaktig 28 dager lange, og den gjennomsnittlige follikulære fasen løp 16,9 dager over et område bredt nok til å gjøre noen fast “dag 14”-antakelse misvisende. Den Apple Women’s Health Study fant syklus-lengde og innen-person-variabilitet var assosiert med alder, selv-rapportert etnisitet og kroppsmasse-indeks. Personalisering kan ikke bety å bytte en populasjons-gjennomsnitt for en enkelt personlig punkt. Det betyr å produsere en distribusjon som strammer når bevisene akkumuleres.

Betrakt to AI-baserte prediksjoner som begge leser “75%”. En hviler på ett år med historikk og tett målinger, og dens usikkerhet er mest real biologi. Den andre hviler på to sykluser, fem temperatur-lesninger, nylig reise og ukjent medikament. Her er usikkerheten mest på grunn av manglende data. Samme nummer. Produktet bør ikke være tillatt å respondere på dem på samme måte. Dette er også hvorfor kalibrering må være sjekket innen undergrupper — aggregat-ytelse kan skjule en modell som er over-bevisst, spesielt for irregulære sykluser eller perimenopausale brukere. Den kliniske-AI-litteraturen skiller nå diskriminering, kalibrering og beslutnings-nytte for nettopp denne grunn. En modell kan rangere brukere godt og fortsatt produsere feil sannsynligheter for virkelige beslutninger.

3. Kartleg konsekvensen av å være feil

Det tredje laget spør hva som skjer når systemet er feil, og binder den tillatte responsen til den kostnaden. En syklus-summering, en fertil-vindu-estimat, en lav-fertilitets-label lest som prevensjons-veiledning og en symptominformasjons-tolkning som bestemmer om noen søker hjelp er ikke samme produkt, selv når modellen bak dem er identisk.

Jeg sorter utganger i fire nivåer etter konsekvens: informativ, atferdsmessig, reproduktiv og klinisk. Hver får sin egen bevis-terskel, tillatt språk og eskalasjons-vei. En 70% sannsynlighet kan være fin for å gjette når en periode starter og ingen nær nok til å forsikre noen om å unngå å bli gravid.

Dette er hvor design møter regulering. Om programvaren krysser inn i medisinsk-enhet-territoriet, avhenger det av dens ment å bruke og rollen dens utgang spiller i en helse-beslutning. Den FDA’s nåværende Clinical Decision Support Software-veiledning, oppdatert i januar 2026, er eksplisitt at funksjoner ment for pasienter og omsorgspersoner kan møte definisjonen av en enhet. Regulerings-posisjonering er ikke en juridisk gjennomgang i slutten. Det er kodet i dine terskler, ditt ordvalg og din eskalasjons-logikk fra dag én.

4. Omform usikkerhet til en kontrollpolitikk

En blanket “resultater kan være uakkurate” gir hele tolknings-problemet tilbake til brukeren. En kontrollpolitikk gjør det motsatte. For en gitt bevis-tilstand, bestemmer den om systemet viser en observasjon, tilbyr en begrenset rekke, ber om en annen måling, peker på en kliniker eller nekter å svare. Avståelse er en produkt-egenskap, ikke en feil. “Vi er ikke sikre ennå” bør være en designet tilstand med en neste steg, ikke en feil-skjerm.

Konkret, istedenfor “Ovulasjon: Dag 15, 78%”, produserer arkitekturen noe annet. Den markerer temperatur-dataene som sparsomme og søvn-forstyrrede. Den genererer en distribusjon over flere kandidat-dager i stedet for en. Den anvender en mild terskel for syklus-bevissthet, men en strengere hvis utgangen berører prevensjon. Den tilbyr en rekke pluss den neste nyttige målingen. Og den lagrer hele bevis-tilstanden så beslutningen kan rekonstrueres senere. Samme underliggende modell og et svært forskjellig produkt.

5. Støtt handlingen utgangen antyder

Selv en forbruker-app skaper en arbeidsflyt: log en annen måling, gjenta en test, fortsett å observere, eksportér data, ring en kliniker. Systemet bør vite hvilken handling hver respons peker på og om det kan støtte den handlingen trygt.

Grensen mellom produkt-veiledning og medisinsk råd bor her, og det er ikke en fast linje. Utdannelses-innhold som forklarer hva en signal generelt betyr, sitter trygt på veilednings-siden. Produktet flytter inn i høyere-risiko-territoriet øyeblikket det tolker en persons data som sykdom, retter behandling eller tilbyr forsikring som bærer virkelig klinisk vekt. Den grensen må holde ved hver interaksjon, ikke bare i vilkårene for tjenesten.

6. Lukk ansvarsløkken

Det siste laget dømmer hele systemet, ikke bare modellen. Standard modell-metrikker betyr fortsatt og fokuserer på diskriminering, kalibrering, undergruppe-prestasjon, ekstern og temporal validering. Men produkt-nivå-metrikker betyr like mye. Vi bør spørre hvor ofte systemet hadde nok innputt til å handle, hvor ofte det avstod. Pluss den ene jeg ville insisterer på er en feil-forsikrings-rate, som betyr hvor ofte det fortalte noen at alt så fint ut på bevis som ikke kunne støtte kravet.

Hver konsekvens-full respons bør være rekonstruerbar etterpå. Regulatorer, standard-organer og globale helse-styrings-institusjoner adopterer stadig denne livssyklus-synen. Den IMDRF’s gode maskin-læring-praksis-prinsipper behandler troværdig medisinsk AI som en total-livssyklus-ansvar som omfatter design, utrulling og overvåking, som gjentar WHO’s veiledning om AI for helse.

Hva arkitekturen ser ut som i praksis

Si et produkt har tre måneder med periode-datoer, seks netter med temperatur, en positiv LH-test, en spredning av symptominformasjoner og en uke med dårlig søvn. Modellens høyeste ovulasjons-sannsynlighet lander på dag 15. En punkt-estimat-app viser “Ovulasjon: Dag 15, Konfidens 78%”.

Arkitekturen produserer noe annet. Den markerer temperatur-dataene som sparsomme og søvn-forstyrrede. Den genererer en distribusjon over flere kandidat-dager i stedet for en. Den anvender en mild terskel for syklus-bevissthet, men en strengere hvis utgangen berører prevensjon. Den tilbyr en rekke pluss den neste nyttige målingen. Og den lagrer hele bevis-tilstanden så beslutningen kan rekonstrueres senere. Samme underliggende modell og et svært forskjellig produkt.

Retten til å handle

Femtech-systemer er bare blir mer data-rike, med apper, wearables, hjemme-tester, medisinske journaler og samtale-lag på toppen. Mer data kan skjerpe inferens, men det åpner også opp for feil- presisjon. Lagene som tjener tillit, vil ikke være de med de reneste konfidens-scorene. De vil være de hvis produkter vet hva de ikke vet, og er bygget for å si det når de ikke er.

Nøyaktighet beskriver kvaliteten på en prediksjon. Beslutnings-integritet bestemmer om produktet har tjent retten til å handle på den.