Från förutsägelse till ansvarsfull handling: Design av osäkerhet i Femtech AI

Inom kvinnohälsa är noggrannhet nödvändig, men det är bara det första lagret av produktsäkerhet. Det är viktigt att systemet vet när en förutsägelse är tillräckligt stark för att agera på och är utformat för att säga när den inte är det.

Öppna de flesta fertilitets- eller cykelspårningsappar, och du kommer att se ett rent resultat: ovulation på dag 15, en hög fertilitetsetikett, en förtroendescore på 78%. Siffran ser exakt ut. Biologin under den är inte det.

En periodsdatum är något som användaren har observerat. Ovulation är en latent händelse som ingen konsumentenhet mäter direkt. Den härleds från proxys. Hudtemperaturen reflekterar inte bara progesteron utan också sömn, alkohol, sjukdom, omgivningsförhållanden och var sensorn satt den natten. En symtompostning blandar fysiologi med perception, minne och användarens beslut att logga den över huvud taget. När allt detta löser sig till “Dag 15, 78%” har flera olika typer av osäkerhet tyst komprimerats till en enda förtroendeskapande mening.

I de produkter jag har arbetat med inom kvinnohälsa är det hårda problemet inte noggrannhet. Mönstret jag återkommer till är beslutsintegritet. Noggrannhet berättar hur väl en modell förutsäger. Den säger ingenting om huruvida produkten vet när en förutsägelse är tillräckligt stark för att agera på. I ett område där samma utdata kan informera om planering eller preventivmedelsbeslut är det där förtroendet vinner eller förlorar.

Så mitt argument är att Femtech AI inte främst behöver bättre förutsägelse. Den behöver bättre osäkerhetsdesign. Och osäkerhetsdesign är inte en varning som fästs på innan lansering; det är en arkitektur. Jag strukturerar den i sex lager som bär en signal från rådata till en handling som systemet kan motivera och granska. Jag tillämpar en sexlagig version av den kalibrerade besluts-till-åtgärd-metoden, utformad för att styra hur osäkra hälsosignaler omvandlas till tillåtna och ansvarsfulla handlingar. Metoden inkluderar datakvalificering, inferenskalibrering, konsekvensmappning, kontrollpolicy, arbetsflödesutförande och en ansvarslösningsloop. Dess styrande väg börjar med hälsodata, som leder till beslutsarkitektur och kulminerar i ansvarsfull handling.

1. Kvalificera datan innan du litar på den

Det första lagret bestämmer vad systemet faktiskt vet. Femtech-produkter hämtar från mycket olika källor. Det kan inkludera saker som användaren direkt observerat, såsom periodsdatum eller subjektiva rapporter som smärta eller humör, samt wearable-funktioner som hudtemperatur och hjärtfrekvensvariabilitet, och variabler som modellen genererade själv. Att behandla dessa som utbytbara indata är den ursprungliga synden.

Varje signal behöver proveniens som systemet kan läsa: var den kommer ifrån, när, hur ofta den sampas, vad som stör den och hur den relaterar till den sak du faktiskt förutsäger. Ovulation är händelsen. Temperatur, cervikal slem, LH och cykel datum är bevis om den händelsen, var och en med sin egen fördröjning och fel.

Saknad data förtjänar särskild uppmärksamhet eftersom det i hälsospårning sällan är slumpmässigt. Människor loggar mer när de är oroliga och slutar när de känner sig bra, så ett gap kan bära lika mycket information som en post. I en verklig analys av mer än 600 000 ovulatoriska cykler, kunde ovulation inte detekteras i 665 603 av de 1,4 miljoner cykler som först övervägdes. Tre fjärdedelar av dessa hade giltiga temperaturavläsningar på färre än hälften av dagarna i cykeln. Data tillräcklighet var en stor begränsande faktor för vad algoritmen kunde härleda. En produkt som emitterar en skarp fertilitetsetikett i den situationen är inte säker. Den tillverkar precision den inte har.

2. Kalibrera inferensen till bevisen

En enda förtroendescore kan inte representera vad som verkligen händer, eftersom dessa system står inför flera distinkta källor till osäkerhet samtidigt. Dessa inkluderar biologisk variabilitet i processen i sig, mätningskvalitet, saknad från självspårning, modellosäkerhet från tunn träningsdata och distributionsförskjutning när den aktuella användaren inte liknar populationen som modellen validerades på.

I samma analys var endast 13% av cyklerna exakt 28 dagar långa, och den genomsnittliga follikulära fasen löpte 16,9 dagar över ett tillräckligt brett intervall för att göra något fast “dag 14”-antagande vilseledande. Apple Women’s Health Study fann att cykel längd och inom-person variabilitet var associerad med ålder, självrapporterad etnicitet och kroppsmassindex. Personalisering kan då inte betyda att byta ut en populationsgenomsnitt för en enda personlig punkt. Det betyder att producera en distribution som stramar åt när bevisen ackumuleras.

Tänk på två AI-baserade förutsägelser som båda läser “75%”. En vilar på ett års historia och täta mätningar, och dess osäkerhet är mestadels verklig biologi. Den andra vilar på två cykler, fem temperaturavläsningar, nylig resa och okänd medicinering. Här är osäkerheten mestadels orsakad av saknad data. Samma nummer. Produkten bör inte tillåtas svara på dem på samma sätt. Detta är också varför kalibrering måste kontrolleras inom undergrupper — aggregatprestanda kan dölja en modell som är övermodig, särskilt för oregelbundna cykler eller perimenopausala användare. Den kliniska-AI-litteraturen separerar nu diskriminering, kalibrering och beslutsnytta för exakt detta skäl. En modell kan rangordna användare väl och fortfarande producera felaktiga sannolikheter för verkliga beslut.

3. Mappa konsekvensen av att vara fel

Det tredje lagret frågar vad som händer när systemet är fel, och binder den tillåtna responsen till den kostnaden. En cykel sammanfattning, en fertil-vind-estimering, en låg-fertilitetsetikett som läses som preventiv rådgivning och en symtomtolkning som bestämmer om någon söker vård är inte samma produkt, även om modellen bakom dem är identisk.

Jag sorterar utdata i fyra nivåer efter konsekvens: informativ, beteendemässig, reproduktiv och klinisk. Var och en får sin egen bevisgräns, tillåten språk och eskalationsväg. En 70% sannolikhet kan vara bra för att gissa när en period kommer att börja och ingenstans nära nog för att försäkra någon som försöker undvika att bli gravid.

Detta är där design möter reglering. Om mjukvaran korsar in i medicintekniskt territorium beror det på dess avsedda användning och rollen dess utdata spelar i ett hälsobeslut. FDA:s nuvarande Clinical Decision Support Software-guidning, uppdaterad i januari 2026, är explicit att funktioner som är avsedda för patienter och vårdgivare kan uppfylla definitionen av en enhet. Regleringspositionering är inte en juridisk granskning i slutet. Det är kodat i dina trösklar, din formulering och din eskalationslogik från dag ett.

4. Omvandla osäkerhet till en kontrollpolicy

En blankett “resultat kan vara felaktiga” lämnar hela tolkningsproblemet tillbaka till användaren. En kontrollpolicy gör det motsatta. För en given bevisstat bestämmer den om systemet visar en observation, erbjuder en begränsad omfattning, ber om en annan mätning, pekar på en kliniker eller vägrar att svara. Avståndstagande är en produktförmåga, inte ett misslyckande. “Vi är inte säkra än” bör vara en utformad tillstånd med en nästa steg, inte ett felmeddelande.

Konkret, istället för “Ovulation: Dag 15, 78%”, producerar arkitekturen något annat. Den markerar temperaturdata som sparsam och sömnstörd. Den genererar en distribution över flera kandidatdagar snarare än en. Den tillämpar en mild tröskel för cykelmedvetenhet men en strängare om utdata berör preventivmedelsprevention. Den erbjuder ett intervall plus nästa användbara mätning. Och den lagrar hela bevisstaten så att beslutet kan rekonstrueras senare. Samma underliggande modell och en mycket annorlunda produkt.

5. Stöd åtgärden som utdata antyder

Även en konsumentapp skapar ett arbetsflöde: logga en annan mätning, upprepa en test, fortsätt observera, exportera data, ringa en kliniker. Systemet bör veta vilken åtgärd varje respons pekar på och om den kan stödja den åtgärden säkert.

Gränsen mellan produktvägledning och medicinsk rådgivning bor här, och den är inte en fast linje. Utbildningsinnehåll som förklarar vad en signal vanligtvis betyder sitter säkert på vägledningssidan. Produkten flyttar in i högriskterritoriet så fort den tolkar en persons data som sjukdom, riktar behandling eller erbjuder försäkran som bär verklig klinisk vikt. Den gränsen måste hållas vid varje interaktion, inte bara i villkoren.

6. Stäng ansvarslösningsloopen

Det sista lagret bedömer hela systemet, inte bara modellen. Standardmodellmått är fortfarande viktiga och fokuserar på diskriminering, kalibrering, undergruppsprestanda, extern och temporär validering. Men produktmått är lika viktiga. Vi bör fråga hur ofta systemet hade tillräckligt med indata för att agera, hur ofta det avstod. Plus det jag skulle insistera på är en falsk-försäkranstakt, vilket innebär hur ofta det sa till någon att allt såg bra ut på bevis som inte kunde stödja påståendet.

Varje konsekvensfull respons bör kunna rekonstrueras efteråt. Regulatorer, standardiseringsorgan och globala hälsovårdsstyrningsinstitutioner antar alltmer en livscykelvy. IMDRF:s principer för god maskinlärningspraxis betraktar tillförlitlig medicinsk AI som ett totalt livscykelsansvar som omfattar design, distribution och övervakning, som ekar WHO:s vägledning om AI för hälsa.

hur arkitekturen ser ut i praktiken

Säg att en produkt har tre månaders periodsdatum, sex nätters temperatur, ett positivt LH-test, en spridning av symtomposter och en veckas dålig sömn. Modellens högsta ovulationsprobabilitet landar på dag 15. En punktskattning app visar “Ovulation: Dag 15, Förtroende 78%”.

Arkitekturen producerar något annat. Den markerar temperaturdata som sparsam och sömnstörd. Den genererar en distribution över flera kandidatdagar snarare än en. Den tillämpar en mild tröskel för cykelmedvetenhet men en strängare om utdata berör preventivmedelsprevention. Den erbjuder ett intervall plus nästa användbara mätning. Och den lagrar hela bevisstaten så att beslutet kan rekonstrueras senare. Samma underliggande modell och en mycket annorlunda produkt.

Rätten att agera

Femtech-system är bara på väg att bli mer datarika, med appar, wearables, hemtester, medicinska journaler och konversationslager staplade på varandra. Mer data kan skärpa inferens, men det ökar också ytan för felaktig precision. Teamen som tjänar förtroende kommer inte att vara de med de renaste förtroendescore. De kommer att vara de vars produkter vet vad de inte vet och är byggda för att säga det.

Noggrannhet beskriver kvaliteten på en förutsägelse. Beslutsintegritet bestämmer om produkten har tjänat rätten att agera på den.