Da Previsão à Ação Responsável: Projetando Incerteza em Femtech AI

Na saúde das mulheres, a precisão é necessária, mas é apenas a primeira camada de segurança do produto. É importante que o sistema saiba quando uma previsão é forte o suficiente para ser considerada e esteja projetado para dizer quando não é.

Abra a maioria dos aplicativos de fertilidade ou de acompanhamento de ciclo, e você verá um resultado limpo: ovulação no dia 15, um rótulo de alta fertilidade, um score de confiança de 78%. O número parece preciso. A biologia por trás dele não é.

Uma data de período é algo que o usuário observou. A ovulação é um evento latente que nenhum dispositivo de consumo mede diretamente. É inferida por meio de proxies. A temperatura da pele reflete não apenas a progesterona, mas também o sono, o álcool, a doença, as condições ambientais e onde o sensor estava naquela noite. Uma entrada de sintoma mistura fisiologia com percepção, memória e a decisão do usuário de registrá-la. Até que tudo isso se resolva em “Dia 15, 78%”, vários tipos diferentes de incerteza foram silenciosamente comprimidos em uma frase confiante.

Nos produtos em que trabalhei em saúde das mulheres, o problema difícil não é a precisão. O padrão ao qual continuo retornando é a integridade da decisão. A precisão diz como bem um modelo prevê. Não diz nada sobre se o produto sabe quando uma previsão é forte o suficiente para ser considerada. Em um domínio onde a mesma saída pode informar planejamento casual ou uma decisão anticoncepcional, essa lacuna é onde a confiança é conquistada ou perdida.

Portanto, meu argumento é que o Femtech AI não precisa principalmente de melhor previsão. Ele precisa de melhor design de incerteza. E o design de incerteza não é uma declaração anexada antes do lançamento; é uma arquitetura. Eu estruturo em seis camadas que carregam um sinal de entrada bruta para uma ação que o sistema pode justificar e auditar. Eu aplico uma versão de seis camadas do Método de Produto de Decisão-Calibrada, projetado para governar como sinais de saúde incertos são convertidos em ações permitidas e responsáveis. O método inclui qualificação de dados, calibração de inferência, mapeamento de consequência, política de controle, execução de fluxo de trabalho e um loop de responsabilidade. Seu caminho governante começa com dados de saúde, que levam à arquitetura de decisão e culminam em ação responsável.

1. Qualifique os Dados Antes de Confiar Neles

A primeira camada decide o que o sistema realmente sabe. Produtos de Femtech extraem de fontes muito diferentes. Pode incluir coisas que o usuário observou diretamente, como datas de período ou relatos subjetivos como dor ou humor, bem como recursos de dispositivos portáteis como temperatura da pele e variabilidade da frequência cardíaca, e variáveis que o modelo gerou por si mesmo. Tratar esses como entradas intercambiáveis é o pecado original.

Cada sinal precisa de proveniência que o sistema possa ler: de onde veio, quando, como frequentemente é amostrado, o que o confunde e como se relaciona com o que você está realmente prevendo. A ovulação é o evento. A temperatura, o muco cervical, o LH e as datas do ciclo são evidências sobre esse evento, cada um com seu próprio atraso e seu próprio erro.

Os dados ausentes merecem atenção especial porque, no acompanhamento de saúde, raramente são aleatórios. As pessoas registram mais quando estão preocupadas e param quando se sentem bem, então uma lacuna pode carregar tanto informações quanto uma entrada. Em uma análise do mundo real de mais de 600.000 ciclos ovulatórios, a ovulação não pôde ser detectada em 665.603 dos 1,4 milhão de ciclos considerados inicialmente. Três quartos desses tinham leituras de temperatura válidas em menos da metade dos dias do ciclo. A suficiência dos dados foi um fator limitante importante no que o algoritmo podia inferir. Um produto que emite um rótulo de fertilidade limpo nessa situação não está sendo confiante. Está fabricando precisão que não tem.

2. Calibre a Inferência para as Evidências

Um único score de confiança não pode representar o que realmente está acontecendo, porque esses sistemas enfrentam várias fontes distintas de incerteza ao mesmo tempo. Isso inclui variabilidade biológica no processo em si, qualidade de medição, ausência de autoacompanhamento, incerteza do modelo devido a dados de treinamento finos e mudança de distribuição quando o usuário atual não se assemelha à população com a qual o modelo foi validado.

Na mesma análise, apenas 13% dos ciclos tinham exatamente 28 dias de duração, e a fase folicular média durou 16,9 dias em uma faixa ampla o suficiente para tornar qualquer suposição fixa de “dia 14” enganosa. O Estudo de Saúde da Mulher da Apple encontrou que o comprimento do ciclo e a variabilidade dentro da pessoa estavam associados à idade, etnia autodeclarada e índice de massa corporal. A personalização, então, não pode significar substituir uma média populacional por um único ponto pessoal. Significa produzir uma distribuição que se torna mais precisa à medida que as evidências se acumulam.

Considere duas previsões baseadas em IA que ambos leem “75%”. Uma se baseia em um ano de história e medições densas, e sua incerteza é principalmente biologia real. A outra se baseia em dois ciclos, cinco leituras de temperatura, viagem recente e medicação desconhecida. Aqui, a incerteza é principalmente devido a dados ausentes. Mesmo número. O produto não deve ser permitido a responder a eles da mesma maneira. É por isso que a calibração precisa ser verificada dentro de subgrupos — o desempenho agregado pode esconder um modelo que é excessivamente confiante, particularmente para ciclos irregulares ou usuários perimenopáusicos. A literatura clínica-AI agora separa discriminação, calibração e utilidade de decisão exatamente por esse motivo. Um modelo pode classificar usuários bem e ainda produzir probabilidades incorretas para decisões reais.

3. Mapeie a Consequência de Estar Errado

A terceira camada pergunta o que acontece quando o sistema está errado e liga a resposta permitida a esse custo. Um resumo de ciclo, uma estimativa de janela fértil, um rótulo de baixa fertilidade lido como orientação anticoncepcional e uma interpretação de sintoma que decide se alguém procura atendimento médico não são o mesmo produto, mesmo quando o modelo por trás deles é idêntico.

Eu classifico as saídas em quatro níveis por consequência: informativo, comportamental, reprodutivo e clínico. Cada um recebe seu próprio limiar de evidência, linguagem permitida e caminho de escalonamento. Uma probabilidade de 70% pode ser adequada para adivinhar quando um período começará e em nenhum lugar perto o suficiente para garantir a alguém que está tentando não engravidar.

Aqui é onde o design encontra a regulamentação. Se o software cruza para o território de dispositivo médico depende de seu uso pretendido e do papel que sua saída desempenha em uma decisão de saúde. A orientação atual da FDA sobre Software de Suporte à Decisão Clínica, atualizada em janeiro de 2026, é explícita de que as funções destinadas a pacientes e cuidadores podem atender à definição de um dispositivo. A posição regulatória não é uma revisão jurídica no final. Está codificada em seus limiares, sua linguagem e sua lógica de escalonamento desde o dia um.

4. Transforme a Incerteza em uma Política de Controle

Um aviso geral de “resultados podem ser imprecisos” entrega o problema de interpretação inteiro de volta ao usuário. Uma política de controle faz o oposto. Para um determinado estado de evidência, decide se o sistema mostra uma observação, oferece uma faixa limitada, pede outra medição, aponta para um clínico ou se recusa a responder. A abstenção é uma capacidade do produto, não uma falha. “Não estamos certos ainda” deve ser um estado projetado com uma próxima etapa, não uma tela de erro.

Concretamente, em vez de “Ovulação: Dia 15, Confiança 78%”, uma resposta governada lê mais como esta: a ovulação é mais provável dentro de uma janela de quatro dias; a confiança é limitada por dados de temperatura ausentes e sono perturbado; algumas leituras adicionais afiariam a estimativa, e um teste de LH poderia adicionar evidência prospectiva e estreitar a janela provável. O usuário recebe uma estimativa, o motivo pelo qual é incerto e a única ação que mudaria.

5. Apoie a Ação que a Saída Implica

Mesmo um aplicativo de consumo cria um fluxo de trabalho: registrar outra leitura, repetir um teste, continuar observando, exportar dados, ligar para um clínico. O sistema deve saber qual ação cada resposta aponta e se pode apoiar essa ação com segurança.

A fronteira entre orientação do produto e aconselhamento médico vive aqui, e não é uma linha fixa. O conteúdo educacional que explica o que um sinal geralmente significa fica seguro no lado da orientação. O produto se move para um território de risco mais alto no momento em que interpreta os dados de uma pessoa como doença, direciona tratamento ou oferece garantia que carrega peso clínico real. Essa fronteira precisa ser mantida em cada interação, não apenas nos termos de serviço.

6. Feche o Loop de Responsabilidade

A camada final julga o sistema como um todo, não apenas o modelo. As métricas padrão do modelo ainda importam e se concentram em discriminação, calibração, desempenho de subgrupo, validação externa e temporal. Mas as métricas de nível de produto importam igualmente. Devemos perguntar com que frequência o sistema teve entrada suficiente para agir, com que frequência se absteve. Além daquela que eu insistiria é uma taxa de garantia falsa, significando com que frequência disse a alguém que tudo parecia bem em evidências que não podiam apoiar a alegação.

Cada resposta consequente deve ser reconstruída após o fato. Reguladores, órgãos normativos e instituições de governança global de saúde estão cada vez mais adotando essa visão de ciclo de vida. Os princípios de boa prática de aprendizado de máquina da IMDRF tratam AI de saúde confiável como uma responsabilidade de ciclo de vida total que abrange design, implantação e monitoramento, ecoando a orientação da OMS sobre IA para saúde.

Como a Arquitetura Parece na Prática

Digamos que um produto tenha três meses de datas de período, seis noites de temperatura, um teste de LH positivo, uma dispersão de entradas de sintomas e uma semana de sono ruim. A probabilidade de ovulação mais alta do modelo cai no dia 15. Um aplicativo de estimativa de ponto mostra “Ovulação: Dia 15, Confiança 78%”.

A arquitetura produz algo diferente. Marca os dados de temperatura como escassos e confundidos pelo sono. Gera uma distribuição sobre vários dias candidatos em vez de um. Aplica um limiar suave para conscientização do ciclo, mas um mais estrito se a saída toca prevenção de gravidez. Oferece uma faixa mais a próxima medição útil. E armazena o estado de evidência inteiro para que a decisão possa ser reconstruída mais tarde. Mesmo modelo subjacente e um produto muito diferente.

O Direito de Agir

Os sistemas de Femtech estão se tornando cada vez mais ricos em dados, com aplicativos, dispositivos portáteis, testes caseiros, registros médicos e camadas conversacionais empilhadas. Mais dados podem afiar a inferência, mas também ampliam a superfície para falsa precisão. As equipes que conquistam confiança não serão aquelas com o score de confiança mais limpo. Serão aquelas cujos produtos sabem o que não sabem e são projetados para dizer.

A precisão descreve a qualidade de uma previsão. A integridade da decisão decide se o produto conquistou o direito de agir sobre ela.