Dari Prediksi ke Tindakan yang Bertanggung Jawab: Merancang Ketidakpastian dalam Femtech AI

Dalam kesehatan wanita, akurasi diperlukan, tetapi itu hanya lapisan pertama keamanan produk. Penting bagi sistem untuk mengetahui kapan prediksi cukup kuat untuk diambil tindakan dan dirancang untuk mengatakan ketika tidak.

Buka sebagian besar aplikasi kesuburan atau pelacakan siklus, dan Anda akan melihat hasil yang bersih: ovulasi pada hari ke-15, label kesuburan tinggi, skor kepercayaan 78%. Angka tersebut terlihat presisi. Biologi di baliknya tidak.

Tanggal periode adalah sesuatu yang diamati oleh pengguna. Ovulasi adalah peristiwa laten yang tidak diukur langsung oleh perangkat konsumen. Ini diperkirakan dari proksi. Suhu kulit mencerminkan tidak hanya progesteron tetapi juga tidur, alkohol, penyakit, kondisi lingkungan, dan di mana sensor duduk pada malam itu. Entri gejala mencampur fisiologi dengan persepsi, memori, dan keputusan pengguna untuk mencatatnya. Ketika semua itu berubah menjadi “Hari ke-15, 78%”, beberapa jenis ketidakpastian yang berbeda telah dikompresi menjadi satu kalimat yang terdengar percaya diri.

Dalam produk yang saya kerjakan di bidang kesehatan wanita, masalah yang sulit bukanlah akurasi. Pola yang saya temukan adalah integritas keputusan. Akurasi mengatakan seberapa baik model memprediksi. Ini tidak mengatakan apakah produk tahu kapan prediksi cukup kuat untuk diambil tindakan. Dalam domain di mana output yang sama dapat memandu perencanaan santai atau keputusan kontrasepsi, celah itu adalah tempat kepercayaan dimenangkan atau hilang.

Jadi argumen saya adalah bahwa femtech AI tidak memerlukan prediksi yang lebih baik. Ini memerlukan desain ketidakpastian yang lebih baik. Dan desain ketidakpastian bukanlah penyangga yang dipasang sebelum peluncuran; itu adalah arsitektur. Saya membangunnya menjadi enam lapisan yang membawa sinyal dari input mentah ke tindakan yang sistem dapat membenarkan dan audit. Saya menerapkan metode Calibrated Decision-to-Action Product yang enam lapis, yang dirancang untuk mengatur bagaimana sinyal kesehatan yang tidak pasti diubah menjadi tindakan yang diizinkan dan dapat dipertanggungjawabkan. Metode ini termasuk kualifikasi data, kalibrasi inferensi, pemetaan konsekuensi, kebijakan kontrol, eksekusi alur kerja, dan loop akuntabilitas. Jalur pemerintahannya dimulai dengan data kesehatan, yang mengarah ke arsitektur keputusan, dan berpuncak pada tindakan yang bertanggung jawab.

1. Kualifikasi Data Sebelum Anda Percaya

Lapisan pertama memutuskan apa yang sistem benar-benar tahu. Produk femtech menarik dari sumber yang sangat berbeda. Ini dapat mencakup hal-hal yang diamati oleh pengguna secara langsung, seperti tanggal periode atau laporan subjektif seperti nyeri atau mood, serta fitur yang dapat dikenakan seperti suhu kulit dan variabilitas denyut jantung, dan variabel yang dihasilkan model itu sendiri. Mengobati sinyal-sinyal ini sebagai input yang dapat dipertukarkan adalah dosa asal.

Setiap sinyal memerlukan provenance yang dapat dibaca oleh sistem: dari mana asalnya, kapan, seberapa sering sampel diambil, apa yang mengganggu, dan bagaimana hubungannya dengan hal yang sebenarnya diprediksi. Ovulasi adalah peristiwa. Suhu, lendir serviks, LH, dan tanggal siklus adalah bukti tentang peristiwa tersebut, masing-masing dengan lag dan kesalahan sendiri.

Data yang hilang memerlukan perhatian khusus karena, dalam pelacakan kesehatan, ini jarang acak. Orang lebih banyak mencatat ketika mereka khawatir dan berhenti ketika mereka merasa baik, sehingga celah dapat membawa informasi sebanyak entri. Dalam analisis dunia nyata dari lebih dari 600.000 siklus ovulasi, ovulasi tidak dapat dideteksi pada 665.603 dari 1,4 juta siklus yang pertama dipertimbangkan. Tiga perempat dari mereka memiliki pembacaan suhu yang valid pada kurang dari setengah hari dalam siklus. Kecukupan data adalah faktor pembatasan utama dalam apa yang dapat diperkirakan oleh algoritma. Produk yang mengeluarkan label kesuburan yang tajam dalam situasi tersebut tidak percaya diri. Ini memproduksi presisi yang tidak dimilikinya.

2. Kalibrasi Inferensi ke Bukti

Skor kepercayaan tunggal tidak dapat mewakili apa yang sebenarnya terjadi, karena sistem ini menghadapi beberapa sumber ketidakpastian yang berbeda sekaligus. Ini termasuk variabilitas biologis dalam proses itu sendiri, kualitas pengukuran, ketidaklengkapan dari pelacakan mandiri, ketidakpastian model dari data pelatihan yang tipis, dan pergeseran distribusi ketika pengguna saat ini tidak menyerupai populasi yang digunakan untuk memvalidasi model.

Dalam analisis yang sama, hanya 13% siklus yang tepat 28 hari, dan fase folikuler rata-rata berjalan 16,9 hari melintasi rentang yang cukup lebar untuk membuat asumsi “hari ke-14” yang tetap menyesatkan. Studi Kesehatan Wanita Apple menemukan bahwa panjang siklus dan variabilitas dalam diri terkait dengan usia, etnis yang dilaporkan sendiri, dan indeks massa tubuh. Personalisasi, maka, tidak bisa berarti menggantikan rata-rata populasi dengan satu titik pribadi. Ini berarti menghasilkan distribusi yang mengencang seiring dengan akumulasi bukti.

Pertimbangkan dua prediksi berbasis AI yang sama-sama membaca “75%”. Satu didasarkan pada sejarah setahun dan pengukuran yang padat, dan ketidakpastiannya sebagian besar disebabkan oleh biologi nyata. Yang lain didasarkan pada dua siklus, lima pembacaan suhu, perjalanan baru-baru ini, dan obat yang tidak diketahui. Di sini, ketidakpastian sebagian besar disebabkan oleh data yang hilang. Angka yang sama. Produk tidak boleh merespons keduanya dengan cara yang sama. Ini juga mengapa kalibrasi harus diperiksa dalam subkelompok — kinerja agregat dapat menyembunyikan model yang terlalu percaya diri, terutama untuk siklus tidak teratur atau pengguna premenopause. Literatur klinis-AI sekarang memisahkan diskriminasi, kalibrasi, dan utilitas keputusan untuk alasan yang tepat. Sebuah model dapat menempatkan pengguna dengan baik dan masih menghasilkan probabilitas yang salah untuk keputusan nyata.

3. Peta Konsekuensi dari Kesalahan

Lapisan ketiga bertanya apa yang terjadi ketika sistem salah, dan mengikat respons yang diizinkan ke biaya tersebut. Ringkasan siklus, perkiraan jendela kesuburan, label kesuburan rendah yang dibaca sebagai bimbingan kontrasepsi, dan interpretasi gejala yang memutuskan apakah seseorang mencari perawatan tidak sama produk, bahkan ketika model di baliknya identik.

Saya mengelompokkan output menjadi empat tingkat berdasarkan konsekuensi: informatif, perilaku, reproduksi, dan klinis. Masing-masing mendapatkan ambang bukti, bahasa yang diizinkan, dan jalur eskalasi sendiri. Probabilitas 70% mungkin cukup untuk menebak kapan periode akan dimulai dan tidak cukup dekat untuk menenangkan seseorang yang mencoba tidak hamil.

Ini adalah tempat di mana desain bertemu dengan regulasi. Apakah perangkat lunak memasuki wilayah perangkat medis bergantung pada penggunaan yang dimaksud dan peran outputnya dalam keputusan kesehatan. Pedoman FDA saat ini untuk Perangkat Lunak Dukungan Keputusan Klinis, diperbarui pada Januari 2026, secara eksplisit menyatakan bahwa fungsi yang dimaksudkan untuk pasien dan pengasuh dapat memenuhi definisi perangkat. Posisi regulasi bukanlah tinjauan hukum di akhir. Ini dikodekan dalam ambang batas Anda, kata-kata Anda, dan logika eskalasi Anda sejak hari pertama.

4. Ubah Ketidakpastian Menjadi Kebijakan Kontrol

Peringatan “hasil mungkin tidak akurat” menyerahkan seluruh masalah interpretasi kembali kepada pengguna. Kebijakan kontrol melakukan sebaliknya. Untuk keadaan bukti yang diberikan, ini memutuskan apakah sistem menunjukkan pengamatan, menawarkan rentang yang terbatas, meminta pengukuran lain, menunjuk ke klinisi, atau menolak untuk menjawab. Pengunduran diri adalah kemampuan produk, bukan kegagalan. “Kami tidak yakin belum” harus menjadi keadaan yang dirancang dengan langkah berikutnya, bukan layar kesalahan.

Secara konkret, bukan “Ovulasi: Hari ke-15, 78%”, arsitektur menghasilkan sesuatu yang lain. Ini menandai data suhu sebagai langka dan terganggu oleh tidur. Ini menghasilkan distribusi melintasi beberapa hari kandidat daripada satu. Ini menerapkan ambang batas yang lembut untuk kesadaran siklus tetapi lebih ketat jika output menyentuh pencegahan kehamilan. Ini menawarkan rentang plus pengukuran berikutnya yang berguna. Dan ini menyimpan seluruh keadaan bukti sehingga keputusan dapat direkonstruksi kemudian. Model dasar yang sama dan produk yang sangat berbeda.

5. Dukung Tindakan yang Diimplikasikan oleh Output

Bahkan aplikasi konsumen menciptakan alur kerja: catat pengukuran lain, ulangi tes, terus mengamati, ekspor data, hubungi klinisi. Sistem harus tahu tindakan mana yang ditunjuk oleh setiap respons dan apakah dapat mendukung tindakan tersebut dengan aman.

Batasan antara bimbingan produk dan saran medis hidup di sini, dan itu tidak tetap. Konten pendidikan yang menjelaskan apa yang umumnya dimaksud dengan sinyal tertentu berada di sisi bimbingan dengan aman. Produk memasuki wilayah risiko yang lebih tinggi saat menafsirkan data seseorang sebagai penyakit, mengarahkan pengobatan, atau menawarkan jaminan yang membawa bobot klinis nyata. Batasan itu harus bertahan pada setiap interaksi, tidak hanya dalam syarat dan ketentuan.

6. Tutup Loop Akuntabilitas

Lapisan terakhir menilai seluruh sistem, tidak hanya model. Metrik model standar masih penting dan fokus pada diskriminasi, kalibrasi, kinerja subkelompok, validasi eksternal dan temporal. Tetapi metrik tingkat produk juga sangat penting. Kami harus bertanya seberapa sering sistem memiliki input yang cukup untuk bertindak, seberapa sering abstain. Plus satu yang saya akan insisten adalah tingkat penipuan palsu, yang berarti seberapa sering mengatakan kepada seseorang bahwa semuanya terlihat baik pada bukti yang tidak dapat mendukung klaim tersebut.

Setiap respons yang konsekuensial harus dapat direkonstruksi setelah itu. Regulator, badan standar, dan lembaga tata kelola kesehatan global semakin mengadopsi pandangan siklus hidup ini. Prinsip-prinsip praktik mesin pembelajaran yang baik dari IMDRF memperlakukan AI medis yang dapat dipercaya sebagai tanggung jawab siklus hidup total yang meliputi desain, penerapan, dan pemantauan, mengulangi pedoman WHO tentang AI untuk kesehatan.

Bagaimana Arsitektur Terlihat dalam Praktik

Katakanlah sebuah produk memiliki tiga bulan tanggal periode, enam malam suhu, satu tes LH positif, sebaran entri gejala, dan seminggu tidur buruk. Probabilitas ovulasi tertinggi model jatuh pada hari ke-15. Aplikasi dengan perkiraan titik menunjukkan “Ovulasi: Hari ke-15, Kepercayaan 78%”.

Arsitektur menghasilkan sesuatu yang lain. Ini menandai data suhu sebagai langka dan terganggu oleh tidur. Ini menghasilkan distribusi melintasi beberapa hari kandidat daripada satu. Ini menerapkan ambang batas yang lembut untuk kesadaran siklus tetapi lebih ketat jika output menyentuh pencegahan kehamilan. Ini menawarkan rentang plus pengukuran berikutnya yang berguna. Dan ini menyimpan seluruh keadaan bukti sehingga keputusan dapat direkonstruksi kemudian. Model dasar yang sama dan produk yang sangat berbeda.

Hak untuk Bertindak

Sistem femtech hanya semakin kaya data, dengan aplikasi, perangkat yang dapat dikenakan, tes rumah, catatan medis, dan lapisan konversasi. Lebih banyak data dapat memperjelas inferensi, tetapi juga melebarkan permukaan untuk presisi palsu. Tim yang memenangkan kepercayaan tidak akan menjadi mereka yang memiliki skor kepercayaan terbersih. Mereka akan menjadi mereka yang produknya tahu apa yang tidak mereka ketahui, dan dirancang untuk mengatakan ketika tidak.

Akurasi menggambarkan kualitas prediksi. Integritas keputusan menentukan apakah produk telah mendapatkan hak untuk bertindak atas dasar itu.