Tahminlerden Hesap Verebilir Eyleme: Femtech AI’de Belirsizliği Tasarlamak

Kadın sağlığında, doğruluk gerekli olmakla birlikte, ürün güvenliğinin yalnızca ilk katmanıdır. Sistemin bir tahmini ne zaman yeterli güce sahip olduğunu bilmesi ve yeterli güce sahip olmadığını söyleyebilecek şekilde tasarlanması önemlidir.

Çoğu doğurganlık veya döngü izleme uygulamasını açın ve temiz bir sonuç göreceksiniz: ovulasyon 15. günde, yüksek doğurganlık etiketi, %78’lik bir güven skoru. Sayı precisa görünüyor. Altındaki biyoloji öyle değil.

Bir regl tarihi, kullanıcı tarafından gözlemlenen bir şeydir. Ovulasyon, tüketici cihazı tarafından doğrudan ölçülen bir olay değildir. Vücut ısısı, only follicle-stimulating hormon (FSH), LH ve döngü tarihleri gibi vekillerden çıkarılır. Bir semptom girişi, fizyoloji ile algı, hafıza ve kullanıcının onu kaydetme kararı arasında bir karışımı içerir. Tüm bunlar “15. gün, %78” gibi bir cümle haline geldiğinde, birkaç farklı türde belirsizlik, sessizce, kendinden emin bir cümle haline gelir.

Kadın sağlığı alanında çalıştığım ürünlerde, zor problem doğruluk değildir. Döndüğüm desen, karar bütünlüğüdür. Doğruluk, bir modelin ne kadar iyi tahmin ettiğini söyler, ancak ürünün bir tahmini ne zaman yeterli güce sahip olduğunu bilip bilmediğini söylemez. Bir alanda, aynı çıktı hem planlama hem de kontraseptif kararı için bilgi verebilir, bu boşluk, güvenin kazanıldığı veya kaybedildiği yerdir.

Bu nedenle, iddiam, femtech AI’nin öncelikle daha iyi bir tahmine ihtiyacı olmadığı, daha iyi bir belirsizlik tasarımı olduğuna dairdir. Ve belirsizlik tasarımı, lansman öncesi eklenen bir açıklama değildir; bir mimaridir. Altı katmana ayırırım, ham girdiden, sistemin haklı çıkarabileceği ve denetleyebileceği bir eyleme bir sinyali taşıyan. Altı katmanlı bir Karar-Alma-İzleme Ürün Yöntemini uygularım, belirsiz sağlık sinyallerinin, izin verilen ve hesap verebilir eylemlere dönüştürülmesini yönetmek için tasarlanmıştır. Yöntem, veri niteliği, çıkarım kalibrasyonu, sonuç eşlemesi, kontrol politikası, iş akışı yürütme ve hesap verebilirlik döngüsünü içerir. Yönetilen yolu, sağlık verilerine başlar, karar mimarisine yol açar ve hesap verebilir eylemle sonuçlanır.

1. Verileri Güvenebileceğinizden Emin Olun

İlk katman, sistemin gerçekten neyi bildiğini kararlaştırır. Femtech ürünleri, çok farklı kaynaklardan veri çeker. Kullanıcı tarafından doğrudan gözlemlenen şeyler, regl tarihleri veya subjektif raporlar gibi ağrı veya ruh hali, giyilebilir özellikler gibi cilt ısısı ve kalp atış hızı değişkenliği ve modelin kendisi tarafından oluşturulan değişkenler içerebilir. Bu girdileri değişmez girdiler olarak işlemek, ilk günahtır.

Her sinyal, sistemin okuyabileceği bir kökeni olmalıdır: nereden geldiği, ne zaman, ne sıklıkla örneklenen, hangi faktörlerin etkilediği ve gerçekten tahmin edilmek istenen şeyle nasıl ilişkili olduğu. Ovulasyon, olaydır. Sıcaklık, servikal mukus, LH ve döngü tarihleri, her biri kendi gecikmesi ve kendi hatasıyla, o olay hakkında kanıtlardır.

Eksik veriler, özellikle sağlık izlemede genellikle rasgele olmadıkları için, özel ilgiyi hak eder. İnsanlar endişe duyduklarında daha fazla günlüğe kaydeder ve iyi hissettiklerinde durdurur, bu nedenle bir boşluk, bir girişin kadar fazla bilgi taşıyabilir. 600.000’den fazla ovulatif döngü içeren bir gerçek dünya analizinde, ovulasyon 1,4 milyon döngünün 665.603’ünde tespit edilemedi. Bu döngülerin üçte ikisi, döngüdeki günlerin yarısında geçerli sıcaklık okumalarına sahip değildi. Veri yeterliliği, algoritmanın ne çıkarabileceği konusunda önemli bir sınırlayıcı faktördü. Bu durumda net bir doğurganlık etiketi veren bir ürün, güven içinde değil, imal edilen bir precisyon içermektedir.

2. Çıkarımı Kanıtlara Göre Kalibre Edin

Tek bir güven skoru, gerçekten neler olduğu hakkında temsil edemez, çünkü bu sistemler, aynı anda birkaç farklı belirsizlik kaynağıyla karşı karşıyadır. Bunlar, biyolojik varyasyon, ölçüm kalitesi, öz-izleme eksikliği, ince eğitim verisi ve model belirsizliğinden kaynaklanan belirsizlikler içerir.

Aynı analizde, döngülerin yalnızca %13’ü tam olarak 28 gün sürmüştür ve ortalama foliküler faz, “14. gün” varsayımı yanıltıcı olacak kadar geniş bir aralıkta 16,9 gün sürmüştür. Apple Kadın Sağlığı Çalışması, döngü uzunluğu ve binnenkişisel varyasyonun yaş, kendini bildirilen etnik köken ve vücut kitle indeksi ile ilişkili olduğunu buldu. Kişiselleştirme, bu nedenle, bir nüfus ortalamasını tek bir kişisel nokta ile değiştirmek anlamına gelmez; bir dağılım üretmek ve kanıtlar birikçe daraltmak anlamına gelir.

İki AI dayalı tahmini düşünün, her ikisi de “%75” okumaktadır. Biri, bir yıl boyunca história ve yoğun ölçümlerden oluşur ve belirsizliği büyük ölçüde gerçek biyolojidir. Diğeri, iki döngü, beş sıcaklık okuması, yakın seyahat ve bilinmeyen ilaçlar içerir. Burada belirsizlik, büyük ölçüde eksik verilerden kaynaklanmaktadır. Aynı sayı, ancak ürünün onlara aynı şekilde tepki vermemelidir. Bu, kalibrasyonun alt gruplar içinde de kontrol edilmesi gerektiğinin nedenidir – toplam performans, özellikle düzensiz döngüler veya perimenopozal kullanıcılar için过confident bir modeli gizleyebilir. Klinik-AI literatürü artık ayrıntılandırır, ayırt eder ve karar faydasını ayrıntılandırır. Bir model, kullanıcıları iyi sıralayabilir, ancak gerçek kararlar için yanlış olasılıklar üretebilir.

3. Yanlış Olmanın Sonucunu Haritalayın

Üçüncü katman, sistemin yanlış olduğunda ne olacağını sorar ve izin verilen yanıtı bu maliyete bağlar. Döngü özeti, doğurganlık penceresi tahmini, düşük doğurganlık etiketi olarak kullanılan kontraseptif rehberlik ve bir semptom yorumu, aynı model arkasında olsa da, aynı ürün değildir.

Çıktıları, sonuçlarına göre dört kategoriye ayırırım: bilgilendirici, davranışsal, üreme ve klinik. Her biri, kendi kanıtlar eşik değerini, izin verilen dilini ve yükseltme yolunu alır. %70’lik bir olasılık, regl başlangıcını tahmin etmek için yeterli olabilir, ancak jemandin gebe kalmaktan kaçınmaya çalıştığı durumlarda yeterli değildir.

Bu, tasarım ve düzenleme arasındaki kesişmedir. Yazılımın tıbbi cihaz alanına girip girmeyeceği, amaçlanan kullanımına ve sağlık kararında çıktısının oynadığı role bağlıdır. FDA’nın güncel Klinik Karar Destek Yazılımı rehberi, hasta ve bakıcılar için tasarlanan fonksiyonların cihaz tanımını karşılayabileceğini belirtmektedir. Düzenleyici konumlandırma, son bir yasal inceleme değildir; eşik değerlerinizde, dilinizde ve ilk günden itibaren yükseltme mantığınızda kodlanmıştır.

4. Belirsizliği Kontrol Politikasına Dönüştürün

Genel bir “sonuçlar yanlış olabilir” ifadesi, tüm yorumlama sorununu kullanıcıya geri verir. Kontrol politikası, bunun tersini yapar. Belirli bir kanıt durumuna göre, sistem bir gözlemi gösterir, sınırlı bir aralık sunar, başka bir ölçüm isteyebilir, bir klinisyene yönlendirebilir veya cevap vermekten kaçınabilir. Kaçınma, bir ürün yetenekleridir, bir başarısızlık değildir. “Henüz emin değiliz” tasarlanmış bir durum olmalıdır ve bir sonraki adımla birlikte sunulmalıdır, hata ekranı değil.

Somut olarak, “Ovulasyon: 15. gün, %78” yerine, yönetilen bir yanıt şuna benzer: ovulasyon, dört günlük bir pencere içinde en olasıdır; güven, eksik sıcaklık verileri ve bozulmuş uyku tarafından sınırlıdır; birkaç daha ölçüm tahmini daraltabilir ve LH testi, olası pencereyi daraltabilir. Kullanıcı, bir tahmini, neden belirsiz olduğunu ve onu değiştirecek tek eylemi alır.

5. Çıktının İmg ettiği Eylemi Destekleyin

Hatta bir tüketici uygulaması, bir iş akışı oluşturur: başka bir ölçüm kaydedin, bir testi tekrarlayın, gözlemlemeye devam edin, verileri dışa aktarın, bir klinisyenle görüşün. Sistem, her yanıtın hangi eylemi ima ettiğini bilmeli ve onu güvenli bir şekilde destekleyip destekleyemeyeceğini bilmelidir.

Ürün rehberliği ile tıbbi tavsiye arasındaki sınır burada yaşar ve sabit bir çizgi değildir. Genel bir sinyal hakkında eğitim içeriği, güvenle rehberlik tarafında yer alır. Ürün, bir kişinin verilerini hastalık olarak yorumladığında, tedaviyi yönlendirdiğinde veya gerçek klinik ağırlığı olan güvence verdiğinde, daha yüksek riskli alana girer. Bu sınır, yalnızca hizmet şartlarında değil, her etkileşimde tutulmalıdır.

6. Hesap Verebilirlik Döngüsünü Kapatın

Son katman, tüm sistemi, yalnızca modeli değil, yargılar. Standart model metrikleri hala önemlidir ve ayrımcılık, kalibrasyon, alt grup performansı, dış ve zaman geçerliliğini odaklar. Ancak ürün düzeyindeki metrikler aynı derecede önemlidir. Sistem ne sıklıkla yeterli girdiye sahip olduğunu, ne sıklıkla kaçındığını sormalıyız. Ayrıca, yanlış güvence oranı, yani ürünün kanıtların iddiasını destekleyemeyeceği halde her şeyin yolunda göründüğünü ne sıklıkla söylediğini bilmeliyiz.

Her önemli yanıt, sonradan yeniden yapılandırılabilir olmalıdır. Düzenleyiciler, standartlar kuruluşları ve küresel sağlık yönetim kurumları, giderek artan bir şekilde, ürün yaşam döngüsü görüşünü benimsemektedir. IMDRF’nin iyi makine öğrenimi uygulaması ilkeleri, güvenilir tıbbi AI’yi, tasarım, dağıtım ve izleme dahil olmak üzere toplam bir yaşam döngüsü sorumluluğu olarak ele alır, WHO’nun sağlık için AI rehberini yankılar.

Uygulamada Mimarinin Görunümü

Bir ürün, üç aylık regl tarihleri, altı gece sıcaklık, bir pozitif LH testi, dağınık semptom girişleri ve bir hafta kötü uyku verisi varsa, modelin en yüksek ovulasyon olasılığı 15. güne düşer. Bir nokta tahmini uygulaması “Ovulasyon: 15. gün, %78” gösterir.

Mimari, bunun yerine, sıcaklık verilerini seyrek ve uykuyla karıştırılmış olarak işaretler. Bir dağılım üretir, tek bir gün yerine birkaç aday gün üzerinde. Döngü farkındalığı için yumuşak bir eşik, ancak gebelik önlemeyle ilgili olduğunda daha katı bir eşik uygular. Bir aralık ve sonraki yararlı ölçümü sunar. Ve tüm kanıtlarını, kararın daha sonra yeniden yapılandırılabilmesi için depolar. Aynı altta yatan model ve çok farklı bir ürün.

Hesap Verebilir Eylem Hakkı

Femtech sistemleri, uygulamalar, giyilebilir cihazlar, ev testleri, tıbbi kayıtlar ve konuşma katmanlarıyla birlikte daha veri zenginleşmektedir. Daha fazla veri, çıkarımı keskinleştirebilir, ancak aynı zamanda yanlış precisyon için yüzeyi genişletir. Güven kazanan ekipler, en temiz güven skoruna sahip olanlar olmayacaklar. Onlar, ürünlerinin neyi bilmediğini bilen ve bilmediklerini söyleyebilecek şekilde tasarlanmış olanlar olacaklar.

Doğruluk, bir tahminin kalitesini tanımlar. Karar bütünlüğü, ürünün tahmine dayanarak hareket etme hakkını kazanmış olup olmadığını belirler.