Onlarca Yıllık Anonimleştirilmiş Tıbbi Veriler Şimdi AI Yanlış Tanılarına Neden Olabilir

Almanya ve Birleşik Krallık arasında yeni bir araştırma iş birliğine göre, onlarca yıl önce bile tıbbi veri setlerine dahil edilen anonimleştirilmiş hasta kayıtları, bu verilerle eğitilen AI sistemlerinin yıllar sonra gerçek hastanın özelliklerini tanımasına ve 2026 hastasını 2012’deymiş gibi (veya anonimleştirilmiş hasta verilerinin veri setine ilk kez eklendiği yıl) tedavi etmesine neden olabilir.

Bu, örneğin, 20 yıl önce kanser tedavisi gördüğü kaydedilen ve sonrasında uzun vadeli remisyonda olan bir hastanın, AI sistemi tarafından eski, kanserli hali bağlamında tedavi edilebileceği anlamına gelebilir – mantıken tekrarlayan bir kanserin yanlış tanı olasılığını bile artırır.

Tersine, eğer o hastanın 2012 versiyonu rutin kontrollerde mükemmel sağlığı yansıtıyorsa, bu iyimser bakış açısı hastanın daha eski, mevcut versiyonuna uygulanabilir, yeni durumların veya tedavi gerektiren sorunların tespitini gizleyebilir.

Yeni makaleden, hatırlama yanlılığının geri dönen bir hastayı nasıl etkileyebileceğine dair bir örnek. Alice’in önceki sağlıklı EKG’leriyle eğitilmiş bir model, sonraki kalp krizi için sadece %15 olasılık verirken, tarihsel kayıtlarını hiç görmemiş bir model %73 olasılık verir. Kaynak

‘Veri Göçünü’ Sınırlamak

Bu senaryo, çeşitli ulusal ve bölgesel yönergelerle, bu amaçlar için hasta verilerinin ideal olarak sistemlerin kullanılacağı ülkeden alınmasını önererek daha olası hâle gelmektedir; bu, veri setlerindeki hasta havuzunu ‘yerelleştirir’ ve bu tür tespit edilemeyen kimlik kaldırma olayının gerçekleşme ihtimalini önemli ölçüde artırır.

Sonuç olarak, verilerin yalnızca ulusal bir veri setiyle sınırlanması hatırlama olasılığını artırır – modelin aynı veriyi eğitim sırasında o kadar çok görmesi ki bu aşırı öğrenilmiş kalıplara ‘takılı’ kalması ihtimali. Tersine, veri seti ne kadar büyük ve çeşitli olursa, modelin eğitim sonrası genelleme yapma ihtimali o kadar artar, belirli veri noktalarını veya yapılandırmaları ezberlemek yerine.

Bununla birlikte, ‘yabancı’ tıbbi verilerin eklenmesi, eğitilen modelin kullanılacağı ülkede geçerli olmayabilecek ulusal sağlık eğilimleri ve özgünlüklerin kanıtlarını getirme riski taşır; bu bağlamda, yeni makale kabul ettiği gibi, belirli bir düzeyde hatırlama uygun ve faydalıdır, çünkü modelin belirli bir popülasyonun en olası genel tıbbi özellikleri içinde çalışmasına yardımcı olur.

Makale şu şekilde belirtiyor*:

‘[When] modelleri prospektif olarak dağıtıldığında, hatırlama belirli ve yeterince takdir edilmeyen bir risk yaratır. Çünkü bir hastanın kayıtları zaman içinde yüksek derecede benzer olduğundan, gelecekteki bir kayıt hatırlanan tarihsel kayda kısmi bir ipucu olarak işlev görebilir ve modelin tahminlerini hastanın önceki sağlık durumuna kaydırır.

Bu sadece varsayımsal bir senaryo değildir. Medikal AI modelleri, eğitim verilerinin alındığı aynı popülasyona rutin olarak uygulanmaktadır.

‘Örneğin, Almanya’nın ulusal meme kanseri tarama programı kullanıyor aynı tarama popülasyonundan alınan 1,2 milyon mamogramla eğitilmiş bir AI modelini.

‘Benzer dağıtım başka yerlerde de yürütülüyor, ulusal meme kanseri tarama programları Birleşik Krallık’ta ve İsveç’te.

‘Regülatif rehberlik bunu aktif olarak teşvik ediyor; EU AI Act eğitim verilerinin amaçlanan kullanımın coğrafi ve bağlamsal ortamını yansıtmasını (Madde 10(4)) şart koşarken, medikal AI geliştirme için benzer uluslararası yönergeler modelin eğitim veri setinde hedef hasta popülasyonunun yeterince temsil edilmesini talep ediyor.’

Sürekli Tarihsel Felaket..?

Makale konuyu ele almasa da, istatistiksel olarak mantıklı görünmektedir; hayatları boyunca düzenli tıbbi kontrollerine katılmayan ve anonimleştirilmiş kayıtları periyodik olarak AI veri akışına giren hastaların, anonimleştirilmiş hasta verilerinde neredeyse yalnızca tedaviye ihtiyaç duydukları zamanlarda ortaya çıkma olasılığı yüksektir – bu da aynı hastaya uzun süredir iyileşmiş bir durumun ‘yansıtılma’ şansını artırır, çünkü kayıtların ‘iyi sağlık’ karşıtlığı yoktur.

Bu, elektronik sağlık kayıtlarındaki ‘bilgilendirilmiş varlık yanlılığı’ üzerine yapılan önceki araştırmalar ile ortaya konulmuştur; tıbbi veri setlerinin hastaların hasta olduğu ve sağlık hizmetleriyle etkileşimde bulunduğu dönemleri orantısız bir şekilde temsil ettiğini göstermektedir.

Bir çalışma buldu ki ağır hastalıklı hastalar, en sağlıklı hastalara göre laboratuvar verisi bulunan gün sayısında 5,05 kat, ilaç siparişi bulunan gün sayısında ise 6,85 kat daha fazlaydı.

2022 yılında, ABD yetişkinlerinin yaklaşık %76’sı rutin bir kontrol muayenesine geçtiğini, CDC tarafından genel bir fiziksel muayene olarak tanımlanan ve belirli bir durumun tedavisi yerine geçen bir kontrol olduğunu bildirdi; Avrupa’da ise 2023 çok‑ülkeli bir anket buldu ki %58’i en az bir önleyici kontrol muayenesine katılmış, ancak yalnızca %15’i kendileri için ilgili olduğu düşünülen tüm önleyici randevulara katılmıştır.

Etkinin Kapsamı

Araştırma, ECG kayıtları, göğüs röntgenleri ve elektronik sağlık kayıtlarını kapsayan dört büyük tıbbi veri kümesinde etkileri test etti; özellikle MIMIC-CXR göğüs röntgeni veri tabanı ve MIMIC-IV-ED acil bakım kayıtları, ayrıca MIMIC-ECG ve çok daha büyük HEEDB ECG koleksiyonu. Veri kümeleri, on binlerce hastadan 1,8 milyondan fazla kişiye kadar değişen boyutlardaydı.

Yazarlar, hesaplanan etkinin önemli ölçüde değişebildiğini, bazı durumlarda tahmin edilen olasılıkta %70’ten fazla puanlık değişiklikler görüldüğünü belirtiyor:

Geçmiş hasta verilerinin daha sonraki tahminleri nasıl değiştirdiğini gösteren sonuçlar. Üst paneller, bu değişikliklerin sıklığını ve büyüklüğünü dört veri kümesi arasında karşılaştırırken; alt paneller, etkinin hastanın son eğitim kaydından bu yana geçen zamana göre nasıl değiştiğini gösterir. Önemli etkiler zamanla daha az görülür, ancak on yıllar sonra bile tespit edilebilir.

Kontrol olarak, araştırmacılar modelleri rastgele gruplara ayırdı ve karşılaştırmayı tekrarladı, ancak bu gelecekteki tahminlerde anlamlı bir değişiklik üretmedi.

Makalenin belirttiği gibi, etki on yıllar boyunca da sürebilir. Kayıtlar arasındaki aralık arttıkça genellikle zayıflasa ve daha az yaygınlaşsa da, 1980’lerden 2025’e kadar toplanan ECG’leri içeren HEEDB veri kümesi, hastanın en son eğitim kaydından 25 yıldan fazla sonra tahminlerde anlamlı değişiklikler gösterdi.

Tanısal Zararlılık

Yeni makalenin araştırmacıları – başlığı Medikal AI’da Ezberleme Önyargısı – daha sonra hastalar daha önceki kayıtlarıyla eğitilmiş bir modelle karşılaştıklarında ezberlemenin tanısal doğruluk üzerindeki etkisini simüle etti.

Gelecek vakalar, hastanın yeni bir durum geliştirmiş olup olmadığına göre; tarihsel eğitim verilerinde bulunmayan; ya da esasen aynı sağlık durumuyla geri dönen hastalar olarak bölündü.

Yeni durumlar için, etki tutarlı bir şekilde olumsuz çıktı; hastanın tarihsel kayıtlarını daha önce görmüş modeller, dört veri kümesinde temsil edilen bir dizi tanıda daha düşük duyarlılık sergiledi. Bu, infarktlar ve diğer ECG anormallikleri; akciğer hastalıkları; ve daha geniş kritik sonuçları içeriyordu.

Pratikte, hastanın sağlığı değiştiğinde modeller daha fazla yanlış negatif üretti; ancak hastanın sağlığı değişmediğinde, modelin önceki kayıtlarını hatırlaması doğru tanıyı üretme olasılığını artırdı. Hem duyarlılık hem de özgüllük arttı çünkü hastanın mevcut durumu, eğitim verilerinde zaten temsil edilen durumla benziyordu.

Yazarlar, bu durumun sistemlerin doğru bir şekilde değerlendirilmesini zorlaştırabileceğini belirtiyor: çoğu geri dönen hastanın hâlâ aynı durumları taşıması durumunda model onlarda daha iyi performans gösterir ve yeni durum geliştiren hastalarda daha düşük duyarlılığını gizleyebilir.

Çözümler

Olası bir güvenlik önlemi olarak, araştırmacılar eğitim sırasında diferansiyel gizlilik (bir modelin herhangi bir bireysel eğitim örneği hakkında ne kadar bilgi tutabileceğini sınırlayan bir yöntem) test etti.

Bireysel kayıtları korumak ezberleme etkisini azalttı, ancak en güçlü ayarda bile tamamen ortadan kaldırmadı. Aynı kişiye ait tüm kayıtları kapsayan hasta seviyesinde koruma çok daha etkili oldu ve etkileri neredeyse tamamen yok etti.

Bununla birlikte, bir veri kümesi geri dönülmez şekilde anonimleştirilmişse, hastanın verileri bu yöntemlerin uygulanabileceği şekilde izole edilemez; ve araştırmacılar, veri kümesi diferansiyel gizlilik etkin olmadan eğitilmişse, üyelik çıkarım saldırıları bir risk haline gelir; etkinleştirildiğinde ise eğitim için gereken kaynaklar belirgin şekilde artar.

Sonuç

Yazarlar, şu anda endişe verici olayların nispeten düşük bir oranda gerçekleştiğini, ancak gelecekte bu durumun değişebileceğini gözlemleyerek sonuca varıyor*:

‘Bellek yanlılığına bağlı kaçırılan tanı sayısının gelecekte artacağını beklemek için bir neden var, ancak bunu doğrudan test etmiyoruz. Önceki araştırmalar, bir modelin ezberlediği eğitim verisi oranının model kapasitesiyle arttığını göstermiştir [6, 7, 9, 10, 40].

‘Bu endişe verici, çünkü mevcut AI model geliştirme “ölçekleme yasaları” [41] tarafından yönlendiriliyor, bu da daha iyi performans peşinde model ve veri seti boyutlarında hızlı bir büyümeyi tetikliyor.

‘Daha büyük AI modelleri, giderek daha büyük hasta popülasyonlarından elde edilen tarihsel verilerle eğitildikçe, bellek yanlılığından etkilenen bireylerin mutlak sayısının büyük ölçüde artması muhtemeldir ve burada belirttiğimiz riskleri daha da şiddetlendirir.’

* Yazarların satır içi atıflarını hiperlinklere dönüştürmem, tam bir kopyalamanın mümkün olmadığı veya yararlı olmadığı durumlarda bazı yorumlamalar içerir.

İlk yayınlanma tarihi Cuma, 18 Eylül 2026. Hiperlink düzeltmesi için 18:17 EET’de revize edildi.