Onlarca Yıllık Anonimleştirilmiş Medikal Veriler Şimdi AI Yanlış Tanılarına Neden Olabilir

Almanya ve Birleşik Krallık arasındaki yeni bir araştırma iş birliğine göre, on yıllar önce bile medikal veri setlerine dahil edilen anonimleştirilmiş hasta kayıtları, bu verilerle eğitilen AI sistemlerinin yıllar sonra gerçek hastanın özelliklerini tanımasına ve 2026 hastasını sanki hâlâ 2012 (veya anonimleştirilmiş hasta verilerinin veri setine ilk eklendiği yıl) gibi tedavi etmesine neden olabilir.

Bu, örneğin, 20 yıl önce kanser tedavisi gördüğü kaydedilen ve sonrasında uzun vadeli remisyona giren bir hastanın, AI sistemi tarafından eski, kanserli hali bağlamında tedavi edilmesi anlamına gelebilir – mantıken, tekrarlayan bir kanserin yanlış tanı olasılığını bile artırabilir.

Tersine, eğer 2012 versiyonundaki hastanın verileri rutin kontrollerde mükemmel sağlığı yansıtıyorsa, bu iyimser bakış açısı daha eski, mevcut versiyonuna uygulanabilir ve tedavi gerektirebilecek yeni durumların veya sorunların tespitini maskeleyebilir.

Yeni makaleden, ezberleme yanlılığının geri dönen bir hastayı nasıl etkileyebileceğine dair bir örnek. Alice’in önceki sağlıklı EKG’leriyle eğitilen bir model, sonraki kalp krizi için sadece %15 olasılık verirken, tarihsel kayıtlarını hiç görmemiş bir model %73 olasılık verir. Kaynak

‘Veri Göçü’nü’ Sınırlama

Bu senaryo, çeşitli ulusal ve bölgesel yönergelerin, bu amaçlar için hasta verilerinin ideal olarak sistemlerin kullanılacağı ülkeden alınmasını önererek, veri setlerindeki hasta havuzunu ‘yerelleştir’ ve bu tür tespit edilemeyen anonimleştirme kaldırma olayının gerçekleşme olasılığını önemli ölçüde artırmasıyla daha olası hale gelmektedir.

Sonuç olarak, verinin yalnızca ulusal bir veri setiyle sınırlanması, modelin aynı veriyi eğitim sırasında defalarca görerek bu aşırı öğrenilmiş kalıplara ‘takılı’ kalma olasılığı olan ezberleme ihtimalini artırır. Tersine, veri seti ne kadar büyük ve çeşitli olursa, eğitim sonrası görülmemiş verilere genelleme yapma olasılığı o kadar artar; belirli veri noktalarını ya da yapılandırmaları ezberlemek yerine.

Ancak, ‘yabancı’ medikal verilerin eklenmesi, eğitilen modelin kullanılacağı ülkede geçerli olmayan ulusal sağlık eğilimleri ve özgünlüklerin kanıtlarını ortaya çıkarma riskini taşır; bu bağlamda, yeni makale kabul ettiği gibi, belirli bir miktarda ezberleme uygun ve faydalıdır, çünkü modelin belirli bir popülasyonun en muhtemel genel medikal özellikleri içinde çalışmasına yardımcı olur.

Makale şu şekilde belirtiyor*:

‘[When] modelleri prospektif olarak dağıtıldığında, ezberleme belirli ve yeterince takdir edilmeyen bir risk yaratır. Bir hastanın kayıtları zaman içinde yüksek derecede benzer olduğundan, gelecekteki bir kayıt ezberlenmiş tarihsel kayda kısmi bir ipucu olarak işlev görebilir ve modelin tahminlerini hastanın önceki sağlık durumuna kaydırabilir.

Bu bir varsayımsal senaryo değildir. Medikal AI modelleri, eğitim verilerinin alındığı aynı popülasyona rutin olarak dağıtılmaktadır.

‘Örneğin, Almanya’nın ulusal meme kanseri tarama programı kullanıyor aynı tarama popülasyonundan alınan 1,2 milyon mamografiyle eğitilmiş bir AI modelini.

‘Benzer dağıtım başka yerlerde de sürüyor, ulusal meme kanseri tarama programları Birleşik Krallık’ta ve İsveç.

‘Regülasyon rehberliği bunu aktif olarak teşvik ediyor, EU AI Act  kullanım amacının coğrafi ve bağlamsal ortamını yansıtacak şekilde eğitim verilerinin olması gerektiğini (Madde 10(4)) şart koşarken, medikal AI geliştirme için benzer uluslararası yönergeler hedeflenen hasta popülasyonunun modelin eğitim veri setinde yeterince temsil edilmesini talep ediyor.’

Kalıcı Tarihsel Felaket..?

Makale bu konuyu ele almasa da, yaşamları boyunca düzenli tıbbi kontrollerine katılmayan (veya katılmayan) hastaların ve anonimleştirilmiş kayıtları periyodik olarak AI veri akışına girenlerin, anonimleştirilmiş hasta verilerinde neredeyse sadece tedaviye ihtiyaç duydukları zamanlarda ortaya çıkma olasılıkları yüksek gibi görünüyor – bu da kayıtların ‘iyi sağlık’ dengeleyicisi olmadığı için, uzun süredir iyileşmiş bir durumu aynı hastaya şimdi ‘projeksiyon’ etme şansını artırabilir.

Bu, elektronik sağlık kayıtlarındaki önceki araştırma ile ‘informed presence bias’ üzerine yapılan çalışmalarda da görülmektedir; tıbbi veri setlerinin hastaların hasta olduğu ve sağlık hizmetleriyle etkileşimde bulunduğu dönemleri orantısız bir şekilde temsil ettiğini ortaya koymaktadır.

Bir çalışma buldu ki, şiddetli hastalığı olan hastalar, en sağlıklı hastalara göre laboratuvar verileriyle geçirilen gün sayısında 5,05 kat, ilaç siparişleriyle geçirilen gün sayısında ise 6,85 kat daha fazlaydı.

2022’de, ABD yetişkinlerinin yaklaşık %76’sı rapor etti ki, geçen yıl içinde rutin bir kontrol yaptırmışlar; CDC tarafından bu, belirli bir durumun tedavisi yerine genel bir fiziksel muayene olarak tanımlanıyor; ve Avrupa’da, 2023 çok‑ülkeli bir ankette bulundu ki, %58’i en az bir önleyici kontrol yaptırmış; ancak yalnızca %15’i kendileri için ilgili tüm önleyici randevulara katılmış.

Etkinin Kapsamı

Araştırma, ECG kayıtları, göğüs röntgenleri ve elektronik sağlık kayıtlarını kapsayan dört büyük tıbbi veri seti üzerinde etkileri test etti; özellikle MIMIC-CXR göğüs röntgeni veri tabanı ve MIMIC-IV-ED acil bakım kayıtları, MIMIC-ECG ve çok daha büyük HEEDB ECG koleksiyonu. Veri setlerinin boyutu on binlerce hastadan 1,8 milyondan fazla kişiye kadar değişiyordu.

Yazarlar, hesaplanan etkinin önemli ölçüde değişebildiğini, bazı durumlarda tahmin edilen olasılıkta %70’ten fazla puanlık değişiklikler olduğunu belirtiyor:

Geçmiş hasta verilerinin daha sonraki tahminleri nasıl değiştirdiğini gösteren sonuçlar. Üst paneller, bu değişikliklerin sıklığını ve büyüklüğünü dört veri seti arasında karşılaştırıyor; alt paneller ise etkinin, hastanın son eğitim kaydından bu yana geçen zamanla nasıl değiştiğini gösteriyor. Önemli etkiler zamanla daha az yaygın hale geliyor, ancak on yıllar sonra bile tespit edilebilir durumda.

Kontrol olarak, araştırmacılar modelleri rastgele gruplara ayırıp karşılaştırmayı tekrarladılar; ancak bu, gelecekteki tahminlerde anlamlı bir değişiklik üretmedi.

Makalenin belirttiği gibi, etkinin on yıllar boyunca da sürebileceği belirtiliyor. Kayıtlar arasındaki aralık arttıkça genellikle daha zayıf ve daha az yaygın hale gelse de, 1980’lerden 2025’e kadar toplanan ECG’leri içeren HEEDB veri seti, hastanın en son eğitim kaydından 25 yıldan fazla sonra tahminlerde anlamlı değişiklikler gösterdi.

Tanısal Zarar

Yeni makalenin araştırmacıları – başlığı Medikal AI’da Ezberleme Önyargısı – daha sonra hastalar daha önceki kayıtlarıyla eğitilmiş bir modelle karşılaştıklarında ezberlemenin tanısal doğruluğu nasıl etkileyebileceğini simüle etti.

Gelecek vakalar, hastanın yeni bir durum geliştirmiş olup olmadığına göre; tarihsel eğitim verilerinde bulunmayan; ya da esasen aynı sağlık durumuyla geri dönen hastalar olarak bölündü.

Yeni durumlar için, etki tutarlı bir şekilde olumsuz çıktı; hastanın tarihsel kayıtlarını daha önce görmüş modeller, dört veri setinde temsil edilen bir dizi tanıda daha düşük duyarlılık sergiledi. Bu, infarktlar ve diğer ECG anormallikleri; akciğer hastalıkları; ve daha geniş kritik sonuçları içeriyordu.

Pratikte, hastanın sağlığı değiştiğinde modeller daha fazla yanlış negatif üretti; ancak hastanın sağlığı değişmediğinde, modelin önceki kayıtlarını hatırlaması doğru tanıyı üretme olasılığını artırdı. Hem duyarlılık hem de özgüllük arttı çünkü hastanın mevcut durumu eğitim verilerinde zaten temsil edilen durumla benzerdi.

Yazarlar, bu durumun sistemlerin doğru bir şekilde değerlendirilmesini zorlaştırabileceğini belirtiyor: çoğu geri dönen hastanın hâlâ aynı durumları taşıması durumunda model bu hastalarda daha iyi performans gösterir ve yeni durum geliştiren hastalarda daha düşük duyarlılığını gizleyebilir.

Çözümler

Olası bir güvenlik önlemi olarak, araştırmacılar eğitim sırasında farklılaştırılmış gizlilik‘i (bir modelin herhangi bir bireysel eğitim örneği hakkında ne kadar bilgi tutabileceğini sınırlayan) test etti.

Bireysel kayıtları korumak ezberleme etkisini azalttı, ancak en güçlü ayarda bile tamamen ortadan kaldırmadı. Korumanın aynı kişiye ait tüm kayıtları kapsayan hasta seviyesinde uygulanması çok daha etkili oldu ve etkileri neredeyse tamamen ortadan kaldırdı.

Bununla birlikte, bir veri seti geri dönüşü olmayan bir şekilde anonimleştirilmişse, hastanın verileri bu yöntemlerin uygulanabileceği şekilde sınırlanamaz; ve araştırmacılar, veri seti farklılaştırılmış gizlilik etkin olmadan eğitilmişse, üyelik çıkarım saldırıları bir risk haline gelir; etkinleştirildiğinde ise eğitim için gereken kaynaklar belirgin şekilde artar.

Sonuç

Yazarlar, şu anda endişe verici olayların nispeten düşük bir oranda gerçekleştiğini, ancak gelecekte bu durumun değişebileceğini gözlemleyerek sonlandırıyor*:

‘Gelecekte, hafızalama yanlılığına bağlı kaçırılan tanı sayısının artacağını beklemek için bir neden vardır, ancak bunu doğrudan test etmiyoruz. Önceki araştırmalar, bir modelin ezberlediği eğitim verisi oranının model kapasitesiyle arttığını göstermiştir [6, 7, 9, 10, 40].’

‘Bu endişe verici, çünkü mevcut AI model geliştirme “ölçekleme yasaları” [41] tarafından yönlendirilmekte ve bu yasalar, geliştirilmiş performans peşinde model ve veri seti boyutlarında hızlı bir büyümeyi tetiklemektedir. ‘

‘Daha büyük AI modelleri, giderek daha büyük hasta popülasyonlarından elde edilen tarihsel verilerle eğitildikçe, hafızalama yanlılığından etkilenen bireylerin mutlak sayısının önemli ölçüde artması muhtemeldir ve burada belirttiğimiz riskleri daha da şiddetlendirir.’

* Yazarların satır içi atıflarını hiperlinklere dönüştürmem, tam bir kopyalamanın mümkün veya faydalı olmadığı durumlarda bazı yorumlamalar içerir.

İlk yayınlanma Cuma, 18 Eylül 2026