Retinal Damarlar Irkı Açıklar, AI Irk Önyargısı Kapsamını Genişletir

Tıbbi AI görüntüleme algoritmalarının ırkı açıklayabileceği konusunda recent açıklamalardan esinlenen bir araştırma konsorsiyumu, ABD ve İngiltere’de retinal damar modellerinin ırkla ilgili olup olmadığını araştırdı ve bu durumun gerçekten böyle olduğunu, AI’nin ebeveynlerin bildirdiği ırkı retinal görüntülerden tahmin edebileceğini kếtürettirdi – bir insan doktorunun bunları incelemesi halinde ırksal kimliği açıklamayacak ve daha önce ırksal açıklama potansiyeli içermediği düşünülen görüntüler.

Grup, tıbbi görüntüleme中的 bu ek ırksal stratifikasyon vektörünün, yapay zeka sistemlerinin sağlık hizmetlerinde kullanımında artan önyargı olasılığına yol açabileceği konusunda endişe dile getirdi.

Bir siyah ve bir beyaz konuştan retinal görüntüleri. Üstte, her ırktan bir full-color Retinal Fundus Image, renk dağılımına ilişkin ırksal ayırt edici özelliklere zaten sahiptir. Altta, bu görüntülerden türetilen Retinal Damar Haritaları, bu ırksal anchor-marks’ı ‘düzleştirmesi’ gerekenler, ancak yeni rapora göre gerçekten ırksal tanımlayıcı özelliklere sahiptir. Kaynak: https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf

Yazarlar ayrıca, U-Net adlı makine öğrenimi çerçevesinin, bu sektördeki AI tabanlı sağlık hizmetlerini tanımlayan ve çoğunlukla beyaz konularda* eğitilen, bu gözlemlenen olgunun etkisine sahip olabileceğini belirtirler. Ancak yazarlar, henüz bu bulguları U-Net hipotezi alone temelinde tam olarak açıklamaktan ‘aciz’ olduklarını iddia ederler.

Projenin ilgili GitHub deposunda yapılan yorumda, yazarlar şöyle diyor:

‘AI, ırksal bilgi içermediği düşünülen grayscale RVM’lerden [Retinal Damar Haritaları] ırkı tespit edebilir [Retinal Damar Haritaları] İki olası açıklama bu bulgular için vardır: retinal damarlar siyah ve beyaz bebekler arasında fizyolojik olarak farklılık gösterir veya U-Net retinal vasküler farklı fundus pigmentasyonları için farklı bir şekilde segmentler.

‘…Her durumda, sonuçlar aynı kalır: AI algoritmaları, önleyici girişimlerin bu bilgileri temel görüntülerden çıkarmak için başarılı olmasına rağmen, uygulamada ırksal önyargı gösterebilir.’

Makale, Renk Körü Olmayan: AI Siyah ve Beyaz Retinal Damar Segmentasyonlarından Irksal Kimliği Tahmin Ediyor başlığını taşıyor ve ABD’deki beş kurum ve araştırma bölümü ile İngiltere’deki bir kurum arasındaki eşit bir işbirliği sonucu ortaya çıktı.

Araştırmaya katılan tıp doktorları arasında R.V. Paul Chan, MD, MSc, FACS, göz hastalıkları uzmanı ve Amerikan Cerrahlar Koleji üyesi; Michael F. Chiang, M.D., Ulusal Göz Enstitüsü Direktörü, Ulusal Sağlık Enstitüleri, Bethesda, Maryland; ve J. Peter Campbell M.D., M.P.H., Göz Hastalıkları Anabilim Dalı Başkanı, Oregon Sağlık ve Bilim Üniversitesi Tıp Fakültesi, Portland.

Gözler Onu Söyler

Makale, insan kökenli önyargının AI tıbbi sistemlerine yayılma potansiyelinin daha önce kanıtlandığını, özellikle gözler* çalışmasında belirtildi.
Retinal Fundus Images (RFI’ler, yukarıdaki görüntü karşılaştırmasına bakınız), göz hastalıklarının değerlendirilmesinde kullanılan full-color görüntülerdir ve ırkı tanımlamak için yeterli pigmentasyon bilgisine sahiptir.

Gri tonlamalı Retina Damar Haritaları (RVM’ler), altta yatan kapillerlerin desenini çıkarmak için bu bilgilerin çoğunu atar. Bu düzeyde distilasyonla, bu tür redüktif tıbbi görüntülerde artık ırksal özellikler kalmadığı her zaman varsayılmıştır.

Yazarlar, bu varsayımı, potansiyel olarak körlüğe neden olan bir hastalık için tarama yapılan bebeklerden alınan RFİ’ler (full-color retinal görüntüleri) veri seti kullanarak test etti. Yazarlar, bu tür görüntülerin taramalarının, tele-tıp ve diğer uzaktan teşhis bağlamlarında giderek daha fazla yer aldığını ve makine öğrenimi analizi konusunun giderek daha fazla ele alındığını belirtiyorlar.

Yeni çalışma, çeşitli türdeki indirgeyici full-color görüntülerin, ebeveynlerin bildirdiği ırksal bilgiyi içerip içermediğini araştırıyor ve hatta en çok bilgiyi yok eden RFİ’lerin (eşiklendirilmiş, iskeletleştirilmiş ve ikilileştirilmiş) bazı düzeyde ırksal tanımlamaya izin verdiğini buldu.

Veri ve Yöntem

Ocak 2012 ile Temmuz 2020 arasında toplanan 245 bebek verisi, doğal ırksal dağılımı korumak için 50/20/30 oranında eğitim, doğrulama ve test veri setlerine ayrıldı.

Renkli RFİ’ler, ‘açık’ ırksal işaretlerin teknik olarak veri setinden çıkarılması için üç yukarıda belirtilen indirgeyici görüntüleme stillerine indirgendi.

Birden fazla Konvolüsyonel Sinir Ağı (CNN), PyTorch kullanarak ebeveynlerin bildirdiği ırka dayalı ikili sınıflandırma (‘siyah’/’beyaz’) için eğitildi. CNN’ler, görüntülerin tüm sürümlerini, RFİ’lerden skeletleştirilmiş sürümlere kadar çalıştırdı, genellikle rastgele çevirme ve döndürme uyguladı ve türetilen görüntülerin 224×244 piksel çözünürlüğe sahip olmasını sağladı.

Modeller, erken durdurma uygulandı ve eğitim, beş epoch (yani modelin daha fazla eğitimle daha doğru hale gelmeyeceği) sonra durduruldu, sabit öğrenme oranı 0,001 ile stokastik gradient iniş yöntemiyle en fazla on epoch için eğitildi.

Beyaz ve siyah konular arasında doğal bir demografik dengesizlik olması nedeniyle, azınlık kaynaklarının sistematik olarak dışlanmamasını sağlamak için telafi uygulandı ve sonuçlar, deneyler boyunca veri sızıntısı olmadığından emin olmak için çapraz olarak kontrol edildi.

Çalışmada çeşitli eşik tolerans düzeylerinde retinal haritaların örnekleri.

Sonuçlar

RVM’ler, full-color RFI görüntülerinden damarları ve kapillerleri çıkaran, teorik olarak bir CNN tarafından ırksal olarak ayırt edilemeyecekler. Ancak sonuçlar, U-Net’in beyaz gözler için siyah gözlerden daha fazla büyük atar damar segmentlediğini gösterdi.

Araştırmacılar, sonuç yorumlarında, ‘AI’nin retinal damar segmentasyonlarından bebeklerin ırksal kimliğini kolayca tahmin edebildiğini bulduk, bu segmentasyonlar hiçbir pigmentasyon bilgisi içermez‘ diyor ve ‘çiplak gözle görünen hiçbir bilginin olmadığı görüntüler bile orijinal bebeğin ırksal kimliğini tahmin eden bilgiyi korur‘ diyorlar. Araştırmacılar, ayrıca siyah ve beyaz bebeklerin retinal damarlarının ‘AI’nin takdir edebileceği, ancak insanların takdir edemediği bir şekilde farklılık gösterdiği‘ olasılığını sunuyorlar.

Önceki Önyargı?

Yazarlar, ayrıca bu ayrımcılığın, U-Net’in orijinal olarak beyaz baskın verilerle eğitilmesi nedeniyle olabileceğini öne sürüyorlar. Bu, yazarların ‘öncelikli teori’si olarak tanımladıkları bir şey, ancak aynı zamanda bu olgunun, retinal görüntüleme uygulamalarının teknik yönleri veya U-Net’te veri önyargısı nedeniyle kendiliğinden oluşan bir olgu olabileceğini de kabul ediyorlar. Bu olasılıkları ele alırken, makale şunları kabul ediyor:

‘Ancak U-Net, önce gri tonlamaya dönüştürülen ve kontrast ayarlaması yapılan RFİ’ler üzerinde eğitildi – özellikle kontrast sınırlı histogram eşitlemesi (CLAHE) – ve bu nedenle asla gerçek renkli RFİ’ler üzerinde eğitilmedi. Dolayısıyla, U-Net hipotezi alone temelinde bu bulguları tam olarak açıklamaktan aciziz.’

Ancak yazarlar, nedenin, ırkı tespit etme yeteneğinin – AI algoritmalarının bunları girdi olarak kullandığında tıbbi AI algoritmalarında önyargı riski taşıdığı anlamına gelen – daha az alarm verici olduğunu iddia ediyorlar.

Yazarlar, çalışmada incelinen ırkların yüksek kontrast doğasını belirtiyorlar ve ‘ara’ ırksal grupların benzer yöntemlerle tespit edilmesinin daha zor olabileceğini öne sürüyorlar ve bu konuyu devam eden ve ilgili çalışmalarında incelemeyi amaçladıklarını belirtiyorlar.

* Makale tarafından sağlanan tüm bağlantılar, sınırlı erişimli PaperPile bağlantılarından, mümkün olduğunca kamu tarafından erişilebilen çevrimiçi sürümlere dönüştürülmüştür.