Retinal Damarlar Irkı Açıklar, AI Irk Önyargısı Kapsamını Genişletir

Medikal AI görüntüleme ırkı açıklayabileceği konusunda recent açıklamalardan esinlenen bir araştırma konsorsiyumu, ABD ve İngiltere’de retinal damar kalıplarının ırkla ilgili olup olmadığını araştırdı ve bunun gerçekten böyle olduğunu kếtüledikleri sonucuna vardılar. AI, retinal görüntülerden ebeveynlerin bildirdiği ırkı tahmin edebiliyor – bir insan doktorunun inceleyeceği görüntülerde ırksal kimliği açıklamayan görüntüler ve previously ırksal açıklama potansiyeli içermediği düşünülen görüntüler.

Grup, tıbbi görüntülemede AI sistemlerinin kullanımında artan önyargı olasılığı konusunda endişe dile getirdi.

Bir siyah ve bir beyaz konuyla ilgili retinal görüntüler. Üstte, her ırktan bir full-color Retinal Fundus Image already ırksal özellikler içerir. Altta, bu görüntülerden türetilen Retinal Vessel Maps, bu ırksal özelliklerin ‘dengelendiği’ düşünülür, ancak yeni rapora göre gerçekten ırksal özellikler içerir. Kaynak: https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf

Yazarlar, ayrıca, bu sektörde AI tabanlı sağlık hizmetlerini tanımlayan U-Net makine öğrenimi çerçevesinin, baskın olarak beyaz konular üzerinde eğitilmiş olmasının bu gözlemlenen olguya etkisi olabileceğini belirtiyorlar. Ancak, yazarlar, ‘henüz U-Net hipotezi alone dựaında bu bulguları tam olarak açıklamak için unable olduklarını belirtiyorlar.

Projeyle ilgili GitHub deposunda yapılan açıklamada, yazarlar şunları söylüyorlar:

‘AI, ırksal bilgi içermediği düşünülen grayscale RVM’lerden ırkı tespit edebiliyor’ ‘Bu bulguların iki olası açıklaması var: retinal damarlar siyah ve beyaz bebekler arasında fizyolojik olarak farklı olabilir veya U-Net retinal vasculature’yi farklı fundus pigmentasyonları için farklı şekilde segmente ediyor.’

‘Her iki durumda da sonuç aynı: AI algoritmaları, ırksal önyargı gösterme potansiyeline sahip.’

Makale, Not Color Blind: AI Predicts Racial Identity from Black and White Retinal Vessel Segmentations başlığını taşıyor ve ABD’deki beş kurum ve araştırma bölümü ile İngiltere’deki bir kurum arasındaki eşit bir işbirliği sonucu ortaya çıktı.

Araştırmaya katılan tıp doktorları arasında R.V. Paul Chan, MD, MSc, FACS, göz hastalıkları uzmanı ve Amerikan Cerrahlar Koleji üyesi; Michael F. Chiang, M.D., Bethesda, Maryland’deki Ulusal Sağlık Enstitüleri’ndeki Ulusal Göz Enstitüsü müdürü; ve J. Peter Campbell M.D., M.P.H., Oregon Sağlık ve Bilim Üniversitesi Tıp Fakültesi’nde göz hastalıkları profesörü yer alıyor.

Gözler Her Şeyi Görmektedir

Makale, insan kökenli önyargının AI tıbbi sistemlerine yayılma potansiyelini not ediyor, özellikle de gözler ile ilgili çalışmalarda*. Retinal Fundus Images (RFI’ler, yukarıdaki görüntü karşılaştırmasına bakınız), göz hastalıklarını değerlendirmek için kullanılan full-color görüntülerdir ve ırkı tanımlamak için yeterli pigmentasyon bilgisini içerir.

Greyscale Retina Vessel Maps (RVM’ler), hastalıkları tanımlamak için kullanılan kapillerlerin altındaki deseni çıkarmak için full-color RFI’lerin çoğunu atar. Bu seviyede, bu tür azaltıcı tıbbi görüntülerde ırksal özelliklerin kalmadığı her zaman varsayılır.

Yazarlar, bu varsayımı, bebeklerden alınan full-color retinal görüntülerinin bir veri seti kullanarak test ettiler. Bu tür görüntüler, artan şekilde tele-tıp ve diğer uzak tanı konularında ve makine öğrenimi analizi konularında yer alıyor.

Yeni çalışma, çeşitli azaltıcı RFI sürümlerinin ebeveynlerin bildirdiği ırkla ilgili bilgi içerip içermediğini araştırıyor ve hatta en çok bilgiyi yok eden RFI sürümlerinin (eşiklendirilmiş, iskeletleştirilmiş ve ikilileştirilmiş) bazı düzeyde ırksal tanımlama yapabildiğini buldu.

Veri ve Yöntem

2012 Ocak ile 2020 Temmuz arasında toplanan 245 bebekten alınan veri, doğal ırksal dağılımı korumak için 50/20/30 oranında eğitim, doğrulama ve test veri setlerine ayrıldı.

Renkli RFI’ler, ‘bariz’ ırksal işaretlerin teknik olarak veri setinden çıkarıldığı üç azaltıcı görüntüleme stiline indirildi.

PyTorch kullanarak, çoklu Konvolüsyonel Sinir Ağları (CNN’ler) ebeveynlerin bildirdiği ırka dayalı ikili sınıflandırma (‘siyah’/’beyaz’) için eğitildi. CNN’ler, tüm görüntüleri, RFI’lerden iskeletleştirilmiş sürümlere kadar, uygulamaya çalıştı ve türetilen görüntüler 224×244 piksel çözünürlüğe sahip oldu.

Modeller, erken durdurma uygulanarak ve beş epoch (modelin daha fazla eğitilmesiyle daha doğru olmayacağı) sonrasında eğitimi durdurarak, sabit öğrenme oranı 0.001 ile stokastik gradient iniş yöntemiyle eğitildi.

Veri setindeki beyaz ve siyah konular arasındaki demografik dengesizliği telafi etmek için kompansasyon uygulandı ve sonuçlar, deneyler arasında veri sızıntısı olmadığını doğrulamak için çapraz kiểmildi.

Çalışmada çeşitli eşik tolerans seviyelerinde retinal haritaların örnekleri.

Sonuçlar

RVM’ler, full-color RFI’lerden damarları ve kapillerleri çıkaran görüntülerdir ve teorik olarak bir CNN tarafından ırksal olarak ayırt edilememelidir. Ancak, sonuçlar, U-Net’in beyaz gözler için siyah gözlerden daha fazla ana atardamar segmentlediğini gösterdi.

Araştırmacılar, ‘AI’nin, görünüşte hiçbir ırksal bilgi içermeyen retinal damar segmentasyonlarından bebeklerin ırkını kolayca tahmin edebildiğini‘ ve ‘gözle görünen hiçbir bilgi içermeyen görüntülerin bile orijinal bebeklerin ırkı hakkında öngörülebilir bilgi içerdiğini‘ gözlemlediler. Araştırmacılar, ayrıca, siyah ve beyaz bebeklerin retinal damarlarının ‘insanların değil, AI’nin takdir edebileceği şekilde某 şekilde farklı‘ olabileceği olasılığını sunuyorlar.

Öncül Önyargı?

Yazarlar, ayrıca, bu ayrımcılığın, U-Net’in orijinal olarak beyaz baskın veri setleri üzerinde eğitilmiş olmasından kaynaklanabileceğini öne sürüyorlar. Ancak, bu teorinin ‘önde gelen teori’ olduklarını belirtiyorlar, ancak aynı zamanda bu olgunun, retinal görüntüleme uygulamalarının teknik yönleri veya U-Net’de kendini yıllarca sürdürerek devam ettiren veri önyargısı olabileceği olasılığını da kabul ediyorlar. Bu olasılıkları ele alırken, makale şunları kabul ediyor:

‘Ancak, U-Net, önce grayscale’e dönüştürülen ve kontrast ayarlaması yapılan (özellikle, kontrast sınırlı histogram eşitlenmesi (CLAHE)) RFI’ler üzerinde eğitildi, bu nedenle aslen hiçbir zaman renkli RFI’ler üzerinde eğitilmedi. Dolayısıyla, henüz U-Net hipotezi alone dựaında bu bulguları tam olarak açıklamak için unable olduk.’

Ancak, yazarlar, nedenin, AI modellerinin ırkı tanımlayabilme yeteneğinin tıbbi AI algoritmalarında ırksal önyargı riski taşıdığı sonucuna varıyorlar.

Yazarlar, çalışmada incelinen ırkların yüksek kontrastlı doğasını belirtiyorlar ve ‘ara’ ırksal grupların benzer yöntemlerle daha zor tespit edilebileceğini öne sürüyorlar ve bu konuyu devam eden ve ilgili çalışmalarında incelemeyi amaçladıklarını belirtiyorlar.

* Makalede verilen ve bu makalede yer alan sınırlı erişimli PaperPile bağlantıları, mümkün olduğunca, halka açık çevrimiçi sürümlerine dönüştürülmüştür.