Algoritma, Düzgün Eğitilirse Sağlık Hizmetlerinde Irksal Önyargıyı Ele Alabilir

Stanford Üniversitesi, Harvard Üniversitesi ve Chicago Üniversitesi'nden bir araştırmacı ekibi algoritmaları eğitti diz röntgenlerinde artriti teşhis etmek için. Algoritma için eğitim verileri olarak hasta raporları kullanıldığında, siyah hastaların kayıtlarını analiz ederken algoritmanın radyologlardan daha doğru olduğu ortaya çıktı.

Algortimik Önyargı Sorunu

Makine öğrenimi algoritmalarının tıp alanında kullanılması, her türlü hastalıktan muzdarip hastaların sonuçlarını potansiyel olarak iyileştirebilir, ancak aynı zamanda hastaları teşhis etmek için yapay zeka algoritmalarının kullanılmasıyla ilgili iyi belgelenmiş sorunlar da vardır. Konuşlandırılmış yapay zeka modellerinin etkilerine ilişkin araştırmalar, algoritmik önyargı içeren bir dizi dikkate değer olay bulmuştur. Bunlar algoritmaları dahil et Bildirilen tüm semptomlar aynı olmasına rağmen, azınlıklara beyaz hastalara göre kardiyoloji birimlerine daha az sevk sağlayan.

yazarlarından biri ÇalışmanınCalifornia Berkeley Üniversitesi Halk Sağlığı Okulu'ndan Profesör Ziad Obermeyer, radyologlar tarafından röntgen teşhisleri ile hastaların bildirdiği ağrı miktarı arasındaki eşitsizlikleri araştırmak için yapay zeka kullanmaya karar verdi. Siyahi hastalar ve düşük gelirli hastalar daha yüksek düzeyde ağrı bildirmelerine rağmen, X-ışını yorumları genel popülasyonla aynı şekilde puanlandı. Bildirilen ağrı seviyeleriyle ilgili veriler NIH'den geldi ve araştırmacılar, insan doktorların veri analizlerinde herhangi bir şeyi gözden kaçırıp kaçırmadıklarını araştırmak istedi.

Wired tarafından bildirildiği gibiBu farklılıkların potansiyel nedenlerini belirlemek amacıyla Obermeyer ve diğer araştırmacılar, NIH'den gelen verilerle eğitilmiş bir bilgisayarlı görme modeli tasarladılar. Algoritmalar, X ışınlarını analiz etmek ve görüntülere dayanarak hastanın ağrı seviyelerini tahmin etmek için tasarlandı. Yazılım, görüntülerde hastanın ağrı düzeyleriyle yüksek düzeyde ilişkili olduğu kanıtlanan desenler bulmayı başardı.

Algoritmaya görünmeyen bir görüntü sunulduğunda, model hastanın bildirilen ağrı düzeyi için tahminler verir. Model tarafından döndürülen tahminler, radyologlar tarafından verilen puanlardan çok hastaların bildirilen gerçek ağrı seviyelerine daha yakındı. Bu özellikle Siyah hastalar için geçerliydi. Obermeyer, Wired aracılığıyla, bilgisayarla görme algoritmasının Siyahi hastalarda daha yaygın olarak ağrıyla bağlantılı olguları tespit edebildiğini açıkladı.

Düzgün Eğitim Sistemleri

Bildirildiğine göre, X-ışınlarını değerlendirmek için kullanılan kriterler ilk olarak 1957'de kuzey İngiltere'de yürütülen küçük bir çalışmanın sonuçlarına dayanılarak geliştirildi. Osteoartrit değerlendirme kriterlerini geliştirmek için kullanılan ilk popülasyon, modern Amerika'nın çok çeşitli popülasyonundan çok farklıydı. Devletler, bu nedenle, bu farklı insanları teşhis ederken yapılan hataların olması şaşırtıcı değildir.

Yeni çalışma, AI algoritmalarının uygun şekilde eğitildiğinde önyargıyı azaltabileceğini gösteriyor. Eğitim, uzman görüşleri yerine hastaların kendi geri bildirimlerine dayanıyordu. Obermeyer ve meslektaşları önceden gösterilmiş yaygın olarak kullanılan bir AI algoritmasının Siyah hastalara göre Beyaz hastaları tercih ettiğini, ancak Obermeyer ayrıca bir makine öğrenimi sistemini doğru veriler üzerinde eğitmenin önyargıyı önlemeye yardımcı olabileceğini gösterdi.

Çalışmaya ilişkin dikkate değer bir uyarı, birçok makine öğrenimi araştırmacısının aşina olduğu bir uyarıdır. Araştırma ekibi tarafından geliştirilen AI modeli bir kara kutu ve araştırma ekibi, algoritmanın X-ışınlarında ne tür özellikler tespit ettiğinden emin değiller, yani doktorlara hangi özelliklerin eksik olduğunu söyleyemezler. .

Diğer radyologlar ve araştırmacılar, kara kutuyu kazmayı ve içindeki kalıpları ortaya çıkarmayı amaçlayarak doktorların neyi kaçırdıklarını anlamalarına yardımcı olmayı umuyor. Emory Üniversitesi'nde radyolog ve profesör olan Judy Gichoya, AI modelini eğitmek için daha kapsamlı ve çeşitli bir röntgen seti topluyor. Gichoya, radyologlara bu röntgenler hakkında ayrıntılı notlar yazdıracak. Algoritma tarafından tespit edilen kalıpların ortaya çıkarılıp çıkarılamayacağını görmek için bu notlar modelin çıktısıyla karşılaştırılacaktır.