Algoritmik Önyargıyı Sağlık Hizmetlerinde Gidermek için Algoritma Eğitilebilir

Stanford Üniversitesi, Harvard Üniversitesi ve Chicago Üniversitesi’nden bir araştırma ekibi, diz eklemlerinin röntgenlerini analiz etmek için algoritmalar eğitti. Sonuç olarak, hastaların raporlarının algoritmaların eğitim verisi olarak kullanıldığında, algoritmaların Siyah hasta kayıtlarını analiz ederken radyologlardan daha doğru olduğu ortaya çıktı.

Algoritmik Önyargı Sorunu

Makine öğrenimi algoritmalarının tıbbi alanda kullanılması, hastaların çeşitli hastalıkların tedavisi için sonuçlarını potentially iyileştirebilir, ancak hasta teşhisinde AI algoritmalarının kullanılmasıyla ilgili iyi belgelenmiş sorunlar da vardır. Dağıtılan AI modellerinin etkileri üzerine yapılan çalışmalar, algoritmik önyargı içeren bir dizi önemli olayı ortaya çıkardı. Bunlar, beyaz hastalara göre azınlıklara daha az kardiyoloji birimi başvuruları yapan algoritmaları içerir,尽管 tüm bildirilen semptomlar aynıdır.

Çalışmanın yazarlarından biri, California Berkeley Üniversitesi Halk Sağlığı Okulu’ndan profesör Ziad Obermeyer, AI’ı kullanarak radyologlar tarafından yapılan X-ray teşhisleri ile hastaların bildirdiği ağrı düzeyleri arasındaki farklılıkları araştırmak için çalışmaya başladı. Siyah ve düşük gelirli hastalar daha yüksek ağrı seviyeleri bildirdi, ancak X-ray yorumları genel nüfusa benzer şekilde puanlandı. Ağrı seviyeleri verisi NIH’den geldi ve araştırmacılar, insan doktorların verilerin analizinde bir şey kaçırmış olabileceğini araştırmak istediler.

Wired tarafından bildirildiği gibi, bu farklılıkların potansiyel nedenlerini belirlemek için Obermeyer ve diğer araştırmacılar, NIH’den alınan verilerle eğitilmiş bir bilgisayar görme modeli geliştirdiler. Algoritmalar, X-ray’leri analiz etmek ve görüntülere dayalı olarak bir hastanın ağrı seviyesini tahmin etmek için tasarlandı. Yazılım, hastaların ağrı seviyeleri ile yüksek oranda ilişkili desenler içeren görüntülerde kalıplar bulmayı başardı.

Görünmeyen bir görüntüye sunulduğunda, model bir hastanın bildirilen ağrı seviyesi için tahminler döndürür. Model tarafından döndürülen tahminler, radyologlar tarafından verilen puanlardan daha fazla hasta tarafından bildirilen gerçek ağrı seviyelerine uyuyordu. Bu özellikle Siyah hastalar için geçerliydi. Obermeyer, Wired’a göre, bilgisayar görme algoritmasının Siyah hastalarda ağrı ile daha sık liênkilendirilen fenomenleri tespit edebildiğini açıkladı.

Sistemleri Doğru Bir Şekilde Eğitmek

Röntgenlerin değerlendirilmesinde kullanılan kriterler, aslen 1957’de kuzey İngiltere’de yapılan küçük bir çalışmanın sonuçlarına dayanarak geliştirildi. Osteoartrit değerlendirme kriterlerini geliştirmek için kullanılan ilk nüfus, modern Amerika Birleşik Devletleri’nin çok çeşitli nüfusundan çok farklıydı, bu nedenle bu çeşitli insanları teşhis ederken hatalar yapılması şaşırtıcı değildir.

Yeni çalışma, AI algoritmalarının doğru bir şekilde eğitildiğinde önyargıyı azaltabileceğini gösteriyor. Eğitime, uzman görüşleri yerine hastaların geri bildirileri temelinde yapıldı. Obermeyer ve meslektaşları daha önce, genellikle kullanılan bir AI algoritmasının Siyah hastalara karşı beyaz hastaları tercih ettiğini gösterdi, ancak Obermeyer ayrıca, bir makine öğrenimi sistemini doğru verilere eğitmek, önyargı önlenmesine yardımcı olabileceğini de gösterdi.

Çalışmanın önemli bir açığı, birçok makine öğrenimi araştırmacısına aşinadır. Araştırma ekibi tarafından geliştirilen AI modeli bir kara kutudur ve araştırmacı ekibi, algoritmanın X-ray’lerde hangi tür özelliklerini tespit ettiğini bilmemektedir, bu nedenle doktorlara kaçırdıkları özellikleri söyleyemezler.

Diğer radyologlar ve araştırmacılar, bu kara kutunun içine bakmaya ve içerdikleri kalıpları ortaya çıkarmaya çalışıyorlar, umarak ki doktorlara neyi kaçırdıklarını anlatabilirler. Emory Üniversitesi’nden radyolog ve profesör Judy Gichoya, AI modelini eğitmek için daha geniş ve çeşitli bir X-ray kümesini topluyor. Gichoya, radyologların bu X-ray’ler için ayrıntılı notlar oluşturmasını sağlayacak. Bu notlar, modelin çıktıları ile karşılaştırılacak ve algoritmanın tespit ettiği kalıpların ortaya çıkarılmasına çalışılacak.