Algoritma Bisa Mengatasi Bias Rasial dalam Perawatan Kesehatan jika Dilatih dengan Benar

Sebuah tim peneliti dari Stanford University, Harvard University, dan University of Chicago melatih algoritma untuk mendiagnosis arthritis pada x-ray lutut. Ternyata, ketika laporan pasien digunakan sebagai data pelatihan untuk algoritma, algoritma tersebut lebih akurat daripada radiolog ketika menganalisis catatan pasien Afrika-Amerika.

Masalah Bias Algoritma

Penggunaan algoritma pembelajaran mesin dalam bidang medis dapat memperbaiki hasil untuk pasien yang menderita berbagai penyakit, tetapi ada juga masalah yang terdokumentasi dengan baik tentang penggunaan algoritma AI untuk mendiagnosis pasien. Studi tentang dampak model AI yang diterapkan telah menemukan beberapa insiden yang mencolok yang melibatkan bias algoritma. Ini termasuk algoritma yang memberikan referensi yang lebih sedikit kepada unit kardiologi bagi pasien minoritas daripada pasien kulit putih, meskipun semua gejala yang dilaporkan sama.

Salah satu penulis studi tersebut, profesor Ziad Obermeyer di School of Public Health University of California Berkeley, memutuskan untuk menggunakan AI untuk menyelidiki perbedaan antara diagnosis x-ray oleh radiolog dan jumlah nyeri yang dilaporkan pasien. Meskipun pasien Afrika-Amerika dan pasien berpenghasilan rendah melaporkan tingkat nyeri yang lebih tinggi, interpretasi x-ray mereka dinilai sama dengan populasi umum. Data tentang tingkat nyeri yang dilaporkan berasal dari NIH, dan peneliti ingin menyelidiki apakah dokter manusia melewatkan sesuatu dalam analisis data.

Seperti dilaporkan oleh Wired, untuk mengidentifikasi penyebab potensial dari perbedaan ini, Obermeyer dan peneliti lainnya merancang model visi komputer yang dilatih pada data dari NIH. Algoritma dirancang untuk menganalisis x-ray dan memprediksi tingkat nyeri pasien berdasarkan gambar. Perangkat lunak tersebut berhasil menemukan pola dalam gambar yang sangat terkait dengan tingkat nyeri pasien.

Ketika algoritma disajikan dengan gambar yang tidak terlihat, model tersebut mengembalikan prediksi untuk tingkat nyeri yang dilaporkan pasien. Prediksi yang dikembalikan oleh model tersebut sesuai lebih dekat dengan tingkat nyeri yang sebenarnya dilaporkan pasien daripada skor yang diberikan oleh radiolog. Ini terutama benar untuk pasien Afrika-Amerika. Obermeyer menjelaskan melalui Wired bahwa algoritma visi komputer dapat mendeteksi fenomena yang lebih umum terkait dengan nyeri pada pasien Afrika-Amerika.

Melatih Sistem dengan Benar

Dilaporkan, kriteria yang digunakan untuk mengevaluasi x-ray awalnya dikembangkan berdasarkan hasil studi kecil yang dilakukan di Inggris Utara pada tahun 1957. Populasi awal yang digunakan untuk mengembangkan kriteria penilaian osteoartritis sangat berbeda dengan populasi yang sangat beragam di Amerika Serikat modern, sehingga tidak mengherankan bahwa ada kesalahan yang dilakukan ketika mendiagnosis orang-orang yang beragam ini.

Studi baru ini menunjukkan bahwa ketika algoritma AI dilatih dengan benar, mereka dapat mengurangi bias. Pelatihan didasarkan pada umpan balik pasien itu sendiri bukan pada pendapat ahli. Obermeyer dan rekan-rekannya sebelumnya menunjukkan bahwa algoritma AI yang umum digunakan memberikan preferensi kepada pasien kulit putih daripada pasien Afrika-Amerika, tetapi Obermeyer juga menunjukkan bahwa melatih sistem pembelajaran mesin pada data yang tepat dapat membantu mencegah bias.

Catatan penting dari studi ini adalah salah satu yang familiar bagi banyak peneliti pembelajaran mesin. Model AI yang dikembangkan oleh tim peneliti adalah black box, dan tim peneliti itu sendiri tidak yakin apa jenis fitur yang dideteksi oleh algoritma dalam x-ray, yang berarti bahwa mereka tidak dapat memberitahu dokter apa yang mereka lewatkan.

Peneliti dan radiolog lainnya berusaha untuk mengetahui pola dalam black box dan mengungkapkan pola di dalamnya, dengan harapan membantu dokter memahami apa yang mereka lewatkan. Radiolog dan profesor di Emory University, Judy Gichoya, mengumpulkan set x-ray yang lebih luas dan beragam untuk melatih model AI. Gichoya akan memiliki radiolog membuat catatan rinci tentang x-ray ini. Catatan tersebut akan dibandingkan dengan output model untuk melihat apakah pola yang dideteksi oleh algoritma dapat diungkapkan.