Algoritma Dapat Mengatasi Bias Rasial dalam Perawatan Kesehatan jika Dilatih dengan Benar

Tim peneliti dari Stanford University, Harvard University, dan University of Chicago melatih algoritma untuk mendiagnosis arthritis pada x-ray lutut. Ternyata bahwa ketika laporan pasien digunakan sebagai data pelatihan untuk algoritma, algoritma tersebut lebih akurat daripada radiolog ketika menganalisis catatan pasien Afrika-Amerika.

Masalah Bias Algoritma

Penggunaan algoritma pembelajaran mesin dalam bidang medis dapat memperbaiki hasil untuk pasien yang menderita berbagai penyakit, tetapi ada juga masalah yang terdokumentasi dengan baik tentang penggunaan algoritma AI untuk mendiagnosis pasien. Studi tentang dampak model AI yang diterapkan telah menemukan beberapa insiden yang mencolok yang melibatkan bias algoritma. Ini termasuk algoritma yang memberikan minoritas lebih sedikit rujukan ke unit kardiologi daripada pasien kulit putih, meskipun semua gejala yang dilaporkan sama.

Salah satu penulis studi, profesor Ziad Obermeyer di Sekolah Kesehatan Masyarakat University of California Berkeley, memutuskan untuk menggunakan AI untuk menyelidiki perbedaan antara diagnosis x-ray oleh radiolog dan jumlah nyeri yang dilaporkan pasien. Meskipun pasien Afrika-Amerika dan pasien berpenghasilan rendah melaporkan tingkat nyeri yang lebih tinggi, interpretasi x-ray mereka dinilai sama dengan populasi umum. Data tentang tingkat nyeri yang dilaporkan berasal dari NIH, dan peneliti ingin menyelidiki apakah dokter manusia melewatkan sesuatu dalam analisis data.

Seperti dilaporkan oleh Wired, untuk mengidentifikasi penyebab potensial dari perbedaan ini, Obermeyer dan peneliti lainnya merancang model visi komputer yang dilatih pada data dari NIH. Algoritma dirancang untuk menganalisis x-ray dan memprediksi tingkat nyeri pasien berdasarkan gambar. Perangkat lunak berhasil menemukan pola dalam gambar yang sangat terkait dengan tingkat nyeri pasien.

Ketika algoritma diberikan gambar yang tidak terlihat sebelumnya, model tersebut mengembalikan prediksi untuk tingkat nyeri pasien yang dilaporkan. Prediksi yang dikembalikan oleh model tersebut sesuai lebih dekat dengan tingkat nyeri pasien yang sebenarnya daripada skor yang diberikan oleh radiolog. Ini terutama benar untuk pasien Afrika-Amerika. Obermeyer menjelaskan melalui Wired bahwa algoritma visi komputer dapat mendeteksi fenomena yang lebih umum terkait dengan nyeri pada pasien Afrika-Amerika.

Melatih Sistem dengan Benar

Dilaporkan bahwa kriteria yang digunakan untuk mengevaluasi x-ray awalnya dikembangkan berdasarkan hasil studi kecil yang dilakukan di Inggris Utara pada tahun 1957. Populasi awal yang digunakan untuk mengembangkan kriteria penilaian osteoartritis sangat berbeda dari populasi yang sangat beragam di Amerika Serikat modern, sehingga tidak mengherankan bahwa ada kesalahan yang dilakukan ketika mendiagnosis orang-orang yang beragam ini.

Studi baru ini menunjukkan bahwa ketika algoritma AI dilatih dengan benar, mereka dapat mengurangi bias. Pelatihan tersebut didasarkan pada umpan balik pasien itu sendiri, bukan opini ahli. Obermeyer dan rekan-rekannya sebelumnya menunjukkan bahwa algoritma AI yang umum digunakan memberikan preferensi kepada pasien kulit putih daripada pasien Afrika-Amerika, tetapi Obermeyer juga menunjukkan bahwa melatih sistem pembelajaran mesin pada data yang tepat dapat membantu mencegah bias.

Catatan penting dari studi ini adalah salah satu yang familiar bagi banyak peneliti pembelajaran mesin. Model AI yang dikembangkan oleh tim peneliti adalah kotak hitam, dan tim peneliti itu sendiri tidak yakin apa jenis fitur yang dideteksi oleh algoritma dalam x-ray, yang berarti bahwa mereka tidak bisa memberitahu dokter apa yang mereka lewatkan.

Radiolog dan peneliti lainnya berusaha untuk memahami kotak hitam dan mengungkap pola di dalamnya, dengan harapan membantu dokter memahami apa yang mereka lewatkan. Radiolog dan profesor di Emory University, Judy Gichoya, mengumpulkan koleksi x-ray yang lebih luas dan beragam untuk melatih model AI. Gichoya akan memiliki radiolog membuat catatan rinci tentang x-ray ini. Catatan tersebut akan dibandingkan dengan output model untuk melihat apakah pola yang dideteksi oleh algoritma dapat diungkap.