AI Dapat Menjadi Teman atau Musuh dalam Meningkatkan Keseimbangan Kesehatan. Berikut Cara untuk Memastikan itu Membantu, Bukan Merugikan

Ketidaksetaraan dan perbedaan dalam perawatan kesehatan sangat umum di seluruh lapisan sosial, ras, dan jenis kelamin. Sebagai masyarakat, kita memiliki tanggung jawab moral, etis, dan ekonomi untuk menutup kesenjangan ini dan memastikan akses kesehatan yang konsisten, adil, dan terjangkau bagi semua orang.

Kecerdasan Buatan (AI) membantu mengatasi ketidaksetaraan ini, tetapi juga merupakan pedang bermata dua. Tentu saja, AI sudah membantu memperlancar pengiriman perawatan, memungkinkan pengobatan personalisasi dalam skala besar, dan mendukung penemuan penting. Namun, bias inheren dalam data, algoritma, dan pengguna dapat memperburuk masalah jika kita tidak berhati-hati.

Artinya, kita yang mengembangkan dan menerapkan solusi kesehatan yang didorong AI harus berhati-hati untuk mencegah AI secara tidak sengaja memperlebar kesenjangan yang sudah ada, dan badan pengatur dan asosiasi profesional harus memainkan peran aktif dalam menetapkan pedoman untuk menghindari atau mengurangi bias.

Berikut cara menggunakan AI untuk menjembatani kesenjangan ketidaksetaraan daripada memperlebarinya.

Mencapai Keseimbangan dalam Uji Klinis

Banyak uji coba obat dan pengobatan baru telah secara historis memiliki bias dalam desain, baik disengaja atau tidak. Misalnya, hingga 1993, wanita belum diwajibkan oleh hukum untuk ikut serta dalam penelitian klinis yang didanai NIH. Lebih baru-baru ini, vaksin COVID tidak pernah secara sengaja diuji pada wanita hamil—hanya karena beberapa peserta uji coba tidak sengaja hamil pada saat vaksinasi sehingga kita tahu itu aman.

Tantangan dengan penelitian adalah kita tidak tahu apa yang tidak kita ketahui. Namun, AI membantu mengungkapkan dataset yang bias dengan menganalisis data populasi dan menandai representasi yang tidak proporsional atau kesenjangan dalam cakupan demografi. Dengan memastikan representasi yang beragam dan melatih model AI pada data yang secara akurat mewakili populasi target, AI membantu memastikan inklusivitas, mengurangi bahaya, dan mengoptimalkan hasil.

Memastikan Pengobatan yang Adil

Telah terbukti bahwa ibu hamil kulit hitam yang mengalami nyeri dan komplikasi selama melahirkan sering diabaikan, mengakibatkan tingkat kematian ibu yang 3 kali lebih tinggi untuk wanita kulit hitam daripada wanita non-Hispanik putih terlepas dari pendapatan atau pendidikan. Masalahnya sebagian besar diperburuk oleh bias inheren: ada kesalahpahaman yang merajalela di antara profesional medis bahwa orang kulit hitam memiliki toleransi nyeri yang lebih tinggi daripada orang kulit putih.

Bias dalam algoritma AI dapat memperburuk masalah: peneliti Harvard menemukan bahwa algoritma yang umum digunakan memprediksi bahwa wanita kulit hitam dan Latina memiliki kemungkinan yang lebih rendah untuk memiliki kelahiran vaginal yang sukses setelah operasi sesar (VBAC), yang mungkin menyebabkan dokter melakukan lebih banyak operasi sesar pada wanita berwarna. Namun, peneliti menemukan bahwa “asosiasi ini tidak didukung oleh plausibilitas biologis,” menunjukkan bahwa ras adalah “proxy untuk variabel lain yang mencerminkan efek rasisme pada kesehatan.” Algoritma tersebut kemudian diperbarui untuk menghilangkan ras atau etnis ketika menghitung risiko.

Ini adalah aplikasi yang ideal untuk AI untuk menghilangkan bias implisit dan menyarankan (dengan bukti) jalur perawatan yang mungkin sebelumnya diabaikan. Alih-alih terus mempraktikkan “perawatan standar,” kita dapat menggunakan AI untuk menentukan apakah praktik terbaik tersebut didasarkan pada pengalaman semua wanita atau hanya wanita kulit putih. AI membantu memastikan fondasi data kita mencakup pasien yang memiliki keuntungan paling banyak dari kemajuan dalam kesehatan dan teknologi.

Sementara mungkin ada kondisi di mana ras dan etnis dapat menjadi faktor yang berdampak, kita harus berhati-hati untuk mengetahui kapan dan bagaimana mereka harus dipertimbangkan dan kapan kita hanya mengandalkan bias sejarah untuk membentuk persepsi dan algoritma AI kita.

Menyediakan Strategi Pencegahan yang Adil

Solusi AI dapat dengan mudah mengabaikan kondisi tertentu dalam komunitas yang terpinggirkan tanpa pertimbangan yang cermat untuk potensi bias. Misalnya, Administrasi Veteran bekerja pada beberapa algoritma untuk memprediksi dan mendeteksi tanda-tanda penyakit jantung dan serangan jantung. Ini memiliki potensi penyelamatan nyawa yang luar biasa, tetapi sebagian besar studi sejarah tidak mencakup banyak wanita, yang penyakit jantung adalah penyebab utama kematian. Oleh karena itu, tidak diketahui apakah model ini sama efektifnya untuk wanita, yang sering menampilkan gejala yang sangat berbeda dari pria.

Memasukkan jumlah wanita yang proporsional dalam dataset ini dapat membantu mencegah beberapa 3,2 juta serangan jantung dan setengah juta kematian terkait jantung secara tahunan pada wanita melalui deteksi dan intervensi dini. Serupa, alat AI baru menghapus algoritma berbasis ras dalam skrining penyakit ginjal, yang secara historis mengeluarkan orang kulit hitam, Hispanik, dan Amerika Asli, mengakibatkan keterlambatan perawatan dan hasil klinis yang buruk.

Alih-alih mengeluarkan individu yang terpinggirkan, AI sebenarnya dapat membantu memperkirakan risiko kesehatan untuk populasi yang terpinggirkan dan memungkinkan penilaian risiko personalisasi untuk lebih baik menargetkan intervensi. Data mungkin sudah ada; ini hanya masalah “menyetel” model untuk menentukan bagaimana faktor demografi seperti ras, jenis kelamin, dan lain-lain mempengaruhi hasil—jika mereka mempengaruhi.

Memperlancar Tugas Administratif

Selain langsung mempengaruhi hasil pasien, AI memiliki potensi luar biasa untuk mempercepat alur kerja di balik layar untuk mengurangi ketidaksetaraan. Misalnya, perusahaan dan penyedia sudah menggunakan AI untuk mengisi kesenjangan dalam pengkodean klaim dan penyelesaian, memvalidasi kode diagnosis melawan catatan dokter, dan mengotomatisasi proses pra-otorisasi untuk prosedur diagnostik umum.

Dengan memperlancar fungsi-fungsi ini, kita dapat secara drastis mengurangi biaya operasional, membantu kantor penyedia berjalan lebih efisien, dan memberi staf lebih banyak waktu untuk menghabiskan waktu dengan pasien, sehingga membuat perawatan jauh lebih terjangkau dan dapat diakses.

Kita Masing-Masing Memiliki Peran Penting untuk Dimainkan

Fakta bahwa kita memiliki alat luar biasa ini di genggaman kita membuatnya semakin penting bahwa kita menggunakannya untuk menghilangkan dan mengatasi bias kesehatan. Sayangnya, tidak ada badan sertifikasi di AS yang mengatur upaya untuk menggunakan AI untuk “menghilangkan bias” dalam pengiriman kesehatan, dan bahkan untuk organisasi yang telah mengeluarkan pedoman, tidak ada insentif regulasi untuk mematuhinya.

Oleh karena itu, beban ada pada kita sebagai praktisi AI, ilmuwan data, pembuat algoritma, dan pengguna untuk mengembangkan strategi yang disengaja untuk memastikan inklusivitas, keberagaman data, dan penggunaan yang adil dari alat dan wawasan ini.

Untuk melakukan itu, integrasi yang akurat dan interoperabilitas sangat penting. Dengan banyak sumber data—dari perangkat yang dapat dikenakan dan penyedia lab dan pemindaian pihak ketiga hingga perawatan primer, pertukaran informasi kesehatan, dan catatan rawat inap—kita harus mengintegrasikan semua data ini sehingga potongan kunci termasuk, terlepas dari format sumber kita. Industri memerlukan normalisasi data, standarisasi, dan pencocokan identitas untuk memastikan data pasien esensial termasuk, bahkan dengan ejaan nama yang berbeda atau konvensi penamaan berdasarkan berbagai budaya dan bahasa.

Kita juga harus membangun penilaian keberagaman ke dalam proses pengembangan AI kita dan memantau “drift” dalam metrik kita dari waktu ke waktu. Praktisi AI memiliki tanggung jawab untuk menguji kinerja model di seluruh subkelompok demografi, melakukan audit bias, dan memahami bagaimana model membuat keputusan. Kita mungkin perlu melampaui asumsi berbasis ras untuk memastikan analisis kita mewakili populasi yang kita bangun untuknya. Misalnya, anggota suku Pima yang tinggal di Reservasi Gila River di Arizona memiliki tingkat obesitas dan diabetes tipe 2 yang sangat tinggi, sementara anggota suku yang sama yang tinggal di seberang perbatasan di pegunungan Sierra Madre di Meksiko memiliki tingkat obesitas dan diabetes yang jauh lebih rendah, membuktikan bahwa genetika bukanlah satu-satunya faktor.

Akhirnya, kita memerlukan organisasi seperti Asosiasi Medis Amerika, Kantor Koordinator Nasional untuk Teknologi Informasi Kesehatan, dan organisasi khusus seperti American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology, dan banyak lainnya untuk bekerja sama untuk menetapkan standar dan kerangka untuk pertukaran data dan akurasi untuk melindungi terhadap bias.

Dengan memstandarkan pertukaran data kesehatan dan memperluas HTI-1 dan HTI-2 untuk mengharuskan pengembang bekerja sama dengan badan akreditasi, kita membantu memastikan kepatuhan dan memperbaiki kesalahan ketidaksetaraan di masa lalu. Lebih lanjut, dengan mendemokratisasi akses ke data pasien yang lengkap dan akurat, kita dapat menghilangkan “penutup mata” yang telah mempertahankan bias dan menggunakan AI untuk menyelesaikan disparitas perawatan melalui wawasan yang lebih komprehensif dan objektif.