AI Bisa Menjadi Sahabat atau Lawan dalam Meningkatkan Keadilan Kesehatan. Berikut Cara Memastikan AI Membantu, Bukan Merugikan

Ketimpangan dan kesenjangan dalam perawatan kesehatan tersebar luas di berbagai lapisan sosial ekonomi, ras, dan gender. Sebagai masyarakat, kita memiliki tanggung jawab moral, etika, dan ekonomi untuk menutup kesenjangan ini dan memastikan akses yang konsisten, adil, dan terjangkau terhadap perawatan kesehatan bagi semua orang.

Kecerdasan Buatan (AI) membantu mengatasi kesenjangan ini, tetapi juga merupakan pedang bermata dua. Tentu saja, AI sudah membantu menyederhanakan pemberian perawatan, memungkinkan pengobatan yang dipersonalisasi dalam skala besar, dan mendukung penemuan terobosan. Namun, bias yang melekat pada data, algoritma, dan pengguna dapat memperburuk masalah jika kita tidak berhati-hati.

Artinya, kita yang mengembangkan dan menerapkan solusi perawatan kesehatan berbasis AI harus berhati-hati agar AI tidak secara tidak sengaja memperlebar kesenjangan yang ada, dan badan pengatur serta asosiasi profesional harus berperan aktif dalam menetapkan pembatas untuk menghindari atau mengurangi bias.

Berikut ini bagaimana pemanfaatan AI dapat menjembatani kesenjangan ketidakadilan, bukan malah memperlebarnya.

Mencapai kesetaraan dalam uji klinis

Banyak uji coba obat dan pengobatan baru yang secara historis bias dalam desainnya, baik disengaja atau tidak. Misalnya, baru pada tahun 1993 perempuan diwajibkan secara hukum harus dimasukkan dalam penelitian klinis yang didanai NIH. Baru-baru ini, Vaksin COVID tidak pernah secara sengaja diujicobakan pada wanita hamil—hanya karena beberapa peserta uji coba tidak sadar sedang hamil pada saat vaksinasi, maka kami tahu bahwa vaksinasi itu aman.

Tantangan dalam penelitian adalah kita tidak tahu apa yang tidak kita ketahui. Namun, AI membantu mengungkap kumpulan data yang bias dengan menganalisis data populasi dan menandai representasi yang tidak proporsional atau kesenjangan dalam cakupan demografi. Dengan memastikan representasi yang beragam dan melatih model AI pada data yang secara akurat mewakili populasi yang ditargetkan, AI membantu memastikan inklusivitas, mengurangi bahaya, dan mengoptimalkan hasil.

Pastikan perlakuan yang adil

Nya mapan bahwa ibu hamil berkulit hitam yang mengalami rasa sakit dan komplikasi saat melahirkan sering kali diabaikan, sehingga mengakibatkan angka kematian ibu 3X lebih tinggi untuk wanita kulit hitam daripada wanita kulit putih non-Hispanik terlepas dari pendapatan atau pendidikanMasalah ini sebagian besar disebabkan oleh bias yang melekat: terdapat kesalahpahaman yang meluas di kalangan profesional medis bahwa Orang kulit hitam memiliki toleransi rasa sakit yang lebih tinggi dari pada orang kulit putih.

Bias dalam algoritma AI dapat memperburuk masalah: Peneliti Harvard menemukan bahwa algoritma umum memperkirakan bahwa perempuan kulit hitam dan Latina cenderung tidak berhasil melahirkan secara normal setelah operasi caesar (VBAC), yang mungkin menyebabkan dokter melakukan lebih banyak operasi caesar pada perempuan kulit berwarna. Namun, peneliti menemukan bahwa “hubungannya tidak didukung oleh plausibilitas biologis,” yang menunjukkan bahwa ras adalah “proksi untuk variabel lain yang mencerminkan dampak rasisme tentang kesehatan.” Algoritma tersebut kemudian diperbarui untuk mengecualikan ras atau etnis saat menghitung risiko.

Ini adalah aplikasi yang sempurna bagi AI untuk membasmi bias implisit dan menyarankan (dengan bukti) jalur perawatan yang mungkin sebelumnya diabaikan. Alih-alih terus mempraktikkan "perawatan standar", kita dapat menggunakan AI untuk menentukan apakah praktik terbaik tersebut didasarkan pada pengalaman semua wanita atau hanya wanita kulit putih. AI membantu memastikan fondasi data kita mencakup pasien yang paling banyak memperoleh manfaat dari kemajuan dalam perawatan kesehatan dan teknologi.

Meskipun mungkin ada kondisi di mana ras dan etnis dapat menjadi faktor yang berdampak, kita harus berhati-hati untuk mengetahui bagaimana dan kapan faktor tersebut harus dipertimbangkan dan kapan kita hanya mengandalkan bias historis untuk menginformasikan persepsi dan algoritma AI kita.

Menyediakan strategi pencegahan yang adil

Solusi AI dapat dengan mudah mengabaikan kondisi tertentu di komunitas terpinggirkan tanpa pertimbangan cermat terhadap potensi bias. Misalnya, Veterans Administration tengah mengerjakan beberapa algoritme untuk memprediksi dan mendeteksi tanda-tanda penyakit jantung dan serangan jantung. Ini memiliki potensi penyelamatan nyawa yang luar biasa, tetapi sebagian besar penelitian secara historis tidak melibatkan banyak wanita, yang penyakit kardiovaskularnya merupakan penyebab kematian nomor satu. Oleh karena itu, tidak diketahui apakah model ini efektif untuk wanita, yang sering kali menunjukkan gejala yang jauh berbeda dari pria.

Melibatkan sejumlah perempuan dalam kumpulan data ini dapat membantu mencegah beberapa 3.2 juta serangan jantung dan setengah juta kematian akibat penyakit jantung setiap tahunnya pada wanita melalui deteksi dini dan intervensi. Demikian pula, alat AI baru menghilangkan algoritma berbasis ras dalam skrining penyakit ginjal, yang secara historis mengecualikan warga kulit hitam, Hispanik, dan penduduk asli Amerika, yang mengakibatkan keterlambatan perawatan dan hasil klinis yang buruk.

Alih-alih mengecualikan individu yang terpinggirkan, AI sebenarnya dapat membantu memperkirakan risiko kesehatan bagi populasi yang kurang terlayani dan memungkinkan penilaian risiko yang dipersonalisasi untuk menargetkan intervensi dengan lebih baik. Datanya mungkin sudah ada; yang perlu dilakukan hanyalah "menyetel" model untuk menentukan bagaimana ras, jenis kelamin, dan faktor demografi lainnya memengaruhi hasil—jika memang ada.

Merampingkan tugas administratif

Selain memengaruhi hasil pasien secara langsung, AI memiliki potensi luar biasa untuk mempercepat alur kerja di balik layar guna mengurangi kesenjangan. Misalnya, perusahaan dan penyedia layanan kesehatan telah menggunakan AI untuk mengisi kesenjangan pada pengkodean dan pengambilan keputusan klaim, memvalidasi kode diagnosis terhadap catatan dokter, dan mengotomatiskan proses pra-otorisasi untuk prosedur diagnostik umum.

Dengan menyederhanakan fungsi-fungsi ini, kami dapat mengurangi biaya operasional secara drastis, membantu kantor penyedia layanan beroperasi lebih efisien, dan memberikan staf lebih banyak waktu untuk dihabiskan bersama pasien, sehingga membuat perawatan kesehatan jauh lebih terjangkau dan mudah diakses.

Kita masing-masing memiliki peran penting untuk dimainkan

Fakta bahwa kita memiliki alat-alat luar biasa ini membuat kita semakin perlu menggunakannya untuk membasmi dan mengatasi bias dalam perawatan kesehatan. Sayangnya, tidak ada badan sertifikasi di AS yang mengatur upaya penggunaan AI untuk "menghilangkan bias" dalam pemberian layanan kesehatan, dan bahkan bagi organisasi yang telah mengajukan pedoman, tidak ada insentif regulasi untuk mematuhinya.

Oleh karena itu, tanggung jawab berada pada kita sebagai praktisi AI, ilmuwan data, pembuat algoritma dan pengguna untuk mengembangkan strategi yang sadar guna memastikan inklusivitas, keberagaman data, dan penggunaan yang adil atas alat dan wawasan ini.

Untuk melakukan hal itu, integrasi dan interoperabilitas yang akurat sangat penting. Dengan begitu banyak sumber data—mulai dari perangkat yang dapat dikenakan dan penyedia laboratorium dan pencitraan pihak ketiga hingga perawatan primer, pertukaran informasi kesehatan, dan catatan rawat inap—kita harus mengintegrasikan semua data ini sehingga bagian-bagian penting disertakan, terlepas dari format sumber kita. Industri ini membutuhkan normalisasi data, standardisasi, dan pencocokan identitas untuk memastikan data pasien yang penting disertakan, bahkan dengan ejaan nama yang berbeda atau konvensi penamaan berdasarkan berbagai budaya dan bahasa.

Kita juga harus membangun penilaian keberagaman ke dalam proses pengembangan AI kita dan memantau "penyimpangan" dalam metrik kita dari waktu ke waktu. Praktisi AI memiliki tanggung jawab untuk menguji kinerja model di seluruh subkelompok demografis, melakukan audit bias, dan memahami bagaimana model membuat keputusan. Kita mungkin harus melampaui asumsi berbasis ras untuk memastikan analisis kita mewakili populasi yang kita bangun. Misalnya, anggota Suku Indian Pima yang tinggal di Reservasi Sungai Gila di Arizona memiliki tingkat obesitas dan diabetes tipe 2 yang sangat tinggi, sementara anggota suku yang sama yang tinggal di seberang perbatasan di pegunungan Sierra Madre di Meksiko memiliki tingkat obesitas dan diabetes yang jauh lebih rendah, membuktikan bahwa genetika bukanlah satu-satunya faktor.

Terakhir, kita memerlukan organisasi seperti American Medical Association, Office of the National Coordinator for Health Information Technology, dan organisasi spesialis seperti American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology, dan banyak lainnya untuk bekerja sama menetapkan standar dan kerangka kerja untuk pertukaran data dan ketajaman guna mencegah bias.

Dengan menstandardisasi pembagian data kesehatan dan memperluas HTI-1 dan HTI-2 dengan mewajibkan pengembang untuk bekerja sama dengan badan akreditasi, kami membantu memastikan kepatuhan dan memperbaiki kesalahan ketidakadilan di masa lalu. Lebih jauh, dengan mendemokratisasi akses ke data pasien yang lengkap dan akurat, kami dapat menyingkirkan hal-hal yang menghambat bias dan menggunakan AI untuk mengatasi kesenjangan perawatan melalui wawasan yang lebih komprehensif dan objektif.