Kecerdasan Buatan Dalam Perawatan Kesehatan Bisa Membawa Risiko Bersama dengan Peluang

Kecerdasan Buatan (AI) memiliki potensi luar biasa dalam bidang perawatan kesehatan, mampu memperbaiki diagnosis dan menemukan obat-obatan baru yang lebih efektif. Namun, sebuah artikel di Scientific American baru-baru ini membahas, kecepatan dengan mana AI memasuki bidang perawatan kesehatan juga membuka banyak tantangan dan risiko baru.

Selama lima tahun terakhir, Badan Pengawas Obat dan Makanan Amerika Serikat (FDA) telah menyetujui lebih dari 40 produk AI yang berbeda. Namun, seperti dilaporkan oleh Scientific American, tidak satu pun dari produk tersebut yang telah dievaluasi performanya dalam uji klinis acak terkontrol. Banyak alat medis AI tidak memerlukan persetujuan dari FDA.

Evan Topol, penulis “Deep Medicine: Bagaimana Kecerdasan Buatan Dapat Membuat Perawatan Kesehatan Lebih Manusia”, menyatakan kepada Scientific American bahwa banyak produk AI yang mengklaim efektif dalam tugas seperti mendiagnosis penyakit sebenarnya telah diuji secara ketat, dengan uji acak besar pertama dari alat deteksi dan diagnosis AI dilakukan bulan Oktober lalu. Selain itu, sangat sedikit startup teknologi yang menerbitkan makalah penelitian mereka di jurnal peer-review, tempat di mana pekerjaan mereka akan dianalisis oleh ilmuwan.

Ketika diuji dan dikontrol dengan benar, sistem AI dapat menjadi alat yang kuat yang dapat membantu para profesional medis mendeteksi gejala yang tidak terlihat, memperbaiki hasil kesehatan.

Sebagai contoh, alat AI untuk mendeteksi penyakit mata diabetes telah diuji pada ratusan pasien dan tampaknya membuktikan keandalannya. Perusahaan yang bertanggung jawab atas pengujian bekerja sama dengan FDA selama delapan tahun untuk memperbaiki produk tersebut. Pengujian, IDx-DR, sedang dalam proses menuju klinik perawatan primer di mana dapat membantu mendeteksi tanda-tanda awal retinopati diabetes, merujuk pasien ke spesialis mata jika gejala dicurigai.

Jika tidak diuji dengan hati-hati, sistem AI yang digunakan oleh para profesional medis untuk membantu diagnosis dan pengobatan dapat menyebabkan kerusakan daripada menghindarinya.

Artikel Scientific American menjelaskan satu masalah potensial dengan mengandalkan AI untuk mendiagnosis penyakit, dengan menunjuk contoh AI yang dirancang untuk menganalisis sinar-X dada dan mendeteksi pasien yang mungkin mengembangkan pneumonia. Meskipun sistem tersebut terbukti akurat ketika diuji di Rumah Sakit Mount Sinai di New York, sistem tersebut gagal ketika diuji pada gambar yang diambil di rumah sakit lain. Peneliti menemukan bahwa AI membedakan antara gambar yang dihasilkan oleh sistem sinar-X portabel dan yang dihasilkan di departemen radiologi. Dokter menggunakan sinar-X portabel pada pasien yang seringkali terlalu sakit untuk meninggalkan tempat tidurnya, dan pasien tersebut berisiko lebih tinggi mengembangkan pneumonia.

Peringatan palsu juga merupakan kekhawatiran. DeepMind menciptakan aplikasi AI seluler yang dapat memprediksi kegagalan ginjal akut pada pasien yang dirawat di rumah sakit hingga 48 jam sebelumnya. Namun, sistem tersebut dilaporkan juga menghasilkan dua peringatan palsu untuk setiap kegagalan ginjal yang berhasil diprediksi. Peringatan palsu dapat berbahaya karena dapat mendorong dokter untuk menghabiskan waktu dan sumber daya yang tidak perlu untuk melakukan tes lebih lanjut atau mengubah pengobatan yang telah ditentukan.

Dalam kejadian lain, satu sistem AI salah mengakhiri bahwa pasien yang menderita pneumonia lebih mungkin untuk bertahan hidup jika mereka memiliki asma, yang dapat menyebabkan dokter mengubah pengobatan untuk pasien dengan asma.

Sistem AI yang dikembangkan untuk satu rumah sakit seringkali berperforma buruk ketika digunakan di rumah sakit lain. Ada beberapa penyebab untuk ini. Salah satunya, sistem AI sering dilatih pada catatan kesehatan elektronik, tetapi banyak catatan kesehatan elektronik seringkali tidak lengkap atau salah karena tujuan utamanya adalah untuk billing dan bukan untuk perawatan pasien. Sebagai contoh, satu penyelidikan yang dilakukan oleh KHN menemukan bahwa terkadang ada kesalahan yang mengancam jiwa dalam catatan medis pasien, seperti daftar obat yang mengandung obat yang tidak tepat. Selain itu, penyakit seringkali lebih kompleks, dan sistem kesehatan lebih rumit, daripada yang dapat diprediksi oleh insinyur dan ilmuwan AI.

Ketika AI menjadi semakin meluas, akan sangat penting bagi pengembang AI untuk bekerja sama dengan otoritas kesehatan untuk memastikan bahwa sistem AI mereka telah diuji dengan baik dan untuk badan pengawas memastikan bahwa standar ditetapkan dan diikuti untuk keandalan alat diagnostik AI.