Makalah Menganalisis Cara Mengurangi Risiko Menggunakan AI dalam Kedokteran

Program kecerdasan buatan dapat meningkatkan perawatan kesehatan dengan berbagai cara. Misalnya, aplikasi AI dapat menggunakan penglihatan komputer untuk membantu dokter mendiagnosis kondisi dari sinar-X dan FMRIs. Algoritma pembelajaran mesin juga dapat digunakan untuk membantu mengurangi tingkat positif palsu dengan mengekstrak pola halus dari data yang mungkin tidak dapat ditemukan oleh manusia dalam data medis. Namun, dengan kemungkinan tersebut, muncul tantangan baru, dan baru-baru ini sebuah artikel baru diterbitkan di Science yang menganalisis kemungkinan risiko dan strategi regulasi untuk teknik pembelajaran mesin medis dalam upaya meminimalkan efek sampingan negatif dari menggunakan AI dalam konteks medis.

Perluasan Aplikasi AI dalam Perawatan Kesehatan

AI melihat aplikasinya dalam bidang medis berkembang pesat. Pengembangan terbaru di bidang perawatan kesehatan, yang didorong oleh AI, termasuk penciptaan perusahaan farmasi baru yang bertujuan menggunakan AI untuk menciptakan obat baru, penciptaan sensor kesehatan jarak jauh yang didorong oleh AI, dan aplikasi penglihatan komputer yang menganalisis scan CT dan sinar-X.

Lebih tepatnya, Genesis Therapeutics adalah sebuah startup yang bertujuan menggunakan AI untuk mempercepat proses penemuan obat, dengan harapan menciptakan obat yang dapat mengurangi keparahan penyakit yang mengganggu. Genesis Therapeutics hanya salah satu dari hampir 170 perusahaan yang menggunakan AI untuk penelitian formulasi obat baru. Sementara itu, dalam hal perangkat pemantau kesehatan, iRhythm dan startup AI Perancis Cardiologs menggunakan algoritma AI untuk menganalisis data EEG dan memantau kesehatan orang-orang yang memiliki kondisi jantung yang berisiko mengalami komplikasi. Perangkat lunak yang dirancang oleh perusahaan dapat mendeteksi murmur jantung, sebuah kondisi yang disebabkan oleh aliran darah yang tidak stabil.

Akhirnya, sebuah studi baru-baru ini yang menyelidiki bagaimana penglihatan komputer dapat diterapkan pada gambar medis menemukan bahwa sistem penglihatan komputer setidaknya sama baik atau lebih baik daripada ahli radiologi ketika memeriksa scan CT untuk menemukan perdarahan kecil. Algoritma yang digunakan dalam studi dapat membuat prediksi setelah memeriksa scan CT hanya dalam satu detik. Sistem penglihatan komputer juga dapat memlocalisasi perdarahan dalam otak.

Jadi, sementara manfaat potensial dari menggunakan AI dalam perawatan kesehatan jelas, apa yang kurang jelas adalah tantangan dan risiko baru yang akan muncul sebagai efek sampingan dari menggunakan AI dalam bidang perawatan kesehatan.

Mengatur Bidang yang Berkembang

Seperti yang dilaporkan oleh TechXplore, untuk menilai kerugian potensial dari menggunakan AI dalam perawatan kesehatan, sebuah kelompok peneliti baru-baru ini menerbitkan sebuah makalah di Science, dengan tujuan untuk mendapatkan jawaban untuk mengantisipasi masalah potensial dengan AI dan mengeksplorasi solusi potensial untuk masalah-masalah tersebut. Masalah yang mungkin timbul dari menggunakan AI dalam bidang perawatan kesehatan termasuk rekomendasi pengobatan yang tidak tepat yang mengakibatkan cedera, kekhawatiran privasi, dan bias/kesetaraan algoritma.

FDA hanya menyetujui AI medis yang menggunakan “algoritma terkunci”, algoritma yang secara andal menghasilkan hasil yang sama setiap kali dijalankan. Namun, banyak potensi AI terletak pada kemampuannya untuk belajar dan merespons input baru. Untuk memungkinkan “algoritma adaptif” untuk digunakan lebih luas dan mendapatkan persetujuan dari FDA, penulis makalah melakukan analisis mendalam tentang bagaimana risiko yang terkait dengan pembaruan algoritma dapat diminimalkan.

Penulis makalah tersebut menyarankan bahwa insinyur dan peneliti pembelajaran mesin harus fokus pada pemantauan terus-menerus model selama masa penggunaannya. Di antara alat yang disarankan untuk memantau sistem AI adalah AI itu sendiri, yang dapat membantu memberikan laporan otomatis tentang bagaimana AI berperilaku. Juga memungkinkan bahwa beberapa perangkat AI dapat memantau satu sama lain.

“Untuk mengelola risiko, regulator harus fokus terutama pada pemantauan terus-menerus dan penilaian risiko, dan kurang pada perencanaan untuk perubahan algoritma di masa depan,” kata penulis makalah.

Penulis makalah juga merekomendasikan bahwa regulator harus fokus pada mengembangkan metode baru untuk mengidentifikasi, memantau, menilai, dan mengelola risiko. Makalah tersebut menerapkan banyak teknik yang telah digunakan oleh FDA untuk mengatur bentuk teknologi medis lainnya.

Seperti yang dijelaskan oleh penulis makalah:

“Tujuan kami adalah untuk menekankan risiko yang dapat timbul dari perubahan yang tidak terduga dalam cara sistem AI/ML medis bereaksi atau beradaptasi dengan lingkungannya. Pembaruan parametri yang halus, sering tidak dikenali, atau jenis data baru dapat menyebabkan kesalahan besar dan mahal.”