Makalah Menganalisis Cara Mengurangi Risiko Penggunaan AI dalam Kedokteran

Program kecerdasan buatan dapat meningkatkan perawatan kesehatan dengan berbagai cara. Misalnya, aplikasi AI dapat menggunakan penglihatan komputer untuk membantu dokter mendiagnosa kondisi dari sinar-X dan FMRIs. Algoritma pembelajaran mesin juga dapat digunakan untuk membantu mengurangi tingkat positif palsu dengan mengekstrak pola halus dari data yang tidak dapat ditemukan oleh manusia dalam data medis. Namun, dengan kemungkinan tersebut, muncul tantangan baru, dan baru-baru ini sebuah artikel baru diterbitkan di Science yang menganalisis risiko dan strategi pengaturan untuk teknik pembelajaran mesin medis dalam upaya meminimalkan efek sampingan negatif dari penggunaan AI dalam konteks medis.

Pengembangan Aplikasi AI dalam Perawatan Kesehatan

AI melihat aplikasinya dalam bidang medis berkembang pesat. Pengembangan terbaru dalam bidang perawatan kesehatan, yang didorong oleh AI, termasuk pembentukan perusahaan farmasi baru yang bertujuan menggunakan AI untuk menciptakan obat baru, pembentukan sensor kesehatan jarak jauh yang didorong oleh AI, dan aplikasi penglihatan komputer yang menganalisis scan CT dan sinar-X.

Lebih spesifik, Genesis Therapeutics adalah sebuah startup yang bertujuan menggunakan AI untuk mempercepat proses penemuan obat, dengan harapan menciptakan obat yang dapat mengurangi keparahan penyakit yang menghambat. Genesis Therapeutics adalah salah satu dari hampir 170 perusahaan yang menggunakan AI untuk melakukan penelitian formulasi obat baru. Sementara itu, dalam hal perangkat pemantau kesehatan, iRhythm (IRTC ) dan startup AI Perancis Cardiologs menggunakan algoritma AI untuk menganalisis data EEG dan memantau kesehatan orang-orang yang memiliki kondisi jantung yang berisiko mengalami komplikasi. Perangkat lunak yang dirancang oleh perusahaan dapat mendeteksi murmur jantung, sebuah kondisi yang disebabkan oleh aliran darah yang tidak stabil.

Akhirnya, sebuah studi yang baru-baru ini dilakukan untuk menyelidiki bagaimana penglihatan komputer dapat diterapkan pada gambar medis menemukan bahwa sistem penglihatan komputer setidaknya sama baiknya atau lebih baik daripada ahli radiologi ketika memeriksa scan CT untuk menemukan perdarahan kecil. Algoritma yang digunakan dalam studi tersebut dapat membuat prediksi setelah memeriksa scan CT selama satu detik. Sistem penglihatan komputer juga dapat melokalisasi perdarahan dalam otak.

Jadi, sementara manfaat potensial dari penggunaan AI dalam perawatan kesehatan jelas, apa yang kurang jelas adalah tantangan dan risiko baru yang akan muncul sebagai akibat dari penggunaan AI dalam bidang perawatan kesehatan.

Mengatur Bidang yang Berkembang

Sebagaimana dilaporkan oleh TechXplore, untuk menilai kemungkinan kelemahan penggunaan AI dalam perawatan kesehatan, sebuah kelompok peneliti baru-baru ini menerbitkan sebuah makalah di Science, dengan tujuan untuk mendapatkan jawaban atas masalah potensial dengan AI dan menjelajahi solusi potensial untuk masalah tersebut. Masalah yang mungkin timbul dari penggunaan AI dalam bidang perawatan kesehatan termasuk rekomendasi pengobatan yang tidak tepat yang dapat menyebabkan cedera, kekhawatiran privasi, dan bias algoritma/ketidaksetaraan.

Badan Pengawas Obat dan Makanan (FDA) hanya menyetujui AI medis yang menggunakan “algoritma terkunci”, yaitu algoritma yang secara konsisten menghasilkan hasil yang sama setiap kali dijalankan. Namun, banyak potensi AI terletak pada kemampuannya untuk belajar dan merespons input baru. Untuk memungkinkan “algoritma adaptif” digunakan lebih luas dan disetujui oleh FDA, penulis makalah tersebut melakukan analisis mendalam tentang bagaimana risiko yang terkait dengan pembaruan algoritma dapat diminimalkan.

Penulis makalah tersebut menyarankan bahwa insinyur dan peneliti pembelajaran mesin harus fokus pada pemantauan terus-menerus model selama masa penggunaannya. Di antara alat yang disarankan untuk memantau sistem AI adalah AI itu sendiri, yang dapat membantu memberikan laporan otomatis tentang bagaimana AI berperilaku. Juga memungkinkan bahwa beberapa perangkat AI dapat memantau satu sama lain.

“Untuk mengelola risiko, regulator harus fokus khusus pada pemantauan terus-menerus dan penilaian risiko, dan kurang pada perencanaan untuk perubahan algoritma di masa depan,” kata penulis makalah tersebut.

Penulis makalah tersebut juga menyarankan bahwa regulator harus fokus pada mengembangkan metode baru untuk mengidentifikasi, memantau, menilai, dan mengelola risiko. Makalah tersebut menerapkan banyak teknik yang telah digunakan oleh FDA untuk mengatur bentuk teknologi medis lainnya.

Sebagaimana penulis makalah tersebut menjelaskan:

“Tujuan kami adalah untuk menekankan risiko yang dapat timbul dari perubahan yang tidak terduga dalam cara sistem AI/ML medis bereaksi atau beradaptasi dengan lingkungannya. Pembaruan parametric yang halus, sering tidak diakui, atau jenis data baru dapat menyebabkan kesalahan besar dan mahal.”