Kapan Harus Menghindari AI dalam Layanan Kesehatan

Setiap kali kemajuan teknologi baru masuk ke dalam suatu industri, ada godaan untuk menjadikan mainan baru yang mengilap itu sebagai anekdot untuk semua masalah dalam suatu industri. AI dalam perawatan kesehatan adalah contoh yang bagus. Seiring dengan kemajuan teknologi, teknologi ini telah diadopsi untuk kasus penggunaan dalam pengembangan obat, koordinasi perawatan, dan penggantian biaya, dan masih banyak lagi. Ada banyak kasus penggunaan yang sah untuk AI dalam perawatan kesehatan, di mana teknologinya jauh lebih baik daripada alternatif yang tersedia saat ini.

Namun, AI—seperti yang ada saat ini—hanya unggul dalam tugas-tugas tertentu, seperti memahami kumpulan data yang besar dan membuat penilaian berdasarkan aturan-aturan yang ditetapkan dengan baik. Situasi-situasi lain, khususnya di mana konteks tambahan sangat penting untuk membuat keputusan yang tepat, tidak cocok untuk AIMari kita bahas beberapa contoh.

Menolak Klaim dan Perawatan

Baik untuk klaim atau perawatan, penolakan adalah keputusan yang rumit, dan terlalu penting untuk ditangani oleh AI sendiri. Saat menolak klaim atau perawatan, ada keharusan moral yang jelas untuk melakukannya dengan sangat hati-hati, dan berdasarkan kemampuan AI saat ini, hal itu memerlukan masukan manusia.

Di luar unsur moralitas, rencana kesehatan menempatkan diri mereka pada risiko ketika mereka terlalu bergantung pada AI untuk membuat keputusan penolakan. Rencana dapat, dan sedang, menghadapi tuntutan hukum, karena menggunakan AI secara tidak tepat untuk menolak klaim, dengan proses pengadilan menuduh rencana tersebut tidak memenuhi persyaratan minimum untuk tinjauan dokter karena AI digunakan sebagai gantinya.

Mengandalkan Keputusan Masa Lalu

Mempercayai AI untuk membuat keputusan hanya berdasarkan pada bagaimana AI membuat keputusan sebelumnya memiliki kelemahan yang jelas: satu keputusan yang salah dari masa lalu akan terus memengaruhi orang lain. Ditambah lagi, karena aturan kebijakan yang menginformasikan AI sering kali didistribusikan di seluruh sistem atau dikodifikasikan secara tidak sempurna oleh manusia, sistem AI dapat berakhir dengan mengadopsi, dan kemudian mengabadikan, pemahaman yang tidak tepat tentang kebijakan ini. Untuk menghindari hal ini, organisasi perlu membuat satu sumber kebenaran kebijakan, sehingga AI dapat merujuk dan belajar dari kumpulan data yang andal.

Membangun Sistem Lama

Sebagai teknologi yang relatif baru, AI menghadirkan kemungkinan, dan banyak tim ilmu data rencana kesehatan ingin segera memanfaatkan kemungkinan itu dengan memanfaatkan alat AI yang sudah ada di platform perusahaan yang ada. Masalahnya adalah proses klaim perawatan kesehatan sangat rumit, dan platform perusahaan sering kali tidak memahami seluk-beluknya. Menerapkan AI di atas platform lama ini sebagai solusi yang cocok untuk semua (yang tidak memperhitungkan semua berbagai faktor yang memengaruhi keputusan klaim) akhirnya menyebabkan kebingungan dan ketidakakuratan, alih-alih menciptakan proses yang lebih efisien.

Bersandar pada Data Lama

Salah satu manfaat terbesar AI adalah AI semakin pandai mengatur tugas saat belajar, tetapi pembelajaran hanya dapat terjadi jika ada umpan balik yang konsisten yang membantu AI memahami kesalahannya sehingga dapat menyesuaikannya. Umpan balik tersebut tidak hanya harus konstan, tetapi juga harus berdasarkan data yang bersih dan akurat. Bagaimanapun, AI hanya sebaik data yang dipelajarinya.

Ketika AI dalam Layanan Kesehatan Bermanfaat

Penggunaan AI di sektor yang output-nya sangat penting seperti perawatan kesehatan tentu memerlukan kehati-hatian, tetapi itu tidak berarti tidak ada kasus penggunaan di mana AI masuk akal.

Untuk satu, tidak ada kekurangan data dalam perawatan kesehatan (pertimbangkan bahwa catatan medis satu orang bisa berisi ribuan halaman), dan pola dalam data tersebut dapat memberi tahu kita banyak hal tentang cara mendiagnosis penyakit, memutuskan klaim dengan benar, dan banyak lagi. Di sinilah AI unggul, mencari pola dan menyarankan tindakan berdasarkan pola tersebut yang dapat dijalankan oleh peninjau manusia.

Bidang lain di mana AI unggul adalah katalogisasi dan penyerapan kebijakan dan aturan yang mengatur bagaimana klaim dibayarkan. AI generatif (GenAI) dapat digunakan untuk mengubah konten kebijakan ini dari berbagai format menjadi kode yang dapat dibaca mesin yang dapat diterapkan secara konsisten di seluruh semua klaim pasien. GenAI juga dapat digunakan untuk meringkas informasi dan menampilkannya dalam format yang mudah dibaca agar dapat ditinjau oleh manusia.

Benang merah dari semua kasus penggunaan ini adalah bahwa AI digunakan sebagai pendamping bagi manusia yang mengawasinya, bukan menjalankannya sendiri. Selama organisasi dapat mengingat gagasan itu saat menerapkan AI, mereka akan mampu meraih keberhasilan di era di mana layanan kesehatan sedang ditransformasikan oleh AI.