Mengatasi Skeptisisme AI di Bidang Kesehatan: Mengatasi Hambatan untuk Komunikasi yang Aman

Pemimpin bidang kesehatan sangat ingin mengadopsi AI, sebagian untuk tetap bersaing dengan kompetitor dan industri lain, tetapi yang lebih penting, untuk meningkatkan efisiensi dan memperbaiki pengalaman pasien. Namun, hanya 77% pemimpin bidang kesehatan yang benar-benar percaya bahwa AI dapat memberikan manfaat bagi bisnis mereka.

Sementara chatbot AI sangat baik dalam menangani tugas rutin, memproses data, dan meringkas informasi, industri kesehatan yang sangat diatur ini paling khawatir tentang keandalan dan akurasi data yang dimasukkan ke dalam dan diinterpretasikan oleh alat-alat ini. Tanpa penggunaan dan pelatihan karyawan yang tepat, pelanggaran data menjadi ancaman yang lebih mendesak.

Meskipun demikian, 95% pemimpin bidang kesehatan berencana untuk meningkatkan anggaran AI hingga 30% pada 2025, dengan model bahasa besar (LLM) muncul sebagai salah satu alat yang paling dipercaya. Ketika LLM matang, 53% pemimpin bidang kesehatan telah menerapkan kebijakan formal untuk membantu tim mereka beradaptasi dengan mereka, dan 39% lainnya berencana untuk menerapkan kebijakan tersebut segera.

Bagi penyedia layanan kesehatan yang ingin menyederhanakan layanan komunikasi dengan AI tetapi masih ragu-ragu untuk melakukannya, berikut beberapa rekomendasi untuk mengatasi hambatan yang paling umum.

1.   Latih AI dengan Sumber Medis yang Dapat Dipercaya

Sementara pemimpin bidang kesehatan mungkin tidak secara langsung terlibat dalam pelatihan AI, mereka harus memainkan peran penting dalam mengawasi implementasinya. Mereka harus memastikan bahwa penyedia chatbot melatih dan memperbarui AI mereka dengan sumber yang kredibel.

Data kesehatan digital yang kaya dan terstruktur yang ditangkap oleh catatan kesehatan elektronik (EHR) wajib menawarkan repositori data kesehatan digital yang luas yang sekarang dapat digunakan sebagai dasar untuk melatih algoritma AI. LLM yang canggih dapat memahami penelitian medis, analisis teknis, tinjauan literatur, dan penilaian kritis. Namun, daripada melatih alat-alat ini dengan semua data sekaligus, bukti baru menunjukkan bahwa fokus pada sejumlah kecil interseksi dapat memaksimalkan kinerja AI sambil menjaga biaya pelatihan tetap rendah.

2.   Pastikan Praktik Data yang Sesuai dengan HIPAA

Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA) mengatur standar untuk melindungi informasi kesehatan pasien yang sensitif (PHI). Untuk sesuai dengan peraturan ini, pemimpin bidang kesehatan harus memastikan vendor pihak ketiga:

• Mengumpulkan hanya jumlah minimum PHI yang diperlukan untuk tujuan chatbot.
• Memberikan akses ke PHI hanya kepada personil yang berwenang dengan kebijakan kata sandi dan autentikasi yang kuat.
• Menggunakan teknik enkripsi yang kuat untuk melindungi PHI baik saat istirahat maupun saat transmisi.
• Menyimpan data yang diperlukan di server yang sesuai dengan HIPAA dengan kontrol akses yang kuat.
• Memastikan mereka menandatangani perjanjian asosiasi bisnis (BAAs) untuk mematuhi HIPAA.
• Mengajukan rencana respons mereka untuk insiden keamanan.

Pemimpin bidang kesehatan yang menggunakan alat-alat ini harus secara teratur memeriksa laporan akses—langkah yang juga mudah untuk diotomatisasi dengan AI—dan mengirimkan peringatan kepada manajemen jika terjadi aktivitas yang tidak biasa.

Lebih lagi, mereka harus memperoleh persetujuan yang jelas dan terinformasi dari pasien sebelum mengumpulkan dan menggunakan PHI mereka. Ketika meminta persetujuan, komunikasikan bagaimana data pasien akan digunakan dan dilindungi.

3.   Antarmuka yang Dirancang dengan Baik untuk Meningkatkan Alur Kerja

Salah satu hambatan terbesar ketika beralih ke EHR wajib adalah kegunaan teknologi. Dokter tidak puas dengan waktu yang dihabiskan untuk tugas-tugas administratif ketika mereka beradaptasi dengan alur kerja yang rumit, meningkatkan risiko kelelahan profesional dan kemungkinan membuat kesalahan yang dapat mempengaruhi pengobatan pasien.

Ketika bekerja dengan vendor pihak ketiga, mintalah demo dan pendapat kedua sebelum memilih platform atau solusi perangkat lunak AI. Jangan lupa untuk bertanya apakah produk mereka memungkinkan kustomisasi yang menyesuaikan dengan program saat ini sehingga Anda dapat mengintegrasikan fitur siap pakai yang paling sesuai dengan alur kerja Anda.

Desain yang berfokus pada pengguna dan format data serta protokol yang standar akan membantu memfasilitasi pertukaran informasi yang lancar di seluruh teknologi kesehatan dan platform AI. Dengan standar ini, algoritma AI dapat diintegrasikan secara bermakna ke dalam perawatan klinis di berbagai pengaturan kesehatan. Protokol yang mapan juga membantu alat-alat ini berfungsi lebih baik dengan memfasilitasi interoperabilitas dan memungkinkan akses ke dataset yang lebih besar dan lebih beragam.

4.   Penggunaan yang Tepat dan Pelatihan Karyawan

Sebuah studi pada 2024 menemukan bahwa saran medis yang diberikan oleh ‘dokter manusia dan AI’ sebenarnya lebih komprehensif tetapi kurang empatik daripada yang diberikan oleh ‘dokter manusia’ saja. Untuk menjembatani kesenjangan ini, pemimpin bidang kesehatan harus memahami kemampuan dan keterbatasan AI dan memastikan pengawasan dan intervensi manusia yang tepat.

Pemimpin bidang kesehatan dapat menyematkan chatbot di situs web dan aplikasi pasien mereka untuk menawarkan pengguna akses instan ke informasi medis, membantu dalam diagnosis mandiri dan pendidikan kesehatan. Alat-alat ini dapat mengirimkan pengingat tepat waktu kepada pasien untuk mengisi ulang resep mereka, membantu pasien mematuhi rencana pengobatan. Mereka juga dapat membantu mengklasifikasikan pasien berdasarkan keparahan kondisi mereka, membantu penyedia layanan kesehatan dalam memprioritaskan kasus dan mengalokasikan sumber daya secara efisien.

Namun, alat-alat ini masih dapat mengalami “halusinasi”, dan sangat penting bahwa validator manusia terlibat dalam tugas-tugas yang kompleks. Bekerja dengan ahli pihak ketiga untuk mendefinisikan visi Anda untuk alat komunikasi AI dan membuat alur kerja yang diinginkan. Setelah Anda setuju pada kasus penggunaan, proses manajemen perubahan operasional dan budaya—seperti proses perubahan 8 langkah Kotter—menawarkan peta jalan untuk mengonboard karyawan, pada akhirnya meningkatkan hasil pasien.

5.   Mintalah Chatbot untuk Menangkap Kesalahan

Tidak ada pemimpin bisnis yang ingin membuat kesalahan, tetapi industri kesehatan adalah lingkungan dengan risiko tinggi di mana bahkan kelalaian kecil dapat menyebabkan konsekuensi parah. Namun, bahkan dokter terbaik tidak kebal dari kesalahan medis. AI dapat menjadi alat yang kuat untuk meningkatkan perawatan pasien dengan menangkap kesalahan dan mengisi celah.

Sebuah investigasi pada 2023 yang menggunakan GPT-4 untuk menranskrip dan meringkas percakapan antara pasien dan klinisi kemudian menggunakan chatbot untuk meninjau percakapan untuk kesalahan. Selama validasi, itu menangkap kesalahan dalam indeks massa tubuh (IMT) pasien. Chatbot juga memperhatikan bahwa catatan pasien tidak menyebutkan tes darah yang dipesan, atau alasan untuk memesan mereka.

Contoh ini menunjukkan bahwa AI dapat digunakan sebagai suplemen untuk membantu dokter menangani “halusinasi” AI, penghilangan, dan kesalahan yang dapat digunakan untuk melatih dan memperbaiki aplikasi AI.

AI kesehatan ada untuk mendukung dokter dan perawat, menyederhanakan alur kerja, meningkatkan aksesibilitas pasien ke perawatan, dan meminimalkan kelalaian. Sementara mereka tidak dapat sepenuhnya menggantikan empati, intuisi, dan pengalaman dunia nyata yang penyedia layanan kesehatan manusia bawa ke meja, alat-alat ini menawarkan manfaat analitis dan penghematan waktu yang sangat baik. Ketika pemimpin bidang kesehatan mengambil waktu untuk memastikan kepatuhan yang hati-hati terhadap peraturan HIPAA, komunikasi transparan dengan pasien, dan pelatihan karyawan yang tepat, mereka dapat mengimplementasikan alat-alat ini dengan aman dan percaya diri.