LLM yang Tidak Tercekik dan Konundrum Kepatuhan dalam Perawatan Kesehatan

Di seluruh industri, kecerdasan buatan (AI) generatif telah mencapai kemajuan pesat dalam waktu yang relatif singkat. Kemajuan ini didorong oleh model dasar, yang Laporan California tentang Kebijakan AI Frontier mendefinisikan sebagai, “sebuah kelas teknologi tujuan umum yang intensif sumber daya untuk diproduksi, memerlukan sejumlah besar data dan komputasi untuk menghasilkan kemampuan yang dapat memberdayakan berbagai aplikasi AI hilir.”

Model bahasa besar (LLM) tujuan umum ini, seperti Gemini dan ChatGPT, menunjukkan kemampuan yang semakin besar untuk mereplikasi dan melebihi kemampuan kognitif manusia di bidang seperti analisis data, penulisan, dan penalaran. Di bidang kesehatan secara khusus, adopsi AI generatif meningkat karena para klinisi dan profesional kesehatan lainnya melihat teknologi ini untuk mengurangi beban administratif, mempercepat operasi, dan bahkan mendukung pengambilan keputusan klinis.

Namun, sementara teknologi ini menawarkan janji besar, adopsi AI generatif di bidang kesehatan juga menimbulkan risiko kepatuhan yang signifikan jika tidak diimplementasikan atau digunakan secara bertanggung jawab. Terutama, penggunaan LLM tujuan umum membawa risiko kepatuhan khusus yang harus dipahami secara menyeluruh oleh organisasi kesehatan untuk mencegah pelanggaran privasi atau keamanan. Model-model ini mungkin bergantung pada sumber data yang tidak diverifikasi, menggunakan informasi kesehatan pasien dengan cara yang tidak sah, atau memperkuat bias dan/atau informasi yang tidak akurat.

Untuk mempertahankan privasi data pasien, tetap mematuhi peraturan yang berkembang, dan meminimalkan risiko yang mahal, para pemimpin kesehatan harus mengambil pendekatan yang tegas untuk melepaskan “bom waktu” kepatuhan dari penggunaan LLM yang “tidak tercekik”.

Keadaan Saat Ini Penggunaan LLM Tujuan Umum di Bidang Kesehatan

Di seluruh bidang kesehatan, staf semakin banyak menggunakan LLM untuk mendukung tugas sehari-hari, dari pekerjaan administratif hingga komunikasi pasien. LLM multimodal juga memperluas aplikasi ini dengan kemampuan mereka untuk dengan mudah memproses teks, gambar, dan audio. Selain dukungan administratif, kita juga melihat peningkatan penyedia yang berpaling ke teknologi ini untuk mendukung tidak hanya pekerjaan klerikal, tetapi juga tugas klinis.

Model-model ini sudah menunjukkan apa yang mungkin dianggap sebagai hasil yang mengesankan, dengan beberapa studi menunjukkan bahwa kinerja LLM memenuhi atau bahkan melebihi kemampuan manusia di bidang tertentu. Misalnya, model GPT-4 lulus Ujian Lisensi Medis Amerika Serikat dengan skor keseluruhan 86,7%.

AI hibrid adalah pendekatan lain yang muncul dalam penggunaan AI generatif di bidang kesehatan yang menggabungkan pembelajaran mesin (ML) dan LLM untuk menangani analisis yang kompleks dan menerjemahkan hasil menjadi bahasa yang sederhana. Dengan mengintegrasikan kedua model, pendekatan ini berusaha untuk mengatasi kelemahan LLM, termasuk halusinasi, ketidakakuratan, dan bias, sementara memanfaatkan kekuatannya. AI agen juga meningkat dalam adopsi karena kemampuannya untuk mengotomatisasi tugas kunci tanpa input manusia, seperti merespons pesan pasien atau menjadwalkan janji temu.

Namun, potensi AI juga menyoroti kebutuhan yang mendesak untuk tata kelola yang lebih proaktif. Semakin terintegrasi alat-alat ini menjadi operasi kesehatan, semakin tinggi taruhan untuk memastikan akurasi, keamanan, dan kepatuhan.

Risiko Kepatuhan LLM Tujuan Umum di Bidang Kesehatan

Sementara adopsi digital di bidang kesehatan telah membuka kemungkinan baru, hal ini juga telah memaparkan kerentanan kunci. Antara 1 November 2023 dan 31 Oktober 2024, misalnya, sektor kesehatan mengalami 1.710 insiden keamanan, 1.542 di antaranya melibatkan pengungkapan data yang dikonfirmasi.

Era AI memperdalam retakan ini, menambahkan lapisan kompleksitas baru pada privasi dan keamanan data. Lebih khusus, penggunaan LLM tujuan umum di bidang kesehatan menimbulkan beberapa risiko kepatuhan kunci:

Risiko #1: Pengembangan Opaque-box Mencegah Pemantauan atau Verifikasi Terus-Menerus

Model tertutup kekurangan transparansi tentang proses pengembangannya, seperti data spesifik yang digunakan dalam proses pelatihan atau bagaimana pembaruan dilakukan. Ketiadaan transparansi ini mencegah pengembang dan peneliti untuk memahami asal-usul risiko keamanan atau proses pengambilan keputusan. Akibatnya, model LLM tertutup dapat memungkinkan penggunaan sumber data medis yang tidak diverifikasi dan membiarkan kerentanan keamanan tidak tercekik.

Risiko #2: Kebocoran Data Pasien

LLM tidak selalu bergantung pada data pasien yang dideidentifikasi. Prompt khusus atau interaksi bisa mengungkapkan informasi kesehatan yang dapat diidentifikasi, menciptakan potensi pelanggaran HIPAA.

Risiko #3: Perpetuasi Bias dan Informasi yang Tidak Akurat

Dalam satu eksperimen, peneliti menyuntikkan sejumlah kecil fakta yang salah ke dalam basis pengetahuan model biomedis, sementara mempertahankan perilakunya di semua domain lain. Peneliti menemukan bahwa informasi yang salah disebarkan di seluruh output model, menyoroti kerentanan LLM terhadap serangan informasi yang salah.

Setiap cacat yang ditemukan dalam model dasar diwarisi oleh semua model yang diadopsi dan aplikasi yang dihasilkan dari induk. Perbedaan dalam output mungkin memperburuk ketidaksetaraan kesehatan, seperti saran yang tidak akurat untuk kelompok yang kurang terwakili.

Risiko #4: Ketidaksesuaian Regulasi

Penggunaan LLM tujuan umum mungkin tidak sesuai dengan HIPAA, GDPR, atau peraturan AI khusus yang berkembang, terutama jika vendor tidak dapat memvalidasi data pelatihan. Risiko ini diperburuk oleh karyawan organisasi kesehatan yang menggunakan alat AI yang tidak disetujui atau tidak dipantau, atau AI bayangan. Menurut IBM, 20% organisasi yang disurvei di semua sektor mengalami pelanggaran karena insiden keamanan yang melibatkan AI bayangan.

Pada akhirnya, risiko LLM tujuan umum di bidang kesehatan memiliki implikasi dunia nyata, termasuk tindakan hukum, kerusakan reputasi, kehilangan kepercayaan pasien, dan biaya litigasi.

Praktik Terbaik: Pedoman dan Pertimbangan LLM

Untuk mengadopsi AI generatif secara bertanggung jawab, para pemimpin kesehatan harus menetapkan batasan yang jelas yang melindungi pasien dan organisasi. Praktik terbaik berikut dapat membantu organisasi kesehatan membangun fondasi untuk penggunaan AI yang bertanggung jawab dan patuh:

Praktik Terbaik #1: Pilih Teknologi AI dengan Bijak

Tuntut kejelasan dari vendor tentang bagaimana teknologi AI dikembangkan dan apa sumber data yang digunakan dalam proses pengembangan. Prioritaskan alat yang hanya menggunakan konten medis yang diverifikasi oleh ahli, memiliki proses pengambilan keputusan yang transparan, dan menghindari pelatihan model pada informasi kesehatan pasien.

Praktik Terbaik #2: Bangun Pengawasan Manusia dalam Lingkaran

Pastikan para klinisi meninjau semua output yang dihasilkan AI yang dapat mempengaruhi keputusan perawatan. AI dapat menjadi alat yang kuat, tetapi dalam industri yang memiliki dampak langsung pada kehidupan pasien, pengawasan klinis adalah kunci untuk memastikan penggunaan yang bertanggung jawab dan akurasi informasi yang dibantu AI.

Praktik Terbaik #3: Pelatihan dan Kesiapan Tenaga Kerja

Edukasi para klinisi dan staf tentang manfaat dan risiko penggunaan AI untuk mengurangi adopsi AI bayangan. Staf kesehatan sedang menghadapi tenaga kerja yang kompleks, terbebani oleh kekurangan staf, dan tingkat kelelahan yang tinggi. Mempermudah proses pendidikan AI membantu memastikan kepatuhan tanpa menambah beban kerja mereka.

Praktik Terbaik #4: Bangun Budaya Tata Kelola

Integrasikan evaluasi pihak ketiga dari solusi AI untuk memverifikasi keamanan, keandalan, dan kepatuhan. Bersamaan dengan itu, implementasikan kerangka kerja yang jelas dan menyeluruh untuk pengawasan AI yang mendefinisikan persetujuan, penggunaan, dan pemantauan untuk lebih meningkatkan kepercayaan pada teknologi dan mencegah staf menggunakan alat yang tidak sah.

Praktik Terbaik #5: Selaraskan dengan Kepemimpinan pada Pengawasan AI

Kolaborasi dengan kepemimpinan untuk tetap mendahului peraturan yang berkembang, serta pedoman dari FDA dan ONC. Upaya regulasi sedang muncul di tingkat negara bagian. Misalnya, California mengeluarkan Undang-Undang Transparansi AI Frontier, yang menekankan pengungkapan risiko, transparansi, dan mitigasi, terutama di lingkungan kesehatan, dan ada juga Undang-Undang AI Colorado (CAIA), yang dirancang untuk mencegah diskriminasi algoritmik.

Praktik Terbaik #6: Pemantauan Terus-Menerus dan Umpan Balik

Penggunaan AI dalam lingkungan kesehatan tidak boleh dianggap dengan mindset “setel dan lupakan”. Membangun kerangka kerja untuk pemantauan terus-menerus dapat membantu memastikan akurasi alat AI, memperkuat akuntabilitas, dan mempertahankan kepatuhan seiring waktu.

Praktik Terbaik #7: Tindak Lanjut Kemitraan untuk Mengoptimalkan Pengawasan dan Penelitian

Organisasi kesehatan harus memanfaatkan kemitraan dengan regulator dan sektor publik untuk memaksimalkan pengawasan, menyumbangkan perspektif industri mereka ke standar keamanan, dan menggabungkan sumber daya ahli.

Membangun Kepercayaan Melalui Kepemimpinan Kepatuhan

Pembeda solusi AI di bidang kesehatan akan semakin bergantung pada kualitas konten ahli, integritas proses evaluasi, dan integrasi yang bertanggung jawab ke dalam alur kerja klinis. Fase berikutnya dari adopsi AI akan bergantung lebih sedikit pada kode dan lebih banyak pada kepemimpinan kepatuhan.

Kepercayaan sama pentingnya dengan kepatuhan itu sendiri. Agar teknologi ini benar-benar efektif, pasien dan penyedia harus percaya bahwa AI aman dan sejalan dengan perawatan yang berkualitas tinggi dan etis. Kepemimpinan kepatuhan adalah keunggulan strategis, bukan hanya langkah pertahanan. Organisasi yang berpikiran ke depan yang menetapkan batasan awal, sebelum insiden merugikan terjadi, akan membedakan diri mereka sendiri di masa depan kesehatan yang ditenagai AI.