Kecerdasan Buatan Generatif di Industri Kesehatan Membutuhkan Dosis yang Cukup dari Kemampuan Penjelasan

Kecepatan luar biasa yang ditunjukkan oleh alat kecerdasan buatan generatif berbasis teks dalam menyelesaikan tugas-tugas menulis dan komunikasi tingkat tinggi telah memukau perusahaan dan konsumen secara luas. Namun, proses yang terjadi di balik layar untuk memungkinkan kemampuan luar biasa ini dapat membuatnya berisiko bagi industri yang sensitif dan diatur oleh pemerintah, seperti asuransi, keuangan, atau kesehatan, untuk menggunakan kecerdasan buatan generatif tanpa menggunakan kehati-hatian yang cukup.

Beberapa contoh paling ilustratif dari hal ini dapat ditemukan di industri kesehatan.

Masalah-masalah ini biasanya terkait dengan dataset yang luas dan beragam yang digunakan untuk melatih Model Bahasa Besar (LLM) – model yang alat kecerdasan buatan generatif berbasis teks gunakan untuk melakukan tugas-tugas tingkat tinggi. Tanpa intervensi dari luar oleh programmer, LLM ini cenderung mengumpulkan data secara sembarangan dari berbagai sumber di internet untuk memperluas basis pengetahuan mereka.

Pendekatan ini paling sesuai untuk kasus penggunaan yang berorientasi pada konsumen dengan risiko rendah, di mana tujuan akhir adalah untuk mengarahkan pelanggan ke penawaran yang diinginkan dengan presisi. Namun, dataset yang besar dan jalur yang tidak jelas yang diambil oleh model AI untuk menghasilkan output mereka semakin mengaburkan kemampuan penjelasan yang dibutuhkan oleh rumah sakit dan penyedia layanan kesehatan untuk melacak dan mencegah ketidakakuratan potensial.

Dalam konteks ini, kemampuan penjelasan merujuk pada kemampuan untuk memahami logika jalur LLM. Profesional kesehatan yang ingin mengadopsi alat kecerdasan buatan generatif harus memiliki sarana untuk memahami bagaimana model mereka menghasilkan hasil sehingga pasien dan staf dapat dipersenjatai dengan transparansi penuh selama berbagai proses pengambilan keputusan. Dengan kata lain, dalam industri seperti kesehatan, di mana nyawa manusia dipertaruhkan, taruhan terlalu tinggi bagi profesional untuk menafsirkan data yang digunakan untuk melatih alat kecerdasan buatan mereka secara salah.

Syukurlah, ada cara untuk menghindari dilema kemampuan penjelasan kecerdasan buatan generatif – itu hanya membutuhkan sedikit lebih banyak kontrol dan fokus.

Misteri dan Skeptisisme

Dalam kecerdasan buatan generatif, konsep memahami bagaimana LLM bergerak dari Titik A – input – ke Titik B – output – jauh lebih kompleks daripada dengan algoritma non-generatif yang berjalan sepanjang pola yang lebih tetap.

Alat kecerdasan buatan generatif membuat koneksi tak terhitung jumlahnya saat bergerak dari input ke output, tetapi bagi pengamat luar, bagaimana dan mengapa mereka membuat seri koneksi tertentu tetap menjadi misteri. Tanpa cara untuk melihat ‘proses berpikir’ yang diambil oleh algoritma AI, operator manusia kekurangan sarana menyeluruh untuk menyelidiki penalaran mereka dan melacak ketidakakuratan potensial.

Selain itu, dataset yang terus berkembang yang digunakan oleh algoritma ML memperumit kemampuan penjelasan lebih lanjut. Semakin besar dataset, semakin mungkin sistem belajar dari informasi yang relevan dan tidak relevan dan menghasilkan “halusinasi AI” – kebohongan yang menyimpang dari fakta eksternal dan logika kontekstual, bagaimanapun meyakinkan.

Dalam industri kesehatan, hasil yang cacat seperti itu dapat memicu sejumlah masalah, seperti kesalahan diagnosis dan resep yang tidak tepat. Selain konsekuensi etis, hukum, dan keuangan, kesalahan seperti itu dapat dengan mudah merusak reputasi penyedia layanan kesehatan dan lembaga medis yang mereka wakili.

Meskipun potensinya untuk meningkatkan intervensi medis, memperbaiki komunikasi dengan pasien, dan meningkatkan efisiensi operasional, kecerdasan buatan generatif di kesehatan tetap dilingkupi oleh skeptisisme, dan dengan alasan yang tepat – 55% klinisi tidak percaya itu siap untuk digunakan dalam pengobatan dan 58% curiga sama sekali. Namun, organisasi kesehatan melanjutkan, dengan 98% mengintegrasikan atau merencanakan strategi penerapan kecerdasan buatan generatif untuk mengimbangi dampak kelangkaan tenaga kerja sektor yang sedang berlangsung.

Kontrol Sumber

Industri kesehatan sering kali tertinggal di belakang dalam iklim konsumen saat ini, yang menghargai efisiensi dan kecepatan lebih dari memastikan langkah-langkah keamanan yang sangat ketat. Berita baru-baru ini tentang bahaya pengumpulan data tanpa batas untuk melatih LLM, yang mengarah pada gugatan karena pelanggaran hak cipta, telah membawa masalah ini ke garis depan. Beberapa perusahaan juga menghadapi klaim bahwa data pribadi warga negara digunakan untuk melatih model bahasa ini, yang melanggar hukum privasi.

Pengembang AI untuk industri yang sangat diatur haruslah mengontrol sumber data untuk membatasi kesalahan potensial. Artinya, memprioritaskan pengambilan data dari sumber yang dipercaya dan diverifikasi oleh industri, bukan mengumpulkan data dari halaman web eksternal secara sembarangan dan tanpa izin. Bagi industri kesehatan, ini berarti membatasi input data pada halaman FAQ, file CSV, dan basis data medis – di antara sumber internal lainnya.

Jika ini terdengar sedikit membatasi, coba cari layanan pada situs web sistem kesehatan besar. Organisasi kesehatan AS menerbitkan ratusan, jika tidak ribuan, halaman informasi pada platform mereka; sebagian besar tersembunyi sangat dalam sehingga pasien tidak pernah dapat mengaksesnya. Solusi kecerdasan buatan generatif yang berbasis pada data internal dapat menyampaikan informasi ini kepada pasien dengan nyaman dan tanpa hambatan. Ini adalah kemenangan bagi semua pihak, karena sistem kesehatan akhirnya melihat ROI dari konten ini, dan pasien dapat menemukan layanan yang mereka butuhkan secara instan dan tanpa usaha.

Apa yang Berikutnya untuk Kecerdasan Buatan Generatif di Industri yang Diatur?

Industri kesehatan dapat memperoleh manfaat dari kecerdasan buatan generatif dengan beberapa cara.

Pertimbangkan, misalnya, kelelahan yang meluas yang mempengaruhi sektor kesehatan AS belakangan ini – hampir 50% dari tenaga kerja diperkirakan akan meninggalkan posisi mereka pada tahun 2025. Chatbot kecerdasan buatan generatif yang ditenagai dapat membantu meringankan sebagian besar beban kerja dan melestarikan tim akses pasien yang terlalu banyak.

Di sisi pasien, kecerdasan buatan generatif memiliki potensi untuk meningkatkan layanan call center penyedia kesehatan. Otomatisasi AI memiliki kekuatan untuk menangani berbagai pertanyaan melalui berbagai saluran kontak, termasuk FAQ, masalah IT, pengisian ulang farmasi, dan rujukan dokter. Selain frustrasi yang datang dengan menunggu di telepon, hanya sekitar setengah pasien AS yang berhasil menyelesaikan masalah mereka pada panggilan pertama, mengakibatkan tingkat abandono yang tinggi dan akses yang terganggu ke perawatan. Kepuasan pelanggan yang rendah yang dihasilkan menciptakan tekanan lebih lanjut bagi industri untuk bertindak. Untuk industri benar-benar memanfaatkan implementasi kecerdasan buatan generatif, penyedia layanan kesehatan perlu memfasilitasi restrukturisasi data yang disengaja yang diakses oleh LLM mereka.