Kemungkinan Kehancuran Program Federal Bukan Penolakan AI di Bidang Kesehatan

Berkat AI, kesehatan AS berada di persimpangan jalan.

Di satu sisi, organisasi kesehatan berlomba untuk mengubah cara pelayanan kesehatan diberikan. Investor telah menyadari bahwa AI memiliki potensi untuk mengubah pasar dan membawa keuntungan besar. Di sektor saya sendiri – administrasi kesehatan – ini berupa otomatisasi kertas kerja. Di lainnya, seperti radiologi, LLMs mengidentifikasi dan mendiagnosa kondisi medis.

Pembiayaan besar sedang dipompa ke AI di bidang kesehatan. Tahun lalu, perusahaan AI kesehatan AS mendapatkan lebih dari $18 miliar dalam investasi ventura – naik hampir 10% dari 2024. Pertumbuhan cepat ini diproyeksikan untuk terus berlanjut dan akan mengubah banyak hal yang kita ketahui tentang pelayanan kesehatan.

Di sisi lain adalah tantangan tata kelola. Regulator berlomba untuk memahami AI dan mengaturinya secara efektif. Kita semua tahu bahwa negara memiliki tanggung jawab kepada warganya. Namun, jika industri berubah dengan cepat, bisa sulit bagi pemerintah untuk mengikuti.

Tidak ada tempat kita melihat dinamika ini lebih dari dengan asuransi kesehatan. Di AS, rumah sakit dan dokter harus sering mendapatkan otorisasi sebelumnya dari perusahaan asuransi pasien sebelum memberikan pelayanan. Perusahaan asuransi mempertahankan hak untuk menolak perawatan yang dianggap tidak perlu secara medis.

AI healthtech berjanji untuk meningkatkan efisiensi seluruh sektor, tetapi harus dikelola dengan hati-hati. CMS (Pusat Layanan Medicare dan Medicaid) memperkirakan bahwa 25% dari semua biaya di industri adalah pemborosan administratif. AI dapat mengurangi beban ini, menguntungkan masyarakat. Namun, kita memerlukan prinsip yang tepat untuk kesuksesan.

Masuk WISeR. Diperkenalkan oleh CMS di awal tahun ini, program Wasteful and Inappropriate Services Reduction (WISeR) adalah salah satu pilot terbesar di AI healthtech. Menggunakan model AI untuk merangkum bukti, klinisi yang berkualifikasi mencoba untuk memutuskan klaim di program Medicare tradisional dengan lebih cepat. Eksperimen ini saat ini berlangsung di enam negara bagian.

Pada Juni, Komite Apropriasi House memilih untuk memotong dana WISeR. Anggaran masih perlu disetujui Kongres, dan pilot tetap aktif. Namun, masa depannya di luar 30 September masih tidak jelas.

Apa yang ingin saya katakan di sini adalah – apa pun yang kita pikir tentang suara WISeR – prinsip dasar pilot tetap kuat. “AI flags, klinisi mengkonfirmasi” terus menyediakan dasar untuk tata kelola yang baik di AI healthtech.

Legislator meminta proses yang lebih baik

Sementara mudah untuk membaca keputusan ini sebagai penolakan AI di bidang kesehatan, itu akan menjadi kesalahan. Suara untuk memotong dana WISeR dibuat di tengah kekhawatiran tentang implementasi dan struktur insentif – bukan karena legislator menentang adopsi AI di tinjauan klinis.

Alasan utama komite House memberikan untuk keputusannya adalah bahwa itu memperkenalkan otorisasi sebelumnya ke Medicare tradisional. 13 layanan medis yang dipilih untuk pilot sebelumnya hanya memerlukan persetujuan dokter, bukan otorisasi asuransi. Legislator oleh karena itu menolak WISeR karena apa yang mereka anggap sebagai peningkatan kompleksitas administratif dan perubahan insentif federal.

Ini bukanlah kritik terhadap AI healthtech. Sebaliknya, ini adalah kritik terhadap bagaimana proses telah dirancang.

“AI flags, klinisi mengkonfirmasi” masih dasar healthtech

Sementara nasib WISeR sekarang ambigu, prinsip dasarnya tidak. Prinsip bahwa “AI flags, klinisi mengkonfirmasi” tetap menjadi dasar modern healthtech.

Prinsip ini sentral karena status AI sebagai sistem emergent. Tidak seperti bentuk otomatisasi lainnya, LLMs memiliki potensi untuk membuat keputusan yang tidak dimaksudkan oleh penciptanya. Ini dirancang. Emergensi memungkinkan AI untuk berperilaku fleksibel dan kreatif, tetapi juga membawa risiko. Tidak peduli seberapa halus sistem ini menjadi, regulator akan selalu memerlukan “manusia dalam loop” untuk menangkap keputusan acak dan memastikan keselamatan pasien.

Dalam praktiknya, ini berarti bahwa klinisi yang berkualifikasi mempertahankan semua tanggung jawab hukum dan etika saat menggunakan AI. LLMs mengumpulkan dan merangkum bukti dengan kecepatan mesin, menyoroti temuan penting. Klinisi meninjau data, disajikan dengan ringkas, dan menggunakan informasi tersebut untuk memandu penilaian mereka. Proses ini berjanji untuk meningkatkan efisiensi sambil mempertahankan akurasi maksimum. Penilaian klinis diperkuat karena manusia tetap sentral dalam proses, bukan karena keterlibatan mereka, tetapi karena itu.

Saat ini, kita dapat melihat konsensus ini terbentuk di semua tingkat industri kesehatan.

Tahun lalu, perusahaan asuransi kesehatan terbesar di negara ini berjanji untuk meningkatkan proses otorisasi sebelumnya. Ini termasuk meningkatkan transparansi dan mempercepat waktu keputusan, dengan penekanan pada persetujuan segera untuk perawatan darurat atau klinis standar tertentu, yang telah menyebabkan AI menjadi kebutuhan virtual bagi banyak perusahaan asuransi. Asosiasi industri utama untuk organisasi tinjauan independen juga menggariskan posisinya tentang penggunaan AI.

Lantai regulasi negara juga meningkat. Sudah, negara-negara memiliki hukum perlindungan konsumen yang relevan, yang sekarang disesuaikan dengan AI. Jadi, pada 2026, 43 negara bagian telah memperkenalkan 240 tagihan AI kesehatan. Dari ini, sembilan melarang menggunakan AI sebagai satu-satunya penentu penolakan klaim.

Jika program WISeR akhirnya dihentikan, itu tidak akan mempengaruhi konsensus bahwa “AI flags, klinisi mengkonfirmasi”. Dengan itu, kita memiliki semua yang kita butuhkan untuk kesuksesan di industri. Kita hanya perlu memperbaiki struktur implementasi AI.

Adopsi AI tidak dapat dinegosiasikan

Mengingat potensi efisiensi AI, entitas kesehatan yang lambat untuk mengadopsi teknologi ini akan dengan cepat kalah bersaing.

Pelajaran yang dapat diambil dari WISeR bukanlah bahwa kita tidak dapat memiliki AI di bidang kesehatan. Jauh dari itu. Sebaliknya, kita perlu mengakui potensi LLMs untuk meningkatkan efisiensi di bidang kesehatan. Untuk perubahan ini terjadi, profesional yang berkualifikasi harus tetap sentral. Konsensus “AI flags, klinisi mengkonfirmasi” menyediakan dasar untuk transisi, sudah menetapkan standar di sebagian besar industri.

AI berjanji untuk meningkatkan efisiensi dan akses ke perawatan, tetapi tidak dapat beroperasi tanpa tinjauan manusia. WISeR menunjukkan bahwa kita dapat, dan harus, tetap dalam loop. Bukan sebagai tambahan, tetapi sebagai kebutuhan.