Matthew Crowson, MD, Direktur AI/GenAI Product Management di Wolters Kluwer Health – Seri Wawancara

Dr. Matt Crowson adalah seorang pemimpin teknologi kesehatan dan ahli bedah yang berpraktik, yang fokus menerapkan AI dalam praktik klinis. Ia adalah Direktur AI/Generative AI Product di Wolters Kluwer (WKL.SW ) Health, di mana ia memimpin inisiatif untuk meningkatkan sintesis bukti dan analisis data dunia nyata. Sebelumnya, ia memimpin praktik AI penyedia layanan kesehatan Deloitte, mengembangkan solusi AI generatif untuk meningkatkan dokumentasi, siklus pendapatan, dan penelitian. Ia juga menjabat sebagai asisten profesor di Harvard Medical School dan telah menulis lebih dari 90 publikasi peer-review.

Wolters Kluwer adalah penyedia informasi profesional, perangkat lunak, dan layanan global, yang mendukung klien di bidang kesehatan, pajak dan akuntansi, hukum dan regulasi, kepatuhan keuangan, dan ESG. Bermarkas di Belanda, perusahaan ini memanfaatkan keahlian industri yang mendalam dan teknologi canggih untuk menghasilkan alat yang mempermudah alur kerja, memastikan kepatuhan, dan mendukung pengambilan keputusan kritis. Operasinya mencakup lebih dari 180 negara, dengan penawaran yang disusun di seluruh divisi seperti Kesehatan, Pajak & Akuntansi, Hukum & Regulasi, Kepatuhan Keuangan & Perusahaan, dan Kinerja Perusahaan & ESG.

Mari kita mulai dengan pertanyaan pribadi—bagaimana Anda menyeimbangkan peran ganda sebagai ahli bedah yang berpraktik dan pemimpin produk AI? Apakah pekerjaan klinis Anda telah membentuk pandangan Anda tentang apa yang harus atau tidak harus dilakukan AI dalam kesehatan?

Jujur? ​Itu dimulai dengan time-boxing yang kejam dan mesin kopi industri-kuat. Pagi klinik menjaga keterampilan perawatan pasien saya tetap jujur, sementara sisa hari dihabiskan untuk mengubah kesulitan garis depan menjadi spesifikasi produk. Kedua peran saling melengkapi: melihat seorang resident mengklik melalui sepuluh layar untuk memesan Tylenol adalah semua penelitian pasar yang saya butuhkan.

Proyek AI gagal ketika tidak ada orang di ruangan yang merasakan kesulitan itu. Survei Kesehatan Siap Masa Depan kami menunjukkan 80% pemimpin mengatakan “optimalkan alur kerja” adalah prioritas utama. Namun, hanya 63% berpikir mereka siap melakukannya dengan GenAI. Ini adalah kesenjangan strategi-eksekusi klasik yang dapat ditutup oleh ahli domain dengan bertanya “mengapa” klinis yang tepat sebelum menulis satu baris kode.

Lensa klinis saya juga menjaga misi tetap praktis. Staf garis depan mengatakan kepada kami bahwa tiga hal utama mereka adalah mengatasi kekurangan staf (82%), mengurangi overhead administratif (77%), dan menghancurkan kelelahan (76%). Jika algoritma tidak memindahkan salah satu jarum tersebut, maka itu hanya teater. Klinisi dengan cepat kehilangan minat.

Lensa itu juga membuat saya berhati-hati tentang di mana AI tidak seharusnya beroperasi. Faktanya, 57% profesional khawatir bahwa ketergantungan berlebihan pada GenAI dapat mengikis penilaian klinis, namun hanya 18% mengatakan organisasi mereka telah menerbitkan pedoman. Sampai tata kelola mengejar, mandatnya jelas: otomatisasi kertas kerja, bukan pemikiran.

Jadi, bagi saya, keseimbangan tidak benar-benar tentang kopi versus kalender. Ini tentang menjaga satu kaki di klinik – sehingga saya tidak pernah lupa siapa yang AI seharusnya layani – dan satu kaki di produk, sehingga pengetahuan itu dikirim. Lakukan itu dengan baik, dan kafein hanya bonus yang menyenangkan.

Laporan Survei Kesehatan Siap Masa Depan dari Wolters Kluwer menyoroti kesenjangan yang kuat antara antusiasme GenAI dan eksekusi. Apakah Anda terkejut oleh beberapa hasilnya? Apa yang paling menonjol bagi Anda secara pribadi?

Saya tidak terkejut sama sekali. Saya belum pernah bertemu dengan seorang klinisi anti-otomatisasi. Apa yang memperlambat peluncuran bukanlah rasa takut akan beberapa skenario “Skynet dalam seragam” tetapi lebih kepada kesulitan sehari-hari operasional kesehatan. Survei itu mengkristalkan kenyataan itu. Delapan dari sepuluh pemimpin menempatkan optimasi alur kerja sebagai prioritas utama, namun kurang dari enam dari sepuluh mengatakan mereka siap untuk membiarkan GenAI menanganinya. Delta itu tepat apa yang saya lihat: ranjau-ranjau hukum, data yang terlihat lebih seperti laci sampah daripada danau data, dan insentif keuangan yang masih menghargai volume daripada efisiensi. Ada penghalang lain juga, termasuk kekosongan pelatihan, kelelahan IT bayangan, dan kabut regulasi.

Apa yang paling menonjol bagi saya adalah betapa biasa saja hambatan-hambatan itu. Kekurangan staf, drag administratif, dan kelelahan mendominasi daftar kekhawatiran, namun hanya 18% organisasi yang memiliki kebijakan Gen AI formal. Jika Anda tidak tahu siapa yang menandatangani model atau bagaimana outputnya diaudit, antusiasme mati di kantor kepatuhan. Selain itu, 68% responden mengatakan biaya tenaga kerja adalah tekanan keuangan terbesar mereka, dan tidak mengherankan eksekutif ingin bukti ROI sebelum menandatangani tagihan perangkat lunak lain. Judulnya bukan “panik AI”, melainkan “Ide bagus – tunjukkan alur kerja dan kasus bisnis”.

Lebih dari setengah profesional kesehatan yang disurvei khawatir bahwa GenAI dapat mengikis keterampilan pengambilan keputusan klinis. Apakah Anda pikir rasa takut itu valid – atau apakah itu mencerminkan kekhawatiran yang lebih dalam tentang kepercayaan dan transparansi dalam sistem AI?

Beberapa kecemasan itu nyata, tetapi lebih terkait dengan akuntabilitas biasa daripada ketakutan akan skenario AI yang tidak terkendali. Ketika alat menawarkan diagnosis diferensial dalam hitungan detik, Anda memerlukan provenance yang jernih: Dari mana rekomendasi itu berasal, siapa yang menandatangani, dan bagaimana cara mengauditnya? Saat ini, hanya minoritas kecil organisasi yang memiliki tata kelola GenAI formal, sehingga klinisi cenderung berhati-hati. Itu muncul dalam data kami sebagai 57% yang mengatakan “ketergantungan berlebihan bisa mengikis penilaian”. Bagi saya, ini adalah sinyal bahwa mereka tidak ingin kotak hitam mengganggu lisensi mereka untuk berpraktik.

Saya melihat masalah ini melalui lensa sejarah. Ketika spreadsheet memasuki departemen keuangan, beberapa akuntan khawatir bahwa otot analitis mereka akan melemah. Sebaliknya, perangkat lunak spreadsheet menjadi baseline baru, meningkatkan tingkat akurasi. Kesehatan terlambat untuk melompat serupa. Kami kehilangan terlalu banyak pasien karena variasi dalam perawatan; kesalahan medis tetap menjadi penyebab cedera dan kematian terkemuka. Superpower GenAI dapat mempersempit batang kesalahan itu dengan menyajikan pedoman, menyoroti kontraindikasi, dan menandai outlier lebih cepat daripada manusia. Namun, itu harus tetap menjadi asisten, bukan pengambil keputusan otonom, terutama dalam jendela tiga hingga lima tahun ke depan.

Jadi, ya, rasa takut itu valid tapi dapat dipecahkan. Dataset transparan, jejak audit, dan titik periksa loop manusia mengubah “erosi AI” menjadi “augmentasi AI”. Berikan klinisi rekomendasi yang dapat dilacak dan garis akuntabilitas yang jelas, dan 57% itu akan hilang. Ini bukan tentang menggantikan keahlian; ini tentang meningkatkan keahlian dengan alat yang lebih baik.

Hanya 18% responden mengatakan mereka menyadari kebijakan GenAI yang jelas di organisasi mereka. Apa risiko potensial dari penerapan alat GenAI tanpa tata kelola seperti itu?

Bayangkan meluncurkan obat baru tanpa label dosis. Data kesehatan sangat sensitif, dan model GenAI menjadi lebih pintar hanya ketika mereka menyerap konteks yang kaya akan informasi kesehatan yang dilindungi (PHI). Tanpa kebijakan tata kelola data yang ketat untuk mengatur siapa yang dapat mengunggah informasi, bagaimana data itu dicatat, dan di mana data itu berada, organisasi hanya satu snapshot clipboard jauh dari pelanggaran privasi yang bisa membuat headline.

Tanggung jawab adalah ranjau berikutnya. Ketika algoritma membayangkan dosis yang kontraindikasi, siapa yang makan klaim malpraktik? Vendor, rumah sakit, atau klinisi yang mengklik “terima”? Saat ini, jawabannya masih kabur karena kurang dari satu dari lima organisasi memiliki “aturan jalan” yang dikodifikasi untuk GenAI. Dalam kekosongan, pengacara sering kali beralih ke kantong yang paling dalam, dan ketidakpastian itu saja dapat menghambat inovasi.

Tata kelola juga melindungi terhadap risiko yang lebih halus seperti model drift dan bias. Bot onkologi yang dilatih pada pedoman kuartal terakhir mungkin secara diam-diam kehilangan relevansi, mendorong perawatan keluar dari rel yang berbasis bukti. Kebijakan yang memerlukan kontrol versi, pemantauan hasil, dan pemicu sunset menjaga algoritma dari menjadi bahaya keamanan.

Akhirnya, kepercayaan dipertaruhkan. Klinisi khawatir bahwa ketergantungan berlebihan pada GenAI dapat membungkam penilaian klinis; penerapan alat yang tidak transparan hanya mengkonfirmasi kekhawatiran tersebut. Tata kelola yang jelas, transparansi pada garis keturunan data, protokol validasi, dan titik periksa loop manusia mengubah kecemasan “kotak hitam” menjadi kepercayaan bahwa AI adalah rekan asisten, bukan resident yang tidak terkendali.

Berdasarkan pekerjaan Anda dengan Wolters Kluwer dan di ruang operasi, apa kasus penggunaan GenAI yang paling realistis dalam jangka pendek di bidang kesehatan?

Lupakan bedah robot. Dalam tiga tahun ke depan, kesempatan GenAI yang paling mematikan adalah penghancuran administratif. Dua jalur sudah terbukti:

1. Penulisan catatan depan. Alat mendengarkan ambient sekarang menggambar catatan kemajuan sementara dokter berbicara dengan pasien, lalu menjatuhkannya langsung ke dalam catatan kesehatan elektronik (EHR). Survei kami menunjukkan 41% responden menempatkan ini pada daftar keinginan GenAI mereka, dan teknologi ini sudah hidup di sistem kesehatan yang mengadopsi awal. Beberapa studi telah menunjukkan bahwa sistem diktat ambient dapat memotong beban kognitif sebesar 51% dan waktu “pajama” setelah jam kerja sebesar 60%. Ini adalah ROI yang keras; Anda bisa merasakannya dengan cepat.
2. Perlindungan pendapatan kantor belakang. Domino berikutnya adalah paket otorisasi sebelumnya, surat banding penolakan, dan lumpur siklus pendapatan lainnya. Untuk referensi, 67% pemimpin mengatakan bahwa otorisasi sebelumnya saja menghambat produktivitas, dan 62% menunjuk drag administratif EHR. Model bahasa besar yang membaca grafik dan mengisi formulir secara otomatis sudah memangkas hari-hari dari klaim dan membebaskan staf untuk pekerjaan yang lebih berharga.

Mengapa kedua ini? Mereka mengenai trifecta risiko klinis rendah, bantuan tenaga kerja tinggi, dan justifikasi dolar-dan-sen yang jelas. Di pasar di mana 68% eksekutif menyebutkan biaya staf sebagai tekanan keuangan teratas, alat yang memberikan jam kembali tanpa mengubah rencana perawatan adalah “ya” yang paling mudah. Diagnosis otonom akan datang nanti; sekarang, GenAI mendapatkan tempatnya dengan membuat clipboard menghilang.

Survei mencatat bahwa data bukanlah risiko teratas yang disebutkan responden – yang mengejutkan mengingat seberapa sering privasi data mendominasi headline. Apa risiko yang dilihat oleh klinisi dan administrator sebagai lebih mendesak?

Saya juga terkejut. Headline akan membuat kita percaya bahwa pelanggaran HIPAA membuat setiap CIO rumah sakit tidak bisa tidur. Namun, data kami menunjukkan bahwa hanya 56% profesional menyebutkan privasi sebagai risiko GenAI teratas, sementara irisan yang lebih besar (57%!) khawatir tentang “mengurangi” penilaian klinis. Itu memberitahu saya bahwa rasa takut garis depan bukanlah peretas, melainkan akuntabilitas.

Berikut adalah apa yang membuat klinisi dan administrator khawatir:

• Roulette tanggung jawab. Jika algoritma mendorong perawatan keluar jalur, siapa yang menandatangani cek malpraktik? Kurangnya peraturan dan standar yang jelas menempati peringkat yang sama dengan celah transparansi sebesar 55%, menandakan ketidaknyamanan yang nyata tentang radius ledakan hukum.
• Whiplash regulasi. Tujuh puluh enam persen pemimpin sudah merasa terjepit oleh aturan Medicare dan Medicaid yang berubah-ubah; menumpuk GenAI yang tidak transparan di atas itu adalah penjualan yang sulit sampai guardrail mengeras.
• Drift model dan bias. Lima puluh lima persen menandai bias dari model yang tidak terlatih sebagai risiko kritis, pengingat bahwa data yang ketinggalan dapat sama berbahayanya dengan data yang hilang.

Singkatnya, sebagian besar organisasi berasumsi bahwa firewall mereka cukup baik; mereka tidak memiliki rantai akuntabilitas yang jelas ketika output LLM (Large Language Model) masuk ke dalam rencana perawatan. Sampai kerangka tata kelola menjelaskan kepemilikan, jejak audit, dan kadensi pembaruan, penerapan GenAI akan terus macet, terlepas dari seberapa ketat tumpukan keamanan itu.

Apakah Anda percaya bahwa alat GenAI pada akhirnya akan meningkatkan atau melemahkan otonomi klinisi? Bagaimana kita merancang sistem yang mendukung pengambilan keputusan tanpa melangkahinya?

GenAI berpotensi memperluas, bukan mengurangi, otonomi klinis. Saat ini, banyak otonomi itu dihambat oleh triase inbox, kertas kerja otorisasi sebelumnya, dan gimnastik EHR. Tidak mengherankan, staf garis depan menempatkan “optimalkan alur kerja” sebagai kasus penggunaan GenAI nomor satu mereka (80% prioritas) meskipun kurang dari 63% merasa siap secara teknis untuk melaksanakannya. Apoteker dan profesional kesehatan beraliansi sudah bertaruh pada sisi positif: 41% dan 47% mengharapkan GenAI untuk mengurangi kebutuhan staf administratif. Membebaskan klinisi dari entri data berarti lebih banyak waktu wajah-ke-wajah dengan pasien. Itu adalah otonomi yang semua orang inginkan.

Masih, survei itu mengingatkan kita bahwa otonomi memotong dua arah: 57% responden khawatir bahwa ketergantungan berlebihan pada GenAI bisa mengurangi penilaian klinis. Penawar itu adalah desain yang berpikir. Sistem harus menunjukkan pekerjaan mereka dengan bendera provenance, kutipan, dan skor kepercayaan, sehingga manusia tetap menjadi pengambil keputusan akhir. Kontrol versi dan pemantauan pasca-peluncuran menangkap drift model yang diam sebelum mengacaukan jalur perawatan, sementara tombol “override” yang selalu terlihat membuat jelas bahwa algoritma adalah asisten, bukan dokter yang hadir.

Tata kelola adalah mil terakhir. Hanya 18% profesional mengatakan organisasi mereka memiliki kebijakan GenAI yang dipublikasikan. Tanpa rantai akuntabilitas yang transparan, bahkan pengalaman pengguna terbaik akan macet di limbo hukum. Kebijakan yang kuat perlu menjelaskan tata kelola data, jejak audit, dan peran yang dibagi-bagikan di seluruh dokter, perawat, dan asisten dokter yang menekan tombol. Ketika kita pasangkan guardrail itu dengan desain asli alur kerja, GenAI berhenti terasa seperti ancaman terhadap otonomi dan mulai bertindak seperti co-pilot yang klinisi telah minta.

Apa yang paling menghambat adopsi – keterbatasan teknologi, ketidakpastian regulasi, gesekan alur kerja, atau sesuatu yang lebih dalam seperti resistensi budaya?

Itu adalah defisit eksekusi yang dibungkus dengan insentif warisan. Sebagian besar pemimpin sistem kesehatan dapat mengartikulasikan visi GenAI yang cerdas, tetapi otot operasional mereka belum menyusul. Survei kami menunjukkan diskoneksi itu dalam satu baris: 80% responden menempatkan “optimalkan alur kerja” sebagai prioritas utama, namun hanya 63% percaya mereka siap melakukannya. Visi itu murah; insinyur integrasi, buku permainan manajemen perubahan, dan anggaran GPU tidak.

Tata kelola adalah lubang berikutnya. Hanya 18% profesional bahkan menyadari adanya kebijakan GenAI yang dipublikasikan di rumah sakit mereka. Tanpa aturan yang jelas tentang penggunaan data, validasi, dan tanggung jawab, setiap pilot yang menjanjikan berisiko menjadi granat kepatuhan. Kabut hukum itu diperkuat oleh ketidakpastian makro. Faktanya, 75% pemimpin khawatir bahwa peraturan Medicare dan Medicaid yang berubah cepat akan menggagalkan apa pun yang mereka luncurkan.

Kemudian ada gesekan tingkat parit: hampir setengah eksekutif menyebutkan data kotor dan mimpi buruk integrasi EHR sebagai penghalang utama, dan hanya 42% mengatakan mereka memiliki proses untuk memasang alat GenAI ke dalam alur kerja yang ada. Jika model tidak bisa melihat grafik atau menambahkan klik, klinisi akan meninggalkannya sebelum makan siang.

Akhirnya, ada “pilot purgatory”. Studi eksternal banyak memperkirakan tingkat keberhasilan pilot AI yang naik ke skala perusahaan sekitar satu dari sepuluh. Dewan merayakan demo, mengeluarkan siaran pers, dan melanjutkan. Karena tidak ada yang membiayai pekerjaan pipa yang tidak glamor itu. GenAI akan tetap menjadi janji PowerPoint sampai rumah sakit mempekerjakan pemilik produk yang telah mengirimkan perangkat lunak sebelumnya.

Singkatnya, teknologi dan budaya tidak terpisahkan. Mereka melebur. Selesaikan untuk kepemimpinan yang akuntabel, anggaran integrasi yang nyata, guardrail yang eksplisit, dan nafsu untuk GenAI akan sesuai dengan hypesnya.

Anda telah membangun sistem AI yang fokus pada hasil yang pragmatis dan berbasis bukti. Apa saran yang akan Anda berikan kepada pemimpin kesehatan yang mencoba menavigasi hypes dan mengidentifikasi investasi AI yang benar-benar berharga?

Mulailah dengan diagnosis, bukan demo. Sebelum Anda membiarkan palu yang mengkilap mencari paku, kuantifikasi paku: Apakah utilitas ruang operasi turun 8% selama dua kuartal berturut-turut? Apakah banding penolakan terjebak dan berdarah pendapatan? Apakah unit perawat tiga menghabiskan dua jam per shift pada “waktu toggle” EHR (waktu yang dihabiskan untuk beralih antara layar dan tugas)? Setelah kesulitan itu jelas, alat yang tepat cenderung memperkenalkan diri. Seperti yang Sir William Osler ingatkan komunitas medis beberapa generasi yang lalu, “Dengarkan pasien; [mereka] akan memberitahu Anda diagnosis”.

Dengan masalah yang dipakukan, interogasi kasus bisnis seperti seorang CFO. Tuntut angka yang keras: metrik baseline, delta yang diproyeksikan, dan jendela payback yang dapat bertahan dalam tes bau kamar dewan. Ingat bahwa sekitar satu dari sepuluh pilot AI naik ke skala perusahaan; jika vendor tidak bisa menunjukkan pelanggan yang hidup yang memindahkan KPI yang Anda pedulikan, teruslah berjalan.

Berikutnya, putuskan untuk membeli, membangun, atau bermitra. Membeli dapat mempercepat waktu untuk mendapatkan nilai, tetapi waspadai vaporware yang diselimuti kata-kata yang trendi. Membangun memberikan Anda kontrol, tetapi hanya jika Anda memiliki pemilik laba dan rugi yang memiliki pengalaman sebelumnya dalam mengirimkan mesin pembelajaran produksi. Kemitraan hibrida sering kali menemukan keseimbangan: data Anda, model mereka, keuntungan yang dibagi, risiko yang dibagi.

Akhirnya, prioritaskan tim kecil yang berfungsi silang dengan akuntabilitas yang jelas. Pikirkan tentang skuad dua-pizza yang mencakup CMO, CIO, kepala teknik data, dan juara garis depan, bukan komite pengarah besar. Selaraskan insentif mereka dengan tujuan hasil multi-tahun daripada metrik jangka pendek, dan berikan mereka anggaran infrastruktur yang didedikasikan – GPU, teknik data, operasi mesin pembelajaran (MLOps) – sehingga proyek itu berkembang melampaui tahap pilot.

Akhirnya, melihat ke depan: apa bentuk sistem GenAI yang bertanggung jawab dan terintegrasi penuh di pengaturan rumah sakit lima tahun dari sekarang? Apa saja batu loncatan yang perlu kita capai untuk mencapai sana?

Bayangkan berjalan ke klinik di mana dokter tidak pernah berputar ke keyboard. Percakapan mengalir, dan agen mendengarkan ambient yang tidak terlihat menangkap dialog, menggambar catatan, menandai pedoman berbasis pesanan, dan menghasilkan paket otorisasi sebelumnya sebelum tangan dokter menyentuh gagang pintu. Pilot awal sudah membuktikan konsep ini, dan 41% klinisi dalam survei kami mengatakan ini adalah fitur GenAI yang mereka inginkan selanjutnya.

Apa yang membuat adegan itu memungkinkan bukanlah robotika fiksi ilmiah; itu adalah arsitektur yang tidak terlihat yang meleburkan data yang bersih dan interoperabel dengan lapisan orkestrasi waktu nyata dan “tata kelola sebagai kode”. Kami masih memiliki tugas untuk diselesaikan. Untuk menutup kesenjangan, pikirkan tentang pipa data terlebih dahulu, lalu sematkan guardrail (bukan memasangnya) untuk mengubah hype menjadi kebiasaan.

Batu loncatan jatuh secara alami setelah dasar telah ditetapkan. Pada tahun pertama, saya sarankan rumah sakit dan sistem kesehatan untuk menghubungkan kain data, menerbitkan pedoman GenAI perusahaan, dan membangun pipa MLOps. Pada tahun kedua implementasi, penting untuk menskalakan dokumentasi ambient di seluruh klinik rawat jalan, mengukur waktu dokumentasi dan waktu “pajama” setelah jam kerja. Pada tahun ketiga, biarkan GenAI menggambar banding penolakan dan paket otorisasi sebelumnya (67% pemimpin mengatakan beban itu siap untuk dihilangkan.) Pada tahun keempat dan kelima, evolusi ke dalam dukungan keputusan klinis waktu nyata dengan provenance dan, pada akhirnya, perencanaan perawatan berbasis percakapan di mana sistem menjalankan perintah saat mereka diucapkan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Wolters Kluwer atau membaca Laporan Survei Kesehatan Siap Masa Depan.