Matthew Crowson, MD, Wolters Kluwer Sağlık’ta AI/GenAI Ürün Yönetimi Direktörü – Röportaj Serisi

Dr. Matt Crowson bir sağlık teknolojisi lideri ve uygulamalı cerrah olup, klinik uygulamaya AI uygulamaya odaklanmaktadır. O, Wolters Kluwer (WKL.SW ) Sağlık’ta AI/GenAI Ürün Direktörüdür ve kanıtların sentezlenmesine ve gerçek dünya verilerinin analizine yönelik girişimlere liderlik etmektedir. Daha önce, Deloitte’in sağlık hizmeti sağlayıcı AI uygulamasını yönetmiş ve belgelerin, gelir döngülerinin ve araştırmaların iyileştirilmesine yönelik GenAI çözümleri geliştirmiştir. Ayrıca Harvard Tıp Fakültesi’nde yardımcı profesör olarak görev yapmakta ve 90’dan fazla hakemli yayını bulunmaktadır.

Wolters Kluwer bir profesyonel bilgi, yazılım ve hizmetler küresel sağlayıcısıdır ve sağlık, vergi ve muhasebe, hukuk ve düzenleme, finansal uyum ve ESG’de müşterileri desteklemektedir. Hollanda merkezli şirket, derin endüstri uzmanlığı ve advanced teknolojiyi kullanarak iş akışlarını basitleştiren, uyumu sağlayan ve kritik karar almaya destek olan araçlar sunmaktadır. İşletmeleri 180’den fazla ülkede faaliyet göstermekte ve sağlık, vergi ve muhasebe, hukuk ve düzenleme, finansal ve kurumsal uyum ve kurumsal performans ve ESG gibi bölümler altında organize edilmektedir.

Kişisel bir soru ile başlayalım – uygulamalı cerrah ve AI ürün lideri olarak iki rolünüzü nasıl dengeliyorsunuz? Klinik çalışmalarınız, sağlık hizmetlerinde AI’nin ne olması gerektiği veya olmaması gerektiği konusunda görüşünüzü şekillendirdi mi?

Samimi olarak söyleyeyim, bu, acımasız zaman kutlaması ve endüstri-strength bir kahve makinesi ile başlar. Klinik sabahları, hasta bakım becerilerimi dürüst tutarken, günün geri kalanı, ön cephe acısını ürün özelliklerine dönüştürmekle geçer. İki rol birbirini besler: Bir residentin on ekran aracılığıyla Tylenol sipariş etmesi, benim için gereken tüm pazar araştırmasıdır.

AI projeleri, odada kimsenin o acıyı hissetmediğinde sönük kalır. Gelecek Hazır Sağlık Anketimize göre, %80’i lider “iş akışlarını optimize et” öncelik olarak sıralamaktadır. Ancak, yalnızca %63’ü GenAI ile bunu yapma konusunda hazırlıklı olduklarını düşünmektedir. Bu, klasik bir strateji-execution açığıdır ve domaine uzmanlar tarafından kapatılabilir, tek bir satır kod yazmadan önce doğru klinik “neden” sorusunu sorarak.

Klinik merceğim, misyonu pratik tutar. Ön cephe personeli, ilk önceliklerinin personel eksikliklerini düzeltmek (%82), idari giderleri azaltmak (%77) ve yanmayı ezmek (%76) olduğunu bize söyledi. Bir algoritma bu iğneleri hareket ettirmezse, sadece tiyatrodır. Klinikler nhanh bir şekilde uyarlar.

O mercek, AI’nin nereye gitmemesi gerektiği konusunda da bana temkinli kılar. Aslında, %57’lik profesyoneller, GenAI’ye aşırı bağımlılığın klinik yargıyı erozyona uğratabileceğinden endişe duymaktadır, ancak yalnızca %18’i organizasyonlarının yayınlanmış sınırlarına sahip olduğunu söylemektedir. Yönetim, yetkilendirme yakalamadan önce, emir, otomasyon değil, düşünceyi otomate etmektir.

Özetle, dengesizlik aslında kahve karşı takvim değildir. Klinikte bir ayağım, AI’nin kimin hizmetine sunulduğunu asla unutmayacağım ve ürün tarafında bir ayağım, bu bilginin gemiye bindiğinden emin olmak için vardır. Bunu iyi yaparsanız, kafein sadece güzel bir bonus olur.

Wolters Kluwer’in Gelecek Hazır Sağlık Anket Raporu, GenAI coşkusu ve uygulama arasında güçlü bir boşluk vurgulamaktadır. Sonuçlardan herhangi biri sizi şaşırttı mı? Size en çok hangi sonuçlar dikkat çekti?

Hiç şaşırmadım. Anti-otomasyon klinik bir cerrahla hiç karşılaşmadım. Çıkışın yavaşlaması, “Skynet’in cerrahi elbise” senaryosundan değil, sağlık hizmetleri operasyonlarının günlük ezilmesinden kaynaklanmaktadır. Anket, bu gerçekliği kristalize etmektedir. On liderin sekizi, iş akışı optimizasyonunu bir öncelik olarak sıralamaktadır, ancak yalnızca altıda biri GenAI ile bunu yapma konusunda hazırlıklı olduklarını düşünmektedir. Bu delta, gördüğüm şeydir: sorumluluk mayınları, veri gibi bir çöp dolabı gibi görünen veri ve hala verimlilik yerine hacmi ödüllendiren mali teşvikler. Diğer engeller de vardır, bunlar arasında bir eğitim boşluğu, gölge-IT yorgunluğu ve düzenleyici sis bulunmaktadır.

Beni en çok çarpan, bu engellerin ne kadar sıradan olduğudur. Personel eksiklikleri, idari sürtünme ve yanma, endişe listesinin başında yer almaktadır, ancak yalnızca %18’lik organizasyonlar, resmi Gen AI politikalarına sahiptir. Bir modelin çıktılarını denetlemek veya nasıl denetleneceği konusunda net bir fikir yoksa, coşku, uyum ofisinde ölür. Ayrıca, %68’lik répondan, işgücü maliyetlerinin en önemli mali baskısı olduğunu söylemekte ve yöneticilerin bir sonraki yazılım faturasını imzalamadan önce ROI kanıtı istemektedir. Başlıklar “AI panik” değil, “Harika fikir – iş akışını ve iş durumunu gösterin” dir.

Anket, sağlık profesyonellerinin yarısından fazlasının GenAI’nin klinik karar alma becerilerini erozyona uğratabileceğinden endişe duyduğunu ortaya koyuyor. Bu korku geçerli mi – yoksa AI sistemlerinde güven ve şeffaflıkla ilgili daha derin endişeleri yansıtıyor mu?

Bazı endişeler gerçek, ancak daha çok hesaba katılabilir. Bir aracın diferansiyel teşhisleri saniyeler içinde sunması durumunda, net bir köken gerekir: Nereden geldi, kim onayladı ve nasıl denetlendi? Bugün, yalnızca küçük bir azınlık organizasyon, formal GenAI yönetimine sahiptir, bu nedenle klinikler temkinli davranmaktadır. Bu, veri olarak ortaya çıkmaktadır: %57’si “aşırı bağımlılık, yargıyı erozyona uğratabilir” diyor. Bana göre, bu, bir siyah kutunun lisanslarını uygulamaya müdahale etmesini istemediklerine işaret ediyor.

Bu sorunu tarihsel bir perspektiften görüyorum. Finans bölümlerine spreadsheet’ler geldiğinde, bazı muhasebeciler analitik kaslarının atrofisine uğrayacağından endişe duydular. Bunun yerine, spreadsheet yazılımı, finans departmanları için yeni bir temel haline geldi. Healthcare, benzer bir sıçramaya ihtiyaç duyuyor. Hasta kaybı ve tıbbi hataların varyasyonuna çok fazla kaybediyoruz. GenAI’nin süper gücü, rehberleri, kontrendikasyonları ve aykırıları daha hızlı bir şekilde sunarak bu hata çubuklarını daraltabilir. Ancak, özellikle önümüzdeki üç ila beş yıllık pencerede, otonom bir karar verici değil, bir asistan olarak kalmalıdır.

Evet, korku geçerli, ancak çözülebilir. Şeffaf veri kümeleri, denetim izleri ve insan tarafından denetlenen kontroller, “AI erozyonunu” “AI takviyesine” dönüştürür. Kliniklere izlenebilir öneriler ve net sorumluluk hatları verin, o zaman %57’lik oran eriyecektir. Uzmanlığı değiştirmek değil, daha iyi araçlarla güçlendirmek önemlidir.

Sadece %18’lik.respondent, organizasyonlarında net GenAI politikalarına sahip olduklarını belirtti. Böyle bir yönetim olmadan GenAI araçlarını dağıtmak riskleri nelerdir?

Bunu, yeni bir ilacı etiket olmadan piyasaya sürmek olarak düşünün. Sağlık verileri son derece hassastır ve GenAI modelleri, bu korunan sağlık bilgilerini (PHI) içeren bağlamı emdiğinde daha akıllı hale gelir. Veri yönetimi politikaları olmadan, kimin bilgi yükleyebileceği, nasıl günlüğe kaydedileceği ve nerede saklanacağı konusunda, bir organizasyon sadece bir kopya kağıdına bir fotoğraf çekmekten bir başlangıç haberine kadar bir gizlilik ihlali riski altındadır.

Sorumluluk, bir sonraki mayın alanıdır. Bir algoritma, kontrendike bir dozu hayal ettiğinde, kimin sorumluluğunu üstleneceği, satıcı, hastane, yoksa algoritmayı kabul eden klinisyen? Şu anda, cevap belirsizdir, çünkü fewer dan bir organizasyon, GenAI için “yol kuralları” kodifiese. Bir boşlukta, avukatlar genellikle en derin cebi tercih eder ve bu belirsizlik alone, inovasyonu durdurabilir.

Yönetim, model kayması ve sessiz önyargı gibi daha ince risklere karşı da korumaktadır. Bir onkoloji botu, son quarter’in rehberlerine göre eğitilmiş olabilir, ancak sessizce kanıt tabanlı bakımın dışına çıkabilir. Sürüm kontrolü, sonuç izleme ve gün batımı tetikleyicileri gibi politikalar, algoritmaların güvensizlik tehlikesine dönüşmesini önler.

Son olarak, güven söz konusudur. Klinikler, GenAI’nin klinik yargıyı köreltmesinden endişe duyar; şeffaf araçlar çıkarmak, bu endişeleri doğrular. Net yönetim, veri kökeni şeffaflığı, doğrulama protokolleri ve insan tarafından denetlenen kontroller, “siyah kutu” kaygısını, AI’nin bir asistan, değil bir başıbozuk resident değil, bir asistan olduğu konusunda güvene dönüştürür.

Wolters Kluwer ve ameliyathane ile çalışmanız temelinde, sağlık hizmetlerinde GenAI için en gerçekçi kısa vadeli kullanım durumu nedir? Oraya ulaşmak için hangi kilometre taşlarını gerçekleştirmemiz gerekiyor?

Robotik cerrahları unutun. Önümüzdeki üç yıl içinde, GenAI için öldürücü fırsat idari imhadır. İki şerit zaten kendini kanıtlamaktadır:

1. Ön ofis not alma. Ambient dinleme araçları, bir doktorun hastası ile konuştuğu sırada ilerleme notunu hazırlar, sonra onu doğrudan elektronik sağlık kaydına (EHR) düşürür. Anketimize göre, %41’lik répondan, bu GenAI özelliğini hemen istiyor.
2. Arka ofis gelir koruması. Bir sonraki domino, önceden yetkilendirme paketleri, ret temyiz mektupları ve diğer gelir döngüsü çamurudur. Referans olarak, %67’lik liderler, önceden yetkilendirmenin üretkenliği boğduğunu ve %62’si EHR idari sürtünmesini vurgulamaktadır. Büyük dil modelleri, grafikleri okuyabilir ve bu formları otomatik olarak doldurabilir, böylece iddiaları günler kazandırabilir ve personeli daha değerli çalışmalara serbest bırakabilir.

Neden bu iki? Düşük klinik risk, yüksek işgücü rahatlama ve net dolar ve sent justification trifectasını vurur. %68’lik yöneticiler, işgücü maliyetlerini en önemli mali baskı olarak sıralarken, planı değiştirmeden saatler kazandıran araçlar, en kolay “evet”lerdir. Otonom teşhis sonra gelecektir; şimdi, GenAI, klinik personelinin kaybolmasını sağlayan bir asistan olarak para kazanıyor.

Anket, verilerin en üstte belirtilen risk olmadığını belirtiyor – bu, veri gizliliği sık sık manşetlerde yer aldığı için şaşırtıcı. Klinikler ve yöneticiler daha acil hangi riskleri görüyor?

Ben de şaşırdım. Manşetler, HIPAA ihlallerinin her hastane CIO’sunu uykusuz bıraktığını öne sürüyor. Ancak, verilere göre, yalnızca %56’lık profesyoneller, gizliliği bir GenAI riski olarak sıralamaktadır, oysa daha büyük bir dilim (%57!) “klinik yargıyı köreltme” konusunda endişe duymaktadır. Bana göre, bu, sorumluluk konusunda gerçek bir endişe olduğunu gösteriyor.

Şu anda klinikler ve yöneticiler endişe duyuyor:

• Sorumluluk ruleti. Algoritma, bakımı rotadan çıkardığında, kimin sorumluluğunu üstleneceği, satıcı, hastane, yoksa algoritmayı kabul eden klinisyen? Net düzenlemeler ve standartların eksikliği, şeffaflık açıklarına benzer bir şekilde, %55’lik bir endişe düzeyini göstermektedir.
• Düzenleyici sallama. %76’lık liderler, Medicare ve Medicaid kurallarının hızlı değişiminden zaten etkilenmektedir; GenAI’yi bu üzerine bindirmek, net sınırlar belirtilmeden zor bir satış olacaktır.
• Model kayması ve önyargı. %55’lik répondan, under-eğitilmiş modellerden kaynaklanan önyargıları kritik bir risk olarak işaret etmektedir, bu, eski verilerin eksik verilere göre tehlikeli olabileceğini hatırlatmaktadır.

Kısacası, çoğu organizasyon, güvenlik duvarlarının yeterli olduğunu varsayar, ancak bir GenAI modelinin çıktılarının bir bakım planına girdiğinde net bir sorumluluk zinciri yoktur. Yönetim çerçeveleri, sahipliği, denetim izlerini ve güncelleme zamanlamalarını belirlemeden, GenAI dağıtımları, güvenlik yığınının ne kadar sıkı olduğu konusunda endişe duyulmasına rağmen, durmaya devam edecektir.

GenAI araçlarının sonunda kliniklerin özerkliğini güçlendireceğini yoksa zayıflatacağını düşünüyor musunuz? Karar alma süreçlerini destekleyen sistemler nasıl tasarlanmalıdır?

GenAI, klinik özerkliğini genişletecek, daraltmayacak. Şu anda, bu özerklik, posta kutusu triajı, önceden yetkilendirme belgeleri ve EHR jimnastiği tarafından engelleniyor. Sürpriz değil, ön cephe personeli, GenAI için “iş akışlarını optimize et” öncelik olarak sıralamaktadır (%80 öncelik), ancak yalnızca %63’ü teknik olarak hazır olduklarını düşünmektedir. Eczacılar ve yardımcı sağlık profesyonelleri, GenAI’nin idari yağları azaltabileceğini ve destek personel ihtiyacını azaltabileceğini düşünmektedir: %41’i ve %47’si, GenAI’nin yeterli idari yağları çıkarabileceğini düşünmektedir. Kliniklerin, hastalarla yüz yüze daha fazla zaman geçirmesi, herkesin istediği özerkliktir.

Henüz, anket, özerkliğin her iki yönde de keskin olduğunu hatırlatmaktadır: %57’lik répondan, GenAI’ye aşırı bağımlılığın klinik yargıyı köreltebileceğinden endişe duymaktadır. Çare, düşünceli bir tasarımdır, değil, gazı geri almaktır. Sistemler, kökeni, alıntıları ve güven skorları ile işlerini göstermelidir, böylece insanlar nihai hakemler olarak kalırlar. Sürüm kontrolü ve dağıtımdan sonra izleme, sessiz model kaymasını, bakım yollarını zehirlemeden önce yakalar, ve “her zaman görünür geçersiz kılma” düğmeleri, algoritmanın bir asistan, değil, bir başhekim olduğunu net bir şekilde ortaya koyar.

Yönetim, son mil taşıdır. Sadece %18’lik profesyoneller, organizasyonlarında yayınlanmış bir GenAI politikasına sahip olduklarını belirtti. Şeffaf bir sorumluluk zinciri olmadan, hatta en iyi kullanıcı deneyimi, yasal belirsizlikte durur. Sağlıklı politikalar, veri yönetimi, denetim izleri ve rollerin tanımlanmasını belirlemelidir ve bu, doktorlar, hemşireler ve butonu pushing physician asistanı arasında sosyalleştirilmelidir. Bu sınırları, iş akışı yerli tasarım ile birleştirdiğinizde, GenAI, özerklik tehdidi gibi hissetmekten, kliniklerin uzun süredir arzu ettiği bir kaptan gibi hissetmekten vazgeçer.

GenAI araçlarının benimsenmesini en çok ne engelliyor – teknoloji sınırlamaları, düzenleyici belirsizlik, iş akışı sürtünmesi mi, yoksa daha derin bir şey, örneğin kültürel direniş mi?

Bu, bir uygulama açığı, miras teşviklerine sarılıdır. Çoğu sağlık sistemi lideri, pürüzsüz bir GenAI vizyonunu ortaya koyabilir, ancak işletme kasları, vizyonu yakalamamıştır. Anketimize göre, bu uyumsuzluk, bir cümlede özetlenebilir: %80’lik répondan, “iş akışlarını optimize et” öncelik olarak sıralamaktadır, ancak yalnızca %63’ü GenAI ile bunu yapma konusunda hazırlıklı olduklarını düşünmektedir. Vizyon ucuzdur; entegrasyon mühendisleri, değişiklik yönetimi playbook’ları ve GPU bütçeleri değildir.

Yönetim, bir sonraki çukurdur. Sadece %18’lik profesyoneller, hastanelerinde yayınlanmış bir GenAI politikasına sahip olduklarını belirtti. Net veri kullanımı, doğrulama ve sorumluluk kuralları olmadan, her vaat edilen pilot, bir uyum bombası riski altındadır. Bu yasal sis, hızlı değişen devlet ve federal düzenlemeler tarafından amplifiye edilmektedir. Aslında, %75’lik liderler, hızlı değişen kuralların, ortaya çıkardıkları herhangi bir çözümü boşa çıkaracağından endişe duymaktadır.

Son olarak, “pilot cehennemi” vardır. Dışarıdaki birçok çalışma, AI pilotlarının yaklaşık olarak onda bir oranında büyük ölçekli bir uygulamaya ulaştığını ortaya koymaktadır. Kurullar, demo’yu kutlar, bir basın açıklaması yayınlar ve devam eder. Çünkü kimse, takip eden, less-glamorous boru işini finanse etmez. GenAI, hasta ölçekli bir vaat olarak kalacaktır, hasta ölçekli bir gerçeklik olarak değil, hastaneler, daha önce yazılımı göndermiş ürün sahiplerini istihdam edene kadar.

Wolters Kluwer ve sağlık hizmetleri alanında çalışmanız temelinde, sağlık liderlerine, coşkuyu ve真正 değerli AI yatırımlarını nasıl ayırt edeceklerine dair önerileriniz nelerdir?

Bir tanı ile başlayın, bir demo ile değil. Bir çekiç, çivileri aramadan önce, çiviyi量layın: Operasyon odası kullanımı iki çeyrek boyunca %8 mi azaldı? Reddedilen temyizler, gelirleri kanamaya devam mı ediyor? Hemşire birimi, EHR “toggle time” (ekranlar ve görevler arasında geçiş yapılan zaman) için günde iki saat harcıyor mu? Sorunu somutlaştırdığınızda, doğru aracın自己 tanımlanması eğilimindedir. Sir William Osler, tıbbi topluluğa yıllarca önce hatırlattığı gibi, “Hastaya kulak verin; [hasta] size tanıyı söyleyecektir.”

Sorunu sabitledikten sonra, iş durumunu bir CFO gibi sorgulayın: Sert sayılar isteyin: temel metrikler, dự edilen deltas ve bir yönetim kurulu testine dayanabilecek geri ödeme pencereleri. AI pilotlarının yalnızca onda biri büyük ölçekli bir uygulamaya ulaştığını unutmayın; satıcı, sizin önem verdiğiniz KPI’yi hareket ettiren bir canlı müşteriyi gösteremezse, yürümeye devam edin.

Sonraki, satın alma, inşa etme veya ortak olma kararı verin. Satın alma, zaman-to-değerı hızlandırabilir, ancak buzağı gibi buzzwords ile süslenmiş buharlı yazılım için dikkat edin. İnşa, kontrol sağlar, ancak yalnızca bir üretim makine öğrenimi göndermiş bir kâr ve zarar sahibi ile birlikteyseniz. Hibrit ortaklıklar genellikle dengeyi vurur: sizin verileriniz, onların modeli, paylaşılan risk ve paylaşılan kazanç.

Son olarak, küçük, çok fonksiyonlu ekiplere, net sorumluluklara öncelik verin. Bir CMO, CIO, veri mühendisliği başkanı ve bir ön cephe şampiyonu içeren iki pizza ekibini düşünün, büyük yönetim kurulları değil. Their teşviklerini, kısa vadeli metriklere değil, çok yıllı sonuç hedeflerine hizalayın ve onlara, projenin pilot aşamasından öteye ilerlemesi için adanmış bir altyapı bütçesi verin – GPU’lar, veri mühendisliği, makine öğrenimi operasyonları (MLOps).

Son olarak, geleceğe bakarak: beş yıl içinde bir hastane ortamında sorumlu, tam entegre bir GenAI sistemi nasıl görünür? Oraya ulaşmak için hangi kilometre taşlarını gerçekleştirmemiz gerekiyor?

Bir klinikte yürüdüğünüzü ve doktorun klavyeye dönmediğini hayal edin. Konuşma akar ve bir ambient dinleme ajanı, diyaloğu yakalar, bir not hazırlar, rehber tabanlı siparişleri tetikler ve önceden yetkilendirme paketini, doktorun eli kapıda olmadan önce oluşturur. Erken pilotlar, bu kavramı zaten kanıtlamaktadır ve %41’lik klinikler, bu GenAI özelliğini hemen istiyor.

Bu sahneyi mümkün kılan şey, bilim kurgu robotları değil, temiz, interoperable veri ile gerçek zamanlı bir orkestrasyon katmanını birleştiren görünmez bir mimaridir ve “yönetim-as-code” dur. Henüz bazı ödevlerimiz var. Boşlukları kapatmak için, önce veri boru hattını düşünün, sonra (sonra değil) sınırları ekleyin ve hype’ı alışılmış bir şey haline getirmek için şeffaflık ve denetim izlerini koyun.

Kısmi taşlar, bir kez temel kurulduktan sonra doğal olarak ortaya çıkar. Birinci yıl, hastanelerin ve sağlık sistemlerinin veri dokusunu tellendirmesi, kurumsal GenAI rehberlerini yayınlaması ve bir MLOps pipeline oluşturması önerilir. İkinci yılında, ambulatuar kliniklerde ambient belgeleme ölçeklendirmesi, belgeleme zamanı ve “pajama zamanı” ölçümü önemlidir. Üçüncü yılında, GenAI’nin ret temyizlerini ve önceden yetkilendirme paketlerini (liderlerin %67’si bu yükü ortadan kaldırmaya hazır olduğunu söylüyor) oluşturması önemlidir. Dördüncü ve beşinci yıllarda, gerçek zamanlı klinik karar desteği ile gelişin, nihayetinde, sistem, emirleri, söylendiği anda çalıştıran, konuşma tabanlı bakım planlaması ile.

Harika röportaj için teşekkür ederiz, okuyucuların daha fazla bilgi edinmek istiyorsa, Wolters Kluwer veya Gelecek Hazır Sağlık Anket Raporunu ziyaret edin.