Matthew Crowson, MD, ředitel AI/GenAI Produktového managementu ve společnosti Wolters Kluwer Health – Interview Series

Dr. Matt Crowson je lídr ve zdravotnické technologii a praktický chirurg, který se zaměřuje na aplikaci umělé inteligence do klinické praxe. Je ředitelem produktového managementu AI/Generativní AI ve společnosti Wolters Kluwer (WKL.SW ) Health, kde vede iniciativy na zlepšení syntézy důkazů a analýzy reálných dat. Předtím vedl praxi AI pro poskytovatele zdravotní péče ve společnosti Deloitte, kde vyvíjel řešení na základě generativní umělé inteligence pro zlepšení dokumentace, cyklu výnosů a výzkumu. Také působí jako asistent profesora na Harvard Medical School a je autorem více než 90 recenzovaných publikací.

Wolters Kluwer je globálním poskytovatelem profesionální informace, softwaru a služeb, který podporuje klienty ve zdravotnictví, daňovém a účetním, právním a regulačním, finančním compliance a ESG. S centrálou v Nizozemsku využívá společnost hluboké odborné znalosti a pokročilou technologii k dodání nástrojů, které zefektivňují pracovní postupy, zajišťují soulad a podporují kritické rozhodování. Její operace pokrývají více než 180 zemí, s nabídkami organizovanými napříč divizemi, jako je Zdraví, Daně a účetnictví, Právo a regulace, Finanční a firemní compliance a firemní výkon a ESG.

Začneme s osobním dotazem – jak vyvažujete své dvojí role praktického chirurga a lídra produktového managementu AI? Změnilo vaše klinické zkušenosti váš pohled na to, co by AI ve zdravotnictví mělo nebo neměl být?

Upřímně? Začíná to bezohledným časovým rozvrhem a průmyslově silným kávovarem. Klinické dopoledne udržuje moje pacientské dovednosti čestné, zatímco zbytek dne je věnován přeměně frontové bolesti na specifikace produktu. Obě role se navzájem podporují: vidět residenta, který kliká přes deset obrazovek, aby objednal Tylenol, je veškerý trh, který potřebuji.

Projekty umělé inteligence selhávají, když nikdo v místnosti nepocítil tu bolest. Naše Future Ready Healthcare Survey ukazuje, že 80 % lídrů říká, že „optimalizovat pracovní postupy“ je hlavní prioritou. Přesto pouze 63 % si myslí, že jsou připraveni to udělat s generativní AI (GenAI). To je klasická strategická mezera, kterou odborníci z oblasti mohou uzavřít tím, že položí správnou klinickou otázku „proč“ předtím, než napíšou jedinou řádku kódu.

Můj klinický pohled také udržuje misi praktickou. Frontline personál nám řekl, že jejich hlavní imperativy jsou opravit personální nedostatek (82 %), vymačkat administrativní režii (77 %) a zničit vyhoření (76 %). Pokud algoritmus nehyne jeden z těchto jehel, je to jen divadlo. Klinici se rychle vypínají.

Ten pohled také dělá mě opatrným ohledně toho, kam AI nesmí jít. Ve skutečnosti 57 % profesionálů se obává, že přehnaná závislost na GenAI by mohla podkopat klinické úsudky, ale pouze 18 % říká, že jejich organizace mají zveřejněné ochranné prostředky. Dokud governance nedojde, je mandát jasný: automatizovat papírování, ne myšlení.

Takže pro mě není rovnováha opravdu káva versus kalendář. Je to o udržování jedné nohy v klinice – aby jsem nikdy nezapomněl, komu AI má sloužit – a jedné nohy v produktu, aby znalosti byly dodány. Pokud to uděláte dobře, káva je jen příjemný bonus.

Vyšetřovací zpráva Future Ready Healthcare Survey od Wolters Kluwer zdůrazňuje silnou mezeru mezi entuziasmem GenAI a prováděním. Byl jste překvapen nějakými z výsledků? Co vám osobně nejvíce vadilo?

Nebyl jsem překvapen vůbec. Ještě jsem nepotkal anti-automatizačního klinika. Co zpomaluje nasazení není strach z nějakého „Skynet v rouškách“ scénáře, ale spíše denní muka zdravotnických operací. Výzkum zkonkrétní tuto realitu. Osm z deseti lídrů řadí optimalizaci pracovních postupů jako hlavní prioritu, ale pouze necelá šest z deseti říká, že jsou připraveni nechat GenAI zvládnout to. To je přesně to, co vidím: právní pasti, data, která vypadají více jako šuplík s hadry než jako datové jezero, a finanční pobídky, které stále odměňují objem nad efektivitou. Existují i další blokační prvky, včetně vakua ve vzdělávání, únavy z „stínového IT“ a regulační mlhy.

Co mě nejvíce zasáhlo, bylo to, jak všední jsou ty překážky. Personální nedostatek, administrativní tah a vyhoření dominují seznamu obav, ale pouze 18 % organizací má formální Gen AI politiku. Pokud nevíte, kdo schvaluje model nebo jak jeho výstupy budou auditovány, entuziasmus umírá v kanceláři compliance. Kromě toho 68 % respondentů říká, že náklady na pracovní sílu jsou jejich největším finančním tlakem, a není divu, že manažeři chtějí důkaz návratnosti investic (ROI) předtím, než podepíší další fakturu za software. Hlavní zpráva není „AI panika“, ale „Skvělé nápady – ukážete mi pracovní postup a obchodní případ?“

Více než polovina zdravotnických profesionálů dotázaných se obává, že GenAI by mohla podkopat klinické rozhodovací dovednosti. Myslíte, že ten strach je oprávněný – nebo odráží hlubší obavy o důvěře a transparentnosti v AI systémech?

Některá z úzkosti je skutečná, ale má to méně co do činění se sci-fi obavami o HAL-9000 styl rogue AI a více s obyčejnou odpovědností. Když nástroj nabízí diferenciální diagnózy za sekundy, potřebujete křišťálově čisté provenience: Odkud pochází doporučení, kdo schvaluje a jak se audituje? Dnes pouze malá menšina organizací má formální GenAI governance, takže klinici se uchylují k opatrnosti. To se projevuje v našich datech jako 57 % říkajících, že „přehnaná závislost by mohla podkopat úsudek“. Pro mě to je signál, že nechtějí, aby černá skříňka vtrhla do jejich licence k výkonu.

Vidím problém skrze historickou čočku. Když se tabulkové procesory dostaly do finančních oddělení, někteří účetní se obávali, že jejich analytické svaly atrofují. Místo toho se tabulkový software stal novou základnou, zvyšující podlahu pro přesnost. Zdravotnictví je dlouho přezrálé pro podobný skok. Ztrácíme příliš mnoho pacientů kvůli variacím v péči; lékařské chyby zůstávají vedoucím důvodem zranění a smrti. Super schopnost GenAI může být zužováním těch chyb za pomoci rychlého vyhledání pokynů, kontraindikací a odhalování odchylek rychleji, než může kterýkoli člověk projít chartem. Ale musí zůstat asistentem, ne autonomním rozhodujícím, zejména v příštích třech až pěti letech.

Takže ano, strach je oprávněný, ale je řešitelný. Transparentní datové sady, auditní stopy a kontrolní body s lidskou kontrolou mění „AI erozi“ na „AI augmentaci“. Dejte klinickým pracovníkům stopovatelná doporučení a jasnou odpovědnost, a ten 57% se roztaje. Není to o nahrazování odbornosti; je to o jejím rozšíření pomocí lepších nástrojů.

Pouze 18 % respondentů říká, že jsou si vědomi jasných GenAI politik ve svých organizacích. Jaká jsou potenciální rizika nasazení GenAI nástrojů bez takové governance?

Přemýšlejte o tom jako o spuštění nového léku bez označení dávky. Zdravotnická data jsou vysoce citlivá a modely GenAI se stávají chytřejšími pouze tehdy, když absorbují kontext bohatý na chráněné zdravotní informace (PHI). Bez přísných politik pro správu dat, které řídí, kdo může nahrát informace, jak jsou data protokolována a kde se nachází, organizace je pouze jeden snímek klipboardu daleko od porušení ochrany osobních údajů, které by mohlo udělat titulky.

Odpovědnost je další past. Když algoritmus halucinuje kontraindikovanou dávku, kdo snědl nárok na špatnou péči? Dodavatel, nemocnice nebo klinický pracovník, který klikl na „přijmout“? Právě teď je ta odpověď fuzzy, protože méně než jedna z pěti organizací má kodifikované „pravidla silnice“ pro GenAI. V vakuum právnici často defaultují na nejhlubší kapsy a ta nejistota sama může zastavit inovace.

Governance také chrání před jemnějšími riziky, jako je posun modelu a skrytá předpojatost. Onkologický bot vyškolený na pokynech z minulého čtvrtletí může tiše vyjít z evidence-based kolejí. Politiky, které vyžadují kontrolu verze, monitorování výsledků a spouštěče západu slunce, udržují algoritmy od stárnutí do bezpečnostních pastí.

Nakonec je to důvěra. Kliničtí pracovníci se obávají, že přehnaná závislost na GenAI by mohla otupit jejich klinické úsudky; nasazení neprůhledných nástrojů pouze potvrzuje ty obavy. Jasná governance, transparentnost na datovém původu, validační protokoly a kontrolní body s lidskou kontrolou mění „černou skříňku“ úzkost na důvěru, že AI je asistentský kolega, ne rogue rezident.

Založeno na vaší práci s Wolters Kluwer a v OR, co je nejrealističtějším near-term použitím GenAI ve zdravotnictví?

Zapomeňte na robotické chirurgy. V příštích třech letech je největší příležitost GenAI administrativní anihilace. Dvě dráhy jsou již prokazatelné:

1. Front-of-house note-taking. Ambientní poslouchací nástroje nyní vypracovávají progress note, zatímco lékař mluví se svým pacientem, a pak jej vloží přímo do elektronického zdravotního záznamu (EHR). Naše průzkum ukazuje, že 41 % respondentů si to přeje na svém GenAI wishlistu, a technologie je již živá v raných adopterských zdravotních systémech. Několik studií ukázalo, že ambientní diktovací systémy mohou snížit kognitivní zátěž o 51 % a noční „pajama time“ o více než 60 %. To je tvrdý ROI; můžete to cítit rychle.
2. Back-office revenue protection. Další dominový kámen je prior-authorization balíčky, odvolání proti zamítnutí a další revenue-cycle bláto. Pro referenci 67 % lídrů říká, že prior-authorization sám je udušením produktivity, a 62 % volá EHR administrativní tah. Velké jazykové modely, které čtou chart a automaticky vyplňují tyto formuláře, již škrábají dny z nároků a osvobozují personál pro vyšší hodnotu práce.

Proč tyto dvě? Trefí se do trojice nízkého klinického rizika, vysoké úlevy od pracovní zátěže a jasných dolarových a centových odůvodnění. Na trhu, kde 68 % manažerů uvádí náklady na pracovní sílu jako hlavní finanční tlak, nástroje, které dávají hodiny zpět bez změny plánu péče, jsou nejlehčí „ano“. Autonomní diagnóza přijde později; nyní GenAI si vydělává na živobytí tím, že dělá clipboard zmizet.

Průzkum uvádí, že data nejsou největším rizikem, které respondenti uvádějí – což je překvapivé, vzhledem k tomu, jak často dominuje ochrana osobních údajů v titulcích. Jaká rizika vidí kliničtí pracovníci a administrátoři jako nejnaléhavější?Já byl také překvapen. Titulky by nás měly vést k tomu, že úniky HIPAA drží každého CIO v nemocnici vzhůru. Nicméně naše data ukazují, že pouze 56 % profesionálů uvádí ochranu osobních údajů jako hlavní riziko GenAI, zatímco ještě větší část (57 %!) se obává o „otupení“ klinického úsudku. To mi říká, že frontová linie se neobává hackování, ale odpovědnosti.

Toto jsou věci, které kliničtí pracovníci a administrátoři potí:

• Liability roulette. Pokud algoritmus vyvede péči z kurzu, kdo podepíše šek na špatnou péči? Chybějící jasné regulace a standardy se řadí vedle transparentních mezer na 55 %, signalizujících skutečnou úzkost o právní dopad.
• Regulační bičování. 76 % lídrů již cítí, že jsou bičováni měnícími se pravidly Medicare a Medicaid; vrstvení neprůhledného GenAI na vrchol toho je tvrdý prodej, dokud se guardrails nezjednoduší.
• Model drift a bias. 55 % respondentů označuje předpojatost z podtrénovaných modelů jako kritické riziko, připomínající, že zastaralá data mohou být stejně nebezpečná jako chybějící data.

Stručně řečeno, většina organizací předpokládá, že jejich firewally jsou v pořádku; ne mají jasnou odpovědnost, když výstup velkého jazykového modelu (LLM) skončí v péči. Dokud governance rámce nevysvětlí vlastnictví, auditní stopy a aktualizační cykly, nasazení GenAI budou pokračovat, bez ohledu na to, jak těsný je bezpečnostní balík.

Myslíte, že GenAI nástroje nakonec posílí nebo zředí autonomii klinických pracovníků? Jak navrhnete systémy, které podporují rozhodování bez jeho překročení?

GenAI je připraven rozšířit, ne zmenšit, klinickou autonomii. Právě teď je tato autonomie brzděna inboxovou triáží, předautorizační papírování a EHR gymnastikou. Není žádným překvapením, že front-line personál řadí „optimalizaci pracovních postupů“ jako jejich číslo jedna případu použití pro GenAI (80% priorita), i když pouze 63% se cítí technicky připraveni to provést. Farmaceuti a zdravotničtí pracovníci již vsází na výhodu: 41% a 47% očekává, že GenAI vyčistí dostatečnou administrativní tuk, aby snížilo potřeby podpůrného personálu. Uvolnění klinických pracovníků od datové vstupní práce znamená více času stráveného s pacienty. To je autonomie, kterou všichni chtějí.

Stále však průzkum připomíná, že autonomie řeže oběma směry, jak jsme již diskutovali dříve: 57% respondentů se obává, že přehnaná závislost na GenAI by mohla otupit klinické úsudky. Protijednoduchost je uvážlivý design, ne zpomalení. Systémy musí ukázat svou práci s proveniencí, citacemi a důvěrnými skóre, aby lidé zůstali konečnými arbitry. Kontrola verze a monitorování po nasazení chytí tichý model drift, než otráví péči, zatímco „vždy viditelné přepsání“ tlačítka jasně ukazují, že algoritmus je asistent, ne ošetřující.

Governance je poslední míli. Pouze 18 % profesionálů říká, že jejich organizace má zveřejněnou GenAI politiku. Bez transparentní odpovědnosti, dokonce i nejlepší uživatelský zážitek bude uvíznut v právní limbo. Robustní politiky potřebují vysvětlit správu dat, auditní stopy a roli rozlišení, které se socializují napříč lékaři, sestrami a zdravotnickými asistenty, kteří tlačí tlačítko. Když spojíme ty guardrails s nativním designem pracovního postupu, GenAI přestane vypadat jako hrozba pro autonomii a začne jednat jako pilot, kterého kliničtí pracovníci prosí.

Co brání přijetí nejvíce – technologické omezení, regulační nejistota, tření pracovního postupu nebo něco hlubšího, jako je kulturní rezistence?

Je to deficit provádění zabalený v legacy pobídkách. Většina lídrů zdravotnických systémů může artikulovat jasnou vizi GenAI, ale jejich operační svaly ještě nedojely. Naše průzkum ukazuje rozpor v jedné větě: 80 % respondentů řadí „optimalizovat pracovní postupy“ jako hlavní prioritu, ale pouze 63 % si myslí, že jsou připraveni to provést. Vize je levná; integrace inženýrů, playbooks pro změnu a GPU rozpočty nejsou.

Governance je další past. Pouze 18 % profesionálů je si vědomo zveřejněné GenAI politiky ve své nemocnici. Bez jasných pravidel pro použití dat, validaci a odpovědnost, každá slibná pilotní verze riskuje, že se stane compliance granátem. Ta právní mlha je zesílena makro nejistotou. Skutečně 75 % lídrů se obává, že rychlé změny státních a federálních předpisů budou rušit jakoukoli řešení, která nasadí.

Pak je tu „trench-level“ tření: téměř polovina manažerů uvádí špinavá data a EHR integrační noční můry jako primární bariéry, a pouze 42 % říká, že mají proces, který GenAI nástroje spojí s existujícími pracovními postupy. Pokud model nemůže vidět chart nebo přidává kliknutí, kliničtí pracovníci ho opustí před obědem.

Nakonec je tu „pilot purgatory“. Četné externí studie odhadují míru úspěchu AI pilotů, které se staly podnikovými měřítky, na zhruba jednu z deseti. Správní rady oslavují demo, vydají tiskovou zprávu a jdou dál. Protože nikdo nefinancuje následující neokázalou práci na potrubí. GenAI zůstane slibem PowerPointu, dokud nemocnice nenajmou produktové vlastníky, kteří již dříve dodali software.

Stručně řečeno, technologie a kultura nejsou samostatnými blokačními prvky. Jsou spojeny. Řešte problém s odpovědným vedením, skutečnými rozpočty pro integraci, explicitními guardrails a chuťí k GenAI bude odpovídat jeho hype.

Jste expert na AI systémy zaměřené na pragmatické, založené na důkazech výsledky. Jaké rady byste dali zdravotnickým lídrům, kteří se snaží navigovat hype a identifikovat skutečně cenné AI investice?

Začněte s diagnózou, ne s demonstrací. Předtím, než dovolíte, aby se lesklý kladivo hledalo hřebíky, kvantifikujte hřebík: Je využití operačního sálu down 8% po dva po sobě jdoucí čtvrtletí? Jsou odvolání proti zamítnutí visící a krvácející z výnosů? Je jednotka sestry tři stráví dvě hodiny za směnu na EHR „toggle time“ (čas strávený přepínáním mezi obrazovkami a úkoly)? Jakmile je bolest jasná, správný nástroj se tendenci zavádí. Jako Sir William Osler připomněl zdravotnické komunitě před generacemi, „Poslouchejte pacienta; [oni] vám řeknou diagnózu“.

S problémem pinem, prošetřete obchodní případ jako CFO. Požadujte tvrdá čísla: základní metriky, projektované delta a payback okna, která přežijí test boardroomu. Připomeňte si, že pouze asi jedna z deseti AI pilotů se stane podnikovým měřítkem; pokud dodavatel nemůže ukázat živého zákazníka, který přesunul KPI, které vám záleží, pokračujte.

Dále rozhodněte, zda koupit, postavit nebo partnerovat. Koupě může urychlit čas na návratnost investic, ale pozor na vaporware oblečený v buzzwords. Postavení dává vám kontrolu, ale pouze pokud máte tygří tým zisku a ztrát, který dříve dodal produkční strojové učení. Hybridní partnerství často najdou rovnováhu: vaše data, jejich model, sdílený výsledek, sdílené riziko.

Nakonec, dejte prioritu malým, mezioborovým týmům s jasnou odpovědností. Myslete na dvou-pizza tým, včetně CMO, CIO, šéfa datové technologie a front-line šampiona, spíše než velké řídící výbory. Slučte jejich pobídky s víceletými cíli, spíše než krátkodobými metrikami, a dejte jim dedikovaný infrastrukturní rozpočet – GPU, datové inženýrství, strojové učení operace (MLOps) – aby projekt pokročil za pilotní fázi.

Nakonec, podívejte se dopředu: co by vypadala zodpovědná, plně integrovaná GenAI systém ve zdravotnickém prostředí za pět let? Jaká jsou milníky, které musíme dosáhnout, abychom se tam dostali?

Představte si, že vstupujete do kliniky, kde lékař nikdy neotočí ke klávesnici. Konverzace plyne a diskrétní ambient-poslouchací agent zachytí dialog, vypracuje poznámku, vyvolá pokyny založené na pokynech a vygeneruje prior-authorization balíček, než lékařova ruka bude na dveřních klinkách. Rané piloty již prokazují koncept, a 41% klinických pracovníků v našem průzkumu říká, že je to přesně GenAI funkce, kterou chtějí příště.

Co dělá tu scénu možnou, není sci-fi robotika; je to neviditelná architektura, která spojuje čisté, interoperabilní data s reálnou orchestrací a „governance-as-code“. Zatím jsme stále měli domácí úkoly. Abychom uzavřeli mezery, přemýšlejte o datové instalaci first, pak vložte guardrails (místo aby je přidali), aby se hype stal zvykem.

Milníky přirozeně padají, jakmile je základy nastaven. V prvním roce doporučuji, aby nemocnice a zdravotnické systémy propojily datové tkanivo, zveřejnily podnikové GenAI pokyny a postavily MLOps pipeline. Ve druhém roce implementace bude důležité měřítko ambientní dokumentace napříč ambulantními klinikami, měření dokumentační doby a noční „pajama time“. Ve třetím roce, dejte GenAI vypracovat odvolání proti zamítnutí a prior-authorization balíčky (67% lídrů říká, že tato zátěž je zralá na eliminaci.) Ve čtvrtém a pátém roce, vyviněte se do reálného klinického rozhodování s proveniencí a nakonec do konverzační péče, kde systém vykonává příkazy v okamžiku, kdy jsou vysloveny.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Wolters Kluwer nebo přečíst Future Ready Healthcare Survey Report.