Matthew Crowson, MD, direktør for AI/GenAI-produktledelse i Wolters Kluwer Health – Intervju-serie

Dr. Matt Crowson er en leder innen helse-teknologi og praktiserende kirurg som fokuserer på å bruke AI i klinisk praksis. Han er direktør for AI/Generative AI-produkt i Wolters Kluwer (WKL.SW ) Health, der han leder initiativer for å forbedre bevis-syntese og analyse av virkelige data. Tidligere ledet han Deloittes helse-tilbyder AI-praksis, der han utviklet generative AI-løsninger for å forbedre dokumentasjon, omsetnings-sykluser og forskning. Han er også assistent-professor ved Harvard Medical School og har skrevet over 90 fagfellevurderte publikasjoner.

Wolters Kluwer er en global leverandør av profesjonell informasjon, programvare og tjenester som støtter kunder i helse, skatt og regnskap, juridisk og regulativ, finansiell overholdelse og ESG. Med hovedkontor i Nederland, utnytter selskapet dypt bransje-kunnskap og avansert teknologi for å levere verktøy som strømlinjeformer arbeidsflyter, sikrer overholdelse og støtter kritisk beslutningstaking. Deres operasjoner omfatter over 180 land, med tilbud organisert over divisjoner som Helse, Skatt & Regnskap, Juridisk & Regulativ, Finansiell & Korporativ Overholdelse og Korporativ Ytelse & ESG.

La oss starte med en personlig spørsmål—hvordan balanserer du dine doble roller som praktiserende kirurg og AI-produktleder? Har din kliniske arbeid påvirket din syn på hva AI skal eller ikke skal være i helsevesenet?

Ærlig talt? ​Det starter med nådeløs tid-boksing og en industri-styrke kaffemaskin. Klinikk-morgener holder mine pasient-omsorgsferdigheter ærlige, mens resten av dagen brukes til å omdanne den front-line smerten til produktspesifikasjoner. De to rollene nærer hverandre: å se en resident klikke gjennom ti skjermer for å bestille Tylenol er all marked-forskning jeg trenger.

Artificial intelligence (AI)-prosjekter flammer ut når ingen i rommet har følt den smerten. Vår Future Ready Healthcare Survey viser at 80% av lederne sier at «optimalisere arbeidsflyter» er en topp-prioritet. Likevel tror bare 63% at de er klare til å gjøre det med generative AI (GenAI). Dette er den klassiske strategi-utførelse-gapet som domene-eksperter kan lukke ved å stille riktige kliniske «hvorfor» før de skriver en enkelt linje med kode.

Min kliniske linse holder også misjonen praktisk. Frontline-personalet fortalte oss at deres topp-imperativer er å fikse bemannings-underskudd (82%), å presse ut administrativt overhodet (77%) og å knuse utbrenthet (76%). Hvis en algoritme ikke flytter en av disse nålene, er det bare teater. Klinikere slår av raskt.

Den linse gjør også meg forsiktig med hvor AI ikke skal gå. Faktisk sier 57% av profesjonelle at de bekymrer seg for at over-avhengighet av GenAI kan undergrave klinisk dømmekraft, men bare 18% sier at deres organisasjoner har publisert retningslinjer. Før styringen fanger opp, er mandatet klart: automatiser papir-arbeid, ikke tenkning.

Så, for meg, er balansen ikke virkelig kaffe versus kalender. Det handler om å holde en fot i klinikken – så jeg aldri glemmer hvem AI er ment å tjene – og en fot i produkt, så den kunnskapen kan sendes. Gjør det godt, og kaffen er bare en fin bonus.

Den Future Ready Healthcare Survey Report fra Wolters Kluwer  fremhever en stor gap mellom GenAI-entusiasme og utførelse. Var du overrasket over noen av resultatene? Hva sto mest ut for deg personlig?

Jeg var ikke overrasket i det hele tatt. Jeg har ennå ikke møtt en anti-automatiserings-kliniker. Hva som bremser utrulling ikke er frykt for noen «Skynet i skrubs»-scenario, men heller den daglige grinden i helse-Operasjoner. Undersøkelsen kristalliserer den virkeligheten. Åtte av ti ledere rangerer arbeidsflyt-optimalisering som en topp-prioritet, men bare seks av ti sier at de er klare til å la GenAI takle det. Den delta er eksakt hva jeg ser: ansvar-landminer, data som ser mer ut som en søppel-drawer enn en data-innsjø, og finansielle incitamenter som fortsatt belønner volum over effektivitet. Det er andre blokkeringer også, inkludert en trening-vakuum, skygge-IT-utmattelse og regulativt-fog.

Hva som slo meg mest var hvor ordinære disse hindringene er. Bemannings-underskudd, administrativt-drag og utbrenthet dominerer bekymrings-listen, men bare 18% av organisasjonene har formelle Gen AI-policies. Hvis du ikke vet hvem som signerer av en modell eller hvordan dens utganger blir audited, dør entusiasmen i overholdelses-kontoret. I tillegg sier 68% av respondentene at arbeids-kostnader er deres største finansielle press, og det er ingen overraskelse at ekslusivt ønsker bevis på avkastning på investering (ROI) før de signerer en annen programvare-faktura. Overskriften er ikke «AI-panikk», men «God idé—vis meg arbeidsflyten og forretnings-casen».

Over halvparten av helse-profesjonelle som ble spurte bekymrer seg for at GenAI kunne undergrave klinisk avgjørelse-evner. Tror du at denne frykten er gyldig—eller reflekterer den dypere bekymringer om tillit og gjennomsiktighet i AI-systemer?

Noen av bekymringen er reel, men det har mindre å gjøre med sci-fi-frykter av en HAL-9000-liknende rogue AI og mer å gjøre med vanlig ansvar. Når et verktøy tilbyr differensielle diagnoser i sekunder, trenger du krystall-klar proveniens: Hvor kom anbefalingen fra, hvem signerer av, og hvordan blir den audited? I dag har bare en liten minoritet av organisasjonene formelle GenAI-styring, så klinikere default til forsiktighet. Det viser seg i våre data som 57% som sier at «over-avhengighet kunne undergrave dømmekraft». Til meg er dette et signal om at de ikke ønsker en svart boks som intrerer på deres lisens til å praktisere.

Jeg ser problemet gjennom en historisk linse. Når regneark kom til finanse-avdelinger, bekymret noen regnskapsførere seg om at deres analytiske muskler ville atrofere. I stedet ble regneark-programvaren den nye baseline, og hevet nivået for nøyaktighet. Helsevesenet er forsinket med en lignende sprang. Vi taper for mange pasienter til variasjoner i omsorg; medisinsk feil er fortsatt en ledende årsak til skade og død. GenAIs superkraft kan være å snevre inn feil-barene ved å overflate retningslinjer, høydepunkter kontraindikasjoner og flagg utkastere raskere enn noen menneske kan si gjennom kartet. Men det må forbli en assistent, ikke en autonomt avgjørelse-taker, spesielt i de neste tre-til-fem-års-vinduet.

Så, ja, frykten er gyldig, men det er løsbart. Gjennomsiktige datasett, audit-spor og menneske-i-løkken- sjekkpunkter omdanner «AI-erosjon» til «AI-augmentasjon». Gi klinikere sporable anbefalinger og klare linjer for ansvar, og den 57% vil smelte bort. Det handler ikke om å erstatte ekspertise; det handler om å augmentere den med bedre verktøy.

Bare 18% av respondentene sier at de er klar over klare GenAI-policies i sine organisasjoner. Hva er de potensielle risikene med å deployere GenAI-verktøy uten slike styrings-dokumenter på plass?

Tenkt på det som å lansere et nytt legemiddel uten en doserings-etikett. Helse-data er høyt sensitive, og GenAI-modeller blir smartere bare når de absorberer den beskyttede helse-informasjon (PHI)-rike konteksten. Uten strenge data-forvaltnings-policies for å styre hvem som kan laste opp informasjon, hvordan dataene blir logget og hvor de bor, er en organisasjon bare ett clipboard-snapshot unna en personvern-brudd som kunne gjøre overskrifter.

Ansvar er den neste landminen. Når en algoritme hallucinerer en kontraindikert dose, hvem spiser den malpraktis-kravet? Leverandøren, sykehuset eller klinikeren som klikket «aksepter»? Nå er svaret usikkert fordi færre enn en av fem organisasjoner har kodifisert «regler for veien» for GenAI. I et vakuum, advokater ofte default til de dypeste lommene, og den usikkerheten alene kan stalle innovasjon.

Styring beskytter også mot mer subtile risikoer som modell-drift og stille-bias. En onkologi-bot trent på forrige kvartals retningslinjer kan stille ut av dato, og nøste omsorg utenfor bevis-basert rute. Policies som krever versjons-kontroll, resultat-overvåking og solnedgang-utløsere holder algoritmer fra å bli til sikkerhets-hendelser.

Til slutt er tillit på spill. Klinikere bekymrer seg for at over-avhengighet av GenAI kunne slå ut deres kliniske dømmekraft; ruller ut uklare verktøy bare bekrefter disse fryktene. Klare styring, gjennomsiktighet på data-avstamning, validerings-protokoller og menneske-i-løkken-sjekkpunkter omdanner «svart-boks»-angst til tillit til at AI er en assistent-teammate, ikke en rogue-resident.

Basert på ditt arbeid med Wolters Kluwer og i OR, hva er den mest realistiske nær-tids-bruken av GenAI i helsevesenet?

Glem robot-kirurger. Over de neste tre årene er den drepende GenAI-muligheten administrativ-annihilering. To filer er allerede bevist å være selv-utviklende:

1. Front-of-house note-taking. Ambient-lytting-verktøy nå utkaster progress-notatet mens en lege taler med sin pasient, og så dropper det rett inn i den elektroniske helse-journalen (EHR). Vår undersøkelse viser at 41% av respondentene setter dette på deres GenAI-ønskeliste, og teknologien er allerede live i tidlige-adopter-helse-systemer. Flere studier har vist at ambient-diktat-systemer kan kutte kognitivt belastning med 51% og etter-timers «pajama-tid» med mer enn 60%. Dette er et hardt ROI; du kan føle det raskt.
2. Back-office revenue-beskyttelse. Den neste dominoen er prior-authorization-pakker, avvisnings-appeal-brev og andre omsetnings-syklus-sludge. For referanse, sier 67% av lederne at prior-authorization alene er kvalmende produktivitet, og 62% peker ut EHR-administrativt-drag. Store språk-modeller som leser kartet og auto-populerer disse formene er allerede skåret dager av krav og frigjør personale for høyere-verdi-arbeid.

Hvorfor disse to? De traff trifecta av lav klinisk risiko, høy arbeids-kraft-lettelse og klart dollar-og-sent-berettigelse. I en markedsøkonomi der 68% av ekslusivt lister bemannings-kostnader som den største finansielle pressen, verktøy som gir timer tilbake uten å endre omsorgs-planen er den enkleste «ja». Autonom-diagnose vil komme senere; nå tjener GenAI sin plass ved å gjøre clipboard forsvinne.

Undersøkelsen bemerker at data ikke er den øverste risikoen som respondentene nevner—which er overraskende gitt hvor ofte data-privatdominerer overskrifter. Hva risikoer ser klinikere og administratorer som mer presserende?Jeg var også overrasket. Overskriftene ville ha oss til å tro at HIPAA-brudd kjemper hver hospitals CIO. Likevel viser våre data at bare 56% av profesjonelle nevner privatliv som en topp-risiko, mens en enda større del (57%!) bekymrer seg om «dumming ned» klinisk dømmekraft. Det forteller meg at front-line-frykten ikke er hackere, det er ansvar.

Her er hva klinikere og administratorer er svette:

• Ansvar-roulette. Hvis algoritmen nøtter omsorg av kurs, hvem signerer av malpraktis-kravet? Mangel på klare regler og standarder rangerer like med gjennomsiktighet-gapper på 55%, og signaliserer virkelig uro om den juridiske blast-radius.
• Regulativt-pisk. 76% av lederne føler allerede piskede av skiftende Medicare og Medicaid-regler; å legge uklar GenAI på toppen av det er en hard salg før styrings-rammene solidifiseres.
• Modell-drift og bias. 55% flagger bias fra under-trent modeller som en kritisk risiko, og påminner om at stående data kan være like farlig som manglende data.

Kort sagt, de fleste organisasjonene antar at deres brannmurer er greie; de har ikke en klar kjede av ansvar når en stor språk-modell (LLM)-utgang havner i en omsorgs-plan. Før styrings-rammene spesifiserer eierskap, audit-spor og oppdaterings-kadenser, GenAI-utrullinger vil forbli stanset, uavhengig av hvor tett sikkerhets-staken er.

Tror du at GenAI-verktøy vil til slutt forbedre eller utvannne klinikernes autonomi? Hvordan kan vi designe systemer som støtter avgjørelse-takning uten å overstige det?

GenAI er posisjonert til å utvide, ikke redusere, klinisk autonomi. Nå er mye av den autonomien hindret av inbox-triage, prior-authorization-papir-arbeid og EHR-gymnastikk. Ingen overraskelse, derfor, at front-line-personalet rangerer «optimalisere arbeidsflyter» som deres nummer-en GenAI-bruksfall (80% prioritet) selv om bare 63% føler seg teknisk klare til å utføre. Farmasøytiske og alliert-helse-profesjonelle er allerede ved å satse på oppsiden: 41% og 47% forventer at GenAI vil kutte nok administrativt-fett til å redusere støtte-personale-behov. Å frigjøre klinikere fra data-inn-tasting betyr mer ansikt-til-ansikt-tid med pasienter. Det er den autonomien alle ønsker.

Likevel minner undersøkelsen oss om at autonomi skjærer begge veier, som vi har berørt tidligere: 57% av respondentene bekymrer seg for at over-avhengighet av GenAI kunne slå ut klinisk dømmekraft. Motgift er tankefull design, ikke throttle-back. Systemer må vise sitt arbeid med proveniens-flags, sitater og tillit-scorer, så mennesker forblir de endelige avgjørelse-takere. Versjons-kontroll og post-utrullings-overvåking fanger stille modell-drift før det forgifter omsorgs-veier, mens «alltid-synlig-override»-knapper gjør det klart at algoritmen er en assistent, ikke en avgjørelse-taker.

Styring er den siste milen. Bare 18% av profesjonelle sier at deres organisasjon har en publisert GenAI-policy. Uten en gjennomsiktig kjede av ansvar, selv den beste bruker-opplevelsen vil stalle i juridisk limbo. Robuste policies må spesifisere data-forvaltning, audit-spor og rolle-differensiering som blir sosialisert over fysikere, sykepleiere og den fysikalske assistenten som trykker knappen. Når vi parer disse rammer med arbeidsflyt-nativ design, stopper GenAI å føles som en trussel mot autonomi og begynner å fungere som en co-pilot klinikere har bedt om.

Hva holder tilbake adopsjonen mest—tekniske begrensninger, regulativ usikkerhet, arbeidsflyt-friktion eller noe dypere som kulturell motstand?

Det er en utførelse-defisit innpakket i legacy-incentiver. De fleste helse-system-ledere kan formulere en slick GenAI-visjon, men deres operative muskler har ikke fanget opp. Vår undersøkelse viser gapet i en linje: 80% av respondentene rangerer «optimalisere arbeidsflyter» som en topp-prioritet, men bare 63% tror at de er klare til å gjøre det. Visjon er billig; integrerings-ingeniører, endrings-ledelses-håndbøker og grafikk-prosessorenhet (GPU)-budsjett er ikke.

Styring er den neste sink-hullet. Bare 18% av profesjonelle er klar over en publisert GenAI-policy på sykehuset. Uten klare data-bruk, validerings- og ansvar-regler, hver lovende pilot risikerer å bli en overholdelses-granat. Den juridiske usikkerheten forsterkes av makro-usikkerhet. Faktisk bekymrer 75% av lederne seg om at raskt-skiftende statlige og føderale regler vil undergrave hvilken som helst løsning de ruller ut.

Så kommer trench-nivå-friktion: nesten halvparten av eksklusive nevner skitne data og EHR-integrerings-mareritt som primære barrierer, og bare 42% sier at de har en prosess for å bolt GenAI-verktøy inn i eksisterende arbeidsflyter. Hvis modellen ikke kan se kartet eller legger til klikk, vil klinikere forlate det før lunch.

Til slutt er det «pilot-purgatory». Tallrike eksterne studier estimerer suksess-raten av AI-piloter som går over til bedrifts-skala til omtrent en av ti. Styrer feirer demo-en, utsteder en pressemelding og flytter på. Fordi ingen finasierer den følgende uglamorøse rør-arbeidet. GenAI vil forbli en PowerPoint-løfte før sykehusene utnevner produkt-eiere som har levert programvare før.

I kort, teknologi og kultur er ikke separate blokkeringer. De er fusjonert. Løs for ansvarlig ledelse, virkelig integrerings-budsjett, eksplisitte rammer og appetitten på GenAI vil matche dens hype.

Hva ville et ansvarlig, fullt integrert GenAI-system se ut som i et sykehus-miljø om fem år? Hva er milepælene vi må nå for å komme dit?

Tenkt på å gå inn i en klinikk hvor legen aldri svivler til tastaturet. Samtalen flyter, og en diskret ambient-lytting-agent fanger dialogen, utkaster et notat, kuer retningslinje-basert ordre og genererer prior-authorization-pakken før legens hånd er på dør-håndtaket. Tidlige piloter har allerede bevist konseptet, og 41% av klinikere i vår undersøkelse sier at dette er nettopp GenAI-funksjonen de ønsker neste.

Hva som gjør denne scenen mulig, er ikke sci-fi-robotikk; det er en usynlig arkitektur som fusjonerer ren, interoperabel data med en sanntids-orkestrerings-lag og «styring-som-kode». Vi har fortsatt hjemme-opp-gjøremål å gjøre. For å lukke gapene, tenk på data-rør-arbeid først, og så legg til rammer (i stedet for å bolt dem på) for å omdanne hype til vanvare.

Milepælene faller naturlig en gang grunnlaget er satt. I år ett anbefaler jeg at sykehus og helse-systemer kobler opp data-veven, publiserer bedrifts-omfattende GenAI-retningslinjer og bygger en MLOps-pipeline. I det andre året av implementeringen vil det være viktig å skalerer ambient-dokumentasjon over ambulatoriske klinikker, måle dokumentasjonstid og etter-timers «pajama-tid». I år tre, la GenAI utkaste avvisnings-appeal-brev og prior-authorization-pakker (67% av ledere sa at denne byrden er moden til eliminering). I det fjerde og femte året, utvikle til sanntids-klinisk avgjørelse-støtte med proveniens og, til slutt, samtale-basert omsorgs-planlegging hvor systemet utfører ordre i samme øyeblikk de blir uttalt.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Wolters Kluwer eller lese Future Ready Healthcare Survey Rapport.