Matthew Crowson, MD, direktør for AI/GenAI-produktledelse hos Wolters Kluwer Health – Interviewserie

Dr. Matt Crowson er en leder inden for sundhedsteknologi og praktiserende kirurg, der fokuserer på at anvende AI i klinisk praksis. Han er direktør for AI/Generative AI-produkt hos Wolters Kluwer Health, hvor han leder initiativer til at forbedre bevis-sammenfattelse og analyse af virkelige data. Tidligere ledede han Deloittes sundhedsudbyder AI-praksis, hvor han udviklede generative AI-løsninger til at forbedre dokumentation, omsætningscykler og forskning. Han fungerer også som adjunkt ved Harvard Medical School og har skrevet over 90 peer-reviewed publikationer.

Wolters Kluwer er en global leverandør af professionel information, software og tjenester, der understøtter kunder inden for sundhed, skat og regnskab, jura og regulering, finansielle compliance og ESG. Med hovedsæde i Nederlandene udnytter virksomheden dyb industrieekspertise og avanceret teknologi til at levere værktøjer, der strømliner arbejdsgange, sikrer overholdelse og understøtter kritisk beslutningstagning. Virksomhedens operationer omfatter mere end 180 lande, med tilbud organiseret på tværs af afdelinger som Health, Tax & Accounting, Legal & Regulatory, Financial & Corporate Compliance og Corporate Performance & ESG.

Lad os starte med en personlig spørgsmål—hvordan balancerer du dine dobbeltroller som praktiserende kirurg og AI-produktleder? Har din kliniske arbejde formet din opfattelse af, hvad AI skal eller ikke skal være i sundhedssektoren?

Ærligt? ​Det starter med en ubarmhjertig tidsboksning og en industriel-styrke kaffemaskine. Klinikformiddage holder mine patientplejeferdigheder ærlige, mens resten af dagen bliver brugt til at omdanne den frontlinje-smerte til produktspecifikationer. De to roller føder hinanden: at se en resident klikke gennem ti skærme for at bestille Tylenol er alt den markedsforskning, jeg har brug for.

Kunstig intelligens (AI)-projekter flammer ud, når ingen i rummet har følt den smerte. Vores Future Ready Healthcare Survey viser, at 80% af ledere siger, at “optimerer arbejdsgange” er en top-prioritet. Alligevel mener kun 63% af dem, at de er parate til at gøre det med generativ AI (GenAI). Dette er den klassiske strategi-eksekveringskløft, som domæne-eksperter kan lukke ved at stille det rigtige kliniske “hvorfor” før de skriver en enkelt linje kode.

Min kliniske linse holder også missionen praktisk. Frontline-personale fortalte os, at deres top-imperativer er at fikse personalemangel (82%), at presse ud administrativt overskud (77%) og at knuse udbrændthed (76%). Hvis en algoritme ikke flytter en af disse nåle, er det bare teater. Klinikere afbryder hurtigt.

Den linse gør mig også forsigtig med hensyn til, hvor AI ikke skal gå. I virkeligheden siger 57% af fagfolk, at de bekymrer sig om, at for stor afhængighed af GenAI kunne underminere klinisk dømmekraft, men kun 18% siger, at deres organisationer har offentliggjort retningslinjer. Indtil governance indhenter, er mandaten klar: automatiser papirarbejde, ikke tænkning.

Så, for mig, er balancen ikke rigtig kaffe versus kalender. Det handler om at holde en fod i klinikken – så jeg aldrig glemmer, hvem AI er ment til at tjene – og en fod i produkt, sådan at viden kan sejle. Gør det godt, og kaffen er bare en dejlig bonus.

Den Future Ready Healthcare Survey Report fra Wolters Kluwer fremhæver en stor kløft mellem GenAI-entusiasme og eksekvering. Var du overrasket over nogen af resultaterne? Hvad fremhævede sig mest for dig personligt?

Jeg var ikke overrasket i det mindste. Jeg har endnu ikke mødt en anti-automatiserings-kliniker. Hvad langsommere udviklingen, er ikke frygt for nogen “Skynet i operationsstuen”-scenario, men snarere den daglige slid i sundhedsoperationer. Undersøgelsen krystalliserer den virkelighed. Otte ud af ti ledere rangerer arbejdsgangs-optimering som en top-prioritet, men kun knap seks ud af ti siger, at de er parate til at lade GenAI tackle det. Den delta er præcis, hvad jeg ser: ansvars-landminer, data, der ligner en skraldespand mere end en data-sø, og finansielle incitamenter, der stadig belønner volumen over effektivitet. Der er andre blokererere, herunder en trænings-vakuum, skygge-IT-udmattelse og regulativ tåge.

Hvad slog mig mest var, hvor banalt disse hindringer er. Personalemangel, administrativt overskud og udbrændthed dominerer bekymringslisten, men kun 18% af organisationer har formelle GenAI-politikker. Hvis du ikke ved, hvem der godkender en model eller hvordan dens output bliver auditeret, dør entusiasmen i compliance-kontoret. Derudover siger 68% af respondentene, at arbejdsomkostninger er deres største finansielle tryk, og det er ingen under, at direktører ønsker bevis for ROI, før de underskriver en anden software-faktura. Overskriften er ikke “AI-panik”, men “God idé – vis mig arbejdsgangen og forretningsfaldet”.

Over halvdelen af de adspurgte sundhedsfagfolk bekymrer sig om, at GenAI kunne underminere klinisk beslutningstagning. Mener du, at denne frygt er berettiget – eller reflekterer den dybere bekymringer om tillid og gennemsigtighed i AI-systemer?

Noget af bekymringen er reel, men det har mindre at gøre med sci-fi-frygt for en HAL-9000-lignende AI og mere at gøre med almindelig ansvar. Når et værktøj tilbyder differential-diagnoser i sekunder, har du brug for krystal-klar proveniens: Hvor kommer anbefalingen fra, hvem godkender, og hvordan bliver den auditeret? I dag har kun en lille minoritet af organisationer formelle GenAI-retningslinjer, så klinikere falder tilbage til forsigtighed. Det viser sig i vores data som 57% siger “over-afhængighed kunne underminere dømmekraft”. Til mig er dette et signal om, at de ikke ønsker en sort kasse, der trænger ind på deres licens til at praktisere.

Jeg ser problemet gennem en historisk linse. Da regneark kom til finansafdelinger, bekymrede nogle regnskabsførere sig om, at deres analytiske muskler ville atrofere. I stedet blev regnearksoftware den nye baseline, der hævede gulvet for nøjagtighed. Sundhedssektoren er overforsigtet med en lignende spring.

Så, ja, frygten er berettiget, men den er løselig. Gennemsigtige datasæt, audit-spor og menneske-i-løkken kontrollpunkter omdanner “AI-underminering” til “AI-forbedring”. Giv klinikere sporbarlige anbefalinger og klare linjer for ansvar, og den 57% vil forsvinde. Det handler ikke om at erstatte ekspertise; det handler om at forbedre den med bedre værktøjer.

Kun 18% af respondentene siger, at de er bekendt med klare GenAI-politikker i deres organisationer. Hvad er de potentielle risici ved at implementere GenAI-værktøjer uden sådan en styre?

Tænk på det som at lancere et nyt lægemiddel uden en doseringsmærkning. Sundhedsdata er meget følsomme, og GenAI-modeller bliver kun klogere, når de absorberer den beskyttede sundhedsinformation (PHI)-rige kontekst. Uden strenge data-forvaltningspolitikker til at styre, hvem der kan uploade information, hvordan dataene bliver logget, og hvor de befinder sig, er en organisation kun en enkelt clipboard-snapshot væk fra en privatlivsbrud, der kunne gøre overskrifter.

Ansvar er den næste landmine. Når en algoritme hallucinerer en kontraindiceret dosis, hvem spiser malpraktis-kravet? Leverandøren, hospitalet eller klinikeren, der klikkede “accepter”? Lige nu er svaret uklart, fordi færre end en af fem organisationer har kodificerede “regler for vejen” for GenAI. I et vakuum falder advokater ofte tilbage til de dybeste lommer, og den usikkerhed alene kan stoppe innovation.

Styre også beskytter mod mere subtile risici som model-drift og stille bias. En onkologi-bot trænet på sidste kvartals retningslinjer kan stille stille ud af kurs, og nøje care af vej fra bevisbaseret ræsonnement. Politikker, der kræver versionskontrol, resultat-overvågning og solnedgang-udløsere, holder algoritmer fra at ældes til sikkerhedsfarer.

Til sidst er der tillid på spil. Klinikere bekymrer sig om, at over-afhængighed af GenAI kunne slå deres kliniske dømmekraft; rullende uklare værktøjer bekræfter kun disse frygter. Klare styre, gennemsigtighed på data-afstamning, valideringsprotokoller og menneske-i-løkken kontrollpunkter omdanner “sort kasse”-angst til tillid til, at AI er en assistent, ikke en løs resident.

Basert på dit arbejde med Wolters Kluwer og i operationsstuen, hvad er den mest realistiske nærige brugs-case for GenAI i sundhedssektoren?

Glem robot-kirurger. Over de næste tre år er den dræbende GenAI-mulighed administrativ udryddelse. To baner er allerede bevist sig selv:

1. Front-of-house note-tagning. Ambient lytting-værktøjer tegner nu fremdriftsnoten, mens en læge taler med sin patient, og derefter lægger den direkte ind i den elektroniske sundhedsjournal (EHR). Vores undersøgelse viser, at 41% af respondentene sætter dette på deres GenAI-ønske liste, og teknologien er allerede live i tidlige-adopter sundheds-systemer. Flere studier har vist, at ambient dikteringssystemer kan reducere kognitivt belastning med 51% og efter-timers “pajama-tid” med mere end 60%. Dette er en hård ROI; du kan føle det hurtigt.
2. Back-office revenue-beskyttelse. Den næste domino er prior-authorization-pakker, afvisnings-appel-breve og andre revenue-cyklus-sludder. For reference siger 67% af ledere, at prior-authorization alene er kvælende produktivitet, og 62% peger på EHR-administrativt sludder. Store sprogmodeller, der læser kartoteket og auto-populerer disse former, er allerede skæring dage af krav og frigør personale til højere-værdi-arbejde.

Hvorfor disse to? De rammer trifectaen af lav klinisk risiko, høj arbejdskraft-lettelser og klare dollars-og-cents-bevæggrund. I en markedsføring, hvor 68% af direktører nævner personaleomkostninger som den største finansielle tryk, er værktøjer, der giver timer tilbage uden at ændre behandlingsplanen, den letteste “ja”. Autonom diagnose vil komme senere; nu tjener GenAI sin føde ved at gøre clipboard forsvinde.

Undersøgelsen bemærker, at data ikke er den største risiko, der nævnes af respondentene – hvilket er overraskende, da data-privatliv ofte dominerer overskrifter. Hvad risici ser klinikere og administratorer som mere presserende?

Jeg var også overrasket. Overskrifterne ville have os til at tro, at HIPAA-brud er det, der holder hver hospital-direktør vågen om natten. Alligevel viser vores data, at kun 56% af fagfolk nævner privatliv som en top-GenAI-risiko, mens en endnu større skive (57%!) bekymrer sig om “at dumme ned” klinisk dømmekraft. Det fortæller mig, at frontlinje-frygten ikke er hackere, men ansvar.

Tror du, at GenAI-værktøjer vil udvide eller udvande klinikernes selvstændighed? Hvordan kan vi designe systemer, der understøtter beslutningstagning uden at overskride den?

GenAI er klar til at udvide, ikke mindske, klinisk selvstændighed. Lige nu er meget af denne selvstændighed hæmmet af inbox-triage, prior-authorization-papirarbejde og EHR-gymnastik. Ingen overraskelse, at frontline-personale rangerer “optimerer arbejdsgange” som deres nummer ét brugs-case for GenAI (80% prioritet) selvom kun 63% føler sig teknisk parate til at eksekvere. Farmakologer og sundhedsfagfolk er allerede ved at satse på op-siden: 41% og 47% forventer, at GenAI vil skære nok administrativt fedt til at reducere understøttende personale-behov. At frigøre klinikere fra data-indtastning betyder mere ansigt-til-ansigt-tid med patienter. Det er den selvstændighed, alle ønsker.

Hvad holder tilbage adoption mest – tekniske begrænsninger, regulativ usikkerhed, arbejdsgangs-friction eller noget dybere som kulturel modstand?

Det er en eksekverings-deficit indpakket i legacy-incitamenter. De fleste sundheds-system-ledere kan formulere en glat GenAI-vision, men deres operativa muskler har ikke indhentet. Vores undersøgelse viser afstanden i en enkelt linje: 80% af respondentene rangerer “optimerer arbejdsgange” som en top-prioritet, men kun 63% mener, at de er parate til at gøre det. Vision er billig; integrations-ingeniører, change-management-leksika og GPU-budgetter er ikke.

Styre er den næste sinkhole. Kun 18% af fagfolk er endda bekendt med en offentliggjort GenAI-politik på deres hospital. Uden klare data-brug, validering og ansvars-regler risikerer enhver lovende pilot til at blive en compliance-granat. Den juridiske tåge forstærkes af makro-usikkerhed. I virkeligheden bekymrer 75% af ledere sig om, at hurtigt-skiftende statlige og føderale reguleringer vil undergrave hvilken som helst løsning, de ruller ud.

Til sidst er der “pilot-purgatory”. Flere eksterne studier fastslår, at succes-raten for AI-piloter, der avancerer til enterprise-skala, er omkring en af ti. Bestyrelser fejrer demo’en, udsender en pressemeddelelse og flytter sig. Fordi ingen finansierer det følgende unglamourøse rør-arbejde. GenAI vil forblive en PowerPoint-løfte, indtil hospitaler hyrer produkt-ejere, der har leveret software før.

Slutningsvis, hvilken fremtid ser du for GenAI i sundhedssektoren?

Forestil dig, at du går ind i en klinik, hvor lægen aldrig svivler til tastaturet. Samtalen flyder, og en diskret ambient-lytning-agent fanger dialogen, tegner en note, citerer retningslinje-baserede ordrer og genererer prior-authorization-pakken, før lægens hånd er på dørhåndtaget. Tidlige piloter er allerede bevist konceptet, og 41% af klinikere i vores undersøgelse siger, at dette er præcis det GenAI-funktion, de ønsker næste.

Hvad gør denne scene mulig, er ikke sci-fi-robotter; det er en usynlig arkitektur, der fusionerer ren, interoperabel data med en real-time-koordineringslag og “styre-som-kode”. Vi har stadig hjemme-øvelser at gøre. For at lukke hullerne, tænk på data-rør-arbejde først, og derefter indlejre styre (i stedet for at bolt dem på) for at omdanne hype til vane.

Milepæle falder naturligt, når fundamentet er sat. I år ét anbefaler jeg, at hospitaler og sundheds-systemer wire op data-fabrikken, offentliggør enterprise-omfattende GenAI-retningslinjer og bygge en MLOps-pipeline. I det andet år af implementeringen vil det være vigtigt at skala ambient-dokumentation over ambulatoriske klinikker, måle dokumentations-tid og efter-timers “pajama-tid”. I år tre, lad GenAI tegne afvisnings-appel og prior-authorization-pakker (67% af ledere sagde, at denne byrde er moden til eliminering). I det fjerde og femte år, udvikle til real-time-klinisk beslutningstagning med proveniens og, til sidst, samtale-baseret behandlingsplanlægning, hvor systemet udfører ordrer i det øjeblik, de bliver udtalt.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge Wolters Kluwer eller læse Future Ready Healthcare Survey-rapport.