Matthew Crowson, MD, Director of AI/GenAI Product Management at Wolters Kluwer Health – Intervju-serie

Dr. Matt Crowson är en ledande expert inom hälsovårdsteknologi och praktiserande kirurg som fokuserar på att tillämpa AI i klinisk praxis. Han är Director of AI/Generative AI Product på Wolters Kluwer (WKL.SW ) Health, där han leder initiativ för att förbättra bevis syntes och analys av realvärldens data. Tidigare ledde han Deloittes hälsovårdleverantörs AI-praxis, som utvecklade generativa AI-lösningar för att förbättra dokumentation, intäktscykler och forskning. Han fungerar också som biträdande professor vid Harvard Medical School och har författat över 90 granskade publikationer.

Wolters Kluwer är en global leverantör av professionell information, programvara och tjänster som stöder kunder inom hälsovård, skatt och redovisning, juridik och reglering, finansiell regelefterlevnad och ESG. Huvudkontoret ligger i Nederländerna, och företaget använder djup branschkompetens och avancerad teknik för att leverera verktyg som strömlinjeformer arbetsflöden, säkerställer regelefterlevnad och stöder kritiska beslutsfattanden. Verksamheten omfattar mer än 180 länder, med erbjudanden organiserade över avdelningar som Hälsa, Skatt & Redovisning, Juridik & Reglering, Finansiell & Företagsregelefterlevnad och Företagsprestation & ESG.

Låt oss börja med en personlig fråga – hur balanserar du dina dubbla roller som praktiserande kirurg och AI-produktledare? Har din kliniska verksamhet påverkat din syn på vad AI bör eller inte bör vara inom hälsovården?

Ärligt talat? Det börjar med obeveklig tidshantering och en industriell-styrka kaffemaskin. Klinikmorgnar håller mina patientvårdskunskaper äkta, medan resten av dagen ägnas åt att omvandla den frontlinjens smärta till produktspecifikationer. De två rollerna bränsle till varandra: att se en resident klicka igenom tio skärmar för att beställa Tylenol är all den marknadsundersökning jag behöver.

AI-projekt (Artificiell intelligens) slocknar när ingen i rummet har känt den smärtan. Vår Future Ready Healthcare Survey visar att 80% av ledarna säger att “optimera arbetsflöden” är en topprioritet. Trots det tror bara 63% att de är beredda att göra det med generativ AI (GenAI). Detta är det klassiska strategi-utförandegapet som domänexperter kan stänga genom att ställa rätt kliniska “varför” innan de skriver en enda rad kod.

Min kliniska lins håller också uppdraget praktiskt. Frontline-personal berättade för oss att deras topprioriteringar är att åtgärda personalbrist (82%), minska administrativa overheadkostnader (77%) och krossa utbrändhet (76%). Om en algoritm inte flyttar någon av dessa nålar är det bara teater. Kliniker stänger av sig snabbt.

Den linsen gör mig också försiktig med var AI inte bör vistas. Faktum är att 57% av proffsen är oroliga för att en överdriven tillit till GenAI kan urholka den kliniska bedömningen, men bara 18% säger att deras organisationer har publicerat riktlinjer. Tills regelefterlevnaden kommer ikapp är mandatet tydligt: automatisera pappersarbete, inte tänkande.

Så, för mig, är balansen inte riktigt kaffe kontra kalender. Det handlar om att ha en fot i kliniken – så att jag aldrig glömmer vem AI är tänkt att tjäna – och en fot i produkt, så att den kunskapen levereras. Gör det bra, och kaffet är bara en trevlig bonus.

Den Future Ready Healthcare Survey Report från Wolters Kluwer betonar en stor klyfta mellan GenAI-entusiasm och utförande. Blev du överraskad av några av resultaten? Vad stack ut mest för dig personligen?

Jag blev inte förvånad alls. Jag har ännu inte mött en anti-automatiseringsklinikare. Vad som bromsar utrullningen är inte rädsla för något “Skynet i skrubber”-scenario, utan snarare den dagliga slitningen i hälsovårdens verksamhet. Undersökningen kristalliserar den verkligheten. Åtta av tio ledare rankar arbetsflödesoptimering som en topprioritet, men knappt sex av tio säger att de är redo att låta GenAI hantera det. Den delta är exakt vad jag ser: ansvarslandminor, data som ser ut som en skrivbordslåda snarare än en datalagring, och finansiella incitament som fortfarande belönar volym snarare än effektivitet. Det finns andra hinder också, inklusive en utbildningsvakuum, skugg-IT-trötthet och regelefterlevnadsdimma.

Det som slog mig mest var hur vardagliga dessa hinder är. Personalbrist, administrativa drag och utbrändhet dominerar oroslistan, men bara 18% av organisationerna har formella GenAI-policys. Om du inte vet vem som godkänner en modell eller hur dess utdata granskas, dör entusiasmen i regelefterlevnadskontoret. Dessutom säger 68% av respondenterna att arbetskostnader är deras största finansiella tryck, och det är ingen överraskning att chefer vill ha bevis på avkastning på investeringen (ROI) innan de skriver under på en annan programvarufaktura. Rubriken är inte “AI-panik”, utan “Bra idé – visa mig arbetsflödet och affärsfallet”.

Över hälften av de tillfrågade hälsovårdspersonal är oroliga för att GenAI kan urholka den kliniska beslutsfattandet. Tror du att den rädslan är berättigad – eller speglar den djupare bekymmer om tillit och transparens i AI-system?

En del av ångesten är verklig, men den har mindre att göra med sci-fi-rädsla för en HAL-9000-liknande AI och mer att göra med vanlig ansvarighet. När ett verktyg erbjuder differentialdiagnoser på några sekunder behöver du kristallklar provenans: Var kommer rekommendationen ifrån, vem godkänner den och hur granskas den? Idag har bara en liten minoritet av organisationerna formella GenAI-regler, så kliniker föredrar försiktighet. Det visar sig i vår data som 57% som säger “överdriven tillit kan urholka omdömet”. För mig är detta ett tecken på att de inte vill ha en svart låda som tränger sig in på deras licens att utöva.

Jag ser frågan genom ett historiskt perspektiv. När kalkylblad kom in i finansavdelningar var vissa revisorer oroliga för att deras analytiska muskler skulle förtvina. Istället blev kalkylbladsprogramvaran den nya baslinjen, som höjde golvet för noggrannhet. Hälsovården är överdue för ett liknande språng. Vi förlorar för många patienter på grund av variationer i vården; medicinska fel är fortfarande en ledande orsak till skada och död. GenAIs superkraft kan vara att minska felmarginalerna genom att yta riktlinjer, kontraindikationer och avvikande värden snabbare än någon människa kan gå igenom journalen. Men den måste förbli en assistent, inte en autonom beslutsfattare, särskilt under de närmaste tre till fem åren.

Så, ja, rädslan är berättigad men den är lösbar. Transparenta data, granskningsbara spår och mänskliga kontroller vänds “AI-erosion” till “AI-tillägg”. Ge kliniker spårbara rekommendationer och tydliga ansvarsförhållanden, och den 57% kommer att smälta bort. Det handlar inte om att ersätta expertis; det handlar om att förstärka den med bättre verktyg.

Bara 18% av respondenterna säger att de är medvetna om tydliga GenAI-policys i sina organisationer. Vilka är de potentiella riskerna med att distribuera GenAI-verktyg utan sådan regelefterlevnad på plats?

Tänk på det som att lansera ett nytt läkemedel utan en doseringsetikett. Hälsovårdsdata är mycket känsliga, och GenAI-modeller blir smartare bara när de absorberar den skyddade hälsoinformationen (PHI)-rika sammanhanget. Utan strikta dataförvaltningspolicys för att styra vem som kan ladda upp information, hur data loggas och var den befinner sig, är en organisation bara ett clipboard-snapshot bort från en dataskyddsincident som kan göra rubriker.

Ansvar är nästa landmina. När en algoritm hallucinerar en kontraindicerad dos, vem äter skadeståndskravet? Leverantören, sjukhuset eller kliniken som klickade “acceptera”? Just nu är svaret otydligt eftersom färre än en av fem organisationer har kodifierat “regler för vägen” för GenAI. I ett tomrum tenderar advokater att välja de djupaste fickorna, och den osäkerheten ensam kan bromsa innovationen.

Regelefterlevnad skyddar också mot subtila risker som modellglidning och tyst bias. En onkologibot som tränats på föregående kvartals riktlinjer kan tysta falla ur takt, och vården kan glida ur evidensbaserade räls. Policys som kräver versionskontroll, resultatövervakning och solnedgångsutlösare håller algoritmer från att åldras till säkerhetsrisker.

Slutligen står tillit på spel. Kliniker är oroliga för att en överdriven tillit till GenAI kan trötta deras kliniska omdöme; rullande ut opaka verktyg bekräftar bara dessa farhågor. Tydlig regelefterlevnad, transparens i datahärkomst, valideringsprotokoll och mänskliga kontroller vänds “svart låda”-ångest till förtroende för att AI är en assistent, inte en vårdslös resident.

Baserat på ditt arbete med Wolters Kluwer och i operationssalen, vad är den mest realistiska närmaste användningen av GenAI inom hälsovården?

Glöm robotkirurger. Under de närmaste tre åren är den dödliga GenAI-möjligheten administrativ utplåning. Två filer är redan bevisande sig själva:

1. Front-of-house anteckningar. Ambient lyssningsverktyg skapar nu en progressiv anteckning medan en läkare pratar med sin patient, sedan släpper den direkt in i den elektroniska patientjournalen (EHR). Vår undersökning visar att 41% av respondenterna lägger detta på sin GenAI-önskelista, och tekniken är redan live i tidiga antagande hälsovårdssystem. Flera studier har visat att ambient dikteringsystem kan minska kognitiv belastning med 51% och efter-timmar “pajama-tid” med mer än 60%. Detta är en hård avkastning; du kan känna det snabbt.
2. Bakre kontorsintäktskydd. Nästa domino är föregående auktoriseringspaket, avvisningsöverklaganden och annan intäktscykel-sörja. För referens, 67% av ledarna säger att föregående auktorisering ensam är kvävande produktivitet, och 62% pekar ut EHR-administrativa drag. Stora språkmodeller som läser journalen och automatiskt fyller i dessa blanketter är redan skärande dagar av krav och frigör personal för mer värdefullt arbete.

Varför dessa två? De träffar trifecta av låg klinisk risk, hög personalavlastning och tydlig dollar-och-cents-rättfärdigelse. På en marknad där 68% av cheferna listar personal-kostnader som den främsta finansiella trycket, är verktyg som ger timmar tillbaka utan att ändra vårdplanen det lättaste “ja”. Autonom diagnos kommer senare; nu tjänar GenAI sin plats genom att göra clipboard försvinna.

Undersökningen noterar att data inte är den främsta risken som nämns av respondenterna – vilket är förvånande med tanke på hur ofta dataskydd dominerar rubrikerna. Vilka risker ser kliniker och administratörer som mer pressande?

Jag blev också förvånad. Rubrikerna skulle få oss att tro att HIPAA-brott håller varje sjukhus-CIO vaken på natten. Men vår data visar att bara 56% av proffsen nämner sekretess som en topprisk, medan en ännu större skiva (57%!) är oroliga för “dumning av kliniskt omdöme”. Det visar att frontlinjen inte är hackare, utan ansvar.

Här är vad kliniker och administratörer svettas:

• Ansvarsroulett. Om algoritmen skjuter vården ur kurs, vem skriver under på skadeståndskravet? Bristen på tydliga regler och standarder rankas bredvid transparensluckor på 55%, vilket signalerar verklig oro över den juridiska sprängverkansradie.
• Regelefterlevnadsvisp. 76% av ledarna känner redan av att de är vispade av skiftande Medicare- och Medicaid-regler; att lägga opaka GenAI ovanpå det är en hård försäljning tills riktlinjerna solidifieras.
• Modellglidning och bias. 55% flaggar bias från undertränade modeller som en kritisk risk, vilket påminner om att gammal data kan vara lika farlig som saknad data.

I korthet antar de flesta organisationer att deras brandväggar är bra; de har inte en tydlig ansvarskedja när en stor språkmodell (LLM) utdata hamnar i en vårdplan. Tills regelefterlevnadsramar uttrycker ägarskap, granskningsbara spår och uppdateringscykler, kommer GenAI-utrullningar att fortsätta att bromsa, oavsett hur tätt säkerhetsstacken är.

Tror du att GenAI-verktyg slutligen kommer att förbättra eller urholka klinikers autonomi? Hur kan vi designa system som stöder beslutsfattande utan att överskrida det?

GenAI är redo att utöka, inte krympa, klinisk autonomi. Just nu är mycket av den autonomin hindrad av inkorgs triage, föregående auktoriseringspapper och EHR-gymnastik. Inga överraskningar alls att frontlinjepersonal rankar “optimera arbetsflöden” som sin främsta användning av GenAI (80% prioritet) trots att bara 63% känner sig tekniskt redo att utföra. Farmaceuter och allierade hälsovårdspersonal satsar redan på uppsidan: 41% och 47% förväntar sig att GenAI kommer att skära ut tillräckligt med administrativt fett för att minska stödpersonalens behov. Att frigöra kliniker från datainmatning innebär mer ansikte mot ansikte med patienter. Det är den autonomi alla vill ha.

Fortfarande påminner undersökningen oss om att autonomi skär båda vägarna, som vi tidigare diskuterat: 57% av respondenterna är oroliga för att en överdriven tillit till GenAI kan trötta det kliniska omdömet. Motgiftet är genomtänkt design, inte broms. System måste visa sitt arbete med provenansflaggor, citat och förtroendepoäng, så att människor förblir de slutliga beslutsfattarna. Versionskontroll och efter utrullning övervakning fångar tyst modellglidning innan den förgiftar vårdvägar, medan “alltid synliga åsidosättningsknappar” gör det tydligt att algoritmen är en assistent, inte den ansvarige.

Regelefterlevnad är den sista milen. Bara 18% av proffsen säger att deras organisation har en publicerad GenAI-policy. Utan en transparent ansvarskedja kommer även den bästa användarupplevelsen att bromsa i juridiskt limbo. Robusta policys behöver uttrycka dataförvaltning, granskningsbara spår och rollutskiljning som delas över läkare, sjuksköterskor och den fysiska assistent som trycker på knappen. När vi parar dessa riktlinjer med arbetsflödesinbyggd design, slutar GenAI att kännas som ett hot mot autonomi och börjar agera som den co-pilot kliniker har bett om.

Vad håller tillbaka antagandet mest – tekniska begränsningar, regulatorisk osäkerhet, arbetsflödesfriction eller något djupare som kulturell motstånd?

Det är ett utförandeunderskott inlindat i ärvda incitament. De flesta hälsovårdledare kan uttrycka en slick GenAI-vision, men deras operativa muskler har inte hunnit med. Vår undersökning visar diskonnecten i en rad: 80% av respondenterna rankar “optimera arbetsflöden” som en topprioritet, men bara 63% tror att de är redo att göra det. Vision är billigt; integrationsingenjörer, förändringshanteringsplaybook och GPU-budgetar är inte det.

Regelefterlevnad är nästa sinkhole. Bara 18% av proffsen är ens medvetna om en publicerad GenAI-policy på sitt sjukhus. Utan tydliga dataanvändnings-, validerings- och ansvarsregler riskerar varje lovande pilot att bli en regelefterlevnadsgranat. Den juridiska dimman förstärks av makroosäkerhet. Faktum är att 75% av ledarna är oroliga för att snabbt skiftande statliga och federala regler kommer att störa vilken lösning de rullar ut.

Sedan kommer trench-nivåfriction: nästan hälften av cheferna nämner smutsiga data och EHR-integreringsmardrömmar som primära hinder, och bara 42% säger att de har en process för att fästa GenAI-verktyg i befintliga arbetsflöden. Om modellen inte kan se journalen eller lägger till klick, kommer kliniker att överge den innan lunch.

Slutligen finns “pilotlimbo”. Flera externa studier uppskattar att AI-piloternas framgångsgrad för att nå företagsnivå ligger runt en av tio. Styrelser firar demon, utfärdar en pressrelease och flyttar vidare. Eftersom ingen finansierar det efterföljande, oglamorösa rörarbetet. GenAI kommer att förbli en PowerPoint-löfte tills sjukhusen utrustar sig med produktägare som har levererat programvara tidigare.

I korthet är tekniken och kulturen inte separata bromsar. De är sammanfogade. Lös för ansvarig ledning, riktiga integrationsbudgetar, uttryckliga riktlinjer och aptiten för GenAI kommer att matcha dess hype.

Slutligen, vad skulle ett ansvarsfullt, fullt integrerat GenAI-system se ut i en sjukhusmiljö om fem år? Vilka är de milstolpar vi behöver nå för att komma dit?

Tänk dig att gå in i en klinik där läkaren aldrig svänger till tangentbordet. Samtalet flyter, och en diskret ambient-lyssningsagent fångar dialogen, skapar en anteckning, signalerar riktlinjebaserade beställningar och genererar föregående auktoriseringspaketet innan läkarens hand är på dörrhandtaget. Tidiga piloter bevisar redan konceptet, och 41% av kliniker i vår undersökning säger att detta är exakt den GenAI-funktion de vill ha härnäst.

Vad som gör den scenen möjlig är inte sci-fi-robotik; det är en osynlig arkitektur som smälter samman ren, interoperabel data med en realtidsorkestreringslager och “regelefterlevnad-som-kod”. Vi har fortfarande läxor att göra. För att stänga gapet, tänk på data-rörledning först, sedan inbädda riktlinjerna (i stället för att skruva fast dem) för att vända hype till vana.

Milstolparna kommer naturligt när grunden är lagd. Under det första året rekommenderar jag att sjukhus och hälsovårdssystem kopplar upp datastrukturen, publicerar företagsomfattande GenAI-riktlinjer och bygger en MLOps-pipeline. Under det andra året av implementeringen är det viktigt att skala ambient dokumentation över ambulatoriska kliniker, mäta dokumentationstid och efter-timmar “pajama-tid”. Under det tredje året, låt GenAI skapa avvisningsöverklaganden och föregående auktoriseringspaket (67% av ledarna sa att den bördan är redo att elimineras). Under det fjärde och femte året, utvecklas till realtidskliniskt beslutsstöd med provenans och, slutligen, samtalbaserad vårdplanering där systemet utför beställningar i samma ögonblick de uttalas.

Tack för det underbara samtalet, läsare som vill lära sig mer bör besöka Wolters Kluwer eller läsa Future Ready Healthcare Survey Rapport.