Matthew Crowson, MD, Directeur van AI/GenAI Product Management bij Wolters Kluwer Health – Interview Series

Dr. Matt Crowson is een leider in de gezondheidstechnologie en praktiserend chirurg die zich richt op het toepassen van AI in de klinische praktijk. Hij is Directeur van AI/Generatieve AI Product bij Wolters Kluwer (WKL.SW ) Health, waar hij initiatieven leidt om de synthese van bewijs en de analyse van real-world data te verbeteren. Eerder leidde hij de healthcare provider AI-praktijk van Deloitte, waar hij generatieve AI-oplossingen ontwikkelde om documentatie, omzetcycli en onderzoek te verbeteren. Hij is ook assistant professor aan de Harvard Medical School en heeft meer dan 90 peer-reviewed publicaties geschreven.

Wolters Kluwer is een wereldwijde aanbieder van professionele informatie, software en diensten, die klanten in de gezondheidszorg, belasting en accounting, juridische en regelgevende, financiële compliance en ESG ondersteunt. Het bedrijf heeft zijn hoofdkantoor in Nederland en maakt gebruik van diepe industrie-expertise en geavanceerde technologie om tools te leveren die workflows vereenvoudigen, compliance waarborgen en kritische besluitvorming ondersteunen. De activiteiten van het bedrijf omvatten meer dan 180 landen, met aanbod dat is georganiseerd in divisies zoals Health, Tax & Accounting, Legal & Regulatory, Financial & Corporate Compliance en Corporate Performance & ESG.

Laten we beginnen met een persoonlijke vraag – hoe balanseer je je dubbele rol als praktiserend chirurg en AI-productleider? Heeft je klinische werk je visie op wat AI wel of niet zou moeten zijn in de gezondheidszorg beïnvloed?

Eerlijk gezegd? Het begint met meedogenloze tijdbeperking en een industriële sterkte koffiemachine. Klinische ochtenden houden mijn patiëntenzorgvaardigheden eerlijk, terwijl de rest van de dag wordt besteed aan het omzetten van die frontliniepijn in product specificaties. De twee rollen voeden elkaar: zien dat een resident tien schermen moet doorlopen om Tylenol te bestellen, is alle marktonderzoek dat ik nodig heb.

Artificiële intelligentie (AI)-projecten mislukken wanneer niemand in de kamer die pijn heeft gevoeld. Onze Future Ready Healthcare Survey toont aan dat 80% van de leiders zegt dat “workflows optimaliseren” een topprioriteit is. Toch denkt slechts 63% dat ze klaar zijn om dat te doen met generatieve AI (GenAI). Dit is de klassieke strategie-uitvoeringskloof die domeinexperts kunnen dichten door de juiste klinische “waarom” te vragen voordat ze één regel code schrijven.

Mijn klinische lens houdt de missie ook praktisch. Frontliniepersoneel vertelde ons dat hun topprioriteiten zijn: personeelstekorten verhelpen (82%), administratieve overhead wegnemen (77%) en burn-out bestrijden (76%). Als een algoritme geen van die naalden verplaatst, is het gewoon theater. Clinici schakelen snel uit.

Die lens maakt me ook voorzichtig over waar AI niet zou moeten zijn. In feite zijn 57% van de professionals bezorgd dat een te grote afhankelijkheid van GenAI de klinische oordeelsvorming kan ondermijnen, maar slechts 18% zegt dat hun organisaties richtlijnen hebben gepubliceerd. Tot governance bijtrekt, is de opdracht duidelijk: automatiser papierwerk, niet denken.

Dus, voor mij is de balans niet echt koffie versus kalender. Het gaat erom één voet in de kliniek te houden – zodat ik nooit vergeet wie AI zou moeten dienen – en één voet in product, zodat die kennis wordt geleverd. Doe dat goed, en de cafeïne is gewoon een leuke bonus.

De Future Ready Healthcare Survey Report van Wolters Kluwer benadrukt een grote kloof tussen GenAI-enthusiasme en uitvoering. Was je verrast door een van de resultaten? Wat sprak je het meest aan?

Ik was niet verrast. Ik heb nog nooit een anti-automatiseringsclinicus ontmoet. Wat de rollout vertraagt, is niet de angst voor een “Skynet in scrubs”-scenario, maar eerder de dagelijkse grind van de gezondheidszorgoperaties. De enquête kristalliseert die realiteit. Acht van de tien leiders rangschikken workflow-optimalisatie als topprioriteit, maar slechts zes van de tien zeggen dat ze klaar zijn om GenAI te laten aanpakken. Die delta is precies wat ik zie: aansprakelijkheidsmijnen, data die eruitziet als een rommeltje in plaats van een datalake, en financiële prikkels die nog steeds volume boven efficiëntie belonen. Er zijn andere blokkades, waaronder een trainingsvacuüm, schaduw-IT-moeheid en regelgevingsnevel.

Wat me het meest trof, was hoe alledaags die obstakels zijn. Personeelstekorten, administratieve wrijving en burn-out domineren de zorglijst, maar slechts 18% van de organisaties heeft formeel GenAI-beleid. Als je niet weet wie de modeloutput goedkeurt of hoe die wordt gecontroleerd, sterft de enthousiasme in het compliance-kantoor. Bovendien zegt 68% van de respondenten dat arbeidskosten hun grootste financiële druk zijn, en het is geen wonder dat executives bewijs van rendement op investering (ROI) willen zien voordat ze nog een softwarefactuur tekenen. De kop is niet “AI-paniek”, maar “Goed idee – laat de workflow en het businessplan zien”.

Meer dan de helft van de gezondheidsprofessionals in de enquête maakt zich zorgen dat GenAI de klinische besluitvorming kan ondermijnen. Denk je dat die angst gegrond is – of reflecteert het diepere zorgen over vertrouwen en transparantie in AI-systemen?

Enige van de angst is echt, maar het heeft minder te maken met sciencefictionangsten over een HAL-9000-achtige rogue AI en meer met gewone aansprakelijkheid. Wanneer een tool differentiële diagnoses in seconden aanbiedt, heb je kristalheldere herkomst nodig: Waar komt de aanbeveling vandaan, wie keurt het goed en hoe wordt het gecontroleerd? Vandaag de dag heeft slechts een kleine minderheid van de organisaties formeel GenAI-beleid, dus clinicians gaan uit voorzorg. Dat komt tot uiting in onze gegevens als 57% die zegt “overmatige afhankelijkheid kan oordeelsvermogen ondermijnen”. Voor mij is dit een signaal dat ze geen black box in hun licentie willen.

Ik zie het probleem door een historische lens. Toen spreadsheets het financiële departement bereikten, maakten sommige accountants zich zorgen dat hun analytische spieren zouden atrofiëren. In plaats daarvan werd spreadsheetsoftware de nieuwe baseline, waardoor de nauwkeurigheid toenam. De gezondheidszorg is nog steeds aan een soortgelijke sprong toe. We verliezen nog steeds te veel patiënten door variatie in zorg; medische fouten zijn nog steeds een van de belangrijkste oorzaken van letsel en dood. De superkracht van GenAI kan zijn om die foutenmarges te verkleinen door richtlijnen te laten zien, contra-indicaties te benadrukken en afwijkingen sneller te signaleren dan een mens kan doen. Maar het moet een assistent blijven, geen autonome besluitvormer, vooral in de komende drie tot vijf jaar.

Dus, ja, de angst is gegrond, maar het is oplosbaar. Transparante datasets, controlelijsten en menselijke checkpoints in de lus zetten “AI-erosie” om in “AI-versterking”. Geef clinicians traceerbare aanbevelingen en duidelijke aansprakelijkheidslijnen, en die 57% zal verdwijnen. Het gaat niet om het vervangen van expertise; het gaat om het versterken ervan met betere tools.

Slechts 18% van de respondenten zegt dat ze op de hoogte zijn van duidelijke GenAI-beleid in hun organisaties. Wat zijn de potentiële risico’s van het inzetten van GenAI-hulpmiddelen zonder dergelijke governance?

Denk aan het lanceren van een nieuw medicijn zonder doseringslabel. Gezondheidsdata zijn zeer gevoelig, en GenAI-modellen worden alleen slimmer wanneer ze die beschermde gezondheidsinformatie (PHI)-rijke context absorberen. Zonder strikte dataprotocolbeleid om te regelen wie informatie kan uploaden, hoe die data wordt gelogd en waar die zich bevindt, is een organisatie slechts één clipboard-snapshot verwijderd van een privacybreuk die koppen kan maken.

Aansprakelijkheid is de volgende landmijn. Als een algoritme een contra-indicatie hallucineert, wie eet de aansprakelijkheidsclaim? De leverancier, het ziekenhuis of de clinician die “accepteren” aanklikte? Op dit moment is dat antwoord vaag, omdat minder dan één op de vijf organisaties “regels van de weg” voor GenAI heeft gecodificeerd. In een vacuüm gaan advocaten vaak uit van de diepste zakken, en die onzekerheid alleen al kan innovatie tegenhouden.

Governance beschermt ook tegen subtiele risico’s zoals modeldrift en stille vooroordelen. Een oncologiebot getraind op de richtlijnen van het afgelopen kwartaal kan stilzwijgend verouderen en zorg afleiden van evidence-based rails. Beleid dat versiebeheer, uitkomstmonitoring en zonsondergangstriggers vereist, houdt algoritmen tegen ouderdom in veiligheidsrisico’s.

Tenslotte staat vertrouwen op het spel. Clinici maken zich zorgen dat een te grote afhankelijkheid van GenAI hun klinische oordeelsvermogen kan ondermijnen; het inzetten van ondoorzichtige tools bevestigt alleen maar die angsten. Duidelijke governance, transparantie over data-afkomst, validatieprotocollen en menselijke checkpoints in de lus zetten “black box”-angst om in vertrouwen dat AI een assistent is, geen rogue-resident.

Op basis van uw werk met Wolters Kluwer en in de OK, wat is de meest realistische korte-termijngebruik voor GenAI in de gezondheidszorg?

Vergeten we de robotchirurgen. Over de komende drie jaar is de killer-GenAI-mogelijkheid administratieve annihilatie. Twee banen zijn al aan het bewijzen:

1. Front-of-house notatie. Ambient luisterhulpmiddelen schrijven nu de voortgangsnotitie terwijl een arts met zijn patiënt praat, en droppen deze rechtstreeks in het elektronisch gezondheidsdossier (EHR). Onze enquête toont aan dat 41% van de respondenten dit op hun GenAI-wensenlijstje heeft staan, en de technologie is al live in vroeg-adopter gezondheidssystemen. Verschillende studies hebben aangetoond dat ambientdictatiesystemen de cognitieve belasting met 51% en de nacht-“pajama-tijd” met meer dan 60% kunnen verminderen. Dit is een harde ROI; je kunt het snel voelen.
2. Back-office omzetbescherming. De volgende domino is de prior-authorization-pakketten, afwijzingsbrieven en andere omzetcyclus-slib. Voor referentie zegt 67% van de leiders dat prior-authorization alleen al de productiviteit verstoort, en 62% noemt EHR-administratieve wrijving. Grote taalmodellen die het dossier lezen en deze formulieren automatisch invullen, schaven al dagen af van claims en bevrijden personeel voor hoger-waardewerk.

Waarom deze twee? Ze raken de trifecta van laag klinisch risico, hoog personeelsverlichting en duidelijke dollars-en-cents-rechtvaardiging. In een markt waar 68% van de executives de personeelskosten als de belangrijkste financiële druk noemt, zijn tools die uren teruggeven zonder de zorgplan te veranderen, het makkelijkst “ja”. Autonome diagnose zal later komen; nu verdient GenAI zijn keep door de clipboard te laten verdwijnen.

De enquête noemt dat data niet de belangrijkste risico’s zijn die door respondenten worden genoemd – wat verrassend is, gezien hoe vaak gegevensbescherming in de koppen komt. Welke risico’s zien clinicians en administrators als meer dringend?Ik was ook verrast. De koppen zouden ons laten geloven dat HIPAA-inbreuken elke ziekenhuis-CIO wakker houden ‘s nachts. Toch toont onze data aan dat alleen 56% van de professionals gegevensbescherming als een topprioriteit noemt, terwijl een nog grotere slice (57%!) zich zorgen maakt over “dommer worden” van klinische oordeelsvermogen. Dat zegt me dat de frontlinie-angst niet hackers is, maar aansprakelijkheid.

Hier zijn de dingen waar clinicians en administrators zich zorgen over maken:

• Aansprakelijkheidsroulette. Als het algoritme zorg afleidt van de koers, wie ondertekent de aansprakelijkheidsclaim? Het ontbreken van duidelijke regelgeving en normen staat naast transparantiegaten op 55%, wat wijst op echte ongerustheid over de juridische blaststradius.
• Regelgevingswhiplash. 76% van de leiders voelt al gesisd door veranderende Medicare- en Medicaid-regels; het toevoegen van ondoorzichtige GenAI aan dat alles is een harde verkoop totdat guardrails worden gesolideerd.
• Modeldrift en vooroordeel. 55% van de respondenten noemt vooroordeel van ondergetrainde modellen als een kritiek risico, een herinnering dat verouderde data even gevaarlijk kan zijn als ontbrekende data.

Kortom, de meeste organisaties gaan ervan uit dat hun firewalls goed zijn; ze hebben geen duidelijke aansprakelijkheidsketen wanneer een grote taalmodel (LLM)-output in een zorgplan terechtkomt. Tot governance-kaders aansprakelijkheid, controlelijsten en update-cadences uiteenzetten, zullen GenAI-rollouts blijven stagneren, ongeacht hoe strak de beveiligingsstack is.

Gelooft u dat GenAI-hulpmiddelen uiteindelijk de autonomie van clinicians zullen verhogen of verwateren? Hoe ontwerpen we systemen die besluitvorming ondersteunen zonder het te overschrijden?

GenAI is klaar om uit te breiden, niet om de autonomie van clinicians te verkleinen. Op dit moment wordt veel van die autonomie gehinderd door inbox-triage, prior-authorization-papierwerk en EHR-gymnastiek. Geen wonder dat frontliniepersoneel “workflow-optimalisatie” als hun nummer één gebruiksaanwijzing voor GenAI rangschikt (80% prioriteit) en slechts 63% zich technisch klaar voelt om het uit te voeren. Apothekers en paramedici wedden al op de upside: 41% en 47% verwachten dat GenAI genoeg administratieve vet zal afsnijden om de behoefte aan ondersteunend personeel te verminderen. Clinicians vrijmaken van gegevensinvoer betekent meer gezichtstijd met patiënten. Dat is de autonomie die iedereen wil.

Nog steeds is de enquête een herinnering dat autonomie beide kanten op kan werken, zoals we eerder hebben aangestipt: 57% van de respondenten maakt zich zorgen dat overmatige afhankelijkheid van GenAI de klinische oordeelsvermogen kan ondermijnen. Het antwoord is zorgvuldige ontwerp, niet terugtrekking. Systemen moeten hun werk laten zien met herkomstvlaggen, citaten en vertrouwenscores, zodat mensen de uiteindelijke arbiters blijven. Versiebeheer en post-implementatiebewaking vangen stille modeldrift voordat het zorgpaden vergiftigt, terwijl “altijd-zichtbare override”-knoppen duidelijk maken dat het algoritme een assistent is, geen attending.

Governance is de laatste mijl. Slechts 18% van de professionals zegt dat hun organisatie een gepubliceerd GenAI-beleid heeft. Zonder een transparante aansprakelijkheidsketen zal zelfs de beste gebruikerservaring in juridische limbo blijven steken. Robuuste beleid moet gegevensbeheer, controlelijsten en rolafbakening uiteenzetten die worden gedeeld over artsen, verpleegkundigen en de arts-assistent die de knop indrukt. Wanneer we die guardrails combineren met workflow-native ontwerp, stopt GenAI met het voelen als een bedreiging voor autonomie en begint het te voelen als de co-piloot die clinicians hebben gevraagd.

Wat houdt de adoptie het meest tegen – technische beperkingen, regelgevingsonzekerheid, workflow-wrijving of iets diepers zoals culturele weerstand?

Het is een uitvoeringsdeficit gewikkeld in legacy-prikkels. De meeste gezondheidsleiders kunnen een gladde GenAI-visie uiteenzetten, maar hun operationele spier is nog niet bijgekomen. Onze enquête toont de disconnect aan in één regel: 80% van de respondenten rangschikt “workflow-optimalisatie” als topprioriteit, maar slechts 63% denkt dat ze klaar zijn om het te doen. Visie is goedkoop; integratie-ingenieurs, veranderingsbeheerplaybooks en GPU-begrotingen zijn dat niet.

Governance is de volgende sinkhole. Slechts 18% van de professionals is zelfs maar op de hoogte van een gepubliceerd GenAI-beleid in hun ziekenhuis. Zonder duidelijke gegevensgebruik, validatie- en aansprakelijkheidsregels riskeert elke veelbelovende pilot een compliance-granaat te worden. Die juridische nevel wordt versterkt door macro-onzekerheid. In feite maakt 75% van de leiders zich zorgen dat snel veranderende staat- en federale regelgeving elke oplossing die ze uitrollen, kan omverwerpen.

Daarna komt de loopgravenwrijving: bijna de helft van de executives noemt vuile data en EHR-integratienachtmerries als primaire barrières, en slechts 42% zegt dat ze een proces hebben om GenAI-hulpmiddelen in bestaande workflows te integreren. Als het model het dossier niet kan zien of extra klikken toevoegt, zullen clinicians het verlaten voordat de lunch.

Tenslotte is er “pilot-limbo”. Verschillende externe studies schatten de succesratio van AI-pilots die naar enterprise-schaal gaan op ongeveer één op tien. Raden vieren de demo, geven een persbericht uit en gaan verder. Omdat niemand de volgende onglamoureuze loodgieterswerk financiert. GenAI zal een PowerPoint-belofte blijven totdat ziekenhuizen zijn uitgerust met producteigenaren die eerder software hebben uitgebracht.

In kort, techniek en cultuur zijn niet losse blokkades. Ze zijn samengevoegd. Los aansprakelijke leiderschap op, echte integratiebegrotingen, expliciete guardrails en de eetlust voor GenAI zal de hype evenaren.

U hebt AI-systemen gebouwd die zijn gericht op pragmatische, evidence-based resultaten. Wat is uw advies aan gezondheidsleiders die proberen om hype en waardevolle AI-investeringen te navigeren?

Begin met een diagnose, niet met een demo. Voordat u een glanzende hamer laat zoeken naar spijkers, kwantificeer de spijker: Is operatiekamergebruik 8% gedaald in twee opeenvolgende kwartalen? Zijn afwijzingsberoepen en prior-authorization-pakketten vastgelopen en bloeden ze omzet? Is verpleegafdeling drie twee uur per shift kwijt aan EHR-“toggle-tijd” (tijd besteed aan het schakelen tussen schermen en taken)? Zodra de pijn expliciet is, introduceert de juiste tool zichzelf. Zoals Sir William Osler de medische gemeenschap generaties geleden herinnerde, “Luister naar de patiënt; [hij] zal je de diagnose vertellen”.

Met het probleem vastgepind, ondervraag de businesscase als een CFO. Eist harde cijfers: basismetingen, geprojecteerde delta’s en terugverdientijden die een bestuurskamertest doorstaan. Onthoud dat slechts ongeveer één op de tien AI-pilots naar enterprise-schaal gaan; als de leverancier geen live-klant kan laten zien die de KPI die u belangrijk vindt, heeft verplaatst, blijf dan weg.

Volgende, beslis of u koopt, bouwt of samenwerkt. Kopen kan de tijd-tot-waarde versnellen, maar let op voor dampware verpakt in buzzwords. Bouwen geeft u controle, maar alleen als u een tijger-team winst- en verliesrekening heeft die eerder productie-machine learning heeft uitgebracht. Hybride samenwerkingen slaan vaak de balans: uw data, hun model, gedeelde upside, gedeeld risico.

Tenslotte, prioriteer kleine, cross-functionele teams met duidelijke aansprakelijkheid. Denk aan een twee-pizza-squad met de CMO, CIO, hoofd data-engineering en een frontlinie-champion, in plaats van grote stuurcomités. Aligneer hun prikkels met meerjarige uitkomstdoelen in plaats van korte-termijncijfers, en geef ze een toegewijd infrastructuurbegroting – GPU’s, data-engineering, machine learning-operations (MLOps) – zodat het project vooruitgang boekt na het pilotstadium.

Tenslotte, kijken we vooruit: wat zou een verantwoord, volledig geïntegreerd GenAI-systeem eruitzien in een ziekenhuisomgeving over vijf jaar? Wat zijn de mijlpalen die we moeten bereiken om daar te komen?

Stel je voor dat je een kliniek binnenloopt waar de arts nooit naar het toetsenbord hoeft te draaien. Het gesprek verloopt soepel, en een discreet ambient luisterhulpmiddel vangt het gesprek op, schrijft een notitie, activeert richtlijn-gebaseerde orders en genereert het prior-authorization-pakket voordat de arts zijn hand op de deurknop heeft. Vroege pilots bewijzen al het concept, en 41% van de clinicians in onze enquête zegt dat dit precies het GenAI-functie is dat ze het volgende willen.

Wat dat scenario mogelijk maakt, is geen sciencefiction-robotica; het is een onzichtbare architectuur die schone, interoperabele data combineert met een real-time-orchestratielaag en “governance-as-code”. We hebben nog huiswerk te doen. Om de kloof te dichten, denk eerst aan dataplumbing, en vervolgens embed de guardrails (in plaats van ze eraan te bevestigen) om hype om te zetten in gewoonte.

Mijlpalen vallen natuurlijk eenmaal de basis is gelegd. In het eerste jaar beveel ik aan dat ziekenhuizen en gezondheidssystemen de data-fabric uitrusten, ondernemingsbrede GenAI-richtlijnen publiceren en een MLOps-pijplijn opbouwen. In het tweede jaar van implementatie is het belangrijk om ambient-documentatie over ambulante klinieken uit te breiden, documentatietijd en nacht-“pajama-tijd” te meten. In het derde jaar laat GenAI afwijzingsberoepen en prior-authorization-pakketten opstellen (67% van de leiders zei dat die last rijp was voor eliminatie). In het vierde en vijfde jaar, evolueer naar real-time klinische besluitvorming met herkomst en, uiteindelijk, conversatie-gebaseerde zorgplanning waar het systeem orders uitvoert op het moment dat ze worden uitgesproken.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Wolters Kluwer bezoeken of de Future Ready Healthcare Survey Rapport.