Matthew Crowson, MD, Direttore di AI/GenAI Product Management presso Wolters Kluwer Health – Intervista

Dr. Matt Crowson è un leader tecnologico sanitario e chirurgo praticante che si concentra sull’applicazione dell’AI nella pratica clinica. È Direttore di AI/Generative AI Product presso Wolters Kluwer (WKL.SW ) Health, dove guida iniziative per migliorare la sintesi delle prove e l’analisi dei dati del mondo reale. In precedenza, ha guidato la pratica di AI per i fornitori di servizi sanitari di Deloitte, sviluppando soluzioni di AI generative per migliorare la documentazione, i cicli di entrate e la ricerca. È anche professore assistente alla Harvard Medical School e ha scritto oltre 90 pubblicazioni peer-reviewed.

Wolters Kluwer è un fornitore globale di informazioni professionali, software e servizi, che supporta i clienti nel settore sanitario, fiscale e contabile, legale e normativo, finanziario e di conformità, nonché di gestione ambientale, sociale e di governance (ESG). Con sede nei Paesi Bassi, l’azienda sfrutta la profonda esperienza settoriale e la tecnologia avanzata per fornire strumenti che semplificano i flussi di lavoro, garantiscono la conformità e supportano la presa di decisioni critiche. Le sue operazioni si estendono in oltre 180 paesi, con offerte organizzate in divisioni come Health, Tax & Accounting, Legal & Regulatory, Financial & Corporate Compliance e Corporate Performance & ESG.

Cominciamo con una domanda personale: come bilanci i tuoi due ruoli di chirurgo praticante e leader di prodotto AI? Ha il tuo lavoro clinico influenzato la tua visione di ciò che l’AI dovrebbe o non dovrebbe essere nel settore sanitario?

Onestamente? Inizia con un tempo di attività rigoroso e una macchina per il caffè ad alta potenza. Le mattine in clinica mantengono le mie abilità di cura dei pazienti oneste, mentre il resto della giornata è dedicato a trasformare il dolore di prima linea in specifiche del prodotto. I due ruoli si alimentano a vicenda: vedere un residente cliccare su dieci schermi per ordinare il Tylenol è tutta la ricerca di mercato di cui ho bisogno.

I progetti di intelligenza artificiale (AI) falliscono quando nessuno nella stanza ha provato quel dolore. Il nostro sondaggio Future Ready Healthcare Survey mostra che l’80% dei leader afferma che “ottimizzare i flussi di lavoro” è una priorità principale. Tuttavia, solo il 63% ritiene di essere preparato a farlo con l’AI generativa (GenAI). Questo è il classico divario tra strategia ed esecuzione che gli esperti di dominio possono colmare chiedendo il giusto “perché” clinico prima di scrivere una sola riga di codice.

La mia lente clinica mantiene anche la missione pratica. Il personale di prima linea ci ha detto che le loro principali priorità sono risolvere le carenze di personale (82%), ridurre l’onere amministrativo (77%) e combattere l’esaurimento professionale (76%). Se un algoritmo non sposta una di quelle aghi, è solo teatro. I clinici si stancano in fretta.

Quella lente mi rende anche cauto su dove l’AI non dovrebbe andare. In effetti, il 57% dei professionisti preoccupa che una eccessiva dipendenza dall’AI potrebbe erodere il giudizio clinico, eppure solo il 18% afferma che le loro organizzazioni hanno pubblicato linee guida. Fino a quando la governance non sarà all’altezza, il mandato è chiaro: automatizzare la carta, non il pensiero.

Quindi, per me, l’equilibrio non è realmente tra caffè e calendario. È mantenere un piede in clinica – in modo da non dimenticare mai chi l’AI è destinato a servire – e un piede nel prodotto, in modo che la conoscenza venga spedita. Fare ciò bene, e il caffè è solo un bel bonus.

Il Future Ready Healthcare Survey Report di Wolters Kluwer evidenzia un forte divario tra l’entusiasmo per l’AI generativa e l’esecuzione. È stato sorpreso da alcuni dei risultati? Cosa le è sembrato più importante?

Non sono stato sorpreso per niente. Non ho ancora incontrato un clinico anti-automazione. Ciò che rallenta il rollout non è la paura di qualche scenario “Skynet in camice” ma piuttosto la quotidianità delle operazioni sanitarie. Il sondaggio cristallizza quella realtà. Otto leader su dieci classificano l’ottimizzazione dei flussi di lavoro come priorità principale, eppure a malapena sei su dieci affermano di essere pronti a farlo con l’AI generativa. Quel delta è esattamente ciò che vedo: mine di responsabilità, dati che sembrano più un cassetto delle scarpe che un lago di dati, e incentivi finanziari che ancora premiano il volume sull’efficienza. Ci sono altri blocchi, tra cui un vuoto di formazione, una stanchezza per l’IT ombra e una nebbia normativa.

Ciò che mi ha colpito di più è stato quanto siano banali quegli ostacoli. Le carenze di personale, l’onere amministrativo e l’esaurimento professionale dominano l’elenco delle preoccupazioni, ma solo il 18% delle organizzazioni ha politiche formali per l’AI generativa. Se non si sa chi firma un modello o come vengono revisionati i suoi output, l’entusiasmo muore nell’ufficio di conformità. Inoltre, il 68% dei rispondenti afferma che i costi del lavoro sono la loro principale pressione finanziaria, e non è un mistero che i dirigenti vogliano la prova del ritorno sull’investimento (ROI) prima di firmare un’altra fattura per il software. Il titolo non è “panico per l’AI”, ma “Ottima idea – mostratemi il flusso di lavoro e il caso aziendale”.

Più della metà dei professionisti sanitari intervistati preoccupa che l’AI generativa potrebbe erodere le capacità di decisione clinica. Ritiene che questa paura sia valida o rifletta preoccupazioni più profonde sulla fiducia e sulla trasparenza nei sistemi AI?

Alcune delle preoccupazioni sono reali, ma hanno meno a che fare con le paure da film di fantascienza di un’AI ribelle e più con la semplice responsabilità. Quando uno strumento offre diagnosi differenziali in pochi secondi, è necessaria una provenienza cristallina: Da dove proviene la raccomandazione, chi la approva e come viene revisionata? Oggi, solo una piccola minoranza di organizzazioni ha politiche formali di governance per l’AI generativa, quindi i clinici fanno default alla cautela. Ciò si manifesta nei nostri dati come il 57% che afferma “l’eccessiva dipendenza potrebbe erodere il giudizio”. Per me, questo è un segnale che non vogliono che una scatola nera si intrometta nella loro licenza di esercizio.

Guardo il problema attraverso una lente storica. Quando i fogli di calcolo sono arrivati nei dipartimenti finanziari, alcuni contabili si sono preoccupati che i loro muscoli analitici si atrofizzassero. Invece, il software di foglio di calcolo è diventato il nuovo standard, aumentando il livello di accuratezza. Il settore sanitario è in ritardo rispetto a un simile balzo. Perdiamo troppi pazienti a causa della variabilità delle cure; l’errore medico rimane una delle principali cause di lesioni e morte. Il superpotere dell’AI generativa può essere quello di ridurre quelle barre di errore, facendo emergere linee guida, evidenziando contraindicazioni e segnalando outlier più velocemente di quanto possa fare un essere umano. Ma deve rimanere un assistente, non un decision-maker autonomo, soprattutto nel prossimo triennio.

Quindi, sì, la paura è valida ma è risolvibile. Set di dati trasparenti, tracce di audit e punti di controllo con intervento umano trasformano “l’erosione dell’AI” in “potenziamento dell’AI”. Dare ai clinici raccomandazioni tracciabili e linee di responsabilità chiare, e quel 57% svanirà. Non si tratta di sostituire l’esperienza; si tratta di potenziarla con strumenti migliori.

Solo il 18% dei rispondenti afferma di essere a conoscenza di politiche chiare per l’AI generativa nelle loro organizzazioni. Quali sono i potenziali rischi di distribuire strumenti di AI generativa senza una tale governance in atto?

Pensaci come lanciare un nuovo farmaco senza un’etichetta di dosaggio. I dati sanitari sono altamente sensibili e i modelli di AI generativa diventano più intelligenti solo quando assorbono quel contesto ricco di informazioni sulla salute protette (PHI). Senza politiche di gestione dei dati rigorose per governare chi può caricare informazioni, come vengono registrati i dati e dove risiedono, un’organizzazione è a un solo snapshot di clipboard di distanza da una violazione della privacy che potrebbe fare notizie.

La responsabilità è la prossima mina. Se un algoritmo immagina una dose contrindicata, chi mangia la richiesta di responsabilità? Il fornitore, l’ospedale o il clinico che ha cliccato “accetta”? Al momento, quella risposta è confusa perché meno di una organizzazione su cinque ha “regole della strada” codificate per l’AI generativa. In un vuoto, gli avvocati spesso si affidano alle tasche più profonde, e quell’incertezza da sola può bloccare l’innovazione.

La governance protegge anche contro rischi più sottili come la deriva del modello e il pregiudizio silenzioso. Un bot di oncologia addestrato con le linee guida del trimestre scorso potrebbe silenziosamente uscire dai binari, spingendo le cure fuori dalle linee guida basate sulle prove. Le politiche che richiedono il controllo delle versioni, il monitoraggio degli esiti e i trigger di tramonto mantengono gli algoritmi dall’invecchiare in pericoli per la sicurezza.

Infine, la fiducia è in gioco. I clinici si preoccupano che una eccessiva dipendenza dall’AI generativa potrebbe intorpidire il loro giudizio clinico; distribuire strumenti opachi conferma solo quelle paure. Una governance chiara, trasparenza sulla genealogia dei dati, protocolli di convalida e punti di controllo con intervento umano trasformano l’ansia della “scatola nera” in fiducia che l’AI sia un compagno di squadra assistente, non un residente ribelle.

Basato sul tuo lavoro con Wolters Kluwer e nel reparto operatorio, qual è il caso d’uso più realistico per l’AI generativa nel settore sanitario nel prossimo futuro?

Dimentica i chirurghi robotici. Nei prossimi tre anni, l’opportunità killer per l’AI generativa è l’annientamento amministrativo. Due corsie sono già in fase di dimostrazione:

1. Registrazione delle note di front office. Gli strumenti di ascolto ambientale ora creano la nota di progresso mentre un medico parla con il suo paziente, poi la inseriscono direttamente nel registro elettronico della salute (EHR). Il nostro sondaggio mostra che il 41% dei rispondenti la mette nella loro lista dei desideri per l’AI generativa, e la tecnologia è già attiva nei sistemi sanitari che adottano per primi. Diversi studi hanno dimostrato che i sistemi di dittatura ambientale possono ridurre il carico cognitivo del 51% e il “tempo in pigiama” del 60%. Questo è un ROI difficile; puoi sentirlo in fretta.
2. Protezione del ciclo di entrate di back office. Il prossimo domino è il pacchetto di autorizzazioni preventive, le lettere di appello per la negazione e altri rifiuti del ciclo di entrate. Per riferimento, il 67% dei leader afferma che l’autorizzazione preventiva da sola sta soffocando la produttività, e il 62% chiama l’onere amministrativo dell’EHR. I grandi modelli linguistici che leggono la cartella e auto-popolano questi moduli stanno già tagliando giorni dalle richieste e liberando il personale per lavori di maggior valore.

Perché queste due? Colpiscono la trifetta di basso rischio clinico, alto sollievo del personale e giustificazione in dollari e centesimi chiara. In un mercato in cui il 68% degli esecutivi elenca i costi del personale come la principale pressione finanziaria, gli strumenti che restituiscono ore senza cambiare il piano di cura sono i più facili da dire “sì”. La diagnosi autonoma arriverà dopo; ora, l’AI generativa guadagna il suo posto rendendo la clipboard scomparsa.

Il sondaggio nota che i dati non sono il principale rischio citato dai rispondenti – il che è sorprendente, considerando quanto spesso la privacy dei dati domina i titoli. Quali rischi vedono i clinici e gli amministratori come più pressanti? Sono stato sorpreso anch’io. I titoli ci farebbero credere che le violazioni di HIPAA tengono sveglio ogni CIO di ospedale. Eppure, i nostri dati mostrano che solo il 56% dei professionisti cita la privacy come principale rischio per l’AI generativa, mentre una fetta ancora più grande (57%!) si preoccupa dell'”abbassamento” del giudizio clinico. Ciò mi dice che la paura di prima linea non è rappresentata da hacker, ma dalla responsabilità.

Ecco cosa stanno sudando i clinici e gli amministratori:

• Roulette di responsabilità. Se l’algoritmo spinge le cure fuori rotta, chi firma l’assegno di responsabilità? La mancanza di regolamenti e standard chiari si classifica accanto ai vuoti di trasparenza al 55%, segnalando un vero disagio per il raggio di azione legale.
• Scossa normativa. Il 76% dei leader già si sente scosso dalle regole di Medicare e Medicaid in costante evoluzione; sovrapporre l’AI generativa opaca a ciò è un’ipotesi difficile da vendere fino a quando le linee guida non si solidificano.
• Deriva del modello e pregiudizio. Il 55% segnala il pregiudizio da modelli sottodotati come rischio critico, un promemoria che i dati obsoleti possono essere pericolosi quanto i dati mancanti.

In sintesi, la maggior parte delle organizzazioni presume che i loro firewall siano decenti; non hanno una chiara catena di responsabilità quando l’output di un modello di linguaggio grande (LLM) finisce in un piano di cura. Fino a quando i framework di governance non specificheranno la proprietà, le tracce di audit e i ritmi di aggiornamento, i rollout dell’AI generativa continueranno a bloccarsi, indipendentemente da quanto sia solido lo stack di sicurezza.

Credi che gli strumenti di AI generativa miglioreranno o diluiranno l’autonomia del clinico? Come progettiamo sistemi che supportano la presa di decisioni senza superarla?

L’AI generativa è pronta a espandere, non a restringere, l’autonomia del clinico. Al momento, gran parte di quell’autonomia è ostacolata dalla gestione della posta in arrivo, dalla carta di autorizzazione preventiva e dalle acrobazie dell’EHR. Non c’è da sorprendersi, quindi, che il personale di prima linea classifichi “ottimizzare i flussi di lavoro” come il loro principale caso d’uso per l’AI generativa (80% di priorità) anche se a malapena il 63% si sente tecnicamente pronto a eseguirlo. I farmacisti e i professionisti sanitari ausiliari scommettono già sull’aspetto positivo: il 41% e il 47% si aspettano che l’AI generativa elimini abbastanza onere amministrativo da ridurre le esigenze di personale di supporto. Liberare i clinici dall’inserimento dei dati significa più tempo di faccia a faccia con i pazienti. Quell’autonomia è ciò che tutti vogliono.

Ancora, l’autonomia taglia entrambi i modi, come abbiamo toccato in precedenza: il 57% dei rispondenti si preoccupa che una eccessiva dipendenza dall’AI generativa potrebbe intorpidire il giudizio clinico. L’antidoto è una progettazione pensata, non un ritorno alle posizioni. I sistemi devono mostrare il loro lavoro con bandiere di provenienza, citazioni e punteggi di confidenza, in modo che gli esseri umani rimangano gli arbitri finali. Il controllo delle versioni e il monitoraggio post-distribuzione catturano la deriva silenziosa del modello prima che avveleni i percorsi di cura, mentre i pulsanti “override sempre visibili” rendono chiaro che l’algoritmo è un assistente, non il medico responsabile.

La governance è l’ultimo miglio. Solo il 18% dei professionisti afferma che la propria organizzazione ha una politica di AI generativa pubblicata. Senza una catena di responsabilità trasparente, anche la migliore esperienza utente si blocca in un limbo legale. Le politiche robuste devono specificare la gestione dei dati, le tracce di audit e la delimitazione dei ruoli che vengono socializzati tra medici, infermieri e l’assistente medico che preme il pulsante. Quando accoppiamo quelle linee guida con una progettazione nativa del flusso di lavoro, l’AI generativa smette di sembrare una minaccia per l’autonomia e inizia ad agire come il copilota che i clinici stanno implorando.

Cosa sta trattenendo l’adozione più – limitazioni tecnologiche, incertezza normativa, attrito del flusso di lavoro o qualcosa di più profondo come la resistenza culturale?

È un deficit di esecuzione avvolto in incentivi legacy. La maggior parte dei leader sanitari può articolare una visione di AI generativa affascinante, ma i loro muscoli operativi non hanno ancora colto il passo. Il nostro sondaggio mostra la disconnessione in una sola riga: l’80% dei rispondenti classifica “ottimizzare i flussi di lavoro” come priorità principale, eppure solo il 63% ritiene di essere pronto a farlo. La visione è a buon mercato; gli ingegneri di integrazione, i libri di gestione del cambiamento e i budget per le unità di elaborazione grafica (GPU) non lo sono.

La governance è la prossima trappola. Solo il 18% dei professionisti è a conoscenza di una politica di AI generativa pubblicata nel proprio ospedale. Senza regole chiare sull’uso dei dati, la convalida e la responsabilità, ogni promettente progetto pilota rischia di diventare una granata di conformità. Quella nebbia normativa è amplificata dall’incertezza macro. In effetti, il 75% dei leader si preoccupa che le regole di Medicare e Medicaid in rapida evoluzione possano rovesciare qualsiasi soluzione che distribuisca.

Poi c’è la frizione a livello di trincea: quasi la metà degli esecutivi cita i dati sporchi e gli incubi di integrazione dell’EHR come barriere principali, e solo il 42% afferma di avere un processo per collegare gli strumenti di AI generativa ai flussi di lavoro esistenti. Se il modello non può vedere la cartella o aggiunge clic, i clinici lo abbandoneranno prima di pranzo.

Infine, c’è il “purgatorio del progetto pilota”. Numerosi studi esterni stimano il tasso di successo dei progetti di AI che si diplomano a livello aziendale a circa uno su dieci. I consigli di amministrazione celebrano la demo, rilasciano un comunicato stampa e si spostano. Perché nessuno finanzia il successivo lavoro di “fognatura” non glamour. L’AI generativa rimarrà una promessa di PowerPoint fino a quando gli ospedali non assumeranno proprietari di prodotto che abbiano già spedito software.

In sintesi, la tecnologia e la cultura non sono blocchi separati. Sono fusi. Risolvere la leadership responsabile, i veri budget di integrazione, le linee guida esplicite e l’appetito per l’AI generativa sarà all’altezza del suo hype.

Hai costruito sistemi di AI focalizzati su risultati pragmatici e basati sulle prove. Qual consiglio daresti ai leader sanitari che cercano di navigare nell’hype e identificare gli investimenti di AI veramente preziosi?

Inizia con una diagnosi, non con una demo. Prima di lasciare che un martello lucidato cerchi i chiodi, quantifica il chiodo: l’utilizzo del reparto operatorio è sceso dell’8% per due trimestri consecutivi? Le richieste di autorizzazione sono in ritardo e sanguinano entrate? Il reparto infermieri tre sta spendendo due ore a turno sull'”orario di toggle” dell’EHR (tempo trascorso passando da uno schermo all’altro e tra attività)? Una volta che il dolore è esplicito, lo strumento giusto tende a presentarsi. Come Sir William Osler ha ricordato alla comunità medica generazioni fa, “Ascolta il paziente; [lui] ti dirà la diagnosi”.

Con il problema fissato, interroga il caso aziendale come un CFO. Chiedi numeri duri: metriche di base, delta proiettati e finestre di rimborso che superano il test del naso del consiglio di amministrazione. Ricorda che solo circa uno su dieci progetti di AI si diploma a livello aziendale; se il fornitore non può mostrare un cliente attivo che ha spostato l’indicatore di prestazione chiave (KPI) di cui ti importa, continua a camminare.

Decidi quindi se acquistare, costruire o collaborare. Acquistare può accelerare il tempo di valore, ma stai attento al vaporware travestito da buzzword. Costruire ti dà il controllo, ma solo se hai un proprietario di profit and loss che ha già spedito machine learning di produzione. Le partnership ibride spesso colpiscono l’equilibrio: i tuoi dati, il loro modello, upside condiviso, rischio condiviso.

Infine, dai priorità a piccoli team cross-funzionali con responsabilità chiara. Pensa a una squadra di due pizza che include il CMO, il CIO, il capo dell’ingegneria dei dati e un campione di prima linea, piuttosto che a grandi comitati di gestione. Allinea i loro incentivi agli obiettivi di risultato su più anni piuttosto che ai metriche a breve termine e dà loro un budget di infrastruttura dedicato – GPU, ingegneria dei dati, operazioni di machine learning (MLOps) – in modo che il progetto progredisca oltre la fase pilota.

Infine, guardando avanti: come sarebbe un sistema di AI generativa completamente integrato e responsabile in un ambiente ospedaliero tra cinque anni? Quali sono i punti di riferimento che dobbiamo raggiungere per arrivarci?

Immagina di entrare in una clinica dove il medico non si gira mai verso la tastiera. La conversazione fluisce e un agente di ascolto ambientale cattura il dialogo, crea una nota, segnala ordini basati sulle linee guida e genera il pacchetto di autorizzazione preventiva prima che la mano del medico sia sulla maniglia della porta. I primi progetti pilota stanno già dimostrando il concetto, e il 41% dei clinici nel nostro sondaggio afferma che questo è esattamente la funzionalità di AI generativa che desidera dopo.

Ciò che rende possibile quella scena non è la robotica da fantascienza; è un’architettura invisibile che fonde dati puliti e interoperabili con un livello di orchestrazione in tempo reale e “governance-as-code”. Abbiamo ancora del lavoro da fare. Per colmare le lacune, pensa prima alla “fognatura” dei dati, poi incorpora le linee guida (anziché aggiungerle) per trasformare l’hype in abitudine.

I punti di riferimento cadono naturalmente una volta che le fondamenta sono poste. Nel primo anno, consiglio agli ospedali e ai sistemi sanitari di cablare il tessuto dei dati, pubblicare linee guida aziendali per l’AI generativa e costruire una pipeline di MLOps. Nel secondo anno di implementazione, sarà importante scalare la documentazione ambientale attraverso le cliniche ambulatoriali, misurare il tempo di documentazione e il “tempo in pigiama” dopo l’orario di lavoro. Nel terzo anno, lasci che l’AI generativa crei le lettere di appello per la negazione e i pacchetti di autorizzazione preventiva (il 67% dei leader ha affermato che quell’onere è maturo per l’eliminazione.) Nel quarto e quinto anno, evolvi in supporto decisionale clinico in tempo reale con provenienza e, infine, pianificazione delle cure basata sulla conversazione in cui il sistema esegue gli ordini nel momento in cui vengono pronunciati.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Wolters Kluwer o leggere il Future Ready Healthcare Survey Report.