Dr. Matthew Crowson, Director de Management al Produselor de Inteligență Artificială la Wolters Kluwer Health – Seria de Interviuri

Dr. Matt Crowson este un lider în tehnologia sănătății și un chirurg practicant, axat pe aplicarea inteligenței artificiale în practica clinică. El este Director de Produse de Inteligență Artificială la Wolters Kluwer (WKL.SW ) Health, unde conduce inițiative pentru îmbunătățirea sintezei de dovezi și a analizei datelor din lumea reală. Anterior, el a condus practica de inteligență artificială a furnizorilor de servicii de sănătate de la Deloitte, dezvoltând soluții de inteligență artificială generativă pentru a îmbunătăți documentarea, ciclurile de venituri și cercetarea. El mai este și profesor asistent la Harvard Medical School și a publicat peste 90 de lucrări științifice peer-review.

Wolters Kluwer este un furnizor global de informații profesionale, software și servicii, care sprijină clienții din domeniul sănătății, fiscalității și contabilității, juridic și de reglementare, conformității financiare și ESG. Cu sediul în Țările de Jos, compania utilizează expertiza profundă din industrie și tehnologia avansată pentru a oferi instrumente care simplifică fluxurile de lucru, asigură conformitatea și sprijină procesele de luare a deciziilor critice. Operațiunile sale acoperă peste 180 de țări, cu oferte organizate în diviziuni precum Sănătate, Fiscalitate și Contabilitate, Juridic și de Reglementare, Conformitate Financiară și Corporativă și Performanță Corporativă și ESG.

Să începem cu o întrebare personală – cum echilibrați rolurile dvs. duble de chirurg practicant și lider de produs de inteligență artificială? A influențat munca dvs. clinică perspectiva dvs. asupra a ceea ce ar trebui sau nu să fie inteligența artificială în sănătate?

Onest? Începe cu o programare implacabilă a timpului și o mașină de cafea industrială. Diminețile de clinică îmi mențin abilitățile de îngrijire a pacienților, în timp ce restul zilei este dedicat transformării durerii de pe linia din față în specificații de produs. Cele două roluri se alimentează reciproc: a vedea un rezident care face clic pe zece ecrane pentru a comanda Tylenol este tot cercetarea de piață de care am nevoie.

Proiectele de inteligență artificială eșuează atunci când nimeni din cameră nu a simțit acea durere. Studiul nostru Future Ready Healthcare Survey arată că 80% dintre lideri spun că “optimizarea fluxurilor de lucru” este o prioritate de top. Cu toate acestea, doar 63% cred că sunt pregătiți să o facă cu inteligență artificială generativă (GenAI). Acesta este clasicul decalaj de strategie-execuție pe care experții din domeniu îl pot închide, solicitând clinice “de ce” înainte de a scrie o singură linie de cod.

Prisma mea clinică menține, de asemenea, misiunea practică. Personalul din linia din față ne-a spus că imperativele lor de top sunt remedierea lipsei de personal (82%), reducerea suprasarcinii administrative (77%) și combaterea epuizării (76%). Dacă un algoritm nu mișcă una dintre aceste ace, este doar teatru. Clinicienii se deconectează repede.

Această prismă mă face și precaut cu privire la locurile unde inteligența artificială nu ar trebui să se afle. De fapt, 57% dintre profesioniști se tem că o dependență excesivă de GenAI ar putea submina judecata clinică, dar doar 18% spun că organizațiile lor au publicat garduri de protecție. Până când guvernanța nu se recuperează, mandatul este clar: automatizați documentele, nu gândirea.

Deci, pentru mine, echilibrul nu este cu adevărat cafea versus calendar. Este despre a păstra un picior în clinică – astfel încât să nu uit niciodată cui ar trebui să servească inteligența artificială – și un picior în produs, astfel încât cunoștințele să fie expediate. Faceți asta bine, și cafeaua este doar un bonus frumos.

Raportul Future Ready Healthcare Survey de la Wolters Kluwer evidențiază o lacună puternică între entuziasmul și execuția GenAI. Ați fost surprins de vreunul dintre rezultate? Ce v-a atras atenția în mod special?

Nu am fost deloc surprins. Nu am întâlnit niciodată un clinician anti-automatizare. Ceea ce încetinește implementarea nu este teama de vreun scenariu “Skynet în halat” ci, mai degrabă, muncitorul zilnic al operațiunilor de sănătate. Studiul cristalizează acea realitate. Opt din zece lideri clasifică optimizarea fluxurilor de lucru ca prioritate de top, dar abia șase din zece spun că sunt pregătiți să lase GenAI să abordeze această problemă. Acest decalaj este exact ceea ce văd: mine de răspundere, date care arată mai mult ca un sertar de gunoi decât un lac de date și stimulente financiare care încă răsplătesc volumul în detrimentul eficienței. Există și alte obstacole, inclusiv un vid de formare, oboseală de IT paralel și ceață regulamentară.

Ceea ce m-a lovit cel mai tare a fost cât de banale sunt aceste obstacole. Lipsa de personal, tracțiunea administrativă și epuizarea domină lista de îngrijorări, dar doar 18% dintre organizații au politici formale de GenAI. Dacă nu știți cine semnează un model sau cum sunt auditate ieșirile sale, entuziasmul moare în biroul de conformitate. În plus, 68% dintre respondenți spun că costurile forței de muncă sunt cea mai mare presiune financiară, și nu este de mirare că executivii doresc dovezi ale rentabilității investiției (ROI) înainte de a semna o altă factură de software. Titlul nu este “panică AI”, ci “Ideea este grozavă – arătați-mi fluxul de lucru și cazul de afaceri”.

Mai mult de jumătate dintre profesioniștii din sănătate chestionați se tem că GenAI ar putea submina capacitățile de luare a deciziilor clinice. Credeți că această teamă este valabilă sau reflectă îngrijorări mai profunde despre încredere și transparență în sistemele de inteligență artificială?

O parte din anxietate este reală, dar are mai mult de-a face cu răspunderea obișnuită decât cu temerile științifico-fantastice ale unui AI defect. Când un instrument oferă diagnoze diferențiale în secunde, aveți nevoie de o proveniență cristalină: De unde vine recomandarea, cine semnează și cum este auditat? Astăzi, doar o mică minoritate de organizații au o guvernanță formală de GenAI, așa că clinicienii se îndreaptă spre prudență. Acest lucru se manifestă în datele noastre ca 57% spunând “supraîncărcarea ar putea submina judecata”. Pentru mine, acesta este un semnal că nu vor ca o cutie neagră să se înfiltreze în licența lor de a practica.

Prin urmare, da, teama este valabilă, dar este soluționabilă. Seturi de date transparente, urme de audit și puncte de control cu intervenție umană transformă “eroziunea AI” în “îmbunătățirea AI”. Dați clinicienilor recomandări trazabile și linii clare de răspundere, și acel 57% va dispărea. Nu este vorba despre înlocuirea expertizei; este vorba despre îmbunătățirea acesteia cu instrumente mai bune.

Doar 18% dintre respondenți spun că sunt conștienți de politici clare de GenAI la organizațiile lor. Care sunt riscurile potențiale ale implementării instrumentelor GenAI fără o astfel de guvernanță în loc?

Îl consider ca lansarea unui nou medicament fără o etichetă de doze. Datele din sănătate sunt extrem de sensibile, iar modelele GenAI devin mai inteligente doar atunci când absorb contextul bogat în informații privind sănătatea (PHI). Fără politici stricte de administrare a datelor pentru a guverna cine poate încărca informații, cum sunt logate acestea și unde sunt stocate, o organizație este la doar un snapshot de clipboard distanță de o încălcare a confidențialității care ar putea face titluri.

Răspunderea este următoarea mină. Când un algoritm halucinează o doză contraindicată, cine mănâncă cererea de malpraxis? Furnizorul, spitalul sau clinicianul care a făcut clic pe “accept”? În acest moment, răspunsul este neclar, deoarece mai puțin de una din cinci organizații au “reguli de drum” codificate pentru GenAI. Într-un vid, avocații adesea se îndreaptă spre buzunarele cele mai adânci, iar acea incertitudine singură poate stagna inovația.

Guvernanța protejează, de asemenea, împotriva riscurilor mai subtile, cum ar fi deriva modelului și prejudecata tăcută. Un bot de oncologie instruit pe ghidurile din trimestrul trecut poate să cadă în mod tacit dincolo de ghidurile bazate pe dovezi. Politicile care cer controlul versiunii, monitorizarea rezultatelor și declanșatoarele de apus mențin algoritmii departe de a deveni pericole de siguranță.

În cele din urmă, încrederea este pe linie. Clinicienii se tem că o dependență excesivă de GenAI ar putea înmuia judecata clinică; implementarea unor instrumente opace confirmă doar aceste temeri. Guvernanța clară, transparența asupra liniei de date, protocoalele de validare și punctele de control cu intervenție umană transformă anxietatea “cutiei negre” în încredere că inteligența artificială este un partener de asistență, nu un rezident defect.

Pe baza muncii dvs. cu Wolters Kluwer și în sala de operații, care este cel mai realist caz de utilizare pe termen scurt pentru GenAI în sănătate?

Uitați-vă la roboții chirurgi. În următorii trei ani, oportunitatea ucigătoare GenAI este anihilarea administrativă. Două benzi sunt deja dovedite:

1. Înregistrarea notei de la început. Instrumentele de ascultare ambientală redactează acum nota de progres în timp ce medicul vorbește cu pacientul său, apoi o introduc direct în registrul electronic al sănătății (EHR). Studiul nostru arată că 41% dintre respondenți o pun pe lista de dorințe GenAI, iar tehnologia este deja activă în sistemele de sănătate care adoptă tehnologia de la început. Mai multe studii au arătat că sistemele de dictare ambientală pot reduce încărcătura cognitivă cu 51% și timpul de “pajama” după ore cu peste 60%. Acesta este un ROI dur; puteți simți-l rapid.
2. Protecția veniturilor din spatele casei. Următoarea piatră de hotar este reprezentată de pachetele de autorizare prealabilă, scrisorile de apel pentru respingere și alte mizerii ale ciclului de venituri. Pentru referință, 67% dintre lideri spun că autorizarea prealabilă singură sufocă productivitatea, iar 62% o numesc tracțiune administrativă EHR. Modelele de limbaj mare care citesc fișa și completează automat aceste formulare sunt deja tăiate zile din cereri și eliberează personalul pentru o muncă de valoare mai mare.

De ce acestea două? Ele lovesc trifecta riscului clinic scăzut, a ajutorului pentru forța de muncă și a justificării în dolari și cenți. Într-un mediu în care 68% dintre executivi listează costurile forței de muncă ca presiunea financiară de top, instrumentele care oferă ore fără a schimba planul de îngrijire sunt cele mai ușoare “da”. Diagnosticarea autonomă va veni mai târziu; acum, GenAI își câștigă banii, făcând să dispară clipboardul.

Studiul menționează că datele nu sunt principalul risc menționat de respondenți – ceea ce este surprinzător, având în vedere cât de des încălcarea confidențialității domină titlurile. Care sunt riscurile pe care clinicienii și administratorii le consideră mai presante?

Am fost și eu surprins. Titlurile ne-ar face să credem că încălcările HIPAA țin treji toți directorii CIO ai spitalelor. Cu toate acestea, datele noastre arată că doar 56% dintre profesioniști menționează confidențialitatea ca risc de top GenAI, în timp ce o felie și mai mare (57%!) se tem de “înmuirea” judecății clinice. Acest lucru îmi spune că teama din linia din față nu este hackerii, ci răspunderea.

Iată ce îi preocupă pe clinicienii și administratorii:

• Rularea răspunderii. Dacă algoritmul împinge îngrijirea în afara cursului, cine semnează cererea de malpraxis? Lipsa unor reglementări și standarde clare se alătură golurilor de transparență la 55%, semnalând o adevărată îngrijorare cu privire la raza legală.
• Criza regulamentară. Șaptezeci și șase la sută dintre lideri se simt deja biciuiți de regulile Medicare și Medicaid care se schimbă rapid; stratificarea GenAI opacă în partea superioară a acestuia este o vânzare grea până când gardurile de protecție se solidifică.
• Deriva modelului și prejudecata. Cincizeci și cinci la sută semnalizează prejudecata din modelele subantrenate ca risc critic, amintind că datele învechite pot fi la fel de periculoase ca datele lipsă.

În sinteză, majoritatea organizațiilor presupun că zidurile lor de foc sunt decente; ei nu au o linie clară de răspundere atunci când o ieșire LLM se regăsește într-un plan de îngrijire. Până când cadrele de guvernanță definesc proprietatea, urmele de audit și cadențele de actualizare, implementările GenAI vor continua să se întrerupă, indiferent de cât de strâns este stivuită stiva de securitate.

Credeți că instrumentele GenAI vor îmbunătăți sau vor dilua autonomia clinicianului? Cum proiectăm sisteme care sprijină luarea deciziilor fără a o depăși?

GenAI este pregătit să extindă, nu să micșoreze, autonomia clinică. În acest moment, mult din această autonomie este împiedicată de triajul de e-mail, documentarea anterioară a autorizării și acrobatica EHR. Nu este o surpriză că personalul din linia din față clasifică “optimizarea fluxurilor de lucru” ca prioritate numărul unu pentru GenAI (80% prioritate) chiar dacă abia 63% se simt tehnic pregătiți să o execute. Farmaciștii și profesioniștii din sănătate aliyați pariază deja pe partea bună: 41% și 47% se așteaptă ca GenAI să taie suficientă grăsime administrativă pentru a reduce nevoia de personal de sprijin. Eliberarea clinicienilor de la intrarea datelor înseamnă mai mult timp față în față cu pacienții. Acesta este tipul de autonomie pe care toată lumea îl dorește.

Încă, studiul ne amintește că autonomia taie în ambele sensuri, așa cum am atins anterior: 57% dintre respondenți se tem că o dependență excesivă de GenAI ar putea înmuia judecata clinică. Antidotul este proiectarea atentă, nu frânarea. Sistemele trebuie să-și arate munca cu steaguri de proveniență, citări și scoruri de încredere, astfel încât oamenii să rămână arbitrii finali. Controlul versiunii și monitorizarea post-implementare prind deriva modelului tăcut înainte de a otrăvi căile de îngrijire, în timp ce butoanele “întotdeauna vizibile de anulare” fac clar că algoritmul este un asistent, nu medicul care se ocupă de caz.

Guvernanța este ultimul kilometru. Doar 18% dintre profesioniști spun că organizația lor are o politică GenAI publicată. Fără o linie clară de răspundere, chiar și cea mai bună experiență a utilizatorului se va întrerupe în limbo legal. Politicile robuste trebuie să specifice administrarea datelor, urmele de audit și delimitarea rolurilor care sunt socializate în întreaga organizație, inclusiv medici, asistente și asistentul medical care face clic pe buton. Când asociem aceste garduri cu proiectarea nativă a fluxului de lucru, GenAI încetează să se simtă ca o amenințare la autonomie și începe să acționeze ca copilotul pentru care clinicienii au cerut.

Ce împiedică adoptarea cel mai mult – limitările tehnologiei, incertitudinea regulamentară, frecarea fluxului de lucru sau ceva mai profund, cum ar fi rezistența culturală?

Este un deficit de execuție înfășurat în stimulente legacy. Majoritatea liderilor din sistemele de sănătate pot articula o viziune GenAI strălucită, dar mușchii lor de operare nu au ținut pasul. Studiul nostru arată decalajul într-o singură linie: 80% dintre respondenți clasifică “optimizarea fluxurilor de lucru” ca prioritate de top, dar doar 63% cred că sunt pregătiți să o facă. Viziunea este ieftină; inginerii de integrare, cărțile de joc de management schimbărilor și bugetele GPU nu sunt.

Guvernanța este următoarea groapă. Doar 18% dintre profesioniști sunt conștienți de o politică GenAI publicată la spitalul lor. Fără reguli clare de utilizare a datelor, validare și răspundere, orice pilot promițător riscă să devină o grenadă de conformitate. Această ceață legală este amplificată de incertitudinea macro. De fapt, 75% dintre lideri se tem că regulile statelor și federale în schimbare rapid vor da peste cap orice soluție pe care o implementează.

Apoi vine frecarea de la nivelul tranșelor: aproape jumătate dintre executivi menționează date murdare și coșmaruri de integrare EHR ca principalele bariere, iar doar 42% spun că au un proces de a fixa instrumentele GenAI în fluxurile de lucru existente. Dacă modelul nu poate vedea fișa sau adaugă clicuri, clinicienii îl vor abandona înainte de prânz.

În cele din urmă, există “purgatoriul pilot”. Studiile externe estimează că rata de succes a pilotelor de inteligență artificială care ajung la scară de întreprindere este de aproximativ una din zece. Consiliile de administrație celebrează demo-ul, emit un comunicat de presă și se mută. Pentru că nimeni nu finanțează munca de plumb neromantică care urmează. GenAI va rămâne o promisiune PowerPoint până când spitalele vor angaja proprietari de produse care au expediat software anterior.

În sinteză, tehnologia și cultura nu sunt blocaje separate. Sunt fuzionate. Rezolvați pentru conducerea responsabilă, bugetele reale de integrare, gardurile explicite și pofta de GenAI va fi la nivelul hype-ului.

Ați construit sisteme de inteligență artificială axate pe rezultate practice, bazate pe dovezi. Ce sfaturi ați da liderilor din sănătate care încearcă să navigheze hype-ul și să identifice investițiile valoroase de inteligență artificială?

Începeți cu un diagnostic, nu cu un demo. Înainte de a lăsa un ciocan strălucitor să caute cuie, cuantificați cuiul: Este utilizarea sălii de operații în scădere cu 8% pentru două trimestre consecutive? Sunt apelurile de respingere a aprobării prealabile în așteptare și sângerând venituri? Unitatea de asistente petrece două ore pe schimbul de noapte cu “timpul de comutare EHR” (timpul petrecut comutând între ecrane și sarcini)? Odată ce durerea este explicită, instrumentul potrivit are tendința de a se introduce singur. Așa cum ne-a amintit Sir William Osler comunității medicale cu generații în urmă, “Ascultă pacientul; [el] vă va spune diagnosticul”.

Cu problema fixată, interogați cazul de afaceri ca un CFO. Cer numere tari: metrici de bază, delta proiectate, ferestre de rambursare care supraviețuiesc unui test de cameră a consiliului de administrație. Amintiți-vă că doar aproximativ una din zece piloții de inteligență artificială ajung la scară de întreprindere; dacă furnizorul nu poate arăta un client activ care a mutat indicatorul de performanță (KPI) de care vă pasa, continuați drumul.

Următorul, decideți cumpărați, construiți sau parteneriați. Cumpărarea poate accelera timpul de valoare, dar fiți atenți la vaporware îmbrăcat în cuvinte cheie. Construirea oferă control, dar doar dacă aveți un proprietar P&L care a expediat învățarea automată de producție anterior. Parteneriatele hibride adesea lovesc echilibrul: datele dvs., modelul lor, câștigul comun, riscul comun.

În cele din urmă, priorizați echipe mici, transversale, cu răspundere clară. Gândiți-vă la o echipă de două pizza, care include CMO, CIO, șeful ingineriei de date și un campion din linia din față, mai degrabă decât comitete de conducere mari. Aliniați stimulentele lor cu obiective de rezultat pe termen lung, mai degrabă decât metrici pe termen scurt, și oferiți-le un buget de infrastructură dedicat – GPU, inginerie de date, operațiuni de învățare automată (MLOps) – astfel încât proiectul să progreseze dincolo de stadiul pilot.

În cele din urmă, privind înainte: cum ar arăta un sistem GenAI pe deplin integrat și responsabil într-un mediu spitalicesc în cinci ani? Care sunt etapele pe care trebuie să le atingem pentru a ajunge acolo?

Imaginați-vă intrând într-o clinică unde medicul nu se întoarce niciodată spre tastatură. Conversația curge, iar un agent de ascultare ambiental discret capturează dialogul, redactează o notă, semnalizează ordine bazate pe ghiduri și generează pachetul de autorizare prealabilă înainte ca mâna medicului să ajungă la mânerul ușii. Primele piloții demonstrează deja conceptul, iar 41% dintre clinicienii din studiul nostru spun că acesta este exact trăsătura GenAI pe care o doresc următoarea.

Ceea ce face posibilă această scenă nu este robotica științifico-fantastă; este o arhitectură invizibilă care fuzionează date curate și interoperabile cu un strat de orchestrare în timp real și “guvernanță ca cod”. Încă avem teme de făcut. Pentru a închide lacunele, gândiți-vă mai întâi la conductele de date, apoi încorporați gardurile (mai degrabă decât să le fixați) pentru a transforma hype-ul în obișnuință.

Etapele vin în mod natural odată ce fundația este stabilită. În primul an, vă recomand să conectați țesătura de date, să publicați linii directoare GenAI la nivel de întreprindere și să construiți o conductă MLOps. În al doilea an de implementare, va fi important să extindeți documentarea ambientală în clinicile ambulatorii, să măsurați timpul de documentare și “timpul de pijama” după ore. În al treilea an, lăsați GenAI să redacteze apelurile de respingere și pachetele de autorizare prealabilă (67% dintre lideri au spus că această povară este gata să fie eliminată.) În al patrulea și al cincilea an, evoluați spre suportul deciziei clinice în timp real cu proveniență și, în cele din urmă, planificarea îngrijirii bazată pe conversație, unde sistemul execută ordinele în momentul în care sunt rostite.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre subiect ar trebui să viziteze Wolters Kluwer sau să citească Raportul de studiu Future Ready Healthcare Survey.