Matthew Crowson, MD, Dyrektor Zarządzania Produktem AI/GenAI w Wolters Kluwer Health – Seria Wywiadów

Dr. Matt Crowson jest liderem technologii opieki zdrowotnej i praktykującym chirurgiem, który skupia się na stosowaniu sztucznej inteligencji w praktyce klinicznej. Jest Dyrektorem Zarządzania Produktem AI/GenAI w Wolters Kluwer (WKL.SW ) Health, gdzie kieruje inicjatywami mającymi na celu poprawę syntezy dowodów i analizy danych z życia wziętych. Wcześniej kierował praktyką AI dla dostawców opieki zdrowotnej w Deloitte, rozwijając rozwiązania oparte na generatywnej sztucznej inteligencji w celu poprawy dokumentacji, cyklu przychodów i badań. Pełni również funkcję asystenta profesora na Harvard Medical School i jest autorem ponad 90 recenzowanych publikacji.

Wolters Kluwer jest globalnym dostawcą profesjonalnych informacji, oprogramowania i usług, wspierającym klientów w dziedzinie opieki zdrowotnej, podatków i rachunkowości, prawa i regulacji, zgodności finansowej oraz ESG. Z siedzibą w Holandii, firma wykorzystuje głęboką wiedzę branżową i zaawansowaną technologię, aby dostarczać narzędzia, które usprawniają przepływ pracy, zapewniają zgodność i wspierają podejmowanie krytycznych decyzji. Działalność firmy obejmuje ponad 180 krajów, z ofertami zorganizowanymi w ramach działów, takich jak Zdrowie, Podatki i Rachunkowość, Prawo i Regulacje, Zgodność Finansowa i Wydajność Korporacyjna oraz ESG.

Zacznijmy od osobistej kwestii – jak równoważysz swoje podwójne role jako praktykującego chirurga i lidera produktu AI?

Szczerze mówiąc, zaczyna się to od bezwzględnego rozgraniczania czasu i maszyny do kawy o wyjątkowej sile. Poranki w klinice utrzymują moje umiejętności opieki nad pacjentem w uczciwości, podczas gdy reszta dnia jest spędzana na przekształcaniu bólu pierwszej linii w specyfikacje produktu. Obie role napędzają się wzajemnie: widzenie rezydenta klikającego przez dziesięć ekranów, aby zamówić Tylenol, to wszystkie badania rynkowe, których potrzebuję.

Projekty sztucznej inteligencji wygasają, gdy nikt w pokoju nie odczuł tego bólu. Nasz raport z badania Future Ready Healthcare Survey pokazuje, że 80% liderów uważa, iż „optymalizacja przepływów pracy” jest priorytetem. Nadal tylko 63% uważa, że są przygotowani do tego z wykorzystaniem generatywnej sztucznej inteligencji (GenAI). To jest klasyczna luka między strategią a wykonaniem, którą mogą zamknąć eksperci z dziedziny, zadając odpowiednie pytania „dlaczego” przed napisaniem jednej linii kodu.

Mój kliniczny punkt widzenia utrzymuje misję praktyczną. Personel pierwszej linii powiedział nam, że ich najważniejsze cele to naprawa braków kadrowych (82%), zmniejszenie administracyjnego obciążenia (77%) i zwalczanie wypalenia (76%). Jeśli algorytm nie przesuwa jednego z tych wskaźników, to jest to tylko teatr. Klinicyści szybko tracą zainteresowanie.

Ten punkt widzenia sprawia również, że jestem ostrożny, gdzie sztuczna inteligencja nie powinna działać. W rzeczywistości 57% profesjonalistów obawia się, że nadmierne poleganie na GenAI może osłabić kliniczne osądy, jednak tylko 18% twierdzi, że ich organizacje mają opublikowane wytyczne. Do czasu, aż nadzór dogoni, mandat jest jasny: zautomatyzuj dokumentację, a nie myślenie.

Więc dla mnie równowaga nie jest tak naprawdę kwestią kawy versus kalendarza. Chodzi o to, aby zachować jeden krok w klinice – aby nigdy nie zapomnieć, komu sztuczna inteligencja ma służyć – i jeden krok w produkcie, aby ta wiedza została dostarczona. Zrób to dobrze, a kawa jest po prostu miłym bonusem.

Raport Future Ready Healthcare Survey z Wolters Kluwer podkreśla znaczącą lukę między entuzjazmem dla GenAI a wykonaniem. Czy był Pan zaskoczony którymikolwiek z wyników? Co najbardziej wywołało Pana uwagę?

Nie byłem zaskoczony w ogóle. Jeszcze nie spotkałem klinicysty, który jest przeciwny automatyzacji. To, co spowalnia wdrożenie, nie jest strachem przed jakimś „Skynetem w szpitalu”, ale raczej codziennym biegiem operacji opieki zdrowotnej. Badanie ugruntowuje tę rzeczywistość. Osiem na dziesięć liderów klasyfikuje optymalizację przepływów pracy jako priorytet, a ledwie sześć na dziesięć twierdzi, że są gotowi, aby GenAI zajęło się tym. Ta różnica jest dokładnie tym, co widzę: miny lądowe, dane, które wyglądają bardziej jak szuflada niż jezioro danych, oraz zachęty finansowe, które nadal nagradzają objętość ponad wydajnością. Są też inne przeszkody, w tym vacuum szkoleniowy, zmęczenie cieniowymi IT i mgła regulacyjna.

Co mnie najbardziej uderzyło, to to, jak banalne są te przeszkody. Braki kadrowe, administracyjne ciągi i wypalenie dominują na liście obaw, ale tylko 18% organizacji ma formalne zasady Gen AI. Jeśli nie wiesz, kto zatwierdza model lub jak jego dane są rejestrowane, entuzjazm umiera w biurze compliance. Dodatkowo 68% respondentów twierdzi, że koszty pracy są ich największym naciskiem finansowym, i nie jest to zaskakujące, że dyrektorzy wykonawczy chcą dowodu zwrotu z inwestycji (ROI) przed podpisaniem kolejnej faktury oprogramowania. Nagłówek nie brzmi „panika AI”, ale „wspaniały pomysł – pokaż mi przepływ i biznesowy przypadek”.

Ponad połowa profesjonalistów opieki zdrowotnej ankietowanych obawia się, że GenAI może osłabić kliniczne umiejętności podejmowania decyzji. Czy uważa Pan, że ten strach jest uzasadniony – czy odzwierciedla głębsze obawy dotyczące zaufania i przejrzystości w systemach AI?

Część tej niepewności jest realna, ale ma więcej wspólnego z prostą odpowiedzialnością. Gdy narzędzie oferuje różnicujące diagnozy w sekundy, potrzebujesz кристаллической genezy: Skąd pochodzi rekomendacja, kto ją zatwierdza i jak jest audytowana? Dziś tylko niewielka mniejszość organizacji ma formalne zarządzanie GenAI, więc klinicyści domyślnie stosują ostrożność. To pokazuje się w naszych danych jako 57% mówiących, że „nadmierna zależność mogłaby osłabić osąd”. Dla mnie to sygnał, że nie chcą, aby czarna skrzynka wtargnęła w ich licencję na praktykę.

Widzę tę kwestię przez historyczną perspektywę. Gdy arkusze kalkulacyjne dotknęły departamenty finansowe, niektórzy księgowi obawiali się, że ich analityczne mięśnie zanikną. Zamiast tego oprogramowanie arkuszy kalkulacyjnych stało się nową podstawą, podnosząc podłogę dokładności. Opieka zdrowotna ma podobny skok. Tracimy zbyt wielu pacjentów z powodu zmienności opieki; błędy medyczne pozostają jedną z głównych przyczyn urazów i śmierci. Supermoc GenAI polega na zwężeniu tych błędów poprzez powierzchnię wytycznych, podkreślenie przeciwwskazań i flagowanie odstępstw szybciej niż człowiek może przeszukać kartę. Ale musi pozostać asystentem, a nie autonomicznym decydentem, zwłaszcza w najbliższych trzech do pięciu latach.

Więc tak, strach jest uzasadniony, ale jest rozwiązywalny. Przezroczyste zestawy danych, ślady audytu i punkty kontrolne człowieka w pętli przekształcają „erozję AI” w „wzmocnienie AI”. Dajcie klinicystom ślady rekomendacji i wyraźne linie odpowiedzialności, a ten 57% zniknie. To nie jest o zastąpieniu ekspertyzy; to o wzmocnieniu jej lepszymi narzędziami.

Tylko 18% respondentów twierdzi, że są świadomi wyraźnych zasad GenAI w swoich organizacjach. Jakie są potencjalne ryzyka wdrożenia narzędzi GenAI bez takiego zarządzania?

Wyobraź sobie wprowadzenie nowego leku bez etykiety dawki. Dane zdrowotne są bardzo wrażliwe, a modele GenAI stają się mądrzejsze tylko wtedy, gdy absorbują ten kontekst bogaty w informacje ochrony zdrowia (PHI). Bez surowych polityk zarządzania danymi, które określają, kto może przesłać informacje, jak te dane są rejestrowane i gdzie się znajdują, organizacja jest zaledwie jednym zdjęciem klipu od naruszenia prywatności, które mogłoby znaleźć się w nagłówkach.

Odpowiedzialność jest następną miną. Gdy algorytm halucynuje przeciwwskazaną dawkę, kto zje deklarację o nieprawidłowości? Odpowiedź jest mglista, ponieważ mniej niż jeden na pięć organizacji ma zakodowane „zasady drogi” dla GenAI. W próżni prawnicy często domyślnie wybierają najgłębsze kieszenie, a ta niepewność sama w sobie może zablokować innowacje.

Zarządzanie również chroni przed bardziej subtelnymi ryzykami, takimi jak dryf modelu i cicha uprzedzenie. Bot onkologiczny wyszkolony w wytycznych z poprzedniego kwartału może cicho wyjść z daty, nachylając opiekę poza ścieżkami opartymi na dowodach. Polityki, które nakazują kontrolę wersji, monitorowanie wyników i wyłączniki, utrzymują algorytmy przed starzeniem się w niebezpieczeństwa.

Wreszcie, zaufanie jest na linii. Klinicyści obawiają się, że nadmierna zależność od GenAI może osłabić ich kliniczne osądy; wdrożenie przejrzystych narzędzi potwierdza te obawy. Wyraźne zarządzanie, przejrzystość linii danych, protokoły walidacji i punkty kontrolne człowieka w pętli przekształcają „czarną skrzynkę” w niepewność w zaufanie, że AI jest wspomagającym partnerem, a nie awaryjnym rezydentem.

Na podstawie Pana pracy z Wolters Kluwer i w sali operacyjnej, jaki jest najbardziej realistyczny krótkoterminowy przypadek użycia GenAI w opiece zdrowotnej?

Zapomnij o robotach-chirurgach. W ciągu najbliższych trzech lat największa okazja do GenAI to zniszczenie administracji. Dwa pasy są już udowodnione:

1. Notatki z przodu biura. Narzędzia do nasłuchiwania ambientalnego teraz projektują notatkę postępu, podczas gdy lekarz rozmawia z pacjentem, a następnie umieszcza ją bezpośrednio w elektronicznej karcie zdrowia (EHR). Nasze badanie pokazuje, że 41% respondentów umieszcza to na liście życzeń GenAI, a technologia jest już dostępna w wczesnych systemach opieki zdrowotnej. Wiele badań wykazało, że systemy dictation ambientalnego mogą obciąć obciążenie poznawcze o 51% i czas „pajama” po godzinach o ponad 60%. To jest twardy zwrot z inwestycji; możesz to poczuć szybko.
2. Ochrona przychodów z tyłu biura. Następna kostka to pakiety uprzedniej autoryzacji, listy apelacyjne i inne nieczystości cyklu przychodów. Dla odniesienia 67% liderów mówi, że sama uprzednia autoryzacja dusi produktywność, a 62% wskazuje na administracyjne ciągi EHR. Duże modele językowe, które czytają kartę i automatycznie wypełniają te formularze, już obcinają dni z roszczeń i uwalniają personel do pracy o wyższej wartości.

Dlaczego te dwa? Uderzają w trifektę niskiego ryzyka klinicznego, wysokiego ulgi dla siły roboczej i wyraźnego uzasadnienia dolarów i centów. Na rynku, w którym 68% dyrektorów wykonawczych wymienia koszty kadrowe jako największy nacisk finansowy, narzędzia, które zwracają godziny bez zmiany planu opieki, są najłatwiejszym „tak”. Autonomiczna diagnoza przyjdzie później; teraz GenAI zarabia na utrzymanie, sprawiając, że klipboard znika.

Badanie wskazuje, że dane nie są najwyższym ryzykiem wymienionym przez respondentów – co jest zaskakujące, biorąc pod uwagę, jak często prywatność danych dominuje nagłówki. Jakie ryzyka widzą klinicyści i administratorzy jako bardziej naciskające?

Byłem również zaskoczony. Nagłówki sprawiają, że wydaje się, iż każdy dyrektor ds. informacji w szpitalu jest budzony przez naruszenia HIPAA. Jednak nasze dane pokazują, że tylko 56% profesjonalistów wymienia prywatność jako najwyższe ryzyko GenAI, podczas gdy jeszcze większy kawałek (57%!) obawia się „ogłupienia” klinicznego osądu. To mówi mi, że strach pierwszej linii nie jest hakerami, ale odpowiedzialnością.

Oto, co klinicyści i administratorzy się martwią:

• Roulette odpowiedzialności. Jeśli algorytm podsunie opiekę z kursu, kto podpisze oświadczenie o nieprawidłowości? Brak wyraźnych regulacji i standardów plasuje się obok luk transparentności na poziomie 55%, sygnalizując prawdziwą niepewność co do prawnego promienia rażenia.
• Whiplash regulacyjny. 76% liderów już czuje się rzucanych przez zmieniające się zasady Medicare i Medicaid; nakładanie nieprzezroczystego GenAI na to jest trudne do sprzedaży, dopóki barierki nie zostaną ustalone.
• Model dryf i uprzedzenie. 55% flaguje uprzedzenie z niedouczonych modeli jako krytyczne ryzyko, przypominając, że stalowe dane mogą być tak niebezpieczne jak brakujące dane.

W skrócie, większość organizacji zakłada, że ich zapory sieciowe są przyzwoite; nie mają wyraźnej łańcuchu odpowiedzialności, gdy dane wyjściowe dużego modelu językowego (LLM) trafiają do planu opieki. Dopóki ramy zarządzania nie określą własności, ślady audytu i aktualizacje, wdrożenia GenAI będą kontynuować zatrzymywanie, niezależnie od tego, jak szczelna jest stos technologiczny.

Czy uważa Pan, że narzędzia GenAI ostatecznie poprawią czy osłabią autonomię klinicystów? Jak projektujemy systemy, które wspierają podejmowanie decyzji bez przekroczenia granic?

GenAI jest gotowy rozszerzyć, a nie zmniejszyć, autonomię kliniczną. Teraz wiele tej autonomii jest utrudnione przez triaż skrzynki pocztowej, uprzednią autoryzację dokumentacji i gimnastykę EHR. Nie jest zaskakujące, że personel pierwszej linii klasyfikuje „optymalizację przepływów pracy” jako najwyższe użycie GenAI (80% priorytet) chociaż ledwie 63% czuje się technicznie gotowe do wykonania. Farmaceuci i profesjonaliści ochrony zdrowia obstawiają już stronę górę: 41% i 47% oczekuje, że GenAI wyciąć enough administracyjnego tłuszczu, aby zmniejszyć potrzeby personelu wspierającego. Uwolnienie klinicystów od dokumentacji oznacza więcej czasu twarzą w twarz z pacjentami. To jest autonomia, której wszyscy chcą.

Jednak badanie przypomina nam, że autonomia tnąca obie strony, jak już wcześniej dotknęliśmy: 57% respondentów obawia się, że nadmierna zależność od GenAI mogłaby osłabić kliniczne osądy. Antidotum jest przemyślanym projektem, a nie hamulcem. Systemy muszą pokazać swoją pracę z flagami pochodzenia, cytowaniami i wynikami ufności, aby ludzie pozostali ostatecznymi arbitrami. Kontrola wersji i monitorowanie po wdrożeniu łapie cichy dryf modelu, zanim zatruci ścieżki opieki, a „zawsze widoczne przyciski anulowania” sprawiają, że jest jasne, iż algorytm jest asystentem, a nie ordynatorem.

Zarządzanie jest ostatnią milą. Tylko 18% profesjonalistów twierdzi, że ich organizacja ma opublikowaną politykę GenAI. Bez transparentnego łańcucha odpowiedzialności nawet najlepsze doświadczenie użytkownika zatrzyma się w limbo prawnym. Zasady muszą określać opiekę nad danymi, ślady audytu i role, które są społecznie akceptowane wśród lekarzy, pielęgniarek i asystentów lekarskich, którzy naciskają przycisk. Kiedy łączymy te barierki z projektem rodzimym dla przepływu pracy, GenAI przestaje wydawać się zagrożeniem dla autonomii i zaczyna działać jak współpilot, o którym klinicyści prosili.

Co najbardziej utrudnia przyjęcie – ograniczenia technologiczne, niepewność regulacyjna, tarcie przepływu pracy czy coś głębszego, jak opór kulturowy?

Jest to deficyt wykonania owinięty w legacy zachęt. Większość liderów systemów opieki zdrowotnej może wyrazić ładną wizję GenAI, ale ich mięśnie operacyjne nie dogoniły. Nasze badanie pokazuje tę dysfunkcję w jednej linii: 80% respondentów klasyfikuje „optymalizację przepływów pracy” jako priorytet, a ledwie 63% uważa, że są gotowi to zrobić. Wizja jest tania; inżynierowie integracji, podręczniki zarządzania zmianą i budżety GPU nie są.

Zarządzanie jest następną studnią. Tylko 18% profesjonalistów jest nawet świadomych opublikowanej polityki GenAI w swoim szpitalu. Bez wyraźnych zasad użycia danych, walidacji i odpowiedzialności każdy obiecujący pilot ryzykuje przekształcenie się w granat compliance. Ta mgła prawna jest wzmocniona przez makro niepewność. W rzeczywistości 75% liderów martwi się, że szybko zmieniające się stanowe i federalne regulacje podważą każde rozwiązanie, które wdrożą.

Potem jest tarcie poziomu rowu: blisko połowa dyrektorów wykonawczych wymienia brudne dane i koszmary integracji EHR jako główne bariery, a tylko 42% mówi, że mają proces, aby przykręcić narzędzia GenAI do istniejących przepływów pracy. Jeśli model nie może zobaczyć karty lub dodaje kliknięcia, klinicyści porzucą to przed lunchem.

Wreszcie, jest „pilot purgatory”. Wiele zewnętrznych badań szacuje, że odsetek sukcesu pilotów AI, którzy awansują do skali przedsiębiorstwa, wynosi około jednego na dziesięć. Zarządy świętują demo, wydają komunikat prasowy i przechodzą dalej. Ponieważ nikt nie finansuje następującej nieglamurnej pracy z rurami. GenAI pozostanie obietnicą PowerPointa, dopóki szpitale nie będą miały właścicieli produktów, którzy wcześniej wysyłali oprogramowanie.

W skrócie, technologia i kultura nie są oddzielnymi blokerami. Są połączone. Rozwiąż dla odpowiedzialnego przywództwa, prawdziwych budżetów integracji, wyraźnych barier i apetytu na GenAI, a entuzjazm będzie pasował do szumu.

Co poradziłby Pan liderom opieki zdrowotnej, którzy próbują nawigować po szumie i identyfikować prawdziwe inwestycje w AI?

Zacznij od diagnozy, a nie dema. Przed tym, jak pozwolisz na poszukiwanie młotka, ilość gwoździ: Czy wykorzystanie sali operacyjnej jest na minus 8% przez dwa kolejne kwartały? Czy apelacje o odmowę wiszą i krwawią przychodem? Czy oddział pielęgniarski numer trzy spędza dwa godziny na zmianie na „czasie toggle” EHR (czas spędzony na przełączaniu się między ekranami i zadaniami)? Gdy ból jest wyraźny, odpowiednie narzędzie ma tendencję do wprowadzenia się. Jak Sir William Osler przypomniał społeczności medycznej pokoleń temu, „Słuchaj pacjenta; [oni] powiedzą ci diagnozę”.

Z problemem przywiązanym, przesłuchaj przypadek biznesowy jak CFO. Żądaj twardych liczb: metryki bazowe, projekowane delty i okna zwrotu, które przetrwają test węszania zarządu. Pamiętaj, że tylko około jednego na dziesięć pilotów AI awansuje do skali przedsiębiorstwa; jeśli sprzedawca nie może pokazać żywego klienta, który przeniósł wskaźnik wydajności, o którym się martwisz, idź dalej.

Następnie zdecyduj, czy kupić, zbudować czy współpracować. Kupowanie może przyspieszyć czas realizacji, ale uważaj na vaporware ubranego w buzzwordy. Budowanie daje kontrolę, ale tylko jeśli masz tygrysiego właściciela zysków i strat, który wcześniej wysyłał oprogramowanie machine learning do produkcji. Hybrydowe partnerstwa często uderzają w balans: twoje dane, ich model, współdzielony zysk, współdzielone ryzyko.

Wreszcie, daj priorytet małym, wielofunkcyjnym zespołom z wyraźną odpowiedzialnością. Myśl o dwóch drużynach pizzy, w tym CMO, CIO, szef inżynierii danych i champion pierwszej linii, zamiast dużych komitetów kierujących. Wyrównaj ich zachęty do celów wynikowych wieloletnich, a nie krótkoterminowych metryk, i daj im dedykowany budżet infrastruktury – GPU, inżynieria danych, operacje machine learning (MLOps) – aby projekt posunął się poza etap pilotażu.

Wreszcie, patrząc w przyszłość: jaki byłby odpowiedzialny, w pełni zintegrowany system GenAI w środowisku szpitalnym za pięć lat? Jakie są kamienie milowe, które musimy osiągnąć, aby dojść tam?

Wyobraź sobie wejście do kliniki, gdzie lekarz nigdy nie obraca się do klawiatury. Rozmowa płynie, a dyskretny agent nasłuchiwania ambientalnego przechwytuje dialog, projektuje notatkę, sygnalizuje zamówienia oparte na wytycznych i generuje pakiet uprzedniej autoryzacji, zanim ręka lekarza dotknie klamki drzwi. Wczesne pilotażowe badania już udowadniają ten koncept, a 41% klinicystów w naszym badaniu mówi, że to właśnie funkcja GenAI, której najbardziej potrzebują.

Co sprawia, że ta scena jest możliwa, nie jest science fiction robotyki; to niewidoczna architektura, która łączy czyste, interoperacyjne dane z warstwą orkiestracji w czasie rzeczywistym i „zarządzaniem jako kod”. Wciąż mamy zadania do wykonania. Aby zamknąć luki, najpierw pomyśl o hydraulice danych, a następnie osadź barierki (zamiast ich przykręcania), aby zamienić szum w nawyk.

Kamienie milowe spadają naturalnie, gdy podstawa jest ustawiona. W pierwszym roku zalecam, aby szpitale i systemy opieki zdrowotnej połączyły tkaninę danych, opublikowały wytyczne GenAI na poziomie przedsiębiorstwa i zbudowały potok MLOps. W drugim roku wdrożenia ważne będzie skalowanie dokumentacji ambientalnej w całych ambulatoryjnych klinikach, pomiar czasu dokumentacji i czasu „pajama” po godzinach. W trzecim roku pozwól GenAI na wykreślenie apelacji o odmowę i pakietów uprzedniej autoryzacji (67% liderów powiedziało, że to obciążenie jest dojrzałe do eliminacji). W czwartym i piątym roku, rozwijaj się w czasie rzeczywistym wsparcie decyzji klinicznych z pochodzeniem i ostatecznie planowaniem opieki opartym na rozmowie, gdzie system wykonuje polecenia w momencie, gdy są wypowiadane. Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Wolters Kluwer lub przeczytać raport Future Ready Healthcare Survey.