Matthew Crowson, MD, Director of AI/GenAI Product Management at Wolters Kluwer Health – 인터뷰 시리즈

Dr. Matt Crowson은 의료 기술 리더이자 외과 의사로서 임상 실습에 AI를 적용하는 데 중점을 두고 있습니다. 그는 Wolters Kluwer (WKL.SW ) Health의 AI/Generative AI 제품 책임자로서 증거 합성 및 실제 데이터 분석을 개선하기 위한 이니셔티브를 주도합니다. 이전에는 그는 Deloitte의 헬스케어 제공자 AI 실무를 이끌었으며 문서화, 수익 주기 및 연구를 강화하기 위한 생성 AI 솔루션을 개발했습니다. 그는 또한 하버드 의과대학의 조교수로 재직하며 90개 이상의 동료 심사 논문을 저술했습니다.

Wolters Kluwer는 전문 정보, 소프트웨어 및 서비스의 글로벌 제공업체로서 헬스케어, 세금 및 회계, 법률 및 규제, 금융 규정 준수 및 ESG 분야의 고객을 지원합니다. 네덜란드에 본사를 둔 이 회사는 산업 전문 지식과 고급 기술을 활용하여 워크플로우를 간소화하고, 규정 준수를 보장하며, 임계적인 의사 결정 지원을 제공하는 도구를 제공합니다. 그들의 운영은 180개 이상의 국가에 걸쳐 있으며, 헬스, 세금 및 회계, 법률 및 규제, 금융 및 기업 규정 준수, 기업 성과 및 ESG와 같은 부문으로 조직됩니다.

개인적인 질문부터 시작해 보겠습니다. 외과 의사와 AI 제품 리더로서의 두 가지 역할을 어떻게 균형을 맞추나요? 임상 작업이 헬스케어에서 AI에 대한您的 견해를 형성했나요?

정확히 말하자면, 이것은 무자비한 시간 분할과 산업용 강度의 커피 머신에서 시작됩니다. 클리닉 오전은 환자 치료 기술을 유지하는 데 도움이 되며, 나머지 일은 전선 작업을 제품 사양으로 전환하는 데 사용됩니다. 두 역할은 서로를 연료로 합니다. 10개의 화면을 클릭하여 타이레놀을 주문하는 레지던트를 보는 것은 모든 시장 조사에 필요한 모든 것입니다.

AI 프로젝트는 아무도 그痛을 느끼지 못할 때 불타버립니다. 우리의 Future Ready Healthcare Survey에 따르면 80%의 리더가 “워크플로우 최적화”를 최상위 우선순위로 꼽았습니다. 그러나 63%만이 그것을 생성 AI(GenAI)로 수행할 준비가 되었다고 생각합니다. 이것은 도메인 전문가가 코드를 작성하기 전에 올바른 임상 “왜”를 묻는 것을 통해 해결할 수 있는 전략-실행 격차입니다.

임상 렌즈는 또한 임무를 실제로 유지합니다. 전선 직원들은 직원 부족(82%), 행정 오버헤드(77%), 그리고 번아웃(76%)를 해결하는 것을 최상위 명령으로 बत았습니다. 알고리즘이 그 중 하나를 움직이지 않는다면, 그것은 그냥 연극입니다. 임상의들은 빠르게 관심을 잃습니다.

그 렌즈는 또한 AI가 어디서 -roam해서는 안 되는지에 대해 주의를 환기시킵니다. 실제로 57%의 전문가가 GenAI에 대한 과도한 의존이 임상 판단을 침식할 수 있다고 우려하지만, 18%만이 조직이 가드레일을 발행했다고 말합니다. 거버넌스가 따라잡을 때까지, 명령은 명확합니다: 문서 작업을 자동화하십시오. 생각은 아닙니다.

그래서, 나에게 균형은 실제로 커피 대 캘린더가 아닙니다. 그것은 클리닉에 발을 하나 둔 채로 유지하는 것, 그래서 나는 AI가誰를 섬겨야 하는지 결코 잊지 않도록 하는 것입니다. 그리고 제품에 발을 하나 둔 채로, 그래서 지식이 출하됩니다. 그것을 잘하면, 카페인은 그냥 좋은 보너스입니다.

Wolters Kluwer의 Future Ready Healthcare Survey Report는 GenAI에 대한 열광과 실행 사이의 강한 격차를 강조합니다. 조사 결과 중 어떤 것이 가장 놀라웠나요? 무엇이 가장 인상 깊었나요?

저는 전혀 놀라지 않았습니다. 저는 아직 반-자동화 임상을 만난 적이 없습니다. 무엇이 론아웃을 늦추는 것은 AI에 대한 두려움이 아니라 헬스케어 운영의 일상적인 그라인드입니다. 설문조사는 그 현실을 구체화합니다. 10명 중 8명의 리더가 워크플로우 최적화를 최상위 우선순위로 꼽았으며, 6명 중 6명만이 그것을 GenAI로 수행할 준비가 되었다고 생각합니다. 그 델타는 제가 본 것입니다. 책임의 지雷, 데이터가 데이터 레이크보다는 정리되지 않은 서랍처럼 보이는 경우, 그리고 아직도 효율성보다 볼륨을獎勵하는 재정적 인센티브가 있습니다. 다른 장애물도 있습니다. 훈련 공백, 그림자-IT 피로, 규제 안개가 있습니다.

제가 가장 인상 깊었던 것은 장애물이 얼마나 평범한지입니다. 직원 부족, 행정적인 끌어당김, 그리고 번아웃이 우려 목록을 지배하지만, 조직의 18%만이 공식적인 Gen AI 정책을 가지고 있습니다. 만약 모델에 서명할 사람이나 출력을 감사하는 방법, 또는 데이터가 어디에 거주하는지에 대한 규칙이 없다면, 열광은 규제 사무실에서 죽습니다. 또한, 68%의 응답자는 노동 비용이 가장 큰 재정적 압력이라고 말하며, 이는幹部가 ROI에 대한 증거를 보여주기 전에 또 다른 소프트웨어 청구서에 서명하기 전에 의심스럽습니다. 헤드라인은 “AI 패닉”이 아니라 “훌륭한 아이디어 – 워크플로우와 비즈니스 케이스를 보여주세요”입니다.

조사된 헬스케어 전문가 중 절반이 GenAI가 임상 의사 결정 능력을 침식할 수 있다고 우려합니다. 이 두려움이 유효한지, 또는 더 깊은 우려를 반영하는지 생각하세요. 그것은 신뢰와 투명성에 대한 우려를 반영합니까?

일부 불안은 실제이지만, 그것은 HAL-9000 스타일의 로그 AI에 대한 공상 과학적인 두려움과 관련이 없습니다. 그것은 普通의 책임에 더 관련이 있습니다. 도구가 초당에 차별적 진단을 제공할 때, 분명한 출처가 필요합니다: どこ에서 추천이 왔는지,誰が 서명했는지, 어떻게 감사할 수 있나요? 현재, 조직의 소수만이 공식적인 GenAI 거버넌스를 가지고 있으므로 임상의들은 주의를 기울입니다. 그것은 데이터로 나타나며, 57%는 “과도한 의존이 판단을 침식할 수 있다”고 말합니다. 그것은 그들이 라이센스를 연습하는 데.black box가 침입하지 않기를 원한다는 신호입니다.

저는 그것을 역사적인 렌즈를 통해 본다. 금융 부서에 스프레드시트가 도착했을 때, 일부 회계사는 그들의 분석 근육이 마비될 수 있다고 우려했습니다. 대신, 스프레드시트 소프트웨어는 새로운 기준이 되었습니다. 정확성의 바닥을 높였습니다. 헬스케어는 유사한 도약이 필요합니다. 우리는 치료의 변동으로 너무 많은 환자를 잃습니다. 의료 오류는 여전히 부상과 사망의 주요 원인입니다. GenAI의 초능력은 지침을 표면화하고, 반대되는 것을 강조하고, 이상을 더 빠르게 표면화함으로써 오차 막대를 좁히는 것입니다. 그러나 그것은 자율적인 의사 결정자가 아닌, 조수로 남아야 합니다. 특히 다음 3-5년 창에서.

그래서, 두려움은 유효하지만, 그것은 해결 가능합니다. 투명한 데이터 세트, 감사 트레일, 인간-루프 체크포인트는 “AI 침식”을 “AI 강화”로 전환합니다. 임상의에게 추적 가능한 추천과 명확한 책임을 줄 때, 57%는 사라집니다. 그것은 전문 지식을 대체하는 것이 아닙니다. 그것은 더好的 도구로 강화하는 것입니다.

응답자의 18%만이 조직에서 분명한 GenAI 정책을 알고 있다고 말합니다. GenAI 도구를 그런 거버넌스가 없이 배치하는 잠재적인 위험은 무엇인가요?

신규 약물을 도징 라벨 없이 출시하는 것과 같습니다. 헬스케어 데이터는 매우 민감하며, GenAI 모델은 보호된 건강 정보(Protected Health Information, PHI)가 풍부한 컨텍스트를 흡수할 때만 더智能해집니다. 엄격한 데이터 관리 정책이 없으면, 조직은 개인 정보 보호 위반의 헤드라인을 만들 수 있는 클립보드 스냅샷에서 한 걸음만 거리납니다.

책임은 다음 지雷입니다. 알고리즘이 반대되는 용량을 상상할 때,誰가 불법 청구서를 지불합니까? 벤더, 병원, 또는 버튼을 누른 임상의吗? 현재, 그答案은 모호합니다. 벤더, 병원, 또는 임상의가 책임을 지는지에 대한 명확한 규칙이 없기 때문입니다. 법률 전문가는 깊은 주머니를 기본으로 하며, 이러한 불확실성만으로도 혁신을 지연시킬 수 있습니다.

거버넌스는 또한 더 미묘한 위험을 막습니다. 모델 드리프트와 조용한 편향에 대한 정책이 없으면, 온코로지 봇은 지난 분기 지침에 따라 훈련될 수 있으며,Quietly 날짜가 지날 수 있으며, 치료를 증거 기반 레일에서 벗어날 수 있습니다. 버전 관리, 결과 모니터링, 일몰 트리거를 명시하는 정책은 알고리즘이 안전성 위험으로 노화되는 것을 막습니다.

마지막으로, 신뢰가 위험에 처합니다. 임상의들은 GenAI에 대한 과도한 의존이 임상 판단을 침식할 수 있다고 우려합니다. 불투명한 도구를 롤아웃하면, 그 두려움을 확인합니다. 명확한 거버넌스, 데이터 계보에 대한 투명성, 검증 프로토콜, 인간-루프 체크포인트는 “블랙 박스” 불안을 신뢰로 전환합니다. AI는 임상의의 조수입니다. 로그 레지던트가 아닙니다.

Wolters Kluwer와 수술실에서 일하면서, 헬스케어에서 GenAI의 가장 현실적인 근미래 사용 사례는 무엇이라고 생각하세요?

로봇 외과 의사를 잊어버리세요. 향후 3년 동안, GenAI의 킬러 기회는 행정적 파괴입니다. 이미 두 개의 레인은 자신을 입증하고 있습니다:

1. 프론트-오브-하우스 노트-테이킹. 앰비언트 리스닝 툴은 의사가 환자와 대화하는 동안 진행 노트를 초안으로 작성한 다음 전자 건강 기록(EHR)에 직접 떨어뜨립니다. 우리의 설문조사에 따르면, 41%의 응답자는 이것을 GenAI 위시 목록에 넣었으며, 기술은 이미 초기 채택자 건강 시스템에서 라이브입니다. 여러 연구에 따르면, 앰비언트 독음 시스템은 인지 부하를 51% 줄이고, 밤에 “파자마 시간”을 60% 이상 줄일 수 있습니다. 이것은 어려운 ROI입니다. 당신은 그것을 빠르게 느낄 수 있습니다.
2. 백-오피스 수익 보호. 다음 도미노는 이전 승인 패킷, 거절 항소서, 및 기타 수익 주기 슬러지입니다. 참고로, 67%의 리더는 이전 승인이 생산성을 조르는 것이라고 말하며, 62%는 EHR 관리 드래그를 호출합니다. 차트를 읽고 이러한 양식을 자동으로 채우는 대형 언어 모델은 이미 청구서를 며칠 단축하고, 더 가치 있는 작업을 위해 직원을 해방시킵니다.

왜 이 두 가지일까요? 그것은 낮은 임상 위험, 높은 근로자 구제, 및 명확한 달러-센트 정당성을 맞 춥니다. 68%의幹部가 직원 비용을 최상위 재정적 압력으로 꼽는 시장에서, 근로자를 해방시키는 도구는 변경하지 않고 치료 계획을 제공합니다. 자율적인 진단은 나중에 올 것입니다. 현재, GenAI는 클립보드를 사라지게 함으로써 그 가치를 증명합니다.

설문조사에 따르면, 데이터가 최상위 위험으로 꼽히지 않는다는 사실이 놀랍습니다. 임상의와 관리자가 더 긴급한 위험으로 본 것은 무엇입니까?

저도 놀랐습니다. 헤드라인은 HIPAA 침해가 모든 병원 CIO를 밤에 깨어 있게 한다고 말합니다. 그러나 우리의 데이터는 전문가의 56%만이 개인 정보 보호를 최상위 GenAI 위험으로 꼽으며, 57%의 더 큰 조각이 “임상 판단을 둔화”하는 것을 우려한다고 보여줍니다. 그것은 전선의 두려움이 해커가 아니라 책임이라는 것을 의미합니다.

임상의와 관리자가 가장 우려하는 사항은 다음과 같습니다:

• 책임 룰렛. 알고리즘이 치료를 잘못된 방향으로 밀어붙일 때,誰가 불법 청구서를 지불합니까? 명확한 규정과 표준이 부족한 경우, 법률 전문가는 가장 깊은 주머니를 기본으로 하며, 이는 실제적인 불안을 유발합니다.
• 규제 후끈. 76%의 리더는 이미 메디케어와 메디케이드 규칙의 변화를 두려워하며, 불투명한 GenAI를 추가하면 규제 사무실에서 열광이 죽습니다.
• 모델 드리프트와 편향. 55%의 응답자는 모델이 훈련되지 않은 경우 편향이 임상 위험을 유발할 수 있다고 말하며, 구식 데이터는 결측 데이터와 마찬가지로 위험할 수 있습니다.

간단히 말해, 대부분의 조직은 방화벽이 괜찮다고 가정하지만, 대형 언어 모델(LLM)의 출력이 치료 계획에 포함될 때, 명확한 책임 사슬이 없다는 것을 알지 못합니다. 거버넌스 프레임워크가 소유권, 감사 트레일, 업데이트 카덴스를 명시할 때까지, GenAI 론아웃은 보안 스택이 얼마나 긴밀하든 간에 중단됩니다.

GenAI 도구가 궁극적으로 임상의의 자율성을 강화할지, 또는 약화시킬지 생각하세요. 임상의의 자율성을 넘어서지 않으면서 의사 결정 지원을 제공하는 시스템을 설계하는 방법은 무엇인가요?

GenAI는 임상의의 자율성을 확대할 것입니다. 현재, 임상의의 자율성은 인박스 정리, 이전 승인 서류 작업, 및 EHR 체조로 인해 방해받고 있습니다. 놀라지 않을 것입니다. 전선 직원은 “워크플로우 최적화”를 GenAI에 대한 최상위 사용 사례로 꼽았으며(80%의 우선순위), 63%만이 기술적으로 준비가 되었다고 생각합니다. 약사와 동료 의료 전문가는 이미 업 사이드를 베팅하고 있습니다. 41%와 47%는 GenAI가 행정적인 지방을 충분히 절단하여 지원 스태프를 줄일 수 있다고 예상합니다. 임상의를 데이터 입력에서 해방시키면 환자와의 대면 시간이 더 많아집니다. 그것은 모두가 원하는 자율성입니다.

그러나 설문조사도 우리에게 임상의의 자율성이 양면이라는 것을 상기시킵니다. 57%의 응답자는 GenAI에 대한 과도한 의존이 임상 판단을 침식할 수 있다고 우려합니다. 해결책은 사고 있는 디자인입니다. 투명한 데이터 세트, 감사 트레일, 인간-루프 체크포인트는 임상의가 최종 판단자가 되도록 합니다. 버전 관리와 배포 후 모니터링은 모델 드리프트를 잡아냅니다. “항상 표시되는 오버라이드” 버튼은 알고리즘이 조수로, 주치의가 아닌 것을 명확히 합니다.

거버넌스는 마지막 마일입니다. 전문가의 18%만이 조직에 발행된 GenAI 정책이 있다고 말합니다. 투명한 책임 사슬이 없으면, даже 최고의 사용자 경험도 법적 지옥에서 중단됩니다. 강력한 정책은 데이터 관리, 감사 트레일, 역할 구분을 명시해야 합니다. 그것은 의사, 간호사, 버튼을 누르는 조무사에게 걸쳐 있습니다. 우리는 워크플로우 네이티브 디자인과 함께 그런 가드레일을 짝지으면, GenAI는 자율성을 위협하는 것이 아니라, 임상의가 원하는 조수로 느껴집니다.

GenAI의 채택을 가장 많이 방해하는 것은 무엇인가요? 기술적 제한, 규제 불확실성, 워크플로우 마찰, 또는 더 깊은 것인文化적 저항인가요?

그것은 실행 부족에 둘러싸여 있는 것입니다. 대부분의 헬스 시스템 리더는 멋진 GenAI 비전을 설명할 수 있지만, 운영 근육은 따라가지 못했습니다. 우리의 설문조사에 따르면, 80%의 응답자는 “워크플로우 최적화”를 최상위 우선순위로 꼽았으며, 63%만이 그것을 GenAI로 수행할 준비가 되었다고 생각합니다. 비전은 싸지만, 통합 엔지니어, 변화 관리 플레이북, GPU 예산은 아닙니다.

거버넌스는 다음 싱크홀입니다. 전문가의 18%만이 병원에서 발행된 GenAI 정책을 알고 있습니다. 명확한 데이터 사용, 검증, 책임 규칙이 없으면, 모든 유망한 파일럿은 규제 수류탄이 될 수 있습니다. 법적 안개는 빠르게 변화하는 국가 및 연방 규정에 의해 증폭됩니다. 실제로, 75%의 리더는 규정의 변화가 해결方案을 뒤엎을 것이라고 우려합니다.

그 다음은 참호 수준의 마찰입니다. 거의 절반의幹部가 더러운 데이터와 EHR 통합의 악몽을 주요 장애물로 꼽으며, 42%만이 GenAI 도구를 기존 워크플로우에 결합하는 프로세스를 가지고 있습니다. 모델이 차트를 볼 수 없거나 클릭을 추가하면, 임상의는 그것을 버립니다.

마지막으로, “파일럿 리무지엄”이 있습니다. 외부 연구에 따르면, AI 파일럿의 성공률은 10분의 1에 불과합니다. 이사회는 데모를 축하하고, 보도 자료를 발행하며, 이동합니다. 후속 플럼빙 작업을 위해 아무도 자금을 지원하지 않습니다. GenAI는 소프트웨어를 이전에 출하한 제품 소유자가 없으면, 파워포인트 약속으로 남을 것입니다.

간단히 말해, 기술과 문화는 별개가 아닙니다. 그것은 융합된 것입니다. 책임 있는 리더십, 실제 통합 예산, 명확한 가드레일을 해결하면, GenAI에 대한 수요는 그 호재를 따라갈 것입니다.

당신은 실용적이고, 증거 기반의 결과를 가진 AI 시스템을 구축했습니다. 헬스케어 리더가 과장과 실제 가치 있는 AI 투자를 구별하기 위해 조언하려면, 무엇을 말할 것인가요?

진단부터 시작하세요, 데모가 아니라. 도구가 필요한지 전에, 고통을 정량화하세요: 수술실 이용률이 2분기에 8% 낮았나요? 거절 항소가 지연되고 수익을 유출하고 있나요? 간호 단위 3이 EHR “토글 시간”에 2시간을 보내고 있나요? 고통이 명확하면, 올바른 도구가 자발적으로 나타납니다. 윌리엄 오슬러 경이 의료 커뮤니티에 몇 세대 전에 상기시킨 대로, “환자를 들어보세요; 환자는 당신에게 진단을 알려줄 것입니다.”

문제가 명확하면, 비즈니스 케이스를 재무 담당자처럼 심문하세요: 기준 메트릭, 예상 델타, 및 보상 기간이 이사회 테스트를 살아남습니다. 약 10분의 1의 AI 파일럿만이 기업 규모에 도달합니다. 벤더가 관심 있는 KPI를 이동한 라이브 고객을 보여줄 수 없으면, 계속 걸어갑니다.

다음으로, 구매, 구축, 또는 파트너십을 결정하세요. 구매는 시간-투-가치를 가속화할 수 있지만, 버려진 단어로 된 버퍼웨어에 주의하세요. 구축하면 제어를 제공하지만, 이전에 생산용 머신 러닝을 출하한 호랑이와 같은 수익 및 손실 소유자가 필요합니다. 하이브리드 파트너십은 종종 균형을 맞춥니다: 귀하의 데이터, 그들의 모델, 공유 상승, 공유 위험.

마지막으로, 작은, 크로스-기능적인 팀에 우선순위를 두세요. CMO, CIO, 데이터 엔지니어링 책임자, 및 전선 챔피언을 포함하는 2개의 피자 스쿼드를 생각하세요. 그들의 인센티브를 다년간의 결과 목표에 맞추고, 프로젝트가 파일럿 단계를 넘어 진행할 수 있도록 전용 인프라 예산(GPU, 데이터 엔지니어링, MLOps)을 제공합니다.

마지막으로, 앞으로 다가올 미래를 내다보며, 병원 환경에서 완전히 통합된 GenAI 시스템이 5년 후에 어떻게 보일지 상상해 보세요. 거기에 도달하기 위해 우리가 달성해야 할 주요 이정표는 무엇인가요?

의사가 키보드로 돌아가지 않는 클리닉으로 들어가는 것을 상상해 보세요. 대화가 흐르고, 앰비언트 리스닝 에이전트가 대화를 캡처하고, 지침 기반 주문을 큐하고, 이전 승인 패킷을 생성하기 전에 의사의 손이 문고리를 잡습니다. 초기 파일럿은 이미 이 개념을 입증하고 있으며, 41%의 임상의가 이것이 다음 GenAI 기능이라고 말합니다. 우리의 설문조사에 따르면.

그 장면을 가능하게 하는 것은 로봇 외과 의사가 아닙니다. 그것은 투명한 아키텍처입니다. 그것은 깨끗하고 상호 운용 가능한 데이터와 실시간 오케스트레이션 레이어 및 “거버넌스-어스-코드”를 융합합니다. 우리는 여전히 과제를 가지고 있습니다. 격차를 메우기 위해, 데이터 플럼빙부터 생각하세요. 거기에 가드레일을 삽입하세요(볼트 온이 아님). 하이프를 현실로 전환합니다.

이정표는 기초가 설정되면 자연스럽게 발생합니다. 1년차에는 데이터 패브릭을 연결하고, 기업 전체 GenAI 지침을 발행하고, MLOps 파이프라인을 구축하는 것이 중요합니다. 2년차에는 앰불러토리 클리닉에서 앰비언트 문서화를 확장하고, 문서화 시간과 밤에 “파자마 시간”을 측정합니다. 3년차에는 GenAI가 거절 항소와 이전 승인 패킷을 초안으로 작성합니다(67%의 리더가 그 부담이 제거될 준비가 되었다고 말합니다). 4년과 5년차에는 실시간 임상 의사 결정 지원으로 진화하고, 궁극적으로 시스템이 발화를 즉시 실행하는 대화 기반 치료 계획을 제공합니다.

그레이트 인터뷰에 감사합니다. 더 많은 것을 배우고 싶은 독자는 Wolters Kluwer를 방문하거나 Future Ready Healthcare Survey Report를 읽어야 합니다.