Matthew Crowson, MD, Director of AI/GenAI Product Management at Wolters Kluwer Health – 인터뷰 시리즈

Dr. Matt Crowson은 의료 기술 리더이자 외과 의사로서 임상 실습에 AI를 적용하는 데 중점을 두고 있습니다. 그는 Wolters Kluwer (WKL.SW ) Health의 AI/Generative AI 제품 책임자로서 증거 합성 및 실제 데이터 분석을 개선하기 위한 이니셔티브를 주도합니다. 이전에는 그는 Deloitte의 헬스케어 제공자 AI 실무를 이끌었으며 문서화, 수익 주기 및 연구를 강화하기 위한 생성 AI 솔루션을 개발했습니다. 그는 또한 하버드 의과대학의 조교수로 재직하며 90개 이상의 동료 심사 논문을 저술했습니다.

Wolters Kluwer는 전문 정보, 소프트웨어 및 서비스의 글로벌 제공업체로서 헬스케어, 세금 및 회계, 법률 및 규제, 금융 규정 준수 및 ESG 분야의 고객을 지원합니다. 네덜란드에 본사를 둔 이 회사는 산업 전문 지식과 고급 기술을 활용하여 워크플로우를 간소화하고, 규정 준수를 보장하며, 임계적인 의사 결정 지원을 제공하는 도구를 제공합니다. 그들의 운영은 180개 이상의 국가에 걸쳐 있으며, 헬스, 세금 및 회계, 법률 및 규제, 금융 및 기업 규정 준수, 기업 성과 및 ESG와 같은 부문으로 조직됩니다.

개인적인 질문부터 시작해 보겠습니다. 외과 의사와 AI 제품 리더로서의 두 가지 역할을 어떻게 균형을 맞추나요? 임상 작업이 헬스케어에서 AI에 대한 당신의 견해를 형성했나요?

솔직히 말하면 철저한 시간 배분과 산업용 수준의 커피 머신에서 시작합니다. 오전 진료는 환자 돌봄 감각을 유지하게 해 주고, 나머지 시간에는 현장의 고충을 제품 사양으로 바꿉니다. 두 역할은 서로에게 동력이 됩니다. 레지던트가 타이레놀 하나를 처방하려고 화면 열 개를 넘기는 모습을 보는 것만으로도 필요한 시장 조사는 충분합니다.

그 고충을 직접 겪은 사람이 아무도 없을 때 AI 프로젝트는 실패합니다. Future Ready Healthcare Survey에 따르면 리더의 80%가 워크플로 최적화를 최우선 과제로 꼽지만, 생성형 AI로 이를 수행할 준비가 됐다고 답한 비율은 63%에 그쳤습니다. 도메인 전문가는 코드 한 줄을 작성하기 전에 임상 현장에서 올바른 “왜”를 물음으로써 이 전략과 실행의 격차를 좁힐 수 있습니다.

임상 렌즈는 또한 임무를 실제로 유지합니다. 전선 직원들은 직원 부족(82%), 행정 오버헤드(77%), 그리고 번아웃(76%)를 해결하는 것을 최상위 명령으로 बत았습니다. 알고리즘이 그 중 하나를 움직이지 않는다면, 그것은 그냥 연극입니다. 임상의들은 빠르게 관심을 잃습니다.

그 렌즈는 또한 AI가 어디서 -roam해서는 안 되는지에 대해 주의를 환기시킵니다. 실제로 57%의 전문가가 GenAI에 대한 과도한 의존이 임상 판단을 침식할 수 있다고 우려하지만, 18%만이 조직이 가드레일을 발행했다고 말합니다. 거버넌스가 따라잡을 때까지, 명령은 명확합니다: 문서 작업을 자동화하십시오. 생각은 아닙니다.

그래서 제게 균형은 커피와 일정 사이의 선택이 아닙니다. 한 발은 진료 현장에 두어 AI가 누구를 위해 존재해야 하는지 잊지 않고, 다른 한 발은 제품에 두어 그 지식이 실제 기능으로 출시되게 하는 것입니다. 이를 잘 해내면 카페인은 그저 반가운 보너스일 뿐입니다.

Wolters Kluwer의 Future Ready Healthcare Survey Report는 GenAI에 대한 열광과 실행 사이의 강한 격차를 강조합니다. 조사 결과 중 어떤 것이 가장 놀라웠나요? 무엇이 가장 인상 깊었나요?

전혀 놀랍지 않았습니다. 아직 절반만 자동화된 진료 현장은 본 적이 없습니다. 도입을 늦추는 것은 AI에 대한 두려움보다 의료 운영의 일상적인 고충입니다. 설문조사는 이를 수치로 보여 줍니다. 리더 10명 중 8명은 워크플로 최적화를 최우선 과제로 꼽았지만, 생성형 AI로 이를 수행할 준비가 됐다고 본 비율은 63%뿐입니다. 제가 현장에서 본 전략과 실행의 격차도 같습니다. 책임 소재라는 지뢰, 데이터 레이크보다 정리 안 된 서랍에 가까운 데이터, 효율성보다 처리량을 보상하는 재정적 유인이 있습니다. 교육 공백, 섀도 IT 피로, 규제 불확실성 같은 장애물도 있습니다.

가장 인상 깊었던 점은 장애물이 매우 일상적이라는 사실입니다. 인력 부족과 행정 부담, 번아웃이 우려 목록을 지배하지만 공식 생성형 AI 정책을 갖춘 조직은 18%에 불과합니다. 모델을 누가 승인하고, 결과를 어떻게 감사하며, 데이터가 어디에 저장되는지에 관한 규칙이 없으면 열의는 규정 준수 부서에서 사라집니다. 응답자의 68%가 인건비를 가장 큰 재정 압박으로 꼽았으므로, 경영진이 또 다른 소프트웨어 비용을 승인하기 전에 투자수익률의 증거를 요구하는 것도 당연합니다. 핵심은 “AI 공포”가 아니라 “좋은 아이디어입니다. 워크플로와 사업성을 보여 주세요”입니다.

조사된 헬스케어 전문가 중 절반이 GenAI가 임상 의사 결정 능력을 침식할 수 있다고 우려합니다. 이 두려움이 유효한지, 또는 더 깊은 우려를 반영하는지 생각하세요. 그것은 신뢰와 투명성에 대한 우려를 반영합니까?

불안 중 일부는 타당하지만, HAL 9000 같은 폭주 AI에 대한 공상과학적 두려움보다는 평범한 책임 문제와 더 관련이 있습니다. 도구가 몇 초 만에 감별 진단을 제시한다면 출처가 매우 명확해야 합니다. 권고안은 어디에서 나왔고, 누가 승인하며, 어떻게 감사할 수 있습니까? 현재, 조직의 소수만이 공식적인 GenAI 거버넌스를 가지고 있으므로 임상의들은 주의를 기울입니다. 그것은 데이터로 나타나며, 57%는 “과도한 의존이 판단을 침식할 수 있다”고 말합니다. 그것은 그들이 라이센스를 연습하는 데.black box가 침입하지 않기를 원한다는 신호입니다.

저는 그것을 역사적인 렌즈를 통해 본다. 금융 부서에 스프레드시트가 도착했을 때, 일부 회계사는 그들의 분석 근육이 마비될 수 있다고 우려했습니다. 대신, 스프레드시트 소프트웨어는 새로운 기준이 되었습니다. 정확성의 바닥을 높였습니다. 헬스케어는 유사한 도약이 필요합니다. 우리는 치료의 변동으로 너무 많은 환자를 잃습니다. 의료 오류는 여전히 부상과 사망의 주요 원인입니다. GenAI의 초능력은 지침을 표면화하고, 반대되는 것을 강조하고, 이상을 더 빠르게 표면화함으로써 오차 막대를 좁히는 것입니다. 그러나 그것은 자율적인 의사 결정자가 아닌, 조수로 남아야 합니다. 특히 다음 3-5년 창에서.

그래서, 두려움은 유효하지만, 그것은 해결 가능합니다. 투명한 데이터 세트, 감사 트레일, 인간-루프 체크포인트는 “AI 침식”을 “AI 강화”로 전환합니다. 임상의에게 추적 가능한 추천과 명확한 책임을 줄 때, 57%는 사라집니다. 그것은 전문 지식을 대체하는 것이 아닙니다. 그것은 더 좋은 도구로 강화하는 것입니다.

응답자의 18%만이 조직에서 분명한 GenAI 정책을 알고 있다고 말합니다. GenAI 도구를 그런 거버넌스가 없이 배치하는 잠재적인 위험은 무엇인가요?

이는 용량 표시 없이 신약을 출시하는 것과 같습니다. 의료 데이터는 매우 민감하며 생성형 AI 모델은 보호 건강 정보(PHI)가 풍부한 맥락을 흡수할 때 더 똑똑해집니다. 누가 정보를 업로드할 수 있고, 데이터가 어떻게 기록되며, 어디에 저장되는지를 관리하는 엄격한 데이터 정책이 없다면 조직은 클립보드 화면 캡처 하나로도 대서특필될 개인정보 침해를 일으킬 수 있습니다.

책임은 또 다른 지뢰입니다. 알고리즘이 금기 용량을 환각하면 누가 의료 과실 배상 책임을 져야 합니까? 공급업체입니까, 병원입니까, 아니면 “승인” 버튼을 누른 임상의입니까? 현재는 조직 다섯 곳 중 한 곳도 생성형 AI의 운영 규칙을 명문화하지 못했기 때문에 답이 모호합니다. 공백이 생기면 법률가는 보통 가장 배상 능력이 큰 주체를 향하며, 이런 불확실성만으로도 혁신이 멈출 수 있습니다.

거버넌스는 또한 더 미묘한 위험을 막습니다. 모델 드리프트와 조용한 편향에 대한 정책이 없으면, 온코로지 봇은 지난 분기 지침에 따라 훈련될 수 있으며,Quietly 날짜가 지날 수 있으며, 치료를 증거 기반 레일에서 벗어날 수 있습니다. 버전 관리, 결과 모니터링, 일몰 트리거를 명시하는 정책은 알고리즘이 안전성 위험으로 노화되는 것을 막습니다.

마지막으로, 신뢰가 위험에 처합니다. 임상의들은 GenAI에 대한 과도한 의존이 임상 판단을 침식할 수 있다고 우려합니다. 불투명한 도구를 롤아웃하면, 그 두려움을 확인합니다. 명확한 거버넌스, 데이터 계보에 대한 투명성, 검증 프로토콜, 인간-루프 체크포인트는 “블랙 박스” 불안을 신뢰로 전환합니다. AI는 임상의의 조수입니다. 로그 레지던트가 아닙니다.

Wolters Kluwer와 수술실에서 일하면서, 헬스케어에서 GenAI의 가장 현실적인 근미래 사용 사례는 무엇이라고 생각하세요?

로봇 외과 의사를 잊어버리세요. 향후 3년 동안, GenAI의 킬러 기회는 행정적 파괴입니다. 이미 두 개의 레인은 자신을 입증하고 있습니다:

1. 프론트-오브-하우스 노트-테이킹. 앰비언트 리스닝 툴은 의사가 환자와 대화하는 동안 진행 노트를 초안으로 작성한 다음 전자 건강 기록(EHR)에 직접 떨어뜨립니다. 우리의 설문조사에 따르면, 41%의 응답자는 이것을 GenAI 위시 목록에 넣었으며, 기술은 이미 초기 채택자 건강 시스템에서 라이브입니다. 여러 연구에 따르면, 앰비언트 독음 시스템은 인지 부하를 51% 줄이고, 밤에 “파자마 시간”을 60% 이상 줄일 수 있습니다. 이것은 어려운 ROI입니다. 당신은 그것을 빠르게 느낄 수 있습니다.
2. 백-오피스 수익 보호. 다음 도미노는 이전 승인 패킷, 거절 항소서, 및 기타 수익 주기 슬러지입니다. 참고로, 67%의 리더는 이전 승인이 생산성을 조르는 것이라고 말하며, 62%는 EHR 관리 드래그를 호출합니다. 차트를 읽고 이러한 양식을 자동으로 채우는 대형 언어 모델은 이미 청구서를 며칠 단축하고, 더 가치 있는 작업을 위해 직원을 해방시킵니다.

왜 이 두 가지일까요? 그것은 낮은 임상 위험, 높은 근로자 구제, 및 명확한 달러-센트 정당성을 모두 충족합니다. 경영진의 68%가 인건비를 가장 큰 재정 압박으로 꼽는 시장에서, 치료 계획을 바꾸지 않으면서 직원에게 시간을 돌려주는 도구는 가장 쉽게 승인받을 수 있습니다. 자율 진단은 나중의 일입니다. 지금 생성형 AI는 클립보드를 없애는 것으로 가치를 입증합니다.

설문조사에 따르면, 데이터가 최상위 위험으로 꼽히지 않는다는 사실이 놀랍습니다. 임상의와 관리자가 더 긴급한 위험으로 본 것은 무엇입니까?

저도 놀랐습니다. 헤드라인은 HIPAA 침해가 모든 병원 CIO를 밤에 깨어 있게 한다고 말합니다. 그러나 우리의 데이터는 전문가의 56%만이 개인 정보 보호를 최상위 GenAI 위험으로 꼽으며, 57%의 더 큰 조각이 “임상 판단을 둔화”하는 것을 우려한다고 보여줍니다. 그것은 전선의 두려움이 해커가 아니라 책임이라는 것을 의미합니다.

임상의와 관리자가 가장 우려하는 사항은 다음과 같습니다:

• 책임 룰렛. 알고리즘이 치료를 잘못된 방향으로 밀어붙일 때, 누가 불법 청구서를 지불합니까? 명확한 규정과 표준이 부족한 경우, 법률 전문가는 가장 깊은 주머니를 기본으로 하며, 이는 실제적인 불안을 유발합니다.
• 규제 후끈. 76%의 리더는 이미 메디케어와 메디케이드 규칙의 변화를 두려워하며, 불투명한 GenAI를 추가하면 규제 사무실에서 열광이 죽습니다.
• 모델 드리프트와 편향. 55%의 응답자는 모델이 훈련되지 않은 경우 편향이 임상 위험을 유발할 수 있다고 말하며, 구식 데이터는 결측 데이터와 마찬가지로 위험할 수 있습니다.

간단히 말해, 대부분의 조직은 방화벽이 괜찮다고 가정하지만, 대형 언어 모델(LLM)의 출력이 치료 계획에 포함될 때, 명확한 책임 사슬이 없다는 것을 알지 못합니다. 거버넌스 프레임워크가 소유권, 감사 트레일, 업데이트 카덴스를 명시할 때까지, GenAI 론아웃은 보안 스택이 얼마나 긴밀하든 간에 중단됩니다.

GenAI 도구가 궁극적으로 임상의의 자율성을 강화할지, 또는 약화시킬지 생각하세요. 임상의의 자율성을 넘어서지 않으면서 의사 결정 지원을 제공하는 시스템을 설계하는 방법은 무엇인가요?

GenAI는 임상의의 자율성을 확대할 것입니다. 현재, 임상의의 자율성은 인박스 정리, 이전 승인 서류 작업, 및 EHR 체조로 인해 방해받고 있습니다. 놀라지 않을 것입니다. 전선 직원은 “워크플로우 최적화”를 GenAI에 대한 최상위 사용 사례로 꼽았으며(80%의 우선순위), 63%만이 기술적으로 준비가 되었다고 생각합니다. 약사와 동료 의료 전문가는 이미 업 사이드를 베팅하고 있습니다. 41%와 47%는 GenAI가 행정적인 지방을 충분히 절단하여 지원 스태프를 줄일 수 있다고 예상합니다. 임상의를 데이터 입력에서 해방시키면 환자와의 대면 시간이 더 많아집니다. 그것은 모두가 원하는 자율성입니다.

그러나 설문조사도 우리에게 임상의의 자율성이 양면이라는 것을 상기시킵니다. 57%의 응답자는 GenAI에 대한 과도한 의존이 임상 판단을 침식할 수 있다고 우려합니다. 해결책은 사고 있는 디자인입니다. 투명한 데이터 세트, 감사 트레일, 인간-루프 체크포인트는 임상의가 최종 판단자가 되도록 합니다. 버전 관리와 배포 후 모니터링은 모델 드리프트를 잡아냅니다. “항상 표시되는 오버라이드” 버튼은 알고리즘이 조수로, 주치의가 아닌 것을 명확히 합니다.

거버넌스는 마지막 마일입니다. 전문가의 18%만이 조직에 발행된 GenAI 정책이 있다고 말합니다. 투명한 책임 사슬이 없으면, даже 최고의 사용자 경험도 법적 지옥에서 중단됩니다. 강력한 정책은 데이터 관리, 감사 트레일, 역할 구분을 명시해야 합니다. 그것은 의사, 간호사, 버튼을 누르는 조무사에게 걸쳐 있습니다. 우리는 워크플로우 네이티브 디자인과 함께 그런 가드레일을 짝지으면, GenAI는 자율성을 위협하는 것이 아니라, 임상의가 원하는 조수로 느껴집니다.

생성형 AI 도입을 가장 크게 가로막는 것은 무엇입니까? 기술적 한계, 규제 불확실성, 워크플로 마찰입니까, 아니면 그보다 깊은 문화적 저항입니까?

그것은 실행 부족에 둘러싸여 있는 것입니다. 대부분의 헬스 시스템 리더는 멋진 GenAI 비전을 설명할 수 있지만, 운영 근육은 따라가지 못했습니다. 우리의 설문조사에 따르면, 80%의 응답자는 “워크플로우 최적화”를 최상위 우선순위로 꼽았으며, 63%만이 그것을 GenAI로 수행할 준비가 되었다고 생각합니다. 비전은 싸지만, 통합 엔지니어, 변화 관리 플레이북, GPU 예산은 아닙니다.

거버넌스는 다음 함정입니다. 병원이 공식 생성형 AI 정책을 발표했다고 알고 있는 전문가는 18%뿐입니다. 데이터 사용과 검증, 책임에 관한 명확한 규칙이 없다면 유망한 시범 사업도 규제 위험으로 바뀔 수 있습니다. 빠르게 변하는 주와 연방 규정은 법적 불확실성을 더 키웁니다. 실제로 리더의 75%는 규정 변화가 솔루션을 무력화할 수 있다고 우려합니다.

다음은 현장 수준의 마찰입니다. 경영진의 거의 절반이 정리되지 않은 데이터와 EHR 통합 문제를 주요 장애물로 꼽고 있으며, 생성형 AI 도구를 기존 워크플로에 결합하는 절차가 있는 곳은 42%뿐입니다. 모델이 차트를 읽지 못하거나 클릭 수만 늘리면 임상의는 사용을 중단합니다.

마지막으로, “파일럿 리무지엄”이 있습니다. 외부 연구에 따르면, AI 파일럿의 성공률은 10분의 1에 불과합니다. 이사회는 데모를 축하하고, 보도 자료를 발행하며, 이동합니다. 후속 플럼빙 작업을 위해 아무도 자금을 지원하지 않습니다. GenAI는 소프트웨어를 이전에 출하한 제품 소유자가 없으면, 파워포인트 약속으로 남을 것입니다.

간단히 말해, 기술과 문화는 별개가 아닙니다. 그것은 융합된 것입니다. 책임 있는 리더십, 실제 통합 예산, 명확한 가드레일을 해결하면, GenAI에 대한 수요는 그 호재를 따라갈 것입니다.

당신은 실용적이고, 증거 기반의 결과를 가진 AI 시스템을 구축했습니다. 헬스케어 리더가 과장과 실제 가치 있는 AI 투자를 구별하기 위해 조언하려면, 무엇을 말할 것인가요?

진단부터 시작하세요, 데모가 아니라. 도구가 필요한지 전에, 고통을 정량화하세요: 수술실 이용률이 2분기에 8% 낮았나요? 거절 항소가 지연되고 수익을 유출하고 있나요? 간호 단위 3이 EHR “토글 시간”에 2시간을 보내고 있나요? 고통이 명확하면, 올바른 도구가 자발적으로 나타납니다. 윌리엄 오슬러 경이 의료 커뮤니티에 몇 세대 전에 상기시킨 대로, “환자를 들어보세요; 환자는 당신에게 진단을 알려줄 것입니다.”

문제가 명확하면, 비즈니스 케이스를 재무 담당자처럼 심문하세요: 기준 메트릭, 예상 델타, 및 보상 기간이 이사회 테스트를 살아남습니다. 약 10분의 1의 AI 파일럿만이 기업 규모에 도달합니다. 벤더가 관심 있는 KPI를 이동한 라이브 고객을 보여줄 수 없으면, 계속 걸어갑니다.

다음으로, 구매, 구축, 또는 파트너십을 결정하세요. 구매는 시간-투-가치를 가속화할 수 있지만, 버려진 단어로 된 버퍼웨어에 주의하세요. 구축하면 제어를 제공하지만, 이전에 생산용 머신 러닝을 출하한 호랑이와 같은 수익 및 손실 소유자가 필요합니다. 하이브리드 파트너십은 종종 균형을 맞춥니다: 귀하의 데이터, 그들의 모델, 공유 상승, 공유 위험.

마지막으로, 작은, 크로스-기능적인 팀에 우선순위를 두세요. CMO, CIO, 데이터 엔지니어링 책임자, 및 전선 챔피언을 포함하는 2개의 피자 스쿼드를 생각하세요. 그들의 인센티브를 다년간의 결과 목표에 맞추고, 프로젝트가 파일럿 단계를 넘어 진행할 수 있도록 전용 인프라 예산(GPU, 데이터 엔지니어링, MLOps)을 제공합니다.

마지막으로, 앞으로 다가올 미래를 내다보며, 병원 환경에서 완전히 통합된 GenAI 시스템이 5년 후에 어떻게 보일지 상상해 보세요. 거기에 도달하기 위해 우리가 달성해야 할 주요 이정표는 무엇인가요?

의사가 키보드로 돌아가지 않는 클리닉으로 들어가는 것을 상상해 보세요. 대화가 흐르고, 앰비언트 리스닝 에이전트가 대화를 캡처하고, 지침 기반 주문을 큐하고, 이전 승인 패킷을 생성하기 전에 의사의 손이 문고리를 잡습니다. 초기 파일럿은 이미 이 개념을 입증하고 있으며, 41%의 임상의가 이것이 다음 GenAI 기능이라고 말합니다. 우리의 설문조사에 따르면.

그 장면을 가능하게 하는 것은 로봇 외과 의사가 아닙니다. 그것은 투명한 아키텍처입니다. 그것은 깨끗하고 상호 운용 가능한 데이터와 실시간 오케스트레이션 레이어 및 “거버넌스-어스-코드”를 융합합니다. 우리는 여전히 과제를 가지고 있습니다. 격차를 메우기 위해, 데이터 플럼빙부터 생각하세요. 거기에 가드레일을 삽입하세요(볼트 온이 아님). 하이프를 현실로 전환합니다.

이정표는 기초가 설정되면 자연스럽게 발생합니다. 1년차에는 데이터 패브릭을 연결하고, 기업 전체 GenAI 지침을 발행하고, MLOps 파이프라인을 구축하는 것이 중요합니다. 2년차에는 앰불러토리 클리닉에서 앰비언트 문서화를 확장하고, 문서화 시간과 밤에 “파자마 시간”을 측정합니다. 3년차에는 GenAI가 거절 항소와 이전 승인 패킷을 초안으로 작성합니다(67%의 리더가 그 부담이 제거될 준비가 되었다고 말합니다). 4년과 5년차에는 실시간 임상 의사 결정 지원으로 진화하고, 궁극적으로 시스템이 발화를 즉시 실행하는 대화 기반 치료 계획을 제공합니다.

그레이트 인터뷰에 감사합니다. 더 많은 것을 배우고 싶은 독자는 Wolters Kluwer를 방문하거나 Future Ready Healthcare Survey Report를 읽어야 합니다.