병원이 인공지능을 채택하기 전에 이해하지 못한 것

병원이 인공지능을 도입한 것은 한 번의 의도적인 결정으로 이뤄진 일이 아니다. 영상 분석 알고리즘, 기록 작성 보조도구, 인력 수요 예측, 환자 메시지 생성기, 보험금 청구 거절 예측 모델, 일정 관리 도구처럼 조각조각 들어왔다. 각 제품은 다른 부서를 통해 도입됐고 서로 다른 필요와 예산에 따라 평가됐다.

이처럼 분산된 경로 때문에 도입은 관리하기 쉬운 일처럼 느껴졌다. 동시에 병원이 실제로 무엇을 받아들이고 있는지는 가려졌다.

AI 제품은 단순한 소프트웨어 애플리케이션이 아니다. 판단에 영향을 주고, 업무를 재분배하고, 책임 구조를 바꾸고, 변화하는 데이터에서 학습하며, 사후에 생성 과정을 재구성하기 어려운 결과를 낼 수 있는 시스템이다. 병원은 이런 영향을 이해하는 데 필요한 조직 차원의 공통 언어, 거버넌스, 운영 규율을 갖추기 전에 기능부터 구매한 경우가 많았다.

의료기관과 긴밀하게 일하면서 내가 본 AI 도입의 가장 어려운 부분은 대개 모델 자체가 아니었다. AI를 전제로 설계되지 않은 업무 흐름에 기술이 들어오고, 그 결과에 어느 정도의 신뢰·권한·책임을 부여할지 사람들이 결정해야 하는 순간부터 어려움이 시작됐다.

이는 도입에 반대하는 주장이 아니다. 의료에는 더 나은 도구가 필요하며 AI는 이미 실제 가치를 만들고 있다. 도입을 더 성숙하게 정의하자는 주장이다. 조달에서 끝나는 것이 아니라 조달 이후에 시작하는 과정으로 봐야 한다.

AI는 “효율성”이라는 문으로 들어왔다

병원 AI의 초기 도입 근거는 실용적이었다. 행정 업무는 늘고 인력 부담은 커졌으며 의료진은 임상적 판단이 필요하지 않은 일에 너무 많은 시간을 썼다. 이 수요는 더 커졌다. 2026년 미국의사협회는 설문에 응한 의사의 81%가 진료 업무에 AI를 사용한다고 보고했다. 2023년 비율의 두 배가 넘는다.

매력은 이해할 만하다. 병원은 진료 접근성을 높이고, 소진을 줄이고, 비용을 관리하고, 정보를 더 빠르게 전달해야 한다. 진료기록 초안을 쓰거나, 대기 업무의 우선순위를 정하거나, 지연을 예측하거나, 의무기록을 요약하는 도구는 제한적인 운영 개선처럼 보일 수 있다.

그러나 AI는 업무 흐름에 들어오면 좀처럼 그 좁은 범위에만 머물지 않는다. 기록 작성 시스템은 무엇이 기록에 남는지를 바꾼다. 우선순위 모델은 어떤 사례를 먼저 보는지 바꾼다. 예측 도구는 인력 배치 결정을 바꾼다. 환자 소통 보조도구는 임상적 의도를 언어로 전달하는 방식을 바꾼다. 처음 목적이 행정 업무여도 운영상의 영향은 진료 제공까지 닿을 수 있다.

따라서 병원이 도입한 것은 효율성만이 아니었다. 결정, 처리 순서, 주의 배분, 책임에 영향을 미치는 새로운 방식도 함께 도입했다.

첫 번째 오해: AI를 기존 소프트웨어처럼 취급한다

전통적인 소프트웨어는 보통 정해진 기능을 안정적으로 수행하는지로 평가한다. AI에는 더 넓은 질문이 필요하다. 어떤 데이터가 모델을 만들었는가? 어디서 성능이 약해지는가? 현장 업무가 시험 환경과 다르면 결과는 어떻게 달라지는가? 누가 결과를 검토하는가? 모델 업데이트 시에는 어떤 일이 일어나는가? 몇 달 뒤 결정에 이의가 제기될 때 어떤 근거가 남아 있는가?

이 질문들은 공식 보건의료 기술 정책에도 포함되기 시작했다. 미국 보건의료정보기술 조정국(ONC)의 HTI-1 규정 은 인증된 보건의료 IT의 예측 알고리즘에 투명성 요건을 도입했다. 사용자가 공정성·적절성·타당성·효과성·안전성을 평가하도록 돕는 정보도 포함한다. 이 표현이 중요한 이유는 시연에서 도구가 작동하는지를 넘어 평가하도록 하기 때문이다.

병원은 이곳에서, 이 환자 집단에, 이 업무 흐름과 조건에서, 결과를 바탕으로 행동할 책임을 맡은 이 사람들과 함께 제대로 작동하는지 알아야 한다.

이는 전혀 다른 조달 질문이다. 기능 목록이나 업체 발표만으로 답할 수 없다.

두 번째 오해: 사람의 감독이 모든 것을 해결한다

“사람이 검토 과정에 참여한다”는 말은 의료 AI에서 안심을 주는 표현이 됐다. 사람이 통제권을 유지하고 기계를 바로잡을 수 있다는 뜻이다. 그러나 실제로 사람의 감독이 의미 있으려면 결과에 의문을 제기할 시간, 권한, 맥락, 명확한 이유가 있어야 한다.

AI 지원 권고를 수백 개 받는 의료진이 하나하나 처음부터 검토하는 것은 아니다. 대량의 대기 업무를 처리하는 직원은 인터페이스가 기본값으로 제시한다는 이유로 권고 우선순위를 받아들일 수 있다. 검토자에게 형식상 모델 판단을 뒤집을 권한이 있어도 그 결과가 나온 이유를 이해할 정보는 없을 수 있다.

세계보건기구의 의료 AI 지침 은 자율성, 책임성, 투명성, 안전, 형평성을 실행의 중심에 둔다. 사람이 마지막 버튼을 누르는 것만으로 이 원칙들이 충족되지는 않는다.

사람의 감독은 운영 기능으로 설계해야 한다. 병원은 어떤 결과를 검토해야 하는지, 검토자가 어떤 근거를 보는지, 언제 상위 책임자에게 넘겨야 하는지, 이견을 어떻게 기록하는지, 검토자가 현실적으로 개입할 수 있는지를 정해야 한다.

퇴원 후 후속 관리 지침을 작성하는 환자 메시지 보조도구를 생각해 보자. 의료진이 승인 책임을 유지하더라도 실질적인 안전장치는 업무 흐름에 달려 있다. 기계가 만든 초안임이 명확히 표시되는가? 검토자는 초안의 근거가 된 임상 자료를 볼 수 있는가? 직원은 경고가 빠지거나 확실성이 과장된 표현을 알아볼 수 있는가? 바쁜 근무 중 승인한 메시지가 나중에 혼란을 낳았다면 사람이 “보내기”를 눌렀다는 사실만으로 책임을 설명할 수 없다. 검토자의 존재만큼 검토 절차의 설계도 중요하다.

세 번째 오해: 검증은 한 번이면 끝난다

많은 조직은 AI를 출시 전에 검증한 뒤 안정된 시스템으로 취급한다. 시험, 승인, 배포, 유지보수라는 기존 도입 방식의 사고다.

AI 성능은 주변 환경이 달라져도 변할 수 있다. 환자 집단, 진료 코드 입력 관행, 임상 기록 방식이 바뀐다. 새 장비가 도입된다. 직원은 도구에 맞춰 행동을 바꾼다. 업체는 모델을 업데이트한다. 데이터 연결이 눈에 띄지 않게 고장 난다. 처음에 허용 가능한 성능을 보인 시스템도 뚜렷한 오류 메시지 없이 신뢰성이 낮아질 수 있다.

NIST AI 위험 관리 프레임워크 는 위험 관리를 거버넌스 수립, 맥락 파악, 측정, 관리로 구성된 전 생애주기의 지속적 활동으로 본다. 병원도 운영에 같은 원칙을 적용해야 한다.

도입 후 모니터링은 가동 시간에만 한정해서는 안 된다. 환자 집단별 성능, 사람이 판단을 변경한 양상, 비정상적인 결과 분포, 업무 지연, 사용자 불만, 후속 단계에서의 수정, 직원이 본래 의도하지 않은 방식으로 의존하는 징후까지 포함해야 한다.

모델은 기술적으로 이용 가능하면서도 운영상으로는 안전하지 않을 수 있다.

네 번째 오해: 규제 허가와 기관의 준비 상태를 혼동한다

미국 식품의약국(FDA)은 AI 기반 의료기기 목록을 관리한다 . 해당되는 시판 전 요건을 충족한 기기들이다. 규제 대상 제품에 중요한 확인 장치이지만 규제 허가와 병원의 준비 상태는 서로 다른 질문에 답한다.

규제기관은 기기가 의도된 용도에 충분히 안전하고 효과적이라고 판단할 수 있다. 그래도 병원은 자체 데이터·인력·인프라·교육·문제 보고 경로·환자 집단이 책임 있는 사용을 뒷받침하는지 별도로 판단해야 한다.

의료기기에 해당하지 않는 AI도 마찬가지다. 보안 검토가 임상적 적절성을 입증하지 않는다. 개인정보 검토가 업무 흐름의 안전성을 입증하지 않는다. 법률 승인이 사용자의 역량을 입증하지 않는다. 성공적인 시범 운영이 조직 전체의 준비 상태를 입증하지 않는다.

병원에는 각 부서가 위험의 한 부분씩만 승인하도록 두는 대신 이 질문들을 함께 다루는 통합 의사결정 과정이 필요하다.

병원이 AI를 도입할 때 실제로 받아들이는 것

성숙한 조직은 모든 AI 도입이 적어도 다섯 가지를 동시에 가져온다는 점을 인식해야 한다.

• 의사결정에 대한 영향: AI가 최종 결정을 하지 않아도 사람들이 무엇을 알아차리고 우선하며 믿는지 바꾼다.
• 데이터 의존성: 시스템은 주변 데이터의 강점, 공백, 편향, 불안정성을 물려받는다.
• 업무 흐름 재설계: 일이 사람·시스템·부서 사이에서 이동하며 책임 구조가 미묘하게 달라지는 경우가 많다.
• 모니터링 의무: 도입 전 근거로 성능을 가정하는 대신 도입 후에도 관찰해야 한다.
• 신뢰 관계: 환자와 직원은 AI가 어디에 있으며 어떤 역할을 하는지 알아야 한다.

이 넓은 정의는 병원이 AI 도구 수십 개를 도입하고도 준비가 부족하다고 느끼는 이유를 설명한다. 기능은 확보했지만 이를 하나의 전체 구성으로 관리할 연결 체계까지 갖춘 것은 아닐 수 있다.

AI 현황 목록에서 AI 책임 체계로

첫 실천 단계는 또 하나의 전략 문서가 아니라 신뢰할 수 있는 현황 목록이다.

일부 병원은 이미 어디에서 AI가 작동하는지 완전히 파악하지 못한다. 더 큰 플랫폼에 내장돼 있거나 부서별 구매로 들어왔거나 자동화·지능·예측·최적화·의사결정 지원 같은 덜 직접적인 표현으로 설명되기 때문이다.

목록에는 각 시스템의 목적, 영향을 주는 결정, 사용 데이터, 영향을 받는 집단, 업체와 모델 버전, 담당자, 검토 과정, 상위 보고 경로, 승인 근거를 기록해야 한다.

하지만 목록만으로 거버넌스가 되지는 않는다. 각 시스템의 경영진 책임자와 운영 책임자를 명확히 지정할 때 책임 체계가 시작된다. 경영진 책임자는 활용 목적이 계속 적절한지 책임진다. 운영 책임자는 일상 업무에서 시스템이 어떻게 작동하는지 이해하고 실제 상황이 정책과 어긋날 때 알아볼 수 있어야 한다.

새 기준: 확대하기 전에 이해한다

병원은 완벽한 확신이 생길 때까지 모든 AI 사업을 멈출 필요는 없다. 의료에도 기술에도 완벽한 확신은 없다. 다만 열정에 이끌린 확대를 근거에 기반한 확대로 바꿔야 한다.

구체적인 문제에서 시작해 AI의 허용 가능한 역할을 정하고, 현장 환경에서 시험하고, 한계를 문서화하고, 실제 성과를 측정해야 한다. 조직이 이점과 위험을 모두 설명할 수 있을 때만 확대해야 한다.

가장 중요한 질문은 더 이상 “이 도구가 AI를 쓰는가?”가 아니다. 너무 넓어 유용하지 않다. 더 나은 질문은 어떤 판단에 영향을 주는가, 틀리면 어떻게 되는가, 누가 알아차리는가, 누가 멈출 수 있는가, 어떤 근거가 역할 확대를 정당화하는가이다.

최근 WHO의 의료 AI 이해를 위한 정책 안내서 도 과장된 기대를 넘어 안전, 편향, 거버넌스, 규제, 신뢰를 살피는 정보에 근거한 의사결정의 필요성을 비슷하게 설명한다. 병원은 기술팀에 기대하는 것과 같은 수준의 이해 역량을 경영진에게도 기대해야 한다.

진정한 기회는 조직의 학습이다

AI에서 가장 큰 이익을 얻는 병원이 반드시 도구를 가장 많이 도입한 병원은 아닐 것이다. 매번의 도입에서 가장 빨리 배우는 병원일 것이다.

이들은 실행을 조직 지식의 원천으로 삼을 것이다. 데이터 품질은 어디서 무너지는지, 자동화가 어디서 업무 흐름과 맞지 않는지, 직원에게 더 명확한 경계가 필요한 곳은 어디인지, 환자에게 더 큰 투명성이 필요한 곳은 어디인지, 거버넌스를 어디서 더 구체화해야 하는지 배우게 된다.

이 학습이 혁신 부서 안에만 머물러서는 안 된다. 임상 리더십, 운영, 규정 준수, 기술, 재무, 품질, 이사회까지 닿아야 한다. AI는 이제 너무 널리 분산돼 소수 전문가만으로 관리할 수 없고, 영향이 너무 커서 기술 문제로만 이해할 수 없다.

병원은 무엇을 도입하는지 충분히 이해하기 전에 AI를 도입했다. 기술이 빠르게 변할 때 드문 일은 아니다. 더 중요한 질문은 그 간극이 드러난 뒤 무엇을 하느냐이다.

책임 있는 대응은 물러서는 것이 아니다. 의사결정, 업무 흐름, 관계, 조직 안에서 AI가 실제로 작동하는 방식을 이해할 역량을 갖추는 것이다. 그때 비로소 도입이 준비된 상태로 이어진다.