AI 모델이 방사선학의 핵심 문제를 해결하지 않는 이유

오늘날 방사선학에서 대부분의 AI 작업은 진단 모델을 중심으로 진행되고 있다. 정확도를 높이기 위해 더 많은 데이터를 훈련시키고 모델을 개선하는 것이 주된 목표이다. 이 접근 방식은 주로 방사선학을 시각 인식 작업으로 간주하며, 더 나은 검출이 전체 시스템을 개선할 것으로 기대된다. 처음에는 이것이 합리적이라고 생각할 수 있지만, 이는 주요 문제를 놓치고 있다.

방사선학의 핵심 문제는 진단 자체가 어떻게 구조화되어 있는지에 있다. 이것은 패턴 인식의 한계가 아니라, 작업이 어떻게 조직되고 결정이 어떻게 내려지는지에 관한 문제이다. 그리고 모델을 개선하는 것으로 이것을 해결할 수 없다. 아래에서 우리는 왜 이것이 발생하는지와 무엇이 필요한지에 대해 살펴본다.

구조적인 문제

CV 모델은 이미지에서 패턴을 인식하는 데 도움이 된다. 통제된 연구에서,它们는 방사선과의 성능을 비교할 수 있으며, AUC는 종종 0.90 이상이며, 일부 스크리닝 환경에서는 전문가의 성능을 따라가거나 초과한다. 많은 영역에서 발견을检测하는 능력은 더 이상 주요 제약이 아니다.

同时,它们는 이미지 데이터만으로 작동한다.它们는 가능한 발견을 강조하지만, 진단 과정 자체에는 참여하지 않는다.它们는 다양한 입력을 단일 진단으로 결합하지 않으며, 결정이 어떻게 내려지는지에 대한 지침을 제공하지 않는다. 많은 영역에서 발견을检测하는 능력은 더 이상 주요 제약이 아니다.它们는 패턴을 인식하기 위해 설계되었으며, 진단 과정에 참여하지 않는다.

실제로, 이것은 구조가 변경되지 않음을 의미한다. 방사선과는 결과를 검토하고 최종 결정을 내리는 책임이 있으며, AI 출력은 종종 추가 확인을 필요로 한다. 책임은 의사에게 있다. 워크플로는 변경되지 않는다. 병목 현상은 남아 있다. 각 연구는 여전히 단일 방사선과에 할당되며, 검토, 해석, 검증 및 보고를 담당한다. 연구에 따르면 의사의 성능은 여전히 AI 오류를 처리하는 방식에 크게 의존하며, 잘못된 출력은 의사 결정에 부정적인 영향을 미칠 수 있다.

모델은 자신의 결정에 다시 방문할 수 없다. 만약 모델이 실수를犯하면, 추가적인 맥락으로 사례를 재평가할 수 있는 방법이 없다. 결과는 고정되어 있으며, 실제 진단은 지속적인 조정을 필요로 한다. 그들의 출력은 정적이며, 임상적 추론은 본질적으로 반복적이다.

결과적으로, 병목 현상은 남아 있으며, 변동성은 지속되며, 프로세스는 여전히 단일 방사선과에 의존한다. 이미징 볼륨이 증가함에 따라, 단일 전문가를 중심으로 구축된 시스템은 결국 한계에 도달한다.

신뢰의 위기

방사선학에서의 AI는 또한 신뢰의 문제를 제기한다.

방사선과는 모델의 출력을 질문한다. 그들은 모델 뒤에 있는 시스템을 질문하며, 특히 AI가 그들을 제어할 수 있는 도구가 아니라 대체물로 제시될 때 더욱 그렇다. 모델에 대한 신뢰는 불안정하다. 덜 경험있는 의사는 그것을 너무 많이 의존하여 오류를 놓칠 수 있다. 더 경험있는 의사는 한 번의 실수로 그것을 사용을 중단할 수 있다. 이러한 두 가지 패턴 —過度 의존과 비활성화 —는 모두 새로운 위험을 도입한다.

오류가 발생하면 모델은 종종 결정 과정에서 제외된다. 그것은 더 이상 도구로 사용되지 않고, 단순히 무시된다. 이것은 연속성을 깨뜨리고 실제적인 가치를 제한한다. 실제로, 이것은 일관된 사용이 아닌 워크플로우에 대한 불일치한 통합으로 이어진다.

의학이 작동하는 방식과 더 깊은 충돌을 반영한다. 방사선과는 진단에 대한 책임을 시스템에 넘길 수 없다. 임상 및 법적 책임은 의사에게 있다. AI를 대체물로 취급하는 것은 의료 관행의 구조에 반한다.

이것은 모델이 제안하지만 의사가 검증해야 하는 구조적인 충돌을 생성한다. 인식은 자동화될 수 있다. 책임은 자동화될 수 없다. 그리고 책임이 전달될 수 없는 한, 모델의 모든 출력은 검증되어야 하며, 작업량을 줄이는 능력을 제한한다.

효율성의 환상

AI는 방사선과의 작업을 제거하지 않는다. 그것은 제어의 계층을 추가한다. 의사는 여전히 연구를 해석하고 모델의 출력을 검증해야 한다. 이것은 더블 워크를 생성하며 시간을 절약하지 않는다. 노력을 제거하는 대신, AI는 유효성 검사 및 수정의 추가 단계로 작업을 재배포한다.

시스템은 더 빠르다고 보일 수 있지만, 실제로 시간은 줄어들지 않고 추가적인 확인으로 이동한다. 시간이 지남에 따라, 이러한 도구의 축적은 운영 오버헤드를 증가시키며, 진단이 어떻게 생성되는지에 대한 근본적인 개선을 제공하지 않는다.

AI는 또한 단편화를 도입한다. 대부분의 모델은 狭い 작업을 위해 구축된다: 단일 해부학적 영역, 모달리티 또는 병리학. 실제 임상需求을 커버하기 위해, 클리닉은 여러 모델을 사용해야 한다.統一된 시스템이 아니라, 이것은 도구의 단편적인 집합으로 이어진다.

각 모델은 자신의 인터페이스, 통합, 유지 보수 요구 사항을 가지고 있다. 이것은 시스템의 복잡성을 증가시키며, 상호 작용의 점을 추가한다.

결과적으로, 시스템은 더 difícil하게 관리되며, 핵심 진단 과정은 변경되지 않는다.

AI 확장의 한계

모델의 각 새로운 버전에서, 신뢰를 다시 구축해야 한다. 워크플로우는 모델에 적응하기 시작하며, 의사를 지원하는 대신에 도구에 적응한다. 이것은 시스템 자체를 개선하는 것에서 벗어나, 개별 도구에 적응하는 방향으로 초점을 이동시킨다.

대부분의 모델은 狭い 작업을 위해 설계되기 때문에, 이것은 더 difícil하게 만든다: 단일 작업 또는 해부학적 영역. 실제로, 이것은 클리닉이 동시에 여러 모델을 필요로 한다는 것을 의미한다. 각 모델은 자신의 제약, 통합, 비용을 가지고 있다. 시스템은 더 difícil하게 작동한다.

同時에, AI가 오늘날 가장 큰 영향을 미치는 분야가 명확해진다. 이미지 해석이 아니라, 그 주변의 시스템을 개선하는 데 있다. 연구를 라우팅하는 것, 큐를 관리하는 것, 사례를 올바른 전문가에게 할당하는 것, 작업량을 예측하는 것. 이러한 영역은 단독 예측보다 조정을 통해 혜택을 받는다.

실제에서 발생한 일

우리의 클리닉 네트워크에서, 매년 40개 이상의 클리닉에서 100만 건 이상의 MRI 및 CT 연구를 수행하는 곳에서, 우리는 여러 AI 모델을 구현했으며, FDA 승인 솔루션이 포함되었다. 설정은 간단했다: 모델은 이미징 연구를 분석하고 보고서를 생성하며, 방사선과는 이를 검토하고 확인했다. 기대되는 결과는 더 빠른 처리 시간과 더 적은 오류였다.

실제로, 경험있는 방사선과는 모델의 출력을 보기 전에 각 연구를 스스로 해석했다. 생성된 텍스트와 함께 작동하는 것은 종종 쓰기보다 더 많은 노력을 필요로 했다. 프로세스는 속도는 높이지 못했고, 많은 경우에 더 느려졌다. 일부 경우에, 모델과 상호 작용하는 것은 가치보다 더 많은 마찰을 추가했다.

사용자 행동도 위험을 생성했다. 모델이 오류를犯하면, 경험있는 방사선과는 신뢰를 잃고 이를 사용을 중단했다. 덜 경험있는 의사는 시스템을 더 많이 의존하여 오류를 놓칠 가능성이 증가했다. 이것은 임상 및 법적 노출을 증가시켰다.

이러한 관찰은 더 깊은 문제를 가리킨다. 개별 도구를 개선하는 것은 시스템이 작동하는 방식을 변경하지 않는다. 병목 현상은 단일 방사선과가 연구를 시작부터 끝까지 처리하는 워크플로우에 있다. 이러한 제약은 단순히 더 많은 도구를 추가함으로써 시스템을 개선하는 것을 difficile하게 만든다.

우리는 DICO에서 이를 다르게 접근했다. 기존 워크플로우에 AI를 추가하는 대신, 우리는 구조 자체에 초점을 맞췄다. 사례를 부분으로 나누고, 각 부분을 관련 전문가가 직접 이미징 데이터 내에서 처리하도록 했다. 최종 보고서는 이러한 입력에서 조립된다. 진단은 더 이상 한 사람에 의해 작성되지 않는다. 그것은 여러 기여에서 조립된다.

이것은 모델의 품질에 대한 문제가 아니었다. 구조에 대한 문제였다.

진단 시스템 재고

현대 방사선학은 단일 가정에 기반을 두고 있다. 한 연구, 한 방사선과. 이것은 병목 현상, 변동성, 확장성의 한계를 생성한다. 주요 문제는 모델이 오류를犯하는 것이 아니다. 시스템이 모델과 함께 작동하도록 구축되지 않았다. 비확장 가능한 기초 위에 구축되었다.

비반복적인 도구가 반복적인 프로세스에 삽입된다. 임상 관행에서, 방사선학은 단일 패스 결정이 아니다. 연구에 따르면 초기 및 두 번째 해석 사이의 불일치는 약 30%의 사례에서 발생하며, 임상적으로 유의한 불일치는 약 18-20%의 사례에서 관리에 영향을 미칠 수 있다. 두 번째 의견은 예외가 아니라, 진단 작업의 일상적인 부분이다.

더 넓은 의미에서, 의학 전반에 걸쳐, 두 번째 의견은 진단을 변경하는 것으로 이어진다. 약 10-62%의 사례에서, 환경에 따라 다르다.

재고, 조정 및 맥락과 함께 재평가를 할 수 없는 한, 모델의 출력은 정적이며, 실제 진단은 지속적인 조정을 필요로 한다.

다음 단계는 더 정확한 모델이 아니다. 그것은 진단 시스템의 재설계이다.

변화는 별개의 AI 도구에서 진단을 관리하는 통일된 방식으로 이동하는 것이다. 여기서 진단은 단일 결정이 아니라, 여러 단계에 걸쳐 라우팅되고 해석되는 프로세스이다. 한계는 지능형 모델의 부족이 아니다. 그것은 진단 작업을 프로세스로 조정할 수 있는 시스템의 부족이다.