의학 분야에서 AI 사용의 위험을 줄이는 방법에 대한 논문

인공지능 프로그램은 다양한 방식으로 의료를 개선할 수 있다. 예를 들어, AI 응용 프로그램은 컴퓨터 비전을 사용하여 의사가 X선 및 FMRIs에서 상태를 진단하는 데 도움을 줄 수 있다. 기계 학습 알고리즘은 또한 의료 데이터에서 인간이 찾을 수 없는 미세한 패턴을 추출하여 잘못된 양성률을 줄이는 데 사용될 수 있다. 그러나 이러한 가능성과 함께 새로운 도전이 나타난다. 최근에 Science에 발표된 새로운 논문은 의료 기계 학습 기술의 가능한 위험과 규제 전략을 조사하여 의료 환경에서 AI를 사용할 때 발생할 수 있는 부정적인 부작용을 최소화하기 위해 노력했다.

의료 분야에서 AI의 확장된 적용

AI는 의료 분야에서 빠르게 확장되고 있다. 최근 의료 분야에서 AI에 의해 구동되는 새로운 제약 회사 생성, AI 구동 원격 건강 센서 생성, CT 스캔 및 X선 분석을 위한 컴퓨터 비전 앱과 같은 발전이 이루어졌다.

보다 구체적으로, Genesis Therapeutics는 새로운 약물을 생성하기 위해 AI를 사용하여 약물 발견 과정을 가속화하려고 하는 스타트업이다. Genesis Therapeutics는 약 170개의 다른 회사 중 하나로 AI를 사용하여 새로운 약물 형성을 연구하고 있다. 한편, 건강 모니터링 장치에 있어서, iRhythm과 프랑스 AI 스타트업 Cardiologs는 AI 알고리즘을 사용하여 EEG 데이터를 분석하고 심장 질환이 있는 사람들의 건강을 모니터링하고 있다. 회사가 설계한 소프트웨어는 혈류가 불안정하여 발생하는 조건인 심장 마비를 обнаруж할 수 있다.

마지막으로, 의료 이미지에 컴퓨터 비전을 적용하는 방법을 조사한 최근 연구에서는 컴퓨터 비전 시스템이 전문 방사선과와 동일하거나 더 나은 성능으로 뇌 출혈을 발견하는 데 성공했다. 연구에서 사용된 알고리즘은 CT 스캔을 1초만 분석하여 예측을 렌더링할 수 있었다. 컴퓨터 비전 시스템은 또한 뇌 내에서 출혈을 위치할 수 있었다.

의료 분야에서 AI를 사용하는 잠재적인 이점은 명확하지만, 의료 분야에서 AI를 사용함으로써 발생하는 새로운 도전과 위험은 명확하지 않다.

확장된 분야의 규제

TechXplore에 따르면, 의료 분야에서 AI를 사용하는 잠재적인 단점을 평가하기 위해 최근 연구자들이 Science에 논문을 발표하여 AI와 관련된 잠재적인 문제를 예상하고 이러한 문제의 잠재적인 해결책을 탐구했다. 의료 분야에서 AI를 사용함으로써 발생할 수 있는 문제에는 부적절한 치료를 추천하여 부상을 입히는 것, 개인 정보 보호 문제, 알고리즘 편향/불평등이 포함된다.

FDA는 “잠금 알고리즘”을 사용하는 의료 AI만 승인했으며, 이는 항상 동일한 결과를 신뢰할 수 있다. 그러나 AI의 많은 잠재력은 새로운 입력 유형에 학습하고 반응하는 능력에 있다. “적응형 알고리즘”을 사용하여 FDA의 승인을 받기 위해 논문의 저자들은 알고리즘을 업데이트하는 데 관련된 위험을 완화하는 방법을 심도 있게 조사했다.

저자들은 기계 학습 엔지니어와 연구자가 모델의 수명 동안 모델을 지속적으로 모니터링하는 데 중점을 두어야 한다고 주장한다. AI 시스템을 모니터링하는 도구 중 하나는 AI 자체이며, 이는 AI가 어떻게 작동하는지에 대한 자동화된 보고서를 제공할 수 있다. 또한 여러 AI 장치가 서로를 모니터링할 수 있다.

“위험을 관리하기 위해 규제 기관은 특히 지속적인 모니터링과 위험 평가에 중점을 두고, 미래의 알고리즘 변경을 계획하는 데 덜 중점을 두어야 한다”고 논문의 저자들은 말했다.

논문의 저자들은 또한 규제 기관이 새로운 위험 식별, 모니터링, 평가 및 관리 방법을 개발하는 데 중점을 두어야 한다고 추천한다. 이 논문은 FDA가 다른 형태의 의료 기술을 규제하는 데 사용한 많은 기술을 적용한다.

논문의 저자들이 설명한 대로:

“우리의 목표는 의료 AI/ML 시스템이 환경에 반응하거나 적응하는 방식에서 발생할 수 있는 위험을 강조하는 것이다. 미세한 매개 변수 업데이트나 새로운 유형의 데이터는 큰 및 비용이 많이 드는 실수를 유발할 수 있다.”