의료 분야에서 AI 사용의 위험을 줄이는 방법에 대한 연구

인공 지능 프로그램은 다양한 방식으로 의료 분야를 개선할 수 있습니다. 예를 들어, AI 응용 프로그램은 컴퓨터 비전을 사용하여 의사들이 X선 및 MRI에서 질병을 진단하도록 도울 수 있습니다. 기계 학습 알고리즘은 또한 의료 데이터에서 인간이 발견하지 못할 수 있는 미세한 패턴을 추출하여 잘못된 양성률을 줄이는 데 도움이 될 수 있습니다. 그러나 이러한 가능성과 함께 새로운 도전이 나타납니다. 최근 Science 저널에 발표된 새로운 연구에서 의료 기계 학습 기술의 가능한 위험과 규제 전략을 조사했습니다. 이 연구는 의료 분야에서 AI를 사용할 때 발생할 수 있는 부정적인 영향을 최소화하기 위한 노력의 일환입니다.

의료 분야에서 AI의 적용 확대

의료 분야에서 AI의 적용은 빠르게 확대되고 있습니다. 최근 의료 분야에서 AI를 사용한 새로운 개발에는 AI를 사용하여 새로운 약을 개발하는 신약 회사, AI 기반 원격 건강 센서, CT 스캔과 X선 이미지를 분석하는 컴퓨터 비전 앱이 있습니다.

보다 구체적으로, Genesis Therapeutics는 AI를 사용하여 약물 발견 과정을 가속화하고, 장애를 줄이는 약을 개발하려고 하는 스타트업입니다. Genesis Therapeutics는 약 170개의 회사 중 하나로, AI를 사용하여 새로운 약물 개발을 연구하고 있습니다. 한편, 건강 모니터링 장치에서는 iRhythm (IRTC ) 와 프랑스 AI 스타트업 Cardiologs가 AI 알고리즘을 사용하여 EEG 데이터를 분석하고, 심장 질환을 가진 사람들의 건강을 모니터링하고 있습니다. 이 회사의 소프트웨어는 심장 마비를 일으키는 난류성 혈류를 감지할 수 있습니다.

최근에 의료 이미지에 컴퓨터 비전을 적용하는 방법을 조사한 연구에서는 컴퓨터 비전 시스템이 전문가와 동일하거나 더 나은 성능을 보여주었다고 보고했습니다. 이 시스템은 CT 스캔에서 작은 출혈을 발견하는 데 사용되었습니다. 알고리즘은 CT 스캔을 1초만에 분석하여 예측을 렌더링할 수 있었으며, 또한 뇌 내에서 출혈을 위치시킬 수 있었습니다.

의료 분야에서 AI를 사용하는 잠재적인 이점은 명백하지만, 의료 분야에서 AI를 사용하는 것이 가져올 수 있는 새로운 도전과 위험은 명확하지 않습니다.

규제 확대

TechXplore에 따르면, 의료 분야에서 AI를 사용하는 데 따른 잠재적인 단점을 평가하기 위해, 연구자들은 Science 저널에 논문을 발표했습니다. 이 논문은 AI와 관련된 잠재적인 문제를 예측하고, 이러한 문제를 해결하기 위한 잠재적인 솔루션을 탐색하는 것을 목표로 합니다. 의료 분야에서 AI를 사용하는 데 따른 문제로는 부적절한 치료를 추천하여 부상이 발생하는 경우, 개인 정보 보호 문제, 알고리즘 편향/불평등이 있습니다.

미국 식품의약국(FDA)은 “잠금 알고리즘”이라고 하는 알고리즘만을 승인했습니다. 이러한 알고리즘은 매번 실행될 때마다 동일한 결과를 신뢰할 수 있습니다. 그러나 AI의 잠재력은 새로운 입력에 학습하고 반응하는 능력에 있습니다. FDA의 승인을 받고 “적응형 알고리즘”을 사용하기 위해, 논문의 저자들은 알고리즘을 업데이트하는 데 따른 위험을 완화하는 방법을 조사했습니다.

저자들은 기계 학습 엔지니어와 연구자가 모델을 배포하는 동안 지속적으로 모니터링하는 데 중점을 두어야 한다고 주장합니다. AI 시스템을 모니터링하는 데 사용할 수 있는 도구 중 하나는 AI 자체입니다. 이는 AI가 어떻게 행동하는지에 대한 자동화된 보고서를 제공할 수 있습니다. 또한 여러 개의 AI 장치가 서로를 모니터링할 수 있습니다.

“위험을 관리하기 위해, 규제 기관은 미래의 알고리즘 변경에 대한 계획보다 지속적인 모니터링과 위험 평가에 중점을 두어야 한다”고 논문의 저자들은 말합니다.

논문의 저자들은 규제 기관이 새로운 위험을 식별, 모니터링, 평가 및 관리하는 방법을 개발하는 데 중점을 두어야 한다고 추천합니다. 이 논문은 FDA가 다른 형태의 의료 기술을 규제하는 데 사용한 많은 기술을 적용합니다.

논문의 저자들은 다음과 같이 설명합니다.

“우리의 목표는 의료 AI/ML 시스템이 환경에 반응하거나 적응하는 방식에서 예기치 않은 변경으로 발생할 수 있는 위험을 강조하는 것입니다. 미세한 매개 변수 업데이트나 새로운 유형의 데이터는 큰 비용이 드는 실수를 유발할 수 있습니다.”