의료 분야에서 인공지능의 활용: 기회와 함께 오는 위험

인공지능은 의료 분야에서 진단을 개선하고 새로운 효과적인 약물을 개발하는 데 큰 잠재력을 가지고 있습니다. 그러나 과학 아메리카의 최근 기사에서 논의한 바와 같이, 인공지능이 의료 분야에 침투하는 속도는 많은 새로운 도전과 위험을 가져옵니다.

과거 5년 동안, 미국 식품의약국은 40개 이상의 인공지능 제품을 승인했습니다. 그러나 과학 아메리카에 따르면, 미국에서 판매를 위해 승인된 제품 중에는 임의적으로 통제된 임상 시험에서 성능이 평가되지 않은 제품이 있습니다. 많은 인공지능 의료 도구는 FDA의 승인을 필요로 하지 않습니다.

이번에는 에반 토폴(Evan Topol)이 저술한 “딥 메디신: 인공지능이 의료를 인간화하는 방법”에서 인공지능 제품 중 많은 수가 질병을 진단하는 작업에서 효과적인지 여부를 철저히 테스트하지 않은 제품이 많다고 말했습니다. 또한, 많은 기술 스타트업이 연구 논문을 동료 심사 저널에 발표하지 않습니다. 이는 과학자들이 그들의 연구를 분석하는 곳입니다.

적절하게 테스트되고 통제된 인공지능 시스템은 의료 전문가가 미처 발견하지 못한 증상을 발견하는 데 도움이 될 수 있는 강력한 도구입니다.

예를 들어, 당뇨병 안질환을 진단하는 인공지능 도구는 수백 명의 환자에서 테스트되었으며 신뢰할 수 있는 것으로 나타났습니다. 이 테스트를 수행한 회사는 8년 이상 동안 FDA와 협력하여 제품을 개선했습니다. 이 테스트인 IDx-DR은 1차 진료 클리닉에서 사용될 수 있으며 초기 당뇨병성 망막병증의 징후를 발견하여 의심이 있는 경우 안과 전문의에게 환자를 소개할 수 있습니다.

인공지능 시스템이 의료 전문가가 진단과 치료를 안내하는 데 사용할 경우, 철저하게 테스트되지 않은 경우 해를 끼칠 가능성이 있습니다.

과학 아메리카 기사는 인공지능이 질병을 진단하는 데 사용될 때 발생할 수 있는 한 가지 문제를 설명합니다. 이는 가슴 엑스레이를 분석하여 폐렴이 발생할 가능성이 있는 환자를 감지하는 인공지능입니다. 이 시스템은 뉴욕의 마운트 시나이 병원에서 테스트했을 때 정확했지만, 다른 병원에서 테스트했을 때 실패했습니다. 연구자들은 인공지능이 이동식 엑스레이 시스템으로 생성된 이미지와 방사선과에서 생성된 이미지 사이를 구별하고 있음을 발견했습니다. 의사들은 이동식 가슴 엑스레이 시스템을 침대에 머무르는 환자에게 사용하며, 이러한 환자는 폐렴에 걸릴 가능성이 더 높습니다.

거짓 경보도 문제입니다. 디프마인드(DreamMind)는 입원 환자의 급성 신장 손상을 48시간 전에 예측할 수 있는 인공지능 모바일 앱을 개발했습니다. 그러나 이 시스템은 보고에 따르면, 성공적으로 예측된 신장 손상마다 2건의 거짓 경보를 발생시켰습니다. 거짓 양성은 의사들이 불필요한 검사나 치료를 주문하도록 유도할 수 있으므로 유해할 수 있습니다.

또 다른 사건에서, 한 인공지능 시스템은 폐렴에 걸린 환자가 천식이 있는 경우 생존할 가능성이 더 높다고 잘못 판단했습니다. 이는 의사들이 천식 환자의 치료를 변경하도록 유도할 수 있습니다.

한 병원에서 개발된 인공지능 시스템은 다른 병원에서 사용할 때 성능이 저하됩니다. 이는 여러 가지 이유로 인해 발생합니다. 인공지능 시스템은 전자 건강 기록에 훈련되지만, 이러한 기록은 종종 불완전하거나 부정확하며, 주된 목적은 환자 치료가 아닌 청구입니다. 예를 들어, KHN이 수행한 한 조사에서, 때때로 환자의 의료 기록에 생명에 위협적인 오류가 있는 경우, 즉 약물 목록에 적절하지 않은 약물이 포함된 경우가 있었습니다. 또한, 질병은 종종 예상보다 더 복잡하며, 의료 시스템은 인공지능 엔지니어와 과학자가 예상하는 것보다 더 복잡할 수 있습니다.

인공지능이 더욱 보편화됨에 따라, 인공지능 개발자가 건강 당국과 협력하여 인공지능 시스템이 철저하게 테스트되고, 규제 기관이 인공지능 진단 도구의 신뢰성에 대한 표준을 설정하고 준수하는 것이 중요합니다.