ํฌ์ค์ผ์ด
์๋ฃ ๋ถ์ผ์์ ์ธ๊ณต ์ง๋ฅ์ ๊ธฐํ์ ํจ๊ป ์ํ์ ๊ฐ์ ธ์ฌ ์ ์๋ค
인공 지능은 의료 분야에서 엄청난 잠재력을 가지고 있으며, 진단을 개선하고 더 효과적인 약물을 발견하는 데 능합니다. 그러나, Scientific American의 최근 기사에서 논의한 바와 같이, 인공 지능이 의료 분야에 침투하는 속도는 많은 새로운 도전과 위험을 가져옵니다.
過去 5년 동안, 미국 식품의약국(FDA)은 40개 이상의 인공 지능 제품을 승인했습니다. 그러나, Scientific American에 따르면, 미국에서 판매를 승인받은 제품 중에는 무작위 대조 시험에서 성능이 평가되지 않은 제품이 있습니다. 많은 인공 지능 의료 도구는 FDA의 승인을 필요로 하지 않습니다.
Evan Topol, “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again”의 저자는 Scientific American에 많은 인공 지능 제품이 실제로 엄격한 테스트를 거친 적이 없으며, 첫 번째 주요 무작위 시험은 지난 10월에 수행되었다고 말했습니다. 또한, 많은 테크 스타트업은 연구 논문을 동료 평가 저널에 발표하지 않습니다.
적절하게 테스트되고 통제된 인공 지능 시스템은 의료 전문가가 미처 발견하지 못한 증상을 감지하여 건강 결과를 개선하는 데 도움이 될 수 있는 강력한 도구가 될 수 있습니다.
예를 들어, 당뇨병 안질환을 감지하는 인공 지능 도구는 수백 명의 환자에서 테스트되었으며, 신뢰할 수 있는 것으로 나타났습니다. 해당 테스트를 수행한 회사에서 FDA와 함께 8년 동안 제품을 개선했습니다. IDx-DR 테스트는 1차 진료 클리닉에서 당뇨병 안질환의 초기 징후를 감지하여 의심 증상이 발견되면 안과 전문의에게 환자를介绍할 수 있습니다.
인공 지능 시스템이 테스트되지 않으면, 의료 전문가가 진단과 치료를 안내하는 데 사용할 수 있는 인공 지능 시스템은 피해를 피하는 대신 생성할 수 있습니다.
Scientific American 기사는 인공 지능에 의존하여 질병을 진단할 때 발생할 수 있는 잠재적인 문제를 설명하며, 가슴 엑스레이를 분석하여 폐렴을 발병할 수 있는 환자를 감지하는 인공 지능에 대한 예를 들었습니다. 시스템은 뉴욕의 마운트 시나이 병원에서 테스트했을 때 정확했지만, 다른 병원에서 테스트했을 때 실패했습니다. 연구진은 인공 지능이 이동식 엑스레이 시스템으로 생성된 이미지와 방사선과에서 생성된 이미지 사이를 구분하고 있음을 발견했습니다. 의사는 종종 침대에서 일어나기에는 너무 아픈 환자에게 이동식 가슴 엑스레이 시스템을 사용하며, 이러한 환자는 폐렴을 발병할 위험이 더 높습니다.
거짓 경보도 문제입니다. DeepMind는 입원한 환자에서 급성 신장 손상을 48시간 전에 예측할 수 있는 인공 지능 모바일 앱을 만들었습니다. 그러나, 시스템은 보고에 따르면, 성공적으로 예측된 신장 손상마다 2건의 거짓 경보를 발생시켰습니다. 거짓 양성은 의사들이 불필요한 검사 또는 처방된 치료를 변경하도록 유도할 수 있으므로 유해할 수 있습니다.
또 다른 사건에서, 하나의 인공 지능 시스템은 폐렴이 있는 환자가 천식이 있는 경우 생존할 가능성이 더 높다고 잘못 결론지었습니다. 이는 천식이 있는 환자의 치료를 변경하도록 의사们을 유도할 수 있습니다.
한 병원에서 개발된 인공 지능 시스템은 다른 병원에서 사용될 때 성능이 저하됩니다. 이는 여러 가지 이유로 인해 발생합니다. 먼저, 인공 지능 시스템은 전자 건강 기록에 훈련되지만, 많은 전자 건강 기록은 환자 치료가 아닌 청구를 목적으로 하기 때문에 불완전하거나 잘못될 수 있습니다. 예를 들어, KHN이 수행한 조사 에 따르면, 때때로 환자의 의료 기록에 생명 위협적인 오류가 발생할 수 있으며, 약물 목록에 잘못된 약물이 포함될 수 있습니다. 또한, 질병은 종종 더 복잡하며, 의료 시스템은 인공 지능 엔지니어와 과학자들이 예상할 수 있는 것보다 더 복잡할 수 있습니다.
인공 지능이 점점 더 普及됨에 따라, 인공 지능 개발자가 건강 당국과 협력하여 인공 지능 시스템이 철저하게 테스트되고, 규제 기관이 인공 지능 진단 도구의 신뢰성을 위한 표준을 설정하고 준수하도록 하는 것이 중요합니다.
