적절하게 훈련된 경우 알고리즘은 건강 관리의 인종적 편견을 해결할 수 있습니다.

스탠포드 대학, 하버드 대학, 시카고 대학의 연구팀이 알고리즘을 훈련했습니다. 무릎의 엑스레이에서 관절염을 진단하기 위해. 환자의 보고서를 알고리즘의 학습 데이터로 사용하면 알고리즘이 흑인 환자의 기록을 분석할 때 방사선 전문의보다 더 정확한 것으로 나타났습니다.

알고리즘 편향의 문제

의료 분야에서 기계 학습 알고리즘을 사용하면 모든 종류의 질병으로 고통받는 환자의 결과를 잠재적으로 향상시킬 수 있지만, AI 알고리즘을 사용하여 환자를 진단하는 데에는 잘 문서화된 문제도 있습니다. 배포된 AI 모델의 영향에 대한 연구를 통해 알고리즘 편견과 관련된 주목할만한 사건이 많이 발견되었습니다. 이것들 알고리즘 포함 보고된 모든 증상이 동일했음에도 불구하고 소수자에게 백인 환자보다 심장병 진료소에 대한 추천이 적었습니다.

의 저자 중 한 명 연구UC Berkeley 공중 보건 대학의 Ziad Obermeyer 교수는 AI를 사용하여 방사선 전문의의 X선 진단과 환자가 보고한 통증의 양 사이의 차이를 조사하기로 결정했습니다. 흑인 환자와 저소득층 환자가 더 높은 수준의 통증을 보고했지만, 이들의 X-레이 해석은 일반 인구와 동일한 점수를 받았습니다. 보고된 통증 수준에 대한 데이터는 NIH에서 가져왔고 연구원들은 인간 의사가 데이터 분석에서 누락된 것이 있는지 조사하기를 원했습니다.

유선에서 보도한 바와 같이, 이러한 차이의 잠재적인 원인을 식별하기 위해 Obermeyer와 다른 연구자들은 NIH의 데이터를 기반으로 훈련된 컴퓨터 비전 모델을 설계했습니다. 알고리즘은 엑스레이를 분석하고 이미지를 기반으로 환자의 통증 수준을 예측하도록 설계되었습니다. 소프트웨어는 환자의 통증 수준과 높은 상관관계가 있는 것으로 입증된 이미지 내 패턴을 찾아냈습니다.

알고리즘에 보이지 않는 이미지가 표시되면 모델은 보고된 환자의 통증 수준에 대한 예측을 반환합니다. 모델에 의해 반환된 예측은 방사선 전문의가 할당한 점수보다 환자의 실제 보고된 통증 수준과 더 밀접하게 일치했습니다. 이것은 특히 흑인 환자에게 해당됩니다. Obermeyer는 Wired를 통해 컴퓨터 비전 알고리즘이 흑인 환자의 통증과 더 일반적으로 관련된 현상을 감지할 수 있다고 설명했습니다.

적절한 교육 시스템

보도에 따르면, X-레이를 평가하는 데 사용되는 기준은 원래 1957년 영국 북부에서 수행된 소규모 연구 결과를 기반으로 개발되었습니다. 따라서 이러한 다양한 사람들을 진단할 때 실수가 있다는 것은 놀라운 일이 아닙니다.

새로운 연구는 AI 알고리즘이 적절하게 훈련되면 편견을 줄일 수 있음을 보여줍니다. 교육은 전문가의 의견이 아닌 환자 자신의 피드백을 기반으로 진행되었습니다. 오버마이어와 동료들 이전에 시연 일반적으로 사용되는 AI 알고리즘은 흑인 환자보다 백인 환자를 선호하지만 Obermeyer는 올바른 데이터에 대한 기계 학습 시스템을 교육하면 편견을 방지하는 데 도움이 될 수 있음을 보여주었습니다.

연구에 대한 주목할만한 경고는 많은 기계 학습 연구자에게 친숙한 것입니다. 연구팀이 개발한 AI 모델은 블랙박스로, 연구팀 스스로 알고리즘이 엑스레이에서 어떤 특징을 감지하는지 확신할 수 없어 어떤 특징이 빠져 있는지 의사에게 알릴 수 없다는 뜻이다. .

다른 방사선 전문의와 연구원들은 블랙박스를 파헤치고 그 안의 패턴을 밝히는 것을 목표로 하고 있으며, 의사들이 무엇을 놓치고 있는지 이해하는 데 도움이 되기를 바랍니다. Emory University의 방사선과 교수인 Judy Gichoya는 AI 모델을 교육하기 위해 보다 광범위하고 다양한 x-ray 세트를 수집하고 있습니다. Gichoya는 방사선 전문의가 이 X-레이에 대한 자세한 메모를 작성하도록 할 것입니다. 이러한 메모는 모델의 출력과 비교되어 알고리즘에 의해 감지된 패턴을 발견할 수 있는지 확인합니다.