국제 과학자들은 AI 연구에서 더 많은 투명성을 요구합니다

Princess Margaret Cancer Centre, University of Toronto, Stanford University, Johns Hopkins, Harvard School of Public Health, Massachusetts Institute of Technology 등 다양한 기관에서 온 국제 과학자 그룹은 인공 지능(AI) 연구 내에서 더 많은 투명성을 요구하고 있습니다. 이 요청의 주된 힘은 연구를 기반으로 암 치료를 가속화하는 데 도움이 될 수 있는 중요한 발견을 확보하는 것입니다. 

과학자들이 컴퓨터 연구자들 사이의 투명성에 관한 기준을 높일 것을 과학 저널에 요청한 기사는 자연 14년 2020월 XNUMX일. 이 그룹은 또한 동료들이 출판물에 코드, 모델 및 컴퓨팅 환경을 공개해야 한다고 주장했습니다. 

논문 제목은 "인공지능의 투명성과 재현성. " 

AI 연구 세부 정보 공개

Benjamin Haibe-Kains 박사는 Princess Margaret Cancer Center의 선임 과학자이자 출판물의 제XNUMX저자입니다. 

Haibe-Kains 박사는 “과학적 진보는 연구자가 연구 결과를 면밀히 조사하고 주요 발견을 재현하여 배울 수 있는 능력에 달려 있습니다.”라고 말합니다. “그러나 전산 연구에서는 AI 연구의 세부 사항에 완전히 접근할 수 있다는 것이 아직 널리 퍼진 기준이 아닙니다. 이것은 우리의 발전에 해를 끼칩니다.” 

우려는 McKinney 등이 발표한 Google Health 연구에 따라 발생했습니다. 2020년 주요 과학 저널에서 AI 시스템이 유방암 검사와 관련하여 견고성과 속도 면에서 인간 방사선 전문의를 능가할 수 있다고 주장했습니다. 이 연구는 다양한 최고 간행물에서 많은 언론의 주목을 받았습니다. 

모델을 재현할 수 없음

연구 후 발생한 주요 우려 사항 중 하나는 사용된 방법과 코드 및 모델을 철저히 설명하지 않았다는 것입니다. 이러한 투명성의 결여는 연구자들이 모델이 어떻게 작동하는지 배울 수 없다는 것을 의미했으며, 그 결과 다른 기관에서 모델을 사용할 수 없게 되었습니다. 

“종이와 이론상으로 McKinney et al. 연구는 아름답습니다.”라고 Dr. Haibe-Kains는 말합니다. "그러나 우리가 그것으로부터 배울 수 없다면 그것은 과학적 가치가 거의 또는 전혀 없는 것입니다."

Haibe-Kains 박사는 토론토 대학의 의학 생물물리학 부교수로 공동 임명되었습니다. 그는 Vector Institute for Artificial Intelligence의 계열사이기도 합니다. 

"연구자들은 연구 결과를 재현하는 데 시간과 자원을 투자하기보다는 연구 결과를 출판하는 데 더 큰 동기를 부여받습니다."라고 하이베-카인스 박사는 덧붙였습니다. "학술지들은 AI의 '과대광고'에 취약하며, 연구 재현에 필요한 모든 자료를 포함하지 않는 논문의 게재 기준을 낮출 수 있습니다. 이는 종종 자체 가이드라인과 상충되는 경우가 많습니다."

이 환경은 AI 모델이 임상 설정에 도달하는 데 더 오래 걸릴 수 있으며 연구원이 모델을 복제하거나 학습할 수 없음을 의미합니다. 

연구원 그룹은 이 문제를 해결하고 방법을 공유할 수 있도록 다양한 프레임워크와 플랫폼을 제안했습니다. 

Haibe-Kains 박사는 "우리는 암 환자를 위한 AI의 유용성에 대한 높은 희망을 가지고 있습니다."라고 말합니다. "우리의 발견을 공유하고 구축하는 것, 이것이 진정한 과학적 영향력입니다."