국제 과학자들, AI 연구에 대한 투명성 향상을 요구

프린세스 마가렛 암 센터, 토론토 대학교, 스탠퍼드 대학교, 존스 홉킨스 대학교, 하버드 대학교 공중 보건 학교, 매사추세츠 공과 대학을 포함한 다양한 기관에서 온 국제 과학자 그룹은 인공지능(AI) 연구에서 더 많은 투명성을 요구하고 있다. 이 요구의 주요 동기는 연구를 통해 얻을 수 있는 중요한 발견을 자유롭게 해주어 암 치료를 가속화하는 것이다.

과학자들이 계산 연구자들 사이의 투명성을 높이기 위해 과학 저널에 대한 기준을 높여줄 것을 촉구한 기사是在 2020년 10월 14일 네이처에 발표되었다. 그룹은 또한 동료们이 출판물에서 코드, 모델, 계산 환경을 공개할 것을 주장했다.

이 논문은 “인공지능에서 투명성과 재현성“이라고 제목이 붙여졌다.

AI 연구 세부 정보 공개

벤자민 하이브-카인스 박사는 프린세스 마가렛 암 센터의 선임 과학자이자 이 논문의 첫 번째 저자이다.

“과학적 진보는 연구 결과를 검토하고 주요 발견을 재현하여 배울 수 있는 연구자의 능력에 달려 있다”고 하이브-카인스 박사는 말한다. “그러나 계산 연구에서 AI 연구의 세부 정보가 완전히 공개되는 것이 아직 널리 받아들여지지 않는다. 이것은 우리의 진보에 해가 된다.”

이 문제는 2020년에 주요 과학 저널에 발표된 구글 헬스 연구에서 시작되었다. 이 연구에서는 인간 방사선과보다 더 강력하고 빠른 유방암 검진을 수행할 수 있는 AI 시스템을 개발했다고 주장했다. 이 연구는 다양한 주요 출판물에서 많은 언론의 주목을 받았다.

모델 재현 불가

이 연구에서 발생한 주요 문제 중 하나는 사용된 방법과 코드, 모델이 충분히 설명되지 않았다는 것이다. 이 투명성의 부족으로 인해 연구자들은 모델이 어떻게 작동하는지 배우지 못했으며, 따라서 모델을 다른 기관에서 사용할 수 없었다.

“이론적으로 그리고紙에 올려진 McKinney et al.의 연구는 아름답다”고 하이브-카인스 박사는 말한다. “그러나 우리는 그것에서 배울 수 없다면 그것은 거의 과학적 가치가 없다.”

하이브-카인스 박사는 토론토 대학교 의과학 물리학부의 공동 임명 교수로도 활동하고 있다. 그는 또한 인공지능 벡터 연구소의 계열사이다.

“연구자들은 자신의 발견을 발표하기보다는 연구를 재현할 수 있도록 시간과 자원을 투자하는 것에 더 많은 동기를 부여받는다”고 하이브-카인스 박사는 계속한다. “저널은 AI의 ‘호재’에 취약할 수 있으며 재현 가능한 연구를 위한 모든 자료를 포함하지 않는 논문을 받아들이는 기준을 낮출 수 있다. 이는 souvent 자체 지침에 반하는 것이다.”

이 환경은 AI 모델이 임상 환경에 도달하는 데 더 오랜 시간이 걸릴 수 있으며 모델이 연구자们에 의해 재현되거나 배울 수 없다는 것을 의미한다.

연구자 그룹은 이 문제를 해결하고 방법을 공유할 수 있도록 다양한 프레임워크와 플랫폼을 제안했다.

“우리는 암 환자들을 위해 AI의 유용성을 높이기 위한 높은 기대를 가지고 있다”고 하이브-카인스 박사는 말한다. “우리의 발견을 공유하고 건설하는 것, 그것이真正한 과학적 영향이다.”