출판의 새로운 패러다임에서 AI는 필수적이다

전통적인 출판 모델은 개방 접근에 대한 지원이 급증함에 따라 빠르게 개혁되고 있습니다. 작년에 Springer Nature에 따르면 제출 건수가 30% 증가했습니다. 그러나 이러한 수요는 양날의 검이 되어, 지난 10년 동안 철회된 논문이 역대 최고 수준에 이르렀으며, 학술지가 AI가 생성한 논문과 조작된 연구로 넘쳐나고 있습니다.

당연히 이는 출판사, 연구자, 그리고 리뷰어에게 병목 현상을 초래하고 있습니다. 리뷰어가 논문 평가에 급급히 몰두하느라 출판물은 편집 일정 준수에 어려움을 겪고, 저자는 출판되기까지 수개월, 경우에 따라 수년을 기다리게 됩니다. 현재의 동료 평가 모델은 이러한 규모의 수요를 감당하도록 설계되지 않았습니다.

이러한 상황 속에서 AI가 기존 동료 평가 과정을 강화하고 업계가 가장 큰 장벽을 극복하도록 돕는 중요한 지원 도구임을 인식하는 것이 필수적입니다.

전통적 프로세스가 붕괴되는 이유

동료 평가는 무보수 작업입니다. 리뷰어들은 학술 및 과학 공동체에 대한 선의의 제스처로 시간을 자원합니다. 요구사항은 높고 보상은 압박이 겹치면서 매력적이지 않습니다. 수요 증가와 과도한 부담으로 인해 논문 평가 초청을 수락하는 리뷰어가 줄어들고 있습니다. 게다가 리뷰어를 찾는 것이 편집자에게 점점 더 큰 과제가 되어, 적체를 악화시키고 출판 일정이 지연되고 있습니다.

동시에 학자들은 ‘출판하거나 사라지거나’라는 환경에 직면해 있습니다. 전문적으로 성장하려면 점점 혼잡해지는 환경에서 논문을 발표해야 한다는 기대를 받습니다. 이는 전 세계적인 기대이며, 소음 속에서 두드러지려는 압박과 그에 따른 수요를 충족해야 하는 부담이 겹칩니다. 이러한 요인들이 현재 시스템이 지속 가능하지 않은 동료 평가 위기의 원인입니다.

명확히 말하면, AI 도구는 인간의 판단을 대체하기 위해 동료 평가 과정에 도입되는 것이 아니라 이를 강화하기 위해 사용되어야 합니다. 저자와 편집자는 연구와 마찬가지로 리뷰 과정에서 일정 수준의 존중과 헌신을 기대합니다.

하지만 작은 실수는 특히 리뷰어가 다수의 논문을 서두르게 검토할 때 쉽게 눈에 띄지 않을 수 있습니다. 예를 들어, 한 연구에 따르면 2020년에 전 세계 동료 평가에 1억 시간 이상, 즉 15,000년에 해당하는 시간이 소요되었습니다.

그러나 이것이 이러한 오류를 용인할 수 있는 기준으로 만든 것은 아닙니다. 데이터의 사소한 결함과 같은 미미한 실수가 독자들의 연구 품질 인식에 손상을 줄 수 있습니다.

AI는 대체제가 아니라 지원 도구이다

AI 도구는 놓치기 쉬운 미묘한 실수를 표시합니다. 인용 오류, 데이터 누락, 기존 문헌과의 잠재적 중복은 리뷰어가 놓칠 수 있는 작지만 중요한 오류의 몇 가지 예에 불과합니다.

이 도구들은 위험도가 낮은 작업을 처리하도록 설계되어, 리뷰어가 전문가 분석 및 맥락 평가와 같은 보다 고급 편집 작업에 집중할 수 있게 합니다. 도구는 제공된 데이터에 한정되지만, 전문 지식을 갖춘 인간 리뷰어는 연구를 훨씬 더 넓고 깊이 있게 맥락화할 수 있습니다. 또한 알고리즘은 분야 전문가의 미묘한 추론을 대체할 수 없으며, 그렇게 해서는 안 됩니다. 다만, 이들은 리뷰어가 겪는 낮은 위험도의 부담을 일부 완화할 수 있습니다.

AI는 리뷰어가 보다 명확하고 통찰력 있는 피드백을 제공하도록 도울 수 있지만, 현명하게 사용할 때에만 가능합니다. 인용 확인, 방법론적 문제 강조, 누락된 데이터 탐지, 이전 연구와의 유사성 발견을 지원합니다. 또한 AI 기반 검색이 새로운 지식을 지속적으로 파악하는 데 도움이 된다는 점도 리뷰어에게 매력적인 이유입니다.

하지만 무엇보다도 Elsevier의 수석 편집자와 같은 업계 리더들은 균형의 중요성을 지지합니다. 그들은 이를 리뷰 품질 향상을 위한 유용한 도구로 보지만, 윤리적으로 적용되고 항상 인간의 감독 하에 사용될 때만 허용합니다.

AI 도입의 광범위한 함의 해결

학계에서는 우려가 끊이지 않습니다. 최근 연구에 따르면 ChatGPT 이후 제출물 증가율이 42% 급증했지만, 안타깝게도 글쓰기 품질은 떨어졌습니다. 같은 연구는 동료 평가에서 AI가 편집 결정에 활용되는 방식에 대한 우려도 제기했습니다.

또한, 가이드라인과 규제는 도구가 윤리적이고 적절하게 사용되도록 기술을 따라잡고 있습니다. 개인과 출판물 모두 관련 위험을 이해해야 합니다. 이러한 도구를 남용하면 편향, 환각, 잘못된 결론 및 잘못된 인식이 보장됩니다.

학술 출판 커뮤니티는 개인정보 보호와 기밀성에도 우려를 가지고 있습니다. 외부 도구가 리뷰 과정에 통합될 때, 특히 연구에 민감한 데이터가 포함된 경우 저자들은 불안감을 느끼는 경향이 있습니다. 연구에 투입된 시간과 노력을 고려할 때 이러한 유출에 대한 불안은 이해할 수 있습니다.

이러한 이유로, 리뷰 과정에서 AI에 대한 인식은 상당히 약합니다. KPMG와 멜버른 대학교의 공동 연구에 따르면 46%의 사람들이 AI를 신뢰할 의향이 있다고 밝혀졌습니다. 이 조사에서는 또한 압도적인 다수(70%)가 규제가 필요하다고 믿는 것으로 나타났습니다.

이러한 요소들은 해결되어야 하며, 이를 위해서는 AI가 어떻게 적용되는지에 대한 교육과 투명성이 필요합니다, 동료 평가에서 사용되는 정도와 관계없이. 리뷰 과정에서 AI를 사용하는 사람은 그 모범 사례를 이해하고 전반에 걸쳐 비판적 사고를 적용해야 합니다. 리뷰어와 출판 팀은 모델 행동을 해석하고 한계를 인식하며 환각과 같은 위험을 완화할 수 있는 AI 및 데이터 리터러시 역량을 구축해야 합니다.

투명성은 도입 전략의 기본이며, 출판물과 리뷰어는 AI 활용을 명확히 설명하고 정당화할 준비가 되어 있어야 합니다. 정기적인 감사는 정확성과 신뢰성을 확인하는 데 도움이 될 수 있습니다. 또한 출판물은 모델이 어떻게 학습되었는지와 어떤 데이터가 이를 안내하는지 명시하는 것이 중요합니다. 학계에서는 저자가 항상 연구 방법과 근거를 제시해야 합니다. AI 사용에도 동일한 수준의 공개가 적용되어야 합니다.

이러한 도구들의 보안도 무시할 수 없습니다. 데이터 암호화는 잠재적인 해킹 시도와 같은 제3자 위협으로부터 필요한 사이버 보호 계층을 추가합니다. 다시 말해, 감사는 보안을 강화하는 데 필수적인 부분이며, 피해가 발생하기 전에 모든 사각지대를 포착하도록 설계되었습니다.

업계는 교차로에 서 있습니다. 전통적인 연구 검증 모델을 고수하기 위해 기술을 거부할지, 아니면 수용할지를 선택해야 합니다. 전자를 선택하면 수요가 증가함에 따라 프로세스가 무너지기까지 시간이 문제일 뿐입니다. 반면 후자는 출판사와 리뷰어가 단순히 따라잡는 것을 넘어 급증하는 수요를 앞서 나갈 수 있도록 힘을 실어줍니다.