AI는 같은 논문을 반복해서 인용한다 – 인간과 마찬가지로

ChatGPT와 기타 AI 작문 도구가 과학을 조용히 인기 경쟁으로 전락시켜, 연구자들을 같은 논문으로 계속 이끌면서 실제로 분야를 발전시킬 수 있는 새롭고 혁신적인 작업들을 간과하고 있을지도 모른다.

단일문화, 빈도와 통계 측면에서 같은 제한된 출처나 자산이 반복해서 나타나 새로운 목소리와 신선한 관점을 잠식하는 현상이다: 라디오 편성에서의 제한된 곡들; 공항 서가에서의 동일한 저자와 책들; 슈퍼마켓에서의 제한된 선택 등이다.

네, 우리는 이 바나나만을 가지고 있다 – 바로 이 바나나들만 있다. 서구 식품 체인에서 과일과 채소의 동질성은 다양한 종의 가능성을 무시한다. 다양한 종류의 과일·채소를 산업화하기엔 생산·운송 비용이 너무 비싸기 때문이다. 출처

이 현상은 인용에서도 나타난다. 새로운 과학 연구에서 연구자들이 어쩌면 게으르게도 ‘신뢰할 수 있는’ 출처 집합에 의존하게 되면, 그 집합은 점점 더 많은 연구 분야를 장악하게 된다.

이는 매튜 효과로 알려진 사회학 이론으로, 기득권은 언제나 이익을 얻는다는 의미이다; 이 현상은 마태복음 13:12에 나온 약속과 비교되며, 말한다 ‘가진 자는 더 많이 주어지고 풍요로워지며, 갖지 못한 자는 가진 것조차 빼앗긴다’.

인기 있는 무리

AI가 강화된 연구에 대한 큰 기대 중 하나는 새로운 머신러닝 기법이 매튜 효과—일명 인기 편향을 극복하고, 덜 알려진 작업을 인용함으로써 논문이 보다 날카롭고 적절한 근거를 제시하도록 만드는 것이었다.

하지만 AI 학습 루틴이 데이터셋을 해석하는 방식 때문에 이러한 낙관은 근거가 없었으며, AI가 인용을 만들어내는 경우가 드물 때조차도 만성적인 문제인 지속시키는 매튜 효과를 인간과 마찬가지로 재현한다 – 다만 이유는 다를 수 있다.

훈련 과정에서 모델은 훈련 세트 내에서 가장 많이 인용된(또는 ‘가장 자주 반복된’) 논문을 높은 순위에 두도록 학습한다. 이는 훈련 루틴이 의미 있는 패턴을 끌어내고 이상치를 무시한다는 점에 기반한다.

이 체계 하에서는 아인슈타인의 상대성 이론과 같은 혁신적인 연구가 기계에 의해 주목받지 못한다. 일단 훈련이 완료되면 모델은 이미 자신의 원칙과 참조를 찾았다고 판단하고, RAG와 같은 방법이나 기타 수단을 통해 최신 논문에 접근하더라도 기존에 알고 있던 ‘오래된 즐겨찾기’와 같은 방식으로만 새로운 작업을 다룰 뿐이다.

문제는 모델이 새로운 작업을 기존의 ‘오래된 즐겨찾기’와 같은 방식으로, 혹은 전혀 인용하지 않는다는 점이다. 이는 통계적 편향이 이미 깊게 자리 잡았기 때문이다.

따라서 AI가 매튜 효과를 재현하는 것은 인간 행동을 관찰하고 모방하는 것이 아니라, 연구자들이 게으르게 동일한 오래된 논문을 선택하는 횟수를 세고 그 논문들을 높은 순위에 올리는 것이다. 이와 관련해 인용 반복 문제는 선택의 어려움과도 연결된다. AI 연구 논문이 폭증하는 눈보라 속에서 가장 강력한 작업이 종종 가장 약한 신호를 보이기 때문이다.

단일문화 진단

미국에서 발표된 흥미로운 새로운 논문 When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models가 이 문제를 다룬다. 텍사스 대학교 오스틴, 스티븐스 공대, 워싱턴 대학교 세인트루이스, 라이스 대학교, 노틀담 대학교가 공동으로 진행한 이 연구는 머신러닝에서 인용 단일문화가 존재한다는 것을 명확히 증명하고, 향후 변수들을 직접 다룰 수 있는 가능성을 제시한다.

실험 결과, OpenAI, Google, Anthropic의 11개 모델이 같은 소수의 논문을 반복적으로 선호한다는 것이 밝혀졌다 – 명백한 인기 신호가 제거된 후에도 마찬가지였다.

이를 검증하기 위해 120편의 실제 논문에서 인용 횟수와 출판 매체 정보를 제거하고, 저자 이름을 가명 처리했으며, 출판 연도도 무작위로 재배정했다. 그런 뒤 무작위로 선정된 30편의 논문을 각 모델에 제시하고, 모델이 최대 10편만 인용하도록 제한했다.

관련 분야의 8명 인간 전문가에게도 동일한 블라인드 논문을 제시했지만, AI와는 달리 동일한 즐겨찾기로 수렴하지 않아 편향이 AI 모델에 특유한 것임을 확인했다:

새 논문에서 AI 모델과 인간 전문가의 인용 선택을 비교한 테스트 결과. 11개 모델 모두 인용이 소수의 논문에 집중됐으며, 일부 논문은 완전히 무시되었다. 인간 전문가들은 이런 경향을 보이지 않았다. 출처

모델에게 참고문헌만 선택하도록 요청했을 때도 같은 논문이 인기를 유지했으며, 이는 리뷰 자체를 작성하는 과정이 편향을 유발한 것이 아님을 보여준다.

그 후 실험을 11라운드에 걸쳐 확장했으며, 각 라운드마다 120편의 AI 작성 논문을 추가해 AI 생성 연구 풀의 성장에 따른 공유 선호도가 어떻게 변하는지 살폈다.

AI 작성 논문이 추가될수록 모델은 원래 인간 논문 중 소수에 인용을 더욱 집중했다.

저자들은 다음과 같이 밝혔다:

‘언어 모델이 문장 초안을 작성하는 단계에서 문헌 검색 에이전트를 도구 호출과 함께 운영하게 되면, 조작된 참고문헌을 포착하고 제한하는 것이 점점 쉬워진다.’

‘더 어려운 실패는 모든 후보가 실제가 된 이후에 시작된다. 서로 다른 모델이 여전히 같은 좁은 하위 집합을 선택할 수 있어, 단일 인용이 잘못된 것이 아니라 인용 단일문화가 발생한다.’

문제 해결을 위해 논문은 단순히 다른 공급업체의 모델을 혼합하거나 논문에 동등한 노출을 주는 것만으로는 충분하지 않다고 주장한다. 선호가 모델 전반에 공유되기 때문이다. 대신 특정 논문에 대한 근본적인 선호를 바꿔야 하는데, 이는 소외된 논문에 더 큰 가시성을 부여하는 방식일 수 있다. 그러나 저자들은 이 접근법이 아직 검증되지 않았다고 강조한다.

테스트 접근법

벤치마크는 2015년부터 2022년 사이에 arXiv에 게재된 120편의 실제 지식 증류 논문을 수집해 구축했다. 각 논문은 수집 시점에 50~500회의 인용을 가지고 있었으며, 이는 너무 희귀하거나 지나치게 영향력 있는 작업을 배제하기 위한 기준이다.

실험은 가용 컬렉션에서 무작위로 30편을 추출하고, 저자명·출판 연도·인용 횟수를 숨긴 뒤 진행했다. 각 모델은 최대 10편만 인용하는 짧은 리뷰 또는 입장문을 작성했으며, 이러한 선택을 동일 자료에서 무작위 선택과 비교했다:

인용 선호도를 테스트하기 위한 방법 스키마. 식별 정보가 숨겨진 30편의 무작위 논문을 모델에 제시하고, 모델은 최대 10편을 인용할 수 있었다. 선택은 무작위 선택과 비교했으며, 각 라운드마다 120편의 AI 작성 논문이 다음 라운드 컬렉션에 추가되었다.

확장 실험에서는 각 라운드마다 120편의 새로 생성된 논문이 컬렉션에 추가돼 AI 작성 연구 비중이 점차 증가했다.

예비 테스트에서 모델은 제시된 논문 대부분을 인용하는 경향을 보였으며, 보통 30편 중 22~27편을 선택했다. 따라서 본 실험에서는 인용 수를 최대 10편으로 제한해 모델이 보다 선택적으로 인용하도록 강제했다.

아래는 실험 설계 요약이다:

인용 선호도를 테스트하기 위한 실험 설정. 연구는 120편의 실제 논문으로 시작해 세 공급업체의 11개 모델을 무작위 30편 세트와 최대 10번 인용 제한으로 테스트했다. 이후 라운드에서는 AI 생성 논문을 추가해 컬렉션을 1,440편으로 확대했다.

초기 실험에서는 세 주요 공급업체의 11개 모델을 사용했다: OpenAI는 GPT-5, GPT-5 mini, GPT-4.1, GPT-4.1 mini를 제공했으며, Google은 Gemini 2.5 Pro, Gemini 2.5 Flash, Gemini 3.1 Pro, Gemini 3.1 Flash-Lite를, Anthropic은 Claude Opus 4.8, Claude Sonnet 4.6, Claude Haiku 4.5를 사용했다.

아래 테스트 결과에서는 각 모델이 얼마나 작은 논문 그룹에 인용을 집중했는지, 몇 편의 논문을 완전히 무시했는지, 그리고 실험을 반복했을 때 얼마나 일관된 선택을 했는지를 보여준다:

각 모델이 특정 논문에 인용을 얼마나 집중했는지와 완전히 무시한 논문 수를 보여주는 테스트 결과. ‘Top-10% 비율’은 12편의 가장 선호된 논문에 할당된 인용 비율을 나타내며, ‘HHI’는 전체 인용 집중도를 측정한다. ‘Reliability’는 각 모델이 테스트 전반에 걸쳐 동일한 논문을 얼마나 일관되게 선호했는지를 보여주고, ρ는 모델 간 선호도가 얼마나 유사한지를 나타낸다. ‘Matched null’ 행은 무작위 선택 시 기대되는 값을 나타낸다.

모델이 실제로 선호하는 것은 무엇인가?

선호는 압도적으로 논문 자체의 내용에 의해 좌우된 것으로 나타났다. 예를 들어 GPT-5 mini의 경우, 논문이 선호되는 변동성의 약 90%가 내용에 기인했으며, 리스트 순서, 생성 잡음, 혹은 조작된 메타데이터와 같은 요인은 거의 영향을 미치지 않았다. 동일한 ‘지배적 내용’ 효과는 GPT-4.1 mini에서도 재현되었다.

제목과 초록을 의미를 유지하면서 크게 재작성했음에도 선호 지도는 거의 변하지 않았다. 네 차례의 성공적인 패러프레이즈 테스트에서 0.95–0.99의 높은 상관관계가 얻어졌으며, 이 과정에 사용된 모델은 세 공급업체의 다양한 모델이었다.

선호 지도에 변화가 나타난 것은 근본적인 의미가 측정 가능하게 바뀌었을 때뿐이었다:

11개 모델 간 인용 선호도를 비교한 테스트 결과. 숫자는 각 모델 쌍이 동일한 논문을 얼마나 비슷하게 선호했는지를 나타내며, 값이 높을수록 일치도가 높다. 모델 및 공급업체 간 차이에도 불구하고 전체적으로 유사한 선호가 관찰되었다.

따라서 모델은 특정 문구보다는 의미적 내용에 주로 반응하는 것으로 보인다. 그러나 강한 일치의 원인은 확정적으로 밝혀지지 않았다.

저자들은 훈련 과정에서 공통된 인용 합의가 흡수되었을 가능성을 제시한다. 또 다른 가능성은 ‘인용할 만한’ 논문에 대한 판단이 독립적으로 도출되었을 수도 있다는 것이다.

따라서 공유된 선호가 존재함은 확인됐지만, 그 궁극적인 기원은 아직 알 수 없다.

저자들은 AI가 연구에 널리 사용될 경우, 다양한 모델이 동일한 논문을 선호함에 따라 주목받는 작업의 범위가 좁아질 수 있다고 경고한다. AI 생성 문헌이 축적됨에 따라 이러한 공유 선호는 반복 인용을 통해 더욱 강화될 것이며, 덜 선호되는 연구는 발견되기 어려워진다. 따라서 인용 다양성 확보와 인용 집중도 모니터링을 가능한 방어책으로 제시한다.

연구의 재귀적 인용 집중도 벤치마크는 현재 GitHub에서 확인할 수 있다.

결론

Opinion AI 연구 논문을 매주 다수 읽는 사람으로서, 나는 ‘인용 파동’이 오고 가는 것을 목격했다. 지속적으로 등장하는 대표적인 예는 구글의 Attention Is All You Need, 즉 원조 트랜스포머 논문으로, 이제는 논문 제출 템플릿에 하드코딩될 정도다.

또 다른 반복적인 인용은 오랫동안 2014년 발표된 Generative Adversarial Networks였으며, 이후 Denoising Diffusion Probabilistic Models와 같은 확산 기반 연구가 빈도면에서 이를 대체했다.

거의 모든 경우에 이러한 ‘반복’ 인용은 본질적으로 틀린 것은 아니지만, 인용되는 논문이 너무 광범위하게 적용돼 해당 논문을 실질적인 근거로 삼기에 충분히 유용하지 않을 때가 많다. 이런 의미에서 이는 일종의 ‘인용 세탁’과 같다 – 신뢰성을 부여하려는 낮은 노력으로 ‘신뢰할 수 있지만 주로 장식적인’ 출처 인용을 포함하는 행위다.

첫 번째 게시일: 2026년 8월 24일 월요일