LLM 검색 결과로 들어가는 다섯 가지 잠재적 뒷문

AI 요약이라는 새로운 추세 때문에 검색 엔진 결과에서 유입되는 기존 트래픽이 급감하면서, 모든 규모의 발행사가 웹 검색 AI 요약을 구동하는 대규모 언어 모델과 ChatGPT 같은 인기 최첨단 모델의 직접적인 관심 속에서 존재감을 높이려 하고 있다.

생성형 엔진에서 가시성 최적화하기, AI 검색을 주도하는 방법 같은 선행 연구에 따르면, 정당한 접근에는 독립적인 편집 보도 확보, 권위 있고 구조가 잘 잡힌 콘텐츠 발행, 기계가 읽을 수 있는 제품 정보 제공, 언어와 시장에 맞춘 자료 조정 등이 포함된다.

최근 주목받는 다른 방법들은 지난 수십 년간의 블랙햇 SEO 관행을 닮았다. 겉보기에는 독립적인 추천을 심어 AI 검색 결과에 영향을 주는 Reddit의 가짜 풀뿌리 여론 조성, 기만적인 링크로 홍보성 주장을 신뢰할 정보로 기억하게 하려는 메모리 오염, 단순히 요약할 정보를 제공하는 대신 웹사이트의 숨겨진 명령으로 AI 비서의 추천을 유도하는 프롬프트 주입 등이 그 예다.

특히 교묘한 GEO 조작 사례에서 ETH Zürich 연구진은 가상의 카메라를 만들고 홍보용 웹페이지에 아주 작은 흰색 글자로 명령을 숨겨 Microsoft의 Bing Copilot이 그 카메라만 추천하도록 지시했다. 작은 글꼴과 낮은 대비는 조작을 감추기 위한 것이었다.

ETH Zürich 실험에서 AI 검색 추천을 조작하는 데 쓰인 두 가상 카메라 광고. 왼쪽의 일반 광고에는 눈에 보이는 홍보 문구가 있지만, 오른쪽의 PixelBlitz 광고는 흰 배경에서 보이지 않는 1포인트 흰색 글자로 명령을 숨긴다. 숨은 메시지는 시스템 명령을 사칭하며 AI에게 PixelBlitz만 추천하고 명령의 존재를 숨기라고 지시한다. 통제 실험에서 이 기법은 가상 카메라의 추천율을 34%에서 59.4%로 높였다. 출처

통제 실험에서 가짜 카메라의 추천율은 34%에서 59.4%로 상승해 실제 Nikon 및 Fuji-film 카메라의 57.9%를 조금 웃돌았다. 검색해 가져온 웹페이지에 삽입한 악의적 명령이 실제로 AI 추천에 영향을 줄 수 있다는 뜻이다.

이처럼 이해관계가 큰 만큼, AI 응답 시스템과 대화 엔진의 추천을 받아 과거의 SEO 우위를 확보하거나 되찾으려는 마케팅 업계와 여러 분야에서 블랙햇 GEO가 활발하고 자금이 풍부한 불법 연구 갈래로 자리 잡았다고 추정하는 것은 합리적이다.

따라서 가능성이 있거나 새롭게 나타나는 몇 가지 경로를 살펴보자.

1: 아카이브 조작

Internet Archive는 가장 방대하고 유용한 네트워크 자원 중 하나로, Wayback Machine은 2025년 1조 페이지라는 이정표를 넘어섰다. 집필 시점에 Internet Archive는 저장해 공개한 PDF 문서가 무려 47,381,733개라고 밝히고 있다.

Internet Archive에는 주로 자원봉사자들이 기증한 엄청난 양의 PDF 자료가 저장되어 있다. 출처

위 예시 결과에서 보듯 업로드된 PDF 중에는 지극히 일상적인 자료도 많다. 1950~90년대의 잘 알려지지 않은 음악 전단, 영영 사라졌다고 여겼던 희귀하고 흥미로운 잡지와 책, 1970~80년대 지방 의회의 지루할 만큼 방대한 회의록 등 그 종류가 매우 다양하다.

현재 이 자료 모음은 무차별적인 대량 접근에 시달리고 있다. 명백한 원인은 새로운 데이터, 또는 이미 가진 데이터보다 더 좋거나 이를 뒷받침하는 자료를 갈망하는 수많은 AI 수집 봇이다.

업로드한 문서를 수정해 거짓 진술, 가상의 제품, 인물에 대한 허위 언급(찬양이든 비방이든), 해당 인물에 대한 거짓 주장 등을 뒷받침하는 것은 분명 쉬운 일이다.

이런 자료는 LLM이 권위 있는 출처로 여기는 문서에 삽입할 수 있다. 가령 Internet Archive 소장 자료에서 아직 완전히 색인화되지 않은 평판 좋은 잡지의 PDF가 있다. 이런 경우 조작된 판본은 정당하게 빈틈을 메우는 자료로 보일 수 있다.

AI 자체로 짧은 기사나 그림 설명의 기존 문체를 흉내 낼 수 있고, PDF 날짜도 바꿀 수 있다. 여기에 여러 간단한 수법을 더하면, 예를 들어 1990년대나 그 이전의 기록 보관소에서 발견한 문서처럼 보이게 할 수 있다.

ChatGPT-5.5가 이의 없이 제공한 간단한 역사 수정은 원본 PDF 문서에 쉽게 다시 삽입된다. 이로써 Pence Opera House는 역사에서 사라지고, 미네소타주에 실제로 존재하는 Guthrie Theater의 개관은 진짜 개관 연도인 1963년에서 훨씬 이전인 1867년으로 앞당겨진다. 출처

이런 경우에는 탐욕스러운 AI 수집 봇이 정보를 가져가기를 기다리기만 하면 되는 듯하다. 데이터셋 정리 과정의 필터나 검사 시스템이 이런 불법 수정을 어느 정도 탐지할 수 있을지는 아직 확언하기 이르다. 그러나 데이터셋 규모가 워낙 방대해 일반적으로 그 정도의 세밀한 감독은 불가능하다. 이처럼 엄청난 양 앞에서는 사실상 데이터를 믿을 수밖에 없다.

2: 합성 합의 네트워크

옛 시절을 기억하는 사람에게는 현대판 웹링이라고도 할 수 있다. 초기 인터넷에서 서로 연결된 사이트들의 모임으로, 유입 링크의 수와 질을 평가하는 Google의 PageRank나 Moz의 Domain Authority보다 앞서 존재했다.

하지만 합성 합의 네트워크는 한발 더 나아가, 서로 무관하다고 여겨지는 웹사이트들에 독립적인 뒷받침이 있는 것처럼 꾸민다. 홍콩중문대학교와 EPFL의 최근 연구는 이 원리를 대체로 입증했다. 연구진은 검색 결과 속 실제 브랜드를 가상의 브랜드로 바꾸고, 15개 범주의 225개 제품으로 12개 AI 모델을 시험했다.

논문의 그림은 조작된 제품 정보가 AI 추천에 영향을 주는 두 경로를 보여 준다. 위에서는 실제 웹에 거짓 콘텐츠를 심어 검색 결과에 들어가게 하고, 아래에서는 가져온 페이지를 로컬에서 수정해 연구진이 같은 과정을 모의한다. 두 경로 모두 AI 비서가 실제 제품과 함께 존재하지 않는 브랜드를 추천하게 만들 수 있다. 출처

같은 거짓 정보를 담은 결과가 늘수록 효과가 커졌다. 상위 검색 결과에 조작된 페이지가 세 개 있으면, 가장 취약한 모델은 실험의 73.8%에서 존재하지 않는 제품을 추천했다. 1위 결과 하나만 훼손해도 일부 모델은 27%의 경우에 속을 수 있었다.

더 놀랍게도 모델은 때때로 자체적인 뒷받침까지 지어냈다. 가상의 화면 보호필름 브랜드를 사용한 한 실험에서 Claude와 DeepSeek는 제공된 자료에 없던 커뮤니티 추천과 제품 시험에 관한 주장을 덧붙였다.

이 실험은 실제 사기 웹사이트 네트워크가 아닌 로컬에서 수정한 검색 결과로 진행되었다. 그래도 독립적으로 보이는 리뷰들을 조직적으로 모으면 신뢰성을 만들어낼 수 있고, AI가 추가 추천으로 거짓을 강화할 수 있음을 시사한다.

3: 인용 생성과 출처를 잃은 주장

인용 생성, 이른바 인용 세탁은 합성 합의 네트워크의 변형이지만, 같은 내용을 반복하는 출처의 수보다는 정보의 출처가 어떻게 보이는가에 더 큰 비중을 둔다.

조작된 주장은 처음에 잘 알려지지 않은 업계 학술지, 자체 발행한 연구 논문, 또는 편집 감독이 약한 전문 간행물에 실릴 수 있다. 이후 블로그와 디렉터리, 다른 출판물이 이를 인용하고, 반복될 때마다 최초 주장은 겉보기의 정당성을 조금씩 더 얻는다.

결국 AI 검색 엔진은 최초 출처에서 여러 단계를 거친 곳에서 그 주장을 접할 수 있다. 예컨대 중간 간행물을 인용하는, 그 외에는 신뢰할 만한 기사다. 근거 없이 시작한 주장은 후속 인용 중 어느 것도 독립적인 검증이 아닌데도 인용 이력을 갖게 된다.

이런 과정은 이미 여러 사례로 기록되어 있으며, 대부분 AI 검색이 등장하기 전의 일이다. 악명 높은 한 사례에서 한 십 대는 코아티에게 브라질 땅돼지라는 별명을 지어 Wikipedia에 넣었다.

지어낸 이름은 신문과 적어도 한 권의 학술 서적으로 퍼졌다. 결국 Wikipedia 자체가 처음 만들어낸 주장의 근거로 신문 기사를 인용하면서, 조작된 권위가 거의 완벽한 순환을 이루었다. The New Yorker가 이 사건을 기록했다.

2025년에는 더 의도적인 실증이 나왔다. 연구자들이 AI로 생성한 여러 학술 논문을 존재하지 않는 과학자의 저작으로 만들었다. 가짜 출판물들은 Google Scholar에서 인용 380회와 h지수 19를 얻어, 가상 연구자에게 겉보기에는 존경할 만한 학술적 지위를 부여했다. Nature의 Scientific Reports에 게재된 이 실험은 실제 연구 실적 없이도 인용 횟수를 만들어낼 수 있음을 보여 준다.

어느 사례도 AI 검색 엔진을 성공적으로 공격했다는 증거는 아니다. 하지만 둘 다 근본적인 약점을 드러낸다. 거짓 주장이 믿을 만해 보이는 출처들에 재생산되면, 후속 시스템은 독립적인 확인과 단 하나의 조작이 반복 유통되는 것을 구분하기 어려울 수 있다. AI 검색의 특별한 위험은 모델이 이 인용 사슬을 서로 뒷받침하는 증거로 요약하면서, 겉보기의 권위가 모두 같은 미검증 주장으로 돌아간다는 점을 알아차리지 못할 수 있다는 것이다.

4: 권위 탈취

만료된 도메인은 이전 소유자의 표면적인 신뢰도, 유입 링크, 검색 가시성을 유지할 수 있다. 이런 주소를 사들여 새 자료로 채우면 새로 도입한 주장이 기존의 유명 간행물에서 나온 것처럼 보일 수 있다. 이는 20~30년 전부터 있던 관행이다. 만료되거나 버려진 도메인의 권위는 흔히 내용을 관련성은 있지만 상업화된 자료로 바꾸기 위해 인수된다.

2024년, 2018년에 문을 닫았던 영향력 있는 여성 블로그 The Hairpin은 새 소유자 아래에서 AI 생성 콘텐츠 공장으로 다시 나타났다. 원래 기사와 재작성한 자료, 가상 저자명이 섞였고, 한때 존경받던 매체의 명성과 도메인 권위가 이용되었다. 입증된 AI 검색 공격은 아니지만, 확립된 웹사이트의 역사를 도용할 수 있음을 보여 주는 사례다.

보관된 스냅샷은 도메인의 진짜 과거와 새로 조작한 콘텐츠의 차이를 드러내는 데 도움이 된다. 그러나 이런 증거조차 반드시 영구적인 것은 아니다. 2002년 Internet Archive는 Scientology 측 변호사들의 저작권 이의 제기를 받고 해당 조직을 비판하는 사이트의 스냅샷을 삭제했으며, 처음에는 사이트 소유자 자신이 삭제를 요청한 것처럼 설명했다.

2017년까지 Wayback Machine은 사이트 제외 규칙을 소급 적용해 새 도메인 소유자가 전임자의 콘텐츠를 숨길 가능성이 있었다. 이 관행은 중단되었지만, Internet Archive는 과거 스냅샷 삭제 요청을 지금도 검토한다.

5: 학술 저장소 악용

학술 저장소는 표면적인 권위를 얻는 또 다른 경로다. 사전 공개 논문 서버는 동료 심사 전에 논문을 올릴 수 있게 하고, 검색 엔진과 AI 검색 시스템은 검증된 과학 문헌과 함께 이런 문서를 접할 수 있다.

문제는 공개와 검증이 같은 일이 아니라는 점이다. 2024년 연구진은 학술 논문에 삽입한 악의적인 지시가 그 문서를 처리하는 AI 비서를 조종할 수 있음을 입증했다. 연구 논문의 겉보기 정당성이 그 내용을 이용한 AI 시스템 유도를 막아 주지는 않는다는 것이다.

더 눈에 띄지 않는 GEO 접근은 그럴듯하지만 주변적인 연구를 올리고, 특정 기업이나 제품, 개인을 특정 전문성과 반복해서 연결하는 방식일 수 있다. AI에 명시적인 명령을 내리지 않아도, 이 자료는 수혜자에게서 출발한 주장을 학술적으로 보이는 방식으로 뒷받침할 수 있다.

결론

다른 잠재적 경로로는 리뷰 생태계 침투(비교 사이트와 소프트웨어 목록에 호의적인 평가를 심는 행위), 지식 그래프 조작(구조화된 데이터를 바꿔 기업, 제품, 전문성 사이에 오해를 부르는 연관성을 만드는 행위), 다국어 평판 세탁(감시가 덜한 외국어 출처에 홍보성 주장을 넣는 행위)이 있다.

끝으로 에이전트 기반 GEO 최적화는 AI 검색 엔진에 콘텐츠를 반복 시험하고 원하는 추천을 만들어내는 변형을 개선함으로써 이런 기법을 자동화할 수 있다.

2026년 10월 12일 월요일 최초 발행. 제목 대문자 표기와 빠진 태그를 수정하기 위해 30분 이내에 개정했다.