인간화의 산업화

Upwork와 Fiverr와 같은 캐주얼 작업 플랫폼의 Gig 게시물과 서비스 제공에는 요즘 ‘humanize’라는 단어가 많이 등장하며, 다양한 작업과 제공자가 AI로 작성되었거나 부분적으로 작성되었거나 공동 작성된 기사라는 사실을 은폐하는 수준의 서비스를 제안하고 있다.

Upwork 실제 게시물에서 나타나는 ‘Humanize’ 트렌드.

AI‑‘오염된’ 출력을 인간이 몇 시간 동안 앉아서 땀을 흘리며 쓴 것처럼 보이게 다시 쓰는 인간 및 자동화 서비스에 대한 수요는 ‘인간의 손길’이 연결과 홍보에 필요하다는 보편적 합의에 도달했으며, AI 시대의 방대한 콘텐츠 양이 그 연결을 다시 필수적으로 만들 것이다.

개인적으로는 그렇게 생각하고 싶지만, 반드시 그렇지는 않다 – 특히 구글 자체 가이드라인이 텍스트의 품질을 다루고 있기 때문이며, 텍스트가 어떻게 생성되었는지는 고려하지 않는다.

사실 우리는 현재 정확히 얼마나 그리고 어떤 종류의 AI를 감당할 수 있는지, 혹은 매일 AI로부터 얻게 되는 수십억 명의 이익을 기술의 광범위한 함의와 관련된 ‘complicity’와 도덕적 유혹이라는 느낌에 대해 얼마나 합리화할 수 있는지 알지 못합니다.

앞서 언급한 구인 공고도 이를 반영한다; 그곳에서 창작자와 기업은 자동화를 갈망하고 있는데, 이는 대규모 출판을 원하기 때문이며, 구글이 순위 알고리즘에서 명시적으로 처벌하겠다고 약속한 바로 그 관행이다. 동시에 그들은 ‘인간화의 산업화’를 위한 자동 및 인간 기반 방법을 모두 찾고 있다.

그것은 스티븐 라이트의 신경다양성 1980년대 코미디 루틴 중 가장 웃긴 농담 중 하나를 떠올리게 한다.

‘우리 집에는 전자레인지 벽난로가 있다. 나는 불 앞에 누워서 저녁을 단 8분 만에 보낼 수 있다.’

다가올 슬롭의 형태

보통 이러한 생각은 내가 매일 Arxiv를 뒤지는 데서 영감을 얻는데, 오늘은 특히 마케팅 자동화 회사 Sitefire의 Jochen Madler가 쓴 paper SlopShape: Identifying AI-Generated Commercial Web Content에 주목했다.

나는 보통 단독 저자의 논문을 ‘프랑켄슈타인’ 원칙 때문에 할인하지만, 이 논문의 전제는 간결하고 테스트 방법론은 견고하다.

연구는 본질적으로 AI가 생성한 게시물을 완전히 다시 작성해도 인간이 수정했더라도, 단어 수준을 훨씬 넘어서는 수준의 독특한 구조적 서명을 유지한다는 것을 말한다. 이는 어떠한 재구성이나 표면적인 텍스트 수정으로도 지워질 수 없는 특징적인 ‘형태’를 포함한다.

인간과 AI가 작성한 게시물의 구조적 패턴 비교. 인간 글은 더 희귀한 구조 조합을 사용하는 반면, 다섯 AI 모델 모두 보다 전통적인 조합을 선호한다. 출처

명백히 이 문제(문제라고 생각한다면)를 피하려면 직접 글쓰기 과정을 계획하고, AI를 전혀 사용하지 않거나 스스로 계획한 개별 요소에만 사용하는 것이 가능하다.

하지만 Upwork의 난폭한 광고가 증명하듯, 이것이 원하는 바는 아니다; 이러한 게시물의 어조에서 기사 내용이 AI에 의해 구조화될 뿐만 아니라 구상된 것이 바람직하다고 추론할 수 있다 – 즉, LLM이 기업이나 단체의 전반적인 목표에 맞는 적절한 주제를 제안한다는 의미이다.

이후 AI가 다양한 진행 초안을 생성하고, 인간의 손길은 마무리와 가벼운 인간미를 더하는 데만 개입하게 된다(이 과정이 궁극적으로 파이썬 워크플로우로 진화하기를 바란다).

눈에 띄는 특징

새 논문의 저자는 2020‑2022년, ChatGPT가 출시·확산되기 직전의 수천 개 기업 블로그 게시물을 수집하고, 그로부터 프롬프트를 추론함으로써 이러한 통찰을 얻었다.

즉, 그는 Gemini 3 Flash를 사용해 실제 인간이 쓴 논문을 읽고, 주요 LLM 중 일부인 GPT5.4, Kimi 2.5, DeepSeek V3.2, Claude 4.6, 그리고 Gemini 3에서 유사한 작업을 생성하도록 설계된 프롬프트를 역공학했다.

이 프롬프트를 사용해 실제 인간 게시물 각각에 대해 다섯 개 AI 버전을 만들었고, 그로부터 features를 추출해 다섯 모델 전반에 걸친 LLM 고유의 ‘형태’를 설명하게 되었다; Madler는 ‘AI 게시물은 깔끔하고 자체를 알리는 형태를 공유한다’고 언급한다.

전체 연구는 이번 8월에 진행된 COLM 2026의 StoryScope project를 재실행한 것으로, University of Maryland와 Google DeepMind의 협업이며, 본질적으로 동일한 방법론을 소설에 적용하여 AI가 생성한 이야기가 인간이 쓴 이야기보다 더 좁고 예측 가능한 서사 구조 범위에 수렴한다는 결과를 발견했습니다:

StoryScope 연구에서, 인간과 AI가 생성한 소설의 서사 패턴을 비교한 산점도. 인간이 쓴 이야기는 뚜렷한 영역을 차지하고, 다섯 주요 AI 모델의 이야기는 더 가깝게 군집하여 기본 서사 선택이 더 유사함을 나타냅니다. 출처

Madler는 기업 블로그에 StoryScope를 재실행하기로 결정했는데, 이는 소설 창작이라는 보다 특이한 분야에 비해 이러한 블로그를 자동화하려는 막대한 재정적 동기가 존재하고, 이미 자동화가 상당히 진행되어 있기 때문입니다 (2026년 5월까지 온라인 콘텐츠의 50%가 자동화되었다는 a Graphite study에 인용된 바와 같이).

가장 흥미로운 분석은 2022년 이전 인간이 쓴 게시물을 기반으로 AI가 만든 자료에서 추출된 특징들을 분해하는 것입니다:

‘AI 모델이 가장 흔히 생성하는 값들은 우리가 “정돈된, 스스로를 알리는 블로그 포스트”라고 부르는 형태로 모여 있습니다: 제목에서 이미 결과를 약속하고, 논지를 제시하며 첫 섹션 전에 구조를 알리고, 편집자‑설명자 어조로 말하며, 마지막에 논지를 요약하거나 재진술하는 단계로 마무리됩니다.’

‘전형적인 AI 포스트에서는 결과가 제목에 약속됩니다: “온보딩 시간을 절반으로 줄이는 방법”. 논지는 제시되고 흐름은 첫 섹션 전에 알립니다: “이 포스트에서는 온보딩이 지연되는 이유, 효과적인 세 가지 해결책, 그리고 차이를 측정하는 방법을 다룹니다.”’

‘그리고 마무리는 논지를 재진술합니다: “요컨대, 구조화된 온보딩은 시간을 절약합니다.” 인간 중심의 가치들은 이러한 신호등이 없는 포스트를 설명합니다: 섹션 흐름이 알리지 않으며, 중요도가 상승하지 않고, 논지를 재진술하는 마무리 섹션도 없습니다.’

잘못된 전제

우연히도, 설명된 템플릿에 존재하는 대부분의 관용구와 클리셰는 LLM 이전 마케팅 현장의 SEO에 집착한 제한에서 유래했습니다. AI가 이러한 습관을 어디서 배웠다고 생각합니까?

템플릿 마케팅 카피는 항상 혐오되었습니다, AI가 등장하기 훨씬 전에, 그리고 항상 대규모로 생산되었습니다, 기계가 이를 잘 수행할 수 있기 훨씬 전에; 그리고 SEO 관행에 맞추어야 하는 요구 때문에, 키워드 배치와 링크의 정교한 설계와 같은 끔찍한 관례가 확립되었습니다.

후자의 경우, AI는 잘못된 교훈을 배웠을 가능성이 있습니다. 훈련에 사용된 텍스트 전용 말뭉치에서는 원본 자료에 포함된 전략적 다이어그램, 시각적 설명과 같은 SEO 중심 전술, 특히 하이퍼링크가 많이 제거되었기 때문입니다.

기사의 전체 섹션이 클라이언트가 홍보하고자 하는 하이퍼링크나 YouTube 삽입을 강조하도록 제작되었을 수 있습니다; 그러나 해당 데이터가 LLM에 학습될 때까지는 삽입물이나 링크가 제거되고, 이를 강조하도록 만든 텍스트는 원래 맥락을 잃게 됩니다.

따라서, 이러한 자료를 중심으로 훈련 방법론을 설계하는 데 있어 가장 큰 오류는 웹 콘텐츠를 19세기 문학(완전히 자체 의존)처럼 취급하고, 멀티미디어(비디오, 하이퍼링크, 일러스트와 같은 텍스트 외 요소에 크게 영향을 받음)로 보지 않은 것이었습니다.

다른 큰 오류는 이미 사람들이 혐오했던 자료를 학습에 사용한 것이며, 그 자료는 아마도 이제는 유효하지 않은 규칙에 의해 비인기 형태로 강제되었습니다.

주의, 인간들

그럼에도 불구하고, Upwork 트렌드를 믿는다면, 동일한 콘텐츠에 대한 상당한 수요가 있으며, 이는 LLM에 의해 대규모로 생산되고, 가능한 가장 비특이적인 프로세스를 통해 ‘인간화’되어 가장 빠른 속도와 가장 낮은 비용으로 제공됩니다.

이 모든 것은 주의 효과를 만들기 위함입니다: 즉, 최소한 내분비 시스템을 가진 당신 같은 사람이 몇 시간 앉아 당신에게 전하고 싶은 말을 생각한다는 개념입니다.

인간의 주의를 받는다는 인식은 도움이 되지 않을 때조차 우리에게 의미가 있습니다; 따라서 이는 확실히 산업화할 가치가 있습니다.

Madler의 논문이 상황을 악화시킬 가능성이 있다고 느끼지 않을 수 없습니다. 왜냐하면 이 논문은 현재는 추정컨대 더 많은 AI로 해결될 수 있는 특성적인 고차원 특성을 식별하고 있어, 모델이 진화함에 따라 기본 서명이 보다 인간적인 형태를 띨 것이기 때문입니다.

2026년 9월 17일 목요일 최초 게시