Anderson의 관점

철저한 거부: AI를 용납할 수 없는 오염원으로 보는 집단들

Martin Anderson
Unite.AI를 Google의 선호 소스에 추가
AI-generated image, Z-Image Turbo via Krita Diffusion AI + Photoshop 2023 (no-AI): 'Interior. Photo of two burly US military guards, standing sentry with large automatic rifles, outside a huge and complex bank vault door, stock image. The bank vault door is made of thick steel and seems impenetrable'
핵심 포인트기술의 보편적이고 종종 탐지하기 어려운 특성으로 인해 AI에 대한 완전 금지(zero-tolerance)는 실질적으로 불가능에 가깝습니다.
더 보기
  • 기술의 보편적이고 종종 탐지하기 어려운 특성으로 인해 AI에 대한 완전 금지(zero-tolerance)는 실질적으로 불가능에 가깝습니다.
  • Bandcamp나 Comic-Con과 같은 조직들은 불확실한 경제 및 저작권 환경 속에서 법적 조치 이전의 예방적 수단으로 금지 조치를 시행하고 있습니다.
  • 기업들의 ChatGPT 금지 조치는 주로 훈련 데이터에 대한 윤리적 우려보다는 지식재산권 보안에 대한 두려움에서 비롯되고 있습니다.

AI 생성 콘텐츠에 대한 ‘무관용’은 AI를 둘러싼 법률·윤리·이용자 우려가 커지면서 점점 매력적인 선택지가 되고 있다. 하지만 이렇게 완전히 거리를 두는 것이 현실적으로 가능한가?

 

논평  최근 소셜 미디어와 각종 온라인 토론 게시판을 이용하는 사람이라면 생성형 AI 사용을 전면 금지하는 커뮤니티와 게시판, 전문 단체가 늘고 있음을 느꼈을 것이다. 기술의 경제적 영향이 2023년 시위로 오늘날의 우려를 촉발했던 예술가와 작가의 범위를 넘어 확산되고 있기 때문이다.

AI 혁명의 법적·경제적 결과는 여전히 불확실하지만, 이용자와 내부 법률 고문 양쪽에서 압력을 받는 조직은 전체 상황이 명확해지기 훨씬 전에 정책을 결정해야 한다. 도입이 늦어지면 경쟁에서 불리해질 수 있다는 인식이 확산되면서 상황은 더욱 복잡해지고 있다.

독기처럼 퍼지는 AI

금지 결정은 정치적 판단이며 그에 따른 결과가 있다. 그러나 금지를 실행할 능력에는 정치적 문제와 현실적 함정이 함께 따른다. 사람들이 진정 원하는 것을 금지해 온 역사는 좋게 봐도 성공과 실패가 엇갈리기 때문이다. 심지어 아무도 원하지 않는 것을 없애는 일조차 장기적이고 지속적인 노력이 필요하다.

따라서 러다이트 운동의 역사가 오랫동안 오해받아 온 탓에, AI의 흔적을 조금도 용납할 수 없다고 여기는 커뮤니티와 조직은 AI 금지를 발표하거나 논의할 때 흔히 방어적인 태도를 보인다.

아미시 공동체가 지난 몇 세기 동안 경험했듯이, 실제로 큰 영향을 미치는 기술에 맞서 고립된 태도를 유지하기는 어려울 수 있다. 엄격히 말하면, 예를 들어 비건 원칙을 따르는 사람은 전통적인 셀룰로이드 필름으로 촬영한 영화를 볼 수 없으며, 검사로 엑스레이를 찍을 수도 없다. 마찬가지로 불소화를 시행하는 국가나 도시에서 이를 피하는 일도 어려울 수 있다.

널리 보급되고 인기 있는 기술은 사실상 ‘대기’와 같은 현상이 되어, 점점 더 많은 단체와 조직이 설정하는 경계 안에 쉽게 가둬 둘 수 없다.

법적 확정에 앞선 조치

앞서 언급했듯이 AI의 침투에 맞선 첫 싸움은 생성형 AI 가운데 가장 비결정적이고 해석의 여지가 큰 분야인 엔터테인먼트에서 벌어졌다. 미국 배우·방송인 노동조합 SAG-AFTRA가 2023년 조합원 권익 보호를 위해 싸웠을 때, 결국 얻어 낼 수 있었던 것은 몇 가지 주목할 만한 양보였다.

그 이후 AI와 관련해 이처럼 결정적인 승리는 매우 드물었으며, 여러 분야에서 법적 명확성을 확보하려는 싸움은 이제 시작이다. 예를 들어 딥페이크에 관한 새 법률 대부분은, 특히 영국과 미국에서 나온 법률은, 진짜든 가짜든 당사자 동의 없는 이미지와 같은 더 넓은 범죄 유형에 AI를 포함하는 정도다.

SAG-AFTRA의 승리 직후부터 다른 분야 예술가들의 작품 사용을 둘러싼 여러 소송이 계속 진행되고 있다. 한편 관련 불만 단체 상당수는 자체 규칙을 마련하며 법적 확인을 앞서 준비하고 있다.

AI를 ‘전혀 용납하지 않는’ 태도의 논리와 제약을 더 살펴보기 전에, 이런 정책이 실제 시행되는 사례부터 보자.

AI에 대한 무관용 금지

반대의 음표

이번 달 밴드캠프는 주요 온라인 음악 플랫폼 가운데 처음으로 AI 콘텐츠를 전면 금지했다. 금지 발표문에는 다음과 같은 내용도 담겼다. ‘전부 또는 상당 부분을 AI로 생성한 음악과 오디오는 밴드캠프에서 허용되지 않는다.’

이 제한도 거의 모든 유사 사례와 마찬가지로, 앞서 언급한 광범위한 AI 시스템의 ‘독기’ 효과 때문에 약간의 여지를 둘 수밖에 없다. 발표의 다른 부분에서는 금지 대상이* ‘보기에 전부 또는 상당한 의존도를 두고 생성형 AI로 만들어진 음악’이라고 명시한다. 이는 현실적인 한계 설정이다. 대부분의 분야에서 적어도 일부 생성형 AI 콘텐츠는 사람뿐 아니라 끊임없이 발전하는 AI 탐지 업계에도 전적으로 사람이 만든 것처럼 보일 수 있기 때문이다.

사실상 이것이 새로 시행되는 ‘무관용’ 정책 대부분의 기본 형태다. 이런 어려운 상황에서는 AI가 쓰였다는 사실을 몰랐다는 것이 실제로 변명이 된다는 뜻이다.

AI가 만든 음악이 스웨덴 차트를 휩쓴 사건 이후 스웨덴 음악산업 단체 IFPI 스웨덴은 AI 생성 음악의 차트 진입을 금지했다. 다만 통상적인 단서를 붙여 다음과 같이 밝혔다.* ‘우리 규칙에 따르면 노래가 주로 AI로 생성됐다면 상위 차트에 오를 자격이 없다.’

여기서도 AI를 완전히 금지하려는 희망이 비현실적임을 인정한다. 금지는 암묵적이고 전면적이지만, 실제 집행은 사실상 불가능하다.

만화계에 미친 영향

지난 1년 동안 미국을 비롯한 여러 지역의 만화 행사에 생성형 AI 콘텐츠 금지 물결이 번졌다. 2024년 AI 제작 미술품에 상업적 제한을 뒀던 샌디에이고 코믹콘은 이번 달 AI 콘텐츠를 아예 금지한다고 발표했다. 예술가들의 항의에 대응한 조치로 알려졌다.

마찬가지로 지난해 10월 뉴욕 코믹콘은 AI 생성 제품이나 콘텐츠 판매를 전면 금지했다. 공식 사이트의 설명은 다음과 같다.*

‘생성형 인공지능 도구나 알고리즘을 이용해 전부 또는 상당 부분 제작한 제품·자료·콘텐츠(“AI 생성물”), 또는 AI 생성 요소를 포함하는 제품·자료·콘텐츠는 뉴욕 코믹콘에서 판매용으로 제공할 수 없다. 여기에는 시각예술 작품, 이미지나 그래픽, 애니메이션 및/또는 자료 등이 포함되며 이에 한정되지 않는다.’

여기서도 ‘상당 부분’이라는 문구는 오늘날 어떤 작품이든 창작 과정 전체의 출처를 파악하기 어렵다는 점을 인정한다. 이는 샌디에이고가 나중에 AI 콘텐츠를 전면 금지하기 전, AI 결과물의 상업화를 먼저 금지했던 조치와 통한다. 그럼에도 대부분의 경우 이 접근은 AI 콘텐츠를 플랫폼에서 배제하는 데 상당히 효과적이다. 다만 그런 작품이 여전히 상업 플랫폼의 입력 자료로 쓰일 수는 있다.

또한 팬엑스 솔트레이크 만화 행사는 지난해 9월 AI 콘텐츠에 대해 더 단호한 금지를 도입했다. 창립자 겸 제작자 댄 파는 이렇게 말했다.

‘고객이 작품을 사면서 제작에 생성형 AI가 사용됐다는 것을 모른다면, 실제로는 그만큼 가치가 높지 않은 작품에 큰돈을 지불할 수 있다.’

소셜 미디어의 거부감

많은 온라인 커뮤니티도 AI 생성 콘텐츠에 무관용 원칙을 적용한다. 이는 대중에게 가장 잘 드러나는 AI 불관용의 한 측면이다. 나 역시 이런 금지가 잦아지는 모습을 보고 이 주제에 관심을 갖게 됐다.

페이스북에서 볼 수 있는 전형적인 AI 금지 규정. 출처: https://www.facebook.com/groups/1416546745305397/posts/3754074121552636/

페이스북에서 볼 수 있는 전형적인 AI 금지 규정. 출처

레딧은 특히 큰 영향을 받았다. 각종 대형 서브레딧의 운영자들은 AI 생성 게시물이 게시판에 쏟아져 제한된 인적 관리 자원을 과도하게 소모하자 AI가 만든 이미지, 미술품, 소설이나 프로그래밍 같은 텍스트 형태를 모두 금지하곤 했다.

매우 이른 사례는 2022년 r/Dune 서브레딧이다. AI 이미지가 넘쳐 나자 약 25만 명의 팬이 AI 생성 미술품을 전면 금지하는 데 찬성표를 던졌다. 당시 운영자들은 다음과 같이 설명했다.

‘이런 작품 중 상당수가 보기 좋고 기술도 분명 흥미롭다는 점은 인정한다. 그러나 엄밀히 말하면 이는 적은 노력을 들인 콘텐츠에 해당한다. 특히 앞으로 우리가 우선시하고자 하는 독창적인 인간 제작 미술품과 비교하면 그렇다.’

그 이후 r/lego부터 r/DataHoarder까지 수많은 서브레딧이 일부라도 AI로 만든 콘텐츠는 발견 즉시 삭제한다고 선언했다. 물론 알아볼 수 있는 경우에 한해서다.

페이스북에서도 비슷한 금지가 자주 나타난다. 다만 페이스북 모회사 메타는 세계적인 AI 선도 개발사인 반면, 레딧은 지속해서 생산되는 인간 작성 데이터의 인기 있는 공급원으로서 치열한 확보 경쟁의 대상이다. 그래서 이런 금지는 상대적으로 논란이 적은 편이다.

놀랍게도 메타는 AI에 대한 일반 대중의 정서를 따라잡는 데 시간이 걸린다. 예를 들어 1년 전에는 AI 에이전트가 여러 타임라인에 글을 올리는 실험에서 이용자들의 부정적 반응 때문에 크게 물러섰다.

데이터 유출 우려에 따른 ChatGPT 금지

‘절대적’ AI 금지의 특수한 유형 가운데 하나는 기업이나 민감한 환경에서 ChatGPT 사용을 흔히 금지하는 것이다. 이런 의미에서는 클라우드에서 실행되고 API로 접근하는 다른 언어 모델, 예를 들어 Claude나 Gemini에도 같은 논리가 적용된다.

그러나 이런 금지는 대개 학습 데이터 착취에 대한 자유주의적 우려 때문이 아니라, 우려 때문이다. 즉, 클라이언트 채팅에서 공개한 기업의 민감한 지식재산을 OpenAI가 결국 저장하거나 처리하고, 심지어 활용할 수 있다는 걱정이다.

법무 부서는 ChatGPT형 플랫폼에 대한 기업 차원의 금지를 지지하거나 주도할 수 있다. 동시에 공개 웹 데이터를 상업 시스템 학습에 사용하면 기업이나 고객이 나중에 법적 책임을 질 가능성도 검토할 것이다. 특히 OpenAI나 유사 기업을 상대로 진행 중인 소송에서 중대한 판결이 나오는 경우라면 그렇다.

ChatGPT 금지† 사례로는 2023년 Apple (AAPL ), Amazon (AMZN ), 스포티파이, 웰스 파고 등 여러 기업이 보인 반응성 금지의 물결을 들 수 있다. 같은 해 시스코 조사에서는 응답 조직의 27%가 비슷한 금지를 도입한 것으로 나타났다. 이는 ChatGPT만을 특정한 금지가 아니라 생성형 AI 사용 전반에 대한 금지였다.

2024년 다른 조사에서는 상위 20개 제약사 가운데 65%가 직원의 ChatGPT 사용을 금지한 것으로 나타났다.

여기에 나온 기업 상당수, 어쩌면 전부가 자사 이익에 더 맞는 방식으로 AI의 혜택을 얻으려 할 가능성이 크다는 점은 분명하다. 많은 기업이 내부용 AI 제품을 유지하거나 개발하고 있을 것이며, OpenAI보다 지식재산 보호가 나은 상업용 API 제품을 만들고 있을 수도 있다.

AI를 적극 지지하는 많은 정부도 ChatGPT를 금지한다. 쿠바나 북한처럼 이런 금지의 예상 가능한 대상도 있지만, 현재 AI 혁명의 선두 주자로 평가받는 중국도 정부 차원에서 ChatGPT를 금지한다. 아마 국내 대안을 우선하려는 조치일 것이다.

결론: 무관용에 관하여

AI에 대한 ‘절대적’ 금지 추세에서 한 가지 우려는, AI 콘텐츠 식별의 어려움 외에도 타협 없는 금지가 실제로 효과적인지 여부다. ‘무관용’이 정확히 무엇인지, 무엇을 달성할 수 있는지, 또 목표를 이룰 수 있는 상황이 얼마나 제한적인지를 오해하기 쉽다.

예를 들어 ‘무관용’이라는 표현과 가장 강하게 연결되는 도시인 뉴욕은 1970~1980년대 범죄로 얼룩진 최악의 시기에서 벗어날 수 있었다. ‘깨진 창문’ 심리 이론을 점진적이고 지속적으로 적용한 결과였다. 이 이론은 동네가 가난하든 부유하든 단 하나의 깨진 창문이 있으면 또 다른 깨진 창문이 생기고, 결국 더 심각한 다른 범죄가 늘어나는 경향이 있다고 본다. 첫 깨진 창문이 계속 방치되면 당국이 지켜보지 않거나 신경 쓰지 않는다는 인상을 주기 때문이다.

따라서 창문을 깨는 초기 범죄에 ‘무관용’으로 대응하면 예방 효과가 있다고 여겨진다. 이런 ‘범죄 엔트로피’가 아예 뿌리내리지 못하기 때문이다. 쓰레기나 깨진 창문처럼 처리 비용이 적은 사소한 문제에 신경 쓰면, 해결 비용이 더 큰 문제는 저절로 해결된다는 논리다.

그러나 실행된 모습에서 이 이론은, 때로 인종차별적이라고 비판받기도 하며, 극단적 권위주의나 심지어 파시즘처럼 보일 수 있다.

클릭하여 재생. 존 포드가 만든 유일한 훈련 영화 ‘OSS – Undercover Training’에서 발췌. 제2차 세계대전 추축국 문화를 가상으로 재현한 배경에서 강박적으로 보이는 무관용의 사례다. 출처

반면 대중은 ‘무관용’을 흔히 ‘엄격하지만 필요한’ 조치와 동일시한다. 미성년자에게 해를 끼치는 행위의 처벌에 관해 대부분의 국가가 둔 타협 없는 법률이 그 예다. 공익을 위한 명확한 규칙이 논쟁이나 타협의 여지가 적은 처벌 법규로 구체화된 것이다.

사실 무관용 정책은 제한된 예산으로 도시를 재생하기 위해, 실제 배후 자원보다 더 많은 자원이 공공장소에 투입된 듯한 인상을 주도록 설계됐다. AI라는 지니를 다시 병에 넣는 데 특히 적합한 적용 사례는 아니다.

실제로 생성형 AI는 이미 너무나 널리 퍼져 있어 겉보기에는 AI와 무관한 후속 단계의 데이터조차 이미 그 영향을 받았을 수 있다. 여러분이 직접 제작해 유튜브에 올리고 좋아하는 소셜 미디어 채널에 게시한 진짜 영상 속 AI로 개선한 코덱 정도일지라도 그렇다. AI가 정말 문화적 ‘기체’처럼 된다면 명확한 경계나 ‘AI 금지’ 같은 이분법적 해법을 넘어설 것으로 보인다.

 

* 강조는 필자.

† 여기서는 하나의 특정 제품만이 아니라 해당 유형의 대규모 언어 모델을 대표하는 것으로 볼 수 있다.

2026년 1월 29일 목요일 최초 게시

머신러닝 분야 작가이자 인간 이미지 합성 도메인 전문가. Metaphysic.ai에서 연구 콘텐츠 책임자를 역임했으며, DNEG의 Brahma.ai로 통합될 때까지 근무했습니다.
웹사이트: martinanderson.ai
연락처: martin@martinanderson.ai