사상 리더

AI 도용과 사칭의 시대에 원본 콘텐츠를 보호하기

Liran Liberman
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트크리에이터는 동의나 크레딧 없이 자신의 작업물로 AI 학습을 하는 것을 금지하는 계약을 협상해야 한다.
더 보기
  • 크리에이터는 동의나 크레딧 없이 자신의 작업물로 AI 학습을 하는 것을 금지하는 계약을 협상해야 한다.
  • 크리에이터가 콘텐츠 사용을 추적할 수 있게 해주는 플랫폼은 무단 AI 학습과 사칭을 훨씬 더 쉽게 탐지할 수 있게 한다.
  • 내장된 출처 표준과 보이지 않는 워터마크는 합성 미디어가 온라인에서 확산될 때 크리에이터가 소유권을 입증하는 데 도움을 준다.

모방 능력을 갖춘 AI는 목소리를 사칭하고, 얼굴을 복제하고, 창작 스타일을 훔치며, 콘텐츠 아이디어까지 노골적으로 가로챈다. 이렇게 도용되거나 딥페이크로 조작된 콘텐츠는 우스꽝스러운 것부터 의심스럽고 악의적인 것까지 다양하며, 전 세계 수십억 대의 기기로 퍼져 나간다.

그 결과 딥페이크 사기 사건은 1,740% 증가했다. 이는 2022년에서 2023년 사이 북미에서 나타난 증가율이다. 온라인 딥페이크의 수는 2023년 약 50만 개에서 2025년 약 800만 개로 늘었다.

AI가 파생 콘텐츠로 플랫폼을 채우면 진정한 창작자는 주목받기 어려워진다. 이용자들은 모든 콘텐츠를 의심하게 되고, 창작자의 생계와 평판, 이용자와 맺은 진정한 관계까지 위태로워진다.

창작자는 더 나은 보호를 받을 자격이 있다.

이중의 위협

창작자를 향한 위협은 크게 두 가지 차원에서 발생한다.

첫째, 콘텐츠 도용자는 창작자를 명시하거나 대가를 지급하지 않은 채 창작자의 콘텐츠로 생성형 모델을 학습시킬 수 있다. 일부 기업은 공정 이용(fair use)을 내세우거나, 콘텐츠가 이미 누구나 볼 수 있게 공개되어 있으니 창작자가 불운을 감수해야 한다고 주장한다. 하지만 이런 주장은 여전히 법적으로 모호하며 도덕적으로도 의심스럽다.

둘째, 딥페이크와 합성 미디어는 다른 사람을 직접 사칭하며 점점 불안할 정도로 진짜와 닮아 간다. 예를 들어, 음성 사기범은 단 3초 분량의 음성만 있으면 자연스러운 억양과 리듬, 감정, 멈춤, 호흡까지 포함해 85%의 정확도로 목소리를 복제할 수 있다. 2025년 초 의사이자 인플루언서인 마이크 바샤브스키는 자신을 사칭한 딥페이크를 틱톡에서 발견했다. 그 영상은 가짜 ‘기적의’ 보충제를 홍보하고 있었다. 그의 외모는 10년 넘게 쌓아 온 이용자층을 속이는 무기로 악용됐다.

이런 문제에 대한 인식이 커지고 있기는 하다. 앤트로픽 AI가 최근 클로드 챗봇 학습에 불법 복제 도서를 사용했다는 의혹과 관련해 사상 최대인 15억 달러 규모의 합의에 동의한 것이 한 예다. 하지만 창작자는 자신을 보호하기 위해 법원에만 의존할 수 없다.

계약과 협업을 통한 보호

AI를 통한 착취를 막는 가장 좋은 방어는 창작자가 콘텐츠를 올리거나 브랜드와 계약하기 전부터 시작된다. 라이선스 권리와 콘텐츠를 어떻게, 어디에서 사용할지 명시적으로 규정한 분명한 계약이 필요하다.

계약에는 동의 없이 원본 콘텐츠로 생성형 모델을 학습시키지 못하도록 하는 조항과, 브랜드가 창작자가 제공한 콘텐츠를 AI로 수정할 경우 창작자에게 통지하도록 하는 조항이 들어가야 한다. 작품이 사용될 때마다 창작자가 누구인지 함께 명시하도록 하는 출처 표기 요건은 협상으로 양보해서는 안 된다. 투명한 협업을 우선시하는 플랫폼은 이러한 보호를 체계적으로 집행하는 데 도움을 줄 수 있다. 그렇지 않은 플랫폼이라면 창작자는 이용 자체를 신중하게 검토해야 한다.

창작자가 자신의 작품을 AI 학습이나 파생된 상업적 용도에 사용하기를 원한다면, 일회성 지급 대신 로열티나 지속적인 라이선스 요금을 협상해야 한다. 협업 관계가 투명한 콘텐츠 사용 기록에 기반하면, 허가받지 않은 AI 수정이나 학습이 발견되지 않고 진행되기는 훨씬 어려워지고, 위반이 발생했을 때 대응하기도 쉬워진다.

일부 플랫폼은 바로 이를 위해 개발되고 있다. 창작자가 유료 미디어 채널 어디에 자신의 콘텐츠가 나타나는지 추적하도록 하는 것이다. 브랜드가 소셜 미디어의 파트너십 광고로 콘텐츠 확산을 늘려도 창작자는 배포 현황을 파악하고 올바른 출처 표기를 유지할 수 있다.

어떤 경우든 서비스 약관을 꼼꼼히 읽는 것이 필수다. 유튜브 같은 플랫폼은 창작자에게 제3자 AI 기업이 자신의 영상으로 모델을 학습하도록 허용하는 선택권을 제공했다. 수백만 명의 창작자가 자신도 모르게 동의하고 있으며, 보상에 대한 어떤 약속도 받지 못한다. 반면 다른 플랫폼은 창작자의 데이터 소유권을 우선하는 더 제한적인 기본 설정을 채택한다.

기술적 보호와 시스템 차원의 변화

계약 외에도 창작자는 인프라 차원의 보호를 요구하고 기술을 활용해 자신의 작품을 지켜야 한다.

내보내는 모든 콘텐츠 파일에는 다음과 같은 표준에 따른 메타데이터가 포함되어야 한다. IPTC 2023.1은 AI를 위한 데이터 마이닝 허용 여부를 콘텐츠 자체에 삽입할 수 있도록 한다. 또한 콘텐츠 출처 및 진위 연합(C2PA)도 콘텐츠의 출처를 기록하는 변조 방지 표준을 개발했다.

디지마크와 구글의 SynthID는 크기 조절이나 압축을 거쳐도 남는 보이지 않는 디지털 워터마크를 사용한다. 반면 Nightshade 같은 도구는 사람이 알아차릴 수 없는 방식으로 이미지 픽셀을 바꿔, 머신러닝 모델이 이미지를 다른 것으로 해석하도록 속일 수 있다.

다른 플랫폼은 이제 각 원본 콘텐츠에 성과 추적과 분석을 통합해 창작자가 무단 사용을 알아낼 수 있도록 한다. 콘텐츠가 어디에 나타나고 채널별로 어떤 성과를 내는지 살펴보면, 한 번도 허가한 적 없는 캠페인이나 계정에서 콘텐츠가 사용되는 등의 의심스러운 활동을 발견할 수 있다.

캠페인 관리와 콘텐츠 승인 절차, 성과 측정을 하나의 플랫폼으로 통합하는 인프라 시스템은 매우 중요하다. 창작자에게 서로 단절된 도구를 이어 붙이게 해 악용의 빈틈을 남기는 대신, 모든 단계에 보호 장치를 마련하기 때문이다.

창의성 지키기

창작자 경제가 장기적으로 건강하려면 진정한 목소리와 고유한 관점, 창작자와 커뮤니티 사이의 신뢰를 지켜야 한다.

창작자는 모든 것을 해결할 묘책을 기다릴 수 없다. 더 강력한 계약을 협상하고, 창작자를 우선하는 플랫폼과 일하며, 동의에 기반한 AI 학습을 요구하고, 작품의 출처를 문서화하는 데서 시작해야 한다. 콘텐츠 플랫폼도 기본적으로 창작자의 권리를 보호하는 인프라를 구축해야 하며, 지속 가능한 시스템이 미래에 성공하려면 신뢰를 쌓아야 한다는 점을 이해해야 한다. 창작자는 이보다 못한 보호를 받아들여서는 안 된다.

AI의 창의성은 그것이 학습하는 실제 사람들의 창의성만큼이다. 하지만 배우는 것과 훔치는 것은 다른 일이다.

리란 리버만은 Humanz의 최고경영자입니다. Humanz는 크리에이터 경제를 위한 AI 인프라를 구축하는 글로벌 플랫폼입니다. 그의 리더십 아래에서 회사는 Ubiquitous와 Bambassadors를 포함한 전략적 인수와 AI 혁신을 통해 성장을 가속화했습니다.

구글의 전임 임원이며 켈로그 경영대학원 MBA 졸업생인 리버만은 크리에이터 마케팅을 AI와 독점적 크리에이터 데이터를 통해 확장 가능한 데이터 주도 성장 채널로 전환하는 데 중점을 두고 있습니다.