AI 생성 이미지의 저작권 보호 자동화

지난 주에 논의한 바와 같이, 인기 있는 생성적 AI 시스템의 핵심 기초 모델은 저작권 침해 콘텐츠를 생성할 수 있습니다. 이는 데이터의 부적절하거나 잘못된 큐레이션, 훈련 데이터에 동일한 이미지의 여러 버전이 포함되어 있기 때문에 발생하며, 이는 과적합으로 이어지고, 인식 가능한 재현의 가능성을 증가시킵니다.

생성적 AI 공간을 지배하려는 노력과 지적 재산권 침해를 방지하기 위한 압력이 증가하는 가운데, MidJourney와 OpenAI의 DALL-E와 같은 주요 플랫폼은 여전히 저작권 침해 콘텐츠의 부적절한 재현을 방지하는 데 어려움을 겪고 있습니다.

생성적 시스템이 저작권 데이터를 재현하는 능력은 매체에서 정기적으로 표면화됩니다.

새로운 모델이 등장하고 중국 모델이 우세해짐에 따라, 기초 모델에서 저작권 자료를 억제하는 것은 어려운 전망입니다. 실제로 시장 선도자인 오픈艾는 지난해 효과적이고 유용한 모델을 만들기 위해 저작권 자료가 필요하다고 선언했습니다.

이전 기술

저작권 자료의 부적절한 생성에 관한 연구는 음란물이나 기타 NSFW 자료를 소스 데이터에 포함하는 것과 유사한 문제에 직면합니다. 즉, 지식의 이점을 얻으려는 동시에 그릇된 사용을 방지하려는 것입니다.

마찬가지로, 모델 제작자는 저작권 자료의巨대함을 얻으려는 동시에 모델이 실제로 지적 재산권을 침해하지 않도록 합니다.

저작권 자료를 사용하는 것을 은폐하려는 시도의 윤리적 및 법적 위험을 무시하면, 필터링은 훨씬 더 어려워집니다. 음란물은 저급 잠재적 특징을 포함하여 점점 더 효과적인 필터링을 가능하게 하는 반면, 저작권 작품을 정의하는 잠재적 임베딩은 쉽게 식별할 수 있는 마커로 축소되지 않습니다.

CopyJudge

인간의 판단은 데이터셋의 큐레이션과 API 기반 포털의 사용자에게 IP 잠금 자료를 제공하지 않도록 설계된 후처리 필터 및 ‘안전’ 기반 시스템의 생성에서 희귀하고 비싼 자원입니다.

따라서 스위스, 소니 AI, 중국 간의 새로운 학술 협력은 CopyJudge – ChatGPT 기반 ‘판사’의 연속적인 그룹을 조직하여 입력을 저작권 침해의 징후를 검사할 수 있는 자동화된 방법을 제공합니다.

CopyJudge는 다양한 IP 침해 AI 생성물을 평가합니다. Source: https://arxiv.org/pdf/2502.15278

CopyJudge는 효과적으로 대형 비전-언어 모델(LVLM)을 사용하여 저작권 이미지와 텍스트-이미지 확산 모델에 의해 생성된 이미지 간의 상당한 유사성을 결정하는 자동화된 프레임워크를 제공합니다.

CopyJudge 접근법은 강화 학습을 사용하여 저작권 침해 프롬프트를 최적화하고 그런 프롬프트에서 정보를 사용하여 저작권 이미지로 인VOKE되지 않는 새로운 프롬프트를 생성합니다.

온라인 AI 기반 이미지 생성기에서는 사용자의 프롬프트를 음란물, 저작권 자료, 실제 사람의 재현, 기타 금지 도메인에 대한 필터링을 하지만, CopyJudge는 사용자의 제출을 직접 차단하는 대신, 저작권 이미지를 호출할 가능성이 낮은 ‘위생’ 프롬프트를 생성하는 데 사용된 정교한 ‘침해’ 프롬프트를 사용합니다.

이 접근법은 새로운 것이 아니지만, 사용자가 실험을 통해 금지된 생성에 대한 ‘백도어’ 액세스를 개발할 수 있도록 허용하기 때문에, API 기반 생성 시스템을 사용자 입력을 단순히 거부하는 것에서 해방시킵니다.

최근에 닫힌 개발자에 의해 패치된 취약점은 사용자가 크로스 또는 십자가를 이미지에 포함시킴으로써 Kling 생성적 AI 플랫폼에서 음란물 비디오를 생성할 수 있도록 허용했습니다.

2024 년 말에 개발자에 의해 패치된 취약점은 사용자가 이미지에 크로스 또는 십자가를 포함시킴으로써 Kling 생성적 AI 플랫폼에서 금지된 NSFW 출력을 생성할 수 있도록 허용했습니다. Source: Discord

이러한 사례는 온라인 생성 시스템에서 프롬프트 위생의 필요성을 강조합니다. 기초 모델 자체를 변경하여 금지된 개념을 제거하는 기계 학습은 최종 모델의 사용성에 부정적인 영향을 미칠 수 있습니다.

CopyJudge 시스템은 인간 기반 법적 판단을 모방하여 이미지의 주요 요소인 구성 및 색상으로 나누고, 저작권이 없는 부분을 필터링하여 비교합니다. 또한 저작권 문제를 피하면서 창의적 콘텐츠를 유지하기 위해 프롬프트와 이미지 생성을 조정하는 AI 기반 방법을 포함합니다.

실험 결과, 저자들은 CopyJudge가 이 분야의 최첨단 접근 방식과 동등한 성능을 보이고, 일반화와 해석 가능성에서 이전 연구보다 우수함을 보인다고 주장합니다.

새로운 논문은 CopyJudge: 텍스트-이미지 확산 모델에서 자동화된 저작권 침해 식별 및 완화라는 제목으로, EPFL, Sony AI, 중국 웨스트레이크 대학교의 5명의 연구자에 의해 작성되었습니다.

방법

CopyJudge는 GPT를 사용하여 자동화된 판사들의 롤링 트리뷴을 생성하지만, 저자들은 이 시스템이 OpenAI의 제품을 위해 최적화되지 않았으며, LVLM의任意의 번호가 대신 사용될 수 있다고 강조합니다.

첫 번째 경우, 저자들의 추상화-필터링-비교 프레임워크는 소스 이미지를 구성 요소로 분해하는 데 필요합니다.

CopyJudge 워크플로우의 초기 단계에 대한 개념적 스키마.

다음에, 여러 LVLM을 사용하여 필터링된 요소를 평가합니다.

저자들은 다음과 같이 말합니다.

‘우리는 완전히 연결된 동기식 의사소통 토론 접근 방식을 채택하여 각 LVLM이 다른 LVLM의 응답을 받은 후에 다음 판단을 내립니다. 이것은 모델이 새로운 통찰력을 기반으로 평가를 조정할 수 있는 동적 피드백 루프를 생성하여 분석의 신뢰성과 깊이를 강화합니다.’

‘각 LVLM은 다른 LVLM의 응답에 따라 점수를 조정하거나 변경하지 않을 수 있습니다.’

사람이 평가한 이미지 쌍도 몇 샷 학습을 통해 프로세스에 포함됩니다.

완화

다음으로, 저자들은 이전에 설명한 프롬프트 완화 프로세스에 집중했습니다.

CopyJudge의 저작권 침해를 완화하기 위한 프롬프트와 잠재적 잡음의 스키마.

저자들은 다음과 같이 말합니다.

‘우리의 방법은 침해의 가능성을 크게 줄이며, CLIP 점수에서わず한 감소를 보입니다. 잠재적 변수를 변경하지 않고 비침해 잠재적 변수를 검색하는 것은相当히 어려운 일입니다. 그러나 우리는 침해 점수를 효과적으로 줄일 수 있으며, 이미지-텍스트 일치 품질을 유지할 수 있습니다.’

데이터 및 테스트

CopyJudge를 테스트하기 위해, D-Rep와 같은 다양한 데이터셋이 사용되었습니다.

CopyJudge 스키마는 D-Rep 이미지 중 4 이상의 점수를 받은 이미지를 침해 사례로 간주하고, 나머지는 비 IP 관련으로 유지했습니다.

저자들은 다음과 같이 말합니다.

‘전통적인 이미지 복사 감지 방법은 저작권 침해 식별 작업에서 한계를 보입니다. 우리의 접근 방식은 대부분의 방법을 크게 능가합니다. 상태 오프-the-아트 방법인 PDF-Emb는 D-Rep에서 36,000개의 샘플로 훈련되었으며, 우리의 성능은 약간 낮습니다. 그러나 PDF-Emb의 일반화 능력의 부족은 카툰 IP 및 아트워크 데이터셋에서 볼 수 있습니다.’

결론

이 연구는 생성적 AI 이미지의 저작권 보호에 대한 유망한 접근 방식을 제시하지만, 저작권 침해를 감지하는 데 LVLM을 사용하는 것은 편향과 일관성에 대한 우려를 불러일으킬 수 있습니다.

가장 중요한 것은, 이 프로젝트는 저작권 시행이 자동화될 수 있다고 가정하지만, 실제 법적 결정은 종종 AI가 해석하기 어려운 주관적이고 맥락적 요인을 포함합니다.

실제 세계에서 AI의 출력을 둘러싼 법적 합의의 자동화는 이 작업에서 다루는 도메인의 범위를 넘어서는 것으로 보입니다.

첫 번째로 게시됨: 2025년 2월 24일