CivitAI, 깊은 가짜 규칙을 마스터카드와 비자로부터의 압력으로 강화하다

CivitAI, 인터넷에서 가장 인기 있는 AI 모델 저장소 중 하나는 마침내 마스터카드와 비자와 같은 결제 처리업체로부터의 압력에屈服하여_NSFW 콘텐츠에 대한 정책, 특히 사이트의 가장 인기 있는 사용자 제출 콘텐츠 스트림 중 하나인 유명인 LoRAs에 대한 서비스 약관을 근본적으로 수정하기로 결정했습니다. CivitAI는 사용자가 자유롭게 다운로드할 수 있는 보조 모델을 사용하여 유명인에 대한 AI 묘사를 생성할 수 있는 기능을 제공합니다.

재생을 위해 클릭하세요. Civit은 정확한 통계를 제공하지 않으며(표시 오류 또는 분류 오류가 발생할 수 있으므로 통계가 왜곡될 수 있음), 유명인 AI 모델의 수, 주로 LoRAs는 수백 또는 수천 개에 달하며, 명백히 여성 주제가 지배적입니다. 출처: civitai.com

명백히 회사 대표인 Alasdair Nicoll은 트위치 라이브 스트림에서 회사를 대신하여 변경이 사이트에 의해 강제된 것으로 밝혔습니다. 이는 결제 처리업체의 성인 콘텐츠 및 실제 사람 묘사에 대한 우려로 인한 것입니다. 그는 또한 주요 결제 처리업체인 비자와 마스터카드가 향후 더 많은 변경을 요구할 가능성이 높다고 인정했습니다:

‘이것은 우리가 만들고 싶었던 변경 사항이 아닙니다. 이것은 새로운 법률과 即将實施의 법률에 관한 것입니다. 깊은 가짜 법, AI 포르노 법… 결제 처리업체, 그리고 궁극적으로 비자와 마스터카드는 겁을 먹었고, 그들은 소송을 당하지 않으려 하고, 궁극적으로 이러한 변경 사항을 주도하고 있습니다.

‘다른 옵션 중 일부는 안전하지 않은 작업을 모두 제거하는 것이었습니다; x 및 triple-x 콘텐츠를 CivitAI에서 완전히 새로운 플랫폼으로 이동시키고, 그런 다음 그 플랫폼을 지리적으로 차단하는 것입니다. 왜냐하면 미국의 절반 이상의 주에서 일부 형태의 포르노 지리적 차단을 요구하며, 많은 아시아 국가와 영국에서도…

‘세 번째 옵션은 완전한 암호화, 암호화 결제만 사용하는 것이었습니다… 그래서 좋은 옵션이 없었습니다. ‘

Civit 도메인은 마지막 몇 일 동안 변경 사항을 적용하기 위해 주기적으로 다운되었습니다. 사이트는 이미 유명인 LoRA/모델 묘사에서 성인 주제 사용을 금지했지만, 이제 Civit의 모델 섹션을 브라우징하여 유명인 LoRA 미리 보기를 대량의 일반 성인 모델과 함께 볼 수 없습니다.

공식 발표문은 다음과 같습니다:

‘실제 사람 이름(예: “톰 크루즈”)으로 태그가 지정되거나 POI(실제 사람) 리소스로 표시된 콘텐츠는 피드에서 숨겨집니다.’

트위치 세션에서 Nicoll은 유명인과 실제 사람을 보호하기 위한 추가 조치를 공개했습니다. Civit은 항상 실제 사람에게 Civit에서 호스팅되는 AI 모델이 제거되도록 요청할 수 있도록 허용했지만, 이제 Nicoll은 초기 거부 후에 이러한 이미지의 재업로드를 방지할 수 있는 시스템에 대해 언급하며, 시스템이 이전에 본 적 없는 이미지에서까지 ‘보호된’ 인물을 식별할 수 있습니다.

이 목적으로 사이트는 Clavata AI 모더레이션 시스템과 파트너십을 맺고 있습니다. 그러나 Clavata가 이러한 새로운 기능을 구동하는 정도는 아직 명확하지 않습니다.

Nicoll은 다음과 같이 말했습니다:

‘톰 행크스는 우리에게 그의 모습을 주장했습니다. 예를 들어, 많은 성인 여배우들이; 많은 A-리스트 배우와 여배우들이…

‘나는 우리가 처음으로 받은 것이 바바라 에덴의 재산*이라고 생각합니다. 그녀는 우리에게 자신의 모습을 주장한 최초의 사람 중 하나였습니다. 이것은 조금 재미있는데, 그녀는 나이가 많기 때문입니다.’

기본적으로 보호?

過去 2년 동안, AI VFX 회사 Metaphysic(전직 직원입니다. 2022년 초부터 2024년 말까지 Metaphysic.ai에서 근무했습니다)은 할리우드 이름이 우려하는 AI 기반의 정체성 탈취에 대한 우려로 인해 자신의 모습을 등록할 수 있는 독점 시스템을 만들려고 시도했습니다. 이는 앤 해서웨이, 옥타비아 스펜서, 톰 행크스와 같은 배우들의 지원을 받았습니다.

논리적으로, 시스템의 유용성은 궁극적으로 사례 법에 따라 결정될 것입니다. Civit이 강제로 취하는 조치에 비추어 볼 때, Metaphysic이 제안한 구독 기반 서비스†는 깊은 가짜 법의 빠른 성장과 잠재적인 무료 커버리지에 직면하여 쓸모없게 될 수 있습니다. Metaphysic Pro 제공이 Double Negative VFX 회사에 이전될지 여부는 현재 알려지지 않았습니다.

어쨌든, 글로벌 법과 일반 시장의 압력이 이러한 종류의 상업적 솔루션보다 보호와 구제를 제공할 가능성이 더 높아 보입니다.

가마우지 끓이기

2023년 404 미디어의 보고서는 Civit의 유명인 및 포르노 AI 모델에 대한 성향을 강조했습니다. 그러나 사이트의 설립자 저스틴 마이어는 사용자 기여 유명인 모습과 포르노그래픽 물질 생성 사이의 관계를 축소했습니다.

Civit은 사이트에서 LoRAs 및 기타 사용자 제공 모델을 사용하여 수익을 창출하지만, Nicoll은 이것이 사이트를 계속해서 수익화할 수 있도록 변경 사항을 지정하도록 비자와 마스터카드를 동기부여하는 주요 관심사가 아니라고 명확히 했습니다:

‘일부 사람들은 우리가 생성을 허용하기 때문에 이런 상황에 처했다고 말합니다. 하지만 그것이 문제가 아닙니다. 이러한 모델을 호스팅하는 것, 이러한 콘텐츠를 호스팅하는 것이 충분히 소론의 눈을 끌어들이는 것입니다.’

커뮤니티 댓글 스레드는 최근 몇 년 동안 Civit이 유명인 모습을 호스팅할 수 있도록 허용되었다는 사실에 놀랐습니다. 가능성, 아마도 필연적으로 클램프다운이 발생할 것이라는 것을 인식하고, Civit이나 업로더에 의해 제거된 LoRAs를 보존하기 위한 여러 가지 이니셔티브가 제안되거나 구현되었습니다. 이는 지금까지 khá 무시된 r/CivitaiArchives 서브레딧을 포함합니다.

많은 사람들이 토렌트 기반 이니셔티브가 자연스러운 솔루션이라고 제안했지만, 아직도 잘 알려진 도메인이 나타나지 않았습니다. 어쨌든, 이것은 Civit과 다른 곳에서 금지된 활동을 인터넷의 가장자리로, 벽으로 둘러싸인 정원으로, 그리고 가장 가능성은 암호화된 네트워크로 이동할 것입니다. 왜냐하면 LoRAs를 수용할 수 있는 대부분의 프레임워크(예: Reddit 및 Discord)는 이미 그러한 콘텐츠를 금지하거나 곧 금지할 것으로 보이기 때문입니다.

현재, 유명인 LoRAs는 Civit에서 일부 제한과 함께 볼 수 있지만, 생성된 대부분의 콘텐츠는 삭제되고 사전 검색에서 제외될 것입니다. 한 댓글러가 Nicoll에게 트위치 세션에서 제안한 바와 같이, 무엇이 보이는지에 따라, 이는 유명인이나 실제 사람의 모습이 포함된 모델 또는 묘사에 대한 모든 모습을 금지할 수 있습니다.

Nicoll은 다음과 같이 응답했습니다:

‘그들이 여기서 멈추지 않을 것입니다. 그들은 계속해서 더 많은 것을 요구할 것입니다’ – 절대적으로! 예, 절대적으로. 그것이 우리가 사는 세계입니다. 유일한 희망은 우리가 충분히 크고 강력해져서 우리에게 지시되는 것을 더 많이 말할 수 있다는 것입니다 […]

Civit이 제공된 대안에 대해 절망한 Nicoll은 다음과 같이 추가했습니다:

‘ […] 아무도 CivitAI 생성기를 사용하기 위해 비트코인을 구입하지 않을 것입니다. 그래서 우리는 이것을 가능한 한 맛있게 만들려고 노력했으며, 이것이 우리가 끝내야 할 것입니다. 그래서 이것이 당신에게忍할 수 없는 것이라면 죄송합니다. 하지만 이것이 실제입니다. 우리는 우리가 할 수 있는 최선을 다했으며, 우리는 가능한 한 밀어붙였지만, 결국 우리는 이것을 해야 한다고 말했습니다. 이것을 하지 않으면 끝장이 날 것입니다 […] ‘

‘ […] 이러한 금융 기관은 사람들이 여기서 무엇을 하고 있는지 이해하지 못합니다. 우리는 그들에게 말하려고 시도했으며, 그들과 이야기하려고 시도했지만, 우리는 거의 마지막 보루입니다. [NSFW] 콘텐츠입니다.

Nicoll은 Civit가 모든 가능한 결제 처리업체에 접근했다고 말했습니다:

‘포르노 사이트에서 사용하는 높은 위험 결제 처리업체조차도 AI 콘텐츠에 대해 매우 주의합니다. 그것이 문제입니다 – AI 콘텐츠입니다. 우리가 전통적인 포르노 사이트였다면, 우리는 괜찮았을 것입니다. 하지만 AI 콘텐츠가 그들이 두려워하는 것입니다.’

다음은 무엇인가?

이 발표 이전에 Civit는 이제 금지된 콘텐츠 및 콘텐츠 유형의 일부를 포함하는 업로드를 제거하는 것으로 관찰되었습니다. 작성 시점에서, Wan 2.1 LoRAs에 대한 ‘비상 저장소’가 Hugging Face 웹사이트에 생성되었습니다. 그곳에 보관된 일부 LoRAs는 일반적인 성적 활동을 촉진하도록 설계되었으며, 새로운 비디오 모델(예: Wan 2.1)에서 거의 훈련되거나 누락된 콘텐츠입니다. 그러나 일부 모델은 이제 엄격하게 금지된 ‘undress’ 카테고리에 해당합니다(즉, ‘nudifying’). 일부 모델은 ‘극단적’ 또는 명백히 공격적일 수 있습니다.

r/datahoarders라는 서브레딧은 미국 정부의 온라인 문헌을 보존하기 위해 도날드 트럼프의 대량 삭제 캠페인에 저항하는 것을 주도했습니다. 그러나 지금까지 CivitAI 콘텐츠를 저장하는 아이디어에 대해 경멸을 보였습니다.

문학에서 CivitAI의_NSFW AI 생성을 쉽게 제공하는 것은 주목을 받지 못했습니다. 그러나 가장 많이 인용되는 연구 중 하나인 2024년 논문 Civitai의 남용적 생성 AI 모델 사용 조사는 Civit이 아직까지 유명인 또는 불법 AI 생성을 허용하지 않았으며, 연구자들이 자신의 증거를 Civit 자체에서 찾으려는 결정으로 인해 제한을 받습니다.

명백히, 결제 처리업체가 우려하는 것은 Civit에서 생성되는 것 또는 Civit에서 게시되는 것이 아니라, Civit의 다른 커뮤니티에서 이러한 모델을 사용하여 수행되는 것입니다. 이러한 커뮤니티는 폐쇄적이거나 규제가 덜 심합니다.

Mr. Deepfakes 웹사이트는 2022년 Stable Diffusion 및 확산 기반 모델의 도입 이전에 자동 인코더 기반 방법과 동의어였습니다. 최근에 Hunyuan Video 및 Wan 2.1와 같은 최신 텍스트-비디오 및 이미지-비디오 생성기를 사용하여 유명인 기반의 포르노그래픽 비디오의 예를 게시하기 시작했습니다. 이러한 모델의 영향은 아직 초기 단계이지만, 올해 내내 그들의 커뮤니티가 발전함에 따라 논란을 일으킬 것 같습니다.

필수 메타데이터

Nicoll에 따르면, 결제 처리업체가 요구하는 또 다른 변경 사항은 사이트의 모든 이미지에 메타데이터가 포함되어야 한다는 것입니다. 일반적인 워크플로에서 생성 모델을 사용하여 플랫폼에서 이미지 또는 비디오를 생성할 때, 출력에는 모델 이름과 해시를 포함하여 여러 설정이 나열된 메타데이터가 포함됩니다.

이러한 숨겨진 데이터 포인트로 인해 사용자는 다른 사용자가 생성한 비디오 또는 이미지를 자신의 ComfyUI 워크플로우에 끌어들이고 전체 흐름을 재생성할 수 있으며, 누락된 종속성을 해결할 수 있습니다(예: 원래 생성자가 가지고 있던 모델 또는 구성 요소).

이러한 데이터가 없는 이미지 또는 비디오 생성물은 Civit이 발표한 대로 30일 이내에 삭제됩니다. 사용자는 Civit 웹사이트 자체에서 수동으로 이러한 데이터를 추가할 수 있습니다.

메타데이터의 가치가 증거적이라는 가정하에, 이 규정은 다소 무의미합니다. 파일에서 메타데이터를 복사하여 붙여넣는 것은 간단하며, 웹 양식으로 메타데이터를 즉석에서 발명하는 것은 이 새로운 규칙을 조금 어이없는 것으로 만듭니다.

어쨌든, 여러 사용자는 Civit에 수천 개의 이미지를 업로드했습니다. 이제 그들의 유일한 대안은 수동으로 각 이미지를 주석으로 표시하거나, 메타데이터를 추가하여 이미지를 삭제하고 다시 업로드하는 것입니다. 이는 원래 이미지에서 생성된 ‘좋아요’ 또는 ‘버즈’ 또는 대화를 삭제합니다.

새로운 규칙

오늘부터 Civit에서 적용되는 변경 사항은 다음과 같습니다:

• 실제 개인의 이름으로 태그가 지정되거나 POI(실제 사람) 리소스로 식별된 콘텐츠는 더 이상 공개 피드에 나타나지 않습니다.
• 아동/소녀 테마가 포함된 콘텐츠는 피드에서 필터링됩니다.
• 메타데이터가 없는 X 및 XXX 등급 콘텐츠는 공개 보기에서 숨겨지고 경고로 표시되며, 업로더가 누락된 세부 정보를 추가할 수 있습니다. 이러한 콘텐츠는 삭제되지 않으며 업데이트될 때까지 생성者の eyes에만 표시됩니다.
• 사용자 정의 이미지(BYOI) 기능을 사용하여 생성된 이미지에는 최소 50%의 노이즈 변경이 적용되어야 합니다. 즉, AI는 업로드된 이미지를 크게 수정해야 하며, 실제 사람의 거의 동일한 복제본을 생성할 가능성이 줄어듭니다. 그러나 CivitAI에서 완전히 생성되거나 CivitAI 콘텐츠에서 리믹스된 이미지에는 이 규칙이 적용되지 않으며, 0.0(변경 없음)에서 1.0(전체 변환)까지任意의 디노이즈 수준을 사용할 수 있습니다. 이 변경 사항은 BYOI 도구의 남용을 줄이는 것을 목표로 합니다. 이는 실제 이미지를 거의 변경하지 않고 실제 사람의 거의 동일한 복제본을 생성할 수 있습니다. 최소 50%의 변경을 강제하면 AI가 실제 사진을輕微하게 편집하지 않는다는 것을 보장합니다.
• X 또는 XXX 콘텐츠를 사용하여 브라우징할 때 유명인 이름에 대한 검색은 결과를 반환하지 않습니다. 유명인 이름과 성인 콘텐츠를 결합하는 것은 여전히 금지됩니다.
• 실제 개인의 외모를 복제하도록 설계된 이미지 또는 리소스에는 광고가 표시되지 않습니다.
• 실제 개인을 묘사하는 이미지 또는 리소스에 대한 팁(Buzz)은 비활성화됩니다.
• 실제 사람을 복제하도록 설계된 모델은 Early Access에 적합하지 않습니다. Civitai의 기능으로써, 크리에이터는 콘텐츠를 먼저 지불하는 서포터에게 출시할 수 있습니다. 이는 유명인 또는 실제 사람의 모습을 수익화하는 것을 제한합니다.
• 플랫폼에 AI 생성 콘텐츠만 허용함을 명확히 하기 위해 2257 Compliance Statement가 추가되었습니다.
• 로그인할 필요 없이 누구든지 남용 또는 불법 콘텐츠를 보고할 수 있는 콘텐츠 제거 요청 페이지가 있습니다. 등록된 사용자는 각 게시물에 대한 내장 보고 도구를 계속 사용해야 합니다. 이것은 플랫폼에서 자신의 모습을 제거하도록 요청하는 기존 양식과는 별개입니다.
• CivitAI는 이전 솔루션보다 성능이 뛰어난 Clavata의 이미지 분석 도구를 통해 새로운 모더레이션 시스템을 도입했습니다.

** 2025년 5월 20일 화요일 11:23:47(그 이전에 발생했을 수 있음) 현재, 트위치 라이브 스트림이 삭제되었습니다. 내가 보고한 사실을 확인할 수 있도록 스트림의 복사본을 보관합니다.

* 바바라 에덴의 ‘재산’이 언급되었지만, I Dream of Jeannie 배우는 아직 살아 있으며 현재 93세입니다.
^† 보존됨: https://archive.ph/tsMb0

2025년 4월 24일 목요일 처음 게시되었습니다. 2025년 4월 24일 14:32:28에 수정되었습니다. 날짜를 수정했습니다.
2025년 5월 20일 화요일에 수정되었습니다. 트위치 콘텐츠가 참조 자료로 사용된 것을 반영하기 위해.