트럼프, 딥페이크 방지법 서명으로 CivitAI, 새로운 결제 서비스 제공업체 위기에 직면

트럼프 대통령은 이제 미국 연방 차원에서 성적 딥페이크를 불법화하는 'Take It Down Act'에 서명했습니다. 동시에 CivitAI 커뮤니티는 NSFW AI와 유명인 제작물에 대한 '법적 절차 개선'을 시도했지만, 결제 처리 업체들의 요구를 들어주지 못해 결국 대안을 모색하거나 사이트 폐쇄 위기에 처했습니다. 이 모든 일이 세계에서 가장 오래되고 규모가 큰 딥페이크 포르노 사이트가 폐쇄된 지 불과 2주 만에 발생했습니다.

규제되지 않은 이미지 및 비디오 딥페이크 관련 상황은 지난 몇 주 동안 매우 중요한 시기였습니다. 1주 전, 유명인 딥페이크 포르노 커뮤니티 공유에서 XNUMX위를 차지했던 Mr.Deepfakes는 XNUMX년 넘게 독점적인 지위를 유지하다가 갑자기 오프라인으로 전환되었습니다. 많이 연구된 성적인 AI 유명인 콘텐츠의 글로벌 플랫폼으로서의 입지를 굳혔습니다. 사이트가 다운될 무렵, 해당 사이트는 평균 500만 회 이상 방문 한 달.

배경, 404월 초의 Mr. Deepfakes 도메인; 삽입된 그림, 정지 공지는 현재 4 오류로 대체되었는데, 해당 도메인은 2025년 XNUMX월 XNUMX일에 알려지지 않은 구매자에게 매수된 것으로 보입니다(https://www.whois.com/whois/mrdeepfakes.com). 출처: mrdeepfakes.com

Deepfakes의 서비스 중단이 공식적으로 이루어졌습니다. 귀속 된 '중요 서비스 제공자'의 철수(위의 삽입 이미지 참조, 일주일 이내에 도메인 장애로 대체됨)에 대해. 그러나 공동 저널리즘 조사가 핵심 인물의 익명성을 해제하다 사이트가 폐쇄되기 직전에 Mr.Deepfakes가 그 사람의 개인적 및/또는 법적 이유로 폐쇄되었을 가능성이 있습니다.

거의 같은 시기에 유명인과 NSFW에 널리 사용되는 상업 플랫폼인 CivitAI가 LoRA, 특이하고 논란의 여지가 있는 일련의 조치를 부과했습니다. 자기 검열 조치. 이러한 영향은 딥페이크 생성, 모델 호스팅 및 전체 금지를 포함한 광범위한 새로운 규칙과 제한에 영향을 미쳤습니다. 어떤 주변적인 NSFW 페티시즘과 '극단주의 이념'이라 불리는 것.

이러한 조치는 NSFW 콘텐츠와 유명인 AI 묘사에 대한 변경 사항이 적용되지 않는 한 해당 도메인에서 서비스를 철수하겠다고 위협하는 결제 서비스 제공업체의 위협에 따른 것입니다.

CivitAI 컷오프

오늘 현재 CivitAI가 취한 조치가 VISA와 Mastercard를 달래지 못한 것으로 보입니다. 새로운 게시물^† 커뮤니티 참여 관리자 알라스데어 니콜은 현장에서 CivitAI(대부분 실제 신용카드와 직불카드로 구동되는 '버즈' 가상 화폐 시스템)에 대한 카드 결제가 이번 금요일(23년 2025월 XNUMX일)부터 중단될 것이라고 밝혔습니다.

이렇게 하면 사용자가 월간 멤버십을 갱신하거나 새로운 버즈를 구매할 수 없게 됩니다. 하지만 니콜은 사용자가 연간 멤버십으로 전환하면 현재 멤버십 권한을 유지할 수 있다고 조언합니다.비용^†† 금요일 이전에 $100-$550 USD)가 예상되므로 현재 도메인의 미래는 다소 불확실합니다. (연간 멤버십에 유의해야 합니다. 간다 결제 처리업체 손실에 대한 발표가 이루어진 것과 동시에).

결제 프로세서가 부족하다는 점에 대해 Nicoll은 다음과 같이 말합니다. '우리는 AI 혁신에 익숙한 모든 공급업체와 대화하고 있습니다.'.

최근 사이트의 적절한 재고를 위한 노력이 실패한 것에 관하여 자주 비판받는 Nicoll은 게시물에서 유명인 AI와 NSFW 콘텐츠에 대한 정책에 대해 다음과 같이 언급했습니다.

일부 결제 회사는 생성 AI 플랫폼을 고위험 플랫폼으로 분류합니다. 특히 합법적이고 관리가 잘 되는 성인용 콘텐츠를 허용할 때 더욱 그렇습니다. 사용자들의 어떤 행동도 아닌 바로 그 정책적 선택이 차단을 초래했습니다.

CivitAI에서 회사의 수석 직원으로 지정된 사용자 'Faeia'의 코멘트 윤곽*, 이 공지에 맥락을 추가합니다:

'명확히 말씀드리자면, 저희는 플랫폼에서 NSFW 및 성인 콘텐츠를 삭제하지 않기로 결정했기 때문에 결제 처리 시스템에서 제외되었습니다. 저희는 모든 크리에이터를 지원하기 위해 최선을 다하고 있으며, 대안을 모색하고 있습니다.'

으로 새로운 기술의 전통적인 원동력NSFW 콘텐츠가 사용되는 것은 드문 일이 아닙니다. 관심을 시작하다 도메인, 기술 또는 플랫폼에서 - 충분한 '합법적' 자본 및/또는 사용자 기반(즉, NSFW 맥락에서 벗어나도 해당 기업이 생존할 수 있을 만큼 충분한 사용자)이 확립되면 초기 지지자가 거부될 뿐입니다.

한동안 CivitAI가 이를 따라갈 것 같았습니다. 텀블러 그리고 뿌리를 잊을 준비가 된 '위생화된' 제품을 향한 다양한 다른 계획들이 이 길을 따라 진행되고 있습니다. 그러나 추가되고 증가하는 논란/오명 AI가 생성한 콘텐츠를 중심으로 어떤 종류의 이 경우, 마지막 순간의 구제를 막기 위해 설정된 누적 가중치를 나타냅니다. 한편, 공식 발표에서는 사용자들에게 암호화폐를 대체 결제 수단으로 사용할 것을 권고하고 있습니다.

페이크 아웃

도널드 트럼프 대통령의 등장은 열광적이다 로그인 연방 내려놓으세요 이 법은 이러한 사건들 중 일부에 영향을 미쳤을 가능성이 높습니다. 새로운 법은 AI가 생성한 딥페이크를 포함하여 동의 없이 촬영된 사적인 이미지의 배포를 범죄로 규정합니다.

이 법안은 플랫폼이 신고된 콘텐츠를 48시간 이내에 삭제하도록 규정하고 있으며, 연방거래위원회(FTC)의 감독을 받습니다. 이 법의 형사 조항은 즉시 발효되어, 미국 내에서 고의로 동의 없이 사적인 이미지(AI 기반 딥페이크 포함)를 게시하거나 게시하겠다고 위협하는 개인을 기소할 수 있도록 합니다.

이 법안은 드물게 초당적 지지를 받았고, 기술 기업과 시민 단체의 지지도 받았지만, 비판론자들은 이 법안이 합법적인 콘텐츠를 억압하고 암호화와 같은 개인정보 보호 도구를 위협할 수 있다고 주장합니다. 지난달 전자프런티어재단(EFF)은 법안에 대한 반대이는 해당 법안이 의무화한 삭제 메커니즘이 다른 곳에서 발견되는 합의되지 않은 사적인 이미지에 대한 좁은 정의보다 더 광범위한 자료를 표적으로 삼고 있다고 주장합니다.

'TAKE IT DOWN'의 삭제 조항은 법안의 다른 부분에서 언급된 NCII의 좁은 정의보다 훨씬 더 광범위한 콘텐츠 범주, 즉 사적인 내용이나 성적인 내용이 포함된 모든 이미지에 적용됩니다. 또한, 삭제 조항은 경솔하거나 악의적인 삭제 요청에 대한 중요한 안전장치를 갖추고 있지 않습니다.

서비스는 자동 필터에 의존하게 되는데, 이는 악명 높을 정도로 무딘 도구입니다. 공정 사용 논평부터 뉴스 보도까지 합법적인 콘텐츠를 자주 필터링합니다. 이 법의 촉박한 시한 때문에 앱과 웹사이트는 48시간 이내에 발언을 삭제해야 하는데, 발언이 실제로 불법인지 확인하기에는 시간이 부족합니다.

'결과적으로, 특히 소규모 온라인 서비스 제공업체는 연설 내용을 검증하려고 시도하는 것보다 단순히 연설 내용을 공개 취소하여 부담스러운 법적 위험을 피하는 쪽을 선택할 가능성이 높습니다.'

플랫폼은 이제 법률이 제정된 날로부터 최대 1년 동안 공식적인 통지 및 삭제 절차를 수립해야 하며, 이를 통해 영향을 받는 개인이나 그 대리인은 해당 법률을 호소하여 콘텐츠 삭제를 요청할 수 있습니다.

즉, 형사 조항은 즉시 적용되지만 플랫폼은 1년 기간이 지날 때까지 삭제 인프라(요청 수신 및 처리 등)를 준수할 법적 의무가 없습니다.

TAKE IT DOWN 법안은 AI가 생성한 유명인 콘텐츠에도 적용됩니까?

TAKE IT DOWN Act는 모든 주 경계를 넘나들지만, AI 기반 유명인 미디어를 반드시 금지하는 것은 아닙니다. 이 법은 동의 없이 이루어지는 사적인 이미지의 배포를 불법화합니다. 웹사이트 통합을 원활하게 구현해드립니다. AI가 생성한 딥페이크는 묘사된 개인이 다음과 같은 특징을 가지고 있을 때만 가능합니다. 합리적인 개인 정보 보호 기대:

해당 법에는 다음과 같이 명시되어 있습니다.

“(2) 진짜 친밀한 시각적 묘사와 관련된 범죄.

“(A) 성인을 포함하는 경우.- 제외 [증거, 보고 목적 등], 주간 또는 해외 상거래에서 미성년자가 아닌 식별 가능한 개인의 친밀한 시각적 묘사를 고의로 게시하기 위해 대화형 컴퓨터 서비스를 사용하는 사람은 다음과 같은 경우 불법입니다.

“(i) 친밀한 시각적 묘사가 해당 개인이 식별 가능한 개인이 합리적인 사생활 보호 기대를 가지고 있다는 사실을 알고 있거나 알았어야 할 상황에서 얻어지거나 만들어졌다는 경우,

“(ii) 묘사된 내용은 식별 가능한 개인이 공공 또는 상업적 환경에서 자발적으로 노출한 것이 아닙니다. [즉, 자체 출판 포르노];

“(iii) 묘사된 내용은 대중의 관심사가 아니며,

“(iv) 친밀한 시각적 묘사의 공개—

“(I) 해를 끼치려는 의도가 있거나

“(II) 식별 가능한 개인에게 심리적, 재정적 또는 명예적 피해를 포함한 피해를 초래합니다.

여기에 적용된 '합리적인 개인정보 보호 기대' 조건은 다음과 같습니다. 전통적으로 선호되지 않음 유명인의 권리. 결국 판례법에 따라, 심지어 명백한 공공 또는 상업적 환경에서 공인을 포함한 AI가 생성한 콘텐츠는 해당 법의 금지 사항에 해당하지 않을 수 있습니다.

결정에 관한 최종 조항 범위 해를 끼치는 것은 유명한 탄력성 법적 측면에서, 그리고 이런 의미에서 입법적 부담에 특별히 새로운 것을 더하는 것은 아닙니다. 그러나 의지 피해를 입히는 것은 법의 범위를 '복수 포르노'의 맥락으로 제한하는 것으로 보입니다. 여기서 복수 포르노란 (알려지지 않은) 전 파트너가 (마찬가지로 알려지지 않은) 다른 전 파트너의 실제 또는 가짜 미디어 콘텐츠를 게시하는 것을 말합니다.

익명의 사용자가 AI가 생성한 유명인 묘사를 게시하는 경우에는 이 법률의 '해악' 요건이 적합하지 않은 것처럼 보일 수 있지만, 스토킹 상황에서는 더 관련성이 높을 수 있습니다. 스토킹 상황에서는 더 광범위한 괴롭힘 패턴이 개인이 여러 방면에서 고의적이고 악의적으로 공인을 표적으로 삼았다는 결론을 뒷받침하기 때문입니다.

이 법에서 '적용 대상 플랫폼'이라고 언급하면서 Signal이나 이메일과 같은 개인 채널은 삭제 조항에서 제외되지만, 이 제외 조항은 2026년 XNUMX월까지 공식적인 삭제 메커니즘을 구현해야 하는 의무에만 적용됩니다. 이는 동의 없이 이루어진 AI나 개인 통신을 통해 공유된 실제 묘사가 이 법의 형사적 금지 범위에서 벗어난다는 것을 의미하지 않습니다.

물론, 현장 신고 메커니즘이 부족하다는 이유로 당사자들이 불법 콘텐츠를 경찰에 신고하는 것을 막지는 못합니다. 또한 당사자들이 사이트에서 제공하는 기존의 연락 방법을 사용하여 불만을 제기하고 문제가 되는 자료의 삭제를 요청하는 것도 금지되지 않습니다.

남겨진 권리들

딥페이크 콘텐츠에 대한 7년 넘게 고조되어 온 대중과 언론의 비판은 이례적으로 짧은 기간 안에 정점에 도달한 것으로 보입니다. "테이크 잇 다운 법(TAKE IT DOWN Act)"은 광범위한 연방 금지 조항을 담고 있지만, AI 생성 시뮬레이션과 관련된 모든 사례에 적용되는 것은 아닙니다. 따라서 특정 시나리오는 주 정부 차원의 딥페이크 관련 법률이 점차 늘어나고 있는 상황에서 해결해야 할 과제로 남을 수 있으며, 이러한 법률들은 종종 '지역적 관심사'를 반영합니다.

예를 들어, 캘리포니아에서는 캘리포니아 유명인 권리법 유명인의 신원을 본인과 그 재산에만 독점적으로 사용하도록 제한합니다. 사망 후에도 마찬가지입니다. 반대로 테네시의 엘비스법 음악가를 무단 AI 생성 음성 및 이미지 복제로부터 보호하는 데 중점을 두고 있으며, 각 사례는 주정부 차원에서 두드러지는 이해관계 집단에 대한 타겟팅된 접근 방식을 반영합니다.

대부분의 주 이제 법이 생겼다 성적 딥페이크를 표적으로 삼고 있지만, 많은 사람들이 그러한 보호가 개인과 공인에게 동등하게 적용되는지 명확히 밝히지 않고 있습니다. 한편, 정치적 딥페이크가 도움이 되었다고 알려진 박차 도널드 트럼프가 새로운 연방법을 지지하는 것은 실제로는 헌법적 장벽에 부딪히다 특정 맥락에서.

^† 보관된 버전: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† 보관된 버전(월별 가격 표시 안 됨): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* CivitAI의 CEO에 대한 실제 '참모장'은 다음과 같습니다. 나와 LinkedIn에서는 관련 없는 이름으로 사용되지만 비슷하게 들리는 'Faiona'는 공식 CivitAI 직원 관리자 도메인에서 subreddit.

20년 2025월 XNUMX일 화요일에 처음 게시됨