Anderson์ ๊ด์
์๋นAI, ์๋ก์ด ๊ฒฐ์ ์ ๊ณต์ ์ฒด ์๊ธฐ์ ๋น ์ ธ, ํธ๋ผํ๊ฐ ๋ฐ-๋ฅํ์ดํฌ ๋ฒ์์ ์๋ช
트럼프 대통령은 이제 TAKE IT DOWN 법안에 서명했으며, 이는 미국에서 성적인 딥페이크를 연방 수준에서 범죄화합니다. 同時に, 시빗AI 커뮤니티는 NSFW AI 및 유명인 콘텐츠에 대한 ‘청소’ 노력을 최종적으로 실패하여 결제 처리업체가 서비스를 중단하도록 하여 사이트가 대안을 찾거나 폐쇄될 수 있습니다. 모든 것이 딥페이크 포르노 사이트가 2주 전에 오프라인으로 전환한 이후입니다.
딥페이크 이미지 및 비디오의 규제 상태에 대해 두 가지 주요 사건이 발생했습니다. 2주 전, 유명인 딥페이크 포르노를 공유하는 커뮤니티의 1위 도메인인 Mr. Deepfakes가 7년 이상의 지배적이고 연구된 위치에서突然 오프라인으로 전환되었습니다. 사이트가 오프라인으로 전환했을 때, 사이트는 월평균 500만 회 이상의 방문자를 기록했습니다.
배경, 5월 초 Mr. Deepfakes 도메인; 삽화, 현재 404 오류로 대체된 중단 공지; 2025년 5월 4일 unknown 구매자에 의해 도메인이 구입됨(https://www.whois.com/whois/mrdeepfakes.com) 출처: mrdeepfakes.com
Mr. Deepfakes의 서비스 중단은 공식적으로 중요한 서비스 제공업체의 중단으로 인한 것으로 설명되었습니다(위 삽화 참조). 그러나 협력 저널리즘 조사에서는 사이트가 오프라인으로 전환하기 직전에 Mr. Deepfakes의 핵심 인물을 추적했습니다. 이는 사이트가 개인적인 또는 법적인 이유로 폐쇄되었을 수 있습니다.
同じ 시기, 시빗AI는 유명인 및 NSFW LoRAs를 생성하는 데 널리 사용되는 상업 플랫폼에서, 비정상적이고 논쟁적인 자체 검열 조치를 시행했습니다. 이러한 조치는 딥페이크 생성, 모델 호스팅 및 새로운 규칙과 제한을 포함하여, 특정 마진 NSFW 페티시 및 ‘극단적인 이데올로기’에 대한 전체 금지를 포함합니다.
이 조치는 결제 제공업체가 NSFW 콘텐츠 및 유명인 AI 묘사와 관련하여 변경이 이루어지지 않는다면 서비스를 중단하겠다고 위협했기 때문에 발생했습니다.
시빗AI 중단
오늘 현재, 시빗AI가 취한 조치가 비자 및 마스터카드를 만족시키지 못하는 것으로 보입니다. 사이트의 새로운 게시물†에서 커뮤니티 참여 매니저 Alasdair Nicoll는 시빗AI의 카드 결제(실제 신용 및 체크 카드로 구동되는 ‘버즈’ 가상 화폐 시스템)를 금요일(2025년 5월 23일)부터 중단할 것이라고 밝혔습니다.
이는 사용자가 월간 멤버십을 갱신하거나 새로운 버즈를 구매하는 것을 방지할 것입니다. 그러나 Nicoll은 사용자가 금요일 전에 연간 멤버십(비용†† 100-550달러)을 전환하여 현재 멤버십 특권을 유지할 수 있다고 조언합니다. 명백히, 도메인의 미래는 현재 불확실합니다(연간 멤버십은 결제 처리업체 손실이 발표된同時에 시작되었습니다).
결제 처리업체가 없는 것에 대해 Nicoll은 ‘우리는 AI 혁신에 편안한 모든 제공업체와 대화하고 있습니다’라고 말합니다.
최근 노력의 실패에 대해 사이트의 유명인 AI 및 NSFW 콘텐츠 정책을 재고하는 것에 대해 Nicoll은 게시물에서 다음과 같이 말합니다:
‘일부 결제 회사에서는 생성된 AI 플랫폼을 특히 사용자 생성 성인 콘텐츠를 허용할 때 높은 위험으로 간주합니다. 이러한 정책 선택은 사용자들이 아닌 것이 결제 중단을 강제했습니다.’
사용자 ‘Faeia’의 댓글은 회사에서 시빗AI 프로필*에 지정된 최고 책임자로서 이 발표에 대한 추가적인 맥락을 제공합니다:
‘명확히 하기 위해, 우리는 NSFW 및 성인 콘텐츠를 플랫폼에서 제거하지 않기로 결정했기 때문에 결제 처리업체에서 제거됩니다. 우리는 모든 종류의 창작자를 지원하는 데 헌신하고 대안 솔루션을 개발 중입니다.’
전통적인 기술의 주도자로서, NSFW 콘텐츠는 도메인, 기술 또는 플랫폼에 대한 관심을 유도하는 데 사용되는 것이 드문 일이 아닙니다. 그러나 초기 지지자들이 충분한 ‘합법적인’ 자본 또는 사용자 기반을 확립한 후에 거부됩니다(즉, NSFW 맥락 없이 존재할 수 있음).
시빗AI가 튜블러와 다양한 다른 이니셔티브를 따라 ‘위생된’ 제품으로 전환하는 것처럼 보였습니다. 그러나 AI 생성 콘텐츠에 대한 추가적인 논란/汚名은 마지막 순간의 구조를 방지하는 것으로 보입니다. 同時に, 공식 발표에서는 사용자에게 대안 결제 수단으로 암호화폐를 채택하도록 조언합니다.
가짜 아웃
TAKE IT DOWN 법안에 대한 도널드 트럼프 대통령의热烈한 서명은 이러한 사건에 영향을 미쳤을 것입니다. 새로운 법은 동의하지 않은 밀한 이미지의 배포를 범죄화하며, AI 생성 딥페이크를 포함합니다.
법은 플랫폼이 48시간 이내에 기표된 콘텐츠를 제거하도록 명령하며, 연방거래위원회에서 시행합니다. 법의 형사 규정은 즉시 발효되며, 미국의 범위 내에서 동의하지 않은 밀한 이미지(또는 AI 생성 딥페이크)를 의도적으로 게시하거나 게시하겠다고 위협하는 개인의 기소를 허용합니다.
법은 이례적인 양당의 지지와 기술 회사 및 옹호 단체의 지지를 받았습니다. 그러나 비평가들은 이 법이 합법적인 콘텐츠를 억제하고 암호화와 같은 개인 정보 도구를 위협할 수 있다고 주장합니다. 지난 달, 전자 프론티어 재단(EFF)은 법안에 반대를 표명하며, 이는 법안의 다른 부분에서 발견되는보다 좁은 정의의 동의하지 않은 밀한 이미지보다 더 넓은 범위의 콘텐츠를 대상으로 하는 TAKE IT DOWN 법안의 제거 메커니즘을 지적했습니다.
TAKE IT DOWN 법안의 제거 규정은 법안의 다른 부분에서 발견되는 동의하지 않은 밀한 이미지의 좁은 정의보다 더 넓은 범위의 콘텐츠를 대상으로 합니다. 제거 규정은 또한 사기성 또는 악의적인 제거 요청에 대한 중요한 안전 장치를 缺하고 있습니다.
서비스는 자동 필터에 의존할 것입니다. 이는 유명한 둔한 도구입니다. 합법적인 콘텐츠, 공정한 사용의 댓글부터 뉴스报道까지를 자주 플래그합니다. 법의 긴 시간 제한으로 인해 앱과 웹사이트는 48시간 내에 연설을 제거해야 하며, 이는 연설이 실제로 불법인지 확인하기에는 거의 시간이 없습니다.
결과적으로, 온라인 서비스 제공업체, 특히 작은 제공업체는 사법적 위험을 피하기 위해 연설을 게시하는 것을 시도하지 않고 연설을 게시하지 않기로 선택할 것입니다.
플랫폼은 법의 제정 이후 1년 이내에 공식적인 통지 및 제거 프로세스를 설정해야 하며, 영향을 받은 개인 또는 그들의 대표가 법을 적용하여 콘텐츠 제거를 요청할 수 있습니다.
이는 형사 규정이 즉시 발효되지만, 플랫폼은 제거 인프라(요청 수신 및 처리 등)를 준수할 의무가 없으며, 1년의 기간이 끝날 때까지입니다.
TAKE IT DOWN 법안이 AI 생성 유명인 콘텐츠를 포함하는가?
TAKE IT DOWN 법안은 모든 국가를 초과하지만, 반드시 모든 AI 주도 미디어를 금지하지는 않습니다. 법은 동의하지 않은 밀한 이미지의 배포를 범죄화하며, AI 생성 딥페이크를 포함합니다. 그러나, 묘사된 개인이 합리적인 개인 정보 기대를 가지고 있는 경우에만입니다:
법은 다음과 같이 규정합니다:
“(2) 정통 밀한 시각적 묘사에 관한 범죄.
“(A) 성인 관련.
“(i) 밀한 시각적 묘사는 개인이 알거나 합리적으로 알았어야 하는 상황에서 얻거나 생성되었으며, 개인은 개인 정보를 기대할 수 있습니다.
“(ii) 묘사된 것은 공공 또는 상업 환경에서 개인에 의해 자발적으로 노출되지 않았습니다.
“(iii) 묘사된 것은 공공의 관심사가 아닙니다.
“(iv) 묘사된 이미지의 게시는
“(I) 개인에게 해를 끼치기 위한 것입니다.
“(II) 개인에게 해를 끼칩니다. 심리적, 재정적, 또는 명성上的 손실을 포함합니다.
여기서 적용되는 ‘합리적인 개인 정보 기대’ 조건은 전통적으로 유명인들의 권리를 선호하지 않았습니다. 나중에 나타날 법률에 따라, 공공 또는 상업 환경에서 묘사된 공인에 대한 명백한 AI 생성 콘텐츠는 법의 금지 조항에 포함되지 않을 수 있습니다.
최종 조항은 해의 정도를 결정하는 것은 법적으로 유연한 것으로 유명합니다. 이는 법의 부담에 새롭게 추가되는 것이 아닙니다. 그러나 해를 끼치기 위한 의도는 법의 범위를 ‘복수 포르노’의 맥락으로 제한할 것으로 보입니다. 여기서 알려지지 않은 전 파트너가 알려지지 않은 다른 전 파트너의 실제 또는 가짜 미디어 콘텐츠를 게시합니다.
법의 ‘해’ 요구 사항은 익명 사용자가 유명인에 대한 AI 생성 묘사를 게시하는 경우에는 적합하지 않을 수 있지만, 더 넓은 괴롭힘 패턴이 공인에 대한 의도적인 및 악의적인 공격을 지원하는 결론에 도달하는 스토킹 시나리오에서는 더 관련성이 있을 수 있습니다.
법의 ‘커버드 플랫폼’ 참조는 Signal 또는 이메일과 같은 사적 채널을 제거 메커니즘의 의무에서 제외합니다. 이는 2026년 5월까지 공식적인 제거 메커니즘을 구현할 의무에만 적용되며, 법의 형사 금지에서 제외되는 것은 아닙니다.
명백히, 사적 통신을 통해 공유되는 동의하지 않은 AI 또는 실제 묘사가 법의 범위에 포함되지 않는다는 것은 아닙니다. 또한, 이러한 파티가 경찰에 지금은 불법이 된 콘텐츠를 보고하거나, 사이트가 제공하는 일반적인 연락처 방법을 사용하여 불법 콘텐츠의 제거를 요청하는 것을 막지 않습니다.
남겨진 권리
딥페이크 콘텐츠에 대한 7년 이상의 비판이 매우 짧은 시간에 결실을 맺은 것으로 보입니다. 그러나, TAKE IT DOWN 법안은 광범위한 연방 금지를 제공하지만, 모든 AI 생성 시뮬레이션 사례에 적용되지 않을 수 있으며, 특정 시나리오는 점점 증가하는 주 수준의 딥페이크 법률에 의해 해결되어야 하며, 통과된 법은 종종 주 수준에서 두드러진 관심 그룹을 반영합니다.
예를 들어, 캘리포니아에서는 캘리포니아 유명인 권리법은 유명인에 대한 독점적 사용을 유명인 자신과 유산에만 허용하며, 사망 후에도 vậy입니다. 반면, 테네시의 ELVIS 법은 음악가들이 불법한 AI 생성 음성 및 이미지 복제로부터 보호하는 데 중점을 두고 있습니다. 각 경우에는 주 수준에서 두드러진 관심 그룹에 대한 타겟팅된 접근 방식을 반영합니다.
대부분의 주는 성적인 딥페이크를 대상으로 하는 법을 가지고 있지만, 많은 경우에서 이러한 보호가 사적 개인과 공인 모두에게 동일하게 확장되는지 여부는 명확하지 않습니다. 한편, TAKE IT DOWN 법을 지지하는 것으로 보인 정치적 딥페이크는 특정 상황에서 헌법적 장벽에 직면할 수 있습니다.
† 아카이브 버전: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945
†† 아카이브 버전(월간 가격이 표시되지 않음): https://web.archive.org/web/20250425020325/https://civitai.green/pricing
* 시빗AI의 최고 책임자는 링크드인에서 관련 없는 이름으로 등록되어 있으며, 유사한 이름의 ‘Faiona’는 공식 시빗AI 스태프 모더레이터입니다.
2025년 5월 20일 처음 게시
