CivitAI 面临新支付提供商危机，特朗普签署反深度伪造法案

特朗普总统已经签署了《取下法案》（TAKE IT DOWN Act），在美国联邦层面将性深度伪造内容定为犯罪。同时，CivitAI 社区试图“清理其行为”关于 NSFW AI 和名人输出的努力最终未能说服支付处理器，导致该网站寻找替代方案或面临关闭。所有这些都发生在世界上最古老、最大的深度伪造色情网站离线仅仅两周后……

过去几周是无规管图像和视频深度伪造的重要时期。就在两周多前，世界上最大的名人深度伪造色情网站 Mr. Deepfakes 突然离线，这个网站曾经在七年多的时间里一直是全球名人深度伪造内容的中心。到它离线时，网站每月平均有超过五百万次访问。

背景，Mr. Deepfakes 域名在五月初；插图，暂停通知，现在已被 404 错误替换，因为该域名于 2025 年 5 月 4 日被一位未知买家购买（https://www.whois.com/whois/mrdeepfakes.com）。来源：mrdeepfakes.com

Mr. Deepfakes 停止服务的官方原因是“关键服务提供商”的撤出（见上图中的插图，该图已被域名故障替换）。然而，一项合作的新闻调查在网站关闭之前已经将 Mr. Deepfakes 背后的一个关键人物进行了去匿名化，使得该网站可能是由于个人或法律原因而关闭的。

大约在同一时间，CivitAI，这个广泛用于名人和 NSFW LoRAs 的商业平台，实施了一系列不寻常且有争议的自我审查措施。这些措施影响了深度伪造生成、模型托管和一系列新的规则和限制，包括对某些边缘 NSFWfetish 和所谓的“极端主义意识形态”的全面禁止。

这些措施是由支付提供商在未对 NSFW 内容和名人 AI 描绘做出改变的情况下威胁要撤回服务而促成的。

CivitAI 被切断

截至今日，CivitAI 采取的措施似乎并没有说服 VISA 和 Mastercard ：网站的一篇新帖子，由社区参与经理 Alasdair Nicoll 发布，透露 CivitAI 的卡片支付将从本周五（2025 年 5 月 23 日）开始停止。这将阻止用户续订每月会员或购买新 buzz。尽管 Nicoll 建议用户可以通过在周五之前切换到年度会员（成本为 100-550 美元）来保持当前会员特权，但很明显，网站的未来在此时有些不确定（值得注意的是，年度会员是在宣布失去支付处理器的同时推出的）。

关于缺乏支付处理器，Nicoll 说：“我们正在与每个对 AI 创新感到舒适的提供商交谈”。

关于最近努力未能充分重新思考网站关于名人 AI 和 NSFW 内容的政策，Nicoll 在帖子中表示：

“一些支付公司将生成式 AI 平台标记为高风险，特别是当我们允许用户生成的成人内容时，即使它是合法的并且经过审查。这种政策选择，而不是用户的行为，迫使我们做出切断的决定”

一位名为“Faeia”的用户的评论，她在 CivitAI 的个人资料中被列为公司的首席工作人员，为此次公告提供了背景：

“只是为了澄清，我们之所以被支付处理器移除，是因为我们选择不从平台上删除 NSFW 和成人内容。我们仍然致力于支持所有类型的创作者，并正在努力寻找替代解决方案”

作为新技术的传统驱动力，NSFW 内容被用于激发人们对一个领域、技术或平台的兴趣并不罕见——只不过最初的支持者一旦“合法”资本或用户群体建立起来后就会被拒绝（即，当实体在没有 NSFW 上下文的情况下能够生存时）。

曾经看起来 CivitAI 将会像 Tumblr 和其他多个项目一样走向“净化”产品的道路，但围绕 AI 生成内容（无论何种类型）的日益增长的争议和耻辱似乎使得这种最后的救援变得不太可能。在此期间，官方公告建议用户采用加密货币作为替代支付方式。

假象

特朗普总统热情地签署《取下法案》（TAKE IT DOWN Act）可能影响了这些事件的发生。该法案将非自愿亲密图像的分发（包括 AI 生成的深度伪造）定为犯罪。

该法要求平台在 48 小时内删除被标记的内容，并由联邦贸易委员会监督执行。该法的刑事规定立即生效，允许对在美国管辖范围内故意发布或威胁发布非自愿亲密图像（包括 AI 生成的深度伪造）的人进行起诉。

尽管该法得到了两党的罕见支持，以及科技公司和倡导团体的支持，但批评者认为它可能会压制合法内容，并威胁到像加密这样的隐私工具。上个月，电子前沿基金会（EFF）宣布了对该法案的反对，声称该法案的下架机制针对的内容比立法中其他地方对非自愿亲密图像的定义更广泛。

“TAKE IT DOWN 中的下架条款适用于比立法中其他地方对非自愿亲密图像的定义更广泛的内容类别——可能包括任何涉及亲密或性内容的图像。下架条款还缺乏对恶意或不良下架请求的关键保障。

“服务将依赖自动过滤器，这些过滤器臭名昭著地笨拙。它们经常标记合法内容，从合理使用的评论到新闻报道。该法的紧迫时间表要求应用程序和网站在 48 小时内删除言论，这通常不足以验证言论是否实际上是非法的。

“因此，在线服务提供商，特别是较小的服务提供商，可能会选择避免繁琐的法律风险，简单地删除言论，而不是尝试验证它。”

平台现在有最多一年时间来建立正式的通知和下架流程，允许受影响的个人或其代表通过该法案寻求内容删除。

这意味着虽然刑事规定立即生效，但平台在一年窗口期结束前不受法律义务来遵守下架基础设施（例如接收和处理请求）。

《取下法案》是否涵盖 AI 生成的名人内容？

尽管《取下法案》跨越所有州界，但它并不一定禁止所有 AI 驱动的名人媒体。该法案仅在描绘的个人有合理的隐私期待时，将非自愿亲密图像（包括 AI 生成的深度伪造）的分发定为犯罪：

该法案规定：

“(2) 涉及真实亲密视觉描绘的犯罪——

“(A) 涉及成年人——除非 [用于证据、报告目的等], 任何人在州际或外国商业中，使用交互式计算机服务故意发布一个可识别的成年个人的亲密视觉描绘，如果——

“(i) 亲密视觉描绘是在个人知道或应该知道可识别个人的情况下获得或创建的；

“(ii) 所描绘的内容不是在公共或商业环境中由可识别个体自愿暴露的；

“(iii) 所描绘的内容不是公共关注的问题；以及

“(iv) 亲密视觉描绘的发布——

“(I) 旨在造成伤害；或

“(II) 对可识别个体造成伤害，包括心理、财务或声誉损害。”

在这里适用的“合理的隐私期待”条件传统上并没有偏袒名人的权利。根据最终出现的判例法，甚至可能即使是公共场合或商业环境中公开人物的明确 AI 生成内容也可能不在该法案的禁止范围内。

关于确定 伤害程度 的最后条款在法律术语中是有弹性的，并在这种意义上没有为立法负担添加任何新颖的内容。然而，故意造成伤害 的要求似乎限制了该法案的范围，使其仅适用于“报复色情”的背景下，即（未知的）前伴侣发布（同样未知的）另一位前伴侣的真实或虚假媒体内容。

虽然该法的“伤害”要求可能看起来不太适合匿名用户发布 AI 生成的名人描绘的案例，但它可能在跟踪案例中更相关，在那里，一个更广泛的骚扰模式支持了这样一个结论：一个个人故意、恶意地针对一个公众人物，通过多个渠道。

虽然该法案的“涵盖平台”条款排除了 Signal 或电子邮件等私人渠道，使其不受下架规定的约束，但这种排除仅适用于在 2026 年 5 月之前实施正式删除机制的义务。它并不意味着通过私人通信共享的非自愿 AI 或真实描绘在该法案的刑事禁止范围之外。

显然，缺乏现场报告机制并不阻止受影响的当事人将现在被认为是非法的内容报告给警察；也不阻止他们使用网站可能提供的任何常规联系方法来提出投诉并要求删除侵犯内容。

被遗忘的权利

七年多来，针对深度伪造内容的日益增长的公众和媒体批评似乎在短时间内达到了顶点。然而，虽然《取下法案》提供了全面的联邦禁止，但它可能并不适用于所有涉及 AI 生成模拟的案例，留下某些场景由不断增长的州级深度伪造立法来解决，在那里通过的法律往往反映“本地利益”。

例如，在加利福尼亚州，加利福尼亚名人权利法案限制了对名人身份的独家使用，仅限于名人本人及其遗产，即使在其死后也是如此；相反，田纳西州的 ELVIS 法案则侧重于保护音乐家免受未经授权的 AI 生成语音和图像复制，每个案例都反映了针对州级别突出的利益集团的有针对性的方法。

大多数州现在都有针对性深度伪造的法律，尽管许多法律都没有明确说明这些保护是否同样适用于私人个人和公众人物。同时，据报道帮助促成特朗普支持该新联邦法律的政治深度伪造，在某些情况下可能会遇到宪法障碍。

^† 存档版本：https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† 存档版本（不包括每月价格）：https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* CivitAI 首席执行官的实际“首席工作人员”在 LinkedIn 上以无关的姓名列出，而类似的“Faiona”是 CivitAI 官方工作人员在该域名 subreddit 上的版主。

首次发布于 2025 年 5 月 20 日