CivitAI 加强深度伪造规则，在万事达卡和维萨的压力下

CivitAI，可能是互联网上最受欢迎的 AI 模型仓库，终于在支付处理商万事达卡和维萨的压力下，对其 NSFW 内容政策进行了根本性的修订，特别是其服务条款中关于名人 LoRAs 的规定，这是该网站最受欢迎的用户提交内容之一。这些内容允许人们使用可免费下载的辅助模型（如 LoRAs）创建 AI 描绘（包括视频描绘）著名人物。

点击播放。 虽然 Civit 并没有提供确切的数字（并且错误标记/错误分类并不罕见，这可能会扭曲数字），但名人 AI 模型（主要是 LoRAs）的数量显然在几百或甚至几千个，并且明显以女性为主。

很明显，Civit 在一场 Twitch 直播 中，在公司社区参与经理 Alasdair Nicoll 的带领下，正在承受压力，Nicoll 本身就是 Civit 的创作者（SFW 模型）。他承认这些变化是由该网站的支付处理商出于对成人内容和真人描绘的担忧而强加于网站的。他还承认主要力量——万事达卡和维萨——可能会在未来要求更大的变化：

‘这些并不是我们想要做出的改变。这归结于新的和即将到来的立法。有深度伪造法，有 AI 色情法……支付处理商，最终是万事达卡和维萨，他们被吓到了；他们不想被起诉，他们最终在推动这些变化。

‘我们被给予的其他选项是完全删除不安全内容；将 X 和 XXX 内容从 CivitAI 删除，并将其移到一个完全新的平台，然后对该平台进行地理封锁，因为超过半数的美国州要求某种形式的色情地理封锁，[以及]许多亚洲国家和英国…

‘第三个选项是仅使用加密货币支付……所以这些选项中没有一个是好的。 ‘

Civit 域名在过去几天内因修订而定期关闭。虽然该网站已经禁止在名人 LoRA/模型描绘中使用 NSFW 主题，但现在已经不可能浏览 Civit 的模型部分并看到名人 LoRA 预览与大量的通用 NSFW 模型并列显示，这些模型旨在产生成人内容。

官方公告 声明：

‘标记为真实姓名（如“汤姆·克鲁斯”）或标记为真人资源的内容将从信息源中隐藏。 ‘

在 Twitch 会话中，Nicoll 透露了更多关于保护名人和真实个人的措施的细节。Civit 一直允许真实人物请求删除在 Civit 上托管的描绘他们的 AI 模型，但现在 Nicoll 暗示了一种系统，可以防止此类图像在被拒绝后被重新上传，并且可以识别即使系统从未见过的图像中的“受保护”人物。

为此，网站现在与 Clavata AI 内容审查系统合作——尽管 Clavata 将如何提供这些新功能的支持程度尚不清楚。

Nicoll 说：

‘汤姆·汉克斯已经从我们这里声称了他的肖像权。例如，很多成人女演员已经这样做了；很多一线演员和女演员也这样做了…

‘我想我们第一次遇到这种情况是芭芭拉·艾登，她的遗产*——她是第一个声称肖像权的人之一，这有点有趣，因为她已经很老了。 ‘

默认受保护？

在过去的两年里，AI 视觉特效公司 Metaphysic（全职披露：我从 2022 年初到 2024 年末为 Metaphysic.ai 工作）试图创建一个专有的系统，允许任何人注册自己的肖像，主要针对担心 AI 基于身份盗用的好莱坞人士，并得到了演员安妮·海瑟薇、奥克塔维亚·斯宾塞和汤姆·汉克斯的支持（与他们合作的罗伯特·泽米吉斯电影《这里》[2024]）。

从逻辑上讲，该系统的实用性将始终取决于最终的判例法；基于 Civit 现在被迫采取的措施，Metaphysic 提出的基于订阅的服务可能在深度伪造法的快速增长和潜在的免费覆盖范围下变得多余，后者可能在普通法下得到保护。目前尚不清楚 Metaphysic Pro 服务是否会转移到去年收购了 Metaphysic 资产的 Double Negative VFX 公司。

无论如何，似乎全球法律和一般市场压力更有可能提供保护和补救措施，而不是这种商业解决方案。

把青蛙煮沸

2023 年的一份报告 引起了人们对 Civit 上名人和色情 AI 模型的关注，尽管该网站创始人贾斯汀·迈尔 淡化了 用户贡献的名人肖像与用于生成色情材料的关系。

尽管 Civit 通过在网站上促进 LoRAs 和其他用户提供的模型的使用来赚钱，但 Nicoll 明确表示，这并不是促使万事达卡和维萨要求网站做出改变的主要关注点，以便网站可以继续盈利：

‘有些人说我们陷入困境的原因是因为我们允许生成。这个问题不在这里。托管这些模型，托管这些内容，足以吸引索伦的注意。 ‘

社区评论线程多年来一直对 Civit 被允许托管名人肖像感到惊讶。意识到可能会出现打压，已经有人提出了或实施了保存 LoRAs 的计划，无论是 Civit 还是上传者删除的，包括（直到现在）被忽视的 subreddit r/CivitaiArchives。

虽然很多人都认为基于 torrent 的计划是自然的解决方案，但似乎还没有出现一个被广泛关注的域名——而且，在任何情况下，这种解决方案似乎都将在 Civit 和其他地方禁止的活动转移到互联网的最外层边缘；转移到封闭的花园；并且，最有可能转移到暗网，因为能够容纳禁止的名人 LoRAs 的大多数框架（例如 Reddit 和 Discord）要么已经禁止此类内容，要么似乎很快就会禁止它。

目前，名人 LoRAs 仍然可以在 Civit 以某些限制查看，尽管大多数生成的内容已经被取消列出，并将被排除在偶然发现之外。有人在 Twitch 会话中建议 Nicoll，可能的结果是打压会加深（可能是禁止所有真实人物的肖像在上传的模型或描绘中）。

Nicoll 回应：

‘“他们不会就此罢休，他们会要求更多和更多”——绝对！是的，绝对。就是我们生活的世界。唯一的希望是我们变得足够大、足够强大，以至于我们将在被规定什么时有更多的话语权……

Nicoll 在为所提供的替代方案感到绝望时补充说：

‘……没有人会购买比特币来使用 CivitAI 生成器。所以我们尽量让这变得尽可能容易接受，这就是我们最终的结果。所以，如果这对你来说是不可接受的，我道歉，但不幸的是，这就是事实。我们尽了最大的努力，尽可能地反对，但最终我们被告知，这就是必须做的——你必须这样做，否则就会是末日……

‘……这些金融机构，他们不理解人们在这里使用它做什么。我们已经尝试过告诉他们，我们已经尝试过与他们交谈，但我们基本上是唯一一个仍然存在的 NSFW 内容的最后堡垒。 ‘

Nicoll 说，Civit 已经联系了“所有可想象的支付处理商”：

‘甚至那些成人网站使用的高风险支付处理商，他们都非常非常谨慎地对待 AI 内容。这就是问题所在——AI 内容。如果我们是一个传统的成人网站，我们会没事的，但 AI 内容是他们害怕的东西。 ‘

接下来会怎样？

在此公告之前，Civit 已经开始删除某些类别和内容的上传，这些内容现在被禁止。在撰写本文时，已经在 Hugging Face 网站上为 Wan 2.1 LoRAs 建立了一个“紧急仓库”。虽然其中一些 LoRAs 设计用于促进一般的性活动，这些活动在新视频模型（如 Wan 2.1）中训练不足或不存在，但其中一些属于现在严格禁止的“脱衣”类别（即“裸化”），包括一些可以被认为是“极端”或可能令人反感的模型。

subreddit r/datahoarders，一直是保存在线美国政府文献的先锋，尤其是在特朗普的大规模删除活动 中，已经对保存丢失的 CivitAI 内容的想法表示了鄙视。

在文献中，CivitAI_facilitate_NSFW AI 生成的便捷性并没有被忽视。然而，其中一项最常被引用的研究是 2024 年的 论文 探索 Civitai 上滥用性生成 AI 模型的使用，由于 Civit 禁止使用名人或非法 AI 生成，并且研究人员决定在 Civit 自身寻找证据，因此受到限制。

很明显，支付处理商关心的不是在 Civit 使用 LoRAs 生成的内容，也不是在 Civit 发布的内容，而是在其他社区中使用这些模型的内容，这些社区要么是封闭的，要么通常受到的监管较少。

Mr. Deepfakes 网站，曾经是 与 基于自动编码器的方法 同义的网站，直到 2022 年 Stable Diffusion 和扩散模型的出现，现在已经开始发布使用最新的文本到视频和图像到视频生成器（包括 Hunyuan Video 和 Wan 2.1）创建的基于名人的色情视频示例——这些都是最近发布的产品，它们的影响力还在发展中，但似乎会在今年引起轰动效应。

强制元数据

根据 Nicoll 的说法，支付处理商要求的有趣变化之一是，网站上的所有图像现在必须包含元数据。当在 ComfyUI 等平台上使用生成模型的典型工作流程生成图像或视频时，输出通常包含元数据，列出使用的模型（其哈希值以及其名称，因此，如果用户重命名模型，其来源仍然清晰）以及多个其他设置。

由于这些关于图像创建方式的隐藏数据点，用户可以 将 别人创建的视频或图像拖入自己的 ComfyUI 工作流程中，并重现整个流程，并解决任何缺失的依赖项（例如原始创建者拥有的模型或组件，而用户必须找到并下载）。

任何缺少此类数据的图像或视频生成将在 30 天内被删除。用户可以手动在 Civit 网站上输入此类数据。

由于元数据的价值是（假设）证据，所以这个规定似乎有点无意义；复制和粘贴元数据从一个文件到另一个文件是很容易的，而通过 web 表单创建元数据是很简单的。

尽管如此，包括在 Twitch 会话中发表评论的用户在内的多个用户在 Civit 上上传了成千上万的图像。他们现在唯一的选择是手动注释每个图像，或者删除并重新上传带有元数据的图像版本——这将删除原始图像生成的“喜欢”或“热度”或对话。

新规则

以下是从今天起适用于 Civit 的更改摘要：

• 标记为真实姓名或标记为真人资源的内容将不再出现在公共信息源中。
• 内容中包含儿童/未成年人主题将被过滤掉。
• 缺少生成元数据的 X 和 XXX 评级内容将被隐藏，不会被删除，但会被标记为警告，允许上传者添加缺失的详细信息。这些内容将只对其创建者可见，直到更新。
• 使用“自带图像”（BYOI）功能生成的图像必须至少应用 50% 的噪声改变。这意味着 AI 必须显著修改上传的图像，从而降低生成几乎相同副本的可能性。然而，在 CivitAI 上完全创建或从其他 CivitAI 内容混合的图像不受此规则限制，可以使用任何去噪级别，从不改变（0.0）到完全转换（1.0）。此更改旨在减少 BYOI 工具的滥用，这些工具可能会被用来通过轻微修改来生成难以察觉的深度伪造。强制执行至少 50% 的变化可以确保 AI 不仅仅是轻微编辑现有的真实人物照片。
• 启用 X 或 XXX 内容时，搜索名人名称将不返回任何结果。将名人名称与成人内容结合使用仍然被禁止。
• 广告将不显示在设计用于复制真实个人的图像或资源上。
• 对于描绘真实个人的图像或资源，禁用“点赞”（Buzz）功能。
• 设计用于复制真实个人的模型不符合早期访问资格，早期访问是 Civitai 的一个功能，允许创作者首先向付费支持者发布内容。这限制了名人或真实个人的肖像的盈利能力。
• 添加了 2257 合规声明，以澄清该平台不允许任何非 AI 生成的内容。这有助于通过确认所有明确内容都是合成的而不是基于真实摄影或视频来确保法律保护。
• 添加了新的 内容删除请求页面，允许任何人在无需登录的情况下报告滥用或非法材料。注册用户应继续使用每个帖子的内置报告工具。这与请求从平台中删除自己的肖像的现有表单是分开的。
• CivitAI 通过与 Clavata 的合作引入了新的内容审查系统，Clavata 的图像分析工具的性能优于之前的解决方案，例如 Amazon Rekognition 和 Hive。

** 截至 2025 年 5 月 20 日 11:23:47（可能更早），Twitch 直播已经被删除。为了确保我可以验证在流媒体中报告的事实，我保留了一份副本。

* 尽管提到了芭芭拉·艾登的“遗产”，但《我梦见吉妮》女演员仍然健在，目前 93 岁。
^† 存档：https://archive.ph/tsMb0

最初发布于 2022 年 4 月 24 日。2025 年 4 月 24 日 14:32:28 修订：更正日期。2025 年 5 月 20 日修改，以反映 Twitch 内容被删除，Twitch 内容曾被用作参考材料。