CivitAI 加紧深度伪造规则，在 Mastercard 和 Visa 的压力下

CivitAI，可能是互联网上最受欢迎的 AI 模型仓库，终于在支付处理公司 MasterCard 和 Visa 的压力下，放弃了对 NSFW 内容的政策，特别是其 TOS 中关于名人 LoRAs 的规定，这是网站上用户提交的最受欢迎的内容流之一，允许人们使用免费下载的附加模型（如 LoRAs）来创建 AI 描绘（包括 视频描绘）著名人物。

点击播放。 虽然 Civit 没有提供确切的数字（并且错误标记/错误分类并不罕见，这可能会扭曲数字），名人 AI 模型的数量，主要是 LoRAs，显然在几百或甚至几千个，并且显然以女性为主。 来源：civitai.com

很明显，Civit 在一场 Twitch 直播 中，在公司的社区参与经理 Alasdair Nicoll 的带领下，正在承受压力，Nicoll 本身也是 Civit 的创作者（SFW 模型），他承认这些变化是由他们的支付处理器关于成人内容和真实人物描绘的担忧所迫使的，他还承认主要的力量，Visa 和 MasterCard，可能会要求更大的变化：

‘这些变化并不是我们想要做的。这是由于新的和即将到来的立法。有深度伪造法，有 AI 色情法… 支付处理器，最终是 Visa 和 MasterCard 感到害怕；他们不想被起诉，他们最终正在推动这些变化。

‘其他选项我们被给予的是完全移除不安全内容；将 X 和 XXX 内容从 CivitAI 移除到一个完全新的平台，并对该平台进行地理封锁，因为超过一半的美国州要求某种形式的色情地理封锁，[以及]许多亚洲国家和英国…

‘第三个选项是完全使用加密货币支付… 所以没有好的选择。 ‘

Civit 域名在过去几天内因修订而定期关闭，显然是为了实施这些变化。虽然网站已经禁止在名人 LoRA/模型描绘中使用 NSFW 主题，但现在已经不可能浏览 Civit 的模型部分并看到名人 LoRA 预览与大量的通用 NSFW 模型一起显示，这些模型旨在产生成人内容。

官方公告声明：

‘标记为真实人物姓名（如“汤姆·克鲁斯”）或标记为真实人物资源的内容将从提要中隐藏。 ‘

在 Twitch 会议中，Nicoll 透露了更多关于保护名人和真实人物的措施。Civit 一直允许真实人物要求删除在 Civit 上托管的描绘他们的 AI 模型，但现在 Nicoll 暗示了一个可以防止此类图像在初始拒绝后被重新上传的系统，并且可以识别一个“受保护”的人物，即使在系统从未见过的图像中。

为此，网站现在与 Clavata AI 内容审核系统合作 – 虽然 Clavata 将为这些新功能提供多少支持尚不清楚。

尼科尔说：

‘汤姆·汉克斯已经从我们这里认领了他的肖像，例如。很多成人女演员也这样做了；很多 A 级演员和女演员也这样做了…

‘我想我们最早的认领是芭芭拉·伊登，她的遗产* – 她是最早认领肖像的人之一，这有点有趣，因为她已经老了。 ‘

默认保护？

在过去的几年里，AI 视觉特效公司 Metaphysic（全披露：我从 2022 年初到 2024 年末在 Metaphysic.ai 工作）试图创建 一个专有系统，该系统允许任何人注册自己的肖像，主要针对担心 AI 基于身份盗用的好莱坞人士，并得到了演员 如 安妮·海瑟薇、奥克塔维亚·斯宾塞和汤姆·汉克斯（与公司合作的罗伯特·泽米吉斯电影 这里 [2024]）的支持。

从逻辑上讲，该系统的实用性将始终取决于最终的判例法；基于 Civit 现在被迫采取的措施，Metaphysic 提出的 订阅服务^† 可能会因深度伪造法的快速增长和潜在的免费覆盖范围而变得多余，而这些覆盖范围则取决于普通法。目前尚不清楚 Metaphysic Pro 是否会转移到去年收购了 Metaphysic 资产的 Double Negative 视觉特效公司。

无论如何，很明显，全球法律和一般市场压力更有可能提供保护和补救措施，而不是这种商业解决方案。

煮青蛙

2023 年 404 媒体的一份报告 引起了人们对 Civit 上的名人和色情 AI 模型的关注，尽管网站创始人贾斯汀·迈尔 淡化了 用户贡献的名人肖像与用于生成色情材料的关系。

虽然 Civit 通过在网站上使用 LoRAs 和其他用户提供的模型来赚钱，但尼科尔很明确，这并不是激励 Visa 和 MasterCard 要求网站做出改变的主要原因，这样网站就可以继续盈利：

‘有些人说我们陷入困境的原因是因为我们允许生成。这个并不是问题所在。托管这些模型，托管此类内容，足以吸引索伦的目光。 ‘

社区评论线程多年来一直对 Civit 被允许托管名人肖像感到惊讶。意识到可能或必然的打压，一些倡议旨在保存 LoRAs，要么被 Civit 删除，要么被上传者删除，包括（到目前为止）相对被忽视的 subreddit r/CivitaiArchives。

虽然许多人建议基于torrent的倡议是自然的解决方案，但似乎还没有出现一个被广泛关注的域名 – 而且，在任何情况下，这似乎肯定会将在 Civit 和其他地方被禁止的活动转移到互联网的最外层边缘；到封闭的花园；以及，最可能地，到暗网，因为可以容纳被禁止的肖像 LoRAs 的大多数框架（如 Reddit 和 Discord）要么已经禁止此类内容，要么似乎肯定会立即禁止它。

目前，名人 LoRAs 仍然可以在 Civit 上看到一些限制，尽管大多数生成的内容已被取消列表并将被排除在偶然发现之外。似乎很可能，一个评论者在 Twitch 会议上建议尼科尔，打击将加深（可能到禁止在上传的模型或描绘中使用真实人物的肖像）。

尼科尔回应：

‘“他们不会停止这里，他们会不断要求更多和更多” – 绝对！是的，绝对。就是我们生活的世界。唯一的希望是我们变得足够大和强大，我们将在被告知什么时有更多的话语权… ‘

尼科尔在绝望于提供给 Civit 的替代方案时补充说：

‘… 没有人会购买比特币来使用 CivitAI 生成器。所以我们已经尽量使其变得可接受，并且这是我们最终的结果。所以，如果这是一件你无法忍受的事情，我道歉，但不幸的是这是事实。我们尽了最大的努力，我们推动了我们所能做到的，但最终我们被告知这是它 – 你必须这样做，否则就结束了… ‘

‘… 这些金融机构，他们不理解人们在这里使用它做什么。我们已经尝试过告诉他们，我们已经尝试过与他们交谈，但我们基本上是 [NSFW] 内容的最后堡垒。 ‘

尼科尔说，Civit 已经联系了“所有可想象的支付处理器”：

‘即使是成人网站使用的高风险支付处理器，他们都非常非常害怕 AI 内容。这就是问题所在 – 这是 AI 内容。如果我们是一个传统的色情网站，我们会没事的，但 AI 内容是他们害怕的东西。 ‘

下一步？

在此公告之前，Civit 已经被观察到正在删除某些类别和类型的上传内容，这些内容现在被禁止。在撰写本文时，Wan 2.1 LoRAs 的“紧急仓库”已经在 Hugging Face 网站上 建立。虽然其中一些 LoRAs 设计用于促进一般的性活动，这些活动在新视频模型（如 Wan 2.1）中训练不足或不存在，但其中一些属于现在严格禁止的“脱衣”类别（即“裸化”），包括一些可以被认为是“极端”或明显可能冒犯的模型。

subreddit r/datahoarders，在过去一直 在 保护在线文学方面发挥了重要作用，尤其是在特朗普的 大规模删除活动 中，到目前为止，对于保存失去的 CivitAI 内容的想法表示蔑视。

在文献中，CivitAI 的 NSFW AI 生成的便捷性并没有被忽视。然而，最常被引用的研究之一是 2024 年的 论文 探索 Civitai 上的滥用生成 AI 模型，由于 Civit 到目前为止尚未允许名人或非法 AI 生成，并且由于研究人员决定在 Civit 本身找到证据，这一事实受到了限制。

然而，很明显，支付处理器关心的并不是在 Civit 本身使用 LoRAs 生成的内容，也不是在 Civit 发布的内容，而是在其他社区中使用这些模型的内容，这些社区要么是封闭的，要么是管理较少的。

Mr. Deepfakes 网站，曾经与 普遍 的 基于自动编码器的方法 同义，直到 2022 年 Stable Diffusion 和扩散模型的出现，现在已经开始发布使用最新的文本到视频和图像到视频生成器（包括 Hunyuan Video 和 Wan 2.1）创建的名人基于色情视频的示例，这些生成器似乎注定会在今年随着各自社区的发展而引起轰动的头条新闻。

强制元数据

根据尼科尔的说法，支付处理器要求的另一个有趣的变化是，网站上的所有图像现在必须包含元数据。当一个生成模型在一个典型的工作流程中在一个平台（如 ComfyUI）上生成图像或视频时，输出通常包含一个列表，包括使用的模型（其哈希以及其名称，因此，如果用户重命名模型，其来源仍然清晰）以及其他设置。

由于这些关于图像如何创建的隐藏数据点，用户可以 拖动 别人创建的视频或图像到他们自己的 ComfyUI 工作流程中，并重新创建整个流程，并解决任何缺失的依赖项（例如原始创建者拥有的模型或组件，而用户将必须找到并下载）。

任何缺少此数据的图像或视频生成将在 30 天内被删除。用户可以通过在 Civit 网站本身手动输入来添加此类数据。

由于元数据的价值是（假设）证据，这个规定似乎有点无意义；复制和粘贴元数据从一个文件到另一个文件是微不足道的，而通过网页表单发明元数据似乎令人费解。

尽管如此，包括在 Twitch 会议上发表评论的用户在内的几个用户已经在 Civit 上上传了成千上万的图像。他们现在唯一的选择是手动注释每一个，或者删除并重新上传带有添加元数据的图像版本 – 这将消除原始图像生成的“喜欢”或“热度”或对话。

新规则

以下是从今天起适用于 Civit 的更改总结：

• 标记为真实人物姓名或标记为真实人物资源的内容将不再出现在公共提要中。
• 内容中包含儿童/未成年人主题将被过滤出提要。
• 缺少生成元数据的 X 和 XXX 级内容将被隐藏，不会在公共视图中显示，并将被标记为警告，允许上传者添加缺失的详细信息。这种内容不会被删除，但只会对其创建者可见，直到更新。
• 使用带有图像 (BYOI) 功能生成的图像必须现在至少在生成过程中应用 50% 的噪声改变。这意味着 AI 必须显著修改上传的图像，从而降低生成几乎相同副本的机会。然而，完全在 CivitAI 上创建或从其他 CivitAI 内容混合的图像不受此规则的约束，可以使用任何去噪级别，从无变化（0.0）到全部转换（1.0）。此更改旨在减少对 BYOI 工具的滥用，这些工具可能被用来通过轻微修改现有照片来生成微妙或无法检测到的深度伪造。强制执行至少 50% 的变化，确保 AI 不仅仅是轻微编辑现有的真实人物照片。
• 当启用 X 或 XXX 内容时，搜索名人名称将不返回任何结果。将名人名称与成人内容结合仍然被禁止。
• 广告将不在旨在复制真实个人的外观的图像或资源上显示。
• 图像或资源描绘真实个人的提示（Buzz）将被禁用。
• 旨在复制真实个人的模型将不符合早期访问的资格，Civitai 的一个功能，允许创作者首先向付费支持者发布内容。这限制了名人或真实个人的肖像的盈利能力。
• 已添加 2257 合规声明，以澄清该平台不允许任何非 AI 生成的内容。这有助于通过确认所有明确材料是合成的，而不是基于真实摄影或视频来确保法律保护。
• 已添加新的 内容删除请求页面，允许任何人在无需登录的情况下报告滥用或非法材料。注册用户应继续使用每个帖子的内置报告工具。这与从平台请求删除自己的肖像的现有表单是分开的。
• CivitAI 通过与 Clavata 的合作推出了新的内容审核系统，Clavata 的图像分析工具的性能优于以前的解决方案，如 Amazon Rekognition 和 Hive。

** 截至 2025 年 5 月 20 日 11:23:47（可能发生在更早），Twitch 直播已经被删除。为了确保我可以验证流中报告的事实，我保留了一份副本。

* 尽管提到了芭芭拉·伊登的“遗产”，我梦中的嫩妃 女演员仍然活着，目前 93 岁。
^† 存档：https://archive.ph/tsMb0

首次发布于星期四，2025 年 4 月 24 日。修改于星期四，2025 年 4 月 24 日 14:32:28：更正日期。
修改于星期二，2025 年 5 月 20 日，以反映 Twitch 内容的删除，该内容作为参考材料。