安德森的角度

在万事达卡和维萨卡的压力下，CivitAI 收紧了 Deepfake 规则

发布时间 2025 年 4 月 24 日

更新 2025 年 5 月 20 日

马丁安德森

CivitAI 可能是互联网上最受欢迎的 AI 模型库，它终于迫于支付服务商 MasterCard 和 Visa 的压力，彻底修改了其 NSFW 内容政策，尤其是关于名人 LoRA 的服务条款。LoRA 是该网站最受欢迎的用户提交内容流之一，它允许人们使用可免费下载的辅助模型，例如 LoRA 创建 AI 描述（包括视频描述) 知名人士。

点击播放。 尽管 Civit 没有提供确切的数字（错误标记/错误分类并不罕见，这可能会扭曲数据），但名人 AI 模型（主要是 LoRA）的数量显然有数百甚至数千个，并且明显以女性为主。来源：civitai.com

显然在压力下运作 Twitch 直播** 代表公司，公司社区参与经理 Alasdair Nicoll，他本人是创造者 Civit 的（SFW）模特总监承认，这些改变是因为他们支付处理商对成人内容和真实人物描绘的担忧而被迫进行的。他还承认，这些支付处理商背后的主要力量——Visa 和 MasterCard——很可能会在以后要求网站做出更大的改变：

这些都不是我们希望做出的改变。这归根结底是因为新的和即将出台的立法。现在有深度伪造法，有人工智能色情法……支付处理商，最终Visa和MasterCard也感到恐慌；他们不想被起诉，最终推动了这些变化。

“我们提供的其他一些选择包括彻底删除不适合工作场所的内容；从 CivitAI 中删除 x 和三重 x 内容，并将其转移到一个全新的平台上，然后对该平台进行地理封锁，因为超过一半的美国州都要求对色情内容进行某种形式的地理封锁，[以及]许多亚洲国家和英国……

“第三种选择是完全加密，只进行加密支付......所以实际上没有好的选择。”

过去几天，Civit 域名定期关闭进行修改，显然是为了执行这些更改。尽管该网站已经禁止在名人 LoRA/模特描述中使用 NSFW 主题，但现在无法浏览 Civit 的模特部分，也无法将名人 LoRA 预览与大量旨在制作成人内容的通用 NSFW 模特并排查看。

这个官方公告陈述：

“标有真实人物姓名（如“汤姆·克鲁斯”）或标记为 POI（真实人物）资源的内容将从信息流中隐藏。”

在 Twitch 的直播中，Nicoll 透露了更多旨在保护名人和真人细节的措施。Civit 一直以来都允许真人请求删除其托管的 AI 模型，但现在 Nicoll 暗示，该系统可以在首次被拒绝后阻止此类图像再次上传，并且即使在系统从未见过的图像中，也能识别出“受保护”的人物。

为此，该网站目前正在与 Clavata AI 审核系统合作——尽管 Clavata 将在多大程度上为这些新设施提供支持尚不清楚。

尼科尔说：

例如，汤姆·汉克斯就向我们索要他的肖像。很多成人女演员也都这么做了；很多一线演员也都这么做了……

“我认为我们拥有的第一个肖像是芭芭拉·伊登 (Barbara Eden)，她的遗产*——她是第一个声称拥有她肖像的人之一，这有点好笑，因为她年纪大了。”

默认受到保护？

在过去的几年里，AI VFX 公司 Metaphysic（全面披露：我从 2022 年初到 2024 年底在 Metaphysic.ai 工作）试图创造专有系统这将允许任何人注册自己的肖像，但主要针对的是担心身份被人工智能劫持的好莱坞明星，并得到了演员的支持如安妮·海瑟薇、奥克塔维亚·斯宾瑟和汤姆·汉克斯（该公司曾与罗伯特·泽米吉斯合作服务 [2024]）。

从逻辑上讲，该系统的实用性始终取决于最终的案例法；根据 Civit 现在被迫采取的措施，基于订阅的服务^† 鉴于深度伪造相关法律的快速发展以及普通法可能提供的（免费）保障，Metaphysic 提出的方案可能显得多余。目前尚不清楚 Metaphysic Pro 服务是否会转让给 Double Negative VFX 公司，该公司收购了 Metaphysic 的资产去年。

无论如何，与此类商业解决方案相比，全球法律和一般市场压力似乎更有可能提供保护和补救措施。

煮青蛙

2023 Media 404 年的报告引起了注意 Civit 的名人和色情 AI 模型的倾向，尽管该网站的创始人 Justin Maier 淡化用户贡献的名人肖像与其用于生成色情材料之间的关系。

尽管 Civit 通过促进 LoRA 和其他用户提供的模型的现场使用来赚钱，但 Nicoll 很清楚，这并不是促使 Visa 和 MasterCard 规定对网站进行更改的主要考虑因素，以便可以继续货币化：

“有人说，我们之所以陷入困境，是因为我们允许生成。这根本算不上什么。托管这些模型，托管这些内容，就足以引起索伦的注意。”

近年来，社区评论区对 Civit 被允许托管名人肖像感到惊叹。意识到可能（或许是不可避免的）遭到取缔，一些旨在保护被 Civit 或其上传者删除的 LoRA 的倡议已被提出或实施，其中包括（迄今为止）颇受忽视的 Reddit 子版块 r/CivitaiArchives。

尽管许多人认为基于种子的举措是最自然的解决方案，但似乎尚未出现受到广泛关注的域名 - 而且无论如何，这似乎肯定会将 Civit 和其他地方禁止的活动转移到互联网的最边缘；围墙花园；并且最有可能的是，转移到暗网，因为大多数可以容纳被禁相似 LoRA 的框架（例如 Reddit 和 Discord）要么已经禁止此类内容，要么似乎肯定会立即禁止它。

目前，名人 LoRA 仍可在 Civit 上观看，但会受到一些限制，不过大部分生成的内容已被下架，并将不再被用户随意发现。一位评论者在 Twitch 会议上向 Nicoll 表示，打击力度可能会进一步加大（可能达到禁止上传任何包含真人肖像的模型或画像的程度）。

Nicoll 回应道：

“他们不会就此罢休，他们会不断索取更多”——绝对如此！是的，绝对如此。这就是我们生活的世界。唯一的希望是我们变得足够强大，足够强大，这样我们才能对别人强加给我们的东西有更多的发言权[…]

Nicoll 对 Civit 提供的替代方案感到绝望，他补充道：

“[…] 没人会为了使用 CivitAI 生成器而购买比特币。所以我们尽力让这件事变得尽可能容易接受，最终也实现了这个目标。所以，如果这让你难以接受，我深表歉意，但很遗憾，事情就是这样。我们尽了最大努力，也尽可能地推诿，但最终我们被告知，只能这样了——你必须这么做，否则就完了 […]”

“[…] 这些金融机构不明白人们在这里用它做什么。我们试过告诉他们，试过和他们沟通，但我们实际上是[NSFW]内容的最后堡垒。”

Nicoll 表示，Civit 已经联系了“所有可以想到的支付处理商”：

即使是色情网站使用的高风险支付处理商，也都对人工智能内容非常非常警惕。这就是问题所在——这是人工智能内容。如果我们是一个传统的色情网站，我们不会有什么问题，但他们害怕的是人工智能内容。

哪里下一个？

在此公告发布之前，Civit 已观察到正在删除某些目前被禁止的类别和类型的上传内容。截至撰写本文时，已建立了一个用于 Wan 2.1 LoRA 的“紧急存储库”。成熟在 Hugging Face 网站上。虽然那里存档的一些 LoRA 旨在促进一般性行为，而这些行为在 Wan 2.1 等新视频模型中缺乏训练或缺失，但其中一些属于现已严格禁止的“脱衣”类别（即“裸体”），包括一些可能被认为是“极端”或明显具有潜在冒犯性的模型。

子版块 r/datahoarders 已经走在最前列唐纳德·特朗普领导下的美国政府网络文学的保存大规模删除活动, 到目前为止表现出蔑视以拯救丢失的 CivitAI 内容。

在文献中，CivitAI 轻松促进 NSFW AI 生成已引起广泛关注。然而，引用次数最多的研究之一，即 2024 年的纸 探索在 Civitai 上使用滥用的生成式 AI 模型，因为 Civit 迄今为止不允许名人或非法人工智能生成，而且研究人员决心在 Civit 本身寻找证据，所以受到阻碍。

然而，显然，支付处理商关心的不是 Civit 本身使用 LoRA 制作了什么，或者在那里发布了什么，而是这些模型在 other 封闭或监管较少的社区。

Deepfakes 先生的网站代名词随着流行的基于自动编码器的方法在 2022 年稳定扩散和基于扩散的模型出现之前，NSFW 深度伪造一直是一个难题，最近，它开始使用最新一波的文本到视频和图像到视频生成器发布基于名人的色情视频示例，包括浑元视频和万 2.1——这两个都是最近发布的，影响力尚在萌芽阶段，但随着各自社区在今年的发展，它们似乎必将引发煽动性的头条新闻。

强制元数据

据 Nicoll 称，支付处理商显然要求的一项有趣的变化是，网站上的所有图片现在都必须包含元数据。在 ComfyUI 等平台上，当生成模型按照典型的工作流程生成图像或视频时，输出通常包含元数据，其中列出了所使用的模型（包括其哈希值和名称，以便在用户重命名模型时，其来源仍然清晰）以及其他多项设置。

由于这些关于图像制作方式的隐藏数据点，用户能够拖动将其他人制作的视频或图像放入他们自己的 ComfyUI 工作流程中并重新创建整个流程，并解决任何缺失的依赖项（例如原始创建者拥有的模型或组件，用户必须找到并下载它们）。

Civit 宣布，任何缺少这些数据的图像或视频生成内容将在三十天内被删除。用户可以在 Civit 网站上手动输入这些数据。

由于元数据的价值（大概）是证据，这项规定似乎毫无意义；将元数据从一个文件复制粘贴到另一个文件很简单，而且特设通过网络表单发明的元数据使得这个新规则有点令人困惑。

尽管如此，一些用户（包括一位在 Twitch 上发表评论的用户）在 Civit 上传了数千张图片。他们现在唯一的办法就是手动为每张图片添加注释，或者删除图片，重新上传添加了元数据的版本——但这会抹去原始图片带来的任何“点赞”、“讨论”或讨论。

新规则

以下是从今天起适用于 Civit 的变更概要：

标有真实个人姓名或标识为真实人物资源的内容将不再出现在公共信息流中。
带有子主题/次要主题的内容将从供稿中过滤掉。
缺少生成元数据的 X 和 XXX 级内容将被隐藏，并被标记警告，以便上传者添加缺失的详细信息。此类内容不会被删除，但在更新之前，只有其创建者可见。
使用“自带图像”(BYOI) 功能生成的图像现在必须在生成过程中应用至少 50% 的噪点修改。这意味着 AI 必须对上传的图像进行大幅修改，从而降低生成近乎完美复制品的可能性。然而，完全在 CivitAI 上创建的图像或从其他 CivitAI 内容重新混合的图像不受此规则约束，仍然可以使用任何降噪级别，从完全无变化 (0.0) 到完全变换 (1.0)。此更改旨在减少对 BYOI 工具的滥用，否则该工具可能会被利用通过对真实图像进行微小改动来制作出微妙或无法检测的深度伪造作品。强制至少 50% 的修改可确保 AI 不会对现有真人照片进行简单的编辑。
在启用“X”或“XXX”内容的情况下浏览时，搜索名人姓名将不会返回任何结果。将名人姓名与成人内容相结合仍然被禁止。
广告不会出现在旨在复制真实个体外观的图像或资源上。
对于描绘真实人物的图像或资源，将禁用小费（Buzz）。
用于复制真人的模型将无法享受抢先体验 (Early Access) 功能。抢先体验是 Civitai 的一项功能，允许创作者优先向付费支持者发布内容。这限制了名人或真人肖像的盈利。
A 2257合规声明已添加“声明”，以明确平台不允许任何非AI生成的内容。这有助于确保所有露骨内容均由合成，而非基于真实摄影或视频，从而确保其受到法律保护。
质量的新标准内容删除请求页面允许任何人无需登录即可举报辱骂性或非法内容。注册用户应继续使用每篇帖子内置的举报工具。这与现有的要求从平台上删除个人肖像的表单不同。
CivitAI 通过与 Clavata 合作推出了一种新的审核系统，其图像分析工具的表现优于 Amazon Rekognition 和 Hive 等之前的解决方案。