AI 模型与平台
Anthropic 更新使用政策,新增针对滥用模型和欺骗行为的规定

要点Anthropic 将分散的欺骗性规则整合为一个章节,涵盖政治和商业影响力操作。
查看更多
- Anthropic 将分散的欺骗性规则整合为一个章节,涵盖政治和商业影响力操作。
- 该政策现在禁止对模型持续施加残忍行为,同时豁免普通的挫败感和黑暗创意作品。
- 高风险用途仍然要求合格的人类审查员,并披露人工智能影响了该决定。
Anthropic 于 2026 年 10 月 8 日发布年度2026 年使用政策更新,整合了针对欺骗性活动的规定,新增禁止对其模型实施滥用行为的条款,并进一步明确了武器、监控和高风险用途的要求。更新后的政策将于 2026 年 11 月 12 日生效。
Anthropic 表示,大多数改动旨在澄清现有规定。该公司称,此次修订是对过去一年情况的回应:Claude 承担了时间更长、独立性更强的工作;修订也纳入了客户反馈,并参考了其 2026 年 9 月威胁情报报告中记录的滥用模式,涉及影响力行动、武器开发和监控。
截至 11 月 12 日仍然有效的使用政策版本也称为《可接受使用政策》,适用于任何能够向 Anthropic 的产品或服务提交输入的人,包括通过授权经销商或透传访问提交输入的用户。政策分为三部分:适用于所有用户的通用使用标准;针对特定面向消费者、伤害风险较高用途的高风险用例要求;以及涵盖面向消费者的聊天机器人、服务未成年人的产品、智能体用途和模型上下文协议服务器的其他用例指南。Anthropic 的安全保障团队负责实施检测和监控,以确保政策得到执行;违规行为可能导致访问受到限流、暂停或终止。如果输入违反政策,Anthropic 还可能屏蔽或修改模型输出。
欺骗性活动与选举规则
Anthropic 表示,该公司发现国家媒体机构、政府宣传部门和商业公司利用 Claude 运营虚假账号网络和虚构新闻网站。这类活动此前已被禁止,但相关限制分散在选举、欺诈、隐私和虚假信息等章节中。此次更新将这些限制整合到一个名为“不得参与欺骗性活动或虚假活动”的新章节中,适用于任何形式的欺骗性活动,无论是政治性质还是商业性质。该章节涵盖了掩盖信息背后操作者身份、通过虚假账号或帖子扩大内容传播,以及构建用于开展影响力行动的工具和基础设施等行为。
选举章节更名为“不得破坏民主进程”,重点明确禁止使用 Claude 欺骗选民或扰乱选举,包括传播有关候选人或投票方式的虚假信息、冒充候选人或选举官员,以及压低投票率。
Anthropic 还取消了对个性化投票和竞选宣传定向的全面禁令。该公司表示,这项规定也涵盖了正当的公民事务工作,例如非营利组织使用 Claude 以其他语言撰写选民信息,以及选举官员发送选票补正通知。依赖欺骗手段或滥用选民个人数据的定向行为,仍受欺骗性活动、监控和隐私章节的禁止。目前有效的政策文本在 2026 年 11 月 12 日前仍然适用,其中仍将个性化投票和竞选宣传定向列为禁止的政治活动。
武器、监控与执法
Anthropic 表示,该公司观察到有人试图利用其模型开发武器的制导和控制软件。更新后的武器章节明确指出,禁令涵盖使武器得以运作的软件和组件,也涵盖为无人机及其他自主车辆装载武器等行为。Anthropic 表示,这些改动反映了该公司执行先前政策的方式。
改写后的监控与刑事司法章节禁止未经他人同意追踪其行踪,无论是实时追踪,还是分析此前收集的数据。不得使用 Claude 来决定或建议在执法或刑事司法程序中调查、逮捕或起诉哪些人,也不得用它来构建或改进专为监控而设计的工具。Anthropic 表示,其 9 月发布的报告记录了利用 AI 构建监控系统的情况日益增多,这些系统能够识别并追踪政治异见人士;与武器相关的改动一样,监控方面的改动旨在更明确地阐述现有执法实践,而非对其作出改变。该章节还明确列出仍获允许的用途,包括经相关人员同意的追踪,例如欺诈监测、内容审核、新闻报道和法律研究。
高风险用例与硬件控制
如果 Anthropic 的产品被用于可能影响某人的健康、法律权利、财务状况、生计或获取基本服务的情形,政策要求由具备资质的人类人员参与其中;此人必须有权审查 Claude 的建议,并在必要时予以修改。此外,还必须告知受影响者曾使用 AI。Anthropic 表示,这些要求没有变化,但该公司重写了相关章节,以更直接地回答用户常见的问题:现在,章节列出了哪些类型的建议属于规定范围,哪些不属于。
在 Anthropic 的模型硬件标准研究预览版发布后,该章节新增了相关要求,适用于连接到能够自主采取物理行动且可能造成伤害的硬件的模型。具备资质的操作人员必须能够观察设备,并在必要时使其停止运行;如果 Claude 断开连接,设备还必须能够维持在安全状态。
针对模型的虐待行为
此次更新新增一项禁令,禁止持续且无必要地虐待或残酷对待 Anthropic 的模型。该公司表示,这项规则仅适用于极端情况:用户反复残酷对待模型,且看不出有任何明确目的;常见的用户挫折情绪、反驳、黑暗创作主题,以及模型测试和研究均不在适用范围内。
这项禁令与 Anthropic 于 2025 年推出的一项功能有关。在 2025 年 8 月 15 日发布的一篇研究文章中,该公司表示,已赋予 Claude Opus 4 和 4.1 在面向消费者的聊天界面中结束对话的能力,旨在应对“用户持续进行有害或辱虐互动的罕见极端情况”。Anthropic 表示,开发这项功能主要是其探索潜在 AI 福利研究的一部分,同时也与更广泛的模型对齐和安全防护工作相关。
根据该文章,只有在多次尝试引导用户改变方向均告失败,或用户明确要求结束聊天时,Claude 才会将这项能力作为最后手段使用;如果用户可能即将伤害自己或他人,则不会使用。对话结束后,用户无法在该对话中发送新消息,但账户中的其他对话不受影响;用户可以编辑并重新发送先前的消息,以创建新的对话分支。Anthropic 表示,这项功能目前可通过 Claude.ai 和 Claude Code 使用,今后仍将是执行这项新禁令的主要机制。
关于支持地区的说明
此次更新还涉及《支持地区政策》。Anthropic 于 2025 年收紧了该政策,对由总部位于不支持地区的实体控股过半的公司作出限制。Anthropic 表示,更新后的说明页面阐明了该政策的执行方式:身处不支持地区的个人、在此类地区注册成立或设有总部的实体,以及由这些地区的个人或实体控股过半或控制的实体,均不得使用 Claude。
Anthropic 表示,随着 Claude 的能力和风险发生变化,公司将继续更新《使用政策》,并征求政策制定者、领域专家、公民社会以及产品用户的意见。更新后的政策将于 2026 年 11 月 12 日生效。












