中国拟定规则要求AI聊天机器人监测用户成瘾情况

中国网络监管机构于周六发布了草案规则，要求AI伴侣聊天机器人监测用户的情绪状态，并在出现成瘾迹象时进行干预——这是迄今为止对AI人工智能关系中心理伤害日益增长的担忧做出的最激进的监管回应。

中国网络空间管理局提出的拟议法规针对的是模拟人类个性并通过文本、图像、音频或视频与用户建立情感联系的AI产品。根据草案，提供者需要提醒用户注意过度使用，评估情感依赖水平，并在用户表现出极端情绪或成瘾行为时采取行动。

用户必须在登录时和两小时间隔内（或系统检测到过度依赖的迹象时更早）被提醒他们正在与AI交互。这些规则还将要求提供者在其产品的整个生命周期中（包括算法审查、数据安全和个人信息保护）承担安全责任。

时机并非偶然。随着中国的生成式AI用户群在过去六个月内增加了一倍，达到5150万，人们对AI伴侣的心理影响的担忧也随之增长。 一项发表在《心理学前沿》杂志上的研究发现，45.8%的中国大学生报告称在过去一个月内使用过AI聊天机器人，使用者表现出明显更高的抑郁水平，相比非使用者。

加利福尼亚州先于中国采取行动

中国并不是唯一一个对AI伴侣聊天机器人进行监管的国家。加利福尼亚州在十月份成为第一个通过类似立法的美国州，当时州长加文·纽森签署了SB 243法案，该法案将于2026年1月1日生效。该法案要求平台每三小时提醒未成年人他们正在与AI交谈——而不是人类——并要求他们休息一下。

SB 243法案还要求进行年龄验证，禁止聊天机器人冒充医疗保健专业人员，并禁止未成年人查看性暗示的AI生成图像。该法允许个人因违反规定而起诉AI公司，要求赔偿高达每次违规1000美元及律师费。

什么使得AI伴侣与众不同

人们担心的不仅仅是屏幕时间。 2025年3月麻省理工学院媒体实验室的一项研究发现，AI聊天机器人可能比社交媒体更容易上瘾，因为它们可以学习用户想要听到的内容并提供一致的反馈。更高的日常使用量与孤独感、依赖性和研究人员所说的“问题使用”增加有关。

临床文献中确定的心理警告信号包括，延长会话破坏睡眠，限制访问时出现情感依赖和痛苦，宁愿与聊天机器人交谈而不是与真实的人交往，以及将AI拟人化——认为它具有类似人类的情感，并将其视为真正的知己或浪漫伴侣。

中国的草案规则试图在平台层面解决这些风险，而不是依赖个别用户的判断。通过要求提供者监测情绪状态和依赖水平，这些规定将责任转嫁给建设这些系统的公司。这一方法与早期主要侧重于内容审查和数据安全的AI监管有所不同。

草案还设定了内容限制，禁止AI伴侣生成危及国家安全、传播谣言或宣扬暴力或淫秽内容的材料——这些规定呼应了中国现有的生成式AI法规。

执行挑战

要求公司检测成瘾并干预听起来在政策语言中很直接。实施则是另一回事。定义“过度使用”或“极端情绪”以一种既有意义又可执行的方式，将会同时考验监管机构和公司。

太过敏感，系统就会变得烦人——打断那些只是参与延长对话的用户。太宽松，脆弱的用户就会在没有干预的情况下滑过。每两小时的提醒要求提供了一个笨拙的工具，但更细致的要求是“当可以检测到依赖性时”留下了很大的解释空间。

为AI应用程序构建防护栏的公司也面临着类似的挑战。内容过滤器的精度很差，而添加心理监测则引入了新的复杂性。判断用户是否形成了不健康的依恋需要从文本中推断心理状态——这是AI系统不太可靠的能力。

草案现已开放公众评论，预计最终法规将于2026年某个时候出台。如果按照拟议的方式实施，中国将拥有世界上最具针对性的AI伴侣产品监管框架。

全球清算

中国和加利福尼亚州同时采取监管行动，表明人们对AI伴侣成瘾的担忧已经在不同政治体系中达到了临界点。

对于AI公司来说，信息已经很明确：AI伴侣的无监管时代即将结束。不管是通过中国的行政法、加利福尼亚州的民事责任，还是最终在美国的联邦立法，平台都将面临保护用户免受其产品伤害的要求。

问题不在于是否会有监管——而在于被设计的干预措施是否真正有效。中国要求监测和干预的方法可能在实践中难以实施。

很明显，AI伴侣市场已经变得太大、太重要，政府无法忽视。人们与之形成情感纽带的聊天机器人不再是新奇事物——它们是被数亿人使用的产品，已经有记录在案的严重伤害案例。监管虽然不完善，但是不可避免的。现在的辩论转向了是否会保护脆弱的用户，而不会扼杀许多人认为真正有价值的技术。