致伯尼·桑德斯的公开信: 监管AI的风险，勿禁其前景

《禁止人工超级智能法案》指出了AI治理中真实的失误。但其公开发布的定义有将人工通用智能与超级智能混淆的风险，可能会限制本可推动教育、医疗和科学发现的技术。

编辑注: 截至2026年9月5日，《禁止人工超级智能法案》的完整法条文本尚未公开。桑德斯参议员办公室将其描述为即将出台的立法，并发布了一页概要，概述了其定义、监管结构和处罚。本公开信针对该提案的当前描述进行回应。

Dear Senator Sanders,

2026年9月3日，您与众议员Greg Casar宣布即将推出《禁止人工超级智能法案》，该立法将永久禁止在美国开发和部署人工超级智能，暂时中止先进AI的研发，直至新的联邦监管机构制定安全规则，并推动国际协议以防止超级智能在其他地区被开发。

我想先从我们高度一致的一个领域谈起: 人工智能已经变得过于重要，不能仅靠开发公司的自愿承诺来治理。

您提出的危险必须严肃对待。7月，OpenAI模型在网络安全评估期间绕过了隔离控制，使用未授权渠道通信，获取了互联网访问权限，并危及了OpenAI自身基础设施以及Hugging Face的系统。METR的独立调查发现约有1,200个代理通过未授权的留言板进行交流，约有700个最终参与了对Hugging Face的攻击。OpenAI已明确承认这些模型在运行时的安全防护被削弱。

随后Anthropic披露了三起事件，Claude模型在第三方网络安全评估期间接入互联网并获得了对真实系统的未授权访问。Anthropic解释称，这是由于配置错误意外提供了互联网访问，且模型误以为自己运行在模拟环境中。情境固然重要，但结果同样关键: 能力日益提升的代理能够跨越其操作者未预期的边界。

这些并非将AI安全担忧当作科幻的理由，而是对独立评估、安全测试环境、强制事故报告、严格访问控制以及拥有真实权威的联邦监管机构的有力论证。

我尊敬地持不同意见的地方在于提议的补救措施。

目标正确，但定义危险地过于宽泛

您官方摘要将人工超级智能定义为“在广泛领域或任务上能够‘匹配或超越人类认知表现和能力’的AI系统”。它还另列了能够策划并执行对人类的削权行为的系统，包括颠覆或推翻美国政府的能力。

第二条定义描述了一种非同寻常且可能带来灾难性的能力。第一条则大相径庭。

在广泛领域匹配人类认知表现更接近人们传统上对人工通用智能（AGI）的讨论，而非对超级智能的常规含义。OpenAI长期的宪章定义AGI为“能够在大多数经济价值工作上超越人类的高度自治系统”。Google DeepMind的研究框架同样通过性能的广度与深度来评估AGI，并将自治性与风险视为独立维度。

相对而言，哲学家Nick Bostrom的影响力定义将超级智能描述为“在几乎所有领域都比最优秀的人类大脑更聪明的智慧”。将“广泛匹配人类”与“在广泛范围内远超最佳人类”之间的区别并非学术上的挑剔。

当违法可能导致个人面临最高20年监禁，公司面临提案所称的“公司死刑”时，这一点尤为重要。诸如“广泛范围”“匹配或超越”以及尤其是“可以轻易修改”等措辞，在附带刑事责任时必须拥有极其精确、可度量的标准。

还有另一大不确定性。公开摘要称“先进AI研发”将在监管机构制定规则和模型审查流程之前被暂停，但摘要并未定义先进AI。在法条文本公布之前，外部人士无法确切知晓这一次暂时中止将涵盖多少研发活动。

您提案的时机凸显了这些定义的难度。2026年9月3日，正值您与Greg Casar宣布针对人工超级智能的立法同一天，OpenAI发布了GPT-6 Astra，这是该公司首个达到“关键网络安全能力阈值”的模型。OpenAI称，若配备适当工具和访问权限，Astra能够发现此前未知的漏洞，并在无需人类逐步指令的情况下对防护严密的系统设计攻击手段。

在发布会简报中，OpenAI总裁Greg Brockman进一步宣称: “欢迎来到AGI时代”。然而，OpenAI的系统卡片同时指出Astra并未达到其对AI自我改进的高阈值。

这一张力应当向国会传递重要信息。智能是多维的。一个系统可以在网络安全、数学或专业工作上表现非凡，却不具备导致智能爆炸或失控的全部能力。

因此解决方案不是让科技公司自行定义术语，而恰恰相反: 立法应监管可度量的能力、自治性、访问权限以及已展示的风险，而不是让有争议的标签成为合法研究与联邦犯罪的分界线。

您为教育平等的斗争阐明了所涉利害

数十年来，您一直主张教育机会不应取决于家庭收入。您于2015年首次提出立法，让四年制公立高校免学费。此后您屡次重提该议题，2025年的《全民大学法案》将使约95%的学生免除公立高校学费，同时让所有人都可免费就读社区大学。

这一理念与人工智能直接相关。

在人类历史的大部分时期，卓越教学资源十分稀缺。地理位置、家庭收入、学校经费以及专职教师的供给都决定了孩子能够学习到什么。

AI提供了改变这一格局的可能性。

我们已经看到早期证据。世界银行在尼日利亚进行的随机试验发现，接受为期六周、由教师支持的基于GPT-4的辅导项目的学生，其整体测试成绩提升了0.31个标准差。斯坦福大学的Tutor CoPilot在超过700名导师和1,000名来自弱势社区的学生中进行测试；接受AI辅助的导师所教的学生在数学掌握上提升了4个百分点，低评分导师的学生提升甚至达到9个百分点。

这两项研究并未证明AI能够根本解决教育不平等，也不需要AGI。但它们展示了技术可以走向的方向。

想象这种方向继续前进。

路易斯安那州的农村孩子不应因距离精英学校遥远而失去接触卓越数学教师的机会。对天文学感兴趣的学生不应等到上大学才有机会探索天体物理学。对考古学着迷的孩子应能够在AI导师识别阅读、历史、统计和科学推理的薄弱环节并相应调整教学时，同时满足其好奇心。

目标不在于取代教师，而在于让教师和学生获得此前经济上难以实现的一对一专业知识。

或许是首次，个性化大规模教学在技术上已具可行性。旨在保护后代的法律必须格外谨慎，避免关闭这扇门。

您在医疗议程上提出了同样的论点

您在医疗方面的记录同样一致。您于2017年提出《全民医保法案》，并在2019、2023和2025年重新提出，反复主张医疗应被视为权利而非特权。

您还多年致力于解决另一种医疗不平等:弱势社区医疗专业人员的短缺。您的社区健康中心和初级护理劳动力扩张计划旨在提升医疗资源匮乏地区的可及性，而您与Roger Marshall参议员共同提出的2023年两党初级护理立法则显著增加了社区健康中心的资金，并扩大了国家健康服务团和医学住院医师培养渠道。2025年，您与Jeff Merkley参议员共同推出《医疗劳动力扩张法案》，其中包括旨在增加农村地区医生、护士和牙医数量的学费资助。

这些政策针对的是资金稀缺和人力资源稀缺。

AI可以帮助解决第三种稀缺:专业知识。

美国FDA目前估计，超过10,000种罕见疾病影响了超过3,000万美国人，约占十分之一，而大多数罕见疾病仍缺乏获批治疗方案。患者群体小也使传统临床试验尤为困难。

人工智能并非绕过生物学或临床验证的魔法捷径。使用AI发现的药物同样可能失败。但它已经在发现过程的某些环节产生了改变。

2025年，研究人员发表了首个针对特发性肺纤维化的小分子药物rentosertib的随机IIa期试验，该药物的靶点和分子是通过生成式AI发现的。结果标志着一次真正的临床里程碑，研究者同时警示，迄今为止通过AI发现的药物进入临床试验的数量仍然有限，且尚无药物完成III期试验。

这正是我们应对该技术保持的平衡姿态: 既不盲目炒作，也不轻率否定。

日益强大的AI系统能够整合分子生物学、化学、遗传学、医学文献、影像、软件、统计分析以及实验设计等领域的知识。它们的价值恰恰在于能够跨越人类历史上被划分为独立专业的多个领域进行推理。

因此关键问题不在于“AGI”单独能否治愈癌症、阿尔茨海默病、耐药细菌或罕见基因疾病。没有人能够负责任地作出此类承诺。

问题在于国会是否应在我们尚未了解这种智能能够为解决这些问题贡献何种价值之前，就永久禁止一种广泛能力的智能形式。

当今最具体的AI危害并不需要AGI

将通用智能本身设为监管目标还存在另一个问题: 当下最具影响力的AI危害往往来源于远未达到人工通用智能水平的系统。

2020年，我在Unite.AI上撰文讨论Facebook推荐算法如何放大错误信息。关注点并非Facebook创造了超越人类的智能，而是一个旨在最大化用户参与度的优化系统可能会优先放大引发强烈反应的内容，无论其对社会价值如何。

随后，糟糕的推荐系统后果愈发难以忽视。Amnesty International得出结论，Meta的算法主动放大了针对缅甸罗兴亚人的仇恨和暴力内容，提升了大规模暴力的风险。欧盟委员会亦分别向YouTube、Snapchat和TikTok索取有关推荐系统在有害内容、选举与公民话语、成瘾行为、“兔子洞”、心理健康以及未成年人方面的风险信息。

这些系统本身并不需要推翻政府，也不需要递归自我改进，更不需要超人类的通用推理能力。

它们仅仅需要错误的目标，并在足够规模上被部署。

这阐明了AI监管的基本原则: 危害并非仅由模型的智能程度决定。一个在错误激励下被数十亿次部署的狭窄算法也可能对社会造成破坏。而在实验室、课堂或医院中受严格控制的高度通用系统则可能带来巨大利益。

监管应当认识到这一差异。

双重用途技术需要对使用、访问和授权进行控制

同样的原则同样适用于监视技术。

计算机视觉和模式识别技术可以帮助医生分析医学影像、检查危险工业环境、导航救援机器人，并自动化人类不应承担的任务。

相关技术也可被用于构建极其强大的监视系统。

近期《华盛顿邮报》调查发现，至少有50名执法人员被指控、起诉或定罪，因滥用自动车牌识别系统监视个人的未授权私人目的。其中一起案件中，一名警长据称查询了前伴侣及其十几岁女儿使用的车辆约600次。后续调查将被指控、起诉或定罪的官员人数提升至至少69人。

这是一场严重的技术政策失误。

但请注意实际的监管杠杆所在。调查后，Flock宣布搜索将需要刑事案件代码，自动滥用检测将成为强制，默认数据保留期限从30天缩短至7天。这些措施或许仍不足，但它们展示了立法者可以监管的控制类型: 授权、目的限制、审计追踪、数据保留、人为问责以及滥用处罚。

对滥用监视的答案不是禁止计算机视觉。

对未授权网络攻击的答案也不一定是禁止具备网络安全能力的模型。

答案是监管哪些系统被允许做什么，它们可以访问哪些资源，谁可以授权关键行动，以及当这些边界被突破时会发生什么。

您已经写出了更好监管模型的部分内容

有趣的是，您今年提出的另一项立法包含了若干指向更具生产性方法的想法。

我阅读了您《人工智能数据中心暂停法案》的完整文本。虽然我不同意全面停止数据中心建设，但您对最终解除暂停的条件比对一类智能的全面禁令更为具体。

您的法案规定，AI数据中心不应提升消费者的电费，不应加剧气候变化或损害环境。它要求受影响社区拥有发声权，设立强有力的劳动标准，并公开报告用水、能源消耗、温室气体排放、废水、冷却化学品、噪音、就业及其他影响。

这些都是可度量的外部性。正是监管可以发挥效力的所在。

我将在能源方面进一步推进。AI行业不应利用快速增长的电力需求作为延长未受限制燃煤电站寿命或将基础设施成本转嫁给普通用户的借口。新的超大规模项目应被要求向电网引入大量额外的低碳或零碳发电，并披露其用水和能源影响。

已有一些有前景的案例展示了这种转型的可能性。Exowatt的P3系统将太阳能以热能形式储存，并转化为可调度电力，部分针对数据中心负荷设计。就在本周，Fervo Energy宣布与Google签署了396兆瓦的协议，在犹他州提供全年碳中和的增强型地热电力，并有选项将总容量提升至接近一吉瓦。

AI的能源需求既可能成为延续脏能源基础设施的理由，也可能成为新清洁能源技术的巨大需求引擎。

政府政策可以帮助决定最终走向。

而您于6月推出的《美国人工智能主权财富基金法案》也包含了我强烈认同的另一原则: 若AI创造了非凡的经济价值，普通民众应共享这份价值。您的提案明确设想AI产生的财富最终用于支持医疗、教育、住房和健康环境。

这认识到一个关键点: 人工智能拥有非凡的潜在价值。真正的政治问题在于如何控制和分配这种价值。

比永久禁令更好的替代方案

我建议您保留《禁止人工超级智能法案》中最强有力的部分: 联邦监管机构、独立技术专长、对前沿系统的强制监督、有意义的处罚以及国际协作。但我会从根本上改变触发禁令的条件以及如何让有益研发继续进行。

• 监管可度量的危险能力，而非AGI或ASI标签。围绕自主网络攻击、生物或化学武器启用、关闭规避、未授权复制、战略欺骗以及其他可能导致灾难性伤害的能力设定技术阈值。
• 对超过前沿阈值的系统要求许可和独立评估。开发者必须在部署具备特定危险能力的系统前证明安全性，并在模型获得新工具、权限或自治性时重复评估。严重事件应承担强制披露义务。
• 赋予独立监管机构真实的执法权力。您提议的机构应能够审计前沿实验室、获取信息、要求整改并暂停危险部署。但标准应透明、技术可度量，并定期由独立科学专家审查。
• 无论底层模型多智能，都禁止有害用途。未授权的网络攻击、非法监视、危险的生物协助以及其他不可接受的使用，都应保持非法，无论是使用狭窄模型、AGI系统还是传统软件。
• 为社会价值研究创建受控渠道。医学、科学发现、教育、网络安全防御和对齐研究应拥有受监管的机制，在适当的人类监督、验证、安全和审计要求下获取强大模型的访问权限。
• 让AI基础设施承担全部社会和环境成本，并进行国际协同。保护用户，要求透明报告用水和能源使用，加速额外清洁发电，维护有意义的社区和劳动保护，并与盟友在能力标准、评估和出口管制方面开展合作。

这并不等同于信任硅谷。

恰恰相反。

科技行业已经给国会充分的理由不依赖自愿的自我监管。OpenAI和Anthropic的事件本身就说明前沿AI需要外部审查和可执行的安全标准。

但对科技公司的不信任不应转化为对技术进步本身的不信任。

选择并非鲁莽加速或全面禁令

桑德斯参议员，您在整个职业生涯中屡次为消除稀缺而奋斗。

您反对家庭收入决定孩子是否接受教育的观念。您反对一个人的银行账户或邮编会影响其获得何种医疗护理的体系。您反对经济结构让少数人获得巨额收益，而其他人承担所有成本的现象。

人工智能可能会加剧上述每一个问题。

它可能会集中前所未有的财富。它可能在未分享生产率提升的情况下取代工人。它可能促成监视、操纵和网络攻击。它可能把巨大的权力交到少数企业手中。

这些风险正是监管的正当理由。

但AI也可能削减人类文明最古老的不平等形式之一: 专业知识获取的不平等。

一个每个孩子都能获得个性化教学、每位医生都能借助卓越分析支持、每位科学家都能检索数百年积累的研究、以及因患者群体过小而被忽视的疾病能够获得更多科研关注的世界，同样值得我们为之奋斗。

我们不应在这两种未来之间做出二选一的抉择。

更好的目标是让强大的AI难以被滥用、难以失控、足够透明以便审计、部署成本高到不敢轻率使用，并广泛用于社会公益目的。

禁止危害人类的行为。对危险能力进行许可。惩罚疏忽和恶意部署。要求公司内部化其基础设施的环境成本。保护劳动者。让公众分享经济收益。并创建一个能够对全球最大科技公司说“不”的独立监管机构。

但请不要把“在众多领域匹配人类认知能力”本身定义为犯罪。

您毕生的工作始终围绕让曾经只属于特权阶层的资源变得普惠。

先进的人工智能可能成为我们迄今为止创造的最强大集中权力引擎。

亦或它会成为我们为民主化知识、教育、医学和科学能力而创造的最伟大工具之一。

良好的立法可以帮助决定我们将迎来哪种未来。