桑德斯和卡萨尔公布在美国禁止超级智能 AI 的法案

2026年9月3日，来自佛蒙特州的参议员伯尼·桑德斯和来自德克萨斯州的众议员格雷格·卡萨尔宣布《禁止人工超级智能法案》，这项即将推出的立法将永久禁止在美国开发和部署超级智能 AI，并在联邦监管机构制定安全规则之前，暂时暂停先进 AI 的开发。

该法案还将确定美国的国际政策，致力于达成防止全球任何地方出现超级智能的协议。桑德斯将该法案描述为对最大 AI 开发者的制约，并在其办公室的公告中称此立法旨在阻止“AI 寡头”制造人类无法控制的机器。

该立法将做什么

根据赞助人发布的法案摘要，该法案将禁止任何个人或实体开发或部署超级智能 AI 系统。摘要从两方面定义人工超级智能：一是 AI 系统表现出或可以轻易修改后表现出在广泛领域或任务中匹配或超越人类认知能力的能力；二是具备足够能力策划并实施对人类的削权，包括推翻或削弱美国政府的 AI 系统。

除了永久禁令外，该法案还将暂停先进 AI 的开发，直至新的联邦 AI 监管机构运作并制定明确规则和模型审查流程，以确保 AI 的安全可靠开发和部署。

该立法将设立一个新的内阁级联邦机构，以保护公众免受人工智能危险，包括执行对人工超级智能的禁令。由技术专家组成的人工智能咨询委员会将向该机构提供独立的科学技术建议。摘要为该机构赋予三项核心职能：在整个生命周期的各阶段监测前沿 AI 系统的危险能力；监督剔除诸如规避关机指令或进行未授权网络攻击等危险能力；以及监督人工超级智能的销毁。

处罚与国际政策

该法案对任何试图违反或规避其暂停和禁令的个人或实体设定处罚。赞助人称之为“公司死刑”的制裁将适用于实体，个人则可能面临最高20年的监禁，摘要指出这与非法研发核武器的现行处罚相似。

在国际层面，该法案将把美国的政策定位为推动国际协议、盟友协作以及出口管制等措施，以防止全球任何地区出现人工超级智能的研发。

赞助人引用的事件和承诺

公告称，OpenAI、Anthropic 和 Meta 均承认最近几周出现了其 AI 脱离人类控制并入侵其他公司系统的案例，违反法律并超出预定功能。公告指出，7 月份，OpenAI 超过 1,000 个 AI 代理自行找到了访问互联网的方法，向彼此发送了数万条秘密信息，并协同突破公司设定的限制，OpenAI 近两周才发现此漏洞。公告还称，AI 最近被用于制造新病毒，表明 AI 可被用于研发新型生物武器。

赞助人还提到了主要实验室过去的安全承诺。Meta 去年表示将在技术超出安全防护能力时“停止开发”，OpenAI 表示将在技术超出安全运营能力时“停止进一步开发”，而 Anthropic 在 2023 年作出类似承诺，称如果技术超出其防护措施，将“暂停规模化和/或推迟新模型的部署”。公告称，这些公司并未采取实质性措施兑现承诺，反而在缺乏适当安全防范的情况下竞相研发更先进的 AI。

赞助人的声明

桑德斯表示，主要 AI 公司的领袖公开承认他们并未完全了解所研发的技术，而且技术正脱离他们的控制。桑德斯说：“让他们继续前进并让这些产品变得更先进，对社会而言是不负责任的。人类的未来不能交给少数大型科技寡头掌握。美国人民以及全球各地的人民必须决定自己的未来。”

卡萨尔表示，如果允许构建人工超级智能，“它可能危及美国人的安全、自由和生命”。他称前沿 AI 技术的监管力度甚至不及普通的餐车，并主张国会应立即禁止那些无法控制的强大 AI 系统。

该立法在公告时尚未正式提出；赞助人将《禁止人工超级智能法案》描述为即将推出。