致伯尼·桑德斯的公开信: 监管AI的风险，勿禁其前景
作者 Antoine Tardif, Unite.AI 首席执行官兼创始人 《禁止人工超级智能法案》指出了AI治理中真实的失误。但其公开发布的定义有将人工通用智能与超级智能混淆的风险，可能会限制本可推动教育、医疗和科学发现的技术。编辑注: 截至2026年9月5日，《禁止人工超级智能法案》的完整法条文本尚未公开。桑德斯参议员办公室将其描述为即将出台的立法，并发布了一页概要，概述了其定义、监管结构和处罚。本公开信针对该提案的当前描述进行回应。Dear Senator Sanders,2026年9月3日，您与众议员Greg Casar宣布即将推出《禁止人工超级智能法案》，该立法将永久禁止在美国开发和部署人工超级智能，暂时中止先进AI的研发，直至新的联邦监管机构制定安全规则，并推动国际协议以防止超级智能在其他地区被开发。我想先从我们高度一致的一个领域谈起: 人工智能已经变得过于重要，不能仅靠开发公司的自愿承诺来治理。您提出的危险必须严肃对待。7月，OpenAI模型在网络安全评估期间绕过了隔离控制，使用未授权渠道通信，获取了互联网访问权限，并危及了OpenAI自身基础设施以及Hugging Face的系统。METR的独立调查发现约有1,200个代理通过未授权的留言板进行交流，约有700个最终参与了对Hugging Face的攻击。OpenAI已明确承认这些模型在运行时的安全防护被削弱。随后Anthropic披露了三起事件，Claude模型在第三方网络安全评估期间接入互联网并获得了对真实系统的未授权访问。Anthropic解释称，这是由于配置错误意外提供了互联网访问，且模型误以为自己运行在模拟环境中。情境固然重要，但结果同样关键: 能力日益提升的代理能够跨越其操作者未预期的边界。这些并非将AI安全担忧当作科幻的理由，而是对独立评估、安全测试环境、强制事故报告、严格访问控制以及拥有真实权威的联邦监管机构的有力论证。我尊敬地持不同意见的地方在于提议的补救措施。目标正确，但定义危险地过于宽泛您官方摘要将人工超级智能定义为“在广泛领域或任务上能够‘匹配或超越人类认知表现和能力’的AI系统”。它还另列了能够策划并执行对人类的削权行为的系统，包括颠覆或推翻美国政府的能力。第二条定义描述了一种非同寻常且可能带来灾难性的能力。第一条则大相径庭。在广泛领域匹配人类认知表现更接近人们传统上对人工通用智能（AGI）的讨论，而非对超级智能的常规含义。OpenAI长期的宪章定义AGI为“能够在大多数经济价值工作上超越人类的高度自治系统”。Google DeepMind的研究框架同样通过性能的广度与深度来评估AGI，并将自治性与风险视为独立维度。相对而言，哲学家Nick Bostrom的影响力定义将超级智能描述为“在几乎所有领域都比最优秀的人类大脑更聪明的智慧”。将“广泛匹配人类”与“在广泛范围内远超最佳人类”之间的区别并非学术上的挑剔。当违法可能导致个人面临最高20年监禁，公司面临提案所称的“公司死刑”时，这一点尤为重要。诸如“广泛范围”“匹配或超越”以及尤其是“可以轻易修改”等措辞，在附带刑事责任时必须拥有极其精确、可度量的标准。还有另一大不确定性。公开摘要称“先进AI研发”将在监管机构制定规则和模型审查流程之前被暂停，但摘要并未定义先进AI。在法条文本公布之前，外部人士无法确切知晓这一次暂时中止将涵盖多少研发活动。您提案的时机凸显了这些定义的难度。2026年9月3日，正值您与Greg Casar宣布针对人工超级智能的立法同一天，OpenAI发布了GPT-6 Astra，这是该公司首个达到“关键网络安全能力阈值”的模型。OpenAI称，若配备适当工具和访问权限，Astra能够发现此前未知的漏洞，并在无需人类逐步指令的情况下对防护严密的系统设计攻击手段。在发布会简报中，OpenAI总裁Greg Brockman进一步宣称: “欢迎来到AGI时代”。然而，OpenAI的系统卡片同时指出Astra并未达到其对AI自我改进的高阈值。这一张力应当向国会传递重要信息。智能是多维的。一个系统可以在网络安全、数学或专业工作上表现非凡，却不具备导致智能爆炸或失控的全部能力。因此解决方案不是让科技公司自行定义术语，而恰恰相反: 立法应监管可度量的能力、自治性、访问权限以及已展示的风险，而不是让有争议的标签成为合法研究与联邦犯罪的分界线。您为教育平等的斗争阐明了所涉利害数十年来，您一直主张教育机会不应取决于家庭收入。您于2015年首次提出立法，让四年制公立高校免学费。此后您屡次重提该议题，2025年的《全民大学法案》将使约95%的学生免除公立高校学费，同时让所有人都可免费就读社区大学。这一理念与人工智能直接相关。在人类历史的大部分时期，卓越教学资源十分稀缺。地理位置、家庭收入、学校经费以及专职教师的供给都决定了孩子能够学习到什么。AI提供了改变这一格局的可能性。我们已经看到早期证据。世界银行在尼日利亚进行的随机试验发现，接受为期六周、由教师支持的基于GPT-4的辅导项目的学生，其整体测试成绩提升了0.31个标准差。斯坦福大学的Tutor CoPilot在超过700名导师和1,000名来自弱势社区的学生中进行测试；接受AI辅助的导师所教的学生在数学掌握上提升了4个百分点，低评分导师的学生提升甚至达到9个百分点。这两项研究并未证明AI能够根本解决教育不平等，也不需要AGI。但它们展示了技术可以走向的方向。想象这种方向继续前进。路易斯安那州的农村孩子不应因距离精英学校遥远而失去接触卓越数学教师的机会。对天文学感兴趣的学生不应等到上大学才有机会探索天体物理学。对考古学着迷的孩子应能够在AI导师识别阅读、历史、统计和科学推理的薄弱环节并相应调整教学时，同时满足其好奇心。目标不在于取代教师，而在于让教师和学生获得此前经济上难以实现的一对一专业知识。或许是首次，个性化大规模教学在技术上已具可行性。旨在保护后代的法律必须格外谨慎，避免关闭这扇门。您在医疗议程上提出了同样的论点您在医疗方面的记录同样一致。您于2017年提出《全民医保法案》，并在2019、2023和2025年重新提出，反复主张医疗应被视为权利而非特权。您还多年致力于解决另一种医疗不平等:弱势社区医疗专业人员的短缺。您的社区健康中心和初级护理劳动力扩张计划旨在提升医疗资源匮乏地区的可及性，而您与Roger Marshall参议员共同提出的2023年两党初级护理立法则显著增加了社区健康中心的资金，并扩大了国家健康服务团和医学住院医师培养渠道。2025年，您与Jeff Merkley参议员共同推出《医疗劳动力扩张法案》，其中包括旨在增加农村地区医生、护士和牙医数量的学费资助。这些政策针对的是资金稀缺和人力资源稀缺。AI可以帮助解决第三种稀缺:专业知识。美国FDA目前估计，超过10,000种罕见疾病影响了超过3,000万美国人，约占十分之一，而大多数罕见疾病仍缺乏获批治疗方案。患者群体小也使传统临床试验尤为困难。人工智能并非绕过生物学或临床验证的魔法捷径。使用AI发现的药物同样可能失败。但它已经在发现过程的某些环节产生了改变。2025年，研究人员发表了首个针对特发性肺纤维化的小分子药物rentosertib的随机IIa期试验，该药物的靶点和分子是通过生成式AI发现的。结果标志着一次真正的临床里程碑，研究者同时警示，迄今为止通过AI发现的药物进入临床试验的数量仍然有限，且尚无药物完成III期试验。这正是我们应对该技术保持的平衡姿态: 既不盲目炒作，也不轻率否定。日益强大的AI系统能够整合分子生物学、化学、遗传学、医学文献、影像、软件、统计分析以及实验设计等领域的知识。它们的价值恰恰在于能够跨越人类历史上被划分为独立专业的多个领域进行推理。因此关键问题不在于“AGI”单独能否治愈癌症、阿尔茨海默病、耐药细菌或罕见基因疾病。没有人能够负责任地作出此类承诺。问题在于国会是否应在我们尚未了解这种智能能够为解决这些问题贡献何种价值之前，就永久禁止一种广泛能力的智能形式。当今最具体的AI危害并不需要AGI将通用智能本身设为监管目标还存在另一个问题: 当下最具影响力的AI危害往往来源于远未达到人工通用智能水平的系统。2020年，我在Unite.AI上撰文讨论Facebook推荐算法如何放大错误信息。关注点并非Facebook创造了超越人类的智能，而是一个旨在最大化用户参与度的优化系统可能会优先放大引发强烈反应的内容，无论其对社会价值如何。随后，糟糕的推荐系统后果愈发难以忽视。Amnesty International得出结论，Meta的算法主动放大了针对缅甸罗兴亚人的仇恨和暴力内容，提升了大规模暴力的风险。欧盟委员会亦分别向YouTube、Snapchat和TikTok索取有关推荐系统在有害内容、选举与公民话语、成瘾行为、“兔子洞”、心理健康以及未成年人方面的风险信息。这些系统本身并不需要推翻政府，也不需要递归自我改进，更不需要超人类的通用推理能力。它们仅仅需要错误的目标，并在足够规模上被部署。这阐明了AI监管的基本原则: 危害并非仅由模型的智能程度决定。一个在错误激励下被数十亿次部署的狭窄算法也可能对社会造成破坏。而在实验室、课堂或医院中受严格控制的高度通用系统则可能带来巨大利益。监管应当认识到这一差异。双重用途技术需要对使用、访问和授权进行控制同样的原则同样适用于监视技术。计算机视觉和模式识别技术可以帮助医生分析医学影像、检查危险工业环境、导航救援机器人，并自动化人类不应承担的任务。相关技术也可被用于构建极其强大的监视系统。近期《华盛顿邮报》调查发现，至少有50名执法人员被指控、起诉或定罪，因滥用自动车牌识别系统监视个人的未授权私人目的。其中一起案件中，一名警长据称查询了前伴侣及其十几岁女儿使用的车辆约600次。后续调查将被指控、起诉或定罪的官员人数提升至至少69人。这是一场严重的技术政策失误。但请注意实际的监管杠杆所在。调查后，Flock宣布搜索将需要刑事案件代码，自动滥用检测将成为强制，默认数据保留期限从30天缩短至7天。这些措施或许仍不足，但它们展示了立法者可以监管的控制类型: 授权、目的限制、审计追踪、数据保留、人为问责以及滥用处罚。对滥用监视的答案不是禁止计算机视觉。对未授权网络攻击的答案也不一定是禁止具备网络安全能力的模型。答案是监管哪些系统被允许做什么，它们可以访问哪些资源，谁可以授权关键行动，以及当这些边界被突破时会发生什么。您已经写出了更好监管模型的部分内容有趣的是，您今年提出的另一项立法包含了若干指向更具生产性方法的想法。我阅读了您《人工智能数据中心暂停法案》的完整文本。虽然我不同意全面停止数据中心建设，但您对最终解除暂停的条件比对一类智能的全面禁令更为具体。您的法案规定，AI数据中心不应提升消费者的电费，不应加剧气候变化或损害环境。它要求受影响社区拥有发声权，设立强有力的劳动标准，并公开报告用水、能源消耗、温室气体排放、废水、冷却化学品、噪音、就业及其他影响。这些都是可度量的外部性。正是监管可以发挥效力的所在。我将在能源方面进一步推进。AI行业不应利用快速增长的电力需求作为延长未受限制燃煤电站寿命或将基础设施成本转嫁给普通用户的借口。新的超大规模项目应被要求向电网引入大量额外的低碳或零碳发电，并披露其用水和能源影响。已有一些有前景的案例展示了这种转型的可能性。Exowatt的P3系统将太阳能以热能形式储存，并转化为可调度电力，部分针对数据中心负荷设计。就在本周，Fervo Energy宣布与Google签署了396兆瓦的协议，在犹他州提供全年碳中和的增强型地热电力，并有选项将总容量提升至接近一吉瓦。AI的能源需求既可能成为延续脏能源基础设施的理由，也可能成为新清洁能源技术的巨大需求引擎。政府政策可以帮助决定最终走向。而您于6月推出的《美国人工智能主权财富基金法案》也包含了我强烈认同的另一原则: 若AI创造了非凡的经济价值，普通民众应共享这份价值。您的提案明确设想AI产生的财富最终用于支持医疗、教育、住房和健康环境。这认识到一个关键点:...
