英国宣布人工智能风险应对措施并延长网络防御试点项目

英国政府于2026年10月12日宣布了一揽子措施，以保护英国免受日益强大的人工智能带来的风险，其中包括延长一项前沿人工智能网络防御计划。政府称，该计划已帮助发现并修复政府系统中1,000多个潜在漏洞。

这项公告由内阁办公室、人工智能安全研究所（AISI）、National Cyber Security Centre（NCSC）以及数字、文化、媒体和体育部发布。人工智能事务大臣 Kanishka Narayan 在 Base One——帝国理工学院的科技孵化器——公布了这些措施，并主张采取全社会共同参与的韧性建设方式。他警告说，随着前沿人工智能系统变得更强大、越来越能够自主行动，系统故障或遭到恶意利用可能造成严重得多的后果。

Narayan 表示：“我希望英国成为世界上最难遭受人工智能攻击的国家之一。”他承诺，凡有必要之处都会推动立法，并依靠英国的科学专长、技术能力和机构，了解日益强大的系统、应对新出现的威胁，并在出问题时作出响应。他还表示，开发世界上最强大人工智能系统的公司应重视科学家对严重危险的警告，调查意外行为，并停止部署任何风险无法得到充分控制的系统。

公告称，这项举措是在两个试点项目的基础上推进的；这两个项目已帮助发现并修复漏洞、侦测潜在网络威胁。政府表示，延长该计划将有助于保护人们日常依赖的公共服务、在短期内降低风险，并支持人工智能在公共部门的长期应用。

《网络安全与韧性法案》修订及人工智能事件应急准备

政府表示，将研究如何强化《网络安全与韧性法案》的部分条款及更广泛的监管制度，以便更好地保护医院、公用事业等基本服务，使其免受新出现的人工智能相关风险影响，包括人工智能失控风险，即自主系统逃避人类监督的情形。政府还将研究如何识别和报告严重的人工智能事件及未遂事件，以及如何迅速吸取教训以降低未来造成损害的风险。任何措施的具体内容都将与议员、技术专家以及负责落实措施的运营方共同研究制定。

政府还正与 NCSC 和 AISI 合作，研究如何应对涉及人工智能智能体的事件。这类系统能够在几乎没有人工监督的情况下执行复杂任务。公告称，这类事件的演变速度可能快于其他重大事件，影响范围也可能更广，而政府现有的应对机制正是为处理其他重大事件而设计的。要应对这一挑战，需要新的专业知识和能力。

这套措施还涵盖人工智能验证。公告将其描述为一个新兴领域，旨在核查关于人工智能系统开发、测试和评估方式的说法是否经得起审查。政府表示，英国具备在这一领域发挥引领作用的良好条件，并将于未来几个月公布支持英国人工智能验证工作的更多细节。

网络事务大臣 Liz Lloyd 表示，网络事件持续影响私营和公共部门的大大小小组织，因此正如她所说，主动做好网络安全防范已成为关乎业务成败的迫切需要。Lloyd 说：“政府正通过扩大人工智能保护公共服务的试点项目，并推进旨在加强防御能力的《网络法案》，将网络安全和人工智能应急准备置于英国数字未来的核心位置。”

漏洞数据背后的试点项目

公告援引了科学、创新与技术部（DSIT）和 NCSC 于2026年6月12日发布的一项案例研究，为其中的数据提供佐证。案例记录了一项试点：政府网络协调中心（GC3）——由 NCSC 和 DSIT 合作建立的机构——每周举办线下黑客马拉松，利用前沿人工智能扫描政府各部门的公开代码仓库。各团队与 AISI 和 NCSC 的专家合作，力求在漏洞遭到利用前发现并缓解此前未被识别的漏洞。GC3 没有规定必须采用某一种方法；各团队获得模型访问权限后，自行构建工具。

案例研究介绍了几种工作流程。一支团队让每个公开代码仓库依次通过由六个阶段组成的人工智能智能体链（分诊、验证、审计、追踪、判定和总结），每个阶段都会读取并质疑上一阶段的结果，同时设置人工升级处理机制：团队成员逐行核查、再次确认漏洞是否暴露，并处理误报。另一支团队先使用传统扫描工具，包括 Gitleaks、Trivy、Semgrep 和 Hadolint，再叠加三个模型阶段，分别负责发现漏洞、调查攻击链和分诊。第三个部门则将针对数百项服务开展的全组织审计，提炼为五项特定领域的 Claude Skills。

案例研究报告称，参与者共发现407项问题，其中包括可能导致服务遭受身份验证绕过、数据泄露和远程代码执行的严重漏洞。所有严重漏洞均已修复，且没有发现任何问题遭到利用的证据；在一个月内，九个政府机构合计花费了价值£13,000的代币。作者表示，这些模型能够跨越服务边界追踪漏洞，这是传统扫描器无法做到的；它们还将业务逻辑与技术细节关联起来。

一项严重问题涉及某个支持关键政府数字服务的代码库中的旧版 GitHub Actions。外部用户可以在开放的拉取请求中发布经过专门构造的评论，从而触发一连串工作流，导致 GitHub Actions 运行器上发生任意远程代码执行，并可能借此提取该工作流可访问的机密信息和令牌。GC3将启动试点第二阶段，扩大参与部门范围，采用更多模型，并将试点从公共代码扩展至闭源代码库。

模型评估与政府整体计划

Narayan确认，AISI的科学家正在对最新一代先进AI模型开展严格评估，此前他们已与领先的AI开发者及美国政府合作开展相关工作。

公告还提到了一封致企业领导人的公开信，该信于2026年4月15日发布。DSIT大臣Liz Kendall和安全事务大臣Dan Jarvis在信中敦促企业从组织高层开始认真对待网络安全，按照政府的 Cyber Essentials 计划落实基本防护，并遵循NCSC的建议，包括注册其免费的 Early Warning 预警服务。该服务会向组织发出潜在网络攻击警报，使其能够在事件升级前采取行动。

公告称，这些措施只是漫长征程的起点，更广泛的工作由首相的人工智能工作组牵头推进。公告提到，首相已在9月的联合国大会上承诺，将采取一切必要措施，在人工智能风险出现时保护英国民众；公告还表示，人工智能将成为英国担任二十国集团（G20）主席国期间工作的核心。未来几个月，该工作组将聚焦受人工智能影响最大的领域，包括国家安全、经济增长，以及公共服务和劳动力的未来。