为何末日论会转移视线，以及真正值得担忧的 AI 风险

如果你关注新闻媒体，就很难忽视围绕 AI 行业日益高涨的危言耸听，以及有关末日的警告。这种论调警告称，AI 系统对人类构成“生存性风险”，让网络安全公司轻而易举地跟风借势，靠制造恐惧来推销产品。然而，把注意力放在“末日”上并不可取，因为这会忽视智能体式 AI 当下给企业带来的更迫切风险。

当然，脱离组织管控独立行动的 AI 智能体确实会带来明显风险。就在不久前，来自澳大利亚和美国的报道指出，OpenAI 的 AI 智能体在这两个国家的政府系统中都曾偏离既定任务。

然而，关于 AI 末日情景的威胁被夸大了。组织不应执着于假设性的情景，而必须直面这一新现实，确保落实确定性防护措施，以增强运营韧性。

互联网没有一个总开关

认同末日论的人认为，随着 AI 的能力日益成熟、应用范围不断扩大，它可能变成一个高度集中的“毁灭开关”：只要有人夺取完全控制权并触发它，就可能引发灾难，而这个单点也极易受到攻击。

然而，互联网远比毁灭开关理论所设想的更加分散且多元。它以“网络的网络”形式运行，由数十亿个组件构成，这些组件分布在不同架构的各个层级，由无数运营团队依据各自不同的标准和工具加以防护。因此，无论是人还是机器，都没有一个可以拨动的总开关；也不存在一个漏洞或一串漏洞，能够被利用来造成这种毁灭性后果。

AI 能够制造并释放经过设计的病原体，或闯入物理隔离的核系统——这种设想或许能成为引人入胜的电影题材，但远不足以构成可信的运营威胁评估情景。

看不见，就管不住

随着智能体式 AI 持续发展，有两个因素从根本上改变了企业风险的性质。

一方面，AI 如今可以帮助不法分子在几分钟而非几个月内发现并利用网络安全漏洞。等到基于概率的 AI 防御系统识别出可疑活动时，往往已经来不及应对威胁。由于这类系统依赖统计概率而非固定规则，即使是最出色的系统也会漏掉一些恶意活动，而攻击者只需成功钻过一次空子

另一方面，员工使用“影子 AI”，让组织更难摸清哪些方面需要防护。云安全联盟调查发现，过去一年中，有82%的组织发现了安全或 IT 团队此前不知道正在运行的 AI 智能体，尽管 68% 的组织表示，他们有较强的信心掌握智能体的情况。另据 EY 发现，使用智能体式 AI 的美国大型企业中，有四分之一承认无法检测到在企业内部运行的未经授权智能体。

自然，这两项变化都给企业系统带来了巨大的运营压力。两者叠加，使组织处于明显劣势：既无法及时发现并修复暴露的漏洞，也不清楚究竟有哪些系统已经暴露在风险之中。

管好力所能及之事

组织需要建立一份实时清单，列出企业内运行的每一个智能体，无论其是否获准使用；每个智能体都应指定一名负责人，并明确界定其可访问的内容和可执行的操作范围。这是管好“可控事项”的第一步：AI 模型或许具有概率性，但围绕它们建立的控制措施可以是确定的、固定的，并且界定清晰。

在实践中，这意味着每当智能体提出一项操作时，都必须由一个独立于模型本身的单独执行层核实该操作是否获准，并保留审计记录。然而，只有11%的组织会在智能体的操作超出其权限范围时自动拦截，大多数组织依赖人工批准，或者只是记录操作。澳大利亚事件表明，依靠目标系统拒绝访问会付出代价：访问遭拒后，智能体又找到了另一条进入途径。更广泛的治理架构还必须能够持续识别、授权并验证所有智能体，防止意料之外的运营风险演变成现实。所有这些工作都必须迅速完成，因为以机器速度发起的攻击，需要以机器速度运行的规则。

从假想恐惧转向切实解决方案

尽管有关自主 AI 系统的末日论报道铺天盖地、煞有介事，却与现实相去甚远。真正值得担忧的风险远没有“AI 决定毁灭人类”那么耸人听闻：一个智能体在你的企业内部行动，速度快到无人察觉，而且获得了从未有人授予它的权限。

只要管理 AI 的安全系统具备确定性，并能按照每个智能体的运行速度准确核验和追踪所有智能体，速度和可见性这两个问题都能得到解决。

对董事会和安全负责人来说，归根结底要回答三个实际问题：我们是否了解在自身环境中运行的每个智能体？每个智能体是否都有负责人和明确的权限边界？我们能否在未经授权的操作执行前将其阻止？帮助客户弥补这些实际漏洞，是网络安全服务提供商增强韧性的更有效方式，远胜于兜售对假想未来的恐惧。