影子AI的潜在风险
大多数企业团队并未计划让AI接管其工作流程。这一切始于那些承诺更快写作、更顺畅会议和更佳客户洞察的简单工具。员工们在浏览器中安装了AI助手，将其连接到电子邮件，添加到Zoom中，并在Slack和Google Workspace中进行尝试。但这些早期尝试的发展速度超过了企业管控，并蔓延至支撑整个公司的SaaS系统中，直到AI被编织进日常工作中。而这正是影子AI——当今现代企业中最未被充分认识的风险之一——的诞生方式。它在大多数组织内部悄然生长，远早于领导者们认识到它与敏感数据有多么深的关联。影子AI指的是在组织内部未经批准、缺乏可见性且通常没有防护措施而运行的AI工具。一旦这些工具直接集成到Salesforce、Zoom或Microsoft 365等平台，它们便能获取领导者们认为安全的信息。其危险性已在合规失败、未受监控的数据流以及AI代理采取出乎意料行动的各类事件中显现。我们多年来与那些自认为拥有强大安全计划的公司合作。然而，当我们帮助他们调查其SaaS环境时，他们发现了数百个未经授权的活跃AI连接。其中一些连接已活跃数月，而另一些则属于早已离职的员工。影子AI之所以能悄无声息地蔓延，是因为它的发展速度超过了治理速度，也超过了大多数组织为检测而设置的机制。看不见的数据管道故事往往始于良好的初衷：一位希望写出更好邮件的销售代表，或是一位希望获得重要会议记录客户成功经理，抑或是一位希望找到更快代码审查方式的工程师。AI工具让这些任务变得轻而易举，因此员工们迅速采用它们。但采用只是第一步。许多这类工具通过OAuth、浏览器扩展或API密钥请求广泛的权限。一旦获得授权，它们便能访问CRM记录、客户笔记、内部消息或机密源代码。我们目睹了接下来发生的情况。在一个案例中，一个团队发现连接到Salesforce的AI助手在一个周末内生成了远超四百份报告。起初，所有人都以为是系统故障。然而，该AI获得了广泛的访问权限。它开始以人类分析师永远无法企及的规模自动化执行任务。敏感的销售预测和客户信息出现在了它们本不该出现的地方，仅仅是因为一个AI工具决定采取行动。另一家组织部署了一项AI转录服务以帮助其面向客户的团队。它记录了每一次会议，并收集了关于定价、客户问题、未来计划和竞争洞察的详细信息。所有这些信息直接流入了一个第三方系统，既没有相关协议，也无法了解数据如何存储或使用。类似情况正变得越来越普遍，因为AI工具的行为方式与传统软件截然不同。它读取更多数据，行动更快，并且常常在没有明确边界的情况下行动。随着AI应用的加速，攻击面将持续扩大。特别是模型上下文协议的兴起，通过允许代理直接与企业数据交互，使AI变得更加强大。不幸的是，这种便利性也为供应链攻击和权限提升打开了新的大门。高管们必须明白，现代AI并不符合公司仍在依赖的旧安全模型，因为这些AI工具存在于你的系统内部，而非边缘，这使得它们更难被发现，也更难管理。传统安全工具的局限性大多数安全计划是为这样一个世界构建的：应用程序位于企业网络内部，用户通过可预测的模式连接。然而，AI已经打破了这种模式。现代工具存在于SaaS平台内部，而非公司服务器上。它们通过API而非网络进行通信。它们持续读写数据，并且其行为方式是遗留监控系统无法解读的。我们的经验表明，组织常常低估了其环境中存在的AI工具数量。许多组织不知道哪些集成是活跃的，或者这些权限已存在多久。另一些组织则以为单点登录或防火墙规则足以保障安全。事实并非如此。影子AI在安全团队很少审查的身份系统、权限层和第三方集成中蓬勃发展。它隐藏在公司不查看的地方，也隐藏在员工为了更快工作而安装的工具中。向嵌入式AI的转变使得这项工作更加困难。像Microsoft 365、Google Workspace、Slack和Salesforce这样的平台现在都内置了AI功能。有些默认启用。其他只需点击一下即可激活。组织可能已经在使用AI功能，却没有意识到这些功能消耗了哪些数据，或者这些系统如何存储输出结果。风险不仅来自员工的添加，也来自供应商的引入。重获控制权影子AI不应被视为员工的过失。相反，它是技术快速发展的自然结果，领导者需要的是可见性，而非责备。第一步是假设影子AI存在，并开始绘制AI已与关键系统交互的地图。第二步是创建一套经批准的AI工具，以便团队能够安全地进行创新。阻止AI是不现实的，提供安全的选择才是唯一可持续的路径。实时监督也至关重要。季度审查无法跟上那些能在数小时内窃取数据的工具。组织需要持续洞察哪些AI代理是活跃的、它们拥有哪些权限，以及这些权限是否符合最小权限访问原则。当我们与高管团队合作时，我们鼓励他们提出直接的问题：哪些工具访问客户系统？哪些工具连接到生产环境？哪些工具在用户离开后仍然保持活跃？我们见证过组织将这种混乱转化为清晰。一旦领导者看清AI在其系统内部的运作位置，他们就能设置正确的限制，并让团队安全地使用它。那时，AI将不再是风险，而开始成为真正的优势。影子AI并非未来之物。它已然存在。但那些在其演变成危机之前就妥善应对的组织，将引领AI时代。
