为什么公司仍然对人工智能保持谨慎 —— 以及如何安全部署人工智能

人工智能已经席卷了整个世界。虽然一些组织是早期采用者，但许多公司采取了更加谨慎的态度，担心隐私、合规性和运营问题，这些问题至今仍然存在。

我曾参与过数百次涉及人工智能安全工具的部署，并且看到了一种熟悉的模式。倡导者带来早期的热情，试验显示出希望。然后，内部辩论、法律审查和最终的暂停，组织陷入分析瘫痪。尽管人工智能有巨大的潜力来改变安全运营，但许多公司仍然不愿意完全接受它。

在网络安全领域，谨慎往往是正确的本能。但是，延迟人工智能实施并不能阻止人工智能驱动的威胁，这些威胁现在正在增长。真正的挑战是如何安全、有意图地采用人工智能，而不损害信任。

以下是我从前线学到的东西，以及我对准备好自信地向前迈进的安全领导者的建议。

1. 数据信任问题

第一个也是最大的障碍是数据管理。许多公司害怕敏感数据可能泄露、被滥用或最坏的情况下被用来训练一个有利于竞争对手的模型。高调的泄密事件和模糊的供应商保证只会加剧这些担忧。

这不是偏执。处理客户个人信息、知识产权或受监管的数据时，将其交给第三方可能会让人感到失去控制。直到供应商更好地阐明他们的数据隔离、保留、第四方参与和模型训练政策，采用将保持谨慎。

这就是治理变得至关重要的地方。CISO 应该使用新兴框架，如 NIST 人工智能风险管理框架 或 ISO/IEC 42001 来评估供应商，这些框架为人工智能系统中的信任、透明度和问责制提供了实用的指导。

2. 你不能改进你没有衡量的东西

另一个常见的障碍是缺乏基线指标。许多公司无法量化当前的性能，这使得证明人工智能工具的 ROI 几乎是不可能的。你怎么能声称 40% 的效率提高，如果没有人跟踪任务在自动化之前需要多长时间？

无论是平均检测时间（MTTD）、假阳性率还是安全操作中心分析师节省的时间，组织都需要首先测量当前状态的工作流。没有这些数据，人工智能的理由仅仅是轶事——而执行赞助商不会在没有真正、有力的数字的情况下批准大规模的计划。

现在开始跟踪关键 KPI，包括：

• 平均检测/响应时间（MTTD/MTTR）
• 假阳性、假阴性和票量的减少
• 每次事件分析师节省的时间
• 覆盖范围的改进（例如，扫描和修复的漏洞）
• 无需升级的事件解决

这些基线将成为您人工智能证明策略的骨干。

3. 当工具工作得太好

讽刺的是，人工智能采用停滞的一个原因是有些工具工作得太好——暴露了组织无法处理的风险。

高级威胁情报平台、暗网监控工具和大型语言模型（LLM）增强的可见性解决方案通常会显示出被盗的凭证、类似域名或以前未被检测到的漏洞。相反于创造清晰度，这种令人眼花缭乱的可见度会产生一个新问题：我们从哪里开始?

我见过团队禁用高级扫描，因为发现的数量会产生政治或预算上的不适。更好的可见度需要更好的优先级——以及面对问题的意愿。

4. 被锁定在传统合同中

即使更好的工具可用，许多公司也被锁定在与传统供应商的多年协议中。其中一些合同带有如此严厉的经济处罚，以至于中期更换几乎是不可能的。

电子邮件安全是一个典型的例子。现代解决方案现在提供人工智能驱动的威胁检测、行为建模和混合环境的内置恢复能力。但是，如果您的当前供应商没有跟上，并且您被困在为期五年的协议中，那么您基本上被冻结在原地，直到合同到期。

这不仅仅是关于技术的问题。它是关于时机、采购和战略规划。

5. 暗影人工智能的崛起

人工智能采用不仅仅是从上到下发生的——它无处不在，往往是在安全团队不知情的情况下发生。我们的研究表明，超过 85% 的员工已经在使用人工智能工具，如 ChatGPT、Copilot 和 Bard。（更不用说 DeepSeek 和 TikTok！）

如果没有适当的监督，员工可能会将敏感数据输入公共工具，依赖于虚假输出，或者无意中违反公司政策。这是一个合规性和数据保护的噩梦，假装它不存在并不能解决问题。

安全领导者需要采取主动的态度：

• 建立可接受的使用政策
• 在需要时阻止未经批准的 AI 应用，并将这些用户重定向到授权工具
• 推出内部使用的安全 AI 平台
• 培训员工使用人工智能的责任

现场笔记：人工智能使用政策不会改变使用情况。你不能执行你不知道的事情，所以第一步是量化使用情况，然后执行。

6. 外包带来自己的风险

很少有公司拥有在内部构建和托管大型模型的基础设施。这意味着外包往往是唯一可行的途径——但它带来了第三方和供应链风险，CISO 们对此非常熟悉。

像 SolarWinds 、Kaseya 和最近的 Snowflake 漏洞这样的事件凸显了如何在没有可见性的情况下信任外部合作伙伴可能会导致重大暴露。当您外包人工智能基础设施时，您会继承供应商的安全态势——无论是好还是坏。

仅仅相信一个品牌是不够的。要求供应商提供：

• 模型生命周期和更新频率
• 事件响应协议
• 供应商安全控制和合规历史
• 数据隔离和租户控制

7. 人工智能攻击面正在扩大

随着组织采用人工智能，它们也必须为人工智能特定的威胁向量做好准备。攻击者已经在尝试：

• 模型中毒（微妙地 改变训练数据)
• 提示注入（操纵 LLM 行为）
• 对抗性输入（绕过检测）
• 幻觉利用（欺骗用户相信虚假输出）

这些威胁并非理论性的。它们是真实的，并且正在增长。随着防御者采用人工智能，他们也必须适应红队、监控和响应策略，以应对这一新的和独特的攻击面。

8. 人员和流程可能是真正的瓶颈

最被忽视的挑战之一是组织的准备度。人工智能工具通常需要对工作流程、技能和思维方式进行更改。

分析师需要了解何时信任人工智能、如何挑战它以及如何有效地升级。领导者需要将人工智能集成到决策过程中，而不仅仅是盲目地自动化风险。

培训、游乐书和变更管理必须与技术一起演进。人工智能采用不仅仅是一项技术计划。它是一项人力转型计划。

那么我们可以做什么？

尽管存在挑战，我坚信人工智能在安全方面的好处远远超过风险——如果做得正确。以下是我建议组织如何向前迈进：

• 从小开始，彻底测试
• 选择一个有可衡量影响的范围内用例。运行受控试验。验证性能。用数据建立信任，而不是炒作。
• 从一开始就让法律、风险和安全团队参与
• 不要等到合同阶段。让法律和合规团队提前参与，以审查数据处理条款、监管风险和供应链影响。

衡量一切

在实施之前和之后跟踪 KPI。创建既能用安全语言又能用商业语言来表达的仪表盘。指标决定了人工智能资金的成败。

选择有成功项目实践经验的合作伙伴

超越演示。要求参考。询问售后支持、部署复杂性和类似环境中的结果。

接下来是什么？值得关注的新兴用例

我们仍然处于人工智能安全之旅的早期阶段。前瞻性的 CISO 们已经在探索：

• 用于防火墙管理、GRC 和合规自动化的 AI 副驾驶
• 利用人工智能增强的威胁情报，能够加快零日威胁响应和准确性
• 生成式红队和攻击模拟
• 自愈的多供应商基础设施
• 由 行为人工智能 驱动的基于风险的身份控制

这些用例正在从创新实验室转移到生产环境中。现在建立肌肉的组织将更好地准备好利用这些机会。

最后的思考：延迟并不是防御

人工智能已经到来，人工智能驱动的对手也已经到来。您等待的时间越长，您就会失去的领地越多。但这并不意味着您应该盲目地冲进去。

通过仔细规划、透明的治理和合适的合作伙伴，您的组织可以安全地采用人工智能——增强能力而不牺牲控制。

安全的未来是增强的。唯一的问题是您是否会引领潮流还是落后于时代。