我们将影子 AI 定义为员工未经授权或未受监管地使用 AI 工具——例如,将源代码或客户数据粘贴到聊天机器人中——这会在 IT 治理范围之外产生风险。这种定义与其他行业参与者如 IBM 和 Splunk 的定义一致。影子 AI 本质上是指在没有批准或监督的情况下使用 AI,这会引入盲点和潜在的数据泄露风险。易于使用的生成性 AI 应用和缺乏适当控制的结合是这个问题迅速增长的原因。
您曾描述过 Nightfall 的影子 AI 方法与传统 DLP 的多种不同之处。这些功能中——无论是上下文感知监控、数据血统还是实时阻塞——哪一个被证明对您的客户最有影响?
从我们一致听到的客户反馈来看,有两个主要因素带来了最大的差异。首先是提交前控制——实际上在内容被发送到 AI 工具或发布到网上之前捕获敏感内容。第二是我们的 AI 原生检测,它超越了传统的基于模式匹配的方法,去了解数据血统和上下文。
安全格局已经发生了戏剧性的转变。我们最初关注 SaaS 扫描——例如 Slack 和 Google Drive——大约在 2020-2021 年。然后,从 2023 年开始,生成性 AI 防护变得至关重要,现在我们看到对自主、智能威胁预防的迫切需求,这种预防可以随着组织的增长而扩展。
安全运营团队正在努力应对日益复杂的工具、传统的基于模式匹配的 DLP、不断的手动策略调整以及令人压倒的警报疲劳。这些问题减慢了调查速度,增加了开支,降低了安全性。我们的产品演进跟踪了这一从反应性、手动安全运营到主动、智能自动化的转变。我们在 2023 年宣布了生成性 AI 覆盖范围,扩展到数据泄露预防、加密和电子邮件保护,并且现在通过 Nyx,我们正在引入我们所认为的数据保护中的下一个时代——将警报疲劳转变为跨 SaaS、端点和 AI 工具的专注、高影响力的安全行动。
您最近推出了 Nightfall Nyx,它被描述为行业首个自主 AI 原生 DLP 平台。是什么使其具有自主性,它解决了安全团队的哪些问题?
Nightfall 的 AI 检测平台已经提供了高精度、低噪音的结果——与传统的基于正则表达式或基于规则的 DLP 相比,精度提高了 95%。在此基础上,Nyx 是帮助安全团队调查、关联和了解风险的 AI 智能层。
随着生成性 AI 在工作场所的使用激增,安全团队难以跟上,您是否认为像 Nightfall 这样的工具将成为企业环境中的默认控制层?
我认为轨迹表明是的。我们看到企业范围内对生成性 AI 的采用计划正在进行中,像 Microsoft (MSFT ) Entra Internet Access 这样的主要平台正在为生成性 AI 流量推出内联、提交前的控制。将此与行业对影子 AI 风险的共识结合起来,很合理地期待提交前的、AI 感知的 DLP 将成为默认的控制层,类似于身份和访问管理以及端点检测和响应。
最后,作为一名在快速发展领域创业的创始人,您对 Nightfall 和 AI 在企业数据保护中的作用的长期愿景是什么?
我们的长期愿景建立在我们在启动时阐述的基础上——成为云数据的控制平面——现在我们正在通过自主运营和代理 AI 能力来扩展这一愿景。我们设想一个未来,安全态势会不断改善,而不会给分析师增加更多工作量,AI 消除了对专门领域专业知识的需求,组织可以从反应性、手动的安全运营转变为主动、智能的威胁预防。
在实践中,这意味着 AI 不仅理解数据的上下文,还会在 SaaS、端点、电子邮件和影子 AI 中采取安全、智能的行动——调查、指导、编辑、阻止。我们希望从检测到预防关闭循环,给安全团队一个始终在线的智能伙伴,它会随着每次调查而变得更加智能,并将数周的手动法医分析转变为几分钟的专注响应。