企业人工智能安全漏洞：企业如何保护自己

企业正在争相采用生成式人工智能（AI）以保持在市场中的竞争力。然而，安全团队面临着一个重大挑战，因为他们依赖于为不同技术时代设计的过时框架。几十年来成功保护组织的工具现在在员工与基于浏览器的AI平台交互时留下了关键的漏洞。为了安全地采用最新的技术，企业必须完全重新思考如何控制信息访问和检测新出现的威胁。

企业中影子AI的日益增长的威胁

影子AI 出现在员工绕过官方IT渠道并使用未经授权的消费级AI工具进行工作任务时。这些平台提供了速度和便利性，内部审批流程无法匹配，使它们对注重生产力的工人不可抗拒。

最近的研究显示，73.8% 的员工与ChatGPT的交互发生在非企业账户上，这意味着敏感信息直接流入公共模型。同样，Gemini和Bard在个人账户上的使用率分别达到94.4%和95.9%。

将任务外包给未经验证的外部平台会带来重大后果。分析显示，55% 的AI故障源于这些第三方解决方案，制造了跨越声誉损害和财务损失的风险。客户不信任、合规罚款和诉讼往往会随之而来。对于在部署前没有进行风险分析的公司来说，这是令人担忧的。

在没有可执行指南的情况下，员工过度分享敏感公司信息，制造了巨大的隐私责任，而许多第三方平台缺乏保护机密商业记录所需的严格安全措施。这些解决方案的存储政策和实践可能会无意中将客户信息和财务记录暴露给潜在的泄露。

传统数据丢失防护为什么会失败

传统的数据丢失防护（DLP）工具是为阻止文件下载或通过电子邮件附件发送而设计的。这些解决方案在其原始目的上表现出色，但在浏览器 기반AI时代面临着根本性的局限性。例如，它们无法轻松监控或阻止员工手动输入或粘贴到AI提示窗口中的文本，创建了一个安全覆盖范围的盲点，这个盲点会随着每个季度的过去而变得更加严重。

当检查这些工具可以和不能保护的内容时，差距变得明显：

• DLP捕获：文件下载，电子邮件附件，USB传输和文档上传
• DLP漏洞：复制粘贴到浏览器窗口，手动输入的提示，截图转换为文本和直接文本输入到Web应用程序

随着AI在组织中加速采用，这个覆盖范围的差距正在扩大，并产生了一个信息外泄的途径，传统的安全基础设施从未被设计成要解决。安全团队发现自己处于被动地位，只有在敏感内容已经离开组织控制后才会发现泄露。

企业AI的最佳方法是什么？

坚持使用传统的DLP解决方案，同时忽视AI采用的现实，并不构成一个可行的长期商业战略。公司需要升级到适应新型攻击的AI驱动的威胁检测，并对AI使用施加严格的边界，以保护敏感信息。集中治理实践以防止意外暴露完成了这个安全基础。

转向多层次AI背景

传统的威胁检测工具依赖于反应性规则，搜索历史攻击的签名。这种方法要么产生过多的假阳性，标记正常的员工行为为可疑，要么完全错过了不匹配其数据库中任何以前模式的新型攻击。

例如，Artesia General Hospital认识到这些限制在保护其患者护理运营和数字生态系统方面，导致该组织部署Darktrace技术。没有预定义的威胁列表，该平台从基础上学习每个设备、用户和交互，以开发对正常行为的理解。

Cyber AI Analyst组件使用类似于人类分析师的方法来调查警报，并将可能指示对患者记录和医院运营的真正威胁的微妙异常联系起来。系统自主地 检查Artesia的网络威胁以确定哪些警报代表实际的安全事件。

这种多层次的AI方法显著减少了假阳性，减轻了安全团队的负担。当每天从100个良性警报减少到仅2-3个真正需要人类关注的关键事件时，他们的关注点变得更加明确。分析师获得了他们需要的精确信息，而无需花费数小时进行手动调查。

执行严格的内部AI使用政策

建立严格的边界和部署技术防护措施来控制哪些信息可以进入公共AI模型，解决了传统DLP解决方案无法关闭的漏洞。

三星电子提供了一个关于员工在没有足够的技术防护措施的情况下访问AI工具时会发生什么的警示例子。仅仅在 2023年4月允许ChatGPT访问20天后，该公司经历了三次独立的泄露事件，损害了多个部门的高度机密信息。

工程师将专有半导体数据库源代码粘贴到ChatGPT中，以检查编码错误，暴露了三星制造流程的关键细节。在另一个事件中，员工上传了专门设计用于识别设备缺陷的代码，寻求优化建议。工作人员还将记录的内部会议转换为文本，然后将这些记录输入到ChatGPT中以生成自动会议纪要。

一旦信息进入公共AI模型的训练数据集中，就没有删除按钮可以检索或从知识库中删除它。三星最终完全禁止了ChatGPT，因为泄露的专有内容无法恢复。

建立集中数据治理

企业AI解决方案的安全性仅限于其可以访问的信息，标准化所有系统的权限形成了安全AI部署的基础。当公司的内部网络遭受不一致的访问控制和分散的管理实践时，即使是批准的AI工具也可能意外地向未经授权的员工暴露机密的HR文件或财务记录。

例如，AXIS Capital直接面临了这个挑战，当时他们处理的是分散在不同地理位置的独立、孤立的政策和索赔平台。每个业务线 都创建了自己的报告参考标准，不一致导致了报价、承保和索赔调整中的错误，使公司级别的报告变得极其困难。

保险公司开发了一种利用基于Web的管理表单和严格的安全规则的组织范围内的策略，以标准化核心参考层次结构。从北美行业分类系统和标准工业分类代码开始，AXIS然后扩展到以前根据位置而有所不同的评级和承保代码。

通过实施集中数据管理和控制，该公司创建了一个可跨所有运营访问的单一安全真实来源。这样消除了曾经困扰他们平台的不一致性，同时允许AXIS加速核心保险流程，例如推出新产品，降低运营风险，并在公司层面实现可靠的分析。

保障企业创新未来的安全

企业采用AI是不可避免的，因为组织正在争夺市场优势。依赖传统的安全框架和容忍无结构的治理实践只会加速泄露和合规违规。问题不在于公司是否会采用AI，而在于他们是否会安全地采用AI。通过实施多层次的AI威胁检测和建立信息访问的严格监督，企业可以在保护最敏感的内容的同时拥抱AI创新。