人工智能如何成为数据泄露的主要渠道

企业领导者投资数十亿美元用于人工智能工具，以加速生产力和创新。但是，最新的数据揭露了一个严重的风险，这个风险很多组织没有预见到。帮助员工工作更快的人工智能平台已经成为敏感数据的最大渠道，离开企业环境。最近的发现显示，77%的员工将数据粘贴到生成式人工智能工具中，40%的上传文件包含个人可识别信息或支付卡数据。这正在发生，规模巨大，遍及认为自己拥有适当的安全控制的组织。它表明了公司对人工智能的使用和员工实际使用这些工具之间的根本性脱节。理解这一转变是构建与新现实相匹配的安全策略的第一步。

人工智能如何成为新的数据泄露渠道

两年前，生成式人工智能几乎不存在于企业工作流中。今天，45%的所有企业员工都在积极使用人工智能平台，11%的所有企业活动都发生在这些工具上。ChatGPT单独就达到了43%的员工渗透率，这是其他通信平台花了几十年才实现的。

这种采用速度创造了一个安全真空。传统的数据丢失防护系统是为文件传输、电子邮件附件和网络流量而设计的。它们从来没有被设计为监视员工在提示框中输入的内容或粘贴到聊天界面的内容。这个盲点已经成为敏感信息的主要逃脱路线。

生成式人工智能现在占所有数据从企业到个人账户的移动量的32%。这使得它成为数据泄露的最大渠道，超过文件共享、电子邮件和其他安全团队花了多年时间试图保护的所有渠道。问题不仅仅是泄露的数量，还有泄露的性质。当有人将文档上传到文件服务器时，会有记录。当他们将客户数据粘贴到人工智能提示中时，这次转移经常发生在任何日志或监控系统之外。

个人账户问题

问题不在于人工智能工具的使用，而在于员工如何访问这些工具。企业安全模型假设员工使用具有单点登录身份验证、日志记录和监督的企业账户。数据显示，这个假设是错误的，大约67%的人工智能使用发生在未经管理的个人账户中。这些是Gmail地址、个人Microsoft账户或直接注册的账户，完全绕过了企业身份系统。当有人使用个人电子邮件登录ChatGPT时，公司对他们提出的问题、共享的数据或可能出现在响应中的敏感信息没有任何可见性。

即使员工使用企业账户，这些凭证通常也缺乏联合身份验证。83%的ERP登录和71%的CRM登录都没有单点登录。这意味着企业登录提供的安全性或可见性几乎与个人账户一样。用户名可能具有公司域，但身份验证绕过允许相同的不可见数据流动。

复制和粘贴：不可见的数据泄露

传统的数据丢失防护策略是围绕文件系统构建的。它们监视上传、下载和附件。然而，数据显示，真正的数据泄露源不是文件，而是复制和粘贴。77%的员工将数据粘贴到生成式人工智能工具中。82%的这种活动来自未经管理的个人账户。平均每个员工每天使用个人账户进行15次粘贴，其中至少4次包含敏感的个人可识别数据或支付卡信息。

这意味着敏感信息不再仅仅通过文件上传移动。它也被直接注入到提示、聊天窗口和文本字段中。这些无文件传输几乎对传统的数据丢失防护解决方案不可见。它们以高频率发生，跨多个平台，且在企业监控范围之外。

结果是敏感数据不断从组织中流出，方式难以检测。复制和粘贴已经成为新的泄露渠道，而人工智能工具是主要目的地。

未经授权的目的地中的敏感文件

文件上传仍然是企业工作流程的核心部分。但是，目的地已经改变。员工不再将上传限制在授权的存储或电子邮件中。他们正在将文件移动到生成式人工智能工具、消费者应用程序和影子SaaS平台中。

数据显示，40%的上传到生成式人工智能工具中的文件包含个人或财务数据。41%的上传到文件存储平台中的文件包含相同的数据。几乎4分之3的这些上传发生在个人账户中。

这意味着敏感数据正在流入企业没有可见性和控制的环境中。一旦文件被上传到个人Google Drive、WhatsApp聊天或人工智能提示中，它就基本上在企业范围之外。它无法被跟踪、限制或删除。

目的地是多样化的。企业工具，如Egnyte和Zendesk，出现在消费者平台如Canva、LinkedIn和WhatsApp旁边。这种企业和消费者生态系统的融合模糊了企业数据所在位置的界限。它还暴露了传统数据丢失防护的局限性，这种防护是为授权渠道和集中控制而设计的。

这对企业安全意味着什么

传统的安全边界已经崩溃。曾经可以通过管理网络、保护端点和监控授权应用程序来控制数据。这种模型假设工作发生在企业系统内，偶尔会通过受控渠道使用外部平台。

现实是，工作现在发生在浏览器中，跨多个应用程序，使用既有企业又有个人账户的方法，会产生没有审计跟踪的数据流。一个员工可能会在内部系统中研究客户问题，将发现粘贴到ChatGPT中进行总结，将总结复制到Slack中与同事分享，并通过个人电子邮件转发以便稍后查看。每一步都涉及敏感数据通过传统工具无法看到的渠道流动。

浏览器已经成为主要的工作场所，但安全控制并没有跟上。员工花费时间在应用程序之间切换，数据显示他们几乎没有区分企业和个人工具。他们使用任何有效的工具，任何方便的工具，任何不需要等待IT批准的工具。这就创造了一个敏感信息不断通过不可见的渠道流出的环境。

重新思考企业安全以适应人工智能时代

解决方案不是阻止人工智能工具或完全禁止个人账户。这些方法都失败了，因为它们与员工实际工作的方式相反。这些工具之所以存在，是因为它们使人们更高效。个人账户之所以普遍，是因为企业配置缓慢且具有限制性。忽略这些现实的安全措施将被绕过。

有效的保护需要在浏览器级别实现可见性，即工作实际发生的地方。这意味着不仅要监控文件上传，还要监控粘贴操作、表单提交、提示交互和数据在系统之间移动的所有其他方式。这意味着要执行区分企业和个人账户的策略，无论使用哪个应用程序。

组织需要将数据丢失防护扩展到文件之外，包括无文件传输。提交到ChatGPT的提示应该与电子邮件附件受到相同的审查。粘贴到Slack的操作应该触发与上传到Google Drive相同的检查。传输方法不应该决定是否应用安全措施。

身份控制必须真正被执行。仅提供单点登录是不够的，如果员工仍然可以通过个人账户访问业务应用程序。联合身份验证需要对任何处理敏感数据的应用程序都是强制性的，而不是可选的。非联合企业登录应该被视为它们所构成的安全风险。

结论

人工智能已经成为企业软件中增长最快的类别。它也已经成为数据泄露的主要渠道。77%的员工将数据粘贴到人工智能工具中。40%的上传包含敏感信息。这些活动的大多数发生在未经管理的账户中。旧的安全边界不再存在。大部分工作发生在浏览器中，即使像粘贴文本这样的简单操作也可能导致泄露。没有更新安全策略以适应这一新现实的公司已经失去了对其最有价值的数据的控制。