当 AI 变得反常：减轻自主代理时代的内部威胁

 AI 代理的迅速崛起为安全和 IT 团队带来了新的挑战。在向更加自动化的工作流转变的过程中，最近的测试发现，AI 代理在某些条件下可能表现出不安全或欺骗性的行为，从而为企业带来了新的内部威胁。

这表明组织需要适当地监控访问敏感数据和在没有人工监督的情况下运行的 AI 代理。这可能会引入新的风险类别，这些风险更快、更难预测、更难以归因。这些风险的现实是双重的。一方面，安全团队需要为利用 AI 代理来加强社会工程攻击的恶意行为者做好准备。另一方面，他们必须为可能表现出创造新安全风险和漏洞的行为的公司内部 AI 代理做好准备。

内部 AI 代理如何导致内部威胁

AI 代理在企业网络内存在两种关键的内部安全风险。首先，它们在没有人类固有的道德界限和内置责任的情况下自主运行。根据推断的目标而不是明确的指令运行，它们的效率和坚持可以推动它们超越界限并在未经批准的情况下采取行动。没有必要的检查和平衡，漏洞可以轻易被创建和忽视。

这些代理也可能具有访问大量数据的能力，但缺乏区分特权和常规信息的能力。因此，即使是简单的任务，如分析数据集，也可能导致数据泄露或暴露给外部方。这一挑战变得更加复杂，当 AI 跨不同系统和工作流扩展时，具有不同的数据规则和协议。代理在不同区域运行时，经常违反特定位置的数据处理规则，导致不一致的政策执行，从而构建安全风险。事实上，只有 30% 的美国企业正在积极地绘制哪些 AI 代理可以访问关键系统，创建了一个重大的安全盲点。

外部 AI 代理如何导致内部威胁

最常见的入侵方式之一是通过钓鱼和社会工程攻击。恶意行为者和网络犯罪集团正在使用 AI 代理来增强这些攻击，并实施复杂的深度伪造和冒充事件。AI 代理可以被用来创建看起来更真实和可信的钓鱼和社会工程攻击。 60% 的 2024 年的泄密事件涉及人类因素，几乎四分之一的事件源于社会工程。这一数字只会随着 AI 代理的使用而继续增加，这将增强这些入侵方式。

AI 代理可以被训练来筛选大量的社交媒体和个人数据，跨平台和渠道发送有针对性的、个性化的通信。模仿发送者语气和声音的信息更有可能成功，并且更难以区分真实媒体。AI 代理可以学习适应他们的活动，以提高有效性，当攻击不起作用时转向或模仿成功的攻击。

在深度伪造方面，AI 代理可以以出色的速度生成这些伪造，从而导致大规模操纵。恶意行为者还使用 AI 代理进行实时视频通话，几乎没有延迟，并提高可信度。他们可以实时响应目标的反应，并在必要时转变他们的方法。这些增强的攻击可以增加内部威胁的风险，因为不知情的员工可能会被欺骗，暴露敏感数据，授权交易或与威胁行为者共享凭据。

安全团队在解决代理 AI 挑战中的作用

安全团队需要采取具体的行动来限制由 AI 代理创建的盲点。IT 部门应该首先限制 AI 代理访问敏感数据，通过数据管理和实时可见性控制。实现这一目标的步骤包括在 IAM 系统中分类 AI 代理身份，并以与特权帐户相同的严格性监控他们的活动。可见性部分进一步通过监控网络活动，分配给 AI 代理的行为基线。通过可见性，IT 团队可以监控特权访问移动和异常，不仅支持预防工作，还可以加快在代理变质的情况下的遏制和恢复工作。

此外，通过识别 AI 代理攻击中使用的新模式和策略，组织可以更新他们的防御策略，并训练他们的安全系统来识别和阻止类似的威胁。

保持领先于 AI 代理引入的内部威胁

事实是，AI 代理引入了新的内部风险，因为它们具有自主性和对敏感系统的日益增加的访问权限。此外，威胁行为者将继续使用 AI 代理来更有效地利用人类的弱点，通过深度伪造、钓鱼和社会工程。

随着这项技术的进步，企业需要在将 AI 代理纳入工作流之前，提高他们对 AI 代理的访问和行为的可见性。这包括投资主动的、360 度的、实时监控，以及 AI 代理工作量。虽然 AI 代理可能会解决关键的业务瓶颈和挑战，但它们需要采取主动的方法来限制未来的内部威胁。