思想领袖
如何应对与代理人工智能相关的网络安全挑战
代理人工智能 (AI) 代表着人工智能的下一个前沿领域，有望超越生成式人工智能 (GenAI) 的能力。与大多数依赖人类提示或监督的 GenAI 系统不同， 代理人工智能是主动的 因为它不需要用户输入即可解决复杂、多步骤的问题。通过利用大型语言模型 (LLM)、机器学习 (ML) 和自然语言处理 (NLP) 的数字生态系统，代理人工智能可以代表人类或系统自主执行任务，从而大幅提高生产力和运营效率。
虽然代理人工智能仍处于早期阶段，但专家们已经重点介绍了一些突破性的用例。想象一下银行的客户服务环境，其中人工智能代理不仅仅是在用户提问时回答问题。相反，代理会 在提示时实际完成交易或转移资金等任务 由用户决定。另一个例子是金融领域，其中代理人工智能系统通过自主快速地分析大量数据来协助人类分析师 生成可供审计的报告，以便进行基于数据的决策.
代理人工智能的无限可能毋庸置疑。然而，与任何新技术一样，它也常常存在安全、治理和合规性方面的担忧。这些人工智能代理的独特性给组织带来了诸多安全和治理挑战。企业必须应对这些挑战，才能不仅获得代理人工智能的回报，还能确保网络安全和效率。
Agentic AI 给组织带来哪些网络安全挑战？
AI代理有四个基本操作。首先是感知和数据收集。这些数百、数千甚至数百万个代理从多个位置收集数据，无论是云端、本地还是边缘计算等等，这些数据可能来自任何地方，而不仅仅是某个特定的地理位置。第二步是决策。这些代理收集到数据后，会使用AI和ML模型进行决策。第三步是行动和执行。做出决策后，这些代理会采取相应的行动来执行该决策。最后一步是学习，这些代理会利用决策前后收集的数据进行相应的调整和适应。
在此过程中，代理人工智能需要访问大量数据集才能有效运作。代理 通常会与处理或存储敏感信息的数据系统集成诸如财务记录、医疗保健数据库和其他个人身份信息 (PII) 等信息。然而，代理型人工智能 (Agentic AI) 使保护网络基础设施免受漏洞攻击的工作变得更加复杂，尤其是在跨云连接的情况下。它还带来了出口安全挑战，使企业难以防范数据泄露以及命令和控制漏洞。如果 AI 代理受到攻击，敏感数据很容易泄露或被盗。同样，代理也可能被恶意行为者劫持，并用于大规模生成和传播虚假信息。一旦发生违规行为，不仅会受到经济处罚，还会损害声誉。
代理 AI 可能无法实现可观察性和可追溯性等关键功能，因为很难追踪 AI 代理正在访问哪些数据集， 增加数据被泄露或被未经授权的用户访问的风险同样，Agentic AI 的动态学习和自适应能力可能会阻碍依赖结构化日志跟踪数据流的传统安全审计。Agentic AI 还具有短暂性、动态性和持续运行的特点，需要全天候保持最佳可见性和安全性。规模是另一个挑战。攻击面呈指数级增长，从本地数据中心和云端扩展到边缘。事实上，根据组织的不同，Agentic AI 可以在边缘添加数千到数百万个新端点。这些代理在不同的云、本地、边缘等众多位置运行，使网络更容易受到攻击。
应对代理人工智能安全挑战的综合方法
组织可以通过在四个基本操作步骤中应用安全解决方案和最佳实践来应对代理人工智能的安全挑战：
- 感知和数据收集： 企业需要端到端加密的高带宽网络连接，以便其代理能够收集运营所需的海量数据。需要注意的是，根据具体用例，这些数据可能是敏感数据，也可能是高价值数据。企业应该部署高速加密连接解决方案，在所有数据源之间运行，并保护敏感数据和 PII 数据。
- 做决定： 企业必须确保其 AI 代理能够访问正确的模型以及 AI 和 ML 基础架构，从而做出正确的决策。通过部署云防火墙，企业可以获得 AI 代理所需的连接性和安全性，从而以可审计的方式访问正确的模型。
- 动作执行： AI代理会根据决策采取行动。然而，企业必须从数百甚至数千个代理中识别出哪个代理做出了该决策。他们还需要了解代理之间的通信方式，以避免冲突或“机器人与机器人打架”。因此，企业需要确保AI代理的这些操作具有可观察性和可追溯性。可观察性是指实时跟踪、监控和理解AI代理内部状态和行为的能力。可追溯性是指跟踪和记录AI代理的数据、决策和操作的能力。
- 学习与适应： 公司花费数百万甚至数亿美元甚至更多来调整其算法，从而提高了这些代理的价值和精度。如果恶意行为者掌握了该模型并将其泄露，所有这些资源可能在几分钟内就落入他们的手中。企业可以通过出口安全功能来保护其投资，这些功能可以防止数据泄露和命令与控制漏洞。
以安全负责的方式利用 Agentic AI
Agentic AI 拥有非凡潜力，能够赋能企业，使其生产力和效率达到新的高度。但是，与人工智能领域的任何新兴技术一样，企业必须采取预防措施，保护其网络和敏感数据。考虑到像 Salt Typhoon 和 Silk Typhoon 这样由民族国家资助、技术高度精湛、组织严密的犯罪分子持续发动大规模攻击，安全在当今尤为重要。
企业应与云安全专家合作，制定稳健、可扩展且面向未来的安全策略，以应对代理型人工智能 (AI) 的独特挑战。这些合作伙伴可以帮助企业追踪、管理和保护其 AI 代理；此外，他们还能帮助企业提升合规性和治理标准所需的安全意识。
