Anirban Sengupta, Aviatrix首席技术官 Anirban Sengupta Aviatrix首席技术官

如何解决与代理人式人工智能相关的网络安全挑战

代理人式人工智能（AI）代表着人工智能的下一个前沿，承诺超越甚至生成式人工智能（GenAI）的能力。与大多数依赖于人类提示或监督的GenAI系统不同，代理人式AI是主动的，因为它不需要用户输入来解决复杂的多步骤问题。通过利用大型语言模型（LLM）、机器学习（ML）和自然语言处理（NLP）的数字生态系统，代理人式AI代表人类或系统自主执行任务，大大提高了生产力和运营效率。虽然代理人式AI仍处于早期阶段，专家已经强调了一些开创性的用例。考虑一个银行的客户服务环境，AI代理不仅仅是回答用户的问题，还可以在用户提示下完成交易或任务，例如转移资金。另一个例子可能是在金融环境中，代理人式AI系统通过快速分析大量数据来帮助人类分析师，自主生成审计准备好的报告，以便数据驱动的决策。代理人式AI的令人难以置信的可能性是不可否认的。然而，像任何新技术一样，存在安全、治理和合规问题。这些AI代理的独特性质为组织带来了多个安全和治理挑战。企业必须解决这些挑战，不仅要获得代理人式AI的好处，还要确保网络安全和效率。代理人式AI为组织带来的网络安全挑战是什么？AI代理有四个基本操作。第一个是感知和数据收集。这些代理从多个地方收集和收集数据，无论是云端、内部、边缘等，数据可能来自任何地方，而不是特定的地理位置。第二步是决策。这些代理使用AI和ML模型根据收集的数据做出决策。第三步是行动和执行。代理根据决策采取行动。最后一步是学习，代理使用之前和之后的数据来调整和适应。在这个过程中，代理人式AI需要访问大量数据才能有效地运行。代理将与处理或存储敏感信息的数据系统集成，例如财务记录、医疗数据库和其他个人可识别信息（PII）。不幸的是，代理人式AI使得保护网络基础设施免受漏洞的努力变得复杂，特别是在跨云连接方面。它还带来了出口安全挑战，使得企业难以防止数据泄露和命令及控制漏洞。如果AI代理被泄露，敏感数据可能会轻易泄露或被盗。同样，代理可能会被恶意行为者劫持并用于大规模生成和分发虚假信息。当发生漏洞时，不仅会有经济处罚，还会有声誉损害。关键能力，如可观察性和可追溯性，可能会因代理人式AI而受到阻碍，因为很难跟踪AI代理访问哪些数据集，增加了数据被未经授权的用户访问或泄露的风险。同样，代理人式AI的动态学习和适应可能会阻碍传统的安全审计，这些审计依赖于结构化日志来跟踪数据流。代理人式AI也是短暂的、动态的，并且持续运行，需要24/7的最佳可见性和安全性。规模也是一个挑战。攻击面已经指数级扩大，超出了内部数据中心和云端，包括边缘。事实上，根据组织的不同，代理人式AI可以在边缘添加数千到数百万个新的端点。这些代理在多个位置运行，无论是不同的云端、内部、边缘等，使得网络更容易受到攻击。如何全面解决代理人式AI的安全挑战组织可以通过在代理人式AI的四个基本操作步骤中应用安全解决方案和最佳实践来解决安全挑战： 感知和数据收集： 企业需要具有端到端加密的高带宽网络连接，以使其代理能够收集所需的巨大数据量。请记住，这些数据可能是敏感的或非常有价值，具体取决于用例。公司应该部署高速加密连接解决方案，以保护敏感和个人可识别信息（PII）数据。 决策： 公司必须确保其AI代理能够访问正确的模型和AI及ML基础设施，以做出正确的决策。通过实施云防火墙，企业可以获得其AI代理需要的连接和安全，以便以可审计的方式访问正确的模型。 行动执行： AI代理根据决策采取行动。然而，企业必须确定哪个代理（可能有数百或数千个代理）做出了该决策。他们还需要知道代理如何相互通信，以避免冲突或“机器人之间的战斗”。因此，组织需要对代理采取的行动具有可观察性和可追溯性。可观察性是指实时跟踪、监控和理解AI代理的内部状态和行为的能力。可追溯性是指跟踪和记录AI代理做出的数据、决策和行动的能力。 学习和适应： 公司花费数百万甚至数十亿美元来调整其算法，这增加了这些代理的价值和精度。如果恶意行为者获得这些模型并将其泄露，所有这些资源都可能在几分钟内落入他们手中。企业可以通过防止泄露和命令及控制漏洞的出口安全功能来保护其投资。 如何在安全和负责的方式下利用代理人式AI代理人式AI具有令人惊叹的潜力，能够使公司达到新的生产力和效率高度。然而，像任何新兴技术一样，组织必须采取预防措施来保护其网络和敏感数据。安全尤其重要，因为高度复杂和组织良好的恶意行为者由国家资助，例如Salt Typhoon和Silk Typhoon，它们继续发动大规模攻击。组织应该与云安全专家合作，开发一个强大、可扩展和面向未来的安全策略，能够解决代理人式AI的独特挑战。这些合作伙伴可以使企业能够跟踪、管理和保护其AI代理；此外，他们还可以帮助公司了解与合规和治理相关的标准，以满足这些标准的要求。ust, 可扩展和面向未来的安全策略，能够解决代理人式AI的独特挑战。这些合作伙伴可以使企业能够跟踪、管理和保护其AI代理；此外，他们还可以帮助公司了解与合规和治理相关的标准，以满足这些标准的要求。