数据——而非人工智能——是关键

人工智能已经深深地融入了企业中，几乎每个操作都以某种方式受到该技术的影响。查看人工智能的使用，我们看到组织正在采用新的人工智能形式来创新和迭代现有系统。事实上，最近的一项调查发现，98%的IT领导者要么已经使用代理人工智能来编排GenAI用例，要么计划在近期内这样做。

在过去几年中，人工智能工具和技术的爆发式增长中，人工智能代理迅速成为最受欢迎的工具之一。这些代理帮助组织完成从改善客户体验和支持到自动内部流程或优化现有GenAI模型等一切任务。但是，将人工智能代理和人工智能的众多优势扩展到整个企业中并非易事。

许多组织在扩展人工智能和人工智能代理时面临的主要挑战在于信任，而不是技术。人工智能代理本质上跨多个系统工作。不论这些系统位于何处，它们很可能依赖于高度敏感的数据——无论是大量客户数据、医疗信息还是银行和金融数据。这就是问题所在。在没有适当的数据隐私和安全基础设施的情况下，将大量数据输入任何人工智能模型，都会让企业面临巨大的风险。

无论人工智能模型的输出是什么，如果训练它的数据值得信任，那么它就是有价值的。但这不仅仅是确保数据安全的问题。尤其是人工智能代理，涉及到这些模型如何运行的自主性。确保它们具备理解谁应该访问数据、什么时候应该访问以及如何访问的能力，对于建立信任至关重要。

然而，克服数据隐私问题并非不可能。通过实施适当的数据政策、元数据管理、API和企业级授权框架，企业IT领导者可以确保人工智能的数据是安全和可信的。

让我们更仔细地看看。

导航数据隐私和扩展人工智能的需要

将人工智能代理集成到企业中的一个更广泛的目标是跨操作和系统简化工作流程。但是，如果没有任何防护措施，这可能会无意中暴露敏感数据。在数据泄露和恶意攻击不断演变的时代，任何暴露或被未经授权的用户访问的数据都可能带来灾难性后果——不仅仅是人工智能计划，还有整个企业。根据IBM的数据，数据泄露的平均成本超过4亿美元，截至2025年。人工智能的采用速度很快，通常会在企业领导者推动创新、更深入的洞察力和新的增长机会的同时，将治理和安全性抛在后面。但是，随着人工智能的采用率飙升，监管政策和要求也在不断演变，以确保数据的安全性。

从GDPR到CCPA，甚至像HIIPA这样的长期政策，监管复杂性为扩展人工智能代理带来了挑战。需要大量数据的AI工具，如果不加控制，会带来更大的风险。当AI模型跨越所有这些内部系统时，敏感数据通常会在此过程中被移动和访问。监管机构在全球范围内越来越注重确保数据的隐私、有效的治理和强大的安全性。

最近的政策，如DORA——一套针对在欧盟运营的金融服务公司的ICT风险管理指南——明确要求ICT事件分类和报告，包括影响数据的机密性、完整性或可用性。虽然该政策主要侧重于运营恢复力，但其影响也延伸到人工智能采用。随着更多的人工智能计划（包括使用人工智能代理）在企业范围内访问数据，未经授权的访问风险也会增加。如果人工智能项目导致数据丢失或暴露，监管政策将迅速变得相关。

在如此多的风险面前，企业组织不应忽视安全性、治理和数据访问的重要性。

建立基础以支持人工智能代理

企业需要建立一个根植于有效治理的基础，拥有坚实的防护措施和可执行的规则来定义代理可以和不能做什么。这个基础的核心是数据治理——管理数据在组织中负责任使用的高级政策、标准和结构。这些政策确保代理不会超越其角色，无论是访问受限数据集还是在没有人工监督的情况下启动流程。

实施强大的数据治理政策应从几个关键点开始。这些包括责任、所有权、数据质量和一致性、安全性和隐私性、合规性和可审计性以及透明度和可追溯性。

通过这些关键点作为治理的基础，企业领导者可以对决策拥有更大的控制权，对其数据拥有更多的信任，并降低数据孤岛带来的监管风险。这是通过利用元数据管理、数据分类和血统等功能来实现的，以提高透明度和可见性，了解谁或哪些人工智能工具可以访问数据。每一种机制都使企业能够追踪数据的来源、流动和转换。

技术很重要，但信任至关重要

每当新的人工智能模型或创新出现时，采用率就会飙升。但是，每个人工智能计划都伴随着风险——尽管并不总是来自人们预期的来源。技术挑战通常会阻碍新工具的采用，但这并不是人工智能集成缓慢的主要原因。通常，这归结为数据，特别是对数据的信任以及对隐私的担忧。由于人工智能发展如此迅速，确保访问控制、数据治理、血统和合规性能够跟上这一步伐有时会带来挑战。

治理是信任的重要组成部分，但它还需要有效的评估。尤其是在代理人工智能中，仍然存在一个巨大的评估标准化缺口，但这些评估对于证明系统能够可靠和安全地运行至关重要。

无论您是希望优化内部系统的性能、改善欺诈检测还是为客户提供更流畅的体验，最佳的人工智能代理和人工智能计划都是建立在可信数据、隐私和安全基础上的。