3 个考虑因素，用于企业的安全可靠的 AI 代理

根据 Gartner 的说法，30% 的 GenAI 项目可能会在 2025 年底之前在概念验证后被放弃。GenAI 的早期采用表明，大多数企业的数据基础设施和治理实践还没有准备好进行有效的 AI 部署。GenAI 产品化的第一波面临着重大的障碍，许多组织难以超越概念验证阶段以实现有意义的商业价值。

当我们进入 GenAI 产品化的第二波时，公司意识到，成功实施这些技术需要的不仅仅是将 LLM 连接到他们的数据上。解锁 AI 潜力的关键在于三个核心支柱：让数据有序并确保它准备好与 AI 集成；改革数据治理实践以应对 GenAI 带来的独特挑战；以及以安全可靠的方式部署 AI 代理，使用户无需学习专门的技能或精确的使用模式即可自然直观地使用。这些支柱共同为企业环境中的安全有效的 AI 代理创建了坚实的基础。

为 AI 准备数据

虽然 结构化数据 看起来很有条理，组织成表格和列，但 LLMs 通常难以理解和有效地处理结构化数据。这是因为在大多数企业中，数据没有以语义上有意义的方式标记。数据通常具有神秘的标签，例如“ID”，没有明确的指示它是客户、产品还是交易的标识符。对于结构化数据，很难捕捉不同相互连接的数据点之间的适当上下文和关系，例如客户旅程中的步骤如何相互关联。就像我们需要在 计算机视觉 应用中标记每个图像以实现有意义的交互一样，组织现在必须承担复杂的任务，即对其数据进行语义标记并记录所有系统中的关系，以实现有意义的 AI 交互。

另外，数据分散在许多不同的地方，从传统服务器到各种云服务和不同的软件应用程序。这一系统的拼凑导致了关键的互操作性和集成问题，这些问题在实施 AI 解决方案时变得更加严重。

另一个基本挑战在于不同系统和部门中业务定义的不一致。例如，客户成功团队可能以一种方式定义“升级”，而销售团队可能以另一种方式定义。当您将 AI 代理或聊天机器人连接到这些系统并开始提问时，您将得到不同的答案，因为数据定义不一致。这一缺乏一致性并不是一个小问题——它是实施可靠的 AI 解决方案的关键障碍。

数据质量差会产生一个经典的“垃圾进，垃圾出”的场景，这在 AI 工具部署在整个企业时变得更加严重。错误或混乱的数据不仅影响一个分析——它通过用户的提问和交互向所有使用系统的人传播错误信息。为了在 AI 系统中建立对真正的商业决策的信任，企业必须确保其 AI 应用程序具有干净、准确和适当的商业上下文的数据。这代表了组织在 AI 时代对其数据资产的思考方式的根本转变——质量、一致性和语义清晰度与数据本身一样至关重要。

加强治理方法

数据治理近年来一直是组织的主要关注点，主要集中在管理和保护用于分析的数据。公司一直致力于绘制敏感信息，遵守访问标准，遵守 GDPR 和 CCPA 等法律，并检测个人数据。这些举措对于创建 AI 就绪数据至关重要。然而，随着组织将生成性 AI 代理引入其工作流程，治理挑战超出了数据本身，扩展到整个用户与 AI 的交互体验。

我们现在面临着治理不仅数据本身，还要治理用户通过 AI 代理与数据交互的过程的迫切需求。现有的立法，例如 欧盟的 AI 法案，以及即将出台的更多法规强调了治理提问和回答过程本身的必要性。这意味着确保 AI 代理提供透明、可解释和可追溯的响应。当用户收到黑盒答案——例如，询问“昨天有多少流感患者被接纳？”并且只得到“50”而没有任何上下文——很难相信这些信息用于关键决策。没有知道数据来自哪里、如何计算以及“接纳”和“昨天”等术语的定义，AI 的输出就失去了可靠性。

与文档交互不同，用户可以追溯答案到特定的 PDF 或政策以验证准确性，通过 AI 代理与结构化数据交互通常缺乏这种可追溯性和可解释性。为了解决这些问题，组织必须实施治理措施，不仅保护敏感数据，还使 AI 交互体验受到治理和可靠性。包括建立强大的访问控制以确保只有授权人员可以访问特定信息，定义明确的数据所有权和管理责任，并确保 AI 代理为其输出提供解释和参考。通过改革数据治理实践以包括这些考虑因素，企业可以在遵守不断演变的法规和保持用户信任的同时安全地利用 AI 代理的力量。

超越提示工程

随着组织引入生成性 AI 代理以提高数据可访问性，提示工程已经成为业务用户的新技术障碍。虽然被誉为一个有前途的职业道路，但提示工程本质上是重新创造我们在数据分析中一直苦苦挣扎的相同障碍。创建完美的提示与编写专门的 SQL 查询或构建仪表板过滤器没有什么不同——这只是将技术专长从一种格式转移到另一种格式，仍然需要业务用户不具备也不应该具备的专门技能。

企业一直试图通过培训用户更好地理解数据系统、创建文档和开发专门的角色来解决数据可访问性的问题。但这种方法是错误的——我们要求用户适应数据，而不是让数据适应用户。提示工程威胁着继续这种模式，创造出又一层技术中间人。

真正的数据民主化需要理解业务语言的系统，而不是需要理解数据语言的用户。当高管询问客户留存率时，他们不应该需要完美的术语或提示。系统应该理解意图，识别不同标签（无论是“流失”、“留存”还是“客户生命周期”）中的相关数据，并提供上下文答案。这让业务用户能够专注于决策，而不是学习如何提技术上完美的问题。

结论

AI 代理将为企业的运作和决策带来重要的变化，但也带来了必须在部署之前解决的独特挑战。使用 AI 时，每个错误都会被放大，当非技术用户拥有自助服务访问权限时，使得基础工作至关重要。

成功解决数据质量、语义对齐和治理的基本挑战，同时超越提示工程的局限性的组织，将能够安全地民主化数据访问和决策。最佳方法包括创建一个促进团队合作并使人机和机器与机器交互保持一致的协作环境。这保证了 AI 驱动的洞察力是准确、安全和可靠的，促进了一个组织范围内的文化，它管理、保护和最大限度地发挥数据的全部潜力。