企业采用安全可靠的AI代理的3个考虑因素

根据Gartner的预测，30%的GenAI项目很可能会在2025年底之后的概念验证阶段被放弃。GenAI的早期采用显示，绝大多数企业的数据基础设施和治理实践还没有准备好有效地部署AI。GenAI产品化的第一波面临着重大的障碍，许多组织难以超越概念验证阶段，实现有意义的商业价值。

当我们进入GenAI产品化的第二波时，公司意识到成功实施这些技术需要的不仅仅是将LLM连接到他们的数据上。解锁AI的潜力在于三个核心支柱：让数据有序，确保它准备好与AI集成；改革数据治理实践，以应对GenAI带来的独特挑战；以及以安全可靠的方式部署AI代理，使用户无需学习专门的技能或精确的使用模式即可自然直观地使用。这些支柱共同构成了企业环境中安全有效的AI代理的坚实基础。

为AI准备好您的数据

虽然结构化数据看起来似乎很有序，LLM却经常难以有效地理解和处理这种结构化数据。这是因为在大多数企业中，数据没有以语义上有意义的方式标记。数据通常有神秘的标签，例如“ID”，没有明确的指示它是客户、产品还是交易的标识符。对于结构化数据，很难捕捉数据点之间的适当上下文和关系，例如客户旅程中的步骤如何相互关联。就像我们需要为计算机视觉应用程序标记每个图像以实现有意义的交互一样，组织现在必须承担复杂的任务，即在所有系统中对数据进行语义标记和记录关系，以实现有意义的AI交互。

另外，数据分散在许多不同的地方——从传统服务器到各种云服务和不同的软件应用程序。这种系统的拼凑导致了关键的互操作性和集成问题，这些问题在实施AI解决方案时变得更加严重。

另一个基本挑战在于不同系统和部门中业务定义的不一致。例如，客户成功团队可能以一种方式定义“升级”，而销售团队可能以另一种方式定义。 当你连接AI代理或聊天机器人到这些系统并开始提问时，你会得到不同的答案，因为数据定义不一致。这种不一致不是一个小小的不便——它是实施可靠的AI解决方案的关键障碍。

数据质量不佳会产生一个典型的“垃圾进，垃圾出”的场景，这种情况在部署AI工具时变得更加严重。错误或混乱的数据不仅影响一个分析——它通过用户的提问和交互将不正确的信息传播给使用系统的每个人。为了在AI系统中建立信任以进行真正的商业决策，企业必须确保其AI应用程序具有干净、准确和适当的商业上下文的数据。这代表了组织在AI时代对数据资产的思考方式的根本转变——质量、一致性和语义清晰度变得和数据本身一样重要。

加强治理方法

数据治理在过去几年中一直是组织的主要关注点，主要集中在管理和保护用于分析的数据。公司一直在努力绘制敏感信息，遵守访问标准，遵守GDPR和CCPA等法律，并检测个人数据。这些举措对于创建AI就绪数据至关重要。然而，当组织将生成式AI代理引入工作流时，治理挑战不仅仅局限于数据本身，还包括与AI交互的整个用户体验。

我们现在面临着治理不仅仅是底层数据，还包括用户通过AI代理与数据交互的过程的迫切需要。现有的立法，例如欧盟的AI法案，以及即将出台的更多法规，强调了治理问题回答过程本身的必要性。这意味着确保AI代理提供透明、可解释和可追溯的响应。当用户收到黑盒答案——例如，询问“昨天有多少流感患者被接纳？”并且只得到“50”而没有任何上下文——很难相信这种信息用于关键决策。没有知道数据来自哪里、如何计算以及“接纳”和“昨天”等术语的定义，AI的输出就失去了可靠性。

与文档交互不同，用户可以追溯答案到特定的PDF或政策以验证准确性，通过AI代理与结构化数据交互通常缺乏这种可追溯性和可解释性。为了解决这些问题，组织必须实施治理措施，不仅保护敏感数据，还使AI交互体验受到治理和可靠的保障。这包括建立健全的访问控制，以确保只有授权人员才能访问特定信息，明确数据所有权和管理责任，并确保AI代理为其输出提供解释和参考。通过改革数据治理实践以包括这些考虑因素，企业可以在遵守不断演变的法规和保持用户信任的同时，安全地利用AI代理的力量。

超越提示工程

随着组织引入生成式AI代理以提高数据可访问性，提示工程已经成为业务用户面临的新的技术障碍。虽然被誉为一个有前途的职业路径，提示工程本质上是重新创造我们在数据分析中一直面临的相同的障碍。创建完美的提示与编写专门的SQL查询或构建仪表板过滤器没有区别——这只是将技术专长从一种格式转移到另一种格式，仍然需要业务用户不具备也不应该具备的专门技能。

企业长期以来一直试图通过培训用户更好地理解数据系统、创建文档和开发专门的角色来解决数据可访问性的问题。但这种方法是倒退的——我们要求用户适应数据，而不是让数据适应用户。提示工程威胁着继续这种模式，创造出又一层技术中间人。

真正的数据民主化需要理解业务语言的系统，而不是要求用户理解数据语言。当高管询问客户留存率时，他们不应该需要完美的术语或提示。系统应该理解意图，识别不同标签下的相关数据（无论是“流失”、“留存”还是“客户生命周期”），并提供上下文答案。这使得业务用户可以专注于决策，而不是学习如何提问技术上完美的问题。

结论

AI代理将为企业的运营和决策带来重要的变化，但在部署之前必须解决它们带来的独特挑战。使用AI，每个错误都会被放大，特别是当非技术用户有自助服务访问权限时，因此，建立正确的基础至关重要。

成功解决数据质量、语义对齐和治理的基本挑战，同时超越提示工程的局限性的组织，将能够安全地民主化数据访问和决策。最佳方法是创建一个协作环境，促进团队合作，并使人机交互和机器间交互保持一致。这种方法保证了AI驱动的洞察是准确、安全和可靠的，促进了全组织范围内的文化，管理、保护和最大化数据的全部潜力。