2025年，GenAI Copilot将成为变革业务和数据管理的杀手级应用

每一次技术革命都有一个决定性时刻，当时特定的用例将技术推向广泛采用。对于生成性人工智能（GenAI）来说，这个时刻已经到来，Copilot的快速传播已经成为一个重要的里程碑。

GenAI作为一种技术，在过去的几年中已经取得了显著的进步。然而，尽管有很多头条新闻和炒作，公司对其的采用仍然处于早期阶段。2024年Gartner CIO和技术高管调查报告显示，采用率仅为9%，34%的受访者表示计划在未来一年内采用。最近由Enterprise Strategy Group进行的一项调查显示，GenAI的采用率为30%。但是，所有调查都得出相同的结论：2025年将是GenAI采用率大幅增加的一年。

预测1：2025年末，多数企业将在生产环境中使用GenAI

GenAI的采用被视为提高生产力和盈利能力的关键因素，已经成为大多数企业的首要任务。然而，这意味着企业必须克服迄今为止在GenAI项目中遇到的挑战，包括：

• 数据质量差：GenAI的效果取决于其使用的数据质量，许多企业仍然不信任自己的数据。数据质量、不完整或偏见的数据都导致了糟糕的结果。
• GenAI成本：训练GenAI模型，如ChatGPT，主要由最好的GenAI团队完成，需要数百万美元的计算资源。因此，人们使用了一种叫做检索增强生成（RAG）的技术。但是，即使使用RAG，访问和准备数据以及组建所需的专家团队也会迅速变得昂贵。
• 技能有限：早期的GenAI部署需要大量的编码工作，由少数GenAI专家完成。虽然这一群体正在增长，但仍然存在真正的短缺。
• 幻觉：GenAI并不完美。它可能会产生幻觉，并在认为自己是正确的时候提供错误的答案。您需要制定策略来防止错误答案影响您的业务。
• 数据安全：GenAI已经将数据暴露给了错误的人，因为它被用于训练、微调或RAG。您需要实施安全措施来防止这些泄露。

幸运的是，软件行业已经在过去几年中解决了这些挑战。2025年看起来像是一个解决这些挑战的年份，GenAI将成为主流。

预测2：模块化RAG Copilot将成为GenAI最常见的用途

GenAI最常见的用途是创建助手或Copilot，帮助人们更快地找到信息。Copilot通常使用RAG管道构建。RAG是实现这一目标的方式。由于大型语言模型（LLM）不是专用模型，不能包含所有或最新的数据，因此需要增强查询（也称为提示）以获得更准确的答案。

Copilot帮助知识工作者提高生产力，回答以前无法回答的问题，并提供专家指导，同时执行例行任务。迄今为止，最成功的Copilot用例是帮助软件开发人员编码或现代化遗留代码。

但是，Copilot预计将在IT以外的领域产生更大的影响。例如：

• 在客户服务中，Copilot可以接收支持查询，并在简单查询（如密码重置或帐户访问）中提供解决方案或将复杂问题升级到人工干预，从而提高客户满意度评分。
• 在制造业中，Copilot可以帮助技术人员诊断和推荐特定操作或复杂机械的维修，从而减少停机时间。
• 在医疗保健中，临床医生可以使用Copilot访问患者历史和相关研究，并帮助指导诊断和临床护理，从而提高效率和临床结果。

RAG管道大多遵循相同的工作原理。第一步是将知识库加载到向量数据库中。每当有人提出问题时，GenAI RAG管道就会被调用。它将问题重新设计为提示，查询向量数据库以找到最相关的信息，调用LLM使用检索到的信息作为上下文，评估和格式化结果，并将其显示给用户。

但是，事实证明，使用单个RAG管道无法很好地支持所有Copilot。因此，RAG已经演变成一种更模块化的架构，称为模块化RAG，您可以为管道中的每个步骤使用不同的模块：

• 索引，包括数据分块和组织
• 预检索，包括查询（提示）工程和优化
• 检索，包括检索器微调和其他技术
• 后检索重新排名和选择
• 生成，包括生成器微调，使用和比较多个LLM，以及验证
• 编排，管理此过程，并使其迭代以获得最佳结果

您需要实施模块化RAG架构来支持多个Copilot。

预测3：无代码/低代码GenAI工具将成为主流

到目前为止，您可能已经意识到GenAI RAG非常复杂，正在迅速变化。它不仅仅是新的最佳实践不断涌现。所有参与GenAI管道的技术都在如此快速地变化，以至于您最终需要更换其中一些或支持多个。另外，GenAI不仅仅是关于模块化RAG。检索增强微调（RAFT）和完整模型训练也变得具有成本效益。您的架构需要支持所有这些变化，并将复杂性隐藏在您的工程师面前。

幸运的是，最佳的GenAI无代码/低代码工具提供了这种架构。它们不断添加对领先数据源、向量数据库和LLM的支持，并使构建模块化RAG或将数据馈送到LLM进行微调或训练变得可能。公司正在使用这些工具成功地使用内部资源部署Copilot。

Nexla不仅仅使用GenAI来简化集成。它包括一个模块化RAG管道架构，具有高级数据分块、查询工程、重新排名和选择、多LLM支持、结果排名和选择、编排等功能——所有这些都可以在不编码的情况下配置。

预测4：Copilot和Agent之间的界限将变得模糊

GenAI Copilot，如聊天机器人，是支持人类的Agent。最终，人们会决定如何处理生成的结果。但是，GenAI Agent可以在不需要人类干预的情况下完全自动化响应。这些通常被称为Agent或具有代理能力的AI。

有些人认为这两种方法是分开的。但是，现实更为复杂。Copilot已经开始自动化一些基本任务，允许用户确认操作并自动化完成它们所需的步骤。

预计Copilot将随着时间的推移演变成Copilot和Agent的组合。就像应用程序可以重构和简化业务流程一样，助手也可以被用来自动化它们支持的任务的中间步骤。基于GenAI的Agent也应该包括人来处理异常或批准使用LLM生成的计划。

预测5：GenAI将推动数据织物、数据产品和开放数据标准的采用

GenAI预计将在未来几年内成为IT领域变化的最大驱动力，因为IT需要适应以使公司能够充分利用GenAI的优势。

作为Gartner 2024年数据管理炒作周期的一部分，Gartner已经确定了3项，并且只有3项技术是数据管理和依赖数据的组织的变革性技术：数据织物、数据产品和开放表格格式。所有这些都有助于使数据更容易被GenAI工具使用，因为它们使数据更容易被这些新一代GenAI工具使用。

Nexla已经实施了一个基于数据织物的数据产品架构。数据织物提供了一个统一的层来管理所有数据，尽管它们的格式、速度或访问协议不同。然后，数据产品被创建以支持特定的数据需求，例如RAG。

例如，一家大型金融服务公司正在实施GenAI来增强风险管理。他们使用Nexla创建了一个统一的数据织物。Nexla自动检测模式，然后生成连接器和数据产品。公司然后定义数据产品以支持特定的风险指标，聚合、清理和转换数据以输入RAG代理进行动态监管报告。Nexla提供数据管理控制，包括数据血统和访问控制，以确保监管合规性。我们的分析、运营、B2B和GenAI集成平台是基于数据织物架构构建的，GenAI用于创建可重用的连接器、数据产品和工作流。支持开放数据标准，如Apache Iceberg，使得访问更多数据变得更容易。

如何使用Copilot实现代理AI

那么，根据这些预测，您应该如何为公司的GenAI主流采用做好准备？
首先，如果您尚未开始，请为客户或员工创建第一个GenAI RAG助手。找出一个重要且相对简单的用例，您已经拥有成功所需的知识库。

第二，确保您有一小队GenAI专家，他们可以帮助建立正确的模块化RAG架构，并使用正确的集成工具来支持您的第一个项目。不要害怕评估具有无代码/低代码工具的新供应商。

第三，开始识别您需要成功所需的数据管理最佳实践。这不仅涉及数据织物和数据产品的概念，还需要为AI治理数据。

现在就是时候了。2025年将是大多数企业成功采用GenAI的年份。不要落后。