薩凱特·索拉巴(Saket Saurabh)是Nexla的CEO和联合创始人,他是一位具有深厚数据和基础设施热情的企业家。他正在领导开发下一代自动数据工程平台,以为数据工作者带来规模和速度。
每一次技术革命都有一个决定性时刻,当时特定的用例将技术推向广泛采用。对于生成性人工智能(GenAI)来说,这个时刻已经到来,Copilot的快速传播已经成为一个重要的里程碑。 GenAI作为一种技术,在过去的几年中已经取得了显著的进步。然而,尽管有很多头条新闻和炒作,公司对其的采用仍然处于早期阶段。2024年Gartner CIO和技术高管调查报告显示,采用率仅为9%,34%的受访者表示计划在未来一年内采用。最近由Enterprise Strategy Group进行的一项调查显示,GenAI的采用率为30%。但是,所有调查都得出相同的结论:2025年将是GenAI采用率大幅增加的一年。 预测1:2025年末,多数企业将在生产环境中使用GenAI GenAI的采用被视为提高生产力和盈利能力的关键因素,已经成为大多数企业的首要任务。然而,这意味着企业必须克服迄今为止在GenAI项目中遇到的挑战,包括: 数据质量差:GenAI的效果取决于其使用的数据质量,许多企业仍然不信任自己的数据。数据质量、不完整或偏见的数据都导致了糟糕的结果。 GenAI成本:训练GenAI模型,如ChatGPT,主要由最好的GenAI团队完成,需要数百万美元的计算资源。因此,人们使用了一种叫做检索增强生成(RAG)的技术。但是,即使使用RAG,访问和准备数据以及组建所需的专家团队也会迅速变得昂贵。 技能有限:早期的GenAI部署需要大量的编码工作,由少数GenAI专家完成。虽然这一群体正在增长,但仍然存在真正的短缺。 幻觉:GenAI并不完美。它可能会产生幻觉,并在认为自己是正确的时候提供错误的答案。您需要制定策略来防止错误答案影响您的业务。 数据安全:GenAI已经将数据暴露给了错误的人,因为它被用于训练、微调或RAG。您需要实施安全措施来防止这些泄露。 幸运的是,软件行业已经在过去几年中解决了这些挑战。2025年看起来像是一个解决这些挑战的年份,GenAI将成为主流。 预测2:模块化RAG Copilot将成为GenAI最常见的用途 GenAI最常见的用途是创建助手或Copilot,帮助人们更快地找到信息。Copilot通常使用RAG管道构建。RAG是实现这一目标的方式。由于大型语言模型(LLM)不是专用模型,不能包含所有或最新的数据,因此需要增强查询(也称为提示)以获得更准确的答案。 Copilot帮助知识工作者提高生产力,回答以前无法回答的问题,并提供专家指导,同时执行例行任务。迄今为止,最成功的Copilot用例是帮助软件开发人员编码或现代化遗留代码。 但是,Copilot预计将在IT以外的领域产生更大的影响。例如: 在客户服务中,Copilot可以接收支持查询,并在简单查询(如密码重置或帐户访问)中提供解决方案或将复杂问题升级到人工干预,从而提高客户满意度评分。 在制造业中,Copilot可以帮助技术人员诊断和推荐特定操作或复杂机械的维修,从而减少停机时间。 在医疗保健中,临床医生可以使用Copilot访问患者历史和相关研究,并帮助指导诊断和临床护理,从而提高效率和临床结果。 RAG管道大多遵循相同的工作原理。第一步是将知识库加载到向量数据库中。每当有人提出问题时,GenAI RAG管道就会被调用。它将问题重新设计为提示,查询向量数据库以找到最相关的信息,调用LLM使用检索到的信息作为上下文,评估和格式化结果,并将其显示给用户。 但是,事实证明,使用单个RAG管道无法很好地支持所有Copilot。因此,RAG已经演变成一种更模块化的架构,称为模块化RAG,您可以为管道中的每个步骤使用不同的模块: 索引,包括数据分块和组织 预检索,包括查询(提示)工程和优化...