Connect with us

思想领袖

智能企业:使生成式 AI 成为企业级

mm

让我们从这里开始:是的,机会对于生成式 AI(GenAI)来说是巨大的。是的,它正在以大多数人预测的更快的速度改变着世界。是的,技术正在变得更智能。然而,GenAI对企业和商业的影响,尤其是其生成文本、图像和叙事的能力,与其对公众的影响是非常不同的——毕竟,大多数企业不写诗或故事(这是ChatGPT用户中很受欢迎的功能),它们服务于客户。

许多公司都有自然语言处理(NLP)和低级别聊天机器人的经验,但GenAI正在加速数据如何被集成、解释和转化为业务成果。因此,它们需要快速确定哪些GenAI用例将解决他们最紧迫的业务挑战并驱动增长。为了了解企业如何使用其数据使GenAI成为企业级别的,我们需要回顾我们如何走到这一步。

从NLP到大型语言模型(LLM)的旅程

技术几十年来一直试图理解自然语言。虽然人类语言本身是人类表达的一种进化形式,但人类已经发展出了这么多种方言——从符号和声音到音节、语音和语言——这使得技术依赖于更简单的数字通信方法,直到最近。

我几乎十年前开始从事NLP程序的工作。当时,所有的工作都集中在语言分类和本体论、实体提取以及一种原始的图数据库(主要使用XML)上,以尝试维护各种实体之间的复杂关系,理解搜索查询,生成词云并提供结果。那里没有任何数学方面的内容。那里有大量的人在循环中来构建分类数据库,很多XML解析,以及最重要的是,很多计算和内存在起作用。可以说,一些程序是成功的,很多程序是不成功的。机器学习接下来出现了,采用多种深度学习和神经网络方法,推进了自然语言理解(NLU)和自然语言推理(NLI)。然而,有三个限制因素——处理复杂模型的计算能力、能够教机器的数据量,以及主要的是一种可以自我学习和自我纠正的模型,通过形成短语之间的时间关系。

快进二十年后,GPU提供了巨大的计算能力,自我教学和演化的神经网络已经成为常态,监督/无监督/半监督学习模型都存在,并且最重要的是,拥有大量多语言数据,包括各种社交媒体平台,这些模型可以在其上进行训练。结果是人工智能引擎可以以自然语言与你对话,理解你查询背后的情感和意义,听起来像人类,并像人类一样回应。

我们所有人,通过我们的社交媒体存在,已经无意中成为这些引擎的“人在循环”中。我们现在有引擎声称自己是在数万亿个参数上训练的,能够接受数百和数千个输入参数,这些参数是多模态的,并以我们的语言回应我们。不管是GPT4/5、PaLM2、Llama还是其他已经发布的LLM,它们都作为更上下文化的垂直问题解决器出现。

参与系统和记录系统

虽然从NLP到LLM的旅程由于硅谷的进步、数据模型和我们所有人产生的巨大训练数据而非常棒,但企业——零售提供商、制造商、银行等——每个都需要对这项技术有非常不同的应用。首先,企业不能承担AI幻觉——它们需要0%幻觉和100%准确率,用于与AI交互的用户。有很多查询需要绝对准确性,才能对业务有任何用处——例如,《你酒店里有多少房间?你有头等舱票可用吗?》

为了对抗AI幻觉,进入了系统参与和系统记录的时代。系统参与,无论是与客户、供应商还是员工,可以利用基于GenAI的对话平台,在针对业务特定提示进行训练后直接使用——这是“更容易”的部分。挑战是将系统记录嵌入到价值链中。 很多企业仍然停留在静态表格和实体世界,并且会在组织或公司层面上保持静态,而事件和工作流程使它们在事务层面上动态。

这就是我们讨论下一代对话平台的地方,不仅要解决对话、界面和查询,还要将客户旅程带到完成。有不同的架构方法来构建这样的对话平台。一个直接的选择是使用混合中间件,作为一种整合器,在矢量化和标记的企业数据与LLM驱动的对话提示之间起作用,并为消费者提供0%幻觉的结果。

企业需要大量的数据准备工作,使其对LLM引擎来说是可理解的。我们称之为传统的表格和实体驱动的数据模型的“扁平化”。图数据库,它们以关系数据库无法表示的方式表示和存储数据,在这段旅程中找到了新的目的。目标是将企业数据库转换为更容易被LLM引擎理解的图数据库,通过定义上下文和意义的关系,使其更容易学习并因此对来自最终客户的提示做出响应,通过对话和实时查询的结合。这项使企业数据为LLM做好准备的任务是提供从系统参与到系统记录的端到端体验,并将用户体验带到完成的关键。

接下来是什么

在这一点上,拥有这些数据和AI的进步,最直接的影响出现在软件代码生成领域——如微软Copilot、亚马逊CodeWhisperer和其他开发者工具的崛起所示。这些工具正在启动遗留的现代化计划,很多这样的计划由于时间和成本问题而停滞不前。有了GenAI驱动的代码生成工具,我们看到现代化项目的时间表加速了20-40%。在绿地代码开发项目中,这些工具将使开发者能够将时间和生产力节省转向设计思维和更具创新性的项目。

除了软件代码开发,GenAI工具正在带来新的垂直用例和场景,旨在解决企业最紧迫的挑战,我们才刚刚开始触及利用这一趋势的全部潜力。尽管如此,我们已经通过利用GenAI解决了零售和物流领域的几个问题和疑问:

我在仓库中有多少库存,我应该何时触发补货?提前备货是否盈利?我的着陆价格是否正确,还是会升高?我可以捆绑哪些商品或提供什么样的个性化服务来提高我的利润?

回答这些问题需要对话式前端、后端数据驱动的查询和领域重的机器学习模型的组合,提供预测和未来指导。因此,我的建议是,无论您是AI探索者还是生成式AI破坏者,请与拥有证明的AI专业知识和强大的数据和分析能力的服务提供商合作,这将使您能够利用适合您业务需求的GenAI模型,并帮助您保持领先地位。

Padmanabhan (Paddy) 是一位云原生平台和产品工程领导者,专注于数据驱动的平台、微服务和云原生工程,以及现代化的遗留技术和产品。他是 Persistent Systems 的高级副总裁和总经理,领导着全球消费技术垂直领域,他的团队为零售、消费品、旅行和物流领域的客户提供数字产品工程。