将大型语言模型（LLM）应用于现实世界的商业应用

大型语言模型无处不在。每次客户对话或风险投资推介都会涉及关于LLM技术的准备度以及如何驱动未来应用的问题。我在之前的帖子中涵盖了一些关于这一点的模式。在这里，我将讨论一些关于在制药行业中应用大型语言模型的现实世界模式，Persistent Systems曾经处理过这样的应用。

大型语言模型和核心优势

大型语言模型擅长理解语言，这是它们的强项。我们看到的大多数应用模式是增强检索生成（RAG），其中知识从数据源中编译并作为提示提供给LLM以生成响应。在这种情况下，超快的搜索机制，如向量数据库和Elasticsearch-based引擎，作为第一线的搜索。然后将搜索结果编译成提示并作为API调用发送给LLM。
另一个模式是通过将数据模型作为提示和特定的用户查询提供给LLM来生成结构化数据的查询。这种模式可以用于开发高级的“与您的数据交谈”接口，用于SQL数据库，如Snowflake，以及图数据库，如Neo4j。

利用LLM模式获取现实世界的洞察

Persistent Systems最近研究了Blast Motion（一家体育遥测公司，用于棒球、高尔夫等运动的挥杆分析）的模式，我们分析了时间序列数据以获取推荐。

对于更复杂的应用，我们通常需要在LLM请求之间进行处理。对于一家制药公司，我们开发了一个智能试验应用，根据从临床试验文档中提取的标准筛选患者。这里我们使用了LLM链式方法。首先，我们开发了一个LLM来读取试验PDF文档，并使用RAG模式提取纳入和排除标准。

为此，我们使用了一个相对简单的LLM，如GPT-3.5-Turbo（ChatGPT）。然后，我们将这些提取的实体与Snowflake中的患者SQL数据库的数据模型结合起来，创建一个提示。这个提示被输入到一个更强大的LLM，如GPT4中，生成一个可以在Snowflake上运行的SQL查询。由于我们使用LLM链式方法，我们可以为链中的每个步骤使用多个LLM，从而实现成本管理。

目前，我们决定保持这个链式方法是确定性的，以便更好地控制。这意味着，我们决定在链中拥有更多的智能，并保持编排非常简单和可预测。链中的每个元素本身就是一个复杂的应用，需要几个月的开发时间。

实现更高级的用例

对于更高级的用例，我们可以使用类似ReAct的代理来提示LLM创建一步一步的指令以响应特定的用户查询。这当然需要一个高端的LLM，如GPT4或Cohere或Claude 2。然而，这样做存在模型采取错误步骤的风险，这需要使用防护措施来验证。这是一个权衡，需要在可控的链式链接中移动智能或使整个链式方法自主。

如今，我们进入了语言生成AI的时代，行业开始采用LLM应用，具有可预测的链式方法。随着这种采用率的增长，我们很快就会开始尝试这些链式方法的更多自主性，通过代理实现。这就是关于AGI的辩论的内容，我们很感兴趣地想看看这一切如何随着时间的推移而演变。