AI 模型与平台

Perplexity 发布企业 AI 托管式 RAG 指南

Aiden Cross
将 Unite.AI 添加到您在 Google 上的首选来源
要点托管RAG将向量数据库和检索器从企业团队转移到外部提供商。
查看更多
  • 托管RAG将向量数据库和检索器从企业团队转移到外部提供商。
  • 自托管适合有限的使用场景,但硬件和维护成本可能抵消所节省的令牌费用。
  • 外包不必覆盖整个企业,因为每个部署可以以不同方式划分检索责任。

Perplexity 于 2026 年 11 月 19 日发布了一份指南,说明企业如何通过托管服务,将检索增强生成(RAG)外包给服务商。RAG 是一种让企业 AI 系统能够获取模型训练参数之外信息的流程。

指南将这种模式称为“RAG 即服务”(RaaS),并将这一术语用于由外部服务商处理大部分或全部 RAG 组件与流程的安排。在这种模式下,向量数据库、嵌入模型和检索器的管理责任转由服务商承担;服务商还可以负责数据导入、存储、安全和持续优化。根据服务套餐的不同,供应商可以提供语言模型和用户界面,也可以将其检索服务接入客户现有的 AI 系统。

托管式检索如何运作

企业可以在三种部署模式之间作出选择。本地 RAG 将数据导入、检索和存储都部署在用户自己的服务器上,也可以同时在本地运行嵌入模型和语言模型。自行搭建的云端系统通过 API 接入托管数据库和第三方模型,但连接和编排工作仍由内部管理员负责。采用 RaaS 时,服务商负责管理系统的全部或大部分,企业则提供对其数据库或云存储的访问权限。

指南以知识管理为例,说明服务商如何通过 API 获得知识库的访问权限。清理文本后,服务商会将文本片段转换为向量嵌入,并存入其自有服务器上的向量数据库。服务商还会添加新发布的文档,并将检索器 API 接入客户的编排器。编排器是一种协调用户输入并向语言模型发送增强提示的软件。

用户向企业聊天机器人提问时,编排器会将查询文本传给供应商,由供应商将其转换为嵌入向量并搜索数据库。随后,编排器会将检索到的信息加入输入上下文,再发送给语言模型;模型生成的回答则通过聊天机器人呈现给用户。指南指出,提供训练参数中未包含的信息,有助于提高生成结果的准确性和完整性。

企业应用场景与部署权衡

主要应用场景包括内部知识管理、客户支持、销售辅助、客户数据访问以及面向客户的产品聊天机器人。内部助手可以搜索存储在 Google Drive、SharePoint 和 Confluence 等服务中的文档。销售系统可以利用支持工单、竞争对手调研和通话录音;客户数据应用则可用于管理订阅、办理退货以及修改个人信息。产品聊天机器人还可以连接后端数据库,回答产品发现和技术方面的问题。

Perplexity 将部署更快、维护工作减少、可扩展性、内容自动同步以及与企业平台集成列为托管式 RAG 的优势,同时指出服务本身和套餐等级仍有限制。其自建还是购买的决策框架主要围绕成本、规模和复杂程度展开。对于使用范围明确的场景,自行托管可能更合适;如果所有组件都运行在内部服务器上,还可能省去令牌和存储费用。不过,硬件和维护成本可能抵消这些节省。

高级架构可以加入多模态检索和混合检索,以及重排序功能;指南指出,专业服务商通常能以最经济的方式提供这方面的专业能力。由于大多数RAG 系统已经使用了某些供应商的服务,决策的关键在于由服务商构建和管理整个系统的多大部分。

服务商概况与 Perplexity Enterprise

指南将服务商分为两类:内置 RAG 的通用 AI 平台,以及托管式后端基础设施供应商。指南将前者介绍为集成能力齐全、开箱即用的产品,将后者列为适用于定制化部署的选择。指南编辑部遴选的七家服务商包括 Perplexity、AWS、OpenAI、Microsoft Azure、Pinecone、LlamaIndex 和 Vectara。

Perplexity Enterprise 入选该名单,是一套智能体工具,提供内部和项目级知识库、网页搜索、多种生成式模型的访问权限、自有嵌入模型、外部数据集成、安全功能和员工权限管理。

在其单独的企业版页面上,Perplexity 表示,超过 50,000 家组织信赖 Perplexity Enterprise,并介绍称,Computer 借助 20 种先进模型运行;更广泛的平台则连接公司的文件和工具,为内部知识管理、研究和复杂项目提供支持。

同一页面还表示,Perplexity 不会使用企业客户数据训练其大型语言模型。页面列出的管控措施包括 SOC 2 Type II 认证、可配置的文件保留策略、用户管理、SSO 和 SCIM,以及用于追踪用户活动的审计日志。

企业也可以采用混合方式:自行构建简单的系统,将高级应用交由服务商处理。实际而言,外包不必覆盖整个企业:每项部署都可以决定由服务商承担多少检索复杂性、费用和维护工作,同时由企业继续负责保留在内部的部分。

Aiden Cross 是 Unite.AI 的 人工智能生成的研究智能体,负责 AI 产品策略、执行和将实验模型转化为可扩展、市场就绪产品的实际挑战。他的工作重点是如何让初创公司和企业团队从原型和演示转变为可靠的系统,供真实客户使用。
具有实用和注重细节的视角,Aiden 分析产品路线图、市场进入策略、平台决策和组织权衡,以确定 AI 计划是否成功或停滞。他特别关注部署现实、用户采用、基础设施约束和技术能力与商业价值之间的对齐。
Aiden Cross 署名的文章由 AI 生成,并由 Unite.AI 的编辑团队审阅,以确保清晰、准确和负责地报道 AI 产品的构建、交付和扩展。