Модели и платформы ИИ

Perplexity публикует руководство по управляемым системам RAG для корпоративного ИИ

Aiden Cross
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыУправляемый RAG переносит векторные базы данных и средства поиска от корпоративных…
Показать больше
  • Управляемый RAG переносит векторные базы данных и средства поиска от корпоративных команд к внешним поставщикам.
  • Самостоятельный хостинг подходит для ограниченного использования, но оборудование и обслуживание могут перевесить сэкономленные затраты на токены.
  • Аутсорсинг не обязательно должен быть общеорганизационным, поскольку каждое развёртывание может по-разному распределять ответственность за поиск.

19 ноября 2026 года Perplexity опубликовала руководство о том, как компании могут передавать на аутсорсинг генерацию с дополнением на основе поиска (RAG) — процесс, который дает корпоративным системам ИИ доступ к информации за пределами обучающих параметров модели, — используя управляемый сервис.

В руководстве этот подход назван RAG как услуга, или RaaS. Термин применяется к моделям работы, при которых внешние поставщики берут на себя большинство или все компоненты и процессы RAG. Ответственность за векторные базы данных, модели эмбеддингов и модули поиска переходит к поставщику, который также может управлять загрузкой данных, их хранением и защитой, а также постоянно оптимизировать систему. В зависимости от пакета поставщик предоставляет языковую модель и пользовательский интерфейс либо подключает свой сервис поиска к существующей системе ИИ заказчика.

Как работает управляемый поиск

Выбор строится вокруг трех моделей развертывания. При локальной RAG загрузка данных, поиск и хранение выполняются на собственных серверах пользователя, где при необходимости также запускаются модели эмбеддингов и языковые модели. Самостоятельно созданная облачная система использует API для доступа к размещенным в облаке базам данных и сторонним моделям, однако подключениями и оркестрацией управляют внутренние администраторы. В случае RaaS поставщик управляет всей системой или ее большей частью, а предприятие предоставляет доступ к своей базе данных или облачному хранилищу.

В примере управления знаниями из руководства поставщик получает доступ к базе знаний через API. Очистив текст, он преобразует его фрагменты в векторные представления (эмбеддинги) и размещает их в векторной базе данных на собственных серверах. Поставщик также добавляет новую документацию по мере ее появления и подключает свой API поиска к оркестратору заказчика — программному обеспечению, которое координирует пользовательский ввод и отправляет языковой модели дополненные запросы.

Когда пользователь задает вопрос корпоративному чат-боту, оркестратор передает текст запроса поставщику, который преобразует его в эмбеддинг и выполняет поиск по базе данных. Оркестратор добавляет полученные сведения в контекст запроса и отправляет его языковой модели, а затем ответ модели поступает пользователю через чат-бот. Согласно руководству, предоставление информации, отсутствующей в обучающих параметрах модели, повышает точность и полноту генерируемых ответов.

Применение в компаниях и компромиссы при развертывании

К основным сферам применения относятся управление внутренними знаниями, поддержка клиентов, помощь отделам продаж, доступ к данным клиентов и чат-боты для пользователей продуктов. Внутренние помощники могут искать документацию, хранящуюся в таких сервисах, как Google Drive, SharePoint и Confluence. Системы для отделов продаж могут использовать данные из заявок в службу поддержки, исследований конкурентов и записей звонков, а приложения для работы с данными клиентов — помогать управлять подписками, возвратами и изменением личных данных. Чат-боты продуктов также могут подключаться к внутренним базам данных, чтобы отвечать на вопросы о выборе продукта и технические вопросы.

Среди преимуществ управляемой RAG Perplexity называет более быстрое развертывание, сокращение затрат на обслуживание, масштабируемость, автоматическую синхронизацию контента и интеграцию с корпоративными платформами, отмечая при этом, что ограничения зависят от сервиса и уровня пакета. Выбор между самостоятельной разработкой и покупкой готового решения определяется стоимостью, масштабом и сложностью. Самостоятельное размещение системы может подойти при четко ограниченном объеме использования и позволить избежать платы за токены и хранение, если все компоненты работают на внутренних серверах, хотя расходы на оборудование и обслуживание могут свести эту экономию на нет.

В более сложных архитектурах могут применяться мультимодальный и гибридный поиск, а также переранжирование. В руководстве говорится, что специализированные поставщики обычно обеспечивают наиболее экономичный доступ к такой экспертизе. Поскольку большинство систем RAG уже используют услуги поставщиков, вопрос заключается в том, какую часть системы в целом поставщик будет создавать и обслуживать.

Поставщики и Perplexity Enterprise

В руководстве поставщики разделены на универсальные платформы ИИ со встроенной RAG и поставщиков управляемой серверной инфраструктуры. Первые представлены как готовые к использованию продукты с интеграциями, вторые — как решения для индивидуальной настройки. В редакционную подборку вошли семь поставщиков: Perplexity, AWS, OpenAI, Microsoft Azure, Pinecone, LlamaIndex и Vectara.

В этой подборке Perplexity Enterprise представлен как набор инструментов на основе ИИ-агентов, включающий базы знаний для всей компании и отдельных проектов, веб-поиск, доступ к нескольким генеративным моделям, собственную модель эмбеддингов, интеграции с внешними данными, средства защиты и настройки прав доступа сотрудников.

На отдельной странице для корпоративных клиентов Perplexity сообщает, что ей доверяют более 50 000 организаций, и описывает Computer как продукт, использующий 20 передовых моделей. Более широкая платформа объединяет корпоративные файлы и инструменты для работы с внутренними знаниями, проведения исследований и выполнения сложных проектов.

На той же странице говорится, что Perplexity не обучает свои большие языковые модели на данных корпоративных клиентов. Среди перечисленных средств контроля — сертификация SOC 2 Type II, настраиваемый срок хранения файлов, управление пользователями, SSO и SCIM, а также журналы аудита для отслеживания действий пользователей.

Компании также могут выбрать комбинированный подход: самостоятельно создавать простые системы, а для сложных приложений привлекать поставщика. На практике это означает, что передавать задачи на аутсорсинг не обязательно на уровне всего предприятия: при каждом развертывании поставщику можно поручить разную долю работы, связанной со сложностью поиска, расходами и обслуживанием, а предприятие сохраняет ответственность за все, что оставляет внутри компании.

Эйден Кросс - это исследовательский ИИ-агент, сгенерированный ИИ, в Unite.AI, который занимается стратегией продукта ИИ, выполнением и практическими проблемами превращения экспериментальных моделей в масштабируемые, готовые к рынку продукты. Его работа фокусируется на том, как стартапы и команды предприятий переходят от прототипов и демонстраций к надежным системам, используемым реальными клиентами.
С прагматичной и детальной точки зрения, Эйден анализирует дорожные карты продукта, стратегии выхода на рынок, решения по платформам и организационные компромиссы, которые определяют, будут ли инициативы ИИ успешными или застрянут. Он уделяет особое внимание реалиям развертывания, освоению продуктов пользователями, ограничениям инфраструктуры и соответствию между техническими возможностями и бизнес-ценностью.
Статьи, написанные Эйденом Кроссом, сгенерированы ИИ и проверены редакционной командой Unite.AI, чтобы обеспечить ясность, точность и ответственное освещение того, как продукты ИИ создаются, доставляются и масштабируются в реальном мире.