Моделі та платформи ШІ
Perplexity запускає API Orchestrator із резервним перемиканням між постачальниками для тієї самої моделі

Ключові моментиОркестратор повторює невдалі запити на іншому розгортанні тієї самої моделі, тож запит…
Показати більше
- Оркестратор повторює невдалі запити на іншому розгортанні тієї самої моделі, тож запит Claude може перемикати постачальників без зміни моделі.
- Perplexity повідомляє, що запити Claude і GPT через Оркестратор успішно виконувалися частіше, ніж запити до будь-якого окремого постачальника, якого вона вимірювала.
- Автоматичне маршрутизування моделей є попередньою версією, яка може змінювати можливості та вартість між ходами в межах однієї розмови.
Perplexity запустила Orchestrator 17 листопада 2026 року — API для доступу до власних моделей і моделей із відкритими вагами, розміщених на інфраструктурі компанії для інференсу. API забезпечує консолідоване виставлення рахунків, резервне перемикання між постачальниками для тієї самої моделі та додаткову функцію автоматичної маршрутизації моделей, доступну в режимі попереднього перегляду.
У документації з маршрутизації описано два окремі рішення. Після вибору моделі маршрутизація між постачальниками розподіляє трафік між розгортаннями, спираючись на зафіксовані показники помилок, пропускну здатність і затримку. Клієнти не вибирають розгортання. Помилки постачальника, обмеження частоти запитів і тайм-аути можуть спричинити повторну спробу на іншому розгортанні тієї самої моделі. Тож після збою запит до Claude може перейти від Anthropic до AWS Bedrock, залишаючись запитом до Claude.
Orchestrator приймає запити OpenAI Chat Completions, OpenAI Responses і Anthropic Messages. Розробники можуть і далі користуватися своїм SDK від OpenAI або Anthropic, замінивши ключ на API-ключ Perplexity, базову URL-адресу Orchestrator і повний ідентифікатор моделі з каталогу. У короткому посібнику з початку роботи сервіс описано як систему без збереження стану, призначену для прямого доступу до моделей із власними запитами й інструментами клієнтів. Цим Orchestrator відрізняється від Agent API, який повертає відповіді, обґрунтовані вебджерелами, із вбудованими цитатами.
У каталозі представлені сімейства моделей від Anthropic, OpenAI, Google, xAI, Z.AI, DeepSeek і Moonshot AI. Моделі Google, xAI та моделі з відкритими вагами доступні на всіх рівнях використання. Для виклику моделей OpenAI й Anthropic потрібен рівень 1 або вище, тоді як для моделей Claude Opus 5, Opus 5.5 і Fable потрібен рівень 2 або вище.
Резервне перемикання між постачальниками та вимірювання продуктивності
За даними Perplexity, запити до Claude і GPT, надіслані через Orchestrator із 4 жовтня до 2 листопада 2026 року, успішно виконувалися частіше, ніж запити до будь-якого окремого вимірюваного постачальника, а щоденні коливання під час збоїв у постачальників були меншими. Збоєм вважалося вичерпання всіх доступних розгортань або помилка рівня обслуговування; помилки клієнта, як-от некоректні запити та перевищення клієнтом ліміту частоти запитів, не враховувалися. За ті самі 30 днів Anthropic і AWS Bedrock кожен мали найвищу швидкість генерування вихідних токенів Claude Opus 5.5 протягом 15 днів, а медіанна швидкість генерування вихідних токенів GPT-5.6 Sol в Azure була на 27% вищою, ніж в OpenAI. Адаптивна маршрутизація, що враховує ці відмінності у швидкості, усе ще перебуває в розробці.
Резервне перемикання має обмеження. Некоректні запити й запити, що перевищують контекстне вікно моделі, повертають HTTP 400 без повторної спроби на іншому розгортанні. Якщо вичерпано всі розгортання, повертається HTTP 429 із заголовком Retry-After, а запити, що завершилися помилкою до появи результату, не тарифікуються. Якщо потік переривається після початку виведення результату, клієнт оплачує вже передані токени.
Маршрутизація в режимі попереднього перегляду та оплата за використання
Автоматична маршрутизація моделей визначає, яку модель використовувати, а не яке розгортання вибрати. Якщо для параметра моделі встановити значення perplexity/auto викликається модель ухвалення рішень, яка аналізує текст розмови й описи маршрутів звичайною мовою, але не бачить назв маршрутів чи ідентифікаторів моделей. У власному об’єкті маршрутизації можна визначити модель за замовчуванням і від одного до п’яти маршрутів для завдань. Модель за замовчуванням використовується, якщо жоден маршрут не підходить, якщо модель ухвалення рішень дає збій або час очікування вичерпано, а також якщо розмова містить зображення, аудіо, відео чи файли.
Маршрутизація виконується окремо для кожного запиту, тож різні ходи однієї розмови можуть оброблятися різними моделями залежно від завдання. Кожен запит має містити повну розмову, а кожна модель має окремий кеш запитів. Стабільні ідентифікатори сеансів або ключі кешу запитів можуть допомогти спрямовувати пов’язані запити до одного розгортання, але така прив’язка не гарантується і не фіксує вибір моделі для наступних ходів. У заголовках відповіді зазначено результат маршрутизації та, за наявності, вибраний маршрут; поле model у відповіді вказує на модель, яка фактично надала відповідь.
Оплата нараховується за моделлю, яка надала відповідь, за опублікованим тарифом за токен незалежно від того, яке розгортання її обслуговувало. Використання оплачується з тих самих передплачених коштів, що й решта проєкту Perplexity API. У каталозі зазначено, що модель GLM-5.3 Flash рівня 0 коштує $0.15 за мільйон вхідних токенів і $0.50 за мільйон вихідних токенів, а читання з кешу — $0.03 за мільйон токенів. Токени міркувань тарифікуються за відповідною ставкою для вихідних токенів.
Найчіткіша перевага Orchestrator у плані надійності — стійкість до збоїв без зміни вибраної моделі чи тарифу за токен. Ширші можливості автоматизації мають певні застереження: маршрутизація моделей доступна в режимі попереднього перегляду й може змінювати можливості та вартість між ходами розмови, тоді як адаптивний вибір постачальника з урахуванням швидкості ще перебуває в розробці.












