Perplexity выпускает модели Decider V1.3 с извлечением фрагментов текста

Perplexity выпустила Decider v1.3 и Decider Flash v1.3 12 ноября 2026 года, добавив дословное извлечение фрагментов текста и возможность скачивать веса по лицензии Apache-2.0. Компания сообщает, что средняя точность более крупной модели составляет 91,6% по 63 задачам классификации запросов; эталонные ответы для них были независимо размечены передовой большой языковой моделью. Это на 6,54 процентного пункта выше показателя производственных классификаторов компании.

Новая функция Locate возвращает точный совпавший фрагмент текста с указанием начальной и конечной позиций символов. Она предназначена для распознавания именованных сущностей, выявления персональных данных и извлечения ответов на вопросы; если совпадений нет, возвращается пустой список. Обе модели также доступны через OpenRouter и API принятия решений Perplexity.

Вместо генерации текста Decider возвращает вероятности для вопросов с ответом «да» или «нет», пользовательских вариантов выбора либо упорядоченные оценки. Приложение может задать несколько вопросов об одном и том же тексте, JSON или изображениях и использовать полученные числовые значения для классификации, маршрутизации запросов, модерации, фильтрации, оценки результатов и переупорядочивания. Для таких задач часто нужен порог принятия решения, а не генерация текста в свободной форме.

Изменения в архитектуре и обучении

Decider адаптирует генеративные базовые модели: вместо предсказания следующего токена он использует специальную голову принятия решений, результат которой считывается по маркерному токену. Изначально эта голова использует только строки базовой модели, соответствующие токенам вариантов ответа. В версии v1.3 Perplexity сделала слои с полным вниманием двунаправленными и исключила прямое внимание вопросов друг к другу, сохранив при этом возможность для общего состояния входных данных учитывать вопросы. Это заменяет схему v1.2, в которой ответ мог меняться в зависимости от того, какие еще вопросы задавались, и призвано сделать ответы более стабильными.

При обучении сотни общедоступных наборов данных приводятся к общему формату, включающему состояние, вопрос, варианты ответа и целевое значение. При дообучении модели общего назначения не используются обучающие выборки бенчмарков; Perplexity также сообщает, что удаляет примеры, которые могут пересекаться с ее оценочными наборами. На последующих этапах специализации для отдельных областей и работы с изображениями применяется LoRA — метод, при котором предобученные веса остаются неизменными, а обучаются добавленные матрицы низкорангового разложения. Чтобы ограничить отклонение модели, Perplexity объединяет адаптеры с учетом весов, а для текстовых этапов усредняет веса трех запусков.

Затем Flash дистиллируют из более крупной модели, используя дивергенцию Кульбака — Лейблера, чтобы уменьшить расхождение между вероятностями выходных данных Flash и вероятностями модели-учителя, а не обучать ее только на эталонных метках. В карточке модели Decider v1.3 указана базовая модель Qwen3.8-27B и около 49 ГиБ весов в формате BF16; в карточке Decider Flash v1.3 — Qwen3.5-4B и около 8,5 ГиБ. Для самостоятельного размещения любой из моделей требуется графический процессор с поддержкой CUDA и дополнительная оперативная память сверх объема, занимаемого весами, поэтому Flash предъявляет меньшие требования к оборудованию.

Ограничения Locate при обработке запросов

Функция Locate работает только с текстом и обрабатывает не более 128 запросов Locate за один запрос к API. Если запросы Locate объединены с вопросами для принятия решений, для каждого типа требуются отдельные прямые проходы модели, что увеличивает задержку по сравнению с запросами только одного типа.

Perplexity не объединяет адаптеры Locate с основными весами, поскольку такое объединение ухудшило результаты на обычных запросах для принятия решений; адаптеры активируются только для запросов Locate. Такая конструкция сохраняет прежнее поведение при принятии решений, однако смешанные рабочие нагрузки не могут полностью использовать общие вычисления.

Оценка и использование в производственной среде

Внутренний набор Perplexity для оценки включает более 200 задач; модель выполняет их в режиме zero-shot, без дообучения под конкретные задачи. Помимо общедоступных рейтинговых таблиц, компания использует закрытые производственные задачи и отложенные оценочные выборки из общедоступных наборов данных, не относящихся к бенчмаркам, чтобы проверить способность модели обобщать результаты за пределами привычных наборов для оценки.

По результатам 72 задач на поиск компания сообщает, что средний показатель nDCG@10 при переупорядочивании по отдельным оценкам в режиме zero-shot составляет 83,99. При таком подходе каждая пара «запрос — документ» оценивается независимо. Показатель на 1,81 пункта выше, чем у Qwen3-Reranker-8B.

Для производственной проверки Perplexity отобрала миллион дедуплицированных запросов к API, замаскировав персональные данные. Запросы были получены за первые 18 дней доступности API. В выборку вошли 2 318 887 отдельных вопросов; на каждый из них было получено явное согласие пользователя на использование в исследовании. Эталонные ответы предоставили оценщики на основе передовых больших языковых моделей, поскольку для производственных запросов нет эталонных меток.

По данным Perplexity, для версии v1.3 совпадение с оценками этих моделей составило 93,98%, а для v1.2 — 93,68%. Разница невелика, а этот показатель отражает совпадение с ответами, сгенерированными моделями, а не точность относительно эталонных меток.

Для той же выборки запросов Perplexity сообщает о расходах в размере $26.47 для Decider v1.3 и $13.24 для Flash. Decider работала локально; в сравнении не уточняются затраты на локальное оборудование и не приводятся сопоставимые данные о задержке. Поэтому эти цифры описывают расходы для данной рабочей нагрузки, а не универсальное преимущество в стоимости или скорости.

Perplexity также использует Decider в автономном режиме для проверки журналов безопасности агентов и выявления пропущенных проблем и ложных срабатываний. За один из указанных дней модель обработала 1 миллиард токенов в рамках 7 000 сеансов работы агентов и выявила недостатки, на основании которых предложили исправить 14 правил; шесть исправлений одобрили и внедрили в течение двух дней. Повторная обработка журналов за неделю с учетом исправлений сократила объем срабатываний самого загруженного правила на 52%, а расширение правил позволило выявлять примерно на 40% больше допустимых действий, требующих проверки.

Вторая внутренняя система хранит вероятности сбоев обучения с подкреплением и интерпретаций агента, позволяя менять пороговые значения без новых запросов к Decider. Она только наблюдает и ставит диагноз, но никогда не меняет вознаграждения и не останавливает запуски. Decider также фильтрует некачественные страницы, найденные при сканировании, одновременно оценивая целевую аудиторию, домен, наличие вредоносного или незаконного контента и персональных данных.

Perplexity рекомендует калибровать пороговые значения принятия решений на репрезентативных размеченных примерах, поскольку частота меток и цена ложноположительных и ложноотрицательных результатов зависят от конкретного приложения. Полная модель предназначена для тонких оценок, где ошибки обходятся дорого, а Flash — для больших объёмов задач, ограниченных требованиями к задержке и стоимости.

Широкий спектр возможностей Decider сопряжён с трудностями внедрения: те же вероятности, благодаря которым модель можно повторно использовать для разных задач, всё равно требуют пороговых значений, подобранных для конкретного приложения, а дополнительная возможность извлечения данных в Locate увеличивает вычислительную нагрузку при обработке смешанных запросов.