Perplexity випустила моделі Decider V1.3 із функцією вилучення текстових фрагментів

Perplexity випустила Decider v1.3 і Decider Flash v1.3 12 листопада 2026 року, додавши вилучення дослівних фрагментів тексту та можливість завантажити ваги за ліцензією Apache-2.0. За даними компанії, середня точність більшої моделі становить 91.6% у 63 завданнях класифікації запитів із еталонними відповідями, незалежно перевіреними передовою великою мовною моделлю (LLM); це на 6.54 відсоткового пункта вище, ніж у виробничих класифікаторів компанії.

Нова функція Locate повертає точні збіги тексту із зазначенням початкової та кінцевої позицій символів для розпізнавання іменованих сутностей, виявлення особистої інформації та екстрактивної відповіді на запитання; якщо збігів немає, повертається порожній список. Обидві моделі також доступні через OpenRouter і API рішень Perplexity.

Decider повертає ймовірності для запитань із відповіддю «так» або «ні», користувацьких варіантів відповіді чи впорядкованих оцінок, а не генерує прозу. Застосунок може поставити кілька запитань щодо того самого тексту, JSON або зображень і використати отримані числа для класифікації, маршрутизації запитів, модерації, фільтрування, оцінювання результатів і повторного ранжування. Для таких завдань часто потрібен поріг ухвалення рішення, а не генерація довільного тексту.

Зміни в архітектурі та навчанні

Decider адаптує генеративні базові моделі, замінюючи передбачення наступного токена вихідним блоком ухвалення рішень, який зчитується в маркерному токені. Цей блок починає роботу лише з рядків базової моделі, пов’язаних із токенами варіантів відповіді. У версії v1.3 Perplexity робить шари повної уваги двоспрямованими та ізолює запитання одне від одного, щоб вони не спрямовували увагу безпосередньо одне на одного, водночас даючи спільному вхідному стану змогу враховувати запитання. Це замінює схему v1.2, за якої відповідь могла змінюватися залежно від інших поставлених запитань, і має зробити відповіді стабільнішими.

Під час навчання сотні загальнодоступних наборів даних перетворюють на спільний формат зі станом, запитанням, варіантами та цільовим значенням. Під час загального донавчання не використовують навчальні частини бенчмарків; за словами Perplexity, компанія також вилучає приклади, які могли б перетинатися з її оцінюваннями. Для подальшої спеціалізації в певних предметних галузях і для роботи із зображеннями використовують LoRA — метод, який фіксує попередньо навчені ваги, навчаючи додані матриці низькорангового розкладу. Щоб контролювати відхилення, Perplexity зважено об’єднує адаптери, а для текстових етапів усереднює ваги трьох запусків.

Згодом Flash дистилюють із більшої моделі, використовуючи дивергенцію Кульбака—Лейблера (KL), щоб зменшити різницю між її вихідними ймовірностями та ймовірностями моделі-вчителя, а не навчати її лише на еталонних мітках. У картці моделі Decider v1.3 зазначено базову модель Qwen3.8-27B і приблизно 49 GiB ваг BF16; у картці Decider Flash v1.3 — Qwen3.5-4B і приблизно 8.5 GiB. Для самостійного розміщення будь-якої з моделей потрібен графічний процесор CUDA та оперативна пам’ять понад обсяг, зайнятий вагами, тож Flash потребує менш потужного обладнання.

Обмеження Locate під час обслуговування запитів

Locate працює лише з текстом і підтримує не більше ніж 128 запитань Locate на один запит. Для запитів, що поєднують Locate із запитаннями для ухвалення рішень, потрібні окремі прямі проходи для кожного типу, що збільшує затримку порівняно із запитами лише одного типу.

Perplexity не об’єднує адаптери Locate, оскільки їх об’єднання погіршувало результати звичайних запитів для ухвалення рішень; адаптери активуються лише для запитів Locate. Така конструкція зберігає наявну поведінку системи під час ухвалення рішень, але змішані робочі навантаження не можуть повною мірою використовувати спільні обчислення.

Оцінювання та використання у виробничому середовищі

Внутрішній набір тестів Perplexity містить понад 200 завдань, які виконуються в режимі zero-shot, без донавчання під конкретні завдання. Окрім загальнодоступних таблиць лідерів, компанія використовує приватні виробничі завдання та відкладені оцінювання на загальнодоступних наборах даних, що не є бенчмарками, аби перевірити здатність моделі узагальнювати за межами звичних наборів для оцінювання.

За даними компанії, у 72 завданнях пошуку zero-shot повторне ранжування за точковою оцінкою, у якому кожну пару «запит—документ» оцінюють окремо, дало середній показник nDCG@10 на рівні 83.99 — на 1.81 пункта вище, ніж у Qwen3-Reranker-8B.

Для виробничої перевірки Perplexity відібрала мільйон дедуплікованих запитів до API за перші 18 днів його доступності, замаскувавши особисту інформацію. Вибірка охопила 2,318,887 окремих запитань; усі вони були включені до дослідження за явною згодою користувачів. Еталонні відповіді надали передові великі мовні моделі, оскільки у виробничих запитах немає міток правильних відповідей.

За даними Perplexity, у версії v1.3 узгодженість із відповідями цих моделей-суддів становить 93.98%, а у v1.2 — 93.68%. Різниця невелика, а цей показник свідчить про узгодженість із відповідями, згенерованими моделями, а не про точність порівняно з еталонними мітками.

Для тієї самої вибірки запитів Perplexity наводить такі витрати: $26.47 для Decider v1.3 і $13.24 для Flash. Decider працювала локально; у порівнянні не зазначено, як обліковували вартість локального обладнання, і не наведено зіставних показників затримки. Тому ці цифри характеризують саме це робоче навантаження, а не свідчать про універсальну перевагу за вартістю чи швидкістю.

Perplexity також використовує Decider в автономному режимі для перевірки журналів безпеки агентів, щоб виявляти пропущені проблеми та хибні тривоги. За один із днів, про які повідомляла компанія, система обробила 1 мільярд токенів у межах 7,000 сеансів агентів і виявила недоліки, що призвели до 14 запропонованих виправлень правил; шість із них схвалили й упровадили протягом двох днів. Повторне відтворення журналів за тиждень із цими виправленнями скоротило обсяг спрацьовувань найактивнішого правила на 52%, тоді як правила з розширеною сферою дії виявили приблизно на 40% більше правомірних дій, які варто перевірити.

Друга внутрішня система зберігає ймовірності збоїв під час навчання з підкріпленням та інтерпретацій агентів, що дає змогу змінювати пороги без нових запитів до Decider. Вона лише спостерігає й діагностує, ніколи не змінюючи винагороди й не зупиняючи виконання. Decider також відфільтровує неякісні проскановані сторінки, водночас за один прохід оцінюючи цільову аудиторію, домен, шкідливий або незаконний вміст і персональні дані.

Perplexity рекомендує калібрувати пороги ухвалення рішень на репрезентативних прикладах із розміткою, оскільки частота міток і ціна хибнопозитивних та хибнонегативних результатів залежать від конкретного застосування. Повну модель компанія позиціонує як засіб для тонких оцінок, де помилки дорого коштують, а Flash — для великого обсягу завдань, обмежених вимогами до затримки й вартості.

Широкі можливості Decider, однак, ускладнюють його впровадження: ті самі ймовірності, завдяки яким його можна повторно використовувати для різних завдань, усе одно потребують порогів, налаштованих для конкретного застосування, а додаткова можливість вилучення даних у Locate збільшує обчислювальні витрати для змішаних запитів.