Modele Decider V1.3 z ekstrakcją fragmentów tekstu

Perplexity udostępniło Decider v1.3 i Decider Flash v1.3 12 listopada 2026 r., dodając możliwość dokładnego wyodrębniania fragmentów tekstu oraz pobierania wag na licencji Apache-2.0. Firma podaje, że większy model osiąga średnią dokładność 91,6% w 63 zadaniach klasyfikacji zapytań, w których odpowiedzi referencyjne zostały niezależnie ponownie oznaczone przez zaawansowany model LLM. To wynik o 6,54 punktu procentowego lepszy od uzyskiwanego przez jej klasyfikatory produkcyjne.

Nowa funkcja Locate zwraca dokładnie dopasowany tekst wraz z pozycjami początkowego i końcowego znaku. Przydaje się do rozpoznawania nazwanych jednostek, wykrywania danych osobowych i ekstrakcyjnego odpowiadania na pytania; jeśli nie znajdzie dopasowania, zwraca pustą listę. Oba modele są również dostępne za pośrednictwem OpenRouter i Decisions API firmy Perplexity.

Decider zwraca prawdopodobieństwa dla pytań wymagających odpowiedzi „tak” lub „nie”, niestandardowych opcji albo uporządkowanych ocen, zamiast generować tekst. Aplikacja może zadać kilka pytań dotyczących tego samego tekstu, pliku JSON lub obrazów, a następnie wykorzystać uzyskane wartości liczbowe do klasyfikacji, kierowania żądań, moderacji, filtrowania, oceny wyników i ponownego ustalania rankingu. W przypadku tych zadań często potrzebny jest próg decyzyjny, a nie generowanie swobodnego tekstu.

Zmiany w architekturze i procesie trenowania

Decider dostosowuje modele bazowe przeznaczone do generowania tekstu, zastępując przewidywanie kolejnego tokenu głowicą decyzyjną odczytywaną przy tokenie znacznikowym. Głowica wykorzystuje na początku wyłącznie wiersze modelu bazowego powiązane z tokenami opcji odpowiedzi. W wersji 1.3 Perplexity wprowadza dwukierunkowe działanie warstw pełnej uwagi i odcina pytania od bezpośredniego wpływu na siebie nawzajem, jednocześnie pozwalając wspólnemu stanowi wejściowemu uwzględniać pytania. Zastępuje to układ z wersji 1.2, w którym odpowiedź mogła się zmieniać zależnie od pozostałych zadanych pytań. Celem tej zmiany jest zwiększenie stabilności odpowiedzi.

W procesie trenowania setki publicznych zbiorów danych są przekształcane do wspólnego formatu obejmującego stan, pytanie, opcje i wartość docelową. Dostrajanie ogólne pomija zbiory treningowe benchmarków, a Perplexity twierdzi, że usuwa również próbki, które mogłyby pokrywać się z danymi użytymi w ewaluacjach firmy. W późniejszym dostrajaniu do konkretnych dziedzin i zadań związanych z obrazami wykorzystywana jest metoda LoRA, która zamraża wstępnie wytrenowane wagi, a jednocześnie dostraja wprowadzone macierze dekompozycji rangowej. Aby ograniczyć dryf, Perplexity stosuje ważone łączenie adapterów, a w etapach trenowania modeli tekstowych uśrednia wagi z trzech przebiegów.

Następnie model Flash jest destylowany z większego modelu. Zastosowanie rozbieżności KL pozwala ograniczyć różnicę między prawdopodobieństwami jego wyników a prawdopodobieństwami modelu nauczyciela, zamiast uczyć go wyłącznie na etykietach wzorcowych. Karta modelu Decider v1.3 podaje, że jego bazą jest Qwen3.8-27B, a wagi w formacie BF16 zajmują około 49 GiB; karta Decider Flash v1.3 wymienia Qwen3.5-4B i około 8,5 GiB. Samodzielne hostowanie dowolnego z tych modeli wymaga karty graficznej CUDA i pamięci roboczej wykraczającej poza pamięć potrzebną na wagi, dlatego Flash ma mniejsze wymagania sprzętowe.

Ograniczenia funkcji Locate podczas obsługi żądań

Locate obsługuje wyłącznie tekst i przyjmuje maksymalnie 128 pytań Locate w jednym żądaniu. Żądania łączące Locate z pytaniami decyzyjnymi wymagają osobnego przebiegu w przód dla każdego rodzaju pytań, co zwiększa opóźnienie w porównaniu z żądaniami obejmującymi tylko jeden rodzaj.

Perplexity nie łączy adapterów Locate z pozostałymi, ponieważ ich połączenie powodowało pogorszenie wyników w przypadku zwykłych żądań decyzyjnych; adaptery te są aktywowane wyłącznie dla żądań Locate. Takie rozwiązanie pozwala zachować dotychczasowe działanie funkcji decyzyjnych, ale obciążenia mieszane nie mogą w pełni korzystać z tych samych obliczeń.

Ewaluacja i zastosowanie produkcyjne

Wewnętrzny zestaw ewaluacyjny Perplexity obejmuje ponad 200 zadań, które są realizowane w trybie zero-shot, bez dostrajania do konkretnych zadań. Firma uzupełnia publiczne rankingi o prywatne zadania produkcyjne i odłożone do ewaluacji dane z publicznych zbiorów spoza benchmarków, aby sprawdzić zdolność modeli do uogólniania poza znane zestawy ewaluacyjne.

W 72 zadaniach związanych z wyszukiwaniem firma podaje średnią wartość nDCG@10 równą 83,99 dla ponownego ustalania rankingu metodą pointwise w trybie zero-shot, w której każda para zapytanie–dokument jest oceniana niezależnie. To wynik o 1,81 punktu wyższy niż w przypadku Qwen3-Reranker-8B.

Na potrzeby kontroli produkcyjnej Perplexity pobrało próbkę miliona zdeduplikowanych żądań API z pierwszych 18 dni dostępności interfejsu, maskując dane osobowe. Próbka obejmowała 2 318 887 pojedynczych pytań, z których wszystkie uwzględniono za wyraźną zgodą użytkowników na wykorzystanie do badań. Ponieważ żądania produkcyjne nie mają etykiet prawdy podstawowej, odpowiedzi referencyjne przygotowali sędziowie w postaci zaawansowanych modeli LLM.

Perplexity podaje, że wersja 1.3 jest zgodna z ocenami tych modeli w 93,98% przypadków, a wersja 1.2 — w 93,68%. Różnica jest niewielka, a wskaźnik pokazuje zgodność z odpowiedziami referencyjnymi wygenerowanymi przez modele, a nie dokładność względem etykiet prawdy podstawowej.

Dla tej samej próbki żądań Perplexity podaje koszty wynoszące 26,47 USD dla Decider v1.3 i 13,24 USD dla Flash. Decider działał lokalnie; porównanie nie określa sposobu uwzględnienia lokalnych kosztów sprzętu ani nie podaje wyników pomiarów opóźnień w porównywalnych warunkach. Kwoty te dotyczą więc tego konkretnego obciążenia, a nie uniwersalnej przewagi pod względem kosztów lub szybkości.

Perplexity wykorzystuje również Decider offline do przeglądania dzienników bezpieczeństwa agentów, aby wykrywać przeoczone problemy i fałszywe alarmy. W jednym z opisanych dni model przetworzył 1 miliard tokenów w ramach 7 000 sesji agentów i wykrył błędy, które doprowadziły do zaproponowania 14 poprawek reguł. Sześć z nich zatwierdzono i wdrożono w ciągu dwóch dni. Ponowne odtworzenie tygodnia dzienników z uwzględnieniem poprawek zmniejszyło liczbę zdarzeń rejestrowanych przez najbardziej obciążoną regułę o 52%, a rozszerzone reguły pozwoliły wykryć około 40% więcej prawidłowych działań wymagających zbadania.

Drugi wewnętrzny system przechowuje prawdopodobieństwa dotyczące błędów uczenia przez wzmacnianie i interpretacji agentów, dzięki czemu progi można zmieniać bez wysyłania nowych zapytań do Decider. System ten jedynie obserwuje i diagnozuje — nie zmienia nagród ani nie zatrzymuje przebiegów. Decider filtruje również strony niskiej jakości pobrane przez roboty indeksujące, a podczas tego samego przebiegu ocenia odbiorców, domenę, szkodliwe lub nielegalne treści oraz dane osobowe.

Perplexity zaleca dostrajanie progów decyzyjnych na reprezentatywnych przykładach z etykietami, ponieważ częstość występowania poszczególnych etykiet oraz koszty wyników fałszywie dodatnich i fałszywie ujemnych różnią się w zależności od zastosowania. Pełny model jest przeznaczony do złożonych ocen, w których błędy są kosztowne, a Flash — do zadań realizowanych na dużą skalę, w których ograniczeniami są opóźnienia i koszty.

Szeroki zakres zastosowań Decider wiąże się zatem z dodatkowymi obowiązkami przy wdrażaniu: te same prawdopodobieństwa, które pozwalają wykorzystywać go w różnych zadaniach, nadal wymagają progów dostosowanych do konkretnego zastosowania, a dodatkowa funkcja ekstrakcji w Locate wymaga większej mocy obliczeniowej przy mieszanych zapytaniach.