Perplexity lansează modelele Decider v1.3, cu extragerea segmentelor de text

Perplexity a lansat Decider v1.3 și Decider Flash v1.3 pe 12 noiembrie 2026, adăugând extragerea exactă a segmentelor de text și ponderi Apache-2.0 care pot fi descărcate. Compania raportează o acuratețe medie de 91,6% pentru modelul mai mare, în 63 de sarcini de clasificare a interogărilor, cu referințe etichetate independent din nou de un model lingvistic mare de ultimă generație, cu 6,54 puncte procentuale peste clasificatoarele sale aflate în producție.

Noua funcție Locate returnează textul exact care corespunde, împreună cu pozițiile caracterelor de început și de sfârșit, pentru recunoașterea entităților numite, detectarea informațiilor personale și răspunsul extractiv la întrebări; dacă nu există nicio potrivire, returnează o listă goală. Ambele modele sunt disponibile și prin OpenRouter și API-ul Decisions al Perplexity.

Decider returnează probabilități pentru întrebări cu răspuns de tip da/nu, opțiuni personalizate sau scoruri ordonate, în loc să genereze proză. O aplicație poate pune mai multe întrebări despre același text, JSON sau imagini și poate folosi valorile obținute pentru clasificare, direcționarea solicitărilor, moderare, filtrare, evaluarea rezultatelor și reordonarea rezultatelor. Aceste sarcini necesită adesea un prag de decizie, nu generare în formă liberă.

Modificări ale arhitecturii și antrenării

Decider adaptează modelele de bază generative înlocuind generarea următorului token cu un cap de decizie, citit la un token marcator. Capul pornește doar de la rândurile modelului de bază asociate tokenurilor opțiunilor de răspuns. În v1.3, Perplexity face bidirecționale straturile cu atenție completă și izolează întrebările, astfel încât acestea să nu poată să-și acorde direct atenție reciproc, permițând totodată stării comune de intrare să acorde atenție întrebărilor. Astfel se înlocuiește configurația din v1.2, în care un răspuns se putea schimba în funcție de celelalte întrebări adresate, iar scopul este ca răspunsurile să fie mai stabile.

Antrenarea convertește sute de seturi de date publice într-un format comun, cu stare, întrebare, opțiuni și țintă. Ajustarea fină generalistă exclude partițiile de antrenare ale benchmarkurilor, iar Perplexity spune că elimină și exemplele care s-ar putea suprapune cu evaluările sale. Specializarea ulterioară pe domenii și pentru viziune folosește LoRA, o metodă care păstrează neschimbate ponderile preantrenate în timp ce antrenează matrici de descompunere a rangului adăugate modelului. Perplexity folosește combinări ponderate ale adaptoarelor pentru a controla abaterea și calculează media ponderilor din trei rulări pentru etapele de procesare a textului.

Ulterior, Flash este distilat din modelul mai mare, folosind divergența KL pentru a reduce diferența dintre probabilitățile de ieșire ale sale și cele ale modelului profesor, în loc să învețe doar din etichete de referință. Fișa modelului Decider v1.3 indică un model de bază Qwen3.8-27B și aproximativ 49 GiB de ponderi BF16; fișa Decider Flash v1.3 indică Qwen3.5-4B și aproximativ 8,5 GiB. Găzduirea proprie a oricăruia dintre modele necesită un GPU CUDA și memorie de lucru suplimentară față de cea ocupată de ponderi, astfel că Flash are cerințe hardware mai reduse.

Limitele de procesare ale funcției Locate

Locate funcționează numai cu text și este limitat la 128 de întrebări Locate per solicitare. Solicitările care combină Locate cu întrebări de decizie necesită treceri separate de propagare înainte pentru fiecare tip, ceea ce mărește latența față de solicitările care conțin un singur tip.

Perplexity păstrează adaptoarele Locate necomasate, deoarece comasarea lor a dus la regresii pentru solicitările obișnuite de decizie; acestea se activează numai pentru solicitările Locate. Arhitectura păstrează comportamentul existent al funcției de decizie, însă sarcinile mixte nu pot partaja pe deplin aceleași calcule.

Evaluare și utilizare în producție

Setul intern de evaluare al Perplexity conține peste 200 de sarcini și este rulat zero-shot, fără ajustare fină specifică sarcinii. Acesta completează clasamentele publice cu sarcini private din producție și evaluări pe seturi păstrate separat, provenite din seturi de date publice care nu sunt benchmarkuri, pentru a verifica generalizarea dincolo de seturile de evaluare cunoscute.

În 72 de sarcini de regăsire, compania raportează un nDCG@10 mediu de 83,99 pentru reordonarea punctuală zero-shot, în care fiecare pereche interogare-document este evaluată independent, depășind Qwen3-Reranker-8B cu 1,81 puncte.

Pentru o verificare în producție, Perplexity a eșantionat un milion de solicitări API deduplicate, cu informațiile personale mascate, din primele 18 zile de disponibilitate ale API-ului. Eșantionul a cuprins 2.318.887 de întrebări individuale, toate incluse cu acordul explicit al utilizatorilor în scopuri de cercetare. Modele lingvistice mari de ultimă generație, folosite ca evaluatori, au furnizat răspunsurile de referință, deoarece solicitările din producție nu au etichete de adevăr de referință.

Perplexity raportează o concordanță de 93,98% cu evaluările acestor modele pentru v1.3, față de 93,68% pentru v1.2. Diferența este modestă, iar indicatorul măsoară concordanța cu referințe generate de modele, nu acuratețea în raport cu etichete de adevăr de referință.

Pentru același eșantion de solicitări, Perplexity raportează costuri de $26.47 pentru Decider v1.3 și de $13.24 pentru Flash. Decider a rulat local; comparația nu precizează cum sunt contabilizate costurile hardware-ului local și nici nu oferă rezultate de latență obținute în condiții comparabile, așadar cifrele descriu această sarcină, nu un avantaj universal în privința costului sau a vitezei.

Perplexity folosește și Decider offline pentru a analiza jurnalele de securitate ale agenților și a depista problemele trecute cu vederea și alarmele false. Într-o zi raportată, acesta a procesat 1 miliard de tokenuri în 7.000 de sesiuni ale agenților și a identificat vulnerabilități care au dus la propunerea a 14 modificări ale regulilor; șase dintre acestea au fost aprobate și implementate în decurs de două zile. La reluarea unei săptămâni de jurnale cu modificările aplicate, volumul celei mai active reguli a scăzut cu 52%, iar regulile extinse au detectat cu aproximativ 40% mai multe acțiuni legitime care necesitau investigare.

Un al doilea sistem intern stochează probabilități privind eșecurile în învățarea prin recompensă și interpretările agenților, permițând modificarea pragurilor fără interogări noi către Decider. Acesta doar observă și diagnostichează, fără să modifice recompensele sau să oprească execuțiile. Decider filtrează, de asemenea, paginile de calitate scăzută parcurse de crawler, evaluând în aceeași etapă publicul, domeniul, conținutul dăunător sau ilegal și informațiile personale.

Perplexity recomandă calibrarea pragurilor de decizie pe baza unor exemple etichetate reprezentative, deoarece frecvența etichetelor și costurile rezultatelor fals pozitive și fals negative variază în funcție de aplicație. Compania recomandă modelul complet pentru evaluări nuanțate, în care erorile sunt costisitoare, și Flash pentru sarcini cu volum mare, limitate de latență și costuri.

Prin urmare, versatilitatea lui Decider vine cu provocări la implementare: aceleași probabilități care permit reutilizarea sa pentru diverse sarcini impun în continuare praguri specifice fiecărei aplicații, iar capacitatea suplimentară de extragere a lui Locate necesită calcule în plus pentru solicitările mixte.