Perplexity lancia i modelli Decider V1.3 con l’estrazione di segmenti di testo

Perplexity ha lanciato Decider v1.3 e Decider Flash v1.3 il 12 novembre 2026, introducendo l’estrazione letterale di segmenti di testo e pesi Apache-2.0 scaricabili. L’azienda dichiara un’accuratezza media del 91,6% per il modello più grande su 63 attività di classificazione delle query, con riferimenti rietichettati in modo indipendente da un LLM di frontiera: 6,54 punti percentuali in più rispetto ai classificatori in produzione.

La nuova funzionalità Locate restituisce il testo esatto corrispondente, con le posizioni dei caratteri iniziale e finale, per il riconoscimento di entità denominate, il rilevamento di informazioni personali e la risposta estrattiva alle domande; se non trova corrispondenze, restituisce un elenco vuoto. Entrambi i modelli sono disponibili anche tramite OpenRouter e la API Decisions di Perplexity.

Decider restituisce probabilità per domande con risposta sì/no, scelte personalizzate o punteggi ordinati, invece di generare testo. Un’applicazione può porre più domande sullo stesso testo, JSON o sulle stesse immagini e usare i numeri ottenuti per la classificazione, l’instradamento delle richieste, la moderazione, il filtraggio, la valutazione degli output e il riordinamento dei risultati. Sono attività per le quali spesso serve una soglia decisionale, anziché una generazione libera.

Modifiche all’architettura e all’addestramento

Decider adatta le architetture di base generative sostituendo la previsione del token successivo con una testa decisionale, letta in corrispondenza di un token marcatore. La testa parte soltanto dalle righe del modello di base associate ai token delle opzioni di risposta. In v1.3, Perplexity rende bidirezionali i livelli di attenzione completa e impedisce alle domande di prestarsi direttamente attenzione a vicenda, consentendo però allo stato di input condiviso di prestare attenzione alle domande. Questa configurazione sostituisce quella di v1.2, in cui una risposta poteva cambiare a seconda delle altre domande poste, ed è progettata per rendere le risposte più stabili.

L’addestramento converte centinaia di set di dati pubblici in un formato condiviso composto da stato, domanda, opzioni e obiettivo. La messa a punto generalista esclude le partizioni di addestramento dei benchmark e, secondo Perplexity, rimuove anche i campioni che potrebbero sovrapporsi alle sue valutazioni. La successiva specializzazione per dominio e visione usa LoRA, un metodo che mantiene congelati i pesi preaddestrati mentre addestra matrici di decomposizione del rango inserite nel modello. Perplexity usa fusioni ponderate degli adattatori per contenere le derive e calcola la media dei pesi di tre esecuzioni per le fasi dedicate al testo.

In seguito, Flash viene distillato dal modello più grande, usando la divergenza KL per ridurre la differenza tra le probabilità dei rispettivi output e quelle del modello insegnante, invece di apprendere soltanto da etichette corrette. La scheda del modello Decider v1.3 specifica un’architettura di base Qwen3.8-27B e circa 49 GiB di pesi BF16; la scheda di Decider Flash v1.3 specifica Qwen3.5-4B e circa 8,5 GiB. Per ospitare autonomamente uno dei due modelli servono una GPU CUDA e memoria di lavoro aggiuntiva rispetto a quella occupata dai pesi: Flash richiede quindi un hardware meno potente.

Limiti di servizio di Locate

Locate opera solo sul testo e accetta al massimo 128 domande Locate per richiesta. Le richieste che combinano Locate e domande decisionali richiedono un passaggio in avanti separato per ciascun tipo, aumentando la latenza rispetto alle richieste che ne contengono uno solo.

Perplexity mantiene separati gli adattatori di Locate, perché la loro fusione ha causato regressioni nelle normali richieste decisionali; si attivano soltanto per le richieste Locate. La progettazione preserva il comportamento decisionale esistente, ma i carichi di lavoro misti non possono condividere pienamente lo stesso calcolo.

Valutazione e uso in produzione

La suite di valutazione interna di Perplexity comprende oltre 200 attività e viene eseguita in modalità zero-shot, senza messa a punto specifica per le singole attività. Affianca alle classifiche pubbliche attività private di produzione e valutazioni su dati pubblici non inclusi nei benchmark e tenuti da parte, per verificare la generalizzazione al di là delle suite di valutazione note.

Su 72 attività di recupero delle informazioni, l’azienda dichiara un nDCG@10 medio di 83,99 per il riordinamento zero-shot puntuale, in cui ogni coppia query-documento viene valutata in modo indipendente: 1,81 punti in più rispetto a Qwen3-Reranker-8B.

Per una verifica in produzione, Perplexity ha campionato un milione di richieste API deduplicate, oscurando le informazioni personali, dai primi 18 giorni di disponibilità dell’API. Il campione comprendeva 2.318.887 domande individuali, tutte incluse con il consenso esplicito degli utenti a fini di ricerca. Poiché le richieste in produzione non dispongono di etichette di riferimento, le risposte di riferimento sono state fornite da valutatori basati su LLM di frontiera.

Perplexity dichiara per v1.3 una concordanza del 93,98% con i valutatori, contro il 93,68% per v1.2. La differenza è modesta e la metrica misura la concordanza con riferimenti generati da modelli, non l’accuratezza rispetto a etichette di riferimento.

Per lo stesso campione di richieste, Perplexity dichiara costi pari a 26,47 $ per Decider v1.3 e a 13,24 $ per Flash. Decider è stato eseguito localmente; il confronto non specifica come siano stati contabilizzati i costi dell’hardware locale né fornisce risultati di latenza a parità di condizioni. Le cifre descrivono quindi questo carico di lavoro, non un vantaggio universale in termini di costi o velocità.

Perplexity usa anche Decider offline per esaminare i registri di sicurezza degli agenti e individuare problemi non rilevati e falsi allarmi. In una giornata riportata, ha elaborato 1 miliardo di token distribuiti su 7.000 sessioni di agenti e individuato difetti che hanno portato a proporre 14 correzioni alle regole: sei sono state approvate e rilasciate entro due giorni. Rielaborando una settimana di registri con le correzioni, il volume della regola più attiva è diminuito del 52%, mentre regole ampliate hanno intercettato circa il 40% in più di azioni legittime da esaminare.

Un secondo sistema interno memorizza le probabilità relative agli errori dell’apprendimento per rinforzo e alle interpretazioni degli agenti, consentendo di modificare le soglie senza effettuare nuove query a Decider. Si limita a osservare e diagnosticare, senza mai modificare le ricompense né interrompere le esecuzioni. Nello stesso passaggio, Decider filtra anche le pagine di bassa qualità acquisite tramite scansione, valutando il pubblico, il dominio, la presenza di contenuti dannosi o illegali e di informazioni personali.

Perplexity consiglia di calibrare le soglie decisionali su esempi etichettati rappresentativi, poiché la frequenza delle etichette e i costi dei falsi positivi e dei falsi negativi variano a seconda dell’applicazione. Destina il modello completo a valutazioni sfumate, in cui gli errori hanno conseguenze rilevanti, e Flash alle attività ad alto volume soggette a vincoli di latenza e costo.

L’ampia versatilità di Decider comporta quindi un onere di implementazione: le stesse probabilità che ne consentono il riutilizzo in attività diverse richiedono comunque soglie specifiche per ogni applicazione, mentre la capacità aggiuntiva di estrazione di Locate comporta un maggiore carico di calcolo per le richieste miste.