Modelos Decider V1.3 da Perplexity trazem extração de trechos de texto

A Perplexity lançou o Decider v1.3 e o Decider Flash v1.3 em 12 de novembro de 2026, acrescentando a extração literal de trechos de texto e pesos Apache-2.0 disponíveis para download. A empresa informa uma acurácia média de 91,6% para o modelo maior em 63 tarefas de classificação de consultas, com referências rotuladas novamente de forma independente por um LLM de ponta, 6,54 pontos percentuais acima da acurácia de seus classificadores em produção.

O novo recurso Locate retorna correspondências exatas de texto com as posições dos caracteres inicial e final, para reconhecimento de entidades nomeadas, detecção de informações pessoais e resposta extrativa a perguntas; quando não há correspondência, retorna uma lista vazia. Os dois modelos também estão disponíveis pela OpenRouter e pela API de decisões da Perplexity.

O Decider retorna probabilidades para perguntas de sim/não, opções personalizadas ou pontuações ordenadas, em vez de gerar prosa. Um aplicativo pode fazer várias perguntas sobre o mesmo texto, JSON ou imagens e usar os números resultantes para classificação, encaminhamento de solicitações, moderação, filtragem, avaliação de resultados e reranqueamento. Essas tarefas muitas vezes exigem um limiar de decisão, em vez de geração de texto livre.

Mudanças na arquitetura e no treinamento

O Decider adapta modelos-base generativos substituindo a previsão do próximo token por uma cabeça de decisão, lida em um token marcador. Essa cabeça parte apenas das linhas do modelo-base associadas aos tokens das opções de resposta. Na versão 1.3, a Perplexity torna bidirecionais as camadas de atenção completa e impede que as perguntas prestem atenção diretamente umas às outras, ao mesmo tempo que permite que o estado de entrada compartilhado preste atenção às perguntas. Isso substitui a configuração da versão 1.2, na qual uma resposta podia mudar dependendo do que mais fosse perguntado, e foi desenvolvido para tornar as respostas mais estáveis.

O treinamento converte centenas de conjuntos de dados públicos em um formato compartilhado de estado, pergunta, opções e resposta-alvo. O ajuste fino generalista exclui as divisões de treinamento dos benchmarks, e a Perplexity afirma que também remove amostras que poderiam se sobrepor às avaliações. A especialização posterior em domínios e visão usa LoRA, um método que congela os pesos pré-treinados enquanto treina matrizes de decomposição de baixo posto inseridas no modelo. A Perplexity usa combinações ponderadas de adaptadores para controlar o desvio e calcula a média dos pesos de três execuções nas etapas de texto.

Em seguida, o Flash é destilado do modelo maior, usando a divergência KL para reduzir a diferença entre suas probabilidades de saída e as do modelo professor, em vez de aprender apenas com rótulos de referência. O cartão do modelo Decider v1.3 especifica uma arquitetura de base Qwen3.8-27B e cerca de 49 GiB de pesos BF16; o cartão do Decider Flash v1.3 especifica Qwen3.5-4B e cerca de 8,5 GiB. A hospedagem própria de qualquer um dos modelos exige uma GPU CUDA e memória operacional adicional além da necessária para os pesos, o que resulta em uma infraestrutura de hardware menor para o Flash.

Limites de uso do Locate

O Locate funciona apenas com texto e tem um limite de 128 perguntas Locate por solicitação. Solicitações que combinam o Locate com perguntas de decisão exigem passagens distintas pela rede para cada tipo, o que aumenta a latência em comparação com solicitações que contêm apenas um tipo.

A Perplexity mantém os adaptadores do Locate sem mesclá-los, pois a mesclagem causou regressões em solicitações de decisão comuns; eles são ativados apenas para solicitações do Locate. O projeto preserva o comportamento de decisão existente, mas cargas de trabalho mistas não podem compartilhar totalmente a mesma computação.

Avaliação e uso em produção

O conjunto interno de avaliação da Perplexity contém mais de 200 tarefas e é executado em modo zero-shot, sem ajuste fino específico para cada tarefa. Além de placares públicos, inclui tarefas privadas de produção e avaliações com dados retidos de conjuntos de dados públicos que não são de benchmark, para verificar a generalização para além dos conjuntos de avaliação conhecidos.

Em 72 tarefas de recuperação de informações, a empresa informa um nDCG@10 médio de 83,99 no reranqueamento pontual zero-shot, em que cada par de consulta e documento é avaliado de forma independente, resultado 1,81 ponto acima do Qwen3-Reranker-8B.

Para uma verificação em produção, a Perplexity selecionou uma amostra de um milhão de solicitações à API deduplicadas, com informações pessoais ocultadas, dos primeiros 18 dias de disponibilidade da API. A amostra abrangeu 2.318.887 perguntas individuais, todas incluídas com a autorização explícita dos usuários para fins de pesquisa. Avaliadores baseados em LLMs de ponta forneceram respostas de referência, pois as solicitações de produção não têm rótulos de referência verificados.

A Perplexity informa que a versão 1.3 teve 93,98% de concordância com esses juízes, contra 93,68% na versão 1.2. A diferença é modesta, e a métrica mede a concordância com referências geradas por modelos, não a acurácia em relação a rótulos de verdade fundamental.

Para a mesma amostra de solicitações, a Perplexity informa custos de US$ 26,47 para o Decider v1.3 e de US$ 13,24 para o Flash. O Decider foi executado localmente; a comparação não especifica como foram contabilizados os custos do hardware local nem apresenta resultados de latência em condições equivalentes. Portanto, os valores descrevem essa carga de trabalho, não uma vantagem universal de custo ou velocidade.

A Perplexity também usa o Decider offline para analisar registros de segurança de agentes e identificar problemas não detectados e falsos alarmes. Em um dia relatado, o sistema processou 1 bilhão de tokens em 7.000 sessões de agentes e identificou falhas que levaram a 14 propostas de correção de regras; seis foram aprovadas e implementadas em até dois dias. Ao reproduzir uma semana de registros com as correções, o volume da regra mais acionada caiu 52%, enquanto regras ampliadas detectaram cerca de 40% mais ações legítimas que deveriam ser investigadas.

Um segundo sistema interno armazena probabilidades sobre falhas de aprendizagem por reforço e interpretações dos agentes, permitindo alterar os limiares sem fazer novas consultas ao Decider. Ele apenas observa e diagnostica, sem nunca alterar recompensas ou interromper execuções. O Decider também filtra páginas rastreadas de baixa qualidade, avaliando, na mesma etapa, o público, o domínio, a presença de conteúdo nocivo ou ilegal e de informações pessoais.

A Perplexity recomenda calibrar os limiares de decisão com exemplos rotulados representativos, pois a frequência dos rótulos e os custos dos falsos positivos e falsos negativos variam conforme a aplicação. A empresa posiciona o modelo completo para avaliações complexas, nas quais os erros têm custos elevados, e o Flash para tarefas de alto volume sujeitas a restrições de latência e custo.

A amplitude de recursos do Decider, portanto, vem acompanhada de exigências de implantação: as mesmas probabilidades que o tornam reutilizável em diferentes tarefas ainda exigem limiares específicos para cada aplicação, e o recurso adicional de extração do Locate aumenta o processamento necessário para solicitações mistas.