Perplexity lancerer Decider V1.3-modeller med udtræk af tekstspænd

Perplexity lancerede Decider v1.3 og Decider Flash v1.3 den 12. november 2026 med ordret udtræk af tekstspænd og vægte under Apache-2.0-licensen, der kan downloades. Virksomheden rapporterer en gennemsnitlig nøjagtighed på 91,6 % for den større model på tværs af 63 opgave med forespørgselsklassificering og referencer, der er blevet ommærket uafhængigt af en avanceret LLM. Det er 6,54 procentpoint højere end for virksomhedens produktionsklassifikatorer.

Den nye Locate-funktion returnerer nøjagtigt matchende tekst med start- og slutpositioner angivet i tegn til genkendelse af navngivne entiteter, registrering af personoplysninger og ekstraktiv spørgsmålsbesvarelse; hvis der ikke findes et match, returneres en tom liste. Begge modeller er også tilgængelige via OpenRouter og Perplexitys Decisions API.

Decider returnerer sandsynligheder for ja/nej-spørgsmål, brugerdefinerede valgmuligheder eller ordnede scorer i stedet for at generere prosa. En applikation kan stille flere spørgsmål om den samme tekst, JSON eller de samme billeder og bruge de resulterende tal til klassificering, viderestilling af forespørgsler, moderering, filtrering, evaluering af output og omrangering. Det er opgaver, hvor der ofte er brug for en beslutningstærskel frem for fri generering.

Ændringer i arkitektur og træning

Decider tilpasser generative grundmodeller ved at erstatte output af det næste token med et beslutningshoved, der aflæses ved et markørtoken. Hovedet tager kun udgangspunkt i de rækker i grundmodellen, der svarer til tokens for svarmulighederne. I v1.3 gør Perplexity lagene med fuld opmærksomhed tovejs og afskærmer spørgsmålene fra direkte opmærksomhed på hinanden, samtidig med at den fælles inputtilstand kan rette opmærksomheden mod spørgsmålene. Det erstatter v1.2’s opsætning, hvor et svar kunne ændre sig afhængigt af, hvad der ellers blev spurgt om, og er udformet med henblik på at gøre svarene mere stabile.

Træningen omdanner hundredvis af offentlige datasæt til et fælles format med tilstand, spørgsmål, svarmuligheder og målværdi. Finjustering af generalistmodellen udelader træningsopdelinger fra benchmarks, og Perplexity oplyser, at virksomheden også fjerner eksempler, der kan overlappe med dens evalueringer. Senere specialisering inden for domæner og syn anvender LoRA, en metode, hvor de fortrænede vægte holdes fast, mens indføjede matricer til rangdekomponering trænes. Perplexity bruger vægtede sammenlægninger af adaptere til at styre afdrift og beregner gennemsnittet af vægtene fra tre kørsler i tekstfaserne.

Flash destilleres efterfølgende fra den større model. Her bruges KL-divergens til at mindske forskellen mellem modellens output-sandsynligheder og lærerens i stedet for udelukkende at lære fra facitlabels. Modelkortet for Decider v1.3 angiver en Qwen3.8-27B-grundmodel og cirka 49 GiB BF16-vægte; kortet for Decider Flash v1.3 angiver Qwen3.5-4B og cirka 8,5 GiB. Egen hosting af begge modeller kræver en CUDA-GPU og arbejdshukommelse ud over den plads, vægtene optager, så Flash har et mindre hardwareaftryk.

Begrænsninger for Locate ved betjening

Locate behandler kun tekst og er begrænset til 128 Locate-spørgsmål pr. forespørgsel. Forespørgsler, der kombinerer Locate med beslutningsspørgsmål, kræver separate gennemløb for hver type, hvilket øger latenstiden sammenlignet med forespørgsler, der kun indeholder én type.

Perplexity holder Locate-adapterne adskilte, fordi en sammenlægning af dem medførte forringede resultater på almindelige beslutningsforespørgsler; de aktiveres kun ved Locate-forespørgsler. Udformningen bevarer den eksisterende beslutningsadfærd, men blandede arbejdsbelastninger kan ikke dele den samme beregning fuldt ud.

Evaluering og brug i produktion

Perplexitys interne evalueringspakke indeholder mere end 200 opgaver og køres uden eksempler eller opgavespecifik finjustering. Den supplerer offentlige ranglister med private produktionsopgaver og evalueringer på tilbageholdte data fra offentlige datasæt, der ikke indgår i benchmarks, for at kontrollere generalisering ud over velkendte evalueringssæt.

På tværs af 72 opgaver inden for informationssøgning rapporterer virksomheden en gennemsnitlig nDCG@10 på 83,99 ved nulskudsbaseret parvis omrangering, hvor hvert forespørgsels-dokument-par scores uafhængigt. Det placerer modellen 1,81 point over Qwen3-Reranker-8B.

Til en kontrol i produktion udtog Perplexity en stikprøve på en million dubletfjernede API-forespørgsler fra API’ets første 18 dage, hvor API’et var tilgængeligt, og maskerede personoplysninger. Stikprøven omfattede 2.318.887 individuelle spørgsmål, som alle var medtaget med udtrykkelig tilladelse fra brugerne til forskning. Avancerede LLM-dommere leverede referencesvar, fordi produktionsforespørgsler ikke har facitlabels.

Perplexity rapporterer en overensstemmelse med disse dommere på 93,98 % for v1.3 mod 93,68 % for v1.2. Forskellen er beskeden, og målet viser overensstemmelse med modelgenererede referencer snarere end nøjagtighed målt mod facitlabels.

For den samme stikprøve af forespørgsler rapporterer Perplexity omkostninger på 26,47 $ for Decider v1.3 og 13,24 $ for Flash. Decider blev kørt lokalt; sammenligningen angiver ikke, hvordan lokale hardwareomkostninger er medregnet, og indeholder heller ikke sammenlignelige latenstidsresultater. Tallene beskriver derfor denne arbejdsbelastning og ikke en universel fordel med hensyn til omkostninger eller hastighed.

Perplexity bruger også Decider offline til at gennemgå agenters sikkerhedslogfiler for oversete problemer og falske alarmer. På én rapporteret dag behandlede modellen 1 milliard tokens på tværs af 7.000 agentsessioner og identificerede fejl, der førte til 14 foreslåede regelrettelser. Seks af dem blev godkendt og taget i brug inden for to dage. Ved at afspille en uges logfiler med rettelserne blev den mest benyttede regels omfang reduceret med 52 %, mens udvidede regler opfangede omkring 40 % flere legitime handlinger, der skulle undersøges.

Et andet internt system gemmer sandsynligheder for fejl i forstærkningslæring og agentfortolkninger, så tærsklerne kan ændres uden nye forespørgsler til Decider. Systemet observerer og diagnosticerer kun; det ændrer aldrig belønninger eller stopper kørsler. Decider filtrerer også sider af lav kvalitet, der er fundet ved crawling, samtidig med at systemet i samme gennemløb vurderer målgruppe, domæne, skadeligt eller ulovligt indhold og personoplysninger.

Perplexity anbefaler, at beslutningstærskler kalibreres på repræsentative eksempler med etiketter, fordi hyppigheden af etiketter og omkostningerne ved falsk positive og falsk negative resultater varierer fra anvendelse til anvendelse. Virksomheden anbefaler den fulde model til nuancerede vurderinger, hvor fejl er kostbare, og Flash til opgaver med stor volumen, hvor svartid og omkostninger er begrænsende faktorer.

Deciders brede anvendelsesområde medfører derfor også en implementeringsbyrde: De samme sandsynligheder, der gør modellen genanvendelig på tværs af opgaver, kræver stadig tærskler, der er tilpasset den enkelte anvendelse, og Locates ekstra udtræksfunktion kræver mere beregningskraft ved blandede forespørgsler.