Perplexity lanserar modellerna Decider V1.3 med extraktion av textspann

Perplexity lanserade Decider v1.3 och Decider Flash v1.3 den 12 november 2026, med stöd för ordagrann extraktion av textspann och nedladdningsbara vikter under Apache 2.0-licensen. Företaget uppger en genomsnittlig träffsäkerhet på 91,6 % för den större modellen i 63 uppgifter för frågeklassificering, med referenser som oberoende märkts om av en ledande LLM. Det är 6,54 procentenheter högre än för företagets klassificerare i produktion.

Den nya funktionen Locate returnerar exakt matchande text med start- och slutpositioner i tecken för entitetsigenkänning, identifiering av personuppgifter och extraktiv frågebesvarande. Om ingen matchning hittas returneras en tom lista. Båda modellerna finns också tillgängliga via OpenRouter och Perplexitys API för beslut.

Decider returnerar sannolikheter för ja- och nej-frågor, anpassade alternativ eller rangordnade poäng i stället för att generera löptext. En applikation kan ställa flera frågor om samma text, JSON eller bilder och använda de resulterande värdena för klassificering, dirigering av förfrågningar, moderering, filtrering, utvärdering av utdata och omrangordning. Det här är uppgifter där det ofta behövs en beslutströskel i stället för fri textgenerering.

Förändringar i arkitektur och träning

Decider anpassar generativa basmodeller genom att ersätta utdata för nästa token med ett beslutshuvud som läses av vid en markörtok. Huvudet utgår enbart från raderna i basmodellen som hör till token för svarsalternativen. I v1.3 gör Perplexity lager med full uppmärksamhet dubbelriktade och hindrar frågorna från att rikta uppmärksamheten direkt mot varandra, samtidigt som det gemensamma inmatningstillståndet tillåts rikta uppmärksamheten mot frågorna. Det ersätter upplägget i v1.2, där ett svar kunde ändras beroende på vilka andra frågor som ställdes, och är utformat för att göra svaren stabilare.

Träningen omvandlar hundratals offentliga datamängder till ett gemensamt format med tillstånd, fråga, alternativ och mål. Finjustering av generalistmodellen utesluter träningsdelarna av benchmarktest, och Perplexity uppger att företaget även tar bort exempel som kan överlappa med dess utvärderingar. Senare domän- och bildspecialisering använder LoRA, en metod där förtränade vikter hålls frysta medan injicerade matriser för ranguppdelning tränas. Perplexity använder viktade sammanslagningar av adaptrar för att kontrollera avdrift och beräknar medelvärdet av vikterna från tre körningar för textstegen.

Flash destilleras därefter från den större modellen. KL-divergens används för att minska skillnaden mellan dess utdata-sannolikheter och lärarmodellens, i stället för att enbart lära från facitetiketter. Modellkortet för Decider v1.3 anger en Qwen3.8-27B-basmodell och ungefär 49 GiB BF16-vikter; kortet för Decider Flash v1.3 anger Qwen3.5-4B och ungefär 8,5 GiB. För att köra någon av modellerna på egen infrastruktur krävs en CUDA-GPU och arbetsminne utöver det som vikterna upptar, vilket innebär att Flash har ett mindre hårdvaruavtryck.

Begränsningar för Locate i drift

Locate hanterar endast text och är begränsat till 128 Locate-frågor per förfrågan. Förfrågningar där Locate blandas med beslutsfrågor kräver separata framåtpass för varje typ, vilket ökar fördröjningen jämfört med förfrågningar som bara innehåller en typ.

Perplexity låter Locate-adaptrarna förbli osammanslagna eftersom en sammanslagning ledde till försämringar för vanliga beslutsförfrågningar. De aktiveras endast för Locate-förfrågningar. Utformningen bevarar det befintliga beslutsbeteendet, men blandade arbetsbelastningar kan inte dela samma beräkning fullt ut.

Utvärdering och användning i produktion

Perplexitys interna utvärderingssvit innehåller över 200 uppgifter och körs utan exempel, alltså utan uppgiftsspecifik finjustering. Den kompletterar offentliga topplistor med privata produktionsuppgifter och utvärderingar på undanhållna data från offentliga datamängder som inte används i benchmarktest, för att kontrollera generalisering utanför välbekanta utvärderingssviter.

För 72 uppgifter inom informationshämtning uppger företaget ett genomsnittligt nDCG@10-värde på 83,99 för omrangordning punkt för punkt utan exempel, där varje fråge- och dokumentpar poängsätts separat. Det placerar modellen 1,81 poäng över Qwen3-Reranker-8B.

I en produktionskontroll tog Perplexity ett urval på en miljon deduplicerade API-förfrågningar från API:ets första 18 dagar i drift, efter att personuppgifter maskerats. Urvalet omfattade 2 318 887 enskilda frågor, som alla inkluderades med uttryckligt användartillstånd för forskning. Ledande LLM-bedömare tillhandahöll referenssvar eftersom produktionsförfrågningar saknar facitetiketter.

Perplexity uppger att v1.3 stämde överens med dessa bedömare i 93,98 % av fallen, jämfört med 93,68 % för v1.2. Skillnaden är måttlig, och måttet visar överensstämmelse med modellgenererade referenser snarare än träffsäkerhet mot facitetiketter.

För samma urval av förfrågningar uppger Perplexity kostnader på 26,47 dollar för Decider v1.3 och 13,24 dollar för Flash. Decider kördes lokalt. Jämförelsen specificerar inte hur lokala hårdvarukostnader har beräknats och redovisar inte jämförbara resultat för fördröjning. Siffrorna beskriver därför den här arbetsbelastningen, inte någon generell kostnads- eller hastighetsfördel.

Perplexity använder också Decider offline för att granska agenters säkerhetsloggar och hitta missade problem och falsklarm. Under en rapporterad dag bearbetade modellen 1 miljard token över 7 000 agentsessioner och identifierade brister som ledde till 14 föreslagna regeländringar. Sex av dem godkändes och infördes inom två dagar. När en veckas loggar spelades upp på nytt med ändringarna minskade volymen för den mest belastade regeln med 52 %, samtidigt som utvidgade regler fångade omkring 40 % fler legitima åtgärder att undersöka.

Ett andra internt system lagrar sannolikheter för misslyckanden inom förstärkningsinlärning och tolkningar av agenter, vilket gör det möjligt att ändra tröskelvärden utan nya frågor till Decider. Systemet observerar och diagnostiserar enbart; det ändrar aldrig belöningar eller avbryter körningar. Decider filtrerar också bort sidor av låg kvalitet som hämtats in genom webbsökning, samtidigt som systemet i samma genomgång bedömer målgrupp, domän, skadligt eller olagligt innehåll och personuppgifter.

Perplexity rekommenderar att beslutströsklar kalibreras mot representativa, märkta exempel, eftersom etikettfrekvenserna och kostnaderna för falskt positiva respektive falskt negativa resultat varierar mellan olika användningsområden. Den fullständiga modellen är avsedd för nyanserade bedömningar där fel får stora konsekvenser, medan Flash passar för arbete med stora volymer där latens och kostnader sätter gränser.

Deciders bredd innebär därför också en utmaning vid driftsättning: samma sannolikheter som gör modellen återanvändbar för olika uppgifter kräver fortfarande tröskelvärden som är anpassade till varje användningsområde, och Locates utökade extraktionsfunktion kräver mer beräkningskraft för blandade förfrågningar.