Perplexity brengt Decider V1.3-modellen uit met extractie van tekstfragmenten

Perplexity bracht op 12 november 2026 Decider v1.3 en Decider Flash v1.3 uit, met als nieuwe mogelijkheden de letterlijke extractie van tekstfragmenten en downloadbare Apache-2.0-gewichten. Het bedrijf meldt voor het grotere model een gemiddelde nauwkeurigheid van 91,6% over 63 taken voor queryclassificatie, met referenties die onafhankelijk opnieuw zijn gelabeld door een toonaangevend LLM. Dat is 6,54 procentpunt hoger dan bij de productieclassificatiesystemen van het bedrijf.

De nieuwe functie Locate geeft exact overeenkomende tekst terug, met de begin- en eindpositie in tekens, voor herkenning van benoemde entiteiten, detectie van persoonsgegevens en extractieve vraagbeantwoording; als er geen overeenkomst is, wordt een lege lijst teruggegeven. Beide modellen zijn ook beschikbaar via OpenRouter en de Decisions-API van Perplexity.

Decider geeft waarschijnlijkheden terug voor ja-neevragen, aangepaste keuzemogelijkheden of geordende scores, in plaats van proza te genereren. Een toepassing kan meerdere vragen stellen over dezelfde tekst, JSON of afbeeldingen en de resulterende getallen gebruiken voor classificatie, het doorsturen van verzoeken, moderatie, filtering, evaluatie van uitvoer en herordening. Voor deze taken is vaak een beslisdrempel nodig, in plaats van vrije tekstgeneratie.

Wijzigingen in architectuur en training

Decider past generatieve basismodellen aan door de uitvoer van het volgende token te vervangen door een besliskop die bij een markertoken wordt uitgelezen. De kop wordt uitsluitend opgebouwd uit de rijen van het basismodel die horen bij de tokens van de antwoordopties. In v1.3 maakt Perplexity de lagen met volledige aandacht bidirectioneel en zorgt het ervoor dat vragen niet rechtstreeks aandacht aan elkaar besteden, terwijl de gedeelde invoertoestand wel aandacht aan de vragen kan besteden. Dit vervangt de opzet van v1.2, waarin een antwoord kon veranderen afhankelijk van welke andere vragen er werden gesteld, en is bedoeld om antwoorden stabieler te maken.

Bij de training worden honderden openbare datasets omgezet naar een gedeeld formaat met een toestand, vraag, opties en doelwaarde. Bij de generalistische fijnafstemming worden de trainingssplits van benchmarks uitgesloten. Perplexity zegt ook voorbeelden te verwijderen die mogelijk overlappen met de eigen evaluaties. Voor de latere specialisatie per domein en voor beeldverwerking wordt LoRA gebruikt: een methode waarbij de vooraf getrainde gewichten worden bevroren en geïnjecteerde matrices voor rangdecompositie worden getraind. Perplexity gebruikt gewogen samenvoegingen van adapters om afwijkingen te beheersen en neemt voor de tekstfasen het gemiddelde van de gewichten uit drie runs.

Flash wordt vervolgens gedistilleerd uit het grotere model. Daarbij wordt KL-divergentie gebruikt om het verschil tussen de uitvoerwaarschijnlijkheden van Flash en die van het grotere model als leraar te verkleinen, in plaats van Flash alleen van gouden labels te laten leren. De modelkaart van Decider v1.3 vermeldt een Qwen3.8-27B-basismodel en ongeveer 49 GiB aan BF16-gewichten; de kaart van Decider Flash v1.3 vermeldt Qwen3.5-4B en ongeveer 8,5 GiB. Voor zelfhosting van een van beide modellen is een CUDA-GPU nodig, evenals werkgeheugen naast het geheugen dat de gewichten innemen. Flash vraagt daardoor minder van de hardware.

Limieten voor het gebruik van Locate

Locate werkt alleen met tekst en is beperkt tot 128 Locate-vragen per verzoek. Bij verzoeken waarin Locate-vragen worden gecombineerd met beslisvragen zijn voor elk type afzonderlijke forward passes nodig. Daardoor neemt de latentie toe ten opzichte van verzoeken met slechts één type vraag.

Perplexity houdt de Locate-adapters apart, omdat het samenvoegen ervan tot slechtere resultaten leidde bij gewone beslisverzoeken; ze worden alleen geactiveerd voor Locate-verzoeken. Door dit ontwerp blijft het bestaande beslisgedrag behouden, maar gemengde workloads kunnen niet volledig dezelfde berekening delen.

Evaluatie en gebruik in productie

De interne evaluatieset van Perplexity bevat meer dan 200 taken en wordt zero-shot uitgevoerd, zonder taakspecifieke fijnafstemming. Naast openbare ranglijsten gebruikt het bedrijf ook besloten productietaken en evaluaties op achtergehouden gegevens uit openbare datasets die geen benchmarkdatasets zijn, om te controleren of het model ook buiten bekende evaluatiesets goed generaliseert.

Over 72 ophaaltaken meldt het bedrijf voor zero-shot pointwise-herordening een gemiddelde nDCG@10-score van 83,99. Daarbij wordt elk query-documentpaar afzonderlijk beoordeeld. Daarmee ligt de score 1,81 punten hoger dan die van Qwen3-Reranker-8B.

Voor een controle in productie selecteerde Perplexity één miljoen ontdubbelde API-verzoeken uit de eerste 18 dagen dat de API beschikbaar was, waarbij persoonsgegevens waren afgeschermd. De steekproef omvatte 2.318.887 afzonderlijke vragen, die allemaal met expliciete toestemming van de gebruikers voor onderzoek waren opgenomen. Omdat productieaanvragen geen labels met de juiste antwoorden bevatten, leverden geavanceerde LLM-beoordelaars de referentieantwoorden.

Perplexity meldt dat v1.3 in 93,98% van de gevallen overeenkwam met de beoordelingen van die beoordelaars, tegenover 93,68% voor v1.2. Het verschil is bescheiden. De maatstaf geeft aan in hoeverre het model overeenkomt met door modellen gegenereerde referenties, niet hoe nauwkeurig het is ten opzichte van labels met de juiste antwoorden.

Voor dezelfde steekproef van verzoeken meldt Perplexity kosten van $26,47 voor Decider v1.3 en $13,24 voor Flash. Decider draaide lokaal. Bij de vergelijking wordt niet vermeld hoe de hardwarekosten van lokaal gebruik zijn meegerekend en worden geen latentiegegevens bij gelijke omstandigheden gegeven. De cijfers gelden dus voor deze workload en tonen geen universeel kosten- of snelheidsvoordeel aan.

Perplexity gebruikt Decider ook offline om beveiligingslogboeken van agents te controleren op gemiste problemen en foutmeldingen. Op één gerapporteerde dag verwerkte het 1 miljard tokens over 7.000 agentsessies en bracht het tekortkomingen aan het licht die leidden tot 14 voorgestelde aanpassingen van regels. Zes daarvan werden goedgekeurd en binnen twee dagen doorgevoerd. Toen een week aan logboeken opnieuw werd verwerkt met de aanpassingen, daalde het volume van de drukste regel met 52%. Tegelijkertijd vingen verruimde regels ongeveer 40% meer legitieme acties op die onderzocht moesten worden.

Een tweede intern systeem slaat waarschijnlijkheden op over fouten bij reinforcement learning en interpretaties van agents, zodat drempelwaarden kunnen veranderen zonder nieuwe query’s naar Decider. Het systeem observeert en stelt alleen diagnoses; het verandert nooit beloningen en stopt nooit uitvoeringen. Decider filtert ook pagina’s van lage kwaliteit die zijn gecrawld, en beoordeelt daarbij in dezelfde stap de doelgroep, het domein, schadelijke of illegale inhoud en persoonsgegevens.

Perplexity raadt aan beslisdrempels af te stemmen op representatieve voorbeelden met labels, omdat de frequentie van labels en de kosten van fout-positieven en fout-negatieven per toepassing verschillen. Het bedrijf positioneert het volledige model voor genuanceerde beoordelingen waarbij fouten kostbaar zijn, en Flash voor werk met een hoog volume waarbij de latentie en kosten beperkt moeten blijven.

De brede inzetbaarheid van Decider brengt dus ook implementatieverplichtingen met zich mee: voor dezelfde waarschijnlijkheden die het model herbruikbaar maken voor uiteenlopende taken, zijn nog steeds toepassingsspecifieke drempelwaarden nodig, en de extra extractiemogelijkheid van Locate vergt meer rekenkracht bij gemengde verzoeken.