Perplexity veröffentlicht Decider-Modelle V1.3 mit Extraktion von Textabschnitten

Perplexity veröffentlichte am 12. November 2026 Decider v1.3 und Decider Flash v1.3. Neu hinzugekommen sind die wortgetreue Extraktion von Textabschnitten und herunterladbare Gewichte unter Apache-2.0-Lizenz. Das Unternehmen gibt für das größere Modell eine durchschnittliche Genauigkeit von 91,6 % bei 63 Aufgaben zur Klassifizierung von Anfragen an. Die Referenzantworten dafür wurden unabhängig von einem führenden LLM neu zugeordnet. Damit liegt das Modell 6,54 Prozentpunkte über den Produktionsklassifikatoren des Unternehmens.

Die neue Funktion Locate liefert exakt übereinstimmenden Text zusammen mit den Zeichenpositionen von Anfang und Ende. Sie kann für die Erkennung benannter Entitäten, die Erkennung personenbezogener Informationen und die extraktive Beantwortung von Fragen verwendet werden. Gibt es keine Übereinstimmung, wird eine leere Liste zurückgegeben. Beide Modelle sind auch über OpenRouter und die Decisions API von Perplexity verfügbar.

Decider gibt Wahrscheinlichkeiten für Ja-Nein-Fragen, benutzerdefinierte Auswahlmöglichkeiten oder geordnete Bewertungen zurück, anstatt Fließtext zu erzeugen. Eine Anwendung kann mehrere Fragen zum selben Text, JSON oder Bild stellen und die resultierenden Zahlen für Klassifizierung, Anfrageweiterleitung, Moderation, Filterung, Bewertung von Ausgaben und Reranking nutzen. Für solche Aufgaben ist häufig ein Entscheidungsschwellenwert erforderlich statt einer freien Textgenerierung.

Änderungen an Architektur und Training

Decider passt generative Backbones an, indem es die Ausgabe des jeweils nächsten Tokens durch einen Entscheidungskopf ersetzt, der an einem Markertoken ausgelesen wird. Der Kopf wird zunächst ausschließlich aus den Zeilen des Basismodells gebildet, die den Antwortoptionen-Tokens zugeordnet sind. In v1.3 macht Perplexity die Schichten mit vollständiger Aufmerksamkeit bidirektional und schirmt die Fragen so voneinander ab, dass sie sich nicht direkt gegenseitig berücksichtigen. Gleichzeitig kann der gemeinsame Eingabezustand die Fragen berücksichtigen. Damit wird die Anordnung aus v1.2 ersetzt, bei der sich eine Antwort je nachdem ändern konnte, welche weiteren Fragen gestellt wurden. Die neue Anordnung soll für stabilere Antworten sorgen.

Beim Training werden Hunderte öffentlicher Datensätze in ein einheitliches Format aus Zustand, Frage, Antwortoptionen und Zielwert überführt. Beim allgemeinen Fine-Tuning werden die Trainingsaufteilungen der Benchmarks ausgeschlossen. Perplexity zufolge entfernt das Unternehmen außerdem Beispiele, die sich mit seinen Evaluierungen überschneiden könnten. Für die anschließende Spezialisierung auf bestimmte Fachgebiete und auf Bildverarbeitung kommt LoRA zum Einsatz. Bei dieser Methode bleiben die vortrainierten Gewichte eingefroren, während zusätzlich eingefügte Rangzerlegungsmatrizen trainiert werden. Um Abweichungen zu begrenzen, führt Perplexity gewichtete Adapter zusammen und mittelt für die Textphasen die Gewichte aus drei Trainingsläufen.

Flash wird anschließend aus dem größeren Modell destilliert. Dabei kommt die KL-Divergenz zum Einsatz, um den Unterschied zwischen seinen Ausgabewahrscheinlichkeiten und denen des Lehrermodells zu verringern, statt ausschließlich anhand von Goldlabels zu lernen. Die Modellkarte von Decider v1.3 nennt ein Qwen3.8-27B-Backbone und rund 49 GiB BF16-Gewichte; die Karte von Decider Flash v1.3 nennt Qwen3.5-4B und rund 8,5 GiB. Für den Selbstbetrieb beider Modelle sind eine CUDA-GPU und zusätzlicher Arbeitsspeicher über den Speicherbedarf der Gewichte hinaus erforderlich. Flash stellt somit geringere Hardwareanforderungen.

Bereitstellungsgrenzen von Locate

Locate verarbeitet ausschließlich Text und ist auf 128 Locate-Fragen pro Anfrage begrenzt. Anfragen, die Locate mit Entscheidungsfragen kombinieren, erfordern für jeden der beiden Typen einen separaten Vorwärtsdurchlauf. Das erhöht die Latenz gegenüber Anfragen, die nur einen Typ enthalten.

Perplexity führt die Locate-Adapter nicht mit den übrigen zusammen, da eine Zusammenführung bei gewöhnlichen Entscheidungsanfragen zu Leistungseinbußen führte. Sie werden nur bei Locate-Anfragen aktiviert. Dieses Design bewahrt das bisherige Entscheidungsverhalten, doch bei gemischten Arbeitslasten lässt sich die Berechnung nicht vollständig gemeinsam nutzen.

Evaluierung und Einsatz in der Produktion

Die interne Evaluierungssuite von Perplexity umfasst mehr als 200 Aufgaben und wird im Zero-Shot-Verfahren, also ohne aufgabenspezifisches Fine-Tuning, ausgeführt. Ergänzend zu öffentlichen Ranglisten nutzt das Unternehmen private Produktionsaufgaben und zurückgehaltene Evaluierungen aus öffentlichen Datensätzen, die nicht für Benchmarks verwendet werden. So soll geprüft werden, ob sich die Ergebnisse auch auf Aufgaben außerhalb vertrauter Evaluierungssuiten übertragen lassen.

Bei 72 Retrieval-Aufgaben gibt das Unternehmen für das Zero-Shot-Punkt-Reranking einen durchschnittlichen nDCG@10-Wert von 83,99 an. Dabei wird jedes Anfrage-Dokument-Paar unabhängig bewertet. Damit liegt das Modell 1,81 Punkte über Qwen3-Reranker-8B.

Für eine Überprüfung im Produktionseinsatz zog Perplexity eine Stichprobe von einer Million deduplizierter API-Anfragen aus den ersten 18 Tagen der API-Verfügbarkeit. Dabei wurden personenbezogene Informationen unkenntlich gemacht. Die Stichprobe umfasste 2.318.887 einzelne Fragen, die alle mit ausdrücklicher Zustimmung der Nutzer zu Forschungszwecken einbezogen wurden. Da für Produktionsanfragen keine Ground-Truth-Labels vorliegen, lieferten führende LLMs als Beurteilungsinstanzen die Referenzantworten.

Perplexity zufolge stimmt v1.3 in 93,98 % der Fälle mit diesen Beurteilungsinstanzen überein, gegenüber 93,68 % bei v1.2. Der Unterschied ist gering. Die Kennzahl erfasst die Übereinstimmung mit von Modellen generierten Referenzen und nicht die Genauigkeit im Vergleich mit Ground-Truth-Labels.

Für dieselbe Stichprobe von Anfragen gibt Perplexity Kosten von 26,47 US-Dollar für Decider v1.3 und 13,24 US-Dollar für Flash an. Decider lief lokal. Im Vergleich werden weder die Kosten der lokalen Hardware berücksichtigt noch Werte für einen Latenzvergleich unter gleichen Bedingungen angegeben. Die Zahlen beschreiben daher diese Arbeitslast und keinen allgemeinen Kosten- oder Geschwindigkeitsvorteil.

Perplexity setzt Decider außerdem offline ein, um Sicherheitsprotokolle von Agenten auf übersehene Probleme und Fehlalarme zu prüfen. An einem der berichteten Tage verarbeitete das System 1 Milliarde Tokens über 7.000 Agentensitzungen hinweg und identifizierte Schwachstellen, die zu 14 vorgeschlagenen Regelkorrekturen führten. Sechs davon wurden genehmigt und innerhalb von zwei Tagen umgesetzt. Bei der erneuten Auswertung einer Woche Protokolle mit den Korrekturen sank das Volumen der am häufigsten ausgelösten Regel um 52 %, während weiter gefasste Regeln rund 40 % mehr legitime, zu untersuchende Aktionen erfassten.

Ein zweites internes System speichert Wahrscheinlichkeiten zu Fehlern beim Reinforcement Learning und zu Interpretationen der Agenten. Dadurch können Schwellenwerte angepasst werden, ohne Decider erneut abfragen zu müssen. Es beobachtet und diagnostiziert lediglich, verändert aber niemals Belohnungen oder stoppt Durchläufe. Decider filtert außerdem beim selben Durchlauf minderwertige gecrawlte Seiten und prüft dabei Zielgruppe, Domain, schädliche oder illegale Inhalte sowie personenbezogene Daten.

Perplexity empfiehlt, Entscheidungsschwellen anhand repräsentativer, gelabelter Beispiele zu kalibrieren, da die Häufigkeit der Labels und die Kosten falsch positiver und falsch negativer Ergebnisse je nach Anwendung variieren. Das Unternehmen sieht das vollständige Modell für differenzierte Beurteilungen vor, bei denen Fehler kostspielig sind, und Flash für Aufgaben mit hohem Volumen, bei denen Latenz und Kosten Grenzen setzen.

Die Vielseitigkeit von Decider geht daher mit einem höheren Bereitstellungsaufwand einher: Dieselben Wahrscheinlichkeiten, die den Einsatz für verschiedene Aufgaben ermöglichen, erfordern weiterhin anwendungsspezifische Schwellenwerte, und die zusätzliche Extraktionsfunktion von Locate verursacht bei gemischten Anfragen weiteren Rechenaufwand.