Baseten erweitert Model APIs um DeepSeek-V4.1-Flash mit 1 Mio‑Token‑Kontext

DeepSeek-V4.1-Flash ist jetzt auf den Baseten Model APIs verfügbar, Baseten kündigte an am 11. September 2026, und bringt das 552‑Mrd‑Parameter‑multimodale Mixture‑of‑Experts‑Modell (MoE) ein, das 8 Mrd aktive Parameter für das Vorbefüllen mit 16 Mrd für das Dekodieren über ein 1‑Mio‑Token‑Kontextfenster kombiniert, zur Inferenz‑Plattform des Anbieters.

DeepSeek hat die offenen Gewichte des Modells auf Hugging Face veröffentlicht, und DeepSeeks eigene Ankündigung ist auf den 10. September 2026 datiert. Das Modell akzeptiert Text‑ und Bildeingaben und erzeugt Textausgabe, und die Modelkarte gibt an, dass das Repository und die Gewichte unter der MIT‑Lizenz stehen. Baseten beschreibt V4.1-Flash als DeepSeeks dritte Open‑Weight‑Flash‑Veröffentlichung im Jahr 2026 und als das einzige Modell seiner Größenordnung, das die von DeepSeek genannte Causal Encoder‑Decoder‑Architektur verwendet. Laut dem Unternehmen wird die Unterstützung für Basetens Loops‑Training‑Produkt in Kürze verfügbar sein.

Berichtete Benchmark‑Ergebnisse

Die Modelkarte berichtet Instruktions‑Modell‑Ergebnisse bei der maximalen Reasoning‑Aufwand‑Einstellung von 100: V4.1-Flash erzielt 90,6 bei Terminal‑Bench 2.1, verglichen mit 82,7 für V4‑Flash und 87,9 für V4‑Pro; 74,2 bei DeepSWE v1.1, verglichen mit 54,4 bzw. 62,7; und 54,8 bei AutomationBench, verglichen mit 37,7 und 43,2. Baseten hob dieselben Coding‑ und Agentur‑Kennzahlen hervor und sagte, V4.1-Flash übertrifft V4‑Pro mit etwa einem Drittel der Gesamtparameter, warnte jedoch, dass ein Wert von 54,8 bei AutomationBench bedeutet, dass das Modell etwa die Hälfte komplexer Workflows scheitert, und riet Teams, einen Menschen in der Schleife für Agent‑Pipelines zu behalten.

Im Vergleich der Karte mit Frontier‑Modellen bei maximalem Aufwand erzielt V4.1-Flash 90,9 bei GPQA Diamond, eine Codeforces‑Bewertung von 3471, und 63,9 bei HLE mit Werkzeugen. Baseten gibt an, dass V4.1-Flash DeepSeeks erstes nicht‑experimentelles Modell mit nativer Bildeingabe ist, eine Fähigkeit, die zuvor nur dem experimentellen V4‑Flash‑Vision‑Exp vorbehalten war; seine Tabelle zeigt 78,9 bei Chartography und 49 bei ZeroBench für das neue Modell im Vergleich zu 64,3 bzw. 35 für das experimentelle.

Causal Encoder‑Decoder‑Architektur

Laut der Modelkarte organisiert V4.1-Flash einen 40‑schichtigen Transformer als 20‑schichtigen Causal‑Encoder, gefolgt von einem 20‑schichtigen Decoder, wobei der globale Schlüssel‑Wert‑Cache (KV‑Cache) des Decoders aus den finalen Encoder‑Hidden‑States projiziert wird, anstatt aus den jeweiligen Hidden‑States jeder Decoder‑Schicht abgeleitet zu werden. Das Design aktiviert 8 Mrd Parameter pro Token während des Vorbefüllens und 16 Mrd während des Dekodierens; Baseten stellt demgegenüber V4‑Flash, das für beide Schritte 13 Mrd aktiviert, und beschreibt die Änderung als Austausch eines schwereren Dekodierens gegen ein wesentlich leichteres Vorbefüllen, ein Setup, das Baseten zufolge die Kosteneffizienz für Coding‑Agenten erhöht, deren agentur‑Schleifen deutlich mehr Vorbefüll‑Tokens als Dekodier‑Tokens erzeugen.

Die Karte berichtet, dass das Compressed‑Sparse‑Attention‑2 des Modells jeder Aufmerksamkeits‑Schicht einen von drei statischen Modi (Full, Reindex oder Reuse) zuweist, wobei ein Hierarchical‑Sparse‑Indexer im Decoder die tiefergehenden Indexierungskosten unabhängig von der Kontextlänge begrenzt. Kombiniert mit dem FP4‑Haupt‑KV‑Caching reduzieren diese Designs den globalen KV‑Cache auf 890 Byte pro Token, etwa ein Viertel von V4‑Flash, so die Karte. Ein separater Mechanismus, SWA Bounded Replay, rekonstruiert fehlende Sliding‑Window‑Attention‑KV‑Zustände, indem nur die neuesten Tokens wiederholt werden, und reduziert den dauerhaften KV‑Fußabdruck auf etwa ein Achtel von V4‑Flash. DeepSeeks Ankündigung gibt die Einsparungen mit einem Viertel des HBM‑ und einem Achtel des SSD‑Speichers der vorherigen Generation an.

Jede MoE‑Schicht verwendet einen gemeinsamen Experten und 384 geroutete Experten, wobei pro Token sechs geroutete Experten aktiv sind, und das Modell fügt Engram‑bedingten Speicher mit 196 Mrd Parameter zusammen mit DSpark‑spekulativer Dekodierung hinzu, laut der Karte. DeepSeek hat das Modell von Grund auf auf einem 45 T‑Token‑multimodalen Korpus trainiert, seine spärliche Aufmerksamkeit bei einer Sequenzlänge von 64 K trainiert und den Kontext auf 1 Mio‑Token bei 34 T‑Token erweitert. Das Nach‑Training folgt einem standardmäßigen überwachten Feintuning, Verstärkungslernen, und einer On‑Policy‑Distillationssequenz, wobei wesentliche Änderungen in der groß‑skaligen automatisierten Synthese von Agent‑Aufgaben und -Umgebungen konzentriert sind, und das Modell stellt eine kontinuierlich steuerbare Reasoning‑Effort‑Einstellung von 1 bis 100 bereit.

DeepSeek‑API‑Transition und Baseten‑Bereitstellung

DeepSeek gibt an, dass V4‑Flash und V4‑Flash‑Vision‑Exp auf seiner Plattform eingestellt werden, wobei die alten API‑Modellnamen vorübergehend zu V4.1‑Flash für die Kompatibilität weitergeleitet werden. Die neue API‑Preisgestaltung trat am 10. September 2026 um 04:00 UTC in Kraft, wobei die Off‑Peak‑Tarife bei 50 % der Spitzenpreise liegen, und DeepSeek nennt die offiziellen Partner WorkBuddy (inklusive CodeBuddy) und OpenCode als voll unterstützend für V4.1‑Flash.

Baseten sagte, sein Inference-Stack bedient das Modell mit NVIDIA Dynamo und KV‑Cache‑bewusster Weiterleitung, wobei jede Anfrage zur Replik, die bereits das Präfix hält, geleitet wird, anstatt zu einer freien Replik. Das Modell wird über Basetens Model Library angeboten, wobei dedizierte Deployments für Teams verfügbar sind, die reservierte Kapazität benötigen.

Ab dem 14. September 2026 um 04:00 UTC werden alle deepseek‑v4‑pro‑Anfragen zu V4.1‑Flash zu V4.1‑Flash‑Tarifen weitergeleitet, eine Regelung, die DeepSeek angab, bis zum Start von V4.1‑Pro fortzusetzen; das Labor sagte, Tests mehrerer Parteien hätten V4.1‑Flash in Bezug auf Leistung, Kosten, Geschwindigkeit und Gesamtlaufzeit gegenüber V4‑Pro voraus.