Baseten přidává DeepSeek-V4.1-Flash do Model API s kontextem 1 M tokenů

DeepSeek-V4.1-Flash je nyní k dispozici na Baseten Model APIs, Baseten oznámil 11. září 2026, přinášející multimodální model s 552 B parametry a architekturou mixture-of-experts (MoE), který spojuje 8 B aktivních parametrů pro předvyplnění s 16 B pro dekódování v rámci kontextového okna o velikosti 1 M tokenů, na platformu poskytovatele inference.

DeepSeek zveřejnil otevřené váhy modelu na Hugging Face a vlastní oznámení DeepSeek je datováno 10. září 2026. Model přijímá textové i obrazové vstupy a generuje textový výstup a karta modelu uvádí, že repozitář a váhy jsou licencovány pod licencí MIT. Baseten popisuje V4.1-Flash jako třetí otevřenou flash verzi DeepSeek v roce 2026 a jako jediný model této velikosti, který používá to, co DeepSeek nazývá architekturou Causal Encoder-Decoder. Podpora pro tréninkový produkt Baseten Loops bude brzy k dispozici, podle společnosti.

Uvedené výsledky benchmarků

Karta modelu uvádí výsledky instruct-model při maximálním nastavení úsilí rozvažování 100: V4.1-Flash dosahuje 90,6 v Terminal-Bench 2.1, oproti 82,7 u V4-Flash a 87,9 u V4-Pro; 74,2 v DeepSWE v1.1, oproti 54,4 a 62,7; a 54,8 v AutomationBench, oproti 37,7 a 43,2. Baseten zdůraznil stejné ukazatele kódování a agentnosti a uvedl, že V4.1-Flash překonává V4-Pro s přibližně třetinou celkových parametrů, přičemž varoval, že 54,8 v AutomationBench znamená, že model selže přibližně v polovině složitých pracovních postupů, a radí týmům, aby u agentních pipeline měli člověka v cyklu.

V porovnání karty s špičkovými modely při maximálním úsilí V4.1-Flash dosahuje 90,9 v GPQA Diamond, hodnocení Codeforces 3471, a 63,9 v HLE s nástroji. Baseten uvádí, že V4.1-Flash je první neexperimentální model DeepSeek s nativním vstupem obrazu, schopnost dříve omezena na experimentální V4-Flash-Vision-Exp; jeho tabulka uvádí 78,9 v Chartography a 49 v ZeroBench pro nový model, oproti 64,3 a 35 pro experimentální verzi.

Architektura Causal Encoder-Decoder

Podle karty modelu V4.1-Flash organizuje 40vrstvý Transformer jako 20vrstvý kauzální enkodér následovaný 20vrstvým dekodérem, přičemž globální KV cache dekodéru je projekována z posledních skrytých stavů enkodéru místo odvození z vlastních skrytých stavů každé vrstvy dekodéru. Design aktivuje 8 B parametrů na token během předvyplnění a 16 B během dekódování; Baseten to kontrastuje s V4-Flash, který aktivuje 13 B pro oba kroky, přičemž změnu popisuje jako výměnu těžšího dekódování za mnohem lehčí předvyplnění, nastavení, o kterém Baseten tvrdí, že zvyšuje nákladovou efektivitu pro kódovací agenty, jejichž agentní smyčky generují mnohem více tokenů předvyplnění než dekódovacích tokenů.

Karta uvádí, že Compressed Sparse Attention 2 modelu přiřazuje každé vrstvě pozornosti jeden ze tří statických režimů (Full, Reindex nebo Reuse), s hierarchickým Sparse Indexerem v dekodéru omezujícím náklady na hlubší indexování nezávisle na délce kontextu. V kombinaci s hlavním KV cachováním FP4 tyto návrhy snižují globální KV cache na 890 bajtů na token, což je přibližně čtvrtina V4-Flash, uvádí karta. Samostatný mechanismus SWA Bounded Replay rekonstruuje chybějící stavy KV pro posuvné okno pozornosti přehráváním pouze nejnovějších tokenů, čímž snižuje trvalou KV stopu na přibližně jednu osminu V4-Flash. DeepSeekovo oznámení uvádí úsporu na čtvrtinu HBM a jednu osminu SSD úložiště předchozí generace.

Každá MoE vrstva používá jednoho sdíleného experta a 384 směrovaných expertů se šesti aktivními směrovanými experty na token, a model přidává podmíněnou paměť Engram s 196 B parametry vedle spekulativního dekódování DSpark, podle karty. DeepSeek trénoval model od nuly na multimodálním korpusu o velikosti 45 T tokenů, trénoval jeho řídkou pozornost při délce sekvence 64 K a rozšířil kontext na 1 M tokenů při 34 T tokenů. Po tréninku následuje standardní supervizní dolaďování, posilovací učení, a sekvence distilace na politice, přičemž podstatné změny jsou soustředěny v rozsáhlé automatizované syntéze úkolů a prostředí agentů, a model poskytuje kontinuálně nastavitelný stupeň úsilí rozvažování od 1 do 100.

Přechod API DeepSeek a služby Baseten

DeepSeek uvádí, že V4-Flash a V4-Flash-Vision-Exp jsou na jeho platformě ukončeny, přičemž stará jména modelů API jsou dočasně směrována na V4.1-Flash pro kompatibilitu. Nové ceny API vstoupily v platnost 04:00 UTC 10. září 2026, s mimošpičkovými sazbami nastavenými na 50 % špičkových sazeb, a DeepSeek uvádí oficiální partnery WorkBuddy (včetně CodeBuddy) a OpenCode jako plně podporující V4.1-Flash.

Baseten uvedl, že jeho Inference Stack obsluhuje model pomocí NVIDIA Dynamo s KV cache‑aware směrováním, nasměrovávajíc každý požadavek na repliku, která již obsahuje jeho prefix, místo na libovolnou volnou repliku. Model je nabízen prostřednictvím Baseten Model Library, s dedikovanými nasazeními dostupnými pro týmy potřebující rezervovanou kapacitu.

Od 04:00 UTC 14. září 2026 budou všechny požadavky deepseek-v4-pro směrovány na V4.1-Flash za sazby V4.1-Flash, uspořádání, o kterém DeepSeek uvedl, že bude pokračovat až do spuštění V4.1-Pro; laboratoř uvedla, že testy několika stran umístily V4.1-Flash před V4-Pro z hlediska výkonu, nákladů, rychlosti a celkové doby běhu.