Baseten adaugă DeepSeek-V4.1-Flash la API-urile de modele cu context de 1M-token

DeepSeek-V4.1-Flash este disponibil acum pe API-urile de modele Baseten, Baseten a anunțat pe 11 septembrie 2026, aducând modelul multimodal cu 552B parametri și arhitectură mixture-of-experts (MoE), care combină 8B parametri activi pentru prefill cu 16B pentru decode pe o fereastră de context de 1M-token, pe platforma furnizorului de inferență.

DeepSeek a publicat greutățile deschise ale modelului pe Hugging Face, iar Anunțul propriu al DeepSeek este datat 10 septembrie 2026. Modelul acceptă intrări text și imagine și generează ieșire text, iar fișa modelului afirmă că depozitul și greutățile sunt licențiate sub Licența MIT. Baseten descrie V4.1-Flash ca fiind a treia lansare flash cu greutate deschisă a lui DeepSeek din 2026 și ca singurul model de această scară care folosește ceea ce DeepSeek numește o arhitectură Causal Encoder-Decoder. Suportul pentru produsul de antrenament Loops de la Baseten va fi disponibil în curând, conform companiei.

Rezultatele benchmark raportate

Fișa modelului raportează rezultate instruct-model la setarea maximă de efort de raționament de 100: V4.1-Flash obține 90.6 la Terminal-Bench 2.1, comparativ cu 82.7 pentru V4-Flash și 87.9 pentru V4-Pro; 74.2 la DeepSWE v1.1, comparativ cu 54.4 și 62.7; și 54.8 la AutomationBench, comparativ cu 37.7 și 43.2. Baseten a evidențiat aceleași cifre pentru codare și agenți, afirmând că V4.1-Flash depășește V4-Pro cu aproximativ o treime din totalul parametrilor, avertizând totuși că un scor de 54.8 la AutomationBench înseamnă că modelul eșuează în aproximativ jumătate din fluxurile de lucru complexe și sfătuind echipele să mențină un om în buclă pentru conductele de agenți.

În comparația din fișă cu modelele de frontieră la efort maxim, V4.1-Flash înregistrează 90.9 la GPQA Diamond, o evaluare Codeforces de 3471, și 63.9 la HLE cu instrumente. Baseten afirmă că V4.1-Flash este primul model non-experimental al DeepSeek cu intrare imagine nativă, o capabilitate anterior limitată la modelul experimental V4-Flash-Vision-Exp; tabelul său raportează 78.9 la Chartography și 49 la ZeroBench pentru noul model, comparativ cu 64.3 și 35 pentru cel experimental.

Arhitectura Causal Encoder-Decoder

Conform fișei modelului, V4.1-Flash organizează un Transformer de 40 de straturi ca un encoder cauzal de 20 de straturi urmat de un decoder de 20 de straturi, cu memoria globală cheie-valoare (KV) a decoderului proiectată din stările ascunse finale ale encoderului, în loc să fie derivată din stările ascunse ale fiecărui strat al decoderului. Designul activează 8B parametri per token în timpul prefill și 16B în timpul decode; Baseten contrastează aceasta cu V4-Flash, care activează 13B pentru ambele etape, prezentând schimbarea ca o înlocuire a unei decodări mai grele cu o preumplere mult mai ușoară, o configurație pe care Baseten a declarat că sporește eficiența costurilor pentru agenții de codare ale căror bucle agențiale generează mult mai multe tokeni de prefill decât tokeni de decode.

Fișa raportează că Compressed Sparse Attention 2 al modelului atribuie fiecărui strat de atenție unul dintre cele trei moduri statice (Full, Reindex sau Reuse), cu un Hierarchical Sparse Indexer în decoder care limitează costul de indexare mai profund independent de lungimea contextului. Combinate cu cache-ul principal KV FP4, aceste designuri reduc memoria globală KV la 890 bytes per token, aproximativ un sfert din V4-Flash, conform fișei. Un mecanism separat, SWA Bounded Replay, reconstruiește stările KV ale atenției cu fereastră glisantă lipsă prin redarea doar a celor mai recente tokeni, reducând amprenta KV persistentă la aproximativ un sfert din V4-Flash. Anunțul DeepSeek estimează economiile la un sfert din HBM și o optime din stocarea SSD a generației anterioare.

Fiecare strat MoE folosește un expert partajat și 384 de experți direcționați, cu șase experți direcționați activi per token, iar modelul adaugă memorie condițională Engram cu 196B parametri alături de decodarea speculativă DSpark, conform fișei. DeepSeek a antrenat modelul de la zero pe un corpus multimodal de 45T-token, a antrenat atenția sa rară la o lungime de secvență de 64K și a extins contextul la 1M token la 34T token. Post-antrenamentul urmează o reglare fină supravegheată standard, învățare prin întărire, și o secvență de distilare on-policy, cu schimbări substanțiale concentrate în sinteza automată la scară largă a sarcinilor și mediilor agenților, iar modelul expune o setare de efort de raționament controlabilă continuu de la 1 la 100.

Tranziția API DeepSeek și Servirea Baseten

DeepSeek declară că V4-Flash și V4-Flash-Vision-Exp sunt retrase de pe platforma sa, iar denumirile vechi ale modelelor API sunt redirecționate temporar către V4.1-Flash pentru compatibilitate. Noua tarifare a API-ului a intrat în vigoare la ora 04:00 UTC pe 10 septembrie 2026, cu tarifele în afara orelor de vârf stabilite la 50% din tarifele de vârf, iar DeepSeek numește partenerii oficiali WorkBuddy (inclusiv CodeBuddy) și OpenCode ca susținând pe deplin V4.1-Flash.

Baseten a declarat că stiva sa de Inferență servește modelul utilizând NVIDIA Dynamo cu rutare conștientă de cache-ul KV, direcționând fiecare cerere către replica care deține deja prefixul său, în loc de orice replica liberă. Modelul este oferit prin Biblioteca de modele a Baseten, cu implementări dedicate disponibile pentru echipele care necesită capacitate rezervată.

Începând cu ora 04:00 UTC pe 14 septembrie 2026, toate cererile deepseek-v4-pro vor fi redirecționate către V4.1-Flash la tarifele V4.1-Flash, o aranjare pe care DeepSeek a declarat că va continua până la lansarea V4.1-Pro; laboratorul a afirmat că testele efectuate de mai multe părți au plasat V4.1-Flash înaintea V4-Pro în ceea ce privește performanța, costul, viteza și timpul total de execuție.