Baseten dodaje DeepSeek-V4.1-Flash do interfejsów API modeli z kontekstem 1M-token

DeepSeek-V4.1-Flash jest już dostępny w interfejsach API modeli Baseten, Baseten ogłosiło 11 września 2026 r., wprowadzając multimodalny model mieszanki ekspertów (MoE) o 552B parametrów, który łączy 8B aktywnych parametrów podczas wstępnego wypełniania z 16B przy dekodowaniu w oknie kontekstowym 1M-token, na platformę dostawcy wnioskowania.

DeepSeek udostępnił otwarte wagi modelu na platformie Hugging Face, a własne ogłoszenie DeepSeek datowane jest na 10 września 2026 r. Model przyjmuje wejścia tekstowe i graficzne oraz generuje wyjście tekstowe, a karta modelu stwierdza, że repozytorium i wagi są licencjonowane na licencji MIT. Baseten opisuje V4.1-Flash jako trzeci otwarto‑wagowy wydanie flash DeepSeek w 2026 roku oraz jako jedyny model tej skali wykorzystujący to, co DeepSeek nazywa architekturą Causal Encoder-Decoder. Według firmy wsparcie dla produktu szkoleniowego Baseten Loops pojawi się wkrótce.

Zgłoszone wyniki benchmarków

Karta modelu podaje wyniki modelu instrukcyjnego przy maksymalnym ustawieniu wysiłku rozumowania równym 100: V4.1-Flash uzyskuje 90,6 w Terminal-Bench 2.1, w porównaniu z 82,7 dla V4-Flash i 87,9 dla V4-Pro; 74,2 w DeepSWE v1.1, w porównaniu z 54,4 i 62,7; oraz 54,8 w AutomationBench, w porównaniu z 37,7 i 43,2. Baseten podkreśliło te same wyniki kodowania i agentowe, stwierdzając, że V4.1-Flash przewyższa V4-Pro przy około jednej trzeciej łącznej liczby parametrów, jednocześnie ostrzegając, że wynik 54,8 w AutomationBench oznacza, że model nie radzi sobie z około połową złożonych przepływów pracy, i zaleca zespołom utrzymanie człowieka w pętli w pipeline’ach agentów.

W porównaniu karty z modelami czołowymi przy maksymalnym wysiłku, V4.1-Flash uzyskuje 90,9 w GPQA Diamond, rating Codeforces 3471, oraz 63,9 w HLE z narzędziami. Baseten stwierdza, że V4.1-Flash jest pierwszym modelem DeepSeek nie‑eksperymentalnym z natywnym wejściem obrazu, funkcją dotychczas ograniczoną do eksperymentalnego V4-Flash-Vision-Exp; w jego tabeli podano 78,9 w Chartography i 49 w ZeroBench dla nowego modelu, w porównaniu z 64,3 i 35 dla wersji eksperymentalnej.

Architektura przyczynowego enkodera-dekodera

Zgodnie z kartą modelu, V4.1-Flash organizuje 40‑warstwowy Transformer jako 20‑warstwowy przyczynowy enkoder, po którym następuje 20‑warstwowy dekoder, przy czym globalna pamięć klucz‑wartość (KV) dekodera jest projekcją końcowych ukrytych stanów enkodera, a nie wyprowadzana z własnych ukrytych stanów każdej warstwy dekodera. Projekt aktywuje 8 miliardów parametrów na token podczas wstępnego wypełniania i 16 miliardów podczas dekodowania; Baseten zestawia to z V4-Flash, który aktywuje 13 miliardów w obu krokach, opisując zmianę jako zamianę cięższego dekodowania na znacznie lżejsze wstępne wypełnianie, co, jak twierdzi Baseten, zwiększa efektywność kosztową dla agentów kodujących, których pętle agentowe generują znacznie więcej tokenów wstępnego wypełniania niż tokenów dekodowania.

Karta informuje, że Compressed Sparse Attention 2 modelu przydziela każdej warstwie uwagi jeden z trzech statycznych trybów (Full, Reindex lub Reuse), a hierarchiczny indeksator rzadki w dekoderze ogranicza koszt głębszego indeksowania niezależnie od długości kontekstu. W połączeniu z głównym buforowaniem KV FP4, te rozwiązania zmniejszają globalną pamięć KV do 890 bajtów na token, czyli mniej więcej do jednej czwartej V4-Flash, jak podaje karta. Oddzielny mechanizm, SWA Bounded Replay, odtwarza brakujące stany KV uwagi w oknie przesuwającym się, odtwarzając jedynie najnowsze tokeny, co redukuje trwały ślad KV do około jednej ósmej V4-Flash. Ogłoszenie DeepSeek podaje oszczędności rzędu jednej czwartej pamięci HBM i jednej ósmej pamięci SSD poprzedniej generacji.

Każda warstwa MoE wykorzystuje jednego współdzielonego eksperta i 384 ekspertów routowanych, przy czym sześciu ekspertów routowanych jest aktywnych na token, a model dodaje warunkową pamięć Engram o 196B parametrów wraz z spekulacyjnym dekodowaniem DSpark, zgodnie z kartą. DeepSeek wytrenował model od podstaw na multimodalnym korpusie 45T-tokenów, trenował swoją rzadką uwagę przy długości sekwencji 64K, a kontekst rozszerzono do 1M tokenów przy 34T tokenach. Po treningu następuje standardowe nadzorowane dostrajanie, uczenie ze wzmocnieniem, oraz sekwencja destylacji na polityce, przy czym istotne zmiany skoncentrowane są w dużej skali automatycznej syntezie zadań i środowisk agentów, a model udostępnia ciągle regulowane ustawienie wysiłku rozumowania od 1 do 100.

Przejście API DeepSeek i usługi Baseten

DeepSeek informuje, że V4-Flash i V4-Flash-Vision-Exp zostały wycofane na jego platformie, a stare nazwy modeli API tymczasowo kierują do V4.1-Flash w celu zachowania kompatybilności. Nowe ceny API weszły w życie o 04:00 UTC 10 września 2026 r., przy czym stawki poza szczytem wynoszą 50 % stawek szczytowych, a DeepSeek wymienia oficjalnych partnerów WorkBuddy (w tym CodeBuddy) i OpenCode jako w pełni wspierających V4.1-Flash.

Baseten powiedziało, że jego Stos Wnioskowania obsługuje model przy użyciu NVIDIA Dynamo z routingiem świadomym pamięci KV, kierując każde żądanie do repliki już posiadającej jego prefiks, a nie do dowolnej wolnej repliki. Model jest dostępny poprzez Bibliotekę Modeli Baseten, a dedykowane wdrożenia są dostępne dla zespołów potrzebujących zarezerwowanej pojemności.

Od 04:00 UTC 14 września 2026 r. wszystkie żądania deepseek-v4-pro będą kierowane do V4.1-Flash po stawkach V4.1-Flash, co DeepSeek zapowiedział, że będzie obowiązywać do uruchomienia V4.1-Pro; laboratorium podało, że testy przeprowadzone przez wiele podmiotów wykazały, że V4.1-Flash przewyższa V4-Pro pod względem wydajności, kosztów, szybkości i całkowitego czasu działania.