Baseten додає DeepSeek‑V4.1‑Flash до Model API з контекстом у 1 млн токенів

DeepSeek‑V4.1‑Flash вже доступний у Baseten Model API, Baseten оголосив 11 вересня 2026 року, додаючи 552‑мільярдний параметричний мультимодальний mixture‑of‑experts (MoE) модель, яка поєднує 8 млрд активних параметрів для заповнення та 16 млрд для декодування у вікні контексту в 1 млн токенів, до платформи постачальника інференсу.

DeepSeek випустив відкриті ваги моделі на Hugging Face, і власне оголошення DeepSeek датовано 10 вересня 2026 року. Модель приймає текстовий та візуальний ввід і генерує текстовий вивід, а карта моделі зазначає, що репозиторій і ваги ліцензовані за ліцензією MIT. Baseten описує V4.1‑Flash як третій у 2026 році випуск DeepSeek з відкритими вагами flash та як єдину модель такого масштабу, що використовує те, що DeepSeek називає архітектурою Causal Encoder‑Decoder. Підтримка продукту навчання Loops від Baseten з’явиться незабаром, за словами компанії.

Звітні результати бенчмарків

Карта моделі повідомляє результати instruct-model при максимальному налаштуванні зусиль розумової діяльності 100: V4.1‑Flash набирає 90,6 у Terminal‑Bench 2.1, порівняно з 82,7 у V4‑Flash та 87,9 у V4‑Pro; 74,2 у DeepSWE v1.1, порівняно з 54,4 та 62,7; і 54,8 у AutomationBench, порівняно з 37,7 та 43,2. Baseten підкреслив ті ж показники кодування та агентних процесів, зазначивши, що V4.1‑Flash перевершує V4‑Pro, використовуючи приблизно третину загальної кількості параметрів, при цьому застерігаючи, що 54,8 у AutomationBench означає, що модель не справляється приблизно з половиною складних робочих процесів, і радить командам залишати людину в циклі для агентних конвеєрів.

У порівнянні карти з передовими моделями при максимальному зусиллі V4.1‑Flash отримує 90,9 у GPQA Diamond, рейтинг Codeforces 3471, та 63,9 у HLE з інструментами. Baseten стверджує, що V4.1‑Flash є першою неекспериментальною моделлю DeepSeek з вбудованим ввідом зображень, можливістю, раніше обмеженою експериментальним V4‑Flash‑Vision‑Exp; у її таблиці зазначено 78,9 у Chartography та 49 у ZeroBench для нової моделі, проти 64,3 та 35 для експериментальної.

Архітектура Causal Encoder‑Decoder

За даними карти моделі, V4.1‑Flash організовує 40‑шаровий Transformer як 20‑шаровий каузальний енкодер, за яким слідує 20‑шаровий декодер, причому глобальний кеш ключ‑значення (KV) декодера проєктується з кінцевих прихованих станів енкодера, а не отримується з власних прихованих станів кожного шару декодера. Дизайн активує 8 млрд параметрів на токен під час заповнення та 16 млрд під час декодування; Baseten порівнює це з V4‑Flash, який активує 13 млрд для обох кроків, представляючи зміну як обмін важкого декодування на значно легше заповнення, що, за словами Baseten, підвищує ефективність витрат для кодуючих агентів, чиї агентні цикли генерують набагато більше токенів заповнення, ніж декодування.

У карті зазначено, що Compressed Sparse Attention 2 моделі призначає кожному шару уваги один із трьох статичних режимів (Full, Reindex або Reuse), а ієрархічний Sparse Indexer у декодері обмежує глибший індексний витрат незалежно від довжини контексту. У поєднанні з основним кешем KV FP4, ці рішення зменшують глобальний кеш KV до 890 байт на токен, приблизно чверть від V4‑Flash, згідно з картою. Окремий механізм, SWA Bounded Replay, відновлює відсутні стани KV скользячого вікна, відтворюючи лише найновіші токени, зменшуючи постійний слід KV до приблизно однієї восьмої V4‑Flash. Оголошення DeepSeek оцінює економію як чверть HBM і одну восьму SSD‑пам’яті попереднього покоління.

Кожен шар MoE використовує одного спільного експерта та 384 маршрутизованих експертів, з шістьма активними маршрутизованими експертами на токен, і модель додає умовну пам’ять Engram з 196 млрд параметрів разом із спекулятивним декодуванням DSpark, згідно з картою. DeepSeek навчив модель з нуля на 45 трильйонних токенах мультимодального корпусу, тренував її розріджену увагу при довжині послідовності 64 тис., і розширив контекст до 1 млн токенів при 34 трильйонах токенів. Після навчання проводиться стандартне контрольоване донавчання, підкріплювальне навчання, і послідовність дистиляції за політикою, причому суттєві зміни зосереджені на масштабному автоматизованому синтезі агентних завдань та середовищ, і модель надає безперервно кероване налаштування зусиль розумової діяльності від 1 до 100.

Перехід API DeepSeek та обслуговування Baseten

DeepSeek заявляє, що V4‑Flash та V4‑Flash‑Vision‑Exp виведені з експлуатації на його платформі, при цьому старі назви моделей API тимчасово перенаправляються на V4.1‑Flash для сумісності. Нове ціноутворення API набуло чинності о 04:00 UTC 10 вересня 2026 року, при цьому позапік-ставки встановлені на 50 % від пікових ставок, і DeepSeek називає офіційних партнерів WorkBuddy (включаючи CodeBuddy) та OpenCode як повністю підтримуючих V4.1‑Flash.

Baseten повідомив, що його стек Інференція обслуговує модель, використовуючи NVIDIA Dynamo з маршрутизацією, що враховує кеш KV, спрямовуючи кожен запит до репліки, яка вже має його префікс, а не до будь‑якої вільної репліки. Модель пропонується через Model Library від Baseten, з окремими розгортаннями, доступними для команд, яким потрібна зарезервована потужність.

Починаючи з 04:00 UTC 14 вересня 2026 року, усі запити deepseek‑v4‑pro будуть перенаправлені на V4.1‑Flash за тарифами V4.1‑Flash, що, за словами DeepSeek, триватиме до запуску V4.1‑Pro; лабораторія зазначила, що тести кількох сторін показали, що V4.1‑Flash випереджає V4‑Pro за продуктивністю, вартістю, швидкістю та загальним часом виконання.