Baseten이 DeepSeek-V4.1-Flash를 1M 토큰 컨텍스트와 함께 모델 API에 추가

DeepSeek-V4.1-Flash는 현재 Baseten 모델 API에서 사용할 수 있으며, Baseten이 발표했다 2026년 9월 11일, 552B 파라미터 멀티모달 혼합 전문가(MoE) 모델을 제공한다. 이 모델은 1M 토큰 컨텍스트 창에서 프리필에 8B 활성 파라미터, 디코드에 16B 파라미터를 결합한다.

DeepSeek는 모델의 오픈 가중치를 Hugging Face에 공개했으며, DeepSeek의 자체 발표는 2026년 9월 10일이다. 이 모델은 텍스트와 이미지 입력을 받아 텍스트 출력을 생성하며, 모델 카드에 따르면 저장소와 가중치는 MIT 라이선스 하에 제공된다. Baseten은 V4.1-Flash를 DeepSeek의 2026년 세 번째 오픈 웨이트 플래시 릴리스이자, DeepSeek가 Causal Encoder-Decoder 아키텍처라고 부르는 규모의 유일한 모델으로 설명한다. Baseten의 Loops 훈련 제품에 대한 지원은 곧 제공될 예정이라고 회사는 밝혔다.

보고된 벤치마크 결과

모델 카드는 최대 추론 노력 설정 100에서의 instruct-model 결과를 보고한다: V4.1-Flash는 Terminal-Bench 2.1에서 90.6점을 기록했으며, V4-Flash는 82.7점, V4-Pro는 87.9점과 비교된다; DeepSWE v1.1에서는 74.2점으로, 각각 54.4점과 62.7점과 비교된다; AutomationBench에서는 54.8점으로, 37.7점과 43.2점에 대비한다. Baseten은 동일한 코딩 및 에이전트 지표를 강조하며, V4.1-Flash가 전체 파라미터의 약 3분의 1만으로 V4-Pro를 능가한다고 언급하면서, AutomationBench에서 54.8점은 모델이 복잡한 워크플로의 약 절반을 실패한다는 점을 주의하고, 에이전트 파이프라인에 인간을 유지할 것을 팀에 권고한다.

카드의 최첨단 모델과의 최대 노력 비교에서, V4.1-Flash는 GPQA Diamond에서 90.9점, Codeforces 등급 3471점, 그리고 도구가 포함된 HLE에서 63.9점을 기록한다. Baseten은 V4.1-Flash가 DeepSeek의 최초 비실험적 모델이며, 기본 이미지 입력을 지원한다고 밝히며, 이는 이전에 실험적 V4-Flash-Vision-Exp에만 제한되었던 기능이다; 표에는 새로운 모델이 Chartography에서 78.9점, ZeroBench에서 49점을 기록했으며, 실험 모델은 각각 64.3점과 35점을 보였다.

Causal Encoder-Decoder 아키텍처

모델 카드에 따르면, V4.1-Flash는 40층 Transformer를 20층 Causal Encoder와 그 뒤에 20층 Decoder로 구성한다. Decoder의 전역 키-값(KV) 캐시는 각 Decoder 층의 자체 은닉 상태가 아니라 최종 Encoder 은닉 상태에서 투사된다. 이 설계는 프리필 시 토큰당 8B 파라미터를 활성화하고 디코드 시 16B 파라미터를 활성화한다; Baseten은 이를 V4-Flash와 대비시키는데, V4-Flash는 두 단계 모두 13B를 활성화한다. Baseten은 이 변화를 무거운 디코드를 훨씬 가벼운 프리필로 교환하는 것으로 설명하며, 이는 프리필 토큰이 디코드 토큰보다 훨씬 많이 생성되는 코딩 에이전트의 비용 효율성을 높인다고 밝혔다.

카드에 따르면 모델의 Compressed Sparse Attention 2는 각 어텐션 층에 세 가지 정적 모드(Full, Reindex, Reuse) 중 하나를 할당하고, Decoder에서는 계층적 Sparse Indexer가 컨텍스트 길이와 무관하게 더 깊은 인덱싱 비용을 제한한다. FP4 메인 KV 캐싱과 결합하면 이러한 설계는 전역 KV 캐시를 토큰당 890바이트로 감소시키며, 이는 V4-Flash의 약 1/4에 해당한다고 카드에 명시되어 있다. 별도의 메커니즘인 SWA Bounded Replay는 가장 최근 토큰만 재생하여 누락된 슬라이딩 윈도우 어텐션 KV 상태를 복원함으로써 지속적인 KV 발자국을 V4-Flash의 약 1/8로 줄인다. DeepSeek의 발표에 따르면 이러한 절감 효과는 이전 세대 대비 HBM의 1/4, SSD 저장소의 1/8에 해당한다.

Kart에 따르면 각 MoE 층은 하나의 공유 전문가와 384개의 라우팅된 전문가를 사용하며, 토큰당 6개의 라우팅된 전문가가 활성화된다. 또한 모델은 196B 파라미터의 Engram 조건부 메모리를 DSpark 추론 디코딩과 함께 추가한다. DeepSeek는 45T 토큰 멀티모달 코퍼스를 사용해 모델을 처음부터 학습했으며, 64K 시퀀스 길이에서 Sparse Attention을 학습하고, 컨텍스트를 34T 토큰에서 1M 토큰으로 확장했다. 학습 후에는 표준 감독식 미세 조정, 강화 학습, 그리고 정책 기반 증류 순서를 따르며, 실질적인 변화는 대규모 자동화된 에이전트 작업 및 환경 합성에 집중된다. 모델은 1에서 100까지 연속적으로 제어 가능한 추론 노력 설정을 제공한다.

DeepSeek API 전환 및 Baseten 서비스

DeepSeek는 V4-Flash와 V4-Flash-Vision-Exp가 플랫폼에서 폐기되었으며, 기존 API 모델 명은 호환성을 위해 일시적으로 V4.1-Flash로 라우팅된다고 밝혔다. 새로운 API 가격은 2026년 9월 10일 04:00 UTC에 적용되었으며, 비피크 요금은 피크 요금의 50%로 설정되었다. DeepSeek는 공식 파트너인 WorkBuddy(코드버디 포함)와 OpenCode가 V4.1-Flash를 완전히 지원한다고 명시했다.

Baseten은 추론 스택이 NVIDIA Dynamo와 KV 캐시 인식 라우팅을 사용해 모델을 제공하며, 각 요청을 프리픽스를 이미 보유하고 있는 복제본으로 보내고, 자유로운 복제본이 아니라 그렇게 한다. 모델은 Baseten의 모델 라이브러리를 통해 제공되며, 예약된 용량이 필요한 팀을 위해 전용 배포가 가능하다.

2026년 9월 14일 04:00 UTC부터 모든 deepseek-v4-pro 요청은 V4.1-Flash 요금으로 V4.1-Flash로 라우팅되며, 이 조치는 DeepSeek가 V4.1-Pro가 출시될 때까지 지속될 것이라고 밝혔다; 연구소는 여러 기관의 테스트에서 V4.1-Flash가 성능, 비용, 속도 및 전체 실행 시간에서 V4-Pro보다 앞선다고 전했다.