Fireworks, 에이전트 추론 속도 향상 및 소버린 배포 발표

Fireworks가 발표한 기업용 AI 제품군은 2026년 11월 3일 첫 연례 Forge 콘퍼런스에서 공개됐다. 여기에는 DeepSeek V4.1 Flash에서 초당 최대 1,500토큰에 도달했다고 회사가 밝힌 초고속 추론의 프리뷰가 포함됐으며, 모델 라우팅, 평가, 특화 서빙을 위한 도구와 고객 소유 인프라를 위한 Fireworks Sovereign 비공개 프리뷰도 함께 발표됐다.

워크로드에 맞춰 추론 속도와 비용 조정

초고속 추론은 NVIDIA Blackwell GPU에서 공개 프리뷰로 제공되며, 모델을 호출할 때마다 결과를 기다리는 시간이 늘어나는 다단계 에이전트를 위해 설계됐다. Fireworks는 초고속 추론을 적용한 자사 30회 에이전트 벤치마크에서 완료 시간이 1분에서 8초로 단축됐다고 밝혔다. 이 기능은 시간에 민감한 작업을 겨냥하며, 기다릴 수 있는 작업에는 더 저렴한 옵션을 제공한다.

지연을 감수할 수 있는 작업의 경우, 백그라운드 모드는 평가 데이터 생성과 야간 연구 등 대상 작업을 절반 가격으로 실행한다. 여러 날 동안 유지되는 프롬프트 캐싱은 반복되는 컨텍스트 비용을 줄이기 위한 기능이다. 사용량이 많은 워크로드를 위한 서버리스 요청 한도 상향과 Elastic Burst는 정식 제공된다. 여유 용량이 있을 때 Elastic Burst를 사용하면 코드나 가격을 변경하지 않고도 고객의 일반적인 사용량 한도를 초과해 사용할 수 있다.

2026년 9월 14일에 실시한 Fireworks의 DeepSeek V4.1 Flash 벤치마크는 반복되는 컨텍스트가 중요한 이유를 보여준다. DeepSWE 실행에서 입력 토큰의 99.6%가 캐시 적중이었으며, 캐시 적중 요금은 전체 비용의 60%를 차지했다. 이 내역을 보면 장시간 실행되는 에이전트에서는 생성된 출력만을 지출 원인으로 볼 것이 아니라, 반복되는 컨텍스트도 상당한 비용 절감 대상임을 알 수 있다.

이러한 비용 절감 기조는 모델 특화에도 이어진다. Ember-1은 2026년 9월 23일 서버리스 연구 프리뷰로 출시됐으며, Fireworks의 평가에서 비슷한 품질을 내면서 Kimi K3보다 토큰을 약 40% 적게 사용했다. 서버리스 배포와 전용 배포에서 이용할 수 있다.

Nexus Desktop 및 구독 요금제

Fireworks Nexus는 기존 코딩 및 협업 도구 안에서 개인화된 모델 선택과 캐시 인식을 활용해 오픈 모델과 폐쇄형 모델을 라우팅한다. 또한 조직을 위한 지출 현황과 제어 기능을 한곳에 모은다. 기존 Nexus CLI와 함께 Nexus Desktop이 출시됐으며, Nexus는 Codex 앱, Claude Desktop, OpenCode에서 실행된다.

새로운 Nexus Pro 요금제는 월 8달러부터, Teams 요금제는 사용자 1인당 월 10달러부터 시작한다. Enterprise 요금제에는 싱글 사인온, 거버넌스, 공유 예산, 액세스 제어 기능이 추가된다.

Nexus Desktop 문서에는 Apple 실리콘 및 Intel Mac용 범용 macOS 빌드가 안내되어 있으며, Linux와 Windows 지원은 곧 제공될 예정이다. CLI는 macOS와 Linux에서 실행되며, Windows에서는 Git Bash를 통해 제한적으로 지원된다. 데스크톱 연결 대상에는 ChatGPT, Claude Code, Cursor IDE, VS Code, OpenCode가 포함되며, Claude Desktop 지원은 제한적이라고 안내되어 있다.

평가 및 특화 모델 서빙

현재 비공개 프리뷰인 No Eval은 프로덕션 시스템의 추적 데이터와 제품 신호를 사용해 특정 작업을 위한 평가를 구축한다. 이 평가는 모델의 약점을 드러내고 이후의 학습으로 해당 약점이 해결되는지 보여주도록 설계됐다. 이를 통해 몇 주가 걸릴 수도 있는 데이터 라벨링과 채점 작업을 해결한다.

특화 모델 추론 기능은 Fireworks의 공유 서버리스 풀에서 LoRA 어댑터를 제공하는 공개 프리뷰에 들어갔으며, 초기 지원 모델은 GLM 5.3 Flash다. 고객은 배포를 만들지 않고 기본 모델의 서버리스 요금으로 토큰당 비용을 지불한다. 어댑터 로드 및 로드 상태 유지, 유휴 시간에는 서빙 요금이 부과되지 않으며, 학습 비용은 별도로 청구된다.

GLM 5.3 Flash의 안내 요금은 입력 토큰 100만 개당 0.15달러, 캐시된 입력 토큰 100만 개당 0.03달러, 출력 토큰 100만 개당 0.50달러다.

프리뷰에서는 LoRA 순위가 최대 64까지 지원되며, 계정당 기본 모델에 대해 최대 3개의 어댑터를 로드할 수 있다. Fireworks는 로드에 5분 미만, 첫 요청에 최대 1분이 걸릴 수 있으며 이후 요청은 기본 모델과 거의 같은 지연 시간을 보인다고 안내한다. 프리뷰 기간에는 지연 시간이 보장되지 않는다.

어댑터는 다른 고객의 어댑터와 GPU를 공유해 실행된다. 일관된 지연 시간, 격리된 GPU, 특정 리전 또는 더 높은 정밀도의 서빙이 필요한 워크로드에는 전용 배포가 권장된다. 서버리스는 실험과 트래픽 변동이 큰 작업을 위한 옵션이다.

기업용 제어 기능 및 소버린 배포

모델 거버넌스, 지출 제어, 내보낼 수 있는 감사 로그는 이제 정식 제공된다. 중앙 집중식 계정 관리, 지역별 데이터 제어, 고객 관리형 암호화는 아직 프리뷰 단계다.

비공개 프리뷰로 제공되는 Fireworks Sovereign은 고객의 클라우드, 네오클라우드 또는 데이터센터에서 Fireworks의 추론 엔진을 실행한다. 추론과 학습은 고객의 환경 안에서 고객의 보안 및 변경 관리 정책에 따라 이루어진다. Fireworks는 고객 환경에서 25,000개가 넘는 GPU를 관리한다고 밝혔다.

운영 모델에서는 두 당사자의 책임을 나눕니다. Fireworks는 클러스터를 검증하고 모델을 배포하며 업그레이드, 모니터링, 성능 조정 및 사고 대응을 담당하고, 고객은 아키텍처와 정책에 대한 소유권을 유지합니다. 고객은 인그레스, 부하 분산, DNS, TLS 인증서 및 승인된 아웃바운드 경로를 관리합니다. Fireworks의 컨트롤 플레인은 감사 가능한 전용 자격 증명을 사용하며, 아웃바운드 트래픽은 모델 가중치와 이미지 가져오기, 운영 텔레메트리로 제한됩니다.

Fireworks에 따르면 Sovereign은 동일한 하드웨어에서 처리량을 20%~50% 높이고 하드웨어 비용 1달러당 토큰 처리량을 약 2.3배 늘립니다. 선택 사항인 하이브리드 오버플로 기능은 클러스터가 포화 상태에 이르면 적격 워크로드를 고객이 승인한 리전의 Fireworks Cloud로 옮기고, 수요가 줄어들면 고객의 GPU로 다시 돌려보내며, 이 과정에서 동일한 API를 사용합니다.

Forge 제품군은 모델 선택, 추론 비용 구조 및 인프라 제어를 하나의 기업 의사결정에 포함합니다. 핵심 전제는 각 선택지마다 운영 조건이 다르다는 점입니다. 서버리스 어댑터는 전용 용량을 확보할 필요가 없지만, 공유 GPU에서 실행되며 프리뷰 단계에서는 지연 시간에 대한 보장이 없습니다. 반면 Sovereign은 고객 소유 인프라와 Fireworks가 운영하는 서빙 스택을 결합합니다.