Fireworks anuncia una inferencia más rápida para agentes y una implementación soberana

Fireworks anunció una serie de productos de IA empresarial el 3 de noviembre de 2026, en la primera edición anual de su conferencia Forge. Entre las novedades destaca una versión preliminar de inferencia ultrarrápida que, según la empresa, alcanzó hasta 1.500 tokens por segundo con DeepSeek V4.1 Flash, además de herramientas para el enrutamiento de modelos, la evaluación y la inferencia especializada, y una versión preliminar privada de Fireworks Sovereign para infraestructura propiedad de los clientes.

Adaptar la velocidad de inferencia y el costo a cada carga de trabajo

La inferencia ultrarrápida está disponible en versión preliminar pública para GPU NVIDIA Blackwell y está diseñada para agentes de varios pasos, en los que cada llamada al modelo aumenta el tiempo de espera hasta obtener un resultado. Fireworks informó que, con esta opción, el tiempo de ejecución de su prueba de referencia para agentes de 30 turnos se redujo de un minuto a ocho segundos. Esta capacidad está orientada a tareas urgentes, mientras que hay opciones más económicas para aquellas que pueden esperar.

Para las tareas que admiten demoras, el modo Background Mode ejecuta a mitad de precio las tareas aptas, como la generación de datos de evaluación y la investigación nocturna. Prompt Caching de varios días busca reducir el costo del contexto repetido. Los límites de velocidad más altos para el servicio sin servidor y Elastic Burst ya están disponibles de forma general para cargas de trabajo más intensas; Elastic Burst puede superar el límite de uso habitual de un cliente cuando hay capacidad disponible, sin cambios en el código ni en los precios.

Una prueba de referencia de Fireworks del 14 de septiembre de 2026 con DeepSeek V4.1 Flash muestra por qué importa el contexto repetido. En la ejecución de DeepSWE, el 99,6 % de los tokens de entrada fueron aciertos de caché, y los cargos por esos aciertos representaron el 60 % de la factura. Este desglose convierte el contexto repetido en un objetivo de ahorro considerable para los agentes de larga duración, en lugar de considerar que la generación de respuestas es la única fuente de gasto.

La misma prioridad de reducir costos se extiende a la especialización de modelos. Ember-1, presentado el 23 de septiembre de 2026 como versión preliminar de investigación para el servicio sin servidor, utilizó alrededor de un 40 % menos de tokens que Kimi K3 con una calidad comparable en las evaluaciones de Fireworks. Está disponible en implementaciones sin servidor y dedicadas.

Nexus Desktop y precios de suscripción

Fireworks Nexus enruta solicitudes entre modelos abiertos y cerrados dentro de las herramientas existentes de programación y colaboración, mediante la selección personalizada de modelos y el uso de información sobre la caché. También centraliza la visibilidad del gasto y los controles para las organizaciones. Nexus Desktop se lanzó junto con el ya existente Nexus CLI, y Nexus funciona en la aplicación Codex, Claude Desktop y OpenCode.

Los nuevos planes Nexus Pro cuestan a partir de 8 dólares al mes, mientras que los planes Teams cuestan desde 10 dólares por usuario al mes. Los planes Enterprise incorporan inicio de sesión único, gobernanza, presupuestos compartidos y controles de acceso.

La documentación de Nexus Desktop enumera una versión universal de macOS para equipos Mac con Apple silicon y procesadores Intel; la compatibilidad con Linux y Windows llegará próximamente. La CLI funciona en macOS y Linux, y ofrece compatibilidad limitada con Windows mediante Git Bash. Las conexiones de escritorio incluyen ChatGPT, Claude Code, Cursor IDE, VS Code y OpenCode, mientras que la compatibilidad con Claude Desktop se describe como limitada.

Evaluación e inferencia especializada de modelos

No Eval, ahora en versión preliminar privada, utiliza trazas de sistemas de producción y señales de productos para crear evaluaciones de tareas específicas. Estas evaluaciones buscan revelar las debilidades de los modelos y mostrar si el entrenamiento posterior las resuelve, lo que permite abordar un trabajo que, de otro modo, puede requerir semanas de etiquetado y calificación de datos.

La inferencia de modelos especializados entró en versión preliminar pública para ofrecer adaptadores LoRA en el conjunto compartido de servicio sin servidor de Fireworks, inicialmente con GLM 5.3 Flash. Los clientes pagan por token al precio de servicio sin servidor del modelo base, sin necesidad de crear una implementación. Cargar un adaptador, mantenerlo cargado y el tiempo de inactividad no generan cargos por servicio; el entrenamiento se factura por separado.

Para GLM 5.3 Flash, las tarifas documentadas son de 0,15 dólares por millón de tokens de entrada, 0,03 dólares por millón de tokens de entrada almacenados en caché y 0,50 dólares por millón de tokens de salida.

La versión preliminar admite un rango LoRA máximo de 64 y hasta tres adaptadores cargados por cuenta para el modelo base. Fireworks documenta un tiempo de carga inferior a cinco minutos; la primera solicitud puede tardar hasta un minuto y las siguientes tienen una latencia aproximada a la del modelo base. Durante la versión preliminar no se garantiza la latencia.

Los adaptadores se ejecutan en GPU compartidas con los adaptadores de otros clientes. Para las cargas de trabajo que necesitan una latencia constante, GPU aisladas, una región específica o inferencia de mayor precisión, se recomiendan las implementaciones dedicadas; el servicio sin servidor está pensado para la experimentación y el tráfico con picos.

Controles empresariales e implementación soberana

La gobernanza de modelos, los controles de gasto y los registros de auditoría exportables ya están disponibles de forma general. La gestión centralizada de cuentas, los controles regionales de datos y el cifrado gestionado por el cliente siguen en versión preliminar.

Fireworks Sovereign, en versión preliminar privada, ejecuta el motor de inferencia de la empresa en la nube del cliente, en una neocloud o en su centro de datos. La inferencia y el entrenamiento permanecen dentro del entorno del cliente y sujetos a sus políticas de seguridad y control de cambios. Fireworks informa que gestiona más de 25.000 GPU en entornos de clientes.

El modelo operativo reparte las responsabilidades entre las dos partes. Fireworks valida el clúster, implementa los modelos y se ocupa de las actualizaciones, la supervisión, el ajuste del rendimiento y la respuesta ante incidentes, mientras que el cliente conserva la titularidad de la arquitectura y las políticas. Los clientes gestionan el tráfico de entrada, el balanceo de carga, el DNS, los certificados TLS y las rutas de salida autorizadas. El plano de control de Fireworks utiliza una credencial exclusiva y auditable, y limita el tráfico saliente a las descargas de pesos de modelos e imágenes, además de la telemetría operativa.

Fireworks afirma que Sovereign ofrece entre un 20 % y un 50 % más de rendimiento con el mismo hardware y aproximadamente 2,3 veces más tokens por dólar invertido en hardware. La opción de desbordamiento híbrido permite trasladar cargas de trabajo aptas a Fireworks Cloud, en regiones aprobadas por el cliente, cuando un clúster alcanza su capacidad máxima; luego las devuelve a las GPU del cliente cuando disminuye la demanda, utilizando la misma API.

La oferta Forge integra la elección de modelos, la economía de la inferencia y el control de la infraestructura en una misma decisión empresarial. La principal salvedad es que cada opción tiene distintas condiciones operativas: los adaptadores sin servidor evitan la capacidad dedicada, pero se ejecutan en GPU compartidas y no ofrecen garantías de latencia durante la vista previa; Sovereign, en cambio, combina una infraestructura propiedad del cliente con una pila de servicio operada por Fireworks.