Baseten lanza Grid para enrutar y gobernar la programación empresarial con IA

Baseten anunció Grid el 4 de noviembre de 2026 y abrió una vista previa pública de su capa de enrutamiento, puerta de enlace y medidas de protección para la programación empresarial con IA. La empresa informó que Baseten Router logró un ahorro de casi el 70 % en el costo por tarea en las pruebas comparativas iniciales, con una diferencia de calidad de 0,9 puntos porcentuales frente a Opus 5.5; el acceso anticipado se gestiona mediante una lista de espera.

Más allá del precio de los tokens: el enrutamiento

Grid automatiza una decisión que, de otro modo, los desarrolladores tendrían que tomar por sí mismos: qué modelo aprobado debería encargarse de cada tarea de programación. Para cada solicitud, Baseten Router evalúa las opciones de código abierto y cerrado aprobadas por la organización y sopesa el rendimiento probable en la tarea frente al costo.

En lugar de clasificar los modelos solo por el precio de los tokens, el enrutador tiene en cuenta el costo de los reintentos, las llamadas fallidas a herramientas y las respuestas incompletas. Su objetivo es reducir el costo de completar una tarea y, al mismo tiempo, cumplir los requisitos de calidad y rendimiento del equipo. Las rutas automáticas pueden priorizar el costo, la capacidad de razonamiento o un equilibrio entre ambos.

Las organizaciones también pueden optar por compartir trazas, que pueden utilizarse para entrenar enrutadores personalizados y lograr eficiencia de Pareto en sus cargas de trabajo específicas. Baseten señaló que el ahorro exacto variará según la naturaleza de la carga de trabajo y el equilibrio entre costo y calidad que prefiera cada cliente, por lo que la prueba comparativa indica un ahorro potencial, no una reducción universal.

Chintan Parikh, director de ingeniería de Opendoor, afirmó que Grid consolidó la visibilidad del gasto interno en IA y redujo automáticamente los gastos con una pérdida mínima de calidad. Casi todos en Opendoor utilizan IA, y la mayoría de los empleados no quiere tener que decidir qué modelo elegir.

Acceso centralizado sin cambiar las herramientas de desarrollo

Grid Gateway proporciona la capa administrativa. Los equipos de plataforma pueden aprobar modelos, conceder acceso a nivel de equipo, fijar presupuestos y utilizar credenciales gestionadas por la empresa, mientras supervisan el uso en todos los equipos, aplicaciones y agentes. Un panel desglosa el gasto por modelo y muestra el gasto total, el volumen de tokens, la tasa de aciertos de la caché y el ahorro de costos.

En su lanzamiento, Grid es compatible con modelos de OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock y Baseten. Los desarrolladores pueden conectar Claude Code, Codex, OpenCode y Pi mediante un único comando de configuración, mientras que los administradores pueden automatizar la configuración a través de la gestión de dispositivos móviles.

Las aplicaciones y los agentes internos que utilizan Anthropic o la API de OpenAI pueden conectarse cambiando una URL base y el ID del modelo. De este modo, el software existente queda bajo el mismo punto de conexión sin que las organizaciones tengan que sustituir sus herramientas de desarrollo habituales.

Los equipos de plataforma también pueden asignar a cada entorno de ejecución un modelo de programación predeterminado y un modelo más pequeño para tareas secundarias en segundo plano, como los resúmenes. Los desarrolladores reciben esos valores predeterminados durante la configuración y pueden cambiar los modelos más adelante.

Medidas de protección e infraestructura de inferencia compartidas

Grid incorpora políticas de seguridad configurables en la puerta de enlace y aplica comprobaciones centralizadas a las solicitudes y respuestas. Las políticas pueden variar según la carga de trabajo, y los registros indican qué se marcó y cómo se gestionó. Entre los riesgos identificados figuran los documentos con instrucciones ocultas que redirigen a los agentes, las acciones no autorizadas y la exposición de información de clientes en lugares donde no debería aparecer.

Estas medidas de protección son distintas de los controles de ejecución. Las comprobaciones de seguridad examinan las solicitudes y respuestas de riesgo, mientras que los controles de ejecución determinan a qué puede acceder un agente y qué puede hacer. Baseten afirmó que las empresas necesitan ambas capas.

Debajo de la puerta de enlace, la plataforma de inferencia de Baseten se encarga del enrutamiento, la traducción entre los protocolos de los modelos y los entornos de ejecución, el almacenamiento en caché, el escalado y la optimización. Cuando Baseten sirve el modelo seleccionado, las sesiones prolongadas de agentes con múltiples turnos pueden dirigirse a la caché de claves y valores en caliente para reducir su costo. Los equipos de Baseten dedicados a la investigación del rendimiento de modelos, el posentrenamiento y la infraestructura también trabajan en núcleos personalizados, decodificación especulativa y las evaluaciones que todos los modelos deben superar antes de su lanzamiento.

Además de la vista previa, Baseten tiene previsto admitir la delegación de tareas de mayor duración a agentes alojados en la nube y la coordinación de varios agentes en tareas complejas. También están previstos el enrutamiento ajustado a los datos y casos de uso de los clientes, señales de seguridad más completas y compatibilidad con las medidas de protección propias de los clientes.

Por lo tanto, el criterio económico es el costo de completar una tarea con la calidad requerida, y el precio de los tokens es solo uno de los factores. Dado que el ahorro informado depende de la naturaleza de la carga de trabajo y varias capacidades de gestión de agentes siguen previstas, la vista previa deja abierta la cuestión de hasta qué punto esos resultados de las pruebas comparativas se trasladarán de forma consistente al trabajo de programación en producción.