Baseten lança Grid para direcionar e controlar a programação empresarial com IA

Em 4 de novembro de 2026, a Baseten anunciou o Grid e abriu uma prévia pública de sua camada de roteamento, gateway e proteções para programação empresarial com IA. A empresa informou que o Baseten Router obteve uma economia de quase 70% no custo por tarefa em testes iniciais, com uma diferença de qualidade de 0,9 ponto percentual em relação ao Opus 5.5; o acesso antecipado é feito por meio de uma lista de espera.

Roteamento além dos preços por token

O Grid automatiza uma escolha que, de outra forma, os desenvolvedores teriam de fazer por conta própria: qual modelo aprovado deve executar cada tarefa de programação. Para cada solicitação, o Baseten Router avalia as opções de código aberto e fechado aprovadas pela organização e pondera o provável desempenho na tarefa em relação ao custo.

Em vez de classificar os modelos apenas pelo preço por token, o roteador também considera o custo de novas tentativas, chamadas de ferramentas malsucedidas e respostas incompletas. Seu objetivo é reduzir o custo de concluir uma tarefa sem deixar de atender aos requisitos de qualidade e desempenho da equipe. Os roteamentos automáticos podem priorizar o custo, a inteligência ou um equilíbrio entre os dois.

As organizações também podem optar por compartilhar rastros, que podem ser usados para treinar roteadores personalizados e alcançar eficiência de Pareto em suas cargas de trabalho específicas. A Baseten afirmou que a economia exata varia conforme o perfil da carga de trabalho e o equilíbrio entre custo e qualidade desejado pelo cliente, o que faz do resultado do teste uma indicação de potencial, não uma redução universal.

Chintan Parikh, diretor de engenharia da Opendoor, afirmou que o Grid unificou a visibilidade dos gastos internos com IA e os reduziu automaticamente, com perda mínima de qualidade. Quase todos na Opendoor usam IA, e a maioria dos funcionários não quer ter de decidir qual modelo escolher.

Acesso centralizado sem mudar as ferramentas de desenvolvimento

O Grid Gateway fornece a camada administrativa. As equipes de plataforma podem aprovar modelos, conceder acesso por equipe, definir orçamentos e usar credenciais gerenciadas pela empresa, monitorando o uso entre equipes, aplicativos e agentes. Um painel detalha os gastos por modelo e exibe o gasto total, o volume de tokens, a taxa de acertos do cache e a economia obtida.

No lançamento, o Grid oferece suporte a modelos da OpenAI, da Anthropic, da Gemini Enterprise Agent Platform, do Amazon Bedrock e da Baseten. Os desenvolvedores podem conectar Claude Code, Codex, OpenCode e Pi com um único comando de configuração, enquanto os administradores podem automatizar a configuração por meio do gerenciamento de dispositivos móveis.

Aplicativos e agentes internos que usam a Anthropic ou a API da OpenAI podem se conectar com a alteração de um URL base e de um ID de modelo. Assim, os softwares existentes passam a usar o mesmo endpoint, sem que as organizações precisem substituir as ferramentas de desenvolvimento que já utilizam.

As equipes de plataforma também podem atribuir a cada ambiente de execução um modelo de programação padrão e um modelo menor para tarefas secundárias em segundo plano, como resumos. Os desenvolvedores recebem essas configurações padrão durante a instalação e podem trocar de modelo posteriormente.

Proteções compartilhadas e infraestrutura de inferência

O Grid aplica políticas de segurança configuráveis no gateway, centralizando as verificações de solicitações e respostas. As políticas podem variar conforme a carga de trabalho, e os registros identificam o que foi sinalizado e como foi tratado. Entre os riscos identificados estão documentos com instruções ocultas que redirecionam agentes, ações não autorizadas e informações de clientes que aparecem onde não deveriam.

Essas proteções são distintas dos controles de execução. As verificações de segurança analisam solicitações e respostas arriscadas, enquanto os controles de execução determinam o que um agente pode acessar e fazer. A Baseten afirmou que as empresas precisam das duas camadas.

Por trás do gateway, a plataforma de inferência da Baseten cuida do roteamento, da tradução entre os protocolos dos modelos e dos ambientes de execução, do armazenamento em cache, do dimensionamento e da otimização. Quando a Baseten fornece o modelo selecionado, sessões prolongadas de agentes com várias interações podem ser direcionadas a um cache de chave-valor pré-aquecido para reduzir seu custo. As equipes de pesquisa de desempenho de modelos, pós-treinamento e infraestrutura da empresa também trabalham com kernels personalizados, decodificação especulativa e as avaliações pelas quais todo modelo precisa passar antes de ser lançado.

Além da prévia, a Baseten planeja oferecer suporte à delegação de tarefas mais longas a agentes hospedados na nuvem e à coordenação de vários agentes em tarefas complexas. Também estão planejados o roteamento ajustado aos dados e aos casos de uso dos clientes, sinais de segurança mais completos e suporte às proteções próprias dos clientes.

Assim, o critério econômico é o custo de uma tarefa concluída com a qualidade exigida, sendo o preço por token apenas um dos fatores. Como a economia informada depende do perfil da carga de trabalho e vários recursos de gerenciamento de agentes ainda estão planejados, a prévia não esclarece até que ponto os resultados dos testes se traduzirão de forma consistente em trabalhos de programação em produção.