Baseten lanserar Grid för att dirigera och styra AI-kodning i företag

Baseten meddelade den 4 november 2026 att Grid lanseras och öppnade samtidigt en offentlig förhandsversion av sitt lager för routning, gateway och skyddsmekanismer för AI-kodning i företag. Företaget uppgav att Baseten Router i de första jämförelsetesterna sänkte kostnaden per uppgift med nästan 70 %, med en kvalitetsförsämring på 0,9 procentenheter jämfört med Opus 5.5. Tidig åtkomst hanteras via en väntelista.

Routning som sträcker sig längre än tokenpriser

Grid automatiserar ett val som utvecklare annars måste göra själva: vilken godkänd modell som ska hantera varje kodningsuppgift. För varje förfrågan utvärderar Baseten Router organisationens godkända alternativ med öppen respektive sluten källkod och väger den sannolika prestationen på uppgiften mot kostnaden.

I stället för att rangordna modeller enbart efter tokenpris räknar routern även in kostnaden för nya försök, misslyckade verktygsanrop och ofullständiga svar. Målet är att sänka kostnaden för att slutföra en uppgift och samtidigt uppfylla teamets krav på kvalitet och prestanda. Automatiska routningsalternativ kan prioritera kostnad, intelligens eller en balans mellan de två.

Organisationer kan också välja att dela spårningsdata, som kan användas för att träna anpassade routrar med Pareto-effektivitet för deras specifika arbetsbelastningar. Baseten uppgav att de exakta besparingarna varierar beroende på arbetsbelastningens utformning och kundens önskade avvägning mellan kostnad och kvalitet. Jämförelsetestet visar därför på en möjlig besparing, inte en generell kostnadsminskning.

Chintan Parikh, teknikchef på Opendoor, uppgav att Grid samlade insynen i företagets interna AI-utgifter och automatiskt minskade dem med minimal kvalitetsförlust. Nästan alla på Opendoor använder AI, och de flesta medarbetare vill inte behöva välja modell själva.

Central åtkomst utan att utvecklarverktygen behöver ändras

Grid Gateway tillhandahåller det administrativa lagret. Plattformsteamen kan godkänna modeller, ge åtkomst på teamnivå, sätta budgetar och använda företagsadministrerade inloggningsuppgifter, samtidigt som de övervakar användningen bland team, applikationer och agenter. En instrumentpanel delar upp utgifterna efter modell och visar de totala utgifterna, tokenvolymen, cacheträfffrekvensen och kostnadsbesparingarna.

Vid lanseringen stöder Grid modeller från OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock och Baseten. Utvecklare kan ansluta Claude Code, Codex, OpenCode och Pi med ett enda installationskommando, medan administratörer kan automatisera konfigurationen via hantering av mobila enheter.

Interna applikationer och agenter som använder Anthropic eller OpenAI API kan anslutas genom att ändra en bas-URL och ett modell-ID. Då kan befintlig programvara använda samma slutpunkt, utan att organisationerna behöver ersätta sina etablerade utvecklarverktyg.

Plattformsteamen kan också tilldela varje agentmiljö en standardmodell för kodning och en mindre bakgrundsmodell för sidouppgifter, till exempel sammanfattningar. Utvecklarna får dessa standardinställningar vid installationen och kan byta modell senare.

Gemensamma skyddsmekanismer och inferensinfrastruktur

Grid placerar konfigurerbara säkerhetspolicyer i gatewayen och tillämpar kontroller centralt på förfrågningar och svar. Policyerna kan anpassas efter arbetsbelastning, och loggar visar vad som flaggades och hur det hanterades. De identifierade riskerna omfattar dokument med dolda instruktioner som styr om agenter, obehöriga åtgärder och kundinformation som dyker upp där den inte hör hemma.

Dessa skyddsmekanismer är skilda från körningskontroller. Säkerhetskontroller granskar riskfyllda förfrågningar och svar, medan körningskontroller avgör vad en agent kan komma åt och göra. Baseten uppgav att företag behöver båda lagren.

Under gatewayen hanterar Basetens inferensplattform routning, översättning mellan modellernas och agentmiljöernas protokoll, cachning, skalning och optimering. När Baseten levererar den valda modellen kan agenternas längre sessioner med flera turer styras till en varm nyckel-värdecache för att minska kostnaden. Företagets team för forskning om modellprestanda, efterträning och infrastruktur arbetar också med anpassade kärnor, spekulativ avkodning och de utvärderingar som varje modell måste klara före lansering.

Efter förhandsversionen planerar Baseten att stödja delegering av längre arbetsuppgifter till molnbaserade agenter och samordning av flera agenter för komplexa uppgifter. Planerna omfattar också routning anpassad efter kunddata och användningsfall, mer avancerade säkerhetssignaler och stöd för kundernas egna skyddsmekanismer.

Det ekonomiska måttet är alltså kostnaden för en slutförd uppgift med den kvalitet som krävs; tokenpriset är bara en av flera faktorer. Eftersom de rapporterade besparingarna beror på arbetsbelastningens utformning och flera funktioner för agenthantering fortfarande bara är planerade, återstår det att se hur konsekvent resultaten från jämförelsetesterna kan omsättas i kodningsarbete i produktion.