Baseten lanserer Grid for å rute og styre AI-koding i bedrifter

Baseten kunngjorde Grid 4. november 2026 og åpnet for offentlig forhåndstilgang til laget for ruting, gateway og sikkerhetsmekanismer for AI-koding i bedrifter. Selskapet opplyste at Baseten Router i de innledende referansetestene oppnådde nesten 70 % lavere kostnad per oppgave, med et kvalitetstap på 0,9 prosentpoeng sammenlignet med Opus 5.5. Tidlig tilgang gis via en venteliste.

Ruting utover tokenpriser

Grid automatiserer et valg utviklere ellers må ta selv: hvilken godkjent modell som skal håndtere hver kodeoppgave. For hver forespørsel vurderer Baseten Router organisasjonens godkjente alternativer med åpen og lukket kildekode og veier sannsynlig oppgaveytelse opp mot kostnad.

I stedet for å rangere modeller utelukkende etter tokenpris tar ruteren også hensyn til kostnadene ved nye forsøk, mislykkede verktøykall og ufullstendige svar. Målet er å redusere kostnaden ved å fullføre en oppgave og samtidig innfri teamets krav til kvalitet og ytelse. Automatisk ruting kan prioritere kostnad, intelligens eller en balanse mellom de to.

Organisasjoner kan også velge å dele sporingsdata, som kan brukes til å trene tilpassede rutere med Pareto-effektivitet for deres spesifikke arbeidsbelastninger. Baseten opplyste at de nøyaktige besparelsene vil variere med arbeidsbelastningens sammensetning og kundens ønskede balanse mellom kostnad og kvalitet. Referansetesten viser derfor et mulig potensial, ikke en universell kostnadsreduksjon.

Chintan Parikh, teknologidirektør i Opendoor, sa at Grid samlet oversikten over interne AI-utgifter og reduserte utgiftene automatisk med minimalt kvalitetstap. Nesten alle i Opendoor bruker AI, og de fleste ansatte ønsker ikke å måtte velge hvilken modell de skal bruke.

Sentralisert tilgang uten å bytte utviklerverktøy

Grid Gateway står for administrasjonslaget. Plattformteam kan godkjenne modeller, gi tilgang på teamnivå, fastsette budsjetter og bruke legitimasjon som administreres av selskapet, samtidig som de overvåker bruken på tvers av team, applikasjoner og agenter. Et kontrollpanel fordeler utgiftene etter modell og viser samlet forbruk, tokenvolum, treffrate i hurtigbufferen og besparelser.

Ved lansering støtter Grid modeller fra OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock og Baseten. Utviklere kan koble til Claude Code, Codex, OpenCode og Pi med én oppsettskommando, mens administratorer kan automatisere konfigurasjonen gjennom administrasjon av mobile enheter.

Interne applikasjoner og agenter som bruker Anthropic eller OpenAI API, kan kobles til ved å endre en basis-URL og modell-ID. Dermed omfattes eksisterende programvare av det samme endepunktet, uten at organisasjoner må bytte ut utviklerverktøyene de allerede bruker.

Plattformteam kan også tilordne hvert agentrammeverk en standardmodell for koding og en mindre modell for bakgrunnsoppgaver, for eksempel oppsummeringer. Utviklerne får disse standardinnstillingene under oppsettet og kan bytte modell senere.

Felles sikkerhetsmekanismer og inferensinfrastruktur

Grid legger konfigurerbare sikkerhetsregler i gatewayen og utfører kontroller sentralt på forespørsler og svar. Reglene kan variere etter arbeidsbelastning, og loggene viser hva som ble flagget, og hvordan det ble håndtert. Risikoene som identifiseres, omfatter dokumenter med skjulte instruksjoner som leder agenter på avveie, uautoriserte handlinger og kundeinformasjon som dukker opp der den ikke hører hjemme.

Disse sikkerhetsmekanismene er adskilt fra kjøringskontroller. Sikkerhetskontroller undersøker risikable forespørsler og svar, mens kjøringskontroller avgjør hva en agent kan få tilgang til og gjøre. Baseten sa at bedrifter trenger begge lagene.

Under gatewayen håndterer Basetens inferensplattform ruting, oversettelse mellom protokollene for modeller og agentrammeverk, hurtigbufring, skalering og optimalisering. Når Baseten leverer den valgte modellen, kan lange agentsesjoner med flere samtalerunder bruke en varm nøkkel-verdi-hurtigbuffer for å redusere kostnadene. Teamene deres for modelloptimalisering, ettertrening og infrastruktur arbeider også med spesialtilpassede kjerner, spekulativ dekoding og evalueringene alle modeller må bestå før lansering.

Etter forhåndsvisningen planlegger Baseten å støtte delegering av lengre oppgaver til skybaserte agenter og koordinering av flere agenter på komplekse oppgaver. Planene omfatter også ruting tilpasset kundedata og bruksområder, mer omfattende sikkerhetssignaler og støtte for kundenes egne sikkerhetsregler.

Den økonomiske målestokken er dermed kostnaden for en fullført oppgave med den påkrevde kvaliteten, der tokenprisen bare er én av faktorene. Siden de rapporterte besparelsene avhenger av arbeidsbelastningens sammensetning, og flere funksjoner for agentadministrasjon fortsatt er planlagt, gjenstår det å se hvor konsekvent resultatene fra referansetestene vil gjenspeiles i produksjonsarbeid med kode.