Baseten uvádí Grid pro směrování a správu podnikového programování pomocí AI

Společnost Baseten oznámila 4. listopadu 2026 produkt Grid a zahájila jeho veřejné testování, které zpřístupňuje vrstvu pro směrování, bránu a bezpečnostní pojistky určené pro podnikové programování pomocí AI. Společnost uvedla, že Baseten Router v počátečních testech dosáhl téměř 70% úspory nákladů na úkol, přičemž oproti Opus 5.5 došlo ke zhoršení kvality o 0,9 procentního bodu. Předběžný přístup je zajišťován prostřednictvím čekací listiny.

Směrování nad rámec cen za tokeny

Grid automatizuje rozhodnutí, které by jinak vývojáři činili sami: který schválený model má zpracovat jednotlivé programátorské úkoly. Baseten Router u každého požadavku vyhodnocuje organizací schválené možnosti s otevřeným i uzavřeným zdrojovým kódem a porovnává pravděpodobnou výkonnost při daném úkolu s náklady.

Směrovač neřadí modely pouze podle ceny za token, ale započítává také náklady na opakované pokusy, neúspěšná volání nástrojů a neúplné odpovědi. Jeho cílem je snížit náklady na dokončení úkolu a současně splnit požadavky týmu na kvalitu a výkon. Automatické směrování může upřednostňovat nízké náklady, inteligenci nebo vyvážený poměr obojího.

Organizace se mohou také rozhodnout sdílet trasování, které lze využít k trénování vlastních směrovačů tak, aby na konkrétních pracovních úlohách dosahovaly Paretovy efektivity. Baseten uvedl, že přesná úspora se bude lišit podle charakteru pracovní zátěže a požadovaného poměru mezi náklady a kvalitou, takže výsledek testu ukazuje možný přínos, nikoli univerzální snížení nákladů.

Chintan Parikh, vedoucí technického oddělení společnosti Opendoor, uvedl, že Grid sjednotil přehled o interních výdajích na AI a automaticky je snížil při minimální ztrátě kvality. Umělou inteligenci používá téměř každý ve společnosti Opendoor a většina zaměstnanců nechce rozhodovat o tom, který model si vybrat.

Centrální přístup bez změny vývojářských nástrojů

Grid Gateway zajišťuje administrativní vrstvu. Týmy spravující platformu mohou schvalovat modely, udělovat přístup jednotlivým týmům, nastavovat rozpočty a používat přihlašovací údaje spravované společností a zároveň sledovat využití napříč týmy, aplikacemi a agenty. Řídicí panel rozděluje výdaje podle modelu a zobrazuje celkové výdaje, objem tokenů, míru zásahů do mezipaměti a dosaženou úsporu nákladů.

Při uvedení na trh Grid podporuje modely od společností OpenAI a Anthropic, platformy Gemini Enterprise Agent Platform, služby Amazon Bedrock a Baseten. Vývojáři mohou propojit Claude Code, Codex, OpenCode a Pi jediným příkazem pro nastavení, zatímco správci mohou konfiguraci automatizovat prostřednictvím správy mobilních zařízení.

Interní aplikace a agenti využívající Anthropic nebo OpenAI API se mohou připojit změnou základní adresy URL a ID modelu. Díky tomu lze stávající software začlenit pod stejný koncový bod, aniž by organizace musely měnit své zavedené vývojářské nástroje.

Týmy spravující platformu mohou každému agentnímu prostředí přiřadit také výchozí programovací model a menší model pro úlohy na pozadí, například vytváření shrnutí. Vývojáři tato výchozí nastavení získají při konfiguraci a později mohou modely změnit.

Sdílené bezpečnostní pojistky a infrastruktura pro inferenci

Grid umisťuje konfigurovatelné bezpečnostní zásady na úrovni brány a centrálně kontroluje požadavky i odpovědi. Zásady se mohou lišit podle pracovní zátěže a záznamy uvádějí, co bylo označeno jako rizikové a jak se s tím naložilo. Mezi identifikovaná rizika patří dokumenty obsahující skryté pokyny, které agenty přesměrovávají, neoprávněné akce a zobrazování zákaznických informací tam, kam nepatří.

Tyto bezpečnostní pojistky se liší od řízení provádění. Bezpečnostní kontroly prověřují rizikové požadavky a odpovědi, zatímco řízení provádění určuje, k čemu má agent přístup a co může dělat. Baseten uvedl, že podniky potřebují obě vrstvy.

Pod bránou zajišťuje inferenční platforma Baseten směrování, převod mezi protokoly modelů a agentních prostředí, ukládání do mezipaměti, škálování a optimalizaci. Pokud vybraný model poskytuje Baseten, lze dlouhá vícetahová agentní sezení směrovat do zahřáté mezipaměti klíč-hodnota a snížit tak jejich náklady. Týmy Baseten zaměřené na výzkum výkonnosti modelů, dodatečné trénování a infrastrukturu se zabývají také vlastními jádry, spekulativním dekódováním a testy, kterými musí každý model projít před nasazením.

Po skončení testovací fáze plánuje Baseten umožnit předávání déle trvajících úloh agentům hostovaným v cloudu a koordinaci více agentů při řešení složitých úkolů. V plánu je také směrování přizpůsobené zákaznickým datům a případům použití, podrobnější bezpečnostní signály a podpora vlastních bezpečnostních pojistek zákazníků.

Rozhodující ekonomickou metrikou jsou tedy náklady na dokončený úkol při požadované kvalitě, přičemž cena za token je pouze jedním z faktorů. Vzhledem k tomu, že uváděné úspory závisejí na charakteru pracovní zátěže a některé funkce pro správu agentů jsou stále jen plánované, zůstává otevřenou otázkou, nakolik se výsledky testů budou konzistentně promítat do programátorské práce v produkčním prostředí.