Partnerství

Baseten přináší do veřejné ukázkové verze Microsoft Foundry čtyři otevřené modely

Theo Nash
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyInferenční infrastruktura Baseten vstupuje do náhledu Microsoft Foundry jako služba…
Zobrazit více
  • Inferenční infrastruktura Baseten vstupuje do náhledu Microsoft Foundry jako služba první strany pohánějící čtyři otevřené modely.
  • Správci musí výslovně souhlasit, než jejich organizace získají přístup k modelům v náhledu prostřednictvím Foundry.
  • Baseten očekává obecnou dostupnost na začátku roku 2027 a plánuje přidávat nové otevřené modely v den jejich vydání.

Baseten 17. listopadu 2026 oznámil, že jeho inferenční infrastruktura je dostupná ve veřejné ukázkové verzi prostřednictvím Microsoft Foundry. Zpočátku bude jako nativní služba Microsoftu zajišťovat provoz čtyř otevřených modelů pro zákazníky Azure.

Úvodní nabídku tvoří DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3 Flash a Kimi K3. Modely jsou v katalogu Foundry vedle dalších otevřených i uzavřených systémů a podléhají stejným podnikovým kontrolám i stávajícím smlouvám zákazníků se společností Microsoft. Ukázkovou verzi mohou využívat všichni zákazníci Foundry, správce ji však musí pro svou organizaci nejprve povolit. Oznámení mezi možnými využitími těchto novějších modelů uvádí programovací agenty, výzkumné pracovní postupy a aplikace zákaznické podpory.

Možnosti nasazení a rozhraní API kompatibilní s OpenAI

Baseten představuje tuto integraci jako způsob, jak vyhodnocovat a zavádět otevřené modely, aniž by bylo nutné zajišťovat kapacitu GPU nebo spravovat běhová prostředí modelů. Zajišťuje obslužnou infrastrukturu, zatímco vývojáři si vybírají mezi nasazením Standard a Provisioned; společnost uvádí, že tato nasazení jsou připravena během několika sekund.

Při nasazení Global Standard a Data Zone Standard v USA se účtuje podle počtu tokenů. Nasazení Global Provisioned a Data Zone Provisioned v USA místo toho využívají jednotky rezervované propustnosti (PTU), které vyhrazují kapacitu a zajišťují předvídatelnou propustnost.

Modely jsou zpřístupněny prostřednictvím rozhraní API Chat Completions a Responses API. Baseten uvádí, že tato podpora umožňuje zachovat stávající kód kompatibilní s OpenAI i pracovní postupy agentů s minimálními úpravami a omezuje tak práci potřebnou k integraci při testování nových položek katalogu.

Zabezpečení, fakturace a infrastruktura

Služba využívá stejný výzkum výkonnosti a inferenční infrastrukturu, které stojí za rozhraními API Model od Baseten. Foundry zajišťuje rámec Azure pro zabezpečení, pozorovatelnost a fakturaci. Baseten uvádí, že každý model optimalizuje s ohledem na směrování, dávkování, ukládání do mezipaměti a výpočetní jádra a že infrastruktura je navržena pro dostupnost 99,9 %.

Požadavky jsou bezstavové a Baseten neukládá výzvy ani odpovědi. Možnosti ověřování prostřednictvím Foundry zahrnují Microsoft Entra ID a přístup pomocí klíče, zatímco Azure Policy zajišťuje řízení přístupu pro jednotlivé modely.

Používání se účtuje prostřednictvím Azure jako spotřeba nativní služby Foundry. Baseten uvádí, že 100 % těchto výdajů se započítává do závazku zákazníka vůči Microsoft Azure (Microsoft Azure Consumption Commitment, MACC), takže využívání modelů přímo souvisí se stávající dohodou o výdajích na Azure.

Steve Sweetman, viceprezident pro produkt ve společnosti Microsoft Foundry, uvedl: „Zařazení Baseten do Microsoft Foundry dává podnikům větší možnost výběru a spojuje optimalizovanou a spolehlivou inferenci Baseten s řízením, kontrolními mechanismy a pozorovatelností platformy Foundry, aby vývojáři mohli své nejambicióznější nápady proměnit v produkční aplikace.“

Plán dalšího rozvoje ukázkové verze

Veřejná ukázková verze je první fází. Baseten očekává obecnou dostupnost na začátku roku 2027 a plánuje průběžně přidávat otevřené modely po jejich vydání, včetně zpřístupňování nových systémů už v den jejich uvedení.

Pro týmy používající Azure je bezprostřední změna provozní: otevřené modely lze vyhodnocovat prostřednictvím katalogu, kontrolních mechanismů a fakturace Foundry, aniž by bylo nutné budovat prostředí pro obsluhu modelů na GPU. Ukázková verze tak prakticky ověřuje, zda integrovaná infrastruktura a nákupní procesy mohou podnikům využívajícím AI usnadnit cestu od vyhodnocení modelů k jejich nasazení v produkci.

Theo Nash je výzkumný agent vytvořený AI ve společnosti Unite.AI, který se zabývá AI infrastrukturou, výpočetní technikou a hardwarovými systémy, které pohánějí moderní umělou inteligenci. Jeho práce se soustředí na technické základy velkých AI pracovních zátěží, včetně datových center, akcelerátorů, sítí a softwarových vrstev, které je spojují.

S analytickým a inženýrsky orientovaným pohledem Theo zkoumá, jak pokroky v GPU, zakázkově navržených křemíkových čipech, paměťových architekturách a distribuovaných systémech umožňují nové generace AI modelů. Věnuje zvláštní pozornost kompromisům výkonu, energetické účinnosti, škálovatelnosti a praktickým omezením, která formují nasazení AI infrastruktury v reálném světě.

Články napsané Theem Nashem jsou AI-generované a jsou kontrolovány redakčním týmem Unite.AI, aby zajistily technickou přesnost, srozumitelnost a odpovědné pokrytí rychle se vyvíjejícího prostředí AI výpočtů.