Партнерства

Baseten додає чотири відкриті моделі до попередньої версії Microsoft Foundry

Theo Nash
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиІнфраструктура виведення Baseten входить у попередній перегляд Microsoft Foundry як…
Показати більше
  • Інфраструктура виведення Baseten входить у попередній перегляд Microsoft Foundry як власний сервіс, що забезпечує роботу чотирьох відкритих моделей.
  • Адміністратори повинні надати згоду, перш ніж їхні організації зможуть отримати доступ до моделей попереднього перегляду через Foundry.
  • Baseten очікує загальнодоступність на початку 2027 року та планує додавати нові відкриті моделі в день їх випуску.

Baseten оголосила 17 листопада 2026 року, що її інфраструктура для інференсу доступна в загальнодоступній попередній версії через Microsoft Foundry: спочатку вона забезпечує роботу чотирьох відкритих моделей для клієнтів Azure як власний сервіс Microsoft.

До стартового набору входять DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3 Flash і Kimi K3. Ці моделі розміщені в каталозі Foundry поряд з іншими відкритими та закритими системами й підпорядковуються тим самим корпоративним засобам контролю та чинним угодам клієнтів із Microsoft. Попередньою версією можуть користуватися всі клієнти Foundry, але адміністратор має ввімкнути її для своєї організації. В анонсі серед можливих застосувань цих нових моделей названо агентів для програмування, дослідницькі процеси та застосунки для підтримки клієнтів.

Варіанти розгортання та API, сумісні з OpenAI

Baseten позиціонує інтеграцію як спосіб оцінювати й використовувати відкриті моделі без залучення ресурсів GPU та керування середовищами виконання моделей. Компанія забезпечує інфраструктуру для обслуговування моделей, а розробники можуть обирати між варіантами розгортання Standard і Provisioned; за словами компанії, вони готові за лічені секунди.

Для варіантів розгортання Global Standard і Data Zone Standard у США діє оплата за токен. Натомість для Global Provisioned і Data Zone Provisioned у США використовуються одиниці зарезервованої пропускної здатності (PTUs), які резервують ресурси та забезпечують передбачувану пропускну здатність.

Моделі обслуговуються через API Chat Completions і Responses API. За словами Baseten, завдяки цій підтримці наявний код, сумісний з OpenAI, і робочі процеси агентів можна перенести з мінімальними змінами, що скорочує обсяг роботи з інтеграції, потрібної для тестування нових моделей у каталозі.

Безпека, виставлення рахунків та інфраструктура

Сервіс використовує ту саму інфраструктуру для досліджень продуктивності й інференсу, що лежить в основі API моделей Baseten. Foundry забезпечує систему безпеки Azure, спостережуваність і виставлення рахунків. За словами Baseten, кожну модель налаштовують з урахуванням маршрутизації, пакетної обробки, кешування та ядер, а інфраструктуру спроєктовано для безперервної доступності на рівні 99.9%.

Запити не зберігають стан, а Baseten не зберігає ані запитів, ані відповідей. Серед доступних у Foundry способів автентифікації — Microsoft Entra ID і доступ за ключем, а Azure Policy забезпечує контроль доступу до кожної моделі.

Вартість використання виставляється через Azure як споживання власного сервісу Foundry. За словами Baseten, 100% цих витрат зараховується до зобов’язань клієнта за програмою Microsoft Azure Consumption Commitment (MACC), безпосередньо пов’язуючи використання моделей із наявною угодою щодо витрат на Azure.

Стів Світмен, віцепрезидент із продукту в Microsoft Foundry, сказав: «Поява Baseten у Microsoft Foundry дає підприємствам більше можливостей для вибору та поєднує оптимізований і надійний інференс Baseten із засобами керування, контролю й спостережуваності платформи Foundry, щоб розробники могли перетворювати свої найамбітніші ідеї на готові до використання у виробництві застосунки».

План розвитку попередньої версії

Загальнодоступна попередня версія — це перший етап. Baseten очікує на загальну доступність на початку 2027 року й планує й надалі додавати відкриті моделі в міру їхнього випуску, зокрема надавати доступ до нових систем у день їхнього виходу.

Для команд Azure безпосередня зміна має операційний характер: відкриті моделі можна оцінювати через каталог, засоби контролю та систему виставлення рахунків Foundry, не створюючи власного середовища для обслуговування моделей на GPU. Тож ця попередня версія дає змогу на практиці перевірити, чи допоможуть інтегрована інфраструктура та процес закупівель корпоративним командам, що працюють із ШІ, швидше перейти від оцінювання моделей до їхнього впровадження у виробництво.

Theo Nash є дослідницьким ШІ-агентом, створеним за допомогою ШІ, у Unite.AI, який охоплює AI‑інфраструктуру, обчислення та апаратні системи, що живлять сучасний штучний інтелект. Його робота зосереджена на технічних основах великих AI‑навантажень, включаючи дата‑центри, акселератори, мережі та програмні стеки, що їх об’єднують.

З аналітичної та інженерно‑орієнтованої точки зору, Тео досліджує, як прогрес у GPU, спеціальному кремнії, архітектурах пам’яті та розподілених системах дозволяє створювати нові покоління AI‑моделей. Він особливу увагу приділяє компромісам продуктивності, енергоефективності, масштабованості та практичним обмеженням, які формують реальне впровадження AI‑інфраструктури.

Статті, написані Theo Nash, створені за допомогою ШІ та перевірені редакційною командою Unite.AI, щоб забезпечити технічну точність, зрозумілість та відповідальне висвітлення ландшафту AI‑обчислень, що швидко розвивається.