Vultr і SUSE співпрацюють, щоб привнести повноцінну платформу NVIDIA для підприємства AI на базі відкритої інфраструктури у виробничі навантаження

Vultr і SUSE оголосили про новий партнерський договір, спрямований на одну з найбільших проблем у сфері підприємства AI: перехід від експериментів до виробництва. Компанії запустили SUSE AI Factory з NVIDIA (NVDA ) на інфраструктурі Vultr, перевірену повноцінну платформу, яка поєднує програмне забезпечення SUSE для підприємства AI, технології NVIDIA AI Enterprise та глобальну хмарну інфраструктуру Vultr.

Оголошення було зроблено на саміті RAISE в Парижі, платформа розроблена для організацій, які хочуть розгортати додатки AI безпечно та у великих масштабах без необхідності самостійно збираючи повну стеку. Це включає в себе інфраструктурний шар, прискорення GPU, оркестрацію Kubernetes, програмне забезпечення AI, засоби безпеки та модель підтримки, необхідні для запуску навантажень підприємства AI у виробництві.

Чому це важливо

Багато компаній уже перейшли за межі початкової фази доказу концепції AI. Більш складна проблема тепер операційна. Підприємства повинні вирішувати, де повинні запускатися моделі, як керувати GPU, як захищати чутливі дані, як керувати додатками AI та як уникнути місяців інтеграційної роботи до запуску першого навантаження.

Партнерство Vultr-SUSE позиціонується саме навколо цієї проблеми. Натомість пропонувати лише обчислювальні можливості або лише програмне забезпечення, нова платформа поєднує інфраструктурний та програмний шари у перевірену архітектуру. Метою є зменшення “інтеграційного податку”, який часто сповільнює проекти AI після виходу з лабораторії.

Ця відмінність важлива. Виробництво AI не лише полягає у доступі до потужних GPU. Воно вимагає повторюваних шаблонів розгортання, безпеки, спостереження, оркестрації, керування моделями та структури підтримки, на яку можуть покладатися команди підприємства IT.

Повноцінна платформа AI, побудована на відкритій інфраструктурі

SUSE AI Factory з NVIDIA побудована на відкритій, заснованій на Kubernetes архітектурі. Це дає підприємствам гнучкість у розгортанні навантажень AI по хмарі, на місці, краю та суверенних середовищах, залежно від продуктивності, відповідності вимогам, резидентності даних чи бізнес-вимог.

SUSE описує свою AI Factory як відкриту інфраструктурну платформу для приватного підприємства AI, розроблену для інтеграції у наявні середовища Linux та Kubernetes, а також для допомоги організаціям у переході навантажень з пісочниць у виробництво. SUSE також позиціонує платформу навколо попередньо перевірених блупринтів, робочих процесів GitOps та суверенних вимог AI, а не примушує підприємства до пропріетарної хмарної моделі.

Версія з підтримкою NVIDIA додає NVIDIA AI Enterprise безпосередньо до шару керування SUSE. NVIDIA AI Enterprise – це комерційна програмна суїта для виробництва AI, яка поєднує мікросервіси, фреймворки, бібліотеки, оркестрацію GPU та інструменти керування інфраструктурою для підприємства розгортання.

Що NVIDIA привносить у стек

Платформа включає компоненти NVIDIA AI Enterprise, такі як NVIDIA NIM, NVIDIA NeMo та NVIDIA Run:ai. Кожен з них адресує окрему частину життєвого циклу підприємства AI.

NVIDIA NIM допомагає організаціям розгортати оптимізовані інференси моделей AI через мікросервіси, зменшуючи кількість необхідної інженерної роботи для запуску моделей у виробництво. NVIDIA NeMo зосереджена на побудові, налаштуванні, оптимізації та керуванні агентами AI та генеративними системами AI у хмарі, на місці та гібридних середовищах.

NVIDIA Run:ai допомагає керувати оркестрацією GPU та плануванням навантажень, що є критичною вимогою для підприємств, які намагаються максимізувати використання дорогої прискореної інфраструктури. NVIDIA AI Enterprise також включає оператори Kubernetes та інструменти керування інфраструктурою, які допомагають стандартизувати розгортання AI з підтримкою GPU у підприємствах.

Для підприємств це має значення, оскільки інфраструктура AI може швидко стати фрагментованою. Команди можуть використовувати різні фреймворки, інструменти подачі моделей, шари оркестрації та практики безпеки у різних департаментах. Перевірений шар програмного забезпечення NVIDIA допомагає створити більш послідовну основу.

Vultr забезпечує глобальний шар інфраструктури AI

Роль Vultr полягає у забезпеченні інфраструктурної основи під програмним стеком. Компанія пропонує хмарні GPU, голий метал, хмарні обчислення, оркестрацію Kubernetes, сховище даних та мережеві послуги, надаючи підприємствам середовище розгортання для навантажень AI, які вимагають як продуктивності, так і географічної гнучкості.

Vultr розширює свою позицію навколо інфраструктури AI, з доступом до GPU AMD та NVIDIA, керованої оркестрації Kubernetes, голого металу, сховища даних та хмарних обчислень. Її платформа використовується для навантажень, які вимагають прискорення GPU, включаючи AI/ML, високопродуктивні обчислення, рендеринг та інші обчислювально-інтенсивні застосування.

Цей глобальний слід є центральним у партнерстві. Навантаження AI все частіше повинні запускатися близько до джерел даних, користувачів або регульованих юрисдикцій. Банк, постачальник медичних послуг, оператор зв’язку, виробник, організація державного сектора або організація, пов’язана з обороною, можуть не хотіти, щоб кожне навантаження AI проходило через один центральний хмарний регіон. Глобальна інфраструктура Vultr надає платформі SUSE AI Factory з NVIDIA ширший слід розгортання для клієнтів, які потребують регіонального або суверенного контролю.

Розроблено для виробництва, а не лише для пілотних проектів

Найважливішим у оголошенні є не те, що три великих постачальники інфраструктури та програмного забезпечення працюють разом. Це те, що партнерство відображає, куди рухається підприємство AI.

Перша хвиля прийняття генеративного AI була домінована експериментами: внутрішні копілоти, прототипи чат-ботів, пілотні проекти генерації з підтримкою пошуку та інструменти продуктивності департаментів. Наступний етап ще більш вимогливий. Підприємства хочуть розгортати AI у системах, орієнтованих на клієнтів, регульованих робочих процесах, промислових операціях та основних бізнес-процесах.

Це підвищує планку. Системи AI повинні бути безпечними, масштабованими, аудитованими та підтримуваними. Вони повинні запускатися у складних гібридних середовищах. Вони повинні підтримувати вимоги керування. І вони повинні уникати створення нових форм залежності від постачальників.

Відкритий підхід SUSE до інфраструктури, програмне забезпечення виробництва AI від NVIDIA та глобальна хмарна інфраструктура Vultr поєднуються для задоволення цих вимог більш інтегрованим чином.

Зменшення складності розгортання AI

Одна з найясніших тем оголошення – це спрощення. Підприємства часто недооцінюють кількість інженерної роботи, необхідної до того, як AI зможе надійно запускатися у виробництві. Команди повинні конфігурувати драйвери GPU, кластери Kubernetes, інструменти подачі моделей, потоки даних, засоби контролю доступу, системи моніторингу та політики безпеки. Вони також повинні забезпечити, щоб середовища розробки, тестування та виробництва залишаються синхронізованими.

SUSE AI Factory з NVIDIA розроблена для зменшення цієї складності за допомогою попередньо перевірених блупринтів та плану керування, доставленого через розширення Rancher та оператори Kubernetes. Документація SUSE описує AI Factory як засіб відкриття додатків AI та поєднання їх у імутабельні, контрольовані версіями блупринтів.

Ця модель, заснована на блупринтах, важлива, оскільки вона допомагає командам перейти від окремих розгортань до повторюваних шаблонів інфраструктури. Натомість перебудовувати стек AI для кожного нового проекту, підприємства можуть стандартизувати, як навантаження AI пакетуються, розгортаються, керуються та масштабуються.

Безпека, суверенітет та контроль

Оголошення також сильно акцентує на безпеці та суверенітеті AI. Це відображає зростаючу турботу підприємств: де запускаються навантаження AI, хто контролює дані та як захищається інтелектуальна власність.

Ширша стратегія SUSE щодо AI підкреслює приватне підприємство AI, контроль даних, безпечність з нульовим довірою, гнучкість розгортання у хмарі, центрах даних та середовищах краю. Матеріали продукту компанії підкреслюють паритет пісочниці та виробництва, попередньо перевірені шаблони, робочі процеси GitOps та підтримку вимог суверенітету AI.

Це особливо актуально для галузей, таких як фінансові послуги, охорона здоров’я, уряд, телекомунікації, виробництво та сектори, пов’язані з обороною, де прийняття AI обмежене не лише технічними можливостями, але також регуляціями, відповідністю вимогам та операційними ризиками.

Ознака того, що ринок підприємства AI дозріває

Партнерство Vultr-SUSE є частиною ширшої зміни інфраструктури підприємства AI. Ринок рухається від ізольованих інструментів до фабрик AI: інтегрованих середовищ, де дані, моделі, обчислення, оркестрація, керування та трубопроводи розгортання працюють разом.

Для підприємств цінність полягає не лише у швидкому доступі до GPU або ще одному панелі інструментів AI. Цінність полягає у зменшенні відстані між амбіціями AI та операційною реальністю. Якщо платформа працює так, як передбачено, організації можуть витрачати менше часу на шиття інфраструктури та більше часу на побудову додатків AI, які дають вимірювані результати.

Існуючі клієнти SUSE зможуть працювати з командами облікових записів SUSE для оцінки платформи, а SUSE та Vultr будуть співпрацювати над розгортанням концепції, адаптованої до навантажень клієнтів. Також планується варіант самозагрузки через ринок Vultr.

Основне

Запуск SUSE AI Factory з NVIDIA на інфраструктурі Vultr показує, як швидко інфраструктура підприємства AI еволюціонує. Компанії більше не хочуть експериментів з AI, які живуть у ізольованих пісочницях. Вони хочуть керованих, безпечних, масштабованих систем, які можуть запускатися там, де це потрібно для бізнесу.

Об’єднавши відкриту програмну основу підприємства SUSE, стек виробництва AI від NVIDIA та глобальну хмарну інфраструктуру Vultr, партнерство надає організаціям більш прямий шлях від пілотних проектів до виробництва AI.

Це не усуває важкої роботи прийняття AI. Підприємства все ще потребують правильних даних, керування, талантів та бізнес-кейсів. Але це усуває одну з найбільш постійних бар’єрів: складність збирання та експлуатації самої інфраструктурної стека AI.