Partnerstwa

Vultr i SUSE współpracują, aby przynieść pełną platformę NVIDIA Enterprise AI do obciążeń produkcyjnych

mm
Dodaj Unite.AI do preferowanych źródeł w Google

Vultr i SUSE ogłosiły nowe partnerstwo, którego celem jest jeden z największych problemów w przedsiębiorstwach AI: przeniesienie z eksperymentów do produkcji. Spółki uruchomiły SUSE AI Factory z NVIDIA (NVDA ) na infrastrukturze Vultr, walidowaną pełną platformę, która łączy oprogramowanie AI przedsiębiorstwa SUSE, technologie NVIDIA AI Enterprise i globalną infrastrukturę chmury Vultr.

Ogłoszono na RAISE Summit w Paryżu, platforma jest zaprojektowana dla organizacji, które chcą wdrożyć aplikacje AI w sposób bezpieczny i skalowalny, bez konieczności samodzielnego montażu pełnej struktury. Obejmuje to warstwę infrastruktury, przyspieszenie GPU, orchestrację Kubernetes, oprogramowanie AI, kontrolę bezpieczeństwa i model wsparcia wymagany do uruchomienia obciążeń AI przedsiębiorstwa w produkcji.

Dlaczego to ma znaczenie

Wiele firm już przeszło poza fazę proof-of-concept AI. Trudniejszym wyzwaniem jest teraz operacyjnym. Przedsiębiorstwa muszą zdecydować, gdzie modele powinny być uruchomione, jak zarządzać GPU, jak chronić wrażliwe dane, jak aplikacje AI są zarządzane i jak zespoły mogą uniknąć miesięcy pracy integracyjnej przed uruchomieniem pierwszego obciążenia.

Partnerstwo Vultr-SUSE jest ukierunkowane na ten konkretny problem. Zamiast oferować tylko pojemność obliczeniową lub tylko narzędzia programowe, nowa platforma łączy warstwę infrastruktury i aplikacji w walidowanej architekturze. Celem jest zmniejszenie “podatku integracyjnego”, który często spowalnia projekty AI, gdy opuszczają laboratorium.

To rozróżnienie jest ważne. Produkcyjne AI nie polega tylko na dostępie do potężnych GPU. Wymaga wzorców wdrożenia, bezpieczeństwa, obserwowalności, orchestracji, zarządzania modelem i struktury wsparcia, na którą zespoły IT przedsiębiorstwa mogą liczyć.

Pełna platforma AI zbudowana na otwartej infrastrukturze

SUSE AI Factory z NVIDIA jest zbudowana na otwartej, opartej na Kubernetes architekturze. Daje to przedsiębiorstwom elastyczność wdrożenia obciążeń AI w chmurze, środowiskach lokalnych, krawędziowych i suwerennych, w zależności od wydajności, zgodności, rezydencji danych lub wymagań biznesowych.

SUSE opisuje swoją fabrykę AI jako otwartą platformę infrastruktury dla prywatnych przedsiębiorstw AI, zaprojektowaną do integracji z istniejącymi środowiskami Linux i Kubernetes, oraz pomocy organizacjom w przeniesieniu obciążeń z środowisk piaskownicowych do produkcji. SUSE kładzie również nacisk na platformę wokół pre-walidowanych planów, przepływów GitOps i wymagań suwerennych AI, zamiast zmuszania przedsiębiorstw do przyjęcia modelu chmury własnościowej.

Wersja z obsługą NVIDIA dodaje NVIDIA AI Enterprise bezpośrednio do warstwy zarządzania SUSE. NVIDIA AI Enterprise to komercyjny pakiet oprogramowania NVIDIA dla produkcji AI, który łączy mikrousługi, ramy, biblioteki, orchestrację GPU i narzędzia zarządzania infrastrukturą dla wdrożenia przedsiębiorstwa.

Co NVIDIA wnosi do stosu

Platforma obejmuje składniki NVIDIA AI Enterprise, takie jak NVIDIA NIM, NVIDIA NeMo i NVIDIA Run: ai. Każdy z nich rozwiązuje inny problem cyklu życia AI przedsiębiorstwa.

NVIDIA NIM pomaga organizacjom wdrożyć zoptymalizowaną inferencję modelu AI za pomocą mikrousług, zmniejszając ilość niestandardowej inżynierii wymaganej do przeniesienia modeli do produkcji. NVIDIA NeMo koncentruje się na tworzeniu, dostosowywaniu, optymalizacji i zarządzaniu agentami AI i systemami generatywnymi w chmurze, środowiskach lokalnych i hybrydowych.

NVIDIA Run: ai pomaga zarządzać orchestracją GPU i harmonogramem obciążeń, co jest krytycznym wymogiem, gdy przedsiębiorstwa starają się maksymalizować wykorzystanie drogiej infrastruktury przyspieszonej. NVIDIA AI Enterprise obejmuje również operatory Kubernetes i narzędzia zarządzania infrastrukturą, które pomagają standaryzować wdrożenia AI z obsługą GPU w środowiskach przedsiębiorstwa.

Dla przedsiębiorstw to ma znaczenie, ponieważ infrastruktura AI może szybko stać się fragmentaryzowana. Zespoły mogą używać różnych ram, narzędzi do obsługi modeli, warstw orchestracji i praktyk bezpieczeństwa w różnych departamentach. Walidowana warstwa oprogramowania obsługiwana przez NVIDIA pomaga utworzyć bardziej spójną podstawę.

Vultr zapewnia globalną warstwę infrastruktury AI

Rola Vultr polega na zapewnieniu podstawy infrastruktury pod warstwą oprogramowania. Firma oferuje chmury GPU, serwery bezpośrednie, obliczenia w chmurze, usługi Kubernetes, pamięć masową i sieciową, dając przedsiębiorstwom środowisko wdrożeniowe dla obciążeń AI, które wymagają zarówno wydajności, jak i elastyczności geograficznej.

Vultr rozszerza swoją pozycję wokół infrastruktury AI, z dostępem do GPU AMD i NVIDIA, zarządzanym Kubernetes, serwerami bezpośrednimi, pamięcią masową i obliczeniami w chmurze. Jego platforma jest używana dla obciążeń, które wymagają przyspieszenia GPU, w tym AI/ML, obliczeń wysokowydajnych, renderowania i innych aplikacji obliczeniowych.

To globalne rozpowszechnienie jest kluczowe dla partnerstwa. Obciążenia AI coraz częściej muszą być uruchamiane w pobliżu źródeł danych, użytkowników lub jurysdykcji regulacyjnych. Bank, dostawca usług zdrowotnych, operator telekomunikacyjny, producent, organizacja sektora publicznego lub podmiot związany z obroną może nie chcieć, aby każde obciążenie AI było kierowane przez jeden centralny region chmury. Rozproszona infrastruktura Vultr daje SUSE AI Factory z NVIDIA szerszy zasięg wdrożeniowy dla klientów, którzy potrzebują regionalnej lub suwerennej kontroli.

Zaprojektowane do produkcji, a nie tylko do pilotów

Najważniejszą częścią ogłoszenia nie jest to, że trzy główne dostawcy infrastruktury i oprogramowania współpracują. Jest to to, że partnerstwo odzwierciedla, dokąd zmierza AI przedsiębiorstwa.

Pierwsza fala adopcji generatywnej AI była zdominowana przez eksperymenty: wewnętrzne pilotażowe projekty, prototypy czatbotów, pilotażowe projekty generacji uzupełniającej i narzędzia produktywności departamentów. Następna faza jest bardziej wymagająca. Przedsiębiorstwa chcą wdrożyć AI w systemy zorientowane na klienta, przepływy pracy regulowane, operacje przemysłowe i podstawowe procesy biznesowe.

To podnosi poprzeczkę. Systemy AI muszą być bezpieczne, skalowalne, audytowalne i utrzymywalne. Muszą działać w złożonych środowiskach hybrydowych. Muszą obsługiwać wymagania dotyczące zarządzania. I muszą unikać tworzenia nowych form uzależnienia od dostawcy.

Otwarta infrastruktura SUSE, oprogramowanie AI przedsiębiorstwa NVIDIA i globalna infrastruktura chmury Vultr są łączone, aby rozwiązać te wymagania w bardziej zintegrowany sposób.

Redukowanie złożoności wdrożenia AI

Jednym z najwyraźniejszych tematów ogłoszenia jest uproszczenie. Przedsiębiorstwa często zaniżają, ile pracy inżynieryjnej jest wymagane, zanim AI może działać niezawodnie w produkcji. Zespoły muszą konfigurować sterowniki GPU, klastry Kubernetes, narzędzia do obsługi modeli, potoki danych, kontrolę dostępu, systemy monitorowania i zasady bezpieczeństwa. Muszą również upewnić się, że środowiska rozwoju, testowania i produkcji pozostają zgodne.

SUSE AI Factory z NVIDIA jest zaprojektowana, aby zmniejszyć tę złożoność za pomocą pre-walidowanych planów i płaszczyzny zarządzania dostarczanej za pomocą rozszerzeń Rancher i operatorów Kubernetes. Dokumentacja SUSE opisuje fabrykę AI jako sposób odkrywania aplikacji AI i łączenia ich w niezmienne, kontrolowane wersjami planów.

Ten model oparty na planach jest ważny, ponieważ pomaga zespołom przenieść się z wdrożeń jednorazowych do powtarzalnych wzorców infrastruktury. Zamiast odbudowywania stosu AI dla każdego nowego projektu, przedsiębiorstwa mogą standaryzować, jak obciążenia AI są pakowane, wdrażane, zarządzane i skalowane.

Bezpieczeństwo, suwerenność i kontrola

Ogłoszenie kładzie również nacisk na bezpieczne i suwerenne AI. To odzwierciedla rosnącą troskę przedsiębiorstw: gdzie obciążenia AI są uruchamiane, kto kontroluje dane i jak własność intelektualna jest chroniona.

Szeroka strategia AI SUSE kładzie nacisk na prywatne AI przedsiębiorstwa, kontrolę danych, bezpieczeństwo zero-trust i elastyczność wdrożeniową w chmurze, centrach danych i środowiskach krawędziowych. Materiały produktowe SUSE podkreślają parzystwo piaskownicowo-produkcyjne, pre-walidowane szablony, przepływy GitOps i obsługę wymagań suwerennych AI.

To jest szczególnie istotne dla branż, takich jak usługi finansowe, opieka zdrowotna, rząd, telekomunikacja, produkcja i sektory pokrewne do obrony, gdzie adopcja AI jest ograniczona nie tylko przez zdolność techniczną, ale także przez regulacje, zgodność i ryzyko operacyjne.

ZNak dojrzewania rynku AI przedsiębiorstwa

Partnerstwo Vultr-SUSE jest częścią szerszego trendu w infrastrukturze AI przedsiębiorstwa. Rynek przechodzi od izolowanych narzędzi do fabryk AI: zintegrowanych środowisk, w których dane, modele, obliczenia, orchestracja, zarządzanie i potoki wdrożeniowe współpracują.

Dla przedsiębiorstw wartość nie leży tylko w szybszym dostępie do GPU lub kolejnej platformie AI. Wartość leży w zmniejszeniu odległości między ambicjami AI a rzeczywistością operacyjną. Jeśli platforma działa zgodnie z założeniami, organizacje mogą spędzić mniej czasu na szyciu infrastruktury i więcej czasu na budowaniu aplikacji AI, które dają wymierne rezultaty.

Istniejący klienci SUSE będą mogli współpracować z zespołami SUSE, aby ocenić platformę, przy czym SUSE i Vultr będą współpracować przy wdrożeniach pilotażowych dostosowanych do obciążeń klientów. Planowana jest również opcja wdrożenia samodzielnego przez marketplace Vultr.

Podsumowanie

Uruchomienie SUSE AI Factory z NVIDIA na infrastrukturze Vultr pokazuje, jak szybko ewoluuje infrastruktura AI przedsiębiorstwa. Firmy nie chcą już eksperymentów AI, które żyją w izolowanych piaskownicach. Chcą zarządzane, bezpieczne, skalowalne systemy, które mogą działać tam, gdzie wymaga tego biznes.

Łącząc otwarte podstawy oprogramowania przedsiębiorstwa SUSE, oprogramowanie AI przedsiębiorstwa NVIDIA i globalną infrastrukturę chmury Vultr, partnerstwo daje organizacjom bardziej bezpośrednią ścieżkę od projektów pilotażowych do AI produkcyjnych.

To nie eliminuje trudnej pracy adopcji AI. Przedsiębiorstwa wciąż potrzebują odpowiednich danych, zarządzania, talentów i przypadków użycia biznesowych. Ale rozwiązuje jeden z najbardziej uporczywych barier: złożoność montażu i obsługi samej infrastruktury AI.

Antoine jest wizjonerskim liderem i współzałożycielem Unite.AI, który jest zmotywowany niezachwianą pasją do kształtowania i promowania przyszłości sztucznej inteligencji i robotyki. Jako serialowy przedsiębiorca, wierzy, że sztuczna inteligencja będzie tak samo przełomowa dla społeczeństwa, jak elektryczność, i często jest złapany na tym, że zachwala potencjał przełomowych technologii i AGI.

Jako futurysta, jest poświęcony badaniu, jak te innowacje ukształtują nasz świat. Ponadto, jest założycielem Securities.io, platformy skupiającej się na inwestowaniu w najnowocześniejsze technologie, które zmieniają przyszłość i przebudowują całe sektory.