Modele i platformy AI
vCluster wprowadza prywatne chmury samoobsługowe dla dedykowanego sprzętu AI
vCluster Platform v5.0 zapewnia klientom chmur AI samoobsługowy dostęp do dedykowanych serwerów oraz zatwierdzonych przez dostawcę środowisk Kubernetes, Slurm i środowisk do wnioskowania.
Kluczowe punktyvCluster Platform v5.0 pozwala klientom udostępniać serwery GPU typu bare-metal bez…
Zobacz więcej
- vCluster Platform v5.0 pozwala klientom udostępniać serwery GPU typu bare-metal bez konieczności obsługi każdego żądania przez personel dostawcy.
- Dostawcy kontrolują, do których typów maszyn i szablonów każdy najemca ma dostęp, podczas gdy klienci samodzielnie korzystają z usług w ramach limitów.
- Ograniczona dostępność oznacza, że operatorzy nadal muszą weryfikować zgodność i mierzyć, czy obciążenie związane ze wsparciem rzeczywiście się zmniejsza.
vCluster Labs udostępniło w ograniczonym zakresie vCluster Platform v5.0, która pozwala dostawcom chmur AI oferować samoobsługowe środowiska na dedykowanych serwerach fizycznych. Klienci mogą udostępniać maszyny z przydzielonej im puli zasobów, wybierać obrazy systemów operacyjnych i uruchamiać klastry Kubernetes, Slurm lub środowiska do wnioskowania, bez konieczności zwracania się do dostawcy z prośbą o realizację każdego z tych działań.
Wydanie z 19 listopada odpowiada na praktyczny problem operatorów, którzy zobowiązali się już zapewniać zasoby bare metal. Klient może wynająć pulę serwerów GPU, a mimo to nadal polegać na zespole operacyjnym dostawcy, który przygotowuje maszyny do nowych projektów. Nowa platforma przekazuje część tych decyzji klientowi, pozostawiając dostawcy własność sprzętu i przydzielanie zasobów.
Jedna pula zasobów dla serwerów fizycznych
W ramach tego wydania serwery fizyczne trafiają do puli zasobów zarządzanej przez vMetal, komponent platformy odpowiedzialny za udostępnianie zasobów. Operator przydziela klientom określoną pojemność albo udostępnia ją na żądanie, a następnie decyduje, z jakich typów maszyn, obrazów i szablonów klastrów może korzystać każdy klient. Platforma wprowadza wyraźną granicę między klientami — dzierżawcę (tenant) — obejmującą poszczególne projekty. Limity określają, ile zasobów klient może wykorzystać, a klienci nie widzą zasobów, do których nie przyznano im dostępu.
Dla zespołu platformowego po stronie klienta oznacza to, że kilka grup wewnętrznych może korzystać z tej samej umowy, bez konieczności uzyskiwania przez każdą z nich nowego przydziału od dostawcy. Zespół badawczy może skonfigurować środowisko Slurm do planowania zadań, podczas gdy zespół aplikacyjny wykorzystuje Kubernetes do wdrożenia środowiska wnioskowania. Dostawca określa, które konfiguracje obsługuje, a klient może wybierać spośród nich. Zakres kontroli klienta zależy więc od tego, co obejmuje przydzielona mu pula zasobów, oraz od tego, jakie szablony udostępnia dostawca.
Firma informuje, że dostawcy mogą korzystać z jej konsoli albo zbudować własny portal z brandingiem, oparty na tym samym bazowym interfejsie API. To rozróżnienie ma znaczenie dla operatorów sprzedających infrastrukturę pod własną marką: interfejs może się różnić, bez konieczności tworzenia oddzielnego systemu zarządzania zasobami i ich udostępniania dla każdego rodzaju usługi.
Dedykowany sprzęt i udostępnianie zasobów jak w chmurze
Infrastruktura bare metal zapewnia dostęp do serwerów fizycznych, a nie do instancji współdzielących hosta z niepowiązanymi klientami. Może to być atrakcyjne dla nabywców, którzy chcą mieć określoną konfigurację sprzętową, dedykowaną moc obliczeniową akceleratorów lub kontrolę nad środowiskiem programowym. Sama rezerwacja serwera fizycznego nie zapewnia jednak gotowej do użycia usługi chmurowej. Ktoś nadal musi zainstalować system operacyjny, skonfigurować dostęp i przygotować klaster.
Podejście vCluster łączy dedykowane maszyny i sieć wydzieloną dla każdego klienta z samoobsługowym udostępnianiem zasobów. Dostawca może korzystać z tej samej puli zasobów zarówno przy prostym wynajmie serwerów, jak i przy oferowaniu bardziej kompleksowo zarządzanych produktów. Uzasadnienie biznesowe jest takie, że ograniczenie liczby czynności wykonywanych przez personel dostawcy mogłoby ułatwić wdrażanie każdego klienta, a nabywcy preferujący zarządzany klaster mogliby wybrać usługę o innym zakresie. Wydanie nie określa, ile zaoszczędziłaby którakolwiek ze stron; opłacalność będzie zależeć od stopnia wykorzystania sprzętu i zakresu potrzebnego klientom wsparcia.
Znaczenie ma również sposób zarządzania sprzętem, który pozostaje bezczynny między projektami. Rezerwacja zasobów zapewnia nabywcom przewidywalność, ale maszyny mogą wówczas pozostać niedostępne dla innych klientów, nawet gdy nie są używane. Pula dostępna na żądanie może zwiększyć elastyczność, ale tylko wtedy, gdy dostawca jest w stanie niezawodnie zaspokajać popyt. Platforma pozwala dostawcom oferować oba modele, nie eliminuje jednak potrzeby ustalenia warunków rezerwacji ani planowania na wypadek niedoborów.
Co ograniczona dostępność oznacza dla operatorów
Wersja 5.0 nie jest ogólnie dostępna. W dokumentacji dostawca zaleca pozostawienie obecnych wydań z długoterminowym wsparciem — Platform v4.12 i vCluster v0.37 — w użyciu w istniejących wdrożeniach. Operatorzy rozważający nową wersję muszą nadal ocenić jej zgodność z używanymi narzędziami do udostępniania zasobów i zarządzania siecią, a także sprawdzić, czy klienci mogą przejść od przydziału maszyny do działającego klastra bez powstawania nowych wąskich gardeł w obsłudze.
Bezpośrednim sprawdzianem będzie sprawność operacyjna: jak szybko dostawca potrafi dostarczyć działającą infrastrukturę po przydzieleniu sprzętu i jak często klienci potrzebują później pomocy. Jeśli wyniki w tych obszarach się poprawią, a zarządzanie dedykowanymi zasobami nie stanie się trudniejsze, samoobsługa może stać się istotnym wyróżnikiem dostawców chmur AI oferujących podobny sprzęt.












