Modele și platforme AI
vCluster adaugă clouduri private cu autoservire pentru hardware dedicat pentru AI
vCluster Platform v5.0 le oferă clienților de cloud pentru AI acces cu autoservire la servere dedicate și la medii Kubernetes, Slurm și de inferență aprobate de furnizor.
Puncte cheievCluster Platform v5.0 permite clienților să provisioneze servere GPU bare-metal fără…
Vezi mai mult
- vCluster Platform v5.0 permite clienților să provisioneze servere GPU bare-metal fără ca personalul furnizorului să gestioneze fiecare cerere.
- Furnizorii controlează la ce tipuri de mașini și șabloane poate accesa fiecare chiriaș, în timp ce clienții se autoservesc în limitele cotelor.
- Disponibilitatea limitată înseamnă că operatorii trebuie încă să verifice compatibilitatea și să măsoare dacă povara de suport chiar scade.
vCluster Labs a lansat vCluster Platform v5.0 cu disponibilitate limitată, oferind furnizorilor de cloud pentru AI o modalitate de a pune la dispoziție medii cu autoservire pe servere fizice dedicate. Clienții pot configura mașini din capacitatea care le-a fost alocată, pot selecta o imagine de sistem de operare și pot lansa clustere Kubernetes, Slurm sau de inferență fără să solicite furnizorului să gestioneze fiecare cerere.
Lansarea din 19 noiembrie abordează o problemă practică pentru operatorii care s-au angajat deja să furnizeze capacitate bare-metal. Un client poate închiria un grup de servere GPU, dar poate depinde în continuare de echipa de operațiuni a furnizorului pentru a pregăti mașinile în vederea unor proiecte noi. Noua platformă transferă clientului o parte dintre aceste decizii, în timp ce furnizorul păstrează proprietatea asupra hardware-ului și alocă capacitatea.
Un singur inventar pentru mașinile fizice
Lansarea include serverele fizice într-un inventar gestionat de vMetal, componenta de furnizare a resurselor aflată la baza platformei. Operatorul alocă capacitate clienților sau o lasă disponibilă la cerere, apoi decide ce tipuri de mașini, imagini și șabloane de cluster poate folosi fiecare client. Platforma introduce o delimitare explicită între clienți, numită „tenant”, la nivelul de deasupra proiectelor individuale. Cotele limitează capacitatea pe care o poate solicita un client, iar clienții nu pot vedea inventarul pentru care nu au primit acces.
Pentru echipa de platformă a unui client, asta înseamnă că mai multe grupuri interne pot utiliza aceeași alocare contractuală, fără ca fiecare să aibă nevoie de o nouă alocare din partea furnizorului. Un grup de cercetare ar putea configura un mediu Slurm pentru executarea unor sarcini planificate, în timp ce o echipă de aplicații folosește Kubernetes pentru implementarea unui serviciu de inferență. Furnizorul decide ce configurații acceptă, iar clientul poate alege dintre acestea. Prin urmare, nivelul de control al clientului depinde de ce este inclus în alocarea sa și de ce șabloane pune furnizorul la dispoziție.
Compania afirmă că furnizorii pot folosi consola sa sau pot crea un portal cu propria marcă, bazat pe aceeași interfață API. Această distincție este importantă pentru operatorii care vând infrastructură sub propria marcă: interfața poate fi diferită fără să fie necesar un sistem separat de inventariere și furnizare a resurselor pentru fiecare tip de serviciu.
Hardware dedicat, cu furnizarea resurselor în stil cloud
Infrastructura bare-metal oferă acces la servere fizice, nu la instanțe care partajează o gazdă cu alți clienți fără legătură între ei. Aceasta poate fi atractivă pentru cumpărătorii care doresc o configurație hardware cunoscută, capacitate dedicată de accelerare sau control asupra mediului software. Însă rezervarea unui server fizic nu oferă, de una singură, un serviciu cloud utilizabil. Cineva trebuie totuși să instaleze sistemul de operare, să configureze accesul și să pregătească clusterul.
Abordarea vCluster combină mașini dedicate și rețelistică separată pentru fiecare client cu furnizarea de resurse în regim de autoservire. Un furnizor poate folosi același inventar atât pentru închirieri simple de servere, cât și pentru produse cu un nivel mai ridicat de gestionare. Argumentul comercial este că reducerea numărului de pași gestionați de personalul furnizorului ar putea simplifica integrarea fiecărui client, în timp ce cumpărătorii care preferă un cluster gestionat pot achiziționa un alt nivel de servicii. Lansarea nu stabilește cât ar economisi niciuna dintre părți, iar rentabilitatea va depinde de gradul de utilizare a hardware-ului și de nivelul de asistență de care au nevoie clienții.
Contează și modul în care operatorii gestionează hardware-ul care rămâne nefolosit între proiecte. Capacitatea rezervată le oferă cumpărătorilor predictibilitate, dar acele mașini pot rămâne indisponibile pentru alți clienți chiar și atunci când nu sunt folosite. Un fond de resurse disponibil la cerere poate spori flexibilitatea, însă numai dacă furnizorul poate răspunde în mod fiabil cererii. Platforma le permite furnizorilor să ofere ambele modele; nu elimină necesitatea stabilirii condițiilor de rezervare sau a planificării pentru perioadele de deficit.
Ce înseamnă disponibilitatea limitată pentru operatori
Versiunea 5.0 nu este disponibilă pe scară largă. Documentația furnizorului recomandă păstrarea versiunilor existente cu asistență pe termen lung, Platform v4.12 și vCluster v0.37, pentru implementările curente. Operatorii care iau în calcul noua versiune trebuie să evalueze în continuare compatibilitatea cu instrumentele lor de furnizare a resurselor și de rețelistică și să verifice dacă clienții pot trece de la alocarea unei mașini la un cluster funcțional fără să apară noi blocaje în asistență.
Testul imediat este unul operațional: cât de repede poate un furnizor să livreze o infrastructură funcțională după alocarea hardware-ului și cât de des au nevoie clienții de asistență ulterior. Dacă acești indicatori se îmbunătățesc fără ca gestionarea capacității dedicate să devină mai dificilă, autoservirea ar putea deveni un factor distinctiv important între furnizorii de cloud pentru AI care vând hardware similar.












