David Driggers, CTO al Cirrascale – Seria de interviuri

David Driggers este Directorul Tehnologic al Cirrascale Cloud Services, un furnizor de top de soluții de infrastructură de învățare profundă. Ghidat de valorile de integritate, agilitate și focalizare pe client, Cirrascale oferă soluții inovatoare, bazate pe cloud, de tip Infrastructure-as-a-Service (IaaS). Prin parteneriat cu lideri ai ecosistemului AI, precum Red Hat și WekaIO, Cirrascale asigură accesul facil la instrumente avansate, permițând clienților să facă progrese în învățarea profundă, menținând în același timp costuri previzibile.

Cirrascale este singurul furnizor de GPUaaS care se asociază cu companii semiconductoare importante, precum NVIDIA (NVDA ), AMD, Cerebras (CBRS ) și Qualcomm. Cum beneficiază această poziționare unică clienții dvs. în ceea ce privește performanța și scalabilitatea?

Pe măsură ce industria evoluează de la antrenarea modelelor la implementarea acestor modele, numite Inferență, nu există o soluție universal valabilă. În funcție de dimensiunea și de cerințele de latență ale modelului, acceleratoarele diferite oferă valori diferite care pot fi importante. Timpul de răspuns, avantajele de cost pe token sau performanța pe watt pot afecta toate costurile și experiența utilizatorului. Deoarece Inferența este pentru producție, aceste caracteristici/capacități contează.

Ce diferențiază Norul de Inovare AI al Cirrascale de alți furnizori de GPUaaS în ceea ce privește susținerea fluxurilor de lucru AI și de învățare profundă?

Norul de Inovare AI al Cirrascale permite utilizatorilor să experimenteze, într-un mod securizat, asistat și complet susținut, tehnologii noi care nu sunt disponibile în alt cloud. Acest lucru poate ajuta nu numai la deciziile legate de tehnologia cloud, ci și la eventuale achiziții on-site.

Cum asigură platforma Cirrascale o integrare fără probleme pentru startup-uri și întreprinderi cu nevoi diverse de accelerare AI?

Cirrascale adoptă o abordare de soluție pentru cloud-ul nostru. Acest lucru înseamnă că atât pentru startup-uri, cât și pentru întreprinderi, oferim o soluție cheie în mână care include atât Dev-Ops, cât și Infra-Ops. Deși o numim “gol” pentru a distinge ofertele noastre ca nefiind partajate sau virtualizate, Cirrascale configurează complet toate aspectele ofertei, inclusiv configurarea completă a serverelor, rețelei, Stocării, Securității și Accesului Utilizator, înainte de a preda serviciul clienților noștri. Clienții noștri pot începe imediat să utilizeze serviciul, fără a fi nevoiți să configureze totul singuri.

Adopția la nivel de întreprindere a tehnologiei AI se confruntă cu bariere precum calitatea datelor, constrângerile infrastructurii și costurile ridicate. Cum abordează Cirrascale aceste provocări pentru afacerile care își extind inițiativele de AI?

Deși Cirrascale nu oferă servicii de calitate a datelor, ne asociem cu companii care pot ajuta la problemele legate de date. În ceea ce privește infrastructura și costurile, Cirrascale poate oferi o soluție personalizată în funcție de nevoile specifice ale clientului, ceea ce duce la o performanță generală mai bună și la costuri mai bune, legate de cerințele clientului.

Cum vedeți peisajul tehnologiei AI la nivel de întreprindere schimbându-se în viitorul apropiat, având în vedere progresele Google (GOOGL ) în calculul cuantic (Willow) și modelele de AI (Gemini 2.0)?

Calculul cuantic este încă departe de a fi gata pentru majoritatea oamenilor, din cauza lipsei de programe și programe de uz general care pot profita de caracteristici. Gemini 2.0 și alte oferte la scară largă, precum GPT4 și Claude, vor primi cu siguranță o anumită adoptare din partea clienților din domeniul întreprinderilor, dar o parte semnificativă a pieței întreprinderilor nu este pregătită în acest moment să-și încredințeze datele unor terți, și mai ales unor terți care ar putea utiliza aceste date pentru a-și antrena modelele.

Găsirea echilibrului potrivit între putere, preț și performanță este critică pentru scalarea soluțiilor de AI. Care sunt recomandările dvs. de top pentru companiile care navighează acest echilibru?

Testați, testați, testați. Este critic pentru o companie să-și testeze modelul pe diferite platforme. Producția este diferită de dezvoltare – costul contează în producție. Antrenamentul poate fi o singură dată, dar inferența este pentru totdeauna. Dacă cerințele de performanță pot fi îndeplinite la un cost mai mic, aceste economii vor ajunge la linia de jos și ar putea face soluția viabilă. Adesea, implementarea unui model mare este prea scumpă pentru a fi practică. Utilizatorii finali ar trebui, de asemenea, să caute companii care pot ajuta la acest test, deoarece adesea un inginer de învățare automată poate ajuta la implementare, în locul omului de știință care a creat modelul.

Cum se adaptează Cirrascale soluțiile sale pentru a satisface cererea în creștere pentru aplicații de AI generativ, precum LLM și modele de generare de imagini?

Cirrascale oferă cel mai larg portofoliu de acceleratoare AI, iar cu proliferarea LLM și a modelelor GenAI, care variază atât în dimensiune, cât și în scop (precum scenarii multimodale), și în loturi, în timp real, este cu adevărat o situație “calul potrivit pentru cursa potrivită”.

Puteți oferi exemple de moduri în care Cirrascale ajută afacerile să depășească blocajele de latență și transfer de date în fluxurile de lucru AI?

Cirrascale are numeroase centre de date în multiple regiuni și nu consideră conectivitatea rețelei ca o sursă de profit. Acest lucru permite utilizatorilor noștri să “dimensioneze corect” conexiunile necesare pentru a muta datele, precum și să utilizeze mai multe locații, dacă latența este o caracteristică critică. De asemenea, prin profilarea încărcărilor de lucru reale, Cirrascale poate ajuta la echilibrarea latenței, performanței și costurilor pentru a oferi cea mai bună valoare după îndeplinirea cerințelor de performanță.

Care sunt tendințele emergente în hardware-ul sau infrastructura de AI care vă entuziasmează cel mai mult, și cum se pregătește Cirrascale pentru ele?

Suntem cel mai mult entuziasmați de noile procesoare special concepute pentru inferență, în locul procesorilor GPU generici, care se potrivesc bine pentru antrenament, dar nu sunt optimizați pentru cazurile de utilizare a inferenței, care au cerințe de calcul inerent diferite față de antrenament.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Cirrascale Cloud Services ar trebui să viziteze Cirrascale Cloud Services.