David Driggers, Cirrascale:n tekninen johtaja – Haastattelusarja

David Driggers on Cirrascale Cloud Servicesin tekninen johtaja, joka on johtava syvän oppimisen infrastruktuuriratkaisujen tarjoaja. Cirrascale toimii arvojen johdatuksella, jotka ovat eheys, ketteryyttä ja asiakaslähtöisyys. Cirrascale tarjoaa innovatiivisia, pilvipohjaisia infrastruktuuriratkaisuja (IaaS). Yhteistyössä AI-ekosysteemin johtajien kanssa, kuten Red Hat ja WekaIO, Cirrascale varmistaa pääsyn edistyneisiin työkaluihin, jolloin asiakkaat voivat edistää syvän oppimisen kehitystä ennustettavissa kustannuksissa.

Cirrascale on ainoa GPUaaS-toimittaja, joka on yhteistyössä suurten puolijohdevalmistajien kanssa, kuten NVIDIA (NVDA ), AMD, Cerebras (CBRS ) ja Qualcomm. Miten tämä ainutlaatuinen asema hyödyttää asiakkaitasi suorituskyvyn ja skaalautuvuuden suhteen?

Teollisuus kehittyy koulutusmallien käyttöönotosta kohti inferenssiä. Ei ole yhtä kokoa, joka sopii kaikille. Riippuen mallin koosta ja viivevaatimuksista, eri kiihdyttimet tarjoavat eri arvoja, jotka voivat olla tärkeitä. Vastausaika, kustannus-etuja tai suorituskyky/watti voivat vaikuttaa kustannuksiin ja käyttäjäkokemukseen. Koska inferenssi on tuotantoon, nämä ominaisuudet ovat tärkeitä.

Mikä erottaa Cirrascale:n AI-innovaatiopilven muista GPUaaS-toimittajista AI- ja syvän oppimisen työvirtojen tukemisessa?

Cirrascale:n AI-innovaatiopilvi sallii käyttäjien kokeilla uusia tekniikoita turvallisessa, avustetussa ja täysin tuetussa muodossa, mitä ei ole tarjolla muissa pilvissä. Tämä voi auttaa sekä pilviin liittyvissä teknologiapäätöksissä että mahdollisissa paikallisten ostojen suhteen.

Miten Cirrascale:n alusta varmistaa sujuvan integraation startupeille ja yrityksille, joilla on erilaiset AI-kiihdytys tarpeet?

Cirrascale ottaa ratkaisukeskeisen lähestymistavan pilveensä. Tämä tarkoittaa, että sekä startupeille että yrityksille tarjoamme valmiin ratkaisun, joka sisältää sekä Dev-Opsin että Infra-Opsin. Vaikka kutsumme tarjoamamme “paljaaksi metalliksi” erottuaksemme tarjoamamme muista jaetusta tai virtualisoidusta, Cirrascale määrittää kaikki tarjoamansa, mukaan lukien palvelimien, verkkoyhteyden, tallennuksen, turvallisuuden ja käyttöoikeuksien määritykset ennen kuin luovutamme palvelun asiakkaillemme. Asiakkaamme voivat aloittaa palvelun käytön välittömästi ilman, että heidän tarvitsee itse määritellä kaikkea.

Laajamittainen AI-omaksuminen yrityksissä kohtaa esteitä, kuten tietojen laatu, infrastruktuurirajoitukset ja korkeat kustannukset. Miten Cirrascale vastaa näihin haasteisiin liiketoiminnan laajentuessa AI-alustoja?

Vaikka Cirrascale ei tarjoa tietojen laatuun liittyviä palveluita, olemme yhteistyössä yritysten kanssa, jotka voivat auttaa tietoihin liittyvissä asioissa. Infrastruktuurin ja kustannusten suhteen Cirrascale voi räätälöidä ratkaisun asiakkaan tarpeisiin, mikä johtaa parempaan suorituskykyyn ja kustannuksiin, jotka ovat sidottu asiakkaan tarpeisiin.

Miten Google (GOOGL ):n edistysaskelit kvanttilaskennassa (Willow) ja AI-malleissa (Gemini 2.0) vaikuttavat yritysten AI-maastoon lähitulevaisuudessa?

Kvanttilaskenta on vielä melko kaukana valtavirtaistumisesta useimpien ihmisten kannalta johtuen ohjelmistojen ja ohjelmien puutteesta, jotka voivat hyödyntää sen ominaisuuksia. Gemini 2.0 ja muut suuret tarjoomat, kuten GPT4 ja Claude, saavat varmasti jonkin verran hyväksyntää yritysasiakkailta, mutta suuri osa yrityksiä ei ole valmis luottamaan tietojaan kolmansille osapuolille, erityisesti niille, jotka voivat käyttää mainittuja tietoja mallien kouluttamiseen.

Miten yritysten on löydettävä oikea tasapaino tehon, hinnan ja suorituskyvyn välillä AI-ratkaisujen skaalauttamiseksi? Mitkä ovat suositukset yrityksille, jotka navigoivat tämän tasapainon löytämiseksi?

Testaa, testaa, testaa. On erittäin tärkeää, että yritykset testaavat mallejaan eri alustoilla. Tuotanto on eri asia kuin kehitys – kustannukset merkitsevät tuotannossa. Koulutus voi olla yksinkertainen prosessi, mutta inferenssi on jatkuva prosessi. Jos suorituskykyvaatimukset voidaan täyttää alhaisemmilla kustannuksilla, säästöt vaikuttavat suoraan yrityksen kannattavuuteen ja saattavat tehdä ratkaisun käytännölliseksi. Usein suuren mallin käyttöönotto on liian kallista, jotta se olisi käytännöllistä. Loppukäyttäjien tulisi myös etsiä yrityksiä, jotka voivat auttaa tässä testauksessa, sillä usein ML-insinööri voi auttaa mallin käyttöönotossa, kun taas data- tutkija, joka loi mallin, ei välttämättä ole osaava käyttöönotossa.

Miten Cirrascale sopeuttaa ratkaisujaan kasvavan generatiivisen AI-sovellusten, kuten LLM- ja kuvantunnistusmallien, tarpeisiin?

Cirrascale tarjoaa laajimman valikoiman AI-kiihdyttimiä, ja kun LLM- ja GenAI-mallit lisääntyvät sekä koossa että laajuudessa (kuten monitilanteissa), ja eri ajon tilanteissa (kuten eri aikatauluissa), on todella kyse hevosta ja kurssia.

Voitko antaa esimerkkejä siitä, miten Cirrascale auttaa yrityksiä voittamaan viive- ja tietosiirtorajoitukset AI-työvirroissa?

Cirrascale:lla on useita tietokeskuksia useissa alueissa, ja emme näe verkkoyhteyttä voittona. Tämä mahdollistaa asiakkaidemme “oikean koon” yhteyksien määrittämisen tietojen siirtämiseksi sekä useamman sijainnin käytön, jos viive on kriittinen ominaisuus. Profiloimalla todellisia työkuormia Cirrascale voi auttaa tasapainottamaan viiveen, suorituskyvyn ja kustannukset tarjoamalla parhaan arvon suorituskykyvaatimusten täyttymisen jälkeen.

Mitä uusia AI-laitteita tai infrastruktuuritrendejä olet eniten innoissasi, ja miten Cirrascale valmistautuu niihin?

Olemme eniten innoissamme uusista prosessoreista, jotka on suunniteltu inferenssin tarpeisiin verrattuna yleisiin GPU-pohjaisiin prosessoreihin, jotka sopivat koulutukseen, mutta eivät ole optimoituja inferenssin käyttötapauksiin, joilla on luonnostaan erilaiset laskentavaatimukset kuin koulutuksella. Kiitos tästä haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Cirrascale Cloud Services -sivustolla.