Kevin Tubbs, PhD, Penguin Computingin Strategisen Ratkaisuryhmän Senior Vice President – Haastattelusarja

Kevin Tubbs, PhD, on Penguin Computingin Strategisen Ratkaisuryhmän Senior Vice President. Penguin Computing suunnittelee ja toteuttaa asiakaskohtaisia, avoimia ratkaisuja, jotka kattavat laitteet, ohjelmistot, pilvipalvelut ja palvelut, jotta se voisi auttaa Fortune 500 -yrityksiä, startup-yrityksiä, akateemisia laitoksia ja liittovaltion organisaatioita ratkaisemaan monimutkaisia tieteellisiä, analyyttisiä ja insinööritieteellisiä ongelmia.

Mikä alun perin kiinnosti sinua tietojenkäsittelytieteen alalla?

Vanhempani ostivat minulle tietokoneen, kun olin hyvin nuori, ja olen aina ollut kiinnostunut tietokoneista ja niiden parissa työskentelystä. Koulutukseni aikana olen aina suunnannut STEM-alaa kohti, mikä johti minun haluuni osallistua soveltavaan alaan. Taustani on fysiikassa ja suorituskykyisessä laskennassa (HPC). Varhainen kiinnostukseni tietokoneita kohtaan on pitänyt tietojenkäsittelytieteen etusijalla muiden tieteellisten, matemaattisten ja insinööritieteellisten kiinnostusteni edellä, mikä on johtanut minun nykyiseen asemaani.

Penguin Computing työskentelee läheisesti Open Compute Projectin (OCP) kanssa – mitä se tarkalleen ottaen on?

Penguin Computing on ollut OCP-liikkeen varhainen kannattaja, tukija ja merkittävä osallistuja pyrkimyksessä tuoda OCP:n hyödyt suorituskykyiseen laskentaan (HPC) ja tekoälyyn (AI).

OCP:n fokus on koota globaali kehittäjäyhteisö luomaan täydellinen infrastruktuuriteknologian ekosysteemi, joka on uudelleen suunniteltu olemaan tehokkaampi, joustavampi ja skaalautuvampi. Penguin Computing liittyi OCP:hen avoimien teknologioiden ja yhteisöajatuksen vuoksi. Mitä olemme tehneet ajan myötä, on varmistaa, että perinteisen HPC:n ja tekoälyn sekä analytiikan nousseiden trendien perintö ja teknologiat voidaan skaalata tehokkaasti – Penguin Computing ajaa näitä asioita OCP:hen.

Yksi OCP:n hyödyistä on, että se laskee omistamisen kokonaiskustannuksia (TCO) – alemmat pääomakustannukset, kiitos kaikkien turhien elementtien poistamisesta, ja alemmat käyttökustannukset palvelun vuoksi eteenpäin, jaettu voima ja muut muutokset suunnittelussa – mikä tekee OCP-pohjaisista teknologioista täydellisiä skaalautumiseen.

Penguin Computingilla on useita OCP-tuotteita, mukaan lukien Penguin Computing Tundra Extreme Scale -alusta ja Penguin Computing Tundra AP. Tundra-alustat ovat myös yhteensopivia HPC- ja AI-työkuormien kanssa.

Tundra AP, viimeisimmän sukupolven erittäin tiheä Tundra-supertietokonealusta, yhdistää Intelin Xeon Scalable 9200 -sarjan prosessorien laskentatehon Penguin Computingin Relion XO1122eAP-palvelimen kanssa OCP-muodossa, joka tarjoaa korkean tiheyden CPU-ytimiä rackissa.

Miten Penguin Computing lähestyy ongelmaa, jossa suurten tietomäärien käsittely edellyttää pullonkaulojen poistamista, jotta voidaan optimoida suorituskyky?

Penguin Computing on hyödyntänyt kykyämme käyttää avoimia teknologioita ja toimia nopeasti nykyisten trendien mukana – yksi näistä on suuret tiedot tai tietojen kasvu ja tietopohjaiset työkuormat. Vastauksena tähän olemme rakentaneet Strategisen Ratkaisuryhmämme ratkaisemaan tämän ongelman suoraan.

Ratkaisemalla ongelmaa, olemme havainneet, että useimmat työkuormat, myös perinteisistä teknisistä laskuista, ovat motivaatio tulla tietopohjaisemmaksi. Tuloksena Penguin Computing suunnittelee kokonaisvaltaisia ratkaisuja ymmärtämällä käyttäjän työkuorman. Jotta voidaan luoda työkuormaan sopiva kokonaisvaltainen ratkaisu, keskitymme työkuormaan sopivaan ohjelmistokerrokseen, joka sisältää orkestroinnin ja työkuorman toimittamisen. Olennaisesti, meidän on ymmärrettävä, miten käyttäjä hyödyntää infrastruktuuria.

Seuraavaksi yritämme keskittyä työkuormaan sopivaan laskentainfrastruktuuriin. On olemassa erilaisia tasoja tietoa ja IO-haasteita, jotka asettavat paljon paineita laskennan osalle. Esimerkiksi erilaiset työkuormat vaativat erilaisia kiihdytetyn laskennan infrastruktuurin yhdistelmiä prosessoreista, GPU:ista, muistin kaistanleveydestä ja verkkotuesta, joka mahdollistaa tiedon virtaamisen ja laskennan.

Lopulta meidän on selvitettävä, mitkä ratkaisut mahdollistavat tiedon toimittamisen. Tarkastelemme työkuormaan sopivia tietoinfrastruktuureja ymmärtääksemme, miten työkuorma vuorovaikuttaa tiedon kanssa, mitkä ovat kapasiteetin vaatimukset ja IO-mallit. Kun meillä on tämä tieto, se auttaa meitä suunnittelemaan työkuormaan sopivan järjestelmän.

Kun meillä on kaikki tiedot, hyödynnämme sisäistä asiantuntijuuttamme Penguin Computingissa suunnitellaaksemme suunnitelman ja kokonaisvaltaisen ratkaisun. Tietäen, että se on suunniteltu suorituskyvyn näkökulmasta, meidän on ymmärrettävä, missä se on käytössä (omalla alueella, pilvessä, reunassa, kaiken yhdistelmässä jne.). Tämä on Penguin Computingin lähestymistapa toimittaa optimoitu ratkaisu tietopohjaisiin työkuormiin.

Voitko keskustella siitä, miksi GPU on tärkeämpää kuin CPU syvän oppimisen kannalta?

Yksi suurimmista trendeistä, jonka olen nähnyt syvän oppimisen kannalta, oli siirtyminen käyttämään yleiskäyttöisiä GPU:ita (GPGPU) data-rinnakkaisena laitteistona, joka mahdollistaa laskennan nopeuttamisen massiivisesti. Tämä on tapahtunut viimeisen kymmenen vuoden aikana.

Olin mukana GPGPU-ohjelmoinnin alkuvaiheessa, kun olin gradukoulussa ja urani alussa. Uskon, että laskentatiheyden loikkaus, jossa GPU tarjoaa paljon tiheää laskentaa ja analytiikkaa laitteessa, ja mahdollistaa enemmän palvelimien tilassa olemisen, ja mahdollistaa jotain, mitä alun perin tarkoitettiin grafiikaksi, laskentaMoottoriksi, oli todella silmänpäästävä trendi HPC- ja AI-yhteisöissä.

Mitkä ovat joitakin GPU-kiihdytettyjä laskentaratkaisuja, joita Penguin Computing tarjoaa?

Penguin Computing on tällä hetkellä keskittynyt kokonaisvaltaisiin ratkaisuihin, joita kehitetään Strategisen Ratkaisuryhmämme toimesta, erityisesti Penguin Computingin AI- ja Analytics -praktiikassa. Tässä praktiikassa keskitymme kolmeen tason GPU-kiihdytettyihin ratkaisuihin.

Ensinnäkin, tarjoamme viitearkkitehtuurin reunan analytiikalle, jossa suunnittelemme ratkaisuja, jotka sopivat epäperinteisiin tietokeskuksiin (reunassa tai lähellä reunasta). Tämä voi käsittää Teleco-reunan tietokeskuksia, vähittäiskauppoja, bensiiniasemia jne. Nämä ovat kaikki inference-pohjaisia AI-ratkaisuja. Joitakin ratkaisuja on suunniteltu videoanalytiikkaa varten kosketusjäljitykseen ja eleiden tunnistamiseen määrittämään, onko joku pesemässä kätensä tai käyttämässä maskia. Nämä ovat sovelluksia kokonaisvaltaisista ratkaisuista, jotka sisältävät GPU-kiihdytettyä laitteistoa, joka on suunniteltu epäperinteisille tai reuna-asetuksille, sekä ohjelmistopinoja, jotka mahdollistavat tutkijoiden ja loppukäyttäjien käytön tehokkaasti.

Penguin Computing on toteuttanut uuden supertietokoneen LLNL:lle yhteistyössä Intelin ja CoolIT:n kanssa. Voitko kertoa meille tästä supertietokoneesta ja siitä, mihin se on suunniteltu?

Magma-supertietokone, joka on toteutettu LLNL:lle, hankittiin Commodity Technology Systems (CTS-1) -sopimuksen kautta National Nuclear Security Administrationin (NNSA) kanssa ja on yksi ensimmäisistä Intel (INTC ) Xeon Platinum 9200 -sarjan prosessorien käyttöönotoista CoolIT Systemsin täydellisen nestehäätöjärjestelmän ja Omni-Path -väylän kanssa.

NNSA:n Advanced Simulation & Computing (ASC) -ohjelman kautta rahoitettu Magma tukee NNSA:n elinikäisen ohjelmaa ja pyrkimyksiä, jotka ovat olennaisia kansakunnan ydinaseiden turvallisuuden, turvallisuuden ja luotettavuuden varmistamiseksi maanalaisten koetteiden puuttuessa.

Magma-supertietokone on HPC-järjestelmä, jota tehostetaan tekoälyllä ja on yhdistetty alusta, joka mahdollistaa tekoälyn nopeuttamisen HPC-mallinnuksessa. Magma sijoittui Top500 -listalle kesäkuussa 2020 ja saavutti sijan 80.

CTS-1-sopimuksen puitteissa Penguin Computing on toimittanut yli 22 petaflopsin laskentakapasiteettia ASC-ohjelman tueksi NNSA:n Tri-Laboratorioissa Lawrence Livermore, Los Alamos ja Sandia National Laboratories.

Mitkä ovat erilaisia tapoja, joilla Penguin Computing tukee taistelua COVID-19-virusta vastaan?

Kesäkuussa 2020 Penguin Computing solmi virallisen yhteistyösopimuksen AMD:n kanssa toimittamaan HPC-kapasiteettia tutkijoille kolmessa johtavassa yliopistossa Yhdysvalloissa – New Yorkin yliopistossa (NYU), Massachusettsin teknillisen korkeakoulun (MIT) ja Ricen yliopistossa – auttamaan COVID-19-virusta vastaan.

Penguin Computing solmi yhteistyösopimuksen suoraan AMD:n COVID-19 HPC -rahastoon toimittamaan tutkimuslaitoksille merkittäviä laskentaresursseja nopeuttaakseen lääketieteellistä tutkimusta COVID-19:stä ja muista taudeista. Penguin Computing ja AMD ovat yhteistyössä toimittamassa HPC-ratkaisuja NYU:lle, MIT:lle ja Ricen yliopistolle, jotta voidaan parantaa satojen tutkijoiden tutkimuskapasiteettia, jotka lopulta vaikuttavat paremmin ymmärtämään uutta koronavirusta.

AMD:n 2. sukupolven EPYC-prosessorien ja Radeon Instinct MI50 -GPU-kiihdyttimien voimin järjestelmät, jotka on lahjoitettu yliopistoille, tarjoavat jokainen yli yhden petaflopsin laskentasuorituskyvyn. Lisäksi neljä petaflopsia laskentakapasiteettia on tarjolla tutkijoille Penguin Computingin HPC-pilvipalvelun kautta, Penguin Computing On-Demand (POD). Yhdistetty järjestelmä tarjoaa tutkijoille yli seitsemän petaflopsin GPU-kiihdytettyä laskentavalmiutta, jota voidaan soveltaa COVID-19-virusta vastaan.

Onko mitään muuta, mitä haluaisit jakaa Penguin Computingista?

Yli kahden vuosikymmenen ajan Penguin Computing on toimittanut mukautettuja, innovatiivisia ja avoimia ratkaisuja suorituskykyiseen laskentaan ja tekniseen laskentaan. Penguin Computingin ratkaisut antavat organisaatioille joustavuuden ja vapauden hyödyntää viimeisimpiä teknologioita laskuympäristöissään. Organisaatiot voivat kohdistaa resurssejaan tuotteiden ja ideoiden viemiseen markkinoille ennätysajassa, sen sijaan, että keskittyisivät perustavanlaatuiseen teknologiaan. Penguin Computingin laaja valikoima ratkaisuja AI/ML/Analyticsille, HPC:lle, DataOpsille ja pilvi-alkuperäisille teknologioille voidaan mukauttaa ja yhdistää, jotta ne vastaisivat nykyisiä tarpeita ja sopeutuisivat nopeasti tuleviin tarpeisiin ja teknologisen kehityksen muutoksiin. Penguin Computingin ammattimaiset ja hallinnoitavat palvelut auttavat ratkaisujen integroinnissa, toteuttamisessa ja hallinnassa. Penguin Computingin isäntäpalvelut voivat auttaa laskuympäristön “missä” -kohdassa antamalla organisaatioille omistamisen vaihtoehtoja ja joustavuutta toimia omalla alueella, julkisessa tai omistajassa pilvessä, isännöidysti tai palveluna.

Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, on suositeltavaa vierailla Penguin Computingin verkkosivuilla.