Doug Fuller, Cornelis Networksin ohjelmistokehitysjohtaja – Haastattelusarja

Cornelis Networksin ohjelmistokehitysjohtajana Doug on vastuussa kaikista yhtiön ohjelmistopinoon liittyvistä asioista, mukaan lukien Omni-Path Architecture -ajurit, viestintäohjelmisto ja upotetut laitteiden ohjausjärjestelmät. Ennen liittymistään Cornelis Networksiin Doug johti ohjelmistokehitystiimejä Red Hatilla pilvitallennuksessa ja tietopalveluissa. Doug’n ura tietokoneavusteisessa laskennassa ja pilvilaskennassa alkoi Ames National (ATLO ) Laboratoryn Scalable Computing Laboratoryssa. Useiden roolien jälkeen yliopiston tutkimuslaskennassa Doug liittyi Yhdysvaltain energiaministeriön Oak Ridge National Laboratoryyn vuonna 2009, jossa hän kehitti ja integroi uusia teknologioita maailmanluokan Oak Ridge Leadership Computing Facilityssä.

Cornelis Networks on teknologiayhtiö, joka toimittaa tarkoitukseen suunniteltuja korkean suorituskyvyn kangastoja korkean suorituskyvyn laskentaan (HPC), korkean suorituskyvyn data-analytiikkaan (HPDA) ja tekoälyyn (AI) johtaville kaupallisille, tieteellisille, akateemisille ja hallituksille.

Mikä aluksi kiinnosti sinua tietokoneiden parissa?

Minusta vaan tuntui, että minä tykkäsin työskennellä teknologian parissa. Minä tykkäsin työskennellä tietokoneiden kanssa kasvaessani; koulussamme oli modeemi, joka antoi minun kokeilla Internetiä, ja minusta se oli mielenkiintoista. Yliopistovuosi opiskellessani tapasin USDOE-laskennallisen tutkijan vapaaehtoistyöskennellessäni National Science Bowlissa. Hän kutsui minun kiertämään hänen HPC-laboratoriotaan, ja minä olin koukussa. Olen ollut super­tietokonegeekkejä siitä lähtien.

Sinä työskentelit Red Hatilla vuosina 2015-2019, mitä projekteja sinä työskentelit ja mitkä olivat avainopetuksesi tästä kokemuksesta?

Minun pääprojektini Red Hatilla oli Ceph-jakautunut tallennus. Olin aikaisemmin keskittynyt täysin HPC:hen, ja tämä antoi minulle mahdollisuuden työskennellä teknologioilla, jotka olivat kriittisiä pilvinfrastruktuurille. Se rimmaa. Monet skaalautuvuuden, hallitsemisen ja luotettavuuden periaatteista ovat erittäin samanlaisia, vaikka ne on tarkoitettu ratkaisemaan hieman erilaisia ongelmia. Teknologian suhteen minun tärkein opetukseni oli, että pilvi ja HPC voivat oppia toisiltaan paljon. Rakennamme yhä useammin erilaisia projekteja samalla Lego-palikkosarjalla. Se on auttanut minua ymmärtämään, miten mahdollistavat teknologiat, mukaan lukien kangastot, voivat vaikuttaa HPC-, pilvi- ja AI-sovelluksiin. Se on myös paikka, jossa minä todella ymmärsin avoimen lähdekoodin arvon ja miten toteuttaa avoimen lähdekoodin, ylävirran ensin -ohjelmistokehitysfilosofia, jonka minä toi mukanani Cornelis Networksille. Henkilökohtaisesti Red Hat oli paikka, jossa minä kasvuin ja kypsyin johtajana.

Sinä olet tällä hetkellä Cornelis Networksin ohjelmistokehitysjohtaja, mitkä ovat sinun vastuualueesi ja miltä sinun keskivertopäiväsi näyttää?

Cornelis Networksin ohjelmistokehitysjohtajana minä vastaan kaikista yhtiön ohjelmistopinoon liittyvistä asioista, mukaan lukien Omni-Path Architecture -ajurit, viestintäohjelmisto, kangas-hallinta ja upotetut laitteiden ohjausjärjestelmät. Cornelis Networks on jännittävä paikka olla, etenkin tässä vaiheessa ja markkinassa. Sen vuoksi en ole varma, onko minulla “keskivertopäivä”. Jotkut päivät minä työskentelen tiimini kanssa ratkaisemassa viimeisintä teknologista haastetta. Toiset päivät minä vuorovaikutan laitteiston arkkitehtien kanssa varmistaakseni, että seuraavat tuotteemme toimivat asiakkaidemme parhaaksi. Usein minä olen kentällä tapaamassa asiakkaitamme ja yhteistyökumppaneitamme varmistaakseni, että ymmärrämme ja ennustamme heidän tarpeitaan.

Cornelis Networks tarjoaa seuraavan sukupolven verkkoratkaisuja korkean suorituskyvyn laskenta- ja tekoälysovelluksiin, voitko jakaa joitakin yksityiskohtia siitä, mitä laitteita tarjotaan?

Laitekokoonpanomme koostuu korkean suorituskyvyn kytkettyä kangasverkkoa. Tämän vuoksi tarjoamme kaikki tarvittavat laitteet HPC-, pilvi- ja AI-kangaiden täydelliseen integrointiin. Omni-Path Host-Fabric Interface (HFI) on matalaprofiilinen PCIe-kortti päätepisteille. Tuotamme myös 48-porttisen 1U “top-of-rack” -kytkimen. Suuremmille käyttökohteille valmistamme kaksi täysin integroitu “johtajan luokan” -kytkintä; toinen, jossa on 288 porttia 7U:ssa, ja 1152-porttinen, 20U-laite.

Voitko keskustella ohjelmistosta, joka hallitsee tätä infrastruktuuria ja miten se on suunniteltu vähentämään viiveitä?

Ensinnäkin, upotettu hallintaplatfromamme tarjoaa helpon asennuksen ja konfiguraation sekä pääsyn laajaan valikoimaan suorituskyky- ja konfiguraatiometrikkoihin, jotka tuotetaan kytkin-ASIC:illamme.

Ohjelmistokehityksemme on kehitetty Linux-ytimen osana. Tosiasiallisesti, lähettämme kaikki ohjelmistopäivityksemme Linux-yhteisölle suoraan. Tämä varmistaa, että kaikki asiakkaamme nauttivat maksimaalista yhteensopivuutta Linux-jakeluversioiden ja muiden ohjelmistojen, kuten Lustren, kanssa. Vaikka se ei ole viiveen polulla, sisäänrakennettu ajuri vähentää asennuksen monimutkaisuutta.

Omni-Path-kangas-hallitsija (FM) konfiguroi ja reitittää Omni-Path-kangasta. Optimoidessaan liikenteen reittejä ja toipuessa nopeasti virheistä FM tarjoaa teollannan johtavan suorituskyvyn ja luotettavuuden kangastoissa, jotka koostuvat kymmenistä tuhansista solmuista.

Omni-Path Express (OPX) on korkean suorituskyvyn viestintäohjelmistomme, joka julkaistiin marraskuussa 2022. Se suunniteltiin erityisesti vähentämään viiveitä verrattuna aikaisempaan viestintäohjelmistoomme. Suoritimme sykli-tarkat simulaatiot lähettämis- ja vastaanottamis-koodipoluillemme vähentääksiemme ohjeiden määrää ja välimuistin käyttöä. Tämä tuotti dramaattisia tuloksia: kun olet mikrosekuntien alueella, jokainen sykli on tärkeä!

Integroimme myös OpenFabrics Interfaces (OFI):n, joka on avoin standardi, jonka on tuottanut OpenFabrics Alliance. OFI:n modulaarinen arkkitehtuuri auttaa vähentämään viiveitä sallimalla ylemmän tason ohjelmistojen, kuten MPI:n, hyödyntää kangas-ominaisuuksia ilman lisäfunktiokutsuja.

Koko verkko on myös suunniteltu lisäämään skaalautuvuutta, voitko jakaa joitakin yksityiskohtia siitä, miten se pystyy skaalautumaan niin hyvin?

Skaalautuvuus on Omni-Pathin suunnitteluperiaatteiden ydin. Alimmalla tasolla käytämme Cray-linkkikerros-teknologiaa korjaamaan linkkivirheitä ilman viivevaikutusta. Tämä vaikuttaa kangastoihin kaikilla tasoilla, mutta se on erityisen tärkeää suurille kangastoille, jotka luonnollisesti kohtaavat enemmän linkkivirheitä. Kangas-hallintamme on keskittynyt sekä ohjelmoimaan optimaalisiin reititystauluihin että tekemään niin nopeasti. Tämä varmistaa, että jopa suurimpien kangastojen reititys voidaan suorittaa minimissaan ajassa.

Skaalautuvuus on myös tärkeä komponentti OPX:ssa. Välimuistin käytön minimointi parantaa skaalautuvuutta yksittäisillä solmuilla, joilla on suuri ydinmäärä. Viiveiden minimointi parantaa myös skaalautuvuutta parantamalla kokoelma-algoritmien suoritusaikaa. Kytkin-välineiden resurssien käytön tehostaminen mahdollistaa jokaisen ytimen viestimisen enemmän etäisten vertaisten kanssa. Strateginen valinta libfabric:ia mahdollistaa hyödyntäämään ohjelmistotoimintoja, kuten skaalautuvia päätepisteitä, standardien kautta.

Voitko jakaa joitakin yksityiskohtia siitä, miten tekoäly on sisällytetty joihinkin työnkulkuihin Cornelis Networksissä?

Emme ole vielä valmiit puhumaan ulkoisesti sisäisistä tekoälykäytöistämme ja suunnitelmistamme. Sanotaan, että me “syömme oman koiraamme”, joten meidän on mahdollista hyödyntää Omni-Pathiin tekemiämme viive- ja skaalautuvuusparannuksia tekoälykuormituksiin. Se saa meidät entistä innostuneemmaksi jakamaan nämä hyödyt asiakkaidemme ja yhteistyökumppaneidemme kanssa. Olemme havainneet, että kuten perinteisessä HPC:ssa, infrastruktuurin skaalauttaminen on ainoa eteenpäin vievä tie, mutta haaste on, että verkon suorituskyky voidaan helposti tukahduttaa Ethernetillä ja muilla perinteisillä verkoilla.

Mitkä muutokset sinä ennustat tekoälyn kehittyessä?

Ensinnäkin, tekoälyn käyttäminen tekee ihmisistä tuottavampia – mikään teknologia historian aikana ei ole tehnyt ihmisiä vanhentuneiksi. Jokainen teknologinen evoluutio ja vallankumous, jonka olemme kokeneet puuvillakehrääjästä automaattiseen kankaankutomaan, puhelimeen, internetiin ja niin edelleen, on tehnyt tiettyjä töitä tehokkaammaksi, mutta emme ole poistaneet ihmiskuntaa olemasta.

Tekoälyn soveltamisen kautta uskon, että yritykset kehittyvät teknologisesti nopeammin, koska niiden johtajilla on enemmän vapaa-aikaa keskittyäkseen kehitykseen. Esimerkiksi, jos tekoäly tarjoaa tarkemman ennusteen, raportoinnin, suunnittelun jne. – yritykset voivat keskittyä innovaatioihin omalla alallaan

Erityisesti minä tunnen, että tekoäly tekee jokaisesta meistä monitieteisen asiantuntijan. Esimerkiksi skaalautuvan ohjelmistokehityksen asiantuntijana minä ymmärrän yhteydet HPC:n, big datan, pilven ja AI-sovellusten välillä, jotka johtavat ratkaisuihin, kuten Omni-Path. Varustettuna tekoälyavustajalla minä voin syventyä sovellusten merkitykseen, joita asiakkaamme käyttävät. Minulla ei ole epäilystä siitä, että se auttaa meitä suunnittelemaan entistä tehokkaampaa ohjelmistoa ja laitteita markkinoille ja asiakkaille, joita palvelemme.

Minä myös ennustan yleisen parantumisen ohjelmistojen laadussa. Tekoäly voi toimia “toisena silmäparina” staattisessa koodin analyysissä ja kehittää näkemyksiä virheistä ja suoritusongelmista. Se on erityisen mielenkiintoista suurissa mittakaavoissa, joissa suorituskykyongelmat voivat olla erittäin vaikeita havaita ja kalliita jäljentää.

Viimeksi minä toivon ja uskon, että tekoäly auttaa alan kouluttamaan ja perehdyttämään enemmän ohjelmistokehittäjiä, joilla ei ole aikaisempaa kokemusta tekoälystä ja HPC:stä. Alan voi vaikuttaa monille hämmästyttävältä, ja se voi kestää aikaa oppia “ajattelemaan rinnakkain”. Perimmältä ajatukselta koneet tekivät valmistamisesta helpompaa, ja tekoäly tekee siitä helpompaa pohtia ja päättää käsiteltävistä käsitteistä.

Onko mitään muuta, mitä haluaisit jakaa työstäsi tai Cornelis Networksista yleensä?

Minä haluaisin rohkaista ketä tahansa, jolla on kiinnostus tietokoneisiin, erityisesti HPC:hen ja AI:hen, pyrkimään uraan tällä alalla. Tässä kentässä meillä on käytössämme maailman voimakkaimmat laskentaresurssit, ja me kohdistamme ne ihmiskunnan suurimpiin haasteisiin. Se on jännittävä paikka olla, ja minä olen nauttinut siitä jokaisessa vaiheessa. Tekoäly tuo alan uudelleen uusiin korkeuksiin, ja vaatimus kasvavan suorituskyvyn lisääntymisestä kasvaa dramaattisesti. En malta odottaa, minne menemme seuraavaksi.

Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan Cornelis Networks -sivustolla.