Dougas Fulleris, Cornelis Networks programinės įrangos inžinerijos viceprezidentas – interviu serija

Kaip programinės įrangos inžinerijos viceprezidentas, Dougas yra atsakingas už visus aspektus Cornelis Networksprograminės įrangos paketas, įskaitant „Omni-Path Architecture“ tvarkykles, pranešimų siuntimo programinę įrangą ir įterptųjų įrenginių valdymo sistemas. Prieš prisijungdamas prie „Cornelis Networks“, Dougas vadovavo „Red Hat“ programinės įrangos inžinierių komandoms debesų saugojimo ir duomenų paslaugų srityje. Dougo karjera HPC ir debesų kompiuterijos srityje prasidėjo Ames National Laboratory Scalable Computing Laboratory. Atlikęs keletą vaidmenų universiteto mokslinių tyrimų kompiuterijos srityje, 2009 m. Dougas prisijungė prie JAV Energetikos departamento Oak Ridge nacionalinės laboratorijos, kur kūrė ir integravo naujas technologijas pasaulinės klasės Oak Ridge Leadership Computing Facility.

„Cornelis Networks“ yra technologijų lyderis, kuris pirmaujančioms komercinėms, mokslo, akademinėms ir vyriausybinėms organizacijoms tiekia specialiai sukurtus didelio našumo audinius, skirtus didelio našumo skaičiavimui (HPC), didelio našumo duomenų analizei (HPDA) ir dirbtiniam intelektui (AI).

Kuo jus iš pradžių patraukė informatika?

Atrodė, kad man tiesiog patinka dirbti su technologijomis. Man patiko dirbti su kompiuteriais augant; Mūsų mokykloje buvo modemas, leidžiantis išbandyti internetą, ir man tai buvo įdomu. Būdamas pirmakursis koledže, savanoriaudamas Nacionaliniame mokslo taurėje sutikau USDOE skaičiavimo mokslininką. Jis pakvietė mane aplankyti savo HPC laboratoriją ir aš buvau užsikabinęs. Nuo tada aš esu superkompiuterių mėgėjas.

Dirbote „Red Hat“ 2015–2019 m., prie kokių projektų dirbote ir kokie buvo jūsų pagrindiniai šios patirties įspūdžiai?

Mano pagrindinis projektas „Red Hat“ buvo „Ceph“ paskirstyta saugykla. Anksčiau visą dėmesį skyriau HPC ir tai suteikė man galimybę dirbti su technologijomis, kurios yra labai svarbios debesų infrastruktūrai. Tai rimuoja. Daugelis mastelio, valdomumo ir patikimumo principų yra labai panašūs, nors jais siekiama išspręsti šiek tiek skirtingas problemas. Kalbant apie technologijas, svarbiausias mano supratimas buvo tas, kad debesys ir HPC turi daug ko pasimokyti vienas iš kito. Vis dažniau kuriame skirtingus projektus naudodami tą patį „Lego“ rinkinį. Tai tikrai padėjo man suprasti, kaip įgalinančios technologijos, įskaitant audinius, gali būti pritaikytos HPC, debesų ir AI programoms. Taip pat čia aš iš tikrųjų supratau atvirojo kodo vertę ir kaip įgyvendinti atvirojo kodo, pirmiausia programinės įrangos kūrimo filosofiją, kurią atsinešiau į Cornelis Networks. Asmeniškai Red Hat tikrai augau ir subrendau kaip lyderis.

Šiuo metu esate „Cornelis Networks“ programinės įrangos inžinerijos viceprezidentas. Kokios yra jūsų pareigos ir kaip atrodo jūsų vidutinė diena?

Kaip programinės įrangos inžinerijos viceprezidentas, esu atsakingas už visus Cornelis Networks programinės įrangos paketo aspektus, įskaitant Omni-Path Architecture tvarkykles, pranešimų programinę įrangą, audinių valdymą ir įterptųjų įrenginių valdymo sistemas. Cornelis Networks yra įdomi vieta būti, ypač šiuo metu ir šioje rinkoje. Dėl to nesu tikras, kad turiu „vidutinę“ dieną. Keletą dienų dirbu su savo komanda, kad išspręsčiau naujausių technologijų iššūkį. Kitomis dienomis bendrauju su mūsų techninės įrangos architektais, siekdamas užtikrinti, kad mūsų naujos kartos produktai būtų pristatyti mūsų klientams. Dažnai susitikinėju su mūsų nuostabia klientų ir bendradarbių bendruomene, kad įsitikintume, jog suprantame ir numatome jų poreikius.

„Cornelis Networks“ siūlo naujos kartos tinklus, skirtus didelio našumo kompiuteriams ir dirbtinio intelekto programoms. Ar galėtumėte pasidalinti informacija apie siūlomą aparatinę įrangą?

Mūsų techninę įrangą sudaro didelio našumo komutuojamo audinio tinklo audinio sprendimas. Tuo tikslu teikiame visus reikalingus įrenginius, kad galėtume visiškai integruoti HPC, debesų ir dirbtinio intelekto audinius. „Omni-Path Host-Fabric Interface“ (HFI) yra žemo profilio PCIe kortelė, skirta galinio taško įrenginiams. Taip pat gaminame 48 prievadų 1U „top-of-rack“ jungiklį. Didesniems diegimams gaminame du visiškai integruotus „direktorių klasės“ jungiklius; vienas, kuriame yra 288 prievadai 7U ir 1152 prievadų 20U įrenginys.

Ar galite aptarti programinę įrangą, kuri valdo šią infrastruktūrą ir kaip ji skirta sumažinti delsą?

Pirma, mūsų įterptoji valdymo platforma suteikia lengvą diegimą ir konfigūraciją, taip pat prieigą prie daugybės našumo ir konfigūracijos metrikų, kurias sukuria mūsų jungiklio ASIC.

Mūsų tvarkyklės programinė įranga sukurta kaip Linux branduolio dalis. Tiesą sakant, visus savo programinės įrangos pataisymus pateikiame tiesiogiai Linux branduolio bendruomenei. Tai užtikrina, kad visi mūsų klientai galės mėgautis maksimaliu Linux platinimų suderinamumu ir lengva integracija su kita programine įranga, tokia kaip Lustre. Nors ir ne delsos kelyje, medyje integruota tvarkyklė žymiai sumažina diegimo sudėtingumą.

„Omni-Path“ audinių tvarkyklė (FM) konfigūruoja ir nukreipia „Omni-Path“ audinį. Optimizuodamas eismo maršrutus ir greitai atsigaunant po gedimų, FM užtikrina pramonėje pirmaujančią našumą ir patikimumą nuo dešimčių iki tūkstančių mazgų.

„Omni-Path Express“ (OPX) yra mūsų didelio našumo pranešimų programinė įranga, neseniai išleista 2022 m. lapkričio mėn. Ji buvo specialiai sukurta siekiant sumažinti delsą, palyginti su ankstesne pranešimų siuntimo programine įranga. Siekdami sumažinti instrukcijų skaičių ir talpyklos naudojimą, atlikome ciklo tikslumą savo siuntimo ir gavimo kodo kelių modeliavimą. Tai davė dramatiškų rezultatų: kai naudojate mikrosekundžių režimą, kiekvienas ciklas yra svarbus!

Taip pat integravomės su „OpenFabrics“ sąsajos (OFI), atviras standartas, sukurtas OpenFabrics Alliance. Modulinė OFI architektūra padeda sumažinti delsą, nes leidžia aukštesnio lygio programinei įrangai, pvz., MPI, panaudoti audinio funkcijas be papildomų funkcijų iškvietimų.

Visas tinklas taip pat sukurtas siekiant padidinti mastelį. Ar galėtumėte pasidalinti informacija apie tai, kaip jis gali taip gerai išplėsti mastelį?

Mastelio keitimas yra „Omni-Path“ projektavimo principų pagrindas. Žemiausiu lygiu naudojame „Cray“ nuorodų sluoksnio technologiją, kad ištaisytume nuorodų klaidas be delsos poveikio. Tai turi įtakos visų mastelių audiniams, bet ypač svarbu didelės apimties audiniams, kuriuose natūraliai atsiranda daugiau sąsajų klaidų. Mūsų audinių vadybininkas yra orientuotas į optimalių maršruto lentelių programavimą ir greitą tai atlikimą. Tai užtikrina, kad net didžiausių audinių frezavimas gali būti atliktas per minimalų laiką.

Mastelio keitimas taip pat yra svarbus OPX komponentas. Sumažinus talpyklos naudojimą, pagerinamas atskirų mazgų, turinčių didelį branduolių skaičių, mastelio keitimas. Sumažinus delsą taip pat pagerinamas mastelio keitimas, nes sutrumpėja kolektyvinių algoritmų užbaigimo laikas. Veiksmingiau naudojant pagrindinio kompiuterio sąsajos išteklius kiekvienam branduoliui suteikiama galimybė bendrauti su atokesniais bendraamžiais. Strateginis libfabric pasirinkimas leidžia mums panaudoti programinės įrangos funkcijas, pvz., keičiamus galinius taškus, naudojant standartines sąsajas.

Ar galėtumėte pasidalinti informacija apie tai, kaip dirbtinis intelektas yra įtrauktas į kai kurias „Cornelis Networks“ darbo eigas?

Mes nesame visiškai pasirengę kalbėti išorėje apie vidinius AI naudojimą ir planus. Be to, mes valgome savo šunų maistą, todėl galime pasinaudoti delsos ir mastelio patobulinimais, kuriuos atlikome „Omni-Path“, kad palaikytume AI darbo krūvius. Dar labiau džiaugiamės galėdami dalytis šiais privalumais su savo klientais ir partneriais. Mes tikrai pastebėjome, kad, kaip ir tradiciniame HPC, infrastruktūros mastelio mažinimas yra vienintelis kelias į priekį, tačiau iššūkis yra tas, kad tinklo našumą lengvai slopina Ethernet ir kiti tradiciniai tinklai.

Kokius pokyčius numatote pramonėje atsiradus generatyviniam AI?

Visų pirma, naudojant generatyvųjį dirbtinį intelektą žmonės taps produktyvesni – jokia technologija istorijoje nepadarė žmonių pasenusių. Kiekviena technologijų evoliucija ir revoliucija, kurią patyrėme nuo medvilnės džino iki automatinių staklių iki telefono, interneto ir kitų dalykų, padarė tam tikrus darbus veiksmingesnius, tačiau žmonijos nepanaikinome.

Tikiu, kad taikant generatyvųjį dirbtinį intelektą įmonės technologiškai tobulės sparčiau, nes įmonei vadovaujantys asmenys turės daugiau laisvo laiko sutelkti dėmesį į šiuos pasiekimus. Pavyzdžiui, jei generatyvus AI teikia tikslesnes prognozes, ataskaitų teikimą, planavimą ir pan. – įmonės gali sutelkti dėmesį į naujoves savo kompetencijos srityje.

Aš ypač jaučiu, kad dirbtinis intelektas kiekvieną iš mūsų pavers daugiadisciplininiu ekspertu. Pavyzdžiui, kaip keičiamo dydžio programinės įrangos ekspertas, suprantu ryšius tarp HPC, didelių duomenų, debesies ir dirbtinio intelekto programų, kurios skatina jas ieškoti tokių sprendimų kaip „Omni-Path“. Įrengtas generatyvus AI asistentas, galiu gilintis į tai reiškia, mūsų klientų naudojamų programų. Neabejoju, kad tai padės mums sukurti dar efektyvesnę techninę ir programinę įrangą mūsų aptarnaujamoms rinkoms ir klientams.

Taip pat numatau bendrą programinės įrangos kokybės pagerėjimą. AI gali veiksmingai veikti kaip „kitas akių rinkinys“, kad būtų galima statiškai analizuoti kodą ir plėtoti įžvalgas apie klaidas ir našumo problemas. Tai bus ypač įdomu dideliais kiekiais, kur našumo problemas gali būti ypač sunku pastebėti ir brangu atkurti.

Galiausiai, tikiuosi ir tikiu, kad generuojantis AI padės mūsų pramonei parengti ir įtraukti daugiau programinės įrangos specialistų, neturinčių ankstesnės dirbtinio intelekto ir HPC patirties. Mūsų sritis daugeliui gali atrodyti bauginanti ir gali prireikti laiko, kol išmoksime „mąstyti lygiagrečiai“. Iš esmės, kaip mašinos palengvino daiktų gamybą, taip ir generuojantis dirbtinis intelektas palengvins koncepcijų svarstymą ir argumentavimą.

Ar dar kuo nors norėtumėte pasidalinti apie savo darbą ar Cornelis Networks apskritai?

Norėčiau paskatinti visus, kurie domisi, siekti karjeros kompiuterijos, ypač HPC ir AI, srityje. Šioje srityje esame aprūpinti galingiausiais kada nors sukurtais kompiuteriniais ištekliais ir padedame juos įveikti didžiausius žmonijos iššūkius. Tai įdomi vieta būti, ir man tai patiko kiekviename žingsnyje. Generatyvusis AI iškelia mūsų sritį į dar naujesnes aukštumas, nes drastiškai didėja poreikis didinti pajėgumus. Nekantrauju pamatyti, kur eisime toliau.

Dėkojame už puikų interviu, skaitytojai, norintys sužinoti daugiau, turėtų apsilankyti Cornelis Networks.