GPU:n tuolla puolen: tekoälytehtaan optimointi kokonaisena järjestelmänä

Tekoälytehdas ei ole vain tavallista suurempi datakeskus. Se on suunniteltu nimenomaan älykkäiden tokenien tuottamiseen, ei verkkosivujen ja sähköpostien tarjoamiseen. Kun hyperskaalaaja tai neocloud-palveluntarjoaja sijoittaa miljardeja dollareita ja vuosia tekoälytehtaan rakentamiseen, laskennan raskaimmasta työstä vastaavista grafiikkasuorittimista tulee luonnollisesti tärkeä painopiste. Pelkkä grafiikkasuorittimen optimointi ei kuitenkaan optimoi sen ympärille rakentuvaa tehdasta. Sähkö- ja lämmönhallintajärjestelmien on tuettava laskentaa, ja yhdessä järjestelmässä tehdyillä päätöksillä voi olla merkittäviä vaikutuksia muihin. Tekoälyn avulla pyritään optimoimaan monimutkaisia järjestelmiä, mutta sen tuotantoon käytettävät tehtaat on usein optimoitu yksi komponentti kerrallaan. Virtuaalinen kaksonen -teknologian avulla insinöörit voivat mallintaa ja tehostaa koko järjestelmää jo ennen rakentamisen aloittamista.

Miksi varovainen suunnittelu tuntui turvallisimmalta vaihtoehdolta

Järjestelmävian tai suorituskyvyn pullonkaulan mahdolliset seuraukset olivat niin vakavia, että ensimmäiset laitokset rakennettiin suurilla turvamarginaaleilla ja niihin asennettiin runsaasti laitteistoa. Koska uuden sukupolven datakeskuksille ei ollut suunnitelmaa, varovaisuus saattoi tuntua turvallisimmalta lähestymistavalta. Turvamarginaalit auttoivat suojautumaan esimerkiksi sirujen lähellä tapahtuvilta lämpötilapiikeiltä. Niiden vuoksi operaattoreille voi jäädä vain minuutti aikaa reagoida ennen laitteiston rikkoutumista. Joissakin varhaisissa laitoksissa jopa 10 prosenttia käytettävissä olevasta sähkötehosta jäi käyttämättä varamarginaalina.

Tekoälytehtaita uhkaavat lämpötilan ja sään vaihtelut, laiteviat, riittämätön kapasiteetti, suunnittelun puutteet ja kunnossapito-ongelmat. Panosten ollessa näin suuret jokainen kapasiteetin käyttöönoton viivästymispäivä voi gigawatin mittakaavassa merkitä noin 100 miljoonan dollarin menetystä tokenien tuottamisesta saatavissa tuloissa. Varovaisuus tuntui välttämättömältä, kun näiden ongelmien seurauksia ei voinut ennakoida.

Haaste kasvaa entisestään, kun riskit ulottuvat useisiin toisistaan riippumattomiin järjestelmiin. Tekoälytehdas perustuu kolmeen tiiviisti yhteen kytkeytyvään järjestelmään: laskentaan, sähkönsyöttöön ja lämmönhallintaan. Grafiikkasuoritin tarvitsee toimiakseen monimutkaisen sähkönsyöttöketjun ja yhtä vaativan lämmönhallintajärjestelmän poistamaan tuottamansa lämmön. Kun laskentaa, sähkönsyöttöä ja lämmönhallintaa käsitellään erillisinä vaiheina ja kukin optimoidaan omalla osa-alueellaan, tiimit saattavat olla huomaamatta, miten yhdessä järjestelmässä tehty päätös vaikuttaa muihin. Tämä luo katvealueita ja epätasapainoa etenkin silloin, kun sähkö- ja jäähdytysjärjestelmät nähdään infrastruktuurivaatimuksina, joihin puututaan vasta laskentaa koskevien päätösten jälkeen.

Sähköä ja jäähdytystä ei voi erottaa laskennasta. Ne ovat osa järjestelmää, joka määrittää, kuinka tehokkaasti laskenta voi toimia. Siksi painopiste siirtyy yksittäisten järjestelmien optimoinnista koko tehtaan optimointiin.

Miksi yhteisoptimointi on tarpeen

Ongelman ratkaiseminen edellyttää, että kunkin järjestelmän erillisestä optimoinnista siirrytään koko tehtaan yhteisoptimointiin. Fyysinen rakentaminen pakottaa tekemään päätökset peräkkäin: ensin suunnitellaan yksi järjestelmä, sitten sen ympärille rakennetaan toinen ja sen tueksi lisätään vielä yksi. Näin koko tehtaan optimointi on vaikeaa, sillä jokainen päätös kaventaa seuraavien järjestelmien vaihtoehtoja. Yhteisoptimointi edellyttää, että prosessi siirretään virtuaaliseen ympäristöön, jossa koko järjestelmä voidaan mallintaa, sitä voidaan muuttaa ja sen toimintaa arvioida ennen kuin mitään on lukittu fyysisesti. Näin syntyy dynaaminen suunnitelma.

Tehtaan mallintaminen ennen sen rakentamista

Tässä järjestelmätason virtuaalinen kaksonen -teknologia on ratkaisevan tärkeää.

Virtuaalinen kaksonen hyödyntää formaalia järjestelmämallinnusta laskennan, sähköinfrastruktuurin ja lämmönhallintainfrastruktuurin yhteiseen mallintamiseen, ja sen avulla tekoälytehdas voidaan mallintaa jo ennen kuin se on fyysisesti olemassa. Toisin kuin perinteinen digitaalinen kaksonen, joka keskittyy olemassa olevaan fyysiseen kohteeseen, virtuaalinen kaksonen voi mallintaa järjestelmää jo ennen sen fyysistä olemassaoloa. Sen avulla insinöörit voivat kokeilla erilaisia kokoonpanoja ja ymmärtää, miten järjestelmän yhden osan muutokset vaikuttavat muihin osiin, ennen kuin valinnoista tulee fyysisiä sitoumuksia.

Grafiikkasuorittimien tiheyden kasvattaminen ei esimerkiksi tarkoita vain laskentakapasiteetin lisäämistä. Se voi kasvattaa sähkökuormaa, muuttaa lämmönpoistovaatimuksia, vaikuttaa laitteiden sijoitteluun ja tuoda uusia käyttöönottoon liittyviä huomioitavia asioita. Näiden yhteyksien yhteinen mallintaminen auttaa insinöörejä arvioimaan kompromisseja jo ennen rakentamista sen sijaan, että ne havaittaisiin vasta hankkeen edetessä.

Virtuaalinen kaksonen -teknologian avulla insinöörit voivat tehdä kalliin virheen virtuaalisesti ennen kuin siitä tulee kallis virhe fyysisessä maailmassa. Sen avulla tiimit voivat tunnistaa virtuaalisessa ympäristössä mahdollisia ongelmia ja mahdollisuuksia sekä ratkaista ongelmat ennen kuin ne ilmenevät fyysisessä maailmassa. Kokoonpanojen testaaminen ennen fyysistä käyttöönottoa auttaa myös tunnistamaan ja poistamaan jo suunnitteluvaiheessa tarpeettomat suunnittelumarginaalit, käyttämättä jäävän sähkötehon ja turvamarginaaleista aiheutuvan hukan. Suuressa mittakaavassa pienetkin vähennykset voivat tuoda miljoonien säästöt pääomakustannuksissa ja nopeuttaa tulovirran alkamista.

 Mallin tekeminen ennakoivaksi

Mallissa voidaan käyttää myös fysiikkaan perustuvaa simulointia järjestelmän toiminnan ennustamiseen. Kun taustalla oleva fysiikka tai kemia tunnetaan hyvin, simulointityökaluilla voidaan ennustaa järjestelmän toimintaa. Jos runsas käyttötieto tarjoaa paremman lähestymistavan, tekoäly- ja koneoppimismallit voivat täydentää simulaatioita.

Tuloksena on ympäristö, jossa voidaan tutkia, miten yhteen kytketty järjestelmä toimii, ja koordinoida päätöksentekoa eri tekniikan aloilla. Mallia voidaan myös kehittää sitä mukaa, kun operatiivista dataa kertyy, jolloin yhdestä laitoksesta tai käyttöjaksosta saadut opit voivat ohjata tulevia suunnitelmia ja päätöksiä.

Tekoälytehtaan suunnitelma

Toimiala rakentaa jo perustaa tälle lähestymistavalle. NVIDIAn DSX-suunnitelma määrittelee viitemallin gigawatin mittakaavan tekoälytehtaille. NVIDIA on aloittanut kirjaamalla suunnitelman laskentaa koskevan osuuden järjestelmämallinnuksen ja virtuaalisen kaksosen simulointiin perustuvan lähestymistavan avulla. Yhtiö kutsuu ekosysteemikumppaneita osallistumaan suunnitteluun omilla osuuksillaan. Näihin kuuluvat energia-, jäähdytys- ja rakennusalan yritykset, kuten Eaton, Vertiv ja Jacobs. Viitemallien yhteentoimivuuden mahdollistaa SysML, joka tukee järjestelmätason määrittelyä, kun taas OpenUSD tarjoaa perustan 3D-keskeiselle datalle.

Tavoitteena ei ole, että jokainen yritys optimoi oman komponenttinsa ja olettaa sitten osien sopivan yhteen. Laskennan, energian, jäähdytyksen ja kiinteistötekniikan asiantuntemus on koottava yhteen, jotta kunkin alan paras teknologia parantaa koko järjestelmän suorituskykyä.

Kukin toimiala voi optimoida toimintaansa omalla alallaan, mutta tehokkaan lopputuotteen luominen edellyttää järjestelmien yhteistä optimointia. Lähestymistavan kehittyessä se mahdollistaa myös tekoälyinfrastruktuurin siirtymisen erillisistä, kertaluonteisista pilottihankkeista kohti yritystason järjestelmiä, jotka pystyvät hallitsemaan erittäin monimutkaisia toimintaympäristöjä.

Koko tehtaan optimointi, ei vain GPU:n

GPU säilyy tekoälytehtaan suorituskyvyn keskiössä. Parhaiden GPU:iden ostaminen ei kuitenkaan yksin optimoi niiden ympärille rakennettua tehdasta. Tekoälyinfrastruktuurin seuraava sukupolvi edellyttää laskennan, energian ja lämpöjärjestelmien suunnittelua yhdeksi integroiduksi kokonaisuudeksi, näiden suhteiden mallintamista ennen merkittäviä fyysisiä investointipäätöksiä sekä järjestelmän jatkuvasti keräämien oppien hyödyntämistä seuraavien ratkaisujen parantamiseksi. Tulevaisuutta ei voi ennustaa eikä jokaista virhettä estää, mutta virtuaalisen kaksosen teknologia voi auttaa tiimejä varautumaan epävarmuuteen ja optimoimaan tekoälytehtaita kokonaisuutena.