Meridian Cloud valitsee Aria Networksin päättelyvalmiiden tekoälyklusterien verkkoratkaisujen suunnittelukumppaniksi

Meridian Cloud on valinnut Aria Networksin verkkokumppanikseen omaan tekoälyn päättelypilveensä, jonka on määrä käynnistyä vuoden 2027 toisella neljänneksellä. Yhtiöt aikovat kehittää standardoituja ja validoituja verkkoratkaisuja, joiden avulla klusterien käyttöönotot ovat toistettavampia ja tekniset määritykset, kustannusarviot sekä tuotantoaikataulut selkeämpiä.

Marraskuun 5. päivänä julkistettu kumppanuus tuo Arian mukaan suunnitteluun jo ennen laitteiden asentamista. Sen piiriin kuuluu taustaverkon GPU-kankaan mitoitus, etuverkkojen ja tallennusverkkojen suunnittelu, verkkotopologioiden ja kaapelointien kartoitus sekä toimitusten ja toimitusaikataulujen yhteensovittaminen Meridianin käyttöönottosuunnitelman kanssa.

Ensimmäisten yhteisten viitemallien odotetaan olevan Meridianin asiakkaiden ja konesalikumppaneiden saatavilla vuoden 2027 toisella neljänneksellä. Tiedotteessa kuvataan kehitys- ja käyttöönottosuunnitelmaa, ei Meridianin uuden päättelypilven jo valmistunutta käyttöönottoa.

Uusien klusterien käyttöönotto ei vaadi joka kerta uutta suunnitteluprojektia

Meridianin toimintamallissa pieni keskustiimi saa tuekseen tekniikan, laskennan, käyttöönoton ja verkkotekniikan asiantuntijakumppaneita. Aria auttaa kokoamaan työn viitemallien kirjastoksi, jossa kukin malli on suunniteltu tietynlaiselle konesalille.

Tarkoituksena on lähteä liikkeelle toimipaikan käytettävissä olevasta sähkötehosta ja sovittaa siihen kokoonpano, jonka verkkovaatimukset on jo validoitu. Näin Meridian voisi määrittää tekniset ratkaisut ja kustannukset ennen rakentamisen alkua sen sijaan, että verkkokokonaisuutta jouduttaisiin suunnittelemaan uudelleen erillisenä teknisenä projektina jokaisessa toimipaikassa.

Omaa pilvipalvelua käyttävälle asiakkaalle standardoinnin arvo perustuu ennakoitavuuteen. Klusterissa ei ole kyse vain tilattujen kiihdyttimien määrästä: kaapelireitit, kytkinkapasiteetti, palvelinyhteydet, tallennusliikenne ja laitteiden toimitusten ajoitus vaikuttavat kaikki siihen, milloin järjestelmä voi aloittaa hyödyllisen työn.

«Aria on sijoittanut kenttäinsinöörinsä tiimimme osaksi alusta alkaen. He ovat työskennelleet kanssamme verkon suunnittelun, hankintojen ja käyttöönoton suunnittelun parissa sekä validoineet jokaisen kaapelin, yhteyden ja kokoonpanon ennen kuin asiakkaan työtehtäviä ajetaan», sanoi Meridian Cloudin toimitusjohtaja Vic Rose.

Miksi verkko on päättelyssä kriittinen lenkki

Päättelyllä tarkoitetaan prosessia, jossa koulutettu malli tuottaa vastauksen. Hajautetussa ympäristössä osa työstä ja sitä tukevasta datasta voi siirtyä koneiden välillä, jolloin tiedonsiirtoon kuluva aika vaikuttaa käyttäjän kokemaan vastausviiveeseen.

Yksi esimerkki on hajautettu päättely, jossa kehotteen käsittely ja tokenien tuottaminen tapahtuvat eri resursseilla. Järjestelmän on ehkä siirrettävä niiden välillä mallin avain-arvovälimuisti eli pyyntöön liittyvä välivaiheen huomiotieto. Tiedonsiirtoreitin ruuhkautuminen voi viivästyttää työtä, vaikka GPU:t olisivat käytettävissä.

Aria korostaa päättelyverkkoja käsittelevässä teknisessä katsauksessaan palvelinten toiminnan ja verkkotelemetrian yhteensovittamista. Säännöllisesti päivittyvässä koontinäytössä hyvinvoivalta näyttävä portti voi silti kärsiä lyhyistä häiriöistä, jotka vaikuttavat sovelluksen suorituskykyyn.

Kumppanuustiedotteessa mainitaan ruuhkatilanteet, heikkenevät optiikkakomponentit ja palvelinten puolella ilmenevät ongelmat, joita muutaman sekunnin välein tietoja kyselevät työkalut eivät välttämättä havaitse. Näiden tapahtumien tunnistaminen edellyttää tarkempaa näkyvyyttä kuin pelkkä tieto siitä, onko yhteys toiminnassa.

Päättelyyn perustuvassa liiketoiminnassa seuraukset ovat sekä kaupallisia että teknisiä. Datan odotteluun kuluva aika vähentää laitteiston hyödyllistä tuotosta, vaikka se kuluttaa edelleen sähköä ja aiheuttaa omistuskustannuksia. Keskeisiä toimintaa kuvaavia mittareita ovat vastausviive, hyödyllinen läpimeno ja kustannus miljoonaa tokenia kohti – eivät pelkästään yhteysnopeudet.

Mitä Aria Deep Networking tuo lisää

Aria kuvaa Deep Networkingin yhteissuunnitelluksi järjestelmäksi, jossa yhdistyvät kytkinlaitteisto, Aria Operating System, yksityiskohtainen telemetria ja erikoistuneet agentit. Meridianin tiedotteessa mainitaan 800G Aria Switch -alustat ja standardeihin perustuva Ethernet-kangas, joka on suunniteltu toimimaan eri kiihdytinvalmistajien tuotteiden kanssa.

Yhtiön mukaan kytkimistä, optiikasta ja palvelimista kerättävän telemetrian resoluutio on 100–10 000 kertaa perinteisiä työkaluja tarkempi. Kyse on mittaustarkkuutta koskevasta väitteestä, ei väitteestä, että Meridianin sovellukset toimisivat 100–10 000 kertaa nopeammin.

Aria antaa tuotekatsauksessaan lisätietoja laitteistosta: sen 800G-kytkimessä on 64 800GbE-porttia kahden räkkikorkeusyksikön kotelossa, se tukee RoCEv2:ta ja Layer 2/Layer 3 -verkkotekniikoita sekä sisältää erillisen telemetriaprosessorin. RoCEv2 mahdollistaa etäkäyttöisen suoran muistiyhteyden Ethernetin yli. Tätä ominaisuutta käytetään datan tehokkaaseen siirtämiseen koneiden välillä suorituskykyisissä klustereissa.

Samalla tuotesivulla kuvataan, miten GPU-palvelimien ja kytkimien tietoja yhdistetään, erikoistuneet agentit valitsevat diagnostiikkatyökalut ja ohjattuja ratkaisutyönkulkuja suoritetaan. Näin laitteistosuunnittelun rinnalle nousee toiminnan näkyvyys: verkkoa on pystyttävä valvomaan ja ylläpitämään myös käyttöönoton jälkeen.

Yritykset eivät ole julkaisseet kumppanuuteen liittyviä yhteisiä vertailutuloksia Meridianin käyttöönotosta eivätkä mitattua kustannusten laskua tokenia kohden. Tulokset riippuvat käyttöön otetuista työkuormista ja kokoonpanoista sekä siitä, miten verkko toimii tuotantoliikenteen aikana.

Meridianin erilliskapasiteettiin perustuva päättelymalli

Verkkosivustollaan Meridian kuvaa tarjontaansa asiakkaan työkuormaan sovitettuna varattuna kapasiteettina, johon kuuluu vaihtoehtoja sekä NVIDIA- ja AMD-laitteistoista että erikoistuneista päättelykiihdyttimistä. Se mainitsee myös hallitun orkestroinnin ja bare metal -käyttömallit.

Nämä kuvaukset koskevat palvelutarjontaa laajemmin, eivätkä vahvista, että jokainen mainostettu kokoonpano kuuluisi Aria-viitesuunnitelmien ensimmäiseen valikoimaan. Kumppanuusilmoituksessa ei kerrota ensimmäisten palvelinkeskusten sijainteja, kiinteitä klusterikokoja eikä asiakashintoja.

Meridianin keskittyminen erilliskapasiteettiin muuttaa myös suunnittelun lähtökohtia. Pelkkään jaettuun saatavuuteen tukeutumisen sijaan asiakas tarvitsee järjestelmän, joka on suunniteltu sen odotetun liikenteen, mallien ominaisuuksien ja palveluvaatimusten mukaan. Toistettavat verkkoratkaisut voivat helpottaa suunnittelua ja jättää samalla tilaa työkuormakohtaisille valinnoille.

Kumppanuus keskittyy toistettavaan toteutukseen

Aria osallistuu sekä suunnitteluun että käytännön käyttöönottoon, ja yksittäisistä kohteista saadut opit on tarkoitus hyödyntää myöhemmissä asennuksissa ja ohjelmistoparannuksissa. Tavoitteena on, että verkkosuunnittelu on Meridianin käyttöönottojen uudelleenkäytettävä osa eikä toistuva epävarmuuden lähde.

Lähiajan välitavoite on konkreettinen: yhteiset viitesuunnitelmat ja suunniteltu pilvipalvelun lanseeraus vuoden 2027 toisella neljänneksellä. Sen jälkeen kumppanuuden onnistuminen mitataan sillä, johtavatko validoidut suunnitelmat ja yksityiskohtaisempi näkyvyys toimintaan klustereihin, jotka valmistuvat aikataulussa ja tarjoavat tasaista päättelysuorituskykyä asiakkaiden työkuormien käynnistyttyä.