AI-mallit ja alustat

AMD julkaisee Zen 6 EPYC -suorittimet tiheämpiin tekoälyagenttien käyttöönottoihin

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

AMD ilmoitti kuudennen sukupolven EPYC SP7 -palvelinsuorittimiensa yleisestä saatavuudesta 10. marraskuuta 2026. Järjestelmiä alkaa toimittaa palvelinvalmistajia, ja Microsoft Azuren ja Oracle Cloud Infrastructuren instanssien odotetaan tulevan pian saataville. Kymmenen mallin Zen 6 -mallisto on suunniteltu tekoälyagenttien suorittamiseen, GPU-isäntäsolmuihin ja yrityssovelluksiin.

Julkistuksessa keskitytään tekoälymallien ympärillä tehtäviin suorittimen työtehtäviin. Yksittäinen agenttipohjainen työnkulku voi koordinoida agentteja, kutsua malleja, hakea tietoa, suorittaa koodia ja muodostaa yhteyden yrityksen olemassa oleviin tietokantoihin ja sovelluksiin. AMD jakaa tähän tarvittavan infrastruktuurin yleiskäyttöisiin palveluihin, GPU-isäntäsolmuihin ja agenttien eristysympäristöihin. Suorittimen taajuus, tiheys, kaistanleveys ja energiatehokkuus vaihtelevat tehtävän mukaan, mutta ohjelmistojen, tietoturvan ja hallinnan perustana säilyy yhteinen x86-alusta.

SP7-malliston taajuus ja tiheys

EPYC 9006 SP7 -mallistossa on malleja, joissa on 64–256 ydintä ja 128–512 säiettä. Samanaikainen monisäikeistys mahdollistaa kahden säikeen suorittamisen kullakin ytimellä. Zen 6- ja Zen 6c -ytimissä tasapainotetaan tekoälyn isäntäsolmujen korkeiden kellotaajuuksien suorituskykyä ja rinnakkaisten agenttien suorittamisen suurempaa tiheyttä. Alusta tukee myös PCIe Gen 6:ta.

Malliston kärjessä EPYC 9996- ja 9956-malleissa on kummassakin 1 024 Mt L3-välimuistia. EPYC 9996:n perustaajuus on 2,55 GHz, ja sen enimmäistaajuus on 4,1 GHz. Suorittimen oletustehonkulutukseksi ilmoitetaan 600 W, ja se voidaan määrittää 400–600 wattiin. Suorittimen oletustehonkulutus mittaa suorittimen laskentapiirien ja I/O-piirien yhteenlaskettua kulutusta ilmoitetulla suorituskykytavoitteella. EPYC 9686F- ja 9586F-malleissa painotetaan sen sijaan kellotaajuutta: niiden perustaajuus on 4,05 GHz ja enimmäistaajuus jopa 5,3 GHz.

Yksittäisten palvelimien lisäksi suorittimet tulevat osaksi AMD:n Helion-räkkiratkaisuja, jotka esiteltiin lokakuussa 2026. Helion Liquid on tarkoitettu laajamittaisiin käyttöönottoihin, Helion Air olemassa oleviin ilmajäähdytteisiin datakeskuksiin, ja Helion Air Inference yhdistää suorittimella tapahtuvan suorituksen paikalliseen GPU-päättelyyn. AMD:n mukaan joissakin Helion-kokoonpanoissa yhdessä räkissä on jopa 73 728 säiettä.

Suorituskykyarviot ja tehonkulutuksen rajat

GPU-isäntäsolmuissa AMD ilmoittaa aiemman sukupolven EPYC-suorittimiin verrattuna jopa 1,8-kertaisen suurten kielimallien tulostusnopeuden vertailussa, jossa mallin painoja siirrettiin suorittimelle. Luku perustuu PCIe Gen 5 -isäntäyhteydellä tehtyihin mittauksiin, jotka on suhteutettu Gen 6:n kaistanleveyteen. Testeissä havaittiin, että kyseisessä työkuormassa tiedonsiirtonopeutta rajoitti PCIe-yhteys, ei isäntämuisti.

Agenttien eristysympäristöissä AMD arvioi, että suorittimen wattia kohti voidaan suorittaa noin 3,3 kertaa enemmän agentteja kuin Nvidia Veralla ja 2,5 kertaa enemmän kuin Intel Xeon 6980P:llä. Vertailussa ei lasketa käynnissä olevassa käyttöönotossa olevia agentteja, vaan käytettävissä olevista suorittimen säikeistä arvioidaan kapasiteetti yhteisen teoreettisen työkuorman perusteella. Todellinen kapasiteetti ja tiedonsiirtonopeus riippuvat työkuormasta, mallista, muistista, ohjelmistosta, orkestroinnista ja järjestelmän kokoonpanosta.

AMD:n räkkimallin arvion mukaan, kun suorittimen ja muistin yhteenlaskettua tehorajaa kantaa kohti pienennetään 15 %, EPYC 9996 -kokoonpanolla voidaan suorittaa noin 1,18 kertaa niin monta agenttia 35 kilowatin räkissä kuin oletustehorajojen puitteissa. Lisäkapasiteetti syntyy siitä, että samaan tehonkulutusrajaan mahtuu enemmän palvelimia. Palvelinkohtaisen keskimääräisen suorituskyvyn arvioidaan laskevan 1 %. Arvio perustuu erillisiin viidennen sukupolven EPYC-suorittimella tehtyihin testeihin.

Microsoft avaa Azure HDv2:n esiversion

Microsoft avasi 10. marraskuuta ilmoittautumisen Azure HDv2 -virtuaalikoneen esiversioon, joka perustuu kuudennen sukupolven EPYC-suorittimiin, joiden koodinimi on Venice. Kussakin virtuaalikoneessa on yli 500 fyysistä Zen 6 -ydintä, 3,8 teratavua DDR5-8800-muistia, 30 Tt PCIe Gen 5 NVMe -tallennustilaa ja 400 Gb Azure Boost Networking.

Microsoftin mukaan yksi HDv2-virtuaalikone voi suorittaa rinnakkain noin kaksi kertaa niin monta agenttien eristysympäristöä kuin markkinoiden seuraavaksi paras vaihtoehto ja saavuttaa jopa 1,7-kertaisen agenttipohjaisten tehtävien suoritusnopeuden. Kaavioiden mukaan mittaukset ovat alustavia ja voivat muuttua. Agenttipohjaisten tehtävien ja vahvistusoppimisen tehtävien suoritusnopeutta arvioidaan SPEC CPU 2026 Integer Rate -testillä. Aina kun agentti suorittaa koodia tai kutsuu työkalua, se toimii eristetyssä suorittimen eristysympäristössä. Jos ytimiä ei ole riittävästi, agentteja ohjaavat GPU:t voivat siksi jäädä toimettomiksi.

OpenAI on tehnyt Microsoftin kanssa yhteistyötä HDv2:n parissa ja yhdistänyt ytimien ja muistin tasapainon sekä tutkimus- että koodaustyökuormiin. ”Kun valmistelemme suuria tietojoukkoja tekoälytutkimusta varten, useammat suoritinytimet antavat meille mahdollisuuden jakaa työn useampiin tehtäviin, kunhan kussakin tehtävässä on riittävästi muistia. Sama tasapaino on tärkeä, kun monet koodausagentit kehittävät ohjelmistoja ja suorittavat testejä samanaikaisesti”, sanoi OpenAI:n suoritin- ja tallennuskapasiteetin suunnittelusta vastaava johtaja Rafael Dietrich.

Yleisen saatavuuden alkaessa Microsoft aikoo tarjota HDv2:ta Azure Kubernetes Servicen, Azure Databricksin ja Azure CycleCloudin kautta sekä kumppanialustoilla, kuten Rescalessa ja Synopsyksessä. Saatavuus voi vaihdella näiden palvelujen ja alustojen välillä.

Julkaisun myötä suorittimien tiheys, muistin kohdentaminen ja räkin tehonkulutus nousevat kiihdyttimien käyttöasteen rinnalla keskeisiksi agenttikapasiteetin kannalta. Näiden kokoonpanojen käytännön toimivuus ratkaistaan sen perusteella, kuinka paljon rinnakkaista agenttityötä ne pystyvät ylläpitämään kiinteissä tehorajoissa ilman, että GPU:t jäävät vajaakäyttöön.

Theo Nash on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka kattaa AI‑infrastruktuurin, laskennan ja laitteistojärjestelmät, jotka mahdollistavat modernin tekoälyn. Hänen työnsä keskittyy suurten AI‑työkuormien teknisiin perusteisiin, mukaan lukien datakeskukset, kiihdyttimet, tietoverkot ja ohjelmistopinot, jotka yhdistävät ne yhteen.

Analyyttisesta ja tekniikkavetoisesta näkökulmasta Theo tarkastelee, miten GPU:iden, räätälöidyn piisirun, muistirakenteiden ja hajautettujen järjestelmien edistysaskeleet mahdollistavat uudet AI‑mallien sukupolvet. Hän kiinnittää erityistä huomiota suorituskyvyn kompromisseihin, energiatehokkuuteen, skaalautuvuuteen ja käytännön rajoitteisiin, jotka muovaavat AI‑infrastruktuurin todellista käyttöönottoa.

Theo Nashin kirjoittamat artikkelit ovat AI‑luotuja ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen teknisen tarkkuuden, selkeyden ja vastuullisen kattavuuden nopeasti kehittyvässä AI‑laskentaympäristössä.