Kumppanuudet
Expedera esittelee reunalaitteiden tekoälyalijärjestelmän yhdistämistä Cadenceen
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Expedera ilmoitti 9. marraskuuta 2026 yhdistäneensä Origin Evolution –neuroverkkoprosessorinsa (NPU) IP:n Cadencen Tensilica NeuroEdge 130 -tekoälyapuprosessoriin esipiirivaiheen simulaatiossa. Simulaatio osoitti, miten nämä kaksi puolijohde-IP-lohkoa jakavat tekoälyn päättelytehtävät ja suorittavat ne.
Expedera kuvaili tulosta validoiduksi esipiirivaiheen integraatioksi, ei asiakassirulla tehdyksi vertailutestiksi. Yhdistetyn alijärjestelmän tarkoituksena on parantaa suorituskykyä ja energiatehokkuutta sekä vähentää viivettä, kustannuksia ja monimutkaisuutta, mutta tiedotteessa ei esitetä näihin tavoitteisiin liittyviä yhdistettyjä mittaustuloksia. Yhtiöt tähtäävät päättelyratkaisuihin reunasolmuissa, älypuhelimissa, autojärjestelmissä ja datakeskuksissa, ja lähestymistapaa voidaan soveltaa myös muihin Tensilica-digitaalisiin signaaliprosessoreihin.
Expedera-yhtiön johtava tutkija Sharad Chole kertoi, että malleja ajetaan yhdistetyssä alijärjestelmässä ja agenttisen tekoälyn työnkulut auttavat yhtiötä toimittamaan räätälöityä IP:tä nopeammin. Näin asiakkaat saavat ”nopeamman ja vähäriskisemmän polun tuotantokäyttöön soveltuvaan reunalaitteiden tekoälyyn, joka on räätälöity heidän suorituskyky- ja tehontarpeisiinsa”.
Miten apuprosessori ja NPU jakavat tehtävät
Cadencen Tensilica Products Groupin tuotepäällikkönä ja markkinointijohtajana toimiva Amol Borkar kertoi, että apuprosessori avustaa Expedera-yhtiön NPU:ta esikäsittelyssä, jälkikäsittelyssä ja operaattorien varasuorituksessa sekä suorittaa tekoälyverkkoja. Ratkaisu jakaa tehtävät alijärjestelmän sisällä sen sijaan, että kahdelle kiihdyttimelle annettaisiin samat tehtävät.
Cadence suunnitteli apuprosessorin toimimaan yhdessä omien Neo NPU -prosessorien, asiakkaiden kehittämien NPU-prosessorien tai kolmannen osapuolen NPU-IP:n kanssa, joten Expedera-yhdistelmä on konkreettinen esimerkki kolmannen osapuolen ratkaisusta. Sen tuotedokumentaatiossa kuvataan Xtensa-pohjainen arkkitehtuuri, jossa hyödynnetään erittäin pitkiä käskysanoja (VLIW) ja yhden käskyn rinnakkaista käsittelyä usealle datalle (SIMD). Arkkitehtuuri sisältää optimoituja käskyjä esimerkiksi sigmoid-, tanh- ja ReLU-operaatioihin, jotka soveltuvat NPU:ille heikommin.
NeuroEdge 130 voi toimia myös ohjausprosessorina, joka antaa NPU:lle käskyjä ja komentoja. Tämä lisää ohjelmoitavuutta sellaisten työkuormien käsittelyyn, joita ei osattu ennakoida alijärjestelmää suunniteltaessa. Se liitetään järjestelmään AXI:n tai Cadencen High Bandwidth Direct Interfacen kautta. Tensor Virtual Machine -ohjelmistopinon pohjalta rakennettua NeuroWeave-ohjelmistokehityspakettia käytetään mallien säätämiseen, optimointiin ja käyttöönottoon Cadencen tekoäly-IP:llä.
Origin Evolution jakaa neuroverkot paketeiksi eli yhtenäisiksi osiksi ja reitittää ne eteenpäinsyöttö-, tarkkaavaisuus- ja vektorinkäsittelylohkoihin. Lohkot käsittelevät erilaisia operaatioita, tietotyyppejä ja tarkkuuksia; NPU tukee myös suuria kielimalleja (LLM), konvoluutioneuroverkkoja (CNN), rekurrentteja neuroverkkoja (RNN) sekä mukautettuja ja suljetun toiminnallisuuden kerroksia. Pakettipohjaisen rakenteen tarkoituksena on vähentää suuria muistin siirtoja ja mahdollistaa erilaisten verkon osien käsittely samalla arkkitehtuurilla.
Aiemmat julkaisut selventävät uutta integraatiota
Origin Evolution esiteltiin 20. toukokuuta 2025 saatavilla olevana, tuotantokäyttöön valmiina ja asiakastuotantoon päätyneissä piireissä toimivaksi osoitettuna ratkaisuna. Julkaisun luvut koskevat pelkkää NPU:ta: Expedera ilmoittaa sen skaalautuvan yhden ytimen 128 TFLOPSin suorituskyvystä usean ytimen petaFLOPS-luokan suorituskykyyn ja sen yli. Lisäksi ulkoisen muistin siirtojen määrä väheni yli 75 prosenttia Llama 3.2 1B- ja Qwen2 1.5B -malleilla vaihtoehtoisiin ratkaisuihin verrattuna.
Cadence oli samoin esitellyt NeuroEdge 130:n 7. toukokuuta 2025. Se oli tuolloin yleisesti saatavilla ja valmis ISO 26262 -standardin mukaiseen käyttöön autoissa. Cadence ilmoitti sen säästävän pinta-alaa yli 30 prosenttia sekä vähentävän dynaamista tehoa ja energiankulutusta yli 20 prosenttia, kun suorituskyky oli samaa tasoa kuin Tensilica Vision -digitaalisilla signaaliprosessoreilla tekoälyverkkojen ja -operaattorien käsittelyssä. Nämä luvut vertaavat apuprosessoria Cadencen Vision-digitaalisiin signaaliprosessoreihin; ne eivät kuvaa uutta Expedera-Cadence-alijärjestelmää.
Reunalaitteiden järjestelmäpiirejä suunnitteleville kehitys tarjoaa validoidun integrointipolun kahden olemassa olevan IP-perheen välille: Expedera tuo pakettipohjaisen kiihdytyksen ja Cadence ohjelmoitavan tavan käsitellä sitä ympäröiviä operaattoreita ja ennakoimattomia työkuormia. Ratkaisu vastaa reunalaitteiden päättelyssä käytännön suunnitteluhaasteeseen: miten yhdistää tiheän neuroverkkolaskennan erikoistunut kiihdytys riittävään ohjelmoitavuuteen, jotta muuttuvia malleja voidaan käyttää. Alijärjestelmä voidaan määrittää erilaisiin suorituskyky- ja tehotavoitteisiin.
