Intel utvikler verdens største neuromorfe system for miljøvennlige AI-fremsteg

Intel (INTC ) har nylig annonsert skapingen av Hala Point, verdens største neuromorfe system, og markerer et betydelig skritt mot mer bærekraftig og effektiv kunstig intelligens. Deployert initialt ved Sandia National Laboratories, bruker Hala Point Intels avanserte Loihi 2-prosessor og bygger på suksessen til sin forgjenger, Pohoiki Springs, ved å tilby betydelige forbedringer i arkitektur. Denne forbedringen øker neurontettheten med mer enn ti ganger og ytelsen med opptil tolv ganger.

“Den beregningskostnaden for dagens AI-modeller øker i en uholdbar takt. Bransjen trenger fundamentalt nye tilnærminger som kan skaleres. Derfor utviklet vi Hala Point, som kombinerer dypt læring-effektivitet med nye hjernelærings- og optimeringsfunksjoner. Vi håper at forskning med Hala Point vil fremme effektiviteten og tilpasningen av stor skala AI-teknologi,” sa Mike Davies, direktør for Neuromorphic Computing Lab ved Intel Labs.

Hala Point skiller seg ut ved å være det første stor skala neuromorfe systemet som kan demonstrere statens kunstneriske beregnings-effektivitet på vanlige AI-arbeidsbyrder. Det kan støtte opptil 20 kvadrillioner operasjoner per sekund, eller 20 petaops, og tilbyr en utenkelig effektivitet på over 15 billioner 8-bits operasjoner per sekund per watt (TOPS/W) når det kjører konvensjonelle dypt neurale nettverk.

Forskere ved Sandia National Laboratories vil bruke Hala Point for avansert hjerneskala-computing-forskning, med fokus på vitenskapelige beregningsproblemer over ulike domener som enhetsfysikk, datamaskinarkitektur og informatikk. “Arbeid med Hala Point forbedrer vår Sandia-teams evne til å løse beregnings- og vitenskapelige modellingsproblemer. Å utføre forskning med et system av denne størrelsen vil tillate oss å holde tritt med AI-utviklingen i områder fra kommersiell til forsvar til grunnleggende vitenskap,” sa Craig Vineyard, Hala Point-teamleder ved Sandia National Laboratories.

Mens Hala Point fortsatt er et forskningsprototype, ser Intel for seg at lærdommene fra dette systemet vil betydelig forbedre fremtidige kommersielle systemers evner, særlig ved å muliggjøre store språkmodeller å lære kontinuerlig fra nye data og redusere treningbyrden for AI-utplasseringer.

Jakten på stadig større dyptlæringsmodeller har avdekket betydelige bærekraftsutfordringer innen AI, og nødvendiggjør innovasjon på de grunnleggende nivåene av maskinvarearkitektur. Neuromorfe computing, inspirert av nevrovitenskap, integrerer minne og beregning innen et høyt parallelt rammeverk for å minimere dataflytting. Denne tilnærmingen har vist betydelige gevinster i effektivitet, hastighet og tilpasning, som vist ved Loihi 2s ytelse på denne månedens internasjonale konferanse om akustikk, tale og signalbehandling (ICASSP).

Hala Point integrerer 1 152 Loihi 2-prosessorer og støtter opptil 1,15 milliarder neuroner og 128 milliarder synapser, fordelt over 140 544 neuromorfe prosessorkjerner, innen en seks-rack-enhet datacenter-chassis. Den masseparallelliserte stoffet tilbyr betydelig minnehastighet og kommunikasjonshastighet, og gir en robust grunnlag for bio-inspirerte spikende neurale nettverksmodeller.

Intels pågående utvikling av neuromorfe systemer som Hala Point har som mål å løse kraft- og forsinkelsesbegrensninger som for tiden begrenser den virkelige verdens utplassering av AI. Med den fortsatte samarbeidet med Intel Neuromorphic Research Community (INRC), er Intel engasjert i å fremme denne hjernelærings-inspirerte teknologien fra forskningsprototyper til kommersielle produkter.