Intel ontwikkelt grootste neuromorf systeem voor eco-vriendelijke AI-verbeteringen

Intel (INTC ) heeft onlangs de creatie aangekondigd van Hala Point, het grootste neuromorf systeem ter wereld, wat een significante stap betekent naar meer duurzame en efficiënte kunstmatige intelligentie. Eerst geïmplementeerd bij Sandia National Laboratories, maakt Hala Point gebruik van Intel’s geavanceerde Loihi 2 processor en bouwt voort op het succes van zijn voorganger, Pohoiki Springs, door aanzienlijke verbeteringen in architectuur aan te bieden. Deze verbetering verhoogt de neuronen capaciteit met meer dan tien keer en de prestaties met maximaal twaalf keer.

“De rekenkosten van de huidige AI-modellen stijgen met onhoudbare tarieven. De industrie heeft fundamenteel nieuwe benaderingen nodig die kunnen schalen. Daarom hebben we Hala Point ontwikkeld, dat diepe leer efficiëntie combineert met nieuwe, door het brein geïnspireerde leer en optimalisatie capaciteiten. We hopen dat onderzoek met Hala Point de efficiëntie en aanpasbaarheid van grote-schaal AI-technologie zal verbeteren,” zei Mike Davies, directeur van het Neuromorf Computing Lab bij Intel Labs.

Hala Point onderscheidt zich door het eerste grote-schaal neuromorf systeem te zijn dat state-of-the-art rekenkundige efficiëntie op mainstream AI-werklasten kan demonstreren. Het kan maximaal 20 quadriljoen operaties per seconde ondersteunen, of 20 peta-ops, en biedt ongekende efficiëntie van meer dan 15 biljoen 8-bits operaties per seconde per watt (TOPS/W) bij het uitvoeren van conventionele diepe neurale netwerken.

Onderzoekers bij Sandia National Laboratories zullen Hala Point gebruiken voor geavanceerd, op het brein gebaseerd rekenonderzoek, met een focus op wetenschappelijke rekenproblemen in verschillende domeinen zoals apparaatfysica, computerarchitectuur en informatica. “Werken met Hala Point verbetert de mogelijkheden van ons Sandia-team om computationele en wetenschappelijke modelleringsproblemen op te lossen. Onderzoek doen met een systeem van deze omvang zal ons in staat stellen om gelijk op te gaan met de evolutie van AI in domeinen variërend van commercieel tot defensie tot basiswetenschap,” zei Craig Vineyard, Hala Point-teamleider bij Sandia National Laboratories.

Hoewel Hala Point nog steeds een onderzoeksprototype is, ziet Intel ernaar uit dat de lessen die hieruit worden getrokken, de mogelijkheden van toekomstige commerciële systemen aanzienlijk zullen verbeteren, met name door het mogelijk te maken dat grote taalmodellen voortdurend van nieuwe gegevens leren en de trainingslast van AI-implementaties te verminderen.

De drang naar steeds grotere diepe leermodellen heeft aanzienlijke duurzaamheidsuitdagingen binnen AI blootgelegd, waardoor innovatie op het fundamentale niveau van hardware-architectuur noodzakelijk is. Neuromorf rekenen, geïnspireerd door neurologie, integreert geheugen en rekenen binnen een sterk parallel kader om gegevensoverdracht te minimaliseren. Deze aanpak heeft opmerkelijke verbeteringen in efficiëntie, snelheid en aanpasbaarheid getoond, zoals aangetoond door Loihi 2’s prestaties op de Internationale Conferentie over Akustiek, Spraak en Signaalverwerking (ICASSP) van deze maand.

Hala Point integreert 1.152 Loihi 2-processors en ondersteunt maximaal 1,15 miljard neuronen en 128 miljard synapsen, verdeeld over 140.544 neuromorfische verwerkingseenheden, binnen een zes-rack-unit datacenter chassis. De sterk parallelle stof biedt aanzienlijke geheugenbandbreedte en communicatiesnelheden, waardoor een robuuste basis wordt gelegd voor bio-geïnspireerde, spike-gebaseerde neurale netwerkmodellen.

Intel’s voortdurende ontwikkeling van neuromorfische systemen zoals Hala Point heeft tot doel de huidige beperkingen van vermogen en latentie aan te pakken die de wereldwijde implementatie van AI beperken. Met de voortdurende samenwerking van de Intel Neuromorf Onderzoeks Gemeenschap (INRC), is Intel toegewijd om deze door het brein geïnspireerde technologie van onderzoeksprototypes naar commerciële producten te brengen.