Framsteg inom mikrochipsteknologi bringar oss närmare AI-kantberäkning

Forskare från Princeton University har utvecklat samdesignad hårdvara och programvara för att ytterligare öka hastigheten och effektiviteten hos specialiserade artificiella intelligenssystem (AI).

Naveen Verma är professor i elektroteknik och datorteknik vid Princeton och leder forskarteamet.

“Programvara är en kritisk del för att möjliggöra ny hårdvara”, säger Verma. “Hoppet är att designer kan fortsätta använda samma programvarusystem – och bara ha det fungera tio gånger snabbare och mer effektivt.”

Systemen som utvecklats av forskarna minskar energibehovet och mängden data som behöver utbytas från fjärrservrar. Med detta kan AI-applikationer som programvara för drönare utföras på kanten av datormolnet.

Verma är också chef för universitetets Keller Center for Innovation in Engineering Education.

“För att göra AI tillgängligt för realtids- och ofta personliga processer runt omkring oss, måste vi hantera fördröjning och sekretess genom att flytta beräkningen själv till kanten”, säger Verma. “Och det kräver både energielektronik och prestanda.”

Nya chipdesigner

Teamet från Princeton utvecklade en ny chipdesign för två år sedan, och den var tänkt att förbättra prestandan hos neuronnätverk. Chipen kunde utföra tiotals till hundratals gånger bättre än andra mikrochip på marknaden.

“Chipens största svaghet är att den använder en mycket ovanlig och störande arkitektur”, säger Verma från 2018. “Det behöver försonas med den enorma mängden infrastruktur och designmetodik som vi har och använder idag.”

Chipen förfinades kontinuerligt under de följande två åren, och ett programvarusystem skapades för att tillåta AI-system att använda den nya tekniken effektivt. Idén var att de nya chipen kunde tillåta system att vara skalbara i hårdvara och programvaruutförande.

“Det är programmerbart över alla dessa nätverk”, säger Verma. “Nätverken kan vara mycket stora, och de kan vara mycket små.”

Det bästa scenariot för beräkning är att den sker på tekniken själv, snarare än i en fjärrnätverksdator. Men detta kräver enorma mängder energi och minneslagring, vilket gör det svårt att designa ett sådant system.

För att övervinna dessa begränsningar designade forskarna en chip som utför beräkningar och lagrar data i samma område, vilket kallas in-memory-beräkning. Denna teknik minskar energi- och tidsbehovet för att utbyta information med dedikerad minneslagring.

För att komma runt analog drift, som krävs för in-memory-beräkning och är känslig för korruption, förlitade sig teamet på kondensatorer istället för transistorer i chipdesignen. Kondensatorer påverkas inte av samma effekt som spänningsskift, och de är mer precisa.

Trots olika andra utmaningar kring analoga system, har de många fördelar när de används för applikationer som neuronnätverk. Forskarna ser nu på att kombinera de två typerna av system, eftersom digitala system är centrala medan neuronnätverk som förlitar sig på analoga chip kan köra snabba och effektiva specialiserade operationer.