Fremgang i mikrochips bringer os tættere på AI Edge Computing

Forskere fra Princeton University har udviklet co-designed hardware og software, der skal øge hastigheden og effektiviteten af specialiserede kunstig intelligens (AI)-systemer.

Naveen Verma er professor i elektroteknik og datateknik på Princeton og leder forskningsteamet.

“Software er en kritisk del af at aktivere ny hardware,” sagde Verma. “Forhåbentlig kan designere fortsætte med at bruge det samme software-system – og bare have det til at virke ti gange hurtigere og mere effektivt.”

Systemerne, som forskerne har udviklet, reducerer strømforbruget og mængden af data, der skal udveksles med fjernservere. Dette gør det muligt for AI-applikationer som pilotingsoftware for droner at finde sted på kanten af computing-infrastrukturen.

Verma er også direktør for universitetets Keller Center for Innovation in Engineering Education.

“For at gøre AI tilgængelig for den reelle og ofte personlige proces omkring os, må vi tackle forsinkelsen og privatlivets beskyttelse ved at flytte beregningen selv til kanten” sagde Verma. “Og det kræver både energi-effektivitet og præstation.”

Nye Chip-Designs

Teamet fra Princeton udviklede et nyt chip-design for to år siden, og det var ment til at forbedre præstationen af neurale netværk. Chippen kunne udføre ti til hundredvis af gange bedre end andre mikrochips på markedet.

“Chipens største svaghed er, at den bruger en meget usædvanlig og disruptiv arkitektur,” sagde Verma i 2018. “Det skal forsones med den massive mængde af infrastruktur og designmetode, som vi har og bruger i dag.”

Chippen blev løbende forfinet over de næste to år, og et software-system blev skabt for at tillade AI-systemer at udnytte den nye teknologi effektivt. Idéen var, at de nye chippen kunne gøre det muligt for systemer at være skalerbare i hardware og udførelse af software.

“Det er programmerbart på tværs af alle disse netværk,” sagde Verma. “Netværkene kan være meget store, og de kan være meget små.”

Det bedste scenarie for beregning er, at det finder sted på teknologien selv, snarere end på en fjern netværkscomputer. Men det kræver massive mængder af strøm og hukommelseslager, hvilket gør det svært at designe et sådant system.

For at overvinde disse begrænsninger designede forskerne en chip, der udfører beregning og lagrer data i samme område, hvilket kaldes in-memory computing. Denne teknik reducerer den energi og tid, der er nødvendig for at udveksle information med dedikeret hukommelse.

For at undgå analog operation, som er nødvendig for in-memory computing og er følsom over for korruption, afhængte teamet af kondensatorer i stedet for transistorer i chip-designet. Kondensatorer er ikke påvirkede af samme effekt ved skift i spænding, og de er mere præcise.

Trods forskellige andre udfordringer omkring analoge systemer, har de mange fordele, når de bruges til applikationer som neurale netværk. Forskerne søger nu at kombinere de to typer systemer, da digitale systemer er centrale, mens neurale netværk, der afhænger af analoge chippen, kan udføre hurtige og effektive specialiserede operationer.