Vooruitgang in Microchips Brengt ons Dichter bij AI Edge Computing

Onderzoekers van de Princeton University hebben co-ontworpen hardware en software ontwikkeld om de snelheid en efficiëntie van gespecialiseerde kunstmatige intelligentie (AI)-systemen verder te verhogen.

Naveen Verma is een professor in elektrotechniek en informatica aan Princeton die het onderzoeksteam leidt.

“Software is een kritisch onderdeel om nieuwe hardware mogelijk te maken,” zei Verma. “De hoop is dat ontwerpers hetzelfde software-systeem kunnen blijven gebruiken – en dat het dan tien keer sneller en efficiënter werkt.”

De systemen die door de onderzoekers zijn ontwikkeld, reduceren de energievraag en de hoeveelheid gegevens die nodig zijn om te worden uitgewisseld met externe servers. Hiermee kunnen AI-toepassingen zoals besturingssoftware voor drones plaatsvinden op de rand van de computing-infrastructuur.

Verma is ook de directeur van het Keller Center for Innovation in Engineering Education van de universiteit.

“Om AI toegankelijk te maken voor het real-time en vaak persoonlijke proces om ons heen, moeten we latency en privacy aanpakken door de berekening zelf naar de rand te verplaatsen” zei Verma. “En dat vereist zowel energoefficiëntie als prestaties.”

Nieuwe Chip Ontwerpen

Het team van Princeton ontwikkelde twee jaar geleden een nieuw chip-ontwerp, dat bedoeld was om de prestaties van neurale netwerken te verbeteren. De chip kon tien tot honderd keer beter presteren dan andere microchips op de markt.

“Het grote nadeel van de chip is dat het een zeer ongebruikelijke en disruptieve architectuur gebruikt,” zei Verma in 2018. “Dat moet worden verzoend met de enorme hoeveelheid infrastructuur en ontwerpmethodologie die we hebben en gebruiken vandaag.”

De chip werd gedurende de volgende twee jaar voortdurend verfijnd, en een software-systeem werd ontwikkeld om AI-systemen in staat te stellen de nieuwe technologie efficiënt te gebruiken. Het idee was dat de nieuwe chips systemen in staat zouden stellen om schaalbaar te zijn in hardware en software.

“Het is programmeerbaar over alle netwerken,” zei Verma. “De netwerken kunnen heel groot zijn, en ze kunnen heel klein zijn.”

Het beste scenario voor berekening is dat het plaatsvindt op de technologie zelf, in plaats van in een externe netwerkcomputer. Echter, dit vereist enorme hoeveelheden energie en geheugencapaciteit, waardoor het moeilijk is om een dergelijk systeem te ontwerpen.

Om deze beperkingen te overwinnen, ontwierpen de onderzoekers een chip die berekening en gegevensopslag in hetzelfde gebied uitvoert, wat in-memory computing wordt genoemd. Deze techniek vermindert de energie en de tijd die nodig zijn om informatie uit te wisselen met een speciale geheugen.

Om analoge werking te vermijden, die nodig is voor in-memory computing en gevoelig is voor corruptie, vertrouwden de onderzoekers op condensatoren in plaats van transistors in het chip-ontwerp. Condensatoren zijn minder gevoelig voor spanningsschommelingen en zijn nauwkeuriger.

Ondanks de verschillende andere uitdagingen die samenhangen met analoge systemen, bieden ze veel voordelen wanneer ze worden gebruikt voor toepassingen zoals neurale netwerken. De onderzoekers zijn nu van plan om de twee soorten systemen te combineren, aangezien digitale systemen centraal staan, terwijl neurale netwerken die vertrouwen op analoge chips in staat zijn om snel en efficiënt gespecialiseerde bewerkingen uit te voeren.