Postęp w mikrochipach przybliża nas do komputowania krawędziowego AI

Naukowcy z Uniwersytetu Princeton opracowali współprojektowane oprogramowanie i sprzęt, mające na celu dalsze zwiększenie szybkości i wydajności specjalistycznych systemów sztucznej inteligencji (AI).

Naveen Verma jest profesorem inżynierii elektrycznej i komputerowej na Uniwersytecie Princeton, który kieruje zespołem badawczym.

„Oprogramowanie jest kluczową częścią umożliwiającą nowy sprzęt”, powiedział Verma. „Nadzieją jest, że projektanci będą mogli nadal używać tego samego systemu oprogramowania – i po prostu sprawić, by działał dziesięć razy szybciej i bardziej efektywnie”.

Systemy opracowane przez naukowców redukują zapotrzebowanie na energię i ilość danych, które muszą być wymieniane z serwerów zdalnych. Dzięki temu aplikacje AI, takie jak oprogramowanie do pilotowania dronów, mogą odbywać się na krawędzi infrastruktury komputerowej.

Verma jest również dyrektorem Centrum Innowacji w Edukacji Inżynierskiej Uniwersytetu.

„Aby uczynić AI dostępnym dla procesów w czasie rzeczywistym i często osobistych, musimy rozwiązać problem opóźnień i prywatności, przenosząc obliczenia na krawędź” powiedział Verma. „I to wymaga zarówno efektywności energetycznej, jak i wydajności”.

Nowe projekty chipów

Zespół z Princeton opracował nowy projekt chipa dwa lata temu, który miał na celu poprawę wydajności sieci neuronowych. Chip mógł wykonywać obliczenia od kilkunastu do kilkuset razy lepiej niż inne mikrochipy na rynku.

„Główną wadą chipa jest to, że używa bardzo niezwykłej i burzliwej architektury”, powiedział Verma w 2018 roku. „To musi być uzgodnione z ogromną ilością infrastruktury i metodyki projektowania, które mamy i używamy dzisiaj”.

Chip był ciągle udoskonalany przez następne dwa lata, a także został stworzony system oprogramowania, który pozwalał systemom AI na efektywne wykorzystanie nowej technologii. Pomysł był taki, że nowe chipy mogą umożliwić systemom skalowalność w sprzęcie i wykonywaniu oprogramowania.

„Można go programować we wszystkich tych sieciach”, powiedział Verma. „Sieci mogą być bardzo duże, a mogą być bardzo małe”.

Najlepszy scenariusz obliczeń jest taki, aby odbywały się one na samym urządzeniu, a nie w zdalnym komputerze. Jednak wymaga to ogromnych ilości energii i pamięci, co utrudnia projektowanie takiego systemu.

Aby pokonać te ograniczenia, naukowcy zaprojektowali chip, który wykonuje obliczenia i przechowuje dane w tym samym miejscu, co nazywa się obliczeniami w pamięci. Ta technika redukuje energię i czas potrzebny do wymiany informacji z dedykowaną pamięcią.

Aby uniknąć działania analogowego, które jest wymagane do obliczeń w pamięci i jest wrażliwe na uszkodzenia, zespół polegał na kondensatorach zamiast tranzystorów w projekcie chipa. Kondensatory nie są tak samo dotknięte przez zmiany napięcia i są bardziej precyzyjne.

Pomimo różnych innych wyzwań związanych z systemami analogowymi, posiadają one wiele zalet, gdy są używane w aplikacjach takich jak sieci neuronowe. Naukowcy obecnie próbują połączyć oba typy systemów, ponieważ systemy cyfrowe są centralne, a sieci neuronowe oparte na chipach analogowych mogą wykonywać szybkie i efektywne operacje specjalistyczne.