Wzrost jednostek przetwarzania neuronowego: poprawa sztucznej inteligencji generatywnej na urządzeniach pod względem szybkości i zrównoważoności

Ewolucja sztucznej inteligencji generatywnej nie tylko zmienia nasze interakcje z urządzeniami, ale również zmienia same podstawy komputingu. Jednym z kluczowych czynników tej transformacji jest potrzeba działania sztucznej inteligencji generatywnej na urządzeniach z ograniczonymi zasobami obliczeniowymi. Artykuł ten omawia wyzwania, jakie się z tym wiążą, oraz jak jednostki przetwarzania neuronowego (NPU) wyłaniają się jako rozwiązanie tych problemów. Artykuł przedstawia również niektóre z najnowszych procesorów NPU, które są pionierami w tej dziedzinie.

Wyzwania infrastruktury sztucznej inteligencji generatywnej na urządzeniach

Sztuczna inteligencja generatywna, która jest siłą napędową syntezowania obrazów, generowania tekstu i komponowania muzyki, wymaga znacznych zasobów obliczeniowych. Konwencjonalnie, te wymagania były spełniane dzięki wykorzystaniu ogromnych możliwości platform chmurowych. Podczas gdy ten podejście jest skuteczne, wiąże się z własnym zestawem wyzwań dla sztucznej inteligencji generatywnej na urządzeniach, w tym zależności od stałego połączenia z Internetem i scentralizowanej infrastruktury. Ta zależność wprowadza opóźnienia, luki w zabezpieczeniach i zwiększone zużycie energii.

Trzon infrastruktury chmurowej oparty na sztucznej inteligencji w dużej mierze opiera się na procesorach centralnych (CPU) i procesorach graficznych (GPU), aby spełnić wymagania obliczeniowe sztucznej inteligencji generatywnej. Jednakże, gdy są stosowane w sztucznej inteligencji generatywnej na urządzeniach, te procesory napotykają znaczne przeszkody. Procesory CPU są zaprojektowane do zadań ogólnych i nie posiadają specjalistycznej architektury niezbędnej do wydajnego i niskiego zużycia energii sztucznej inteligencji generatywnej. Ich ograniczone możliwości przetwarzania równoległego powodują zmniejszoną wydajność, zwiększone opóźnienia i wyższe zużycie energii, co sprawia, że są mniej odpowiednie do sztucznej inteligencji na urządzeniach. Z drugiej strony, procesory GPU, które mogą się wyróżniać w przetwarzaniu równoległym, są głównie zaprojektowane do zadań przetwarzania graficznego. Aby skutecznie wykonywać zadania sztucznej inteligencji generatywnej, procesory GPU wymagają specjalistycznych układów scalonych, które zużywają dużo energii i generują znaczne ciepło. Ponadto, ich duża wielkość fizyczna stwarza przeszkody dla ich zastosowania w kompaktowych, urządzeniowych aplikacjach.

Pojawienie się jednostek przetwarzania neuronowego (NPU)

W odpowiedzi na powyższe wyzwania, jednostki przetwarzania neuronowego (NPU) wyłaniają się jako przełomowa technologia do wdrażania sztucznej inteligencji generatywnej na urządzeniach. Architektura NPU jest w dużej mierze inspirowana strukturą i funkcją ludzkiego mózgu, szczególnie tym, jak neurony i synapsy współpracują w przetwarzaniu informacji. W NPU, sztuczne neurony działają jako podstawowe jednostki, naśladując biologiczne neurony przez odbieranie danych wejściowych, przetwarzanie ich i wytwarzanie danych wyjściowych. Te neurony są połączone sztucznymi synapsami, które przekazują sygnały między neuronami o różnej sile, która dostosowuje się podczas procesu uczenia. To naśladuje proces zmiany wag synaptycznych w mózgu. NPU są zorganizowane w warstwy; warstwy wejściowe, które otrzymują dane surowe, warstwy ukryte, które wykonują pośrednie przetwarzanie, i warstwy wyjściowe, które generują wyniki. Ta warstwowa struktura odzwierciedla wieloetapową i równoległą zdolność przetwarzania informacji przez mózg. Ponieważ sztuczna inteligencja generatywna jest również konstruowana przy użyciu podobnej struktury sztucznych sieci neuronowych, NPU są dobrze przystosowane do zarządzania obciążeniami sztucznej inteligencji generatywnej. To wyrównanie strukturalne redukuje potrzebę specjalistycznych układów scalonych, prowadząc do bardziej kompaktowych, wydajnych, szybkich i zrównoważonych rozwiązań.

Rozwiązywanie różnorodnych potrzeb obliczeniowych sztucznej inteligencji generatywnej

Sztuczna inteligencja generatywna obejmuje szeroki zakres zadań, w tym syntezę obrazów, generowanie tekstu i komponowanie muzyki, każde z własnym zestawem unikalnych wymagań obliczeniowych. Na przykład, synteza obrazów silnie opiera się na operacjach macierzowych, podczas gdy generowanie tekstu wiąże się z przetwarzaniem sekwencyjnym. Aby skutecznie zaspokoić te różnorodne potrzeby obliczeniowe, jednostki przetwarzania neuronowego (NPU) są często integrowane z technologią System-on-Chip (SoC) obok CPU i GPU.

Każdy z tych procesorów oferuje odrębne wydajności obliczeniowe. Procesory CPU są szczególnie dobrze przystosowane do sekwencyjnej kontroli i natychmiastowości, procesory GPU wyróżniają się w przetwarzaniu strumieniowym danych równoległych, a NPU są dobrze dostosowane do podstawowych operacji sztucznej inteligencji, zajmując się skalarną, wektorową i tensorową matematyką. Dzięki wykorzystaniu heterogenicznej architektury obliczeniowej, zadania mogą być przypisane do procesorów na podstawie ich mocnych stron i wymagań konkretnego zadania.

NPU, będąc zoptymalizowanymi do obciążeń sztucznej inteligencji, mogą wydajnie odciążyć zadania sztucznej inteligencji generatywnej z głównego CPU. To odciążenie nie tylko zapewnia szybkie i wydajne operacje, ale również przyspiesza zadania inferencyjne sztucznej inteligencji, pozwalając modelom sztucznej inteligencji generatywnej działać bardziej płynnie na urządzeniu. Z NPU zajmującymi się zadaniami sztucznej inteligencji, procesory CPU i GPU są wolne, aby przydzielić zasoby do innych funkcji, tym samym poprawiając ogólną wydajność aplikacji, jednocześnie utrzymując efektywność termiczną.

Rzeczywiste przykłady NPU

Rozwój NPU zyskuje na impetzie. Oto niektóre rzeczywiste przykłady NPU:

• Hexagon NPU firmy Qualcomm (QCOM ) jest specjalnie zaprojektowany do przyspieszania zadań inferencyjnych sztucznej inteligencji przy niskiej mocy i ograniczonych zasobach. Został zaprojektowany do obsługi zadań sztucznej inteligencji generatywnej, takich jak generowanie tekstu, synteza obrazów i przetwarzanie audio. Hexagon NPU jest zintegrowany z platformami Snapdragon firmy Qualcomm, zapewniając wydajną realizację modeli sieci neuronowych na urządzeniach z produktami sztucznej inteligencji Qualcomm.
• Silnik neuronowy Apple (AAPL ) jest kluczowym składnikiem chipów serii A i M, napędzając różne funkcje sztucznej inteligencji, takie jak Face ID, Siri i rzeczywistość rozszerzoną (AR). Silnik neuronowy przyspiesza zadania, takie jak rozpoznawanie twarzy dla bezpiecznego Face ID, przetwarzanie języka naturalnego (NLP) dla Siri i ulepszoną śledzenie obiektów i zrozumienie sceny dla aplikacji AR. Znacznie poprawia wydajność zadań sztucznej inteligencji na urządzeniach Apple, zapewniając płynne i wydajne doświadczenie użytkownika.
• NPU firmy Samsung to specjalistyczny procesor zaprojektowany do obliczeń sztucznej inteligencji, zdolny do wykonywania tysięcy obliczeń jednocześnie. Zintegrowany z najnowszymi układami SoC Exynos, które napędzają wiele telefonów Samsung, ta technologia NPU umożliwia niską moc, szybkie obliczenia sztucznej inteligencji generatywnej. Technologia NPU firmy Samsung jest również zintegrowana z flagowymi telewizorami, umożliwiając innowacje dźwięku napędzanego sztuczną inteligencją i poprawiając doświadczenia użytkowników.
• Architektura Da Vinci firmy Huawei służy jako rdzeń ich procesora Ascend AI, zaprojektowanego do poprawy mocy obliczeniowej sztucznej inteligencji. Architektura wykorzystuje wysokowydajny silnik obliczeniowy 3D, co sprawia, że jest potężna dla obciążeń sztucznej inteligencji.

Podsumowanie

Sztuczna inteligencja generatywna zmienia nasze interakcje z urządzeniami i zmienia same podstawy komputingu. Wyzwanie polegające na uruchomieniu sztucznej inteligencji generatywnej na urządzeniach z ograniczonymi zasobami obliczeniowymi jest znaczne, a tradycyjne procesory CPU i GPU często nie są w stanie sprostać tym wymaganiom. Jednostki przetwarzania neuronowego (NPU) oferują obiecujące rozwiązanie dzięki swojej specjalistycznej architekturze zaprojektowanej do spełnienia wymagań sztucznej inteligencji generatywnej. Poprzez integrację NPU z technologią System-on-Chip (SoC) obok CPU i GPU, możemy wykorzystać mocne strony każdego procesora, prowadząc do szybszych, bardziej wydajnych i zrównoważonych wyników sztucznej inteligencji na urządzeniach. W miarę ewolucji NPU, są one przeznaczone do poprawy możliwości sztucznej inteligencji na urządzeniach, czyniąc aplikacje bardziej responsywnymi i energooszczędnymi.