Wykorzystywanie Krzemu: Jak Własne Czipy Kształtują Przyszłość Sztucznej Inteligencji

Sztuczna inteligencja, jak każde oprogramowanie, opiera się na dwóch podstawowych składnikach: programach AI, często nazywanych modelami, oraz sprzęcie komputacyjnym, czyli czipach, które napędzają te programy. Do tej pory główny nacisk w rozwoju AI skupiony był na udoskonalaniu modeli, podczas gdy sprzęt był zazwyczaj postrzegany jako standardowy komponent dostarczany przez dostawców zewnętrznych. Jednakże, w ostatnim czasie, podejście to zaczęło ulegać zmianie. Duże firmy AI, takie jak Google (GOOGL ), Meta i Amazon (AMZN ), rozpoczęły rozwój własnych czipów AI. Wewnętrzny rozwój niestandardowych czipów AI zapowiada nową erę w rozwoju AI. Artykuł ten będzie badał powody za tym zmianą podejścia i przedstawi najnowsze osiągnięcia w tej ewoluującej dziedzinie.

Dlaczego Wewnętrzny Rozwój Czipów AI?

Zmiana w kierunku wewnętrznego rozwoju niestandardowych czipów AI jest napędzana przez kilka krytycznych czynników, w tym:

Rozwój Popytu na Czipy AI

Tworzenie i wykorzystanie modeli AI wymaga znacznych zasobów obliczeniowych, aby skutecznie obsłużyć duże ilości danych i wygenerować dokładne przewidywania lub spostrzeżenia. Tradycyjne czipy komputerowe nie są w stanie obsłużyć wymagań obliczeniowych podczas szkolenia na trylionach punktów danych. To ograniczenie doprowadziło do stworzenia najnowocześniejszych czipów AI, specjalnie zaprojektowanych do spełnienia wysokich wymagań wydajności i efektywności nowoczesnych aplikacji AI. Wraz ze wzrostem badań i rozwoju AI, rośnie również popyt na te specjalistyczne czipy.

Nvidia (NVDA ), lider w produkcji zaawansowanych czipów AI i znacznie wyprzedzający swoich konkurentów, stoi przed wyzwaniami, ponieważ popyt znacznie przekracza ich zdolność produkcyjną. To doprowadziło do listy oczekujących na czipy AI Nvidii, które zostały wydłużone do kilku miesięcy, opóźnienie, które nadal rośnie wraz ze wzrostem popytu na ich czipy AI. Ponadto, rynek czipów, w którym znajdują się główni gracze tacy jak Nvidia i Intel (INTC ), spotyka się z wyzwaniami w produkcji czipów. Ten problem wynika z ich zależności od tajwańskiego producenta TSMC w zakresie montażu czipów. Ta zależność od jednego producenta prowadzi do przedłużonych czasów oczekiwania na produkcję tych zaawansowanych czipów.

Czipy AI Efektywne Energetycznie i Zrównoważone

Bieżąca generacja czipów AI, zaprojektowana do ciężkich zadań obliczeniowych, ma tendencję do zużycia dużej ilości energii i generowania znacznych ilości ciepła. To doprowadziło do znacznych implikacji środowiskowych dla szkolenia i wykorzystania modeli AI. Naukowcy OpenAI zauważają, że od 2012 roku moc obliczeniowa wymagana do szkolenia zaawansowanych modeli AI podwaja się co 3,4 miesiąca, co sugeruje, że do 2040 roku emisje z sektora ICT mogą stanowić 14% globalnych emisji. Inne badanie wykazało, że szkolenie jednego dużego modelu językowego może emitować do 284 000 kg CO2, co jest równoważne z zużyciem energii przez pięć samochodów w całym ich cyklu życia. Ponadto szacuje się, że zużycie energii przez centra danych wzrośnie o 28 procent do 2030 roku. Te ustalenia podkreślają konieczność znalezienia równowagi między rozwojem AI a odpowiedzialnością środowiskową. W odpowiedzi, wiele firm AI inwestuje obecnie w rozwój bardziej efektywnych energetycznie czipów, aby uczynić szkolenie i operacje AI bardziej zrównoważonymi i przyjaznymi dla środowiska.

Dostosowanie Czipów do Specjalistycznych Zadań

Różne procesy AI mają różne wymagania obliczeniowe. Na przykład, szkolenie modeli głębokiego uczenia wymaga znacznej mocy obliczeniowej i wysokiej przepustowości, aby obsłużyć duże zestawy danych i wykonać złożone obliczenia szybko. Czipy zaprojektowane do szkolenia są zoptymalizowane, aby poprawić te operacje, zwiększając szybkość i efektywność. Z drugiej strony, proces inferencji, w którym model stosuje swoją wiedzę, aby dokonać przewidywań, wymaga szybkiej przetwarzania z minimalnym zużyciem energii, szczególnie w urządzeniach brzegowych, takich jak smartfony i urządzenia IoT. Czipy do inferencji są zaprojektowane, aby zoptymalizować wydajność na wat, zapewniając szybką reakcję i oszczędność baterii. To dostosowanie projektów czipów do zadań szkolenia i inferencji pozwala każdemu czipowi być precyzyjnie dostosowanym do jego przeznaczenia, zwiększając wydajność w różnych urządzeniach i aplikacjach. Ten rodzaj specjalizacji nie tylko wspiera bardziej zaawansowane funkcje AI, ale także promuje większą efektywność energetyczną i opłacalność.

Reducowanie Finansowych Obciążeń

Finansowe obciążenie komputowania dla szkolenia i operacji modeli AI pozostaje znaczne. OpenAI, na przykład, wykorzystuje obszerny superkomputer stworzony przez Microsoft (MSFT ) do szkolenia i inferencji od 2020 roku. Koszt szkolenia modelu GPT-3 wyniósł OpenAI około 12 milionów dolarów, a wydatek wzrósł do 100 milionów dolarów za szkolenie GPT-4. Według raportu SemiAnalysis, OpenAI potrzebuje około 3617 serwerów HGX A100, łącznie 28 936 GPU, aby wspierać ChatGPT, co daje średni koszt na zapytanie około 0,36 dolara. Z tymi wysokimi kosztami na uwadze, Sam Altman, CEO OpenAI, szuka znacznych inwestycji, aby zbudować światową sieć zakładów produkcyjnych czipów AI, zgodnie z raportem Bloomberg.

Wykorzystywanie Kontroli i Innowacji

Czipy AI od dostawców zewnętrznych często mają ograniczenia. Firmy, które polegają na tych czipach, mogą znaleźć się ograniczone przez rozwiązania standardowe, które nie w pełni odpowiadają ich unikalnym modelom AI lub aplikacjom. Wewnętrzny rozwój czipów AI pozwala na dostosowanie do konkretnych przypadków użycia. Niezależnie od tego, czy jest to dla samochodów autonomicznych, czy urządzeń mobilnych, kontrola nad sprzętem umożliwia firmom w pełni wykorzystać ich algorytmy AI. Niestandardowe czipy mogą poprawić określone zadania, zmniejszyć opóźnienia i poprawić ogólną wydajność.

Najnowsze Osiągnięcia w Rozwoju Czipów AI

Ten rozdział opisuje najnowsze osiągnięcia Google, Meta i Amazon w budowaniu technologii czipów AI.

Czipy Axion od Google

Google stale postępuje w dziedzinie technologii czipów AI od wprowadzenia Tensor Processing Unit (TPU) w 2015 roku. Rozwijając tę bazę, Google niedawno wprowadził czipy Axion, swoje pierwsze niestandardowe procesory CPU, specjalnie zaprojektowane dla centrów danych i obciążeń AI. Te procesory opierają się na architekturze Arm, znanej z ich efektywności i kompaktowej konstrukcji. Czipy Axion mają na celu poprawić efektywność szkolenia i inferencji opartych na CPU, przy jednoczesnym zachowaniu efektywności energetycznej. To osiągnięcie oznacza również znaczny postęp w wydajności dla różnych ogólnych zadań, w tym serwerów sieciowych i aplikacji, mikrousług konteneryzowanych, baz danych open-source, pamięci podręcznej, silników analityki danych, przetwarzania multimediów i więcej.

MTIA od Meta

Meta posuwa się do przodu w technologii czipów AI ze swoim Meta Training and Inference Accelerator (MTIA). To narzędzie jest zaprojektowane, aby poprawić efektywność szkolenia i inferencji, szczególnie dla algorytmów rankingowych i rekomendacyjnych. Niedawno Meta opisał, jak MTIA jest kluczową częścią ich strategii, aby wzmocnić infrastrukturę AI poza GPU. Początkowo planowane do uruchomienia w 2025 roku, Meta już wdrożył obie wersje MTIA do produkcji, pokazując szybszy tempa w planach rozwoju czipów. Chociaż MTIA obecnie koncentruje się na szkoleniu określonych typów algorytmów, Meta planuje rozszerzyć jego użycie, aby objąć szkolenie generatywnych modeli AI, takich jak ich modele językowe Llama.

Trainium i Inferentia od Amazon

Od wprowadzenia swojego niestandardowego czipu Nitro w 2013 roku, Amazon znacznie rozszerzył swój rozwój czipów AI. Firma niedawno przedstawiła dwa innowacyjne czipy AI, Trainium i Inferentia. Trainium jest specjalnie zaprojektowany, aby poprawić szkolenie modeli AI i ma być włączony do klasterów UltraClusters EC2. Te klastry, które mogą obsłużyć do 100 000 czipów, są zoptymalizowane do szkolenia modeli podstawowych i dużych modeli językowych w sposób efektywny energetycznie. Inferentia, z drugiej strony, jest zaprojektowana do zadań inferencyjnych, gdzie modele AI są aktywnie stosowane, koncentrując się na zmniejszaniu opóźnień i kosztów podczas inferencji, aby lepiej obsłużyć potrzeby milionów użytkowników interaktywnych z usługami opartymi na AI.

Podsumowanie

Ruch w kierunku wewnętrznego rozwoju niestandardowych czipów AI przez duże firmy, takie jak Google, Microsoft i Amazon, odzwierciedla strategiczną zmianę, aby rozwiązać rosnące potrzeby obliczeniowe technologii AI. Tendencja ta podkreśla konieczność rozwiązań, które są specjalnie dostosowane do efektywnego wspierania modeli AI, spełniając unikalne wymagania tych zaawansowanych systemów. Wraz ze wzrostem popytu na czipy AI, liderzy branży, tacy jak Nvidia, prawdopodobnie zobaczą znaczny wzrost wyceny rynkowej, podkreślając kluczową rolę, jaką niestandardowe czipy odgrywają w rozwoju innowacji AI. Tworząc własne czipy, te giganci technologiczni nie tylko poprawiają wydajność i efektywność swoich systemów AI, ale także promują bardziej zrównoważoną i opłacalną przyszłość. Ta ewolucja ustanawia nowe standardy w branży, napędzając postęp technologiczny i przewagę konkurencyjną w szybko zmieniającym się globalnym krajobrazie technologicznym.