Utvecklingen av kundanpassade AI-chip: Hur in-house-chiputveckling formar AI:s framtid

Artificiell intelligens, liksom alla program, bygger på två grundläggande komponenter: AI-programmen, ofta kallade modeller, och den beräkningshårdvara, eller chip, som driver dessa program. Hittills har fokus i AI-utvecklingen legat på att förbättra modellerna, medan hårdvaran vanligtvis har setts som en standardkomponent som tillhandahålls av tredjepartsleverantörer. Nyligen har dock denna strategi börjat förändras. Stora AI-företag som Google (GOOGL ), Meta och Amazon (AMZN ) har börjat utveckla sina egna AI-chip. Den in-house-utvecklingen av anpassade AI-chip markerar en ny era i AI-utvecklingen. Denna artikel kommer att undersöka orsakerna bakom denna förändring i strategi och kommer att belysa de senaste utvecklingarna inom detta snabbt föränderliga område.

Varför in-house-utveckling av AI-chip?

Förskjutningen mot in-house-utveckling av anpassade AI-chip drivs av flera kritiska faktorer, som inkluderar:

Ökande efterfrågan på AI-chip

Att skapa och använda AI-modeller kräver betydande beräkningsresurser för att effektivt hantera stora mängder data och generera precisa förutsägelser eller insikter. Traditionella datorchip är oförmögna att hantera beräkningskraven när man tränar på trillions av datapunkter. Denna begränsning har lett till skapandet av avancerade AI-chip som specifikt är utformade för att möta de höga prestanda- och effektivitetskraven för moderna AI-applikationer. När AI-forskning och -utveckling fortsätter att växa, ökar också efterfrågan på dessa specialiserade chip.

Nvidia (NVDA ), en ledare inom produktion av avancerade AI-chip och långt före sina konkurrenter, står inför utmaningar eftersom efterfrågan vida överstiger deras tillverkningskapacitet. Detta har lett till att väntetiden för Nvidia:s AI-chip har förlängts till flera månader, en fördröjning som fortsätter att öka allteftersom efterfrågan på deras AI-chip stiger. Dessutom möter chipmarknaden, som inkluderar stora aktörer som Nvidia och Intel (INTC ), utmaningar i chipproduktion. Detta problem härrör från deras beroende av den taiwanesiska tillverkaren TSMC för chipmontering. Detta beroende av en enda tillverkare leder till förlängda ledtider för tillverkning av dessa avancerade chip.

Görande AI-beräkningar energieffektiva och hållbara

Den nuvarande generationen AI-chip, som är utformade för tunga beräkningsuppgifter, tenderar att förbruka mycket energi och generera betydande värme. Detta har lett till betydande miljökonsekvenser för utbildning och användning av AI-modeller. Forskare vid OpenAI påpekar att: sedan 2012 har den beräkningskraft som krävs för att utbilda avancerade AI-modeller fördubblats var 3,4:e månad, vilket tyder på att år 2040 kan utsläppen från informations- och kommunikationstekniksektorn (ICT) utgöra 14 % av de globala utsläppen. En annan studie visade att utbildning av en enda stor AI-modell kan släppa ut upp till 284 000 kg koldioxid, vilket är ungefär lika med energiförbrukningen för fem bilar under deras livstid. Dessutom beräknas att energiförbrukningen för datacenter kommer att öka med 28 procent till 2030. Dessa fynd betonar nödvändigheten att hitta en balans mellan AI-utveckling och miljöansvar. I svar på detta investerar många AI-företag nu i utvecklingen av mer energieffektiva chip, i syfte att göra AI-utbildning och -drift mer hållbar och miljövänlig.

Anpassning av chip för specialiserade uppgifter

Olika AI-processer har varierande beräkningskrav. Till exempel kräver utbildning av djupa inlärningsmodeller betydande beräkningskraft och hög dataöverföringshastighet för att hantera stora datamängder och utföra komplexa beräkningar snabbt. Chip som är utformade för utbildning är optimerade för att förbättra dessa operationer, vilket förbättrar hastighet och effektivitet. Å andra sidan kräver inferensprocessen, där en modell tillämpar sin inhämtade kunskap för att göra förutsägelser, snabb bearbetning med minimal energiförbrukning, särskilt i edge-enheter som smartphones och IoT-enheter. Chip för inferens är utformade för att optimera prestanda per watt, vilket säkerställer snabb respons och batteribesparing. Denna specifika anpassning av chipdesign för utbildnings- och inferensuppgifter tillåter varje chip att justeras exakt för sin avsedda roll, vilket förbättrar prestandan över olika enheter och applikationer. Denna typ av specialisering stöder inte bara mer robusta AI-funktioner utan främjar också större energieffektivitet och kostnadseffektivitet i allmänhet.

Minska de ekonomiska bördorna

De ekonomiska bördorna för beräkning av AI-modellutbildning och -drift förblir betydande. OpenAI, till exempel, använder en omfattande superdator skapad av Microsoft (MSFT ) för både utbildning och inferens sedan 2020. Det kostade OpenAI cirka 12 miljoner dollar att utbilda sin GPT-3-modell, och kostnaden steg till 100 miljoner dollar för utbildning av GPT-4. Enligt en rapport från SemiAnalysis behöver OpenAI cirka 3 617 HGX A100-servrar, totalt 28 936 GPU:er, för att stödja ChatGPT, vilket gör den genomsnittliga kostnaden per fråga till cirka 0,36 dollar. Med dessa höga kostnader i åtanke söker Sam Altman, VD för OpenAI, enligt uppgift betydande investeringar för att bygga ett globalt nätverk av AI-chip-tillverkningsanläggningar, enligt en rapport från Bloomberg.

Tillgodogöra sig kontroll och innovation

Tredjeparts-AI-chip har ofta begränsningar. Företag som förlitar sig på dessa chip kan upptäcka att de är begränsade av standardlösningar som inte fullständigt stämmer överens med deras unika AI-modeller eller applikationer. In-house-chiputveckling tillåter anpassning som är specifik för specifika användningsfall. Oavsett om det gäller autonoma fordon eller mobila enheter möjliggör kontrollen över hårdvaran att företagen kan utnyttja sina AI-algoritmer fullt ut. Anpassade chip kan förbättra specifika uppgifter, minska fördröjning och förbättra den övergripande prestandan.

De senaste framstegen inom AI-chip-utveckling

Detta avsnitt undersöker de senaste framstegen som Google, Meta och Amazon har gjort inom AI-chip-teknologi.

Googles Axion-processorer

Google har konsekvent framskridit inom AI-chip-teknologi sedan introduktionen av Tensor Processing Unit (TPU) 2015. Byggande på denna grund har Google nyligen lanserat Axion-processorer, dess första anpassade CPU:er specifikt utformade för datacenter och AI-arbetsbelastningar. Dessa processorer bygger på Arm-arkitektur, känd för sin effektivitet och kompakta design. Axion-processorer syftar till att förbättra effektiviteten i CPU-baserad AI-utbildning och inferens samtidigt som de upprätthåller energiekonomi. Denna framsteg markerar också en betydande förbättring av prestanda för olika allmänna arbetsbelastningar, inklusive webb- och appservrar, containeriserade mikrotjänster, öppen källkods-databaser, in-memory-cacheminnen, dataanalysmotorer, mediebearbetning och mer.

Metas MTIA

Meta driver på inom AI-chip-teknologi med sin Meta Training and Inference Accelerator (MTIA). Detta verktyg är utformat för att förbättra effektiviteten i utbildnings- och inferensprocesser, särskilt för rangordnings- och rekommendationsalgoritmer. Nyligen beskrev Meta hur MTIA är en nyckeldel i sin strategi för att stärka sin AI-infrastruktur bortom GPU:er. Initialt planerad att lanseras 2025 har Meta redan satt både versioner av MTIA i produktion, vilket visar en snabbare takt i sina chip-utvecklingsplaner. Medan MTIA för närvarande fokuserar på utbildning av vissa typer av algoritmer syftar Meta till att expandera dess användning för att omfatta utbildning för generativ AI, som sin Llama-språkmodell.

Amazons Trainium och Inferentia

Sedan introduktionen av sin anpassade Nitro-chip 2013 har Amazon betydligt utvidgat sin AI-chip-utveckling. Företaget har nyligen avslöjat två innovativa AI-chip, Trainium och Inferentia. Trainium är specifikt utformat för att förbättra AI-modellutbildning och kommer att integreras i EC2 UltraClusters. Dessa kluster, som kan värd för upp till 100 000 chip, är optimerade för utbildning av grundläggande modeller och stora språkmodeller på ett energieffektivt sätt. Inferentia, å andra sidan, är anpassad för inferensuppgifter där AI-modeller aktivt tillämpas, med fokus på att minska fördröjning och kostnader under inferens för att bättre tillgodose behoven hos miljontals användare som interagerar med AI-drivna tjänster.

Sammanfattning

Förskjutningen mot in-house-utveckling av anpassade AI-chip av stora företag som Google, Microsoft och Amazon speglar en strategisk förändring för att möta de ökande beräkningsbehoven hos AI-teknologier. Denna trend betonar nödvändigheten av lösningar som är specifikt anpassade för att effektivt stödja AI-modeller, vilket möter de unika kraven hos dessa avancerade system. När efterfrågan på AI-chip fortsätter att växa kommer branschledare som Nvidia sannolikt att se en betydande ökning av marknadsvärdet, vilket understryker den viktiga roll som anpassade chip spelar i att driva AI-innovation framåt. Genom att skapa sina egna chip förbättrar dessa tech-jättar inte bara prestanda och effektivitet hos sina AI-system utan främjar också en mer hållbar och kostnadseffektiv framtid. Denna utveckling sätter nya standarder inom branschen, driver teknisk framgång och konkurrensfördel i en snabbt föränderlig global marknad.