Utnytting silisium: Hvordan interne AI-chip utvikling former fremtiden for AI

Kunstig intelligens, som all programvare, avhenger av to grunnleggende komponenter: AI-programmene, ofte referert til som modeller, og det komputasjonelle maskinvaren, eller chipene, som driver disse programmene. Frem til nå har fokuset i AI-utvikling vært på å forbedre modellene, mens maskinvaren vanligvis ble sett på som en standardkomponent levert av tredjepartsleverandører. Nylig har denne tilnærmingen begynt å endre seg. Store AI-selskaper som Google (GOOGL ), Meta og Amazon (AMZN ) har startet å utvikle sine egne AI-chip. Den interne utviklingen av tilpassede AI-chip markerer en ny æra i AI-fremgang. Denne artikkelen vil utforske årsakene bak denne skiftet i tilnærming og vil høydepunkte de siste utviklingene i dette evoluerende området.

Hvorfor intern AI-chip utvikling?

Skiftet mot intern utvikling av tilpassede AI-chip drives av flere kritiske faktorer, som inkluderer:

Økende etterspørsel etter AI-chip

Å lage og bruke AI-modeller krever betydelige komputasjonsressurser for å håndtere store datavolumer og generere nøyaktige forutsigelser eller innsikter. Tradisjonelle datamaskin-chip er ikke i stand til å håndtere komputasjonskravene når det gjelder å trene på billioner av datapunkter. Dette har ført til utviklingen av spesialiserte AI-chip som er designet for å møte de høye ytelses- og effisienskravene til moderne AI-applikasjoner. Ettersom AI-forskning og utvikling fortsetter å vokse, øker også etterspørselen etter disse spesialiserte chipene.

Nvidia (NVDA ), en leder i produksjonen av avanserte AI-chip og langt foran sine konkurrenter, møter utfordringer ettersom etterspørselen overstiger deres produksjonskapasitet. Dette har ført til at ventelisten for Nvidia’s AI-chip er blitt forlenget til flere måneder, en forsinkelse som fortsatt vokser ettersom etterspørselen etter deres AI-chip øker. I tillegg møter chipmarkedet, som inkluderer store spillere som Nvidia og Intel (INTC ), utfordringer i chipproduksjon. Dette problem stammer fra deres avhengighet av den taiwanske produsenten TSMC for chip-samling. Denne avhengigheten av en enkelt produsent fører til forlenget leveringstid for produksjon av disse avanserte chipene.

Gjøre AI-komputering energieffektiv og bærekraftig

Den nåværende generasjonen av AI-chip, som er designet for tunge komputasjonsoppgaver, tenderer til å forbruke mye strøm og generere betydelig varme. Dette har ført til betydelige miljømessige konsekvenser for trening og bruk av AI-modeller. OpenAI-forskere påpeker at: siden 2012 har den komputasjonskraften som trengs for å trene avanserte AI-modeller doblet seg hver 3,4 måned, noe som tyder på at ved 2040 kan utslippene fra informasjons- og kommunikasjonsteknologisektoren (ICT) utgjøre 14% av de globale utslippene. En annen studie viste at trening av en enkelt stor skala språkmodell kan utslippe opptil 284 000 kg CO2, noe som tilsvarer energiforbruket til fem biler over deres levetid. I tillegg estimeres det at energiforbruket til datacenter vil øke 28 prosent innen 2030. Disse funnene understreker nødvendigheten av å finne en balanse mellom AI-utvikling og miljøansvar. I respons har mange AI-selskaper nå investert i utviklingen av mer energieffektive chip, med mål om å gjøre AI-trening og -drift mer bærekraftig og miljøvennlig.

Tilpasse chip for spesialiserte oppgaver

Forskjellige AI-prosesser har varierende komputasjonskrav. For eksempel krever trening av dyptlæringsmodeller betydelig komputasjonskraft og høy gjennomstrømming for å håndtere store datamengder og utføre komplekse beregninger raskt. Chip designet for trening er optimalisert for å forbedre disse operasjonene, og forbedre hastighet og effisiens. På den andre siden krever inferensprosessen, hvor en modell anvender sin læring for å gjøre forutsigelser, rask prosessering med minimalt energiforbruk, spesielt i randenhetene som smarttelefoner og IoT-enhetene. Chip for inferens er konstruert for å optimalisere ytelse per watt, og sikre rask respons og batteribesparing. Denne spesifikke tilpasningen av chip-design for trening og inferensoppgaver tillater hver chip å være nøyaktig justert for sin tiltenkte rolle, og forbedre ytelse over forskjellige enheter og applikasjoner. Denne type spesialisering ikke bare støtter mer robuste AI-funksjoner, men også fremmer større energieffisiens og kostnadseffektivitet generelt.

Redusere finansielle byrder

De finansielle byrdene forbundet med komputasjon for AI-modelltrening og -drift er fortsatt betydelige. OpenAI, for eksempel, bruker en omfattende superdatamaskin skapt av Microsoft (MSFT ) for både trening og inferens siden 2020. Det kostet OpenAI omtrent 12 millioner dollar å trene sin GPT-3-modell, og utgiftene økte til 100 millioner dollar for trening av GPT-4. Ifølge en rapport fra SemiAnalysis, trenger OpenAI omtrent 3 617 HGX A100-servere, totalt 28 936 GPU-er, for å støtte ChatGPT, og gjennomsnittlig kostnad per forespørsel er omtrent 0,36 dollar. Med disse høye kostnadene i mente, søker Sam Altman, CEO i OpenAI, ifølge en rapport fra Bloomberg, betydelige investeringer for å bygge et verdensomspennende nettverk av AI-chip-fabrikker.

Tilpasse kontroll og innovasjon

Tredjeparts AI-chip har ofte begrensninger. Selskaper som avhenger av disse chipene kan finne seg selv begrenset av standardløsninger som ikke fullt ut samsvarer med deres unike AI-modeller eller applikasjoner. Intern chip-utvikling tillater tilpasning tilpasset spesifikke bruksområder. Uansett om det er for autonome biler eller mobile enheter, gir kontroll over maskinvaren selskapene mulighet til å fullt ut utnytte sine AI-algoritmer. Tilpassede chip kan forbedre spesifikke oppgaver, redusere forsinkelse og forbedre generell ytelse.

De siste fremgangene i AI-chip utvikling

Dette avsnittet dykker ned i de siste framgangene som er gjort av Google, Meta og Amazon i å bygge AI-chip-teknologi.

Google’s Axion-prosessorer

Google har stadig fremmet i feltet AI-chip-teknologi siden introduksjonen av Tensor Processing Unit (TPU) i 2015. Bygget på denne grunnlaget, har Google nylig lansert Axion-prosessorer, sine første tilpassede CPU-er spesifikt designet for datacenter og AI-arbeidsbyrder. Disse prosessorer er basert på Arm-arkitektur, kjent for deres effisiens og kompakte design. Axion-prosessorer har som mål å forbedre effisiensen av CPU-basert AI-trening og -inferens, samtidig som de opprettholder energi-effisiens. Denne fremgangen markerer også en betydelig forbedring av ytelse for forskjellige generelle arbeidsbyrder, inkludert web- og app-tjenere, containeriserte mikrotjenester, åpne kildekodedatabaser, minne-cacher, dataanalyse-motorer, mediebehandling og mer.

Meta’s MTIA

Meta driver fremover i AI-chip-teknologi med sin Meta Training and Inference Accelerator (MTIA). Dette verktøyet er designet for å øke effisiensen av trening og inferensprosesser, spesielt for rangering og anbefalingsalgoritmer. Nylig har Meta beskrevet hvordan MTIA er en nøkkelkomponent i sin strategi for å styrke sin AI-infrastruktur utover GPU-er. Først planlagt for lansering i 2025, har Meta allerede satt både versjoner av MTIA i produksjon, og viser en raskere takt i sine chip-utviklingsplaner. Mens MTIA for tiden fokuserer på trening av bestemte typer algoritmer, planlegger Meta å utvide bruken til å inkludere trening for generativ AI, som sin Llama-språkmodell.

Amazon’s Trainium og Inferentia

Siden introduksjonen av sin tilpassede Nitro-chip i 2013, har Amazon betydelig utvidet sin AI-chip-utvikling. Selskapet har nylig avduket to innovative AI-chip, Trainium og Inferentia. Trainium er spesifikt designet for å forbedre AI-modelltrening og er planlagt for å bli inkorporert i EC2 UltraClusters. Disse clusterene, som kan holde opptil 100 000 chip, er optimalisert for trening av grunnleggende modeller og store språkmodeller på en energieffektiv måte. Inferentia, på den andre siden, er tilpasset for inferensoppgaver hvor AI-modeller aktivt brukes, og fokuserer på å redusere forsinkelse og kostnader under inferens for å bedre betjene behovene til millioner av brukere som interagerer med AI-drevne tjenester.

Bunnen av saken

Bevegelsen mot intern utvikling av tilpassede AI-chip av store selskaper som Google, Microsoft og Amazon reflekterer en strategisk skift for å møte de økende komputasjonsbehovene til AI-teknologier. Denne trenden understreker nødvendigheten for løsninger som er spesifikt tilpasset for å støtte AI-modeller på en effektiv måte, og møte de unike kravene til disse avanserte systemene. Ettersom etterspørselen etter AI-chip fortsetter å vokse, er det sannsynlig at industrilederne som Nvidia vil se en betydelig økning i markedverdi, og understreke den viktige rollen som tilpassede chip spiller i å fremme AI-innovasjon. Ved å lage sine egne chip, forbedrer disse teknologigigantene ikke bare ytelsen og effisiensen til sine AI-systemer, men også fremmer en mer bærekraftig og kostnadseffektiv fremtid. Denne utviklingen setter nye standarder i industrien, og driver teknologisk fremgang og konkurransefordel i et raskt endrende globalt marked.