AI-modeller og platforme

Udvinding af Silicium: Hvordan Interne Chips Formeer Fremtiden for AI

mm
Føj Unite.AI til dine foretrukne kilder på Google

Kunstig intelligens, ligesom alle software, afhænger af to grundlæggende komponenter: AI-programmerne, ofte omtalt som modeller, og den komputationelle hardware, eller chips, der driver disse programmer. Indtil nu har fokus i AI-udvikling været på at forfine modellerne, mens hardwaren typisk blev set som en standardkomponent leveret af tredjepartsleverandører. Men denne tilgang er begyndt at ændre sig. Store AI-virksomheder som Google (GOOGL ), Meta og Amazon (AMZN ) er begyndt at udvikle deres egne AI-chips. Den interne udvikling af brugerdefinerede AI-chips markerer en ny æra i AI-fremgang. Denne artikel vil undersøge årsagerne bag denne ændring i tilgang og vil fremhæve de seneste udviklinger i dette udviklende område.

Hvorfor Interne AI-Chip-Udvikling?

Skiftet mod interne udvikling af brugerdefinerede AI-chips drives af flere kritiske faktorer, herunder:  

Øget Efterspørgsel på AI-Chips

Oprettelse og brug af AI-modeller kræver betydelige komputationelle ressourcer for at håndtere store mængder data og generere præcise forudsigelser eller indsigt. Traditionelle computerchips kan ikke håndtere komputationelle krav, når der trænes på billioner af datapunkter. Dette har ført til oprettelsen af avancerede AI-chips, der specifikt er designet til at opfylde de høje ydelses- og effektivitetskrav for moderne AI-applikationer. Da AI-forskning og -udvikling fortsætter med at vokse, stiger også efterspørgslen på disse specialiserede chips.

Nvidia (NVDA ), en leder i produktionen af avancerede AI-chips og langt foran sine konkurrenter, oplever udfordringer, da efterspørgslen langt overstiger deres produktionskapacitet. Dette har ført til, at ventetiden for Nvidias AI-chips er forlænget til flere måneder, en forsinkelse, der fortsætter med at vokse, da efterspørgslen på deres AI-chips stiger. Desuden oplever chipmarkedet, der inkluderer store spillere som Nvidia og Intel (INTC ), udfordringer i chipproduktion. Dette problem stammer fra deres afhængighed af den taiwanesiske producent TSMC til chip-samling. Denne afhængighed af en enkelt producent fører til forlængede leveringstider for fremstilling af disse avancerede chips.

Gørelse af AI-Computing Energibevidst og Bæredygtig

Den nuværende generation af AI-chips, der er designet til tung komputation, har tendens til at forbruge meget strøm og generere betydelig varme. Dette har ført til betydelige miljømæssige konsekvenser for træning og brug af AI-modeller. OpenAI-forskere påpeger, at: Siden 2012 er den komputationelle kapacitet, der kræves for at træne avancerede AI-modeller, fordoblet hver 3,4 måned, hvilket tyder på, at i 2040 kan udledninger fra sektoren for information og kommunikation (ICT) udgøre 14% af de globale udledninger. En anden undersøgelse viste, at træning af en enkelt stor skala sprogmodel kan udledde op til 284.000 kg CO2, hvilket er omtrent lig med energiforbruget af fem biler i deres levetid. Desuden estimeres det, at energiforbruget af datacentre vil vokse 28 procent i 2030. Disse fund understreger nødvendigheden af at finde en balance mellem AI-udvikling og miljøansvar. I respons er mange AI-virksomheder nu begyndt at investere i udviklingen af mere energibevidste chips, med det formål at gøre AI-træning og -drift mere bæredygtig og miljøvenlig.

Tilpasning af Chips til Specialiserede Opgaver

Forskellige AI-processer har varierende komputationelle krav. For eksempel kræver træning af dybe læringmodeller betydelig komputationel kapacitet og høj gennemstrømning for at håndtere store datasæt og udføre komplekse beregninger hurtigt. Chips designet til træning er optimeret til at forbedre disse operationer, forbedre hastighed og effektivitet. På den anden side kræver inferensprocessen, hvor en model anvender sin erhvervede viden til at foretage forudsigelser, hurtig behandling med minimal energiforbrug, især i edge-enheder som smartphones og IoT-enheder. Chips til inferens er konstrueret til at optimere ydelse per watt, sikre prompt respons og batteribesparelse. Denne specifikke tilpasning af chip-design til træning og inferensopgaver tillader, at hver chip kan justeres præcist til sin påtænkte rolle, forbedre ydelse på tværs af forskellige enheder og applikationer. Denne form for specialisering understøtter ikke kun mere robuste AI-funktioner, men fremmer også større energibevidsthed og kosteffektivitet i bred forstand.

Reduktion af Finansielle Byrder

Den finansielle byrde ved komputation for AI-modeltræning og -drift er fortsat betydelig. OpenAI bruger for eksempel en omfattende supercomputer skabt af Microsoft (MSFT ) til både træning og inferens siden 2020. Det kostede OpenAI omkring 12 millioner dollars at træne sin GPT-3-model, og omkostningerne steg til 100 millioner dollars for træning af GPT-4. Ifølge en rapport fra SemiAnalysis har OpenAI brug for omkring 3.617 HGX A100-servere, i alt 28.936 GPU’er, for at understøtte ChatGPT, hvilket bringer den gennemsnitlige omkostning per forespørgsel op på omkring 0,36 dollars. Med disse høje omkostninger i mente søger Sam Altman, administrerende direktør for OpenAI, ifølge en Bloomberg rapport efter betydelige investeringer for at opbygge et globalt netværk af AI-chip-fabrikker.

Håndhævelse af Kontrol og Innovation

Tredjeparts AI-chips kommer ofte med begrænsninger. Virksomheder, der afhænger af disse chips, kan finde sig selv begrænsede af standardløsninger, der ikke fuldt ud harmonerer med deres unikke AI-modeller eller -applikationer. Interne chip-udvikling tillader tilpasning til specifikke brugsområder. Uanset om det er til selvstændige biler eller mobile enheder giver kontrol over hardwaren virksomhederne mulighed for at fuldt ud udnytte deres AI-algoritmer. Tilpassede chips kan forbedre bestemte opgaver, reducere forsinkelse og forbedre den samlede ydelse.

Seneste Fremskridt i AI-Chip-Udvikling

Dette afsnit dykker ned i de seneste fremskridt, som Google, Meta og Amazon har gjort i udviklingen af AI-chip-teknologi.

Googles Axion-Processorer

Google har konstant fremgang i feltet for AI-chip-teknologi siden introduktionen af Tensor Processing Unit (TPU) i 2015. Bygget på denne grundlag har Google nyligt lanceret Axion-Processorerne, deres første brugerdefinerede CPU’er specifikt designet til datacentre og AI-arbejdslaster. Disse processorer er baseret på Arm-arkitektur, kendt for deres effektivitet og kompakte design. Axion-Processorerne sigter mod at forbedre effektiviteten af CPU-baseret AI-træning og -inferens, samtidig med at de opretholder energibevidsthed. Dette fremskridt markerer også en betydelig forbedring af ydelse for forskellige generelle arbejdslaster, herunder web- og app-servere, containeriserede mikrotjenester, åbne kilde-databaser, i-minde-cacher, dataanalyse-motorer, mediebehandling og mere.

Metas MTIA

Meta fremmer udviklingen af AI-chip-teknologi med sin Meta Training and Inference Accelerator (MTIA). Dette værktøj er designet til at forbedre effektiviteten af træning og inferensprocesser, især for rangordnings- og anbefalingsalgoritmer. Meta har nyligt fremhævet, hvordan MTIA er en central del af deres strategi til at styrke deres AI-infrastruktur ud over GPU’er. Oprindeligt planlagt til lancering i 2025 har Meta allerede sat begge versioner af MTIA i produktion, hvilket viser en hurtigere udviklingstakt i deres chip-planer. Selvom MTIA i øjeblikket fokuserer på træning af bestemte typer algoritmer, sigter Meta mod at udvide dets brug til at inkludere træning for generativ AI, som deres Llama-sprogmodeller.

Amazons Trainium og Inferentia

Siden introduktionen af sin brugerdefinerede Nitro-chip i 2013 har Amazon betydeligt udvidet sin AI-chip-udvikling. Virksomheden har nyligt præsenteret to innovative AI-chips, Trainium og Inferentia. Trainium er specifikt designet til at forbedre AI-modeltræning og er planlagt til at blive integreret i EC2 UltraClusters. Disse clusters, der kan huse op til 100.000 chips, er optimeret til træning af grundlæggende modeller og store sprogmodeller på en energibevidst måde. Inferentia, på den anden side, er tilpasset til inferensopgaver, hvor AI-modeller aktivt anvendes, med fokus på at reducere forsinkelse og omkostninger under inferens for bedre at betjene millioner af brugere, der interagerer med AI-drevne tjenester.

Bottom Line

Bevægelsen mod interne udvikling af brugerdefinerede AI-chips af store virksomheder som Google, Microsoft og Amazon afspejler en strategisk skift til at imødekomme de øgede komputationelle behov for AI-teknologier. Denne tendens understreger nødvendigheden af løsninger, der er specifikt tilpasset til at understøtte AI-modeller på en effektiv måde, og opfylder de unikke krav for disse avancerede systemer. Da efterspørgslen på AI-chips fortsætter med at vokse, er det sandsynligt, at industrikæmper som Nvidia vil opleve en betydelig stigning i markedsværdi, hvilket understreger den væsentlige rol, som brugerdefinerede chips spiller i fremme af AI-innovation. Ved at skabe deres egne chips forbedrer disse teknologigiganter ikke kun ydelsen og effektiviteten af deres AI-systemer, men fremmer også en mere bæredygtig og kosteffektiv fremtid. Denne udvikling sætter nye standarder i industrien, driver teknologisk fremgang og konkurrencemæssig fordel i et hurtigt ændrende globalt marked.

Dr. Tehseen Zia er en fastansat lektor ved COMSATS University Islamabad, med en ph.d. i AI fra Vienna University of Technology, Østrig. Specialiseret i kunstig intelligens, maskinlæring, datavidenskab og computer vision, har han gjort betydelige bidrag med publikationer i anerkendte videnskabelige tidsskrifter. Dr. Tehseen har også ledet forskellige industrielle projekter som hovedundersøger og fungeret som AI-rådgiver.