Overvindelse af Nvidias Dominans: Agile ML-Udviklingsstrategier for Ikke-Big Tech-Spillere (Midt i Forsynings- og Omkostningsudfordringer)

At bygge en forretning i spillet blandt de store spillere har aldrig været en let opgave. I 2023 nåede konkurrencen i AI-sektoren uhørt højder, drivende af virkelige, sind-bendende gennembrud. Udgivelsen af OpenAI’s GPT-4, integration af ChatGPT med Bing, Google lancerer Bard, og Meta’s kontroversielle “open-source”- Llama 2-udgivelse. Det lyder som en lang liste af store navne, ikke? Så spændende det end kan lyde, ligger det meste af innovation, hvor pengene flyder, og konkurrencen, som de mindre teknologivirksomheder har at gå igennem, bliver mere intens for hver dag.

I den konstant udviklende landskab af teknologiindustrien fastholder Nvidia (NVDA ) sin position som den nøgleaktør i AI-infrastruktur. Under en august-finansrapport-telekonference fremhævede Jensen Huang, præsident for NVIDIA, den stigende efterspørgsel efter Nvidia-processorer. Dette krav er bakket op af bekræftelse fra Nvidias Q3 i økonomisk rapport, der afslører en imponerende årlig præstation, tydelig allerede i november. Imens viser Gartners projekteringer en betydelig stigning i chip-udgifter over de næste fire år. For nuværende er Nvidias software-stack og processorer ubestridte, hvilket efterlader industrien usikker på, hvornår en troværdig konkurrent kan opstå.

Seneste rapporter fra Bloomberg og Financial Times kaster lys over Sam Altmans, CEO for OpenAI, forhandlinger med mellemøstlige investorer for at initiere chip-produktion, med det formål at reducere AI-sektorens afhængighed af Nvidia-chips. At udfordre Nvidia, med en markedsværdi på næsten 1,5 billioner dollars, vil sandsynligvis koste Altman mellem 5 billioner og 7 billioner dollars og tage adskillige år.

Alligevel er det nødvendigt at beskæftige sig med omkostningseffektiviteten af ML-modeller for virksomheder nu. For virksomheder uden for de store teknologivirksomheders rækkevidde er udvikling af omkostningseffektive ML-modeller mere end bare en forretningsproces – det er en vital overlevelsesstrategi. Denne artikel udforsker fire pragmatiske strategier, der giver virksomheder af alle størrelser mulighed for at udvikle deres modeller uden omfattende udviklingsinvesteringer og forblive fleksible for at undgå leverandør-lås.

Hvorfor Nvidias Dominans i AI-Markedet

Lad os kort fortælle, Nvidia har skabt den ideelle modeltrænings-arbejdsgang ved at opnå synergien mellem høj-ydelses-GPU’er og deres proprietære modeltræningssoftware-stack, den bredt anerkendte CUDA-værktøjskasse.

CUDA (introduceret i 2007) er en komplet parallel-computing-værktøjskasse og API til optimal udnyttelse af Nvidia GPU-processorer. Den primære grund til, at det er så populært, er dets ubesvarede evne til at accelerere komplekse matematiske beregninger, afgørende for dyb læring. Derudover tilbyder det en rig økosystem som cuDNN til dybe neurale netværk, hvilket forbedrer ydeevne og brugervenlighed. Det er essentiel for udviklere på grund af dets ubesværede integration med store dyb-lærings-rammer, hvilket muliggør hurtig modeludvikling og iteration.

Kombinationen af en så robust software-stack med højtydende hardware har vist sig at være nøglen til at fange markedet. Mens nogen kan argumentere for, at Nvidias dominans kan være et midlertidigt fænomen, er det svært at gøre sådanne forudsigelser i det nuværende landskab.

Den Tunge Pris for Nvidias Dominans

Nvidia har den øverste hånd i maskinlæringsudviklingsfeltet og har rejst adskillige bekymringer, ikke kun i den etiske område, men også i forhold til den udvidende forsknings- og udviklingsbudget-lige, som er en af årsagerne til, at det er blevet eksponentielt sværere for mindre spillere, endsige startups, at bryde ind på markedet. Tilføj faldet i investorinteresse på grund af højere risici, og opgaven med at erhverve betydelige udviklingsinvesteringer (som Nvidias) bliver direkte umulig, hvilket skaber en meget, meget urent spilleplads.

Men denne store afhængighed af Nvidias hardware lægger endnu mere pres på forsyningskædens konsistens og åbner op for risikoen for forstyrrelser og leverandør-lås, hvilket reducerer markedets fleksibilitet og eskalerer markedets indgangsbarrierer.

“Nogle samler penge for at sikre, at de ikke vil lade brugerne i stikken. Overalt er tekniske termer som ‘optimering’ og ‘mindre modelstørrelse’ i mode, da virksomheder forsøger at reducere deres GPU-behov, og investorer i år har sat hundredvis af millioner dollars på startups, hvis software hjælper virksomheder med at klare sig med de GPU’er, de har.

Nvidia Chip Shortages Leave AI Startups Scrambling for Computing Power By Paresh Dave

Nu er tiden til at adoptere strategiske tilgange, da dette kan være det, der giver din virksomhed chancen til at trives midt i Nvidias langtrækkende indflydelse i ML-udvikling.

Strategier, Ikke-Big Tech-Spillere Kan Tilpasse til Nvidias Dominans:

1. Start med at udforske AMD’s RocM

AMD har aktivt formindsket sin AI-udviklingsafstand til NVIDIA, en bedrift opnået gennem dens konstante støtte til Rocm i PyTorch’s hovedbiblioteker over det sidste år. Denne pågående indsats har resulteret i forbedret kompatibilitet og ydeevne, fremhævet tydeligt af MI300-chipset, AMD’s seneste udgivelse. MI300 har demonstreret robust ydeevne i Large Language Model (LLM)-inference-opgaver, især med modeller som LLama-70b. Denne succes understreger betydelige fremskridt i proceskraft og effektivitet opnået af AMD.

2. Find andre hardware-alternativer

Foruden AMD’s skridt har Google introduceret Tensor Processing Units (TPU’er), specialiseret hardware designet specifikt til at accelerere maskinlærings-arbejdslaster, og tilbyder en robust alternativ til træning af store AI-modeller.

Ud over disse industrikæmper er mindre, men betydningsfulde spillere som Graphcore og Cerebras (CBRS ) med til at bidrage til AI-hardware-området. Graphcores Intelligence Processing Unit (IPU), tilpasset til effektivitet i AI-beregninger, har tiltrukket opmærksomhed for sin potentiale i højtydende opgaver, som demonstreret af Twitters eksperimenter. Cerebras er på den anden side med til at skubbe grænserne med sine avancerede chips, hvilket understreger skalerbarhed og rå beregningskraft til AI-anvendelser.

De kollektive indsats fra disse virksomheder signalerer en bevægelse mod et mere diversificeret AI-hardware-økosystem. Dette giver mulighed for strategier til at reducere afhængighed af NVIDIA, og giver udviklere og forskere en bredere række af platforme til AI-udvikling.

3. Start med at investere i ydeevneoptimering

Foruden at udforske hardware-alternativer er software-optimering en afgørende faktor i at mindske indvirkningen af Nvidias dominans. Ved at anvende effektive algoritmer, reducere unødvendige beregninger og implementere parallel proces-teknikker kan ikke-big tech-spillere maksimere ydeevnen af deres ML-modeller på eksisterende hardware, hvilket tilbyder en pragmatisk tilgang til at brokke gabets åbning uden at afhænge udelukkende af dyre hardware-opgraderinger.

Et eksempel på denne tilgang er Deci Ai’s AutoNAC-teknologi. Denne innovation har demonstreret evnen til at accelerere model-inference med en imponerende faktor på 3-10 gange, som bekræftet af den bredt anerkendte MLPerf Benchmark. Ved at vise sådanne fremskridt bliver det tydeligt, at software-optimering kan betydeligt forbedre effektiviteten af ML-udvikling, og tilbyder en troværdig alternativ til at mindske indvirkningen af Nvidias dominans i feltet.

4. Start med at samarbejde med andre organisationer for at skabe decentrale clusters

Denne samarbejdende tilgang kan indebære deling af forskningsresultater, fælles investering i alternative hardware-alternativer og fremme udviklingen af nye ML-teknologier gennem open-source-projekter. Ved at decentralisere inference og anvende distribueret beregningsressourcer kan ikke-big tech-spillere udjævne spillepladen og skabe et mere konkurrencedygtigt landskab i ML-udviklingsindustrien.

I dag er strategien om at dele beregningsressourcer i fremgang over hele teknologiindustrien. Google Kubernetes Engine (GKE) er et eksempel herpå, da det understøtter cluster-multi-lejer, hvilket muliggør effektiv ressourceudnyttelse og integration med tredjeparts-tjenester. Denne tendens er yderligere bekræftet af community-ledede initiativer som Petals, som tilbyder et distribueret netværk til at køre AI-modeller, og gør højtydende beregning tilgængelig uden betydelig investering. Derudover tilbyder platforme som Together.ai serverless adgang til en bred vifte af open-source-modeller, hvilket strømliner udvikling og fremmer samarbejde. Overvejelse af sådanne platforme kan give adgang til beregningsressourcer og samarbejdsudviklingsmuligheder, hvilket kan optimere udviklingsprocessen og reducere omkostninger, uanset organisationens størrelse.

Konklusion

På globalt plan bliver nødvendigheden af ovennævnte strategier tydelig. Når en entitet dominerer markedet, kvæler det udvikling og hindrer etableringen af rimelige priser.

Ikke-big tech-spillere kan modvirke Nvidias dominans ved at udforske alternativer som AMD’s RocM, investere i ydeevneoptimering gennem effektive algoritmer og parallel proces-teknikker, og fremme samarbejde med andre organisationer for at skabe decentrale clusters. Dette fremmer et mere diversificeret og konkurrencedygtigt landskab i AI-hardware- og udviklingsindustrien, og giver mindre spillere mulighed for at have noget at sige i fremtiden for AI-udvikling.

Disse strategier sigter mod at reducere afhængighed af Nvidias priser og forsyninger, og dermed forbedre investeringsappellen, minimere risikoen for langsommere forretningsudvikling midt i hardware-konkurrence, og fremme organisk vækst inden for hele industrien, hvilket giver mindre spillere mulighed for at have noget at sige i fremtiden for AI-udvikling.