Å møte Nvidias dominans: Agile ML-utviklingsstrategier for ikke-Big Tech-aktører (midt i forsynings- og kostnadsmessige utfordringer)

Å bygge en forretning i spillene blant de virkelige store aktørene har aldri vært en enkel oppgave. I 2023 nådde konkurransen i AI-sektoren utenforliggende høyder, drevet av virkelige, sinnrike gjennombrudd. Lanseringen av OpenAI sin GPT-4, integreringen av ChatGPT med Bing, Google lansering av Bard, og Meta sitt kontroversielle “åpne kilde”- Llama 2-lansering. Det høres ut som en lang liste med store navn, ikke sant? Så spennende det måtte høres, ligger det meste av innovasjonen der pengene flyter, og konkurransen mindre tekniske spillere må gjennomgå blir mer intens for hver dag.

I den evoluerende landskapet av teknologiindustrien fortsetter Nvidia (NVDA ) å befeste sin posisjon som den viktigste aktøren i AI-infrastruktur. Under en august finansiell rapporttelefonkonferanse, Jensen Huang, President av NVIDIA, fremhevet den stigende etterspørselen etter Nvidia-prosessorer. Dette påstanden støttes av bekreftelse fra Nvidia sin Q3-investorpresentasjon, som avslører en imponerende år-til-år-prestasjon, tydelig så tidlig som november YTD. Mens Gartners prosjekter indikerer en betydelig økning i chip-utgifter over de neste fire årene. For tiden står Nvidia sin programvarestack og prosessorer ubestridt, og industrien er usikker på når en troverdig konkurrent kan dukke opp.

Nylige rapporter fra Bloomberg og Financial Times kaster lys over Sam Altman sforhandlinger med mellomøstlige investorer for å initiere chipproduksjon, med mål om å redusere AI-sektorens avhengighet av Nvidia-chip. Å utfordre Nvidia, med sin nærmest 1,5 billioner dollar markedskapitalisering, vil sannsynligvis koste Altman mellom 5 billioner og 7 billioner dollar og ta flere år.

Likevel er det å håndtere kostnadseffektiviteten av ML-modeller for bedrifter noe selskaper må gjøre nå. For bedrifter utenfor de store tekniske spillernes sfære er å utvikle kostnadseffektive ML-modeller mer enn bare en forretningsprosess — det er en vital overlevelsesstrategi. Denne artikkelen utforsker fire pragmatiske strategier som gir bedrifter av alle størrelser mulighet til å utvikle sine modeller uten omfattende FoU-investeringer og forbli fleksible for å unngå leverandør-lås.

Hvorfor Nvidias dominans i AI-markedet

For å si det enkelt, har Nvidia skapt den ideelle modelltreningssirkulasjonen ved å oppnå synergi mellom høy-ytelses-GPU-er og sin egen modelltrening-programvare, den vidt anerkjente CUDA-verktøysamlingen.

CUDA (introdusert i 2007) er et omfattende parallelt dataverktøy og API for optimalt utnyttelse av Nvidia GPU-prosessorer. Hovedgrunnen til at det er så populært er dets ubestridte evne til å akselerere komplekse matematiske beregninger, avgjørende for dyp læring. I tillegg tilbyr det en rik økosystem som cuDNN for dypt neuralt nettverk, som forbedrer ytelse og brukervennlighet. Det er essensielt for utviklere på grunn av sin sømløse integrasjon med større dyp læringsrammeverk, som muliggjør rask modellutvikling og iterasjon.

Kombinasjonen av en så robust programvarestack og høyeffektive maskiner har vist seg å være nøkkelen til å fange markedet. Mens noen kan hevde at Nvidias dominans kan være et midlertidig fenomen, er det vanskelig å gjøre slike forutsigelser i det nåværende landskapet.

Den tunge prisen av Nvidias dominans

Nvidia har den øverste hånden i maskinlæring-utviklingsfeltet og har ført til flere bekymringer, ikke bare i etisk område, men også i forhold til de økende forsknings- og utviklingsbudsjettforskjellene, som er en av årsakene til at det har blitt eksponentielt vanskeligere for mindre spillere, la alene start-ups, å bryte inn på markedet. Legg til nedgangen i investorinteressen på grunn av høyere risiko, og oppgaven med å skaffe betydelige FoU-investeringer (som Nvidias) blir rett og slett umulig, og skaper en svært ujevn spillbane.

Likevel setter denne sterke avhengigheten av Nvidias maskinvare enda mer press på konsistensen i forsyningskjeden og åpner opp for risikoen for forstyrrelser og leverandør-lås, noe som reduserer markedets fleksibilitet og øker markedstilgangsbarrierene.

“Noen samler inn penger for å sikre at de ikke vil forlate brukerne i stikken. Overalt er ingeniørtermer som ‘optimalisering’ og ‘mindre modellstørrelse’ i moten, ettersom selskaper prøver å kutte sine GPU-behov, og investorer i år har satset hundre millioner dollar på start-ups hvis programvare hjelper selskaper å klare seg med de GPU-ene de har.

Nvidia Chip Shortages Leave AI Startups Scrambling for Computing Power By Paresh Dave

Nå er det på tide å adoptere strategiske tilnærminger, da dette kan være det som gir din bedrift sjansen til å trives midt i Nvidias langtrekkende innflytelse i ML-utvikling.

Strategier ikke-Big Tech-aktører kan tilpasse seg Nvidias dominans:

1. Start med å utforske AMDs RocM

AMD har vært aktivt i å nærme seg AI-utviklingsgapet med NVIDIA, en bedrift som er oppnådd gjennom sin konstante støtte til Rocm i PyTorch sine hovedbiblioteker over det siste året. Denne pågående innsatsen har resultert i forbedret kompatibilitet og ytelse, vist fremt i MI300-chipsettet, AMDs nyeste lansering. MI300 har demonstrert robust ytelse i Large Language Model (LLM)-inferenstasks, spesielt utmerket seg med modeller som LLama-70b. Dette suksessen understreker betydelige fremgang i prosessorkraft og effektivitet som er oppnådd av AMD.

2. Finn andre maskinalternativer

I tillegg til AMDs skritt, har Google introduert Tensor Processing Units (TPU), spesialisert maskinvare designet utelukkende for å akselerere maskinlæring-arbeidsbyrder, og tilbyr en robust alternativ for trening av store AI-modeller.

Utenfor disse industri-gigantene er mindre, men innflytelsesrike spillere som Graphcore og Cerebras (CBRS ), bidrar betydelig til AI-maskinvarerommet. Graphcores Intelligence Processing Unit (IPU), tilpasset for effektivitet i AI-beregninger, har fått oppmerksomhet for sin potensiale i høy-ytelsesoppgaver, som demonstrert av Twitters eksperimentering. Cerebras, på den andre siden, preser grensene med sine avanserte chip, med vekt på skalerbarhet og ren beregningskraft for AI-applikasjoner.

De kollektive innsatsene fra disse selskapene markerer en bevegelse mot et mer diversifisert AI-maskinvare-økosystem. Denne diversifiseringen presenterer gyldige strategier for å redusere avhengigheten av NVIDIA, og gir utviklere og forskere en bredere rekke plattformer for AI-utvikling.

3. Start med å investere i ytelsesoptimalisering

I tillegg til å utforske maskinalternativer, er programvareoptimalisering en avgjørende faktor i å redusere innvirkningen av Nvidias dominans. Ved å bruke effektive algoritmer, redusere unødvendige beregninger og implementere parallellprosesserings-teknikker, kan ikke-Big Tech-aktører maksimere ytelsen av sine ML-modeller på eksisterende maskinvare, og tilbyr en pragmatisk tilnærmning til å brokke gapet uten å være avhengig av dyre maskinoppgraderinger.

Et eksempel på denne tilnærmningen er Deci Ai sin AutoNAC-teknologi. Denne innovasjonen har demonstrert evnen til å akselerere modell-inferens med en imponerende faktor på 3-10 ganger, som bekreftes av den vidt anerkjente MLPerf Benchmark. Ved å vise slike fremgang, blir det tydelig at programvareoptimalisering kan betydelig forbedre effektiviteten av ML-utvikling, og presenterer en gyldig alternativ til å mildne innvirkningen av Nvidias dominans i feltet.

4. Start med å samarbeide med andre organisasjoner for å skape desentraliserte kluster

Denne samarbeidsbaserte tilnærmingen kan omfatte å dele forskningsfunn, investere felles i alternative maskinvalg, og fremme utviklingen av nye ML-teknologier gjennom åpne kilde-prosjekter. Ved å desentralisere inferens og bruke distribuert beregningsressurs, kan ikke-Big Tech-aktører jevne ut spillfeltet og skape en mer konkurransevennlig landskap i ML-utviklingsindustrien.

I dag er strategien med å dele beregningsressurser i ferd med å få økt moment over hele teknologiindustrien. Google Kubernetes Engine (GKE) eksemplifiserer dette ved å støtte cluster-multi-leie, som muliggjør effektiv ressursutnyttelse og integrasjon med tredjeparts-tjenester. Denne trenden er videre bevist av community-drevne initiativer som Petals, som tilbyr et distribuert nettverk for å kjøre AI-modeller, og gjør høy-ytelses beregning tilgjengelig uten betydelige investeringer. I tillegg tilbyr plattformer som Together.ai serverless tilgang til en bred rekke åpne kilde-modeller, og strømlinjeformer utvikling og fremmer samarbeid. Ved å vurdere slike plattformer kan du få tilgang til beregningsressurser og samarbeidsmuligheter for utvikling, og hjelpe med å optimalisere utviklingsprosessen og redusere kostnader, uavhengig av organisasjonens størrelse.

Konklusjon

På global skala blir nødvendigheten av de ovennevnte strategiene åpenbar. Når en enhet dominerer markedet, hemmer det utviklingen og hindrer etableringen av rimelige priser.

Ikke-Big Tech-aktører kan motvirke Nvidias dominans ved å utforske alternativer som AMDs RocM, investere i ytelsesoptimalisering gjennom effektive algoritmer og parallellprosesserings-teknikker, og fremme samarbeid med andre organisasjoner for å skape desentraliserte kluster. Dette fremmer et mer diversifisert og konkurransevennlig landskap i AI-maskinvare- og utviklingsindustrien, og lar mindre spillere få en stemme i fremtiden for AI-utvikling.

Disse strategiene har som mål å redusere avhengigheten av Nvidias priser og forsyninger, og dermed øke investeringsappellen, minimere risikoen for forsinkelse i forretningsutvikling midt i maskin-konkurransen, og fremme organisk vekst i hele industrien, tillatende mindre spillere å ha en stemme i fremtiden for AI-utvikling.