Frammi fyrir yfirburði Nvidia: Agile ML þróunaraðferðir fyrir leikmenn sem ekki eru stórir tæknimenn (í framboði og kostnaðaráskorunum)

Það hefur aldrei verið auðvelt verkefni að byggja upp fyrirtæki í leiknum meðal alvöru stórra leikmanna. Árið 2023 náði samkeppnin í gervigreindargeiranum áður óþekktum hæðum, knúin áfram af raunverulegum, hugvekjandi byltingum. Útgáfa OpenAI's GPT-4, Sameining á ChatGPT með Bing, Google kynnir Bard, og umdeildur „opinn uppspretta“ Meta  Lama 2 gefa út. Það hljómar eins og langur listi yfir stór nöfn, ekki satt? Eins spennandi og það gæti hljómað, þá liggur meirihluti nýsköpunar þar sem peningar streyma og samkeppnin sem smærri tækniaðilar þurfa að komast í gegnum verður harðnari með hverjum deginum sem líður.

Í síbreytilegu landslagi tækniiðnaðarins heldur Nvidia áfram að styrkja stöðu sína sem lykilaðili í gervigreindarinnviðum. Á meðan á Ágúst fjárhagsskýrsla fjarfundur, Jensen Huang, forseti NVIDIA, lagði áherslu á mikla eftirspurn eftir Nvidia örgjörvum. Þessi krafa er studd staðfestingu frá Nvidia Q3 In r Kynningartekjur, sem sýnir glæsilegt árangursmet á milli ára, augljóst strax í nóvember YTD. Á sama tíma benda áætlanir Gartner til verulegrar hækkunar á útgjöldum fyrir flís á næstu fjórum árum. Sem stendur standa hugbúnaðarstafla og örgjörvar Nvidia óviðjafnanlegir, sem gerir iðnaðinn óviss um hvenær trúverðugur keppinautur gæti komið fram.

Nýlegar skýrslur frá Bloomberg og Financial Times varpa ljósi á samningaviðræður Sam Altmans, forstjóra OpenAI, við fjárfesta í Mið-Austurlöndum um að hefja flísaframleiðslu, með það að markmiði að draga úr því að gervigreind geirinn treysti Nvidia flögum. Að ögra Nvidia, með tæplega 1.5 trilljón dollara markaðsvirði, mun líklega kosta Altman á milli kl. $5 trilljón og $7 trilljón og taka nokkur ár.

Engu að síður, að takast á við hagkvæmni ML líkana fyrir fyrirtæki er eitthvað sem fyrirtæki verða að gera núna. Fyrir fyrirtæki utan stórtækninnar er þróun hagkvæmra ML módela meira en bara viðskiptaferli - það er mikilvæg aðferð til að lifa af. Þessi grein kannar fjórar raunsæjar aðferðir sem gera fyrirtækjum af öllum stærðum kleift að þróa líkön sín án mikilla R&D fjárfestinga og vera sveigjanleg til að forðast lokun söluaðila.

Af hverju Nvidia drottnar yfir gervigreindarmarkaðnum

Löng saga stutt, Nvidia hefur búið til hið fullkomna líkanþjálfunarvinnuflæði með því að ná fram samvirkni á milli afkastamikilla GPUs og sérsniðna líkanþjálfunarhugbúnaðarstafla hans, CUDA verkfærakistuna sem er margrómuð.

CUDA (komið út árið 2007) er alhliða samhliða tölvuverkfærasett og API til að nýta Nvidia GPU örgjörva sem best. Aðalástæðan fyrir því að það er svo vinsælt er óviðjafnanleg getu þess til að flýta fyrir flóknum stærðfræðilegum útreikningum, sem skiptir sköpum fyrir djúpt nám. Að auki býður það upp á mikið vistkerfi eins og cuDNN fyrir djúp tauganet, sem eykur afköst og auðvelda notkun. Það er nauðsynlegt fyrir þróunaraðila vegna óaðfinnanlegrar samþættingar þess við helstu djúpnámsramma, sem gerir hraða þróun líkana og endurtekningu kleift.

Sambland af svo öflugum hugbúnaðarstafla með mjög skilvirkum vélbúnaði hefur reynst lykillinn að því að ná markaðnum. Þó að sumir haldi því fram að yfirráð Nvidia kunni að vera tímabundið fyrirbæri, þá er erfitt að gera slíkar spár í núverandi landslagi.

Mikill tollur yfirráða Nvidia

Nvidia sem hefur yfirhöndina á sviði vélanámsþróunar hefur vakið upp ýmsar áhyggjur, ekki aðeins í siðferðileg svið en einnig með tilliti til vaxandi misræmis á fjárlögum rannsókna og þróunar, sem er ein af ástæðunum fyrir því að það hefur orðið veldishraða fyrir smærri leikmenn að brjótast inn á markaðinn, hvað þá sprotafyrirtæki. Bæta við samdrætti í áhuga fjárfesta vegna meiri áhættu, og verkefninu að afla mikils R&D (eins og hjá Nvidia) fjárfestingar verða beinlínis ómögulegar og skapa mjög, mjög ójafnan leikvöll.

Samt, þetta mikla traust á vélbúnaði Nvidia setur enn meiri þrýsting á samræmi aðfangakeðjunnar og opnar hættu á truflunum og lokun söluaðila, dregur úr sveigjanleika á markaði og stigmagnandi aðgangshindranir.

"Sumir safna saman reiðufé til að tryggja að þeir skilji ekki notendur eftir í lausu lofti. Alls staðar eru verkfræðihugtök eins og „hagræðing“ og „minni gerð stærð“ í tísku þar sem fyrirtæki reyna að draga úr GPU-þörf sinni, og fjárfestar á þessu ári hafa veðjað hundruðum milljóna dollara á sprotafyrirtæki sem hafa hugbúnað sem hjálpar fyrirtækjum að láta sér nægja GPU-vélarnar sem þeir hafa. hef fengið.”

Skortur á Nvidia flísum lætur gervigreindarfyrirtæki keppa um tölvuafl eftir Paresh Dave

Nú er kominn tími til að taka upp stefnumótandi nálganir, þar sem þetta gæti verið einmitt það sem mun gefa fyrirtækinu þínu tækifæri til að dafna innan um víðtæk áhrif Nvidia í ML þróun.

Aðferðir sem ekki eru stórir tæknispilarar geta lagað sig að yfirráðum Nvidia:

1. Byrjaðu að kanna RocM frá AMD 

AMD hefur virkan verið að minnka AI þróunarbilið sitt með NVIDIA, afrek sem er náð með stöðugum stuðningi við Rocm í Helstu bókasöfn PyTorch undanfarið ár. Þetta áframhaldandi átak hefur skilað sér í bættri eindrægni og frammistöðu, sem er áberandi sýndur af MI300 flís, nýjasta útgáfa AMD. MI300 hefur sýnt sterka frammistöðu í ályktunarverkefnum Large Language Model (LLM), sérstaklega framúrskarandi með gerðum eins og LLama-70b. Þessi árangur undirstrikar verulegar framfarir í vinnsluorku og skilvirkni sem AMD hefur náð.

2. Finndu aðra valkosti fyrir vélbúnað

Til viðbótar við framfarir AMD, Google hefur kynnt Tensor Processing Units (TPU), sérhæfður vélbúnaður hannaður sérstaklega til að flýta fyrir vinnuálagi vélanáms, sem býður upp á öflugan valkost til að þjálfa stórfelld gervigreind módel.

Fyrir utan þessa iðnaðarrisa leggja smærri en áhrifamiklir leikmenn eins og Graphcore og Cerebras athyglisverð framlag til gervigreindar vélbúnaðarrýmisins. Graphcore's Intelligence Processing Unit (IPU), sem er sérsniðin fyrir skilvirkni í gervigreindarútreikningum, hefur vakið athygli fyrir möguleika sína í afkastamiklum verkefnum, eins og sýnt er af Tilraunir Twitter. Cerebras er hins vegar að ýta mörkum með háþróaðri flísum sínum, með áherslu á sveigjanleika og hráan reiknikraft fyrir gervigreind forrit.

Sameiginleg viðleitni þessara fyrirtækja táknar breytingu í átt að fjölbreyttara AI vélbúnaðarvistkerfi. Þessi fjölbreytni kynnir raunhæfar aðferðir til að draga úr ósjálfstæði á NVIDIA, sem veitir forriturum og rannsakendum fjölbreyttari vettvangi fyrir gervigreindarþróun.

3. Byrjaðu að fjárfesta í hagræðingu frammistöðu

Auk þess að kanna val á vélbúnaði reynist fínstilling hugbúnaðar vera afgerandi þáttur í að draga úr áhrifum yfirráða Nvidia. Með því að nota skilvirka reiknirit, draga úr óþarfa útreikningum og innleiða samhliða vinnsluaðferðir, geta leikmenn sem ekki eru stórir tækni hámarkað afköst ML módelanna sinna á núverandi vélbúnaði og boðið upp á raunsærri nálgun til að brúa bilið án þess að vera eingöngu háð dýrum vélbúnaðaruppfærslum.

Skýring á þessari nálgun er að finna í AutoNAC tækni Deci Ai. Þessi nýjung hefur sýnt fram á hæfileikann til að flýta fyrir ályktunum líkana með glæsilegum stuðli upp á 3-10 sinnum, eins og rökstutt er af hinum almenna viðurkenndu MLPerf viðmið. Með því að sýna slíkar framfarir verður ljóst að hagræðing hugbúnaðar getur verulega aukið skilvirkni ML þróunar, sem er raunhæfur valkostur til að draga úr áhrifum yfirráða Nvidia á þessu sviði.

4. Byrjaðu að vinna með öðrum stofnunum til að búa til dreifða klasa

Þessi samstarfsaðferð getur falið í sér að deila rannsóknarniðurstöðum, fjárfesta í sameiningu í öðrum vélbúnaðarvalkostum og stuðla að þróun nýrrar ML tækni með opnum uppspretta verkefnum. Með því að dreifa ályktunum og nýta dreifða tölvuauðlindir geta aðilar sem ekki eru stórir tæknimenn jafnað leikvöllinn og skapað samkeppnishæfara landslag í ML þróunariðnaðinum.

Í dag er stefnan um að deila tölvuauðlindum að öðlast skriðþunga í tækniiðnaðinum. Google Kubernetes Engine (GKE) er dæmi um þetta með því að styðja við fjölleigu klasa, sem gerir skilvirka auðlindanýtingu og samþættingu við þjónustu þriðja aðila. Þessi þróun sést enn frekar af frumkvæði undir forystu samfélagsins eins og Petals, sem býður upp á dreift net til að keyra gervigreind módel, sem gerir öfluga tölvu aðgengilega án verulegrar fjárfestingar. Að auki veita pallar eins og Together.ai netþjónalausan aðgang að fjölbreyttu úrvali opinna gerða, hagræða þróun og stuðla að samvinnu. Með því að huga að slíkum kerfum getur þú fengið aðgang að tölvuauðlindum og samvinnuþróunarmöguleikum, sem hjálpar til við að hámarka þróunarferlið þitt og draga úr kostnaði, óháð stærð fyrirtækis.

Niðurstaða 

Á heimsvísu kemur í ljós nauðsyn fyrrnefndra aðferða. Þegar ein aðili drottnar á markaðnum kæfir það þróun og kemur í veg fyrir sanngjarna verðlagningu.

Ekki stórir tæknispilarar geta unnið gegn yfirburði Nvidia með því að kanna valkosti eins og RocM frá AMD, fjárfesta í hagræðingu afkasta með skilvirkum reikniritum og samhliða vinnslu og stuðla að samvinnu við aðrar stofnanir til að búa til dreifða klasa. Þetta stuðlar að fjölbreyttara og samkeppnishæfara landslagi í gervigreindar- og þróunariðnaðinum, sem gerir smærri leikmönnum kleift að hafa að segja um framtíð gervigreindarþróunar.

Þessar aðferðir miða að því að draga úr trausti á verði og birgðum Nvidia, og auka þannig aðdráttarafl fjárfestinga, lágmarka hættuna á hægagangi í viðskiptaþróun innan um vélbúnaðarsamkeppni og stuðla að innri vexti innan iðnaðarins allra.