Înfruntând Dominanța Nvidia: Strategii Agile de Dezvoltare ML pentru Jucători Non-Big Tech (În Contextul Provocărilor de Aprovizionare și Cost)

Construirea unei afaceri într-un mediu competitiv, alături de jucători importanți, nu a fost niciodată o sarcină ușoară. În 2023, concurența în sectorul inteligenței artificiale a atins culmi fără precedent, alimentată de adevăratele progrese senzaționale. Lansarea de către OpenAI a GPT-4, Integrarea ChatGPT cu Bing, Lansarea de către Google a Bard, și lansarea controversată de către Meta a “sursă deschisă” Llama 2. Sună ca o listă lungă de nume mari, nu? În timp ce pare interesant, majoritatea inovațiilor se află acolo unde curg banii, iar concurența pe care trebuie să o înfrunte jucătorii mai mici devine tot mai intensă cu fiecare zi.

În peisajul în continuă evoluție al industriei tehnologiei, Nvidia (NVDA ) continuă să-și consolideze poziția de jucător cheie în infrastructura inteligenței artificiale. În cadrul unei conferințe de teleconferință a raportului financiar din august, Jensen Huang, președintele NVIDIA, a subliniat cererea în creștere pentru procesoarele Nvidia. Această afirmație este susținută de confirmarea din prezentarea investitorilor Nvidia Q3, care revelează un record impresionant de performanță de la an la an, evident încă din luna noiembrie. În același timp, proiecțiile Gartner indică o creștere semnificativă a cheltuielilor pentru cipuri în următorii patru ani. În prezent, stiva de software și procesoarele Nvidia rămân de neegalat, lăsând industria nesigură cu privire la momentul în care ar putea apărea un competitor credibil.

Raportele recente de la Bloomberg și Financial Times aruncă lumină asupra negocierilor lui Sam Altman, CEO-ul OpenAI, cu investitorii din Orientul Mijlociu pentru a iniția producția de cipuri, cu scopul de a reduce dependența sectorului inteligenței artificiale de cipurile Nvidia. A concura cu Nvidia, cu o capitalizare de piață de aproape 1,5 trilioane de dolari, este probabil să coste lui Altman între 5 trilioane și 7 trilioane de dolari și să dureze câțiva ani.

Cu toate acestea, abordarea eficienței costurilor modelelor ML pentru afaceri este ceva pe care companiile trebuie să o facă acum. Pentru afacerile din afara sferei Big Tech, dezvoltarea de modele ML eficiente din punct de vedere al costurilor este mai mult decât un proces de afaceri — este o strategie vitală de supraviețuire. Acest articol explorează patru strategii pragmatice care împuternicesc afacerile de toate dimensiunile să-și dezvolte modelele fără investiții extinse de cercetare și dezvoltare și să rămână flexibile pentru a evita blocarea furnizorilor.

De ce Nvidia domină piața inteligenței artificiale

Pe scurt, Nvidia a creat un flux de lucru ideal pentru antrenarea modelelor prin realizarea sinergiei dintre procesoarele GPU de înaltă performanță și stiva sa de software de antrenare a modelelor, cunoscută sub numele de CUDA.

CUDA (introdus în 2007) este un kit de instrumente și API de calcul paralel cuprinzător pentru utilizarea optimă a procesoarelor GPU Nvidia. Motivul pentru care este atât de popular este capacitatea sa neegalată de a accelera calculele matematice complexe, esențiale pentru învățarea profundă. În plus, oferă un ecosistem bogat, cum ar fi cuDNN pentru rețele neuronale profunde, îmbunătățind performanța și ușurința utilizării. Este esențial pentru dezvoltatori datorită integrării sale native cu principalele cadre de învățare profundă, permițând dezvoltarea și iterarea rapidă a modelelor.

Combinația unei astfel de stive de software robuste cu hardware-ul eficient a dovedit a fi cheia pentru a cuceri piața. În timp ce unii susțin că dominanța Nvidia ar putea fi un fenomen temporar, este greu de făcut astfel de predicții în peisajul actual.

Costul greu al dominanței Nvidia

Faptul că Nvidia are mâna superioară în domeniul dezvoltării inteligenței artificiale a ridicat numeroase preocupări, nu numai în domeniul etic, ci și în ceea ce privește disparitățile bugetare de cercetare și dezvoltare, care sunt una dintre motivele pentru care pătrunderea pe piață a devenit exponențial mai grea pentru jucătorii mai mici, și mai ales pentru startup-uri. Adăugați scăderea interesului investitorilor din cauza riscurilor mai mari, iar sarcina de a obține investiții substanțiale de cercetare și dezvoltare devine pur și simplu imposibilă, creând un teren de joc foarte, foarte inegal.

Însă, această dependență puternică de hardware-ul Nvidia pune și mai multă presiune pe consistența lanțului de aprovizionare și deschide riscul de întreruperi și blocarea furnizorilor, reducând flexibilitatea pieței și escaladând barierele de intrare pe piață.

“Unii acumulează fonduri pentru a se asigura că nu vor lăsa utilizatorii în dificultate. Peste tot, termeni de inginerie precum ‘optimizare’ și ‘dimensiunea modelului mai mică’ sunt la modă, pe măsură ce companiile încearcă să-și reducă nevoile de GPU, iar investitorii au pariat sute de milioane de dolari pe startup-uri ale căror software ajută companiile să facă față cu GPU-urile pe care le au.”

Nvidia Chip Shortages Leave AI Startups Scrambling for Computing Power By Paresh Dave

Acum este momentul să adoptați abordări strategice, deoarece acesta poate fi exact ceea ce va oferi întreprinderii dvs. șansa de a prospera în mijlocul influenței extinse a Nvidia în dezvoltarea ML.

Strategii pe care jucătorii non-Big Tech le pot adopta pentru a față dominanței Nvidia:

1. Începeți să explorați RocM de la AMD

AMD a fost activ implicat în reducerea decalajului de dezvoltare AI cu NVIDIA, o realizare obținută prin sprijinul constant pentru Rocm în bibliotecile principale PyTorch în ultimul an. Eforturile continue au dus la o compatibilitate și performanță îmbunătățite, demonstrate în mod evident de MI300 chipset, ultima lansare a AMD. MI300 a demonstrat o performanță robustă în sarcinile de inferență ale modelului de limbaj mare (LLM), în special în modele precum LLama-70b. Acest succes subliniază progrese semnificative în puterea de procesare și eficiență realizate de AMD.

2. Găsiți alte alternative de hardware

În plus față de progresele AMD, Google a introdus Unitățile de Procesare Tensorială (TPU), hardware specializat proiectat în mod explicit pentru a accelera sarcinile de învățare a mașinii, oferind o alternativă robustă pentru antrenarea modelelor AI de scară largă.

Dincolo de acești giganți ai industriei, jucători mai mici, dar semnificativi, precum Graphcore și Cerebras (CBRS ), fac contribuții notabile la spațiul hardware-ului AI. Unitatea de Procesare a Inteligenței (IPU) a Graphcore, specializată pentru eficiență în calculele AI, a atras atenția pentru potențialul său în sarcini de înaltă performanță, așa cum a demonstrat experimentarea Twitter. Cerebras, pe de altă parte, împinge limitele cu cipurile sale avansate, accentuând scalabilitatea și puterea de calcul brută pentru aplicațiile AI.

Eforturile colective ale acestor companii semnifică o schimbare către un ecosistem de hardware AI mai diversificat. Această diversificare prezintă strategii viabile pentru a reduce dependența de Nvidia, oferind dezvoltatorilor și cercetătorilor o gamă mai largă de platforme pentru dezvoltarea AI.

3. Începeți să investiți în optimizarea performanței

În plus față de explorarea alternativelor de hardware, optimizarea software-ului se dovedește a fi un factor crucial în reducerea impactului dominanței Nvidia. Prin utilizarea algoritmilor eficienți, reducerea calculelor inutile și implementarea tehnicilor de procesare paralelă, jucătorii non-Big Tech pot maximiza performanța modelelor ML pe hardware-ul existent, oferind o abordare pragmatică pentru a reduce decalajul fără a depinde exclusiv de actualizările scumpe de hardware.

O ilustrare a acestei abordări se găsește în tehnologia AutoNAC a Deci Ai. Această inovație a demonstrat capacitatea de a accelera inferența modelului de până la 3-10 ori, așa cum este susținut de MLPerf Benchmark. Prin demonstrarea unor astfel de progrese, devine evident că optimizarea software-ului poate îmbunătăți semnificativ eficiența dezvoltării ML, prezentând o alternativă viabilă pentru a reduce influența dominanței Nvidia în domeniu.

4. Începeți să colaborați cu alte organizații pentru a crea clusteruri descentralizate

Această abordare colaborativă poate implica schimbul de rezultate ale cercetărilor, investiții comune în alternative de hardware și promovarea dezvoltării de noi tehnologii ML prin proiecte open-source. Prin descentralizarea inferenței și utilizarea resurselor de calcul distribuite, jucătorii non-Big Tech pot egaliza terenul de joc și crea un peisaj mai competitiv în industria dezvoltării ML.

Astăzi, strategia de a partaja resursele de calcul câștigă teren în întreaga industrie tehnologică. Google Kubernetes Engine (GKE) exemplifică acest lucru prin suportul pentru multi-locativitatea clusterului, permițând o utilizare eficientă a resurselor și integrarea cu servicii terțe. Această tendință este ulterior evidențiată de inițiative conduse de comunitate, cum ar fi Petals, care oferă o rețea distribuită pentru rularea modelelor AI, făcând calculul de înaltă performanță accesibil fără investiții semnificative. De asemenea, platforme precum Together.ai oferă acces serverless la o gamă largă de modele open-source, simplificând dezvoltarea și promovând colaborarea. Luând în considerare astfel de platforme vă poate permite să accesați resursele de calcul și oportunitățile de dezvoltare colaborativă, ajutând la optimizarea procesului de dezvoltare și reducerea costurilor, indiferent de mărimea organizației.

Concluzie

La nivel global, necesitatea strategiilor menționate devine evidentă. Când o entitate domină piața, împiedică dezvoltarea și îngreunează stabilirea unor prețuri rezonabile.

Jucătorii non-Big Tech pot contracara dominanța Nvidia prin explorarea alternativelor, cum ar fi RocM de la AMD, investițiile în optimizarea performanței prin algoritmi eficienți și procesare paralelă, și promovarea colaborării cu alte organizații pentru a crea clusteruri descentralizate. Acest lucru promovează un peisaj mai divers și competitiv în industria hardware-ului și dezvoltării AI, permițând jucătorilor mai mici să aibă un cuvânt de spus în viitorul dezvoltării AI.

Aceste strategii vizează reducerea dependenței de prețurile și aprovizionarea Nvidia, îmbunătățind astfel atracția pentru investiții, minimizând riscul de încetinire a dezvoltării afacerilor în mijlocul concurenței hardware-ului, și promovând creșterea organică în întreaga industrie, permițând jucătorilor mai mici să aibă un cuvânt de spus în viitorul dezvoltării AI.