Čelit dominanci Nvidie: Agilní strategie pro vývoj ML pro hráče mimo Big Tech (při dodavatelských a nákladových výzvách)

Postavit si podnikání ve hře mezi skutečnými velkými hráči nikdy nebylo snadné. V roce 2023 soutěž v oblasti AI dosáhla nebývalých výšin, poháněná skutečnými, ohromujícími průlomy. Uvedení OpenAI GPT-4, integrace ChatGPT s Bingem, spuštění Bardu od Googlu a kontroverzní „open-source“ Llama 2 od Meta. To zní jako dlouhý seznam velkých jmen, že? Jak vzrušující to může znít, většina inovací leží tam, kde tečou peníze, a soutěž, kterou musí projít menší technologičtí hráči, se stává intenzivnější dnem za dnem.

V neustále se měnícím světě technologického průmyslu Nvidia (NVDA ) nadále upevňuje svou pozici jako klíčový hráč v oblasti infrastruktury AI. Během srpna finančního reportu telekonference Jensen Huang, prezident Nvidie, zdůraznil rostoucí poptávku po procesorech Nvidie. Tento nárok je podporován potvrzením z prezentace Nvidie pro investory, která odhaluje působivý rok-do-roku rekordní výkon, patrný již v listopadu YTD. Zatímco některé zprávy z Bloombergu a Financial Times vrhají světlo na jednání Sama Altmana, CEO OpenAI, s investory z Blízkého východu za účelem zahájení výroby čipů, s cílem snížit závislost odvětví AI na čipech Nvidie. Vyzyvat Nvidii, s její téměř 1,5bilionovou tržní kapitalizací, pravděpodobně bude stát Altmana mezi 5 biliony a 7 biliony dolarů a bude trvat několik let.

Nicméně, řešení nákladové efektivity modelů ML pro podniky je něco, co musí společnosti udělat nyní. Pro podniky mimo sféru Big Tech je vývoj nákladově efektivních modelů ML více než jen obchodním procesem — je to životně důležitá strategie přežití. Tento článek zkoumá čtyři pragmatičtější strategie, které umožňují podnikům všech velikostí vyvíjet své modely bez rozsáhlých investic do výzkumu a vývoje a zůstat flexibilní, aby se vyhnuli uzamčení dodavatele.

Proč Nvidia dominuje na trhu AI

Dlouhý příběh stručně, Nvidia vytvořila ideální model pro školení workflow tím, že dosáhla synergie mezi vysokovýkonnými GPU a svým vlastním softwarem pro školení modelu, široce uznávaným nástrojem CUDA.

CUDA (zavedený v roce 2007) je komplexní nástroj a API pro paralelní výpočty pro optimální využití procesorů GPU Nvidie. Hlavním důvodem jeho popularity je jeho nevídaná schopnost urychlovat složité matematické výpočty, které jsou zásadní pro hluboké učení. Kromě toho nabízí bohaté ekosystémy, jako je cuDNN pro hluboké neuronové sítě, které zvyšují výkon a snadnost použití. Je to nezbytné pro vývojáře kvůli jeho bezproblémové integraci s hlavními rámci hlubokého učení, umožňující rychlý vývoj a iteraci modelů.

Kombinace takového robustního software se vysoce účinným hardwarem se ukázala jako klíč k zachycení trhu. Zatímco někteří argumentují, že dominance Nvidie může být dočasným jevem, je obtížné dělat taková předpověď v současném světě.

Těžká cena dominance Nvidie

Nvidia má navrch v oblasti vývoje strojového učení a to vyvolalo řadu obav, nejen v etické oblasti, ale také v souvislosti se zvyšujícími se rozdíly ve výzkumu a rozvoji, které jsou jedním z důvodů, proč je pro menší hráče stále obtížnější proniknout na trh, natož startupy. Přidejte k tomu pokles zájmu investorů kvůli vyššímu riziku a úkol získání rozsáhlých investic do výzkumu a vývoje (jako těch, které má Nvidia) se stává přímo nemožným, vytvářející velmi nerovné podmínky.

Tato velká závislost na hardwaru Nvidie vytváří ještě větší tlak na konzistenci dodavatelského řetězce a otevírá riziko pro přerušení a uzamčení dodavatele, snižuje flexibilitu trhu a zvyšuje bariéry pro vstup na trh.

“Někteří shromažďují peníze, aby se ujistili, že nebudou zanechávat uživatele ve štychu. Všude, technické termíny jako ‘optimalizace’ a ‘menší velikost modelu’ jsou v módě, protože společnosti se snaží snížit svou potřebu GPU a investoři letos vsadili stovky milionů dolarů na startupy, jejichž software pomáhá společnostem vypořádat se s dostupnými GPU.

Nvidia Chip Shortages Leave AI Startups Scrambling for Computing Power By Paresh Dave

Nyní je čas přijmout strategické přístupy, protože to může být ta věc, která dává vaší společnosti šanci prosperovat uprostřed širokého vlivu Nvidie na vývoj ML.

Strategie, které hráči mimo Big Tech mohou přizpůsobit dominanci Nvidie:

1. Začněte prozkoumávat AMD’s RocM

AMD aktivně snižuje svůj vývojový rozdíl v oblasti AI s Nvidií, což je úspěch dosažený díky své konzistentní podpoře Rocm v hlavních knihovnách PyTorchu za poslední rok. Tento pokračující úsilí vedlo k vylepšené kompatibilitě a výkonu, který je zřetelně předveden čipsetem MI300, nejnovějším vydáním AMD. MI300 prokázal robustní výkon v úkolech inferencing Large Language Model (LLM), zejména vynikající s modely jako LLama-70b. Tento úspěch zdůrazňuje významné pokroky ve zpracování a efektivitě, kterých AMD dosáhlo.

2. Najděte jiné hardwarové alternativy

Kromě pokroků AMD Google představil Tensor Processing Units (TPUs), specializovaný hardware navržený výslovně pro urychlení úloh strojového učení, nabízející robustní alternativu pro školení velkých modelů AI.

Mimo tyto giganty v oboru, menší, ale významní hráči jako Graphcore a Cerebras (CBRS ) dělají pozoruhodné příspěvky do prostoru hardwaru AI. Intelligence Processing Unit (IPU) od Graphcore, přizpůsobený pro efektivitu v AI výpočtech, získal pozornost pro svůj potenciál v úkolech s vysokým výkonem, jak je demonstrováno experimenty Twitteru. Cerebras, na druhé straně, tlačí hranice se svými pokročilými čipy, zdůrazňující škálovatelnost a surovou výpočetní sílu pro aplikace AI.

Kolektivní úsilí těchto společností signalizuje posun směrem k více rozmanitému ekosystému hardwaru AI. Tato diverzifikace představuje životaschopné strategie pro snížení závislosti na Nvidii, poskytující vývojářům a výzkumníkům širší škálu platforem pro vývoj AI.

3. Začněte investovat do optimalizace výkonu

Kromě prozkoumávání hardwarových alternativ je optimalizace software klíčovým faktorem při snižování dopadu dominance Nvidie. Používáním efektivní algoritmů, snižováním zbytečných výpočtů a implementací paralelních zpracování technik mohou hráči mimo Big Tech maximalizovat výkon svých modelů ML na stávajícím hardwaru, nabízející pragmatičtější přístup k mostu bez závislosti pouze na drahých hardwarových upgradech.

Ilustrací tohoto přístupu je technologie AutoNAC od Deci Ai. Tato inovace prokázala schopnost urychlit inferenci modelu o působivý faktor 3-10krát, jak je potvrzeno široce uznávaným MLPerf Benchmarkem. Představováním takových pokroků se stává zřejmým, že optimalizace software může výrazně zvýšit efektivitu vývoje ML, představující životaschopnou alternativu ke snižování vlivu dominance Nvidie v oboru.

4. Začněte spolupracovat s jinými organizacemi na vytvoření decentralizovaných clusterů

Tento spolupracující přístup může zahrnovat sdílení výzkumných výsledků, společné investice do alternativních hardwarových možností a podporu vývoje nových technologií ML prostřednictvím open-source projektů. Dekentralizací inferencing a využíváním distribuovaných výpočetních zdrojů mohou hráči mimo Big Tech vyrovnat podmínky a vytvořit více konkurenční krajinu v průmyslu vývoje ML.

Dnes, strategie sdílení výpočetních zdrojů získává hybnost napříč technologickým průmyslem. Google Kubernetes Engine (GKE) je příkladem, podporujícím multi-tenancy clusterů, umožňujícím efektivní využití zdrojů a integraci se třetími stranami. Tento trend je dále podporován komunitními iniciativami, jako je Petals, která nabízí distribuovanou síť pro běh modelů AI, poskytující výkonné výpočetní prostředky bez významných investic. Kromě toho platformy jako Together.ai nabízejí serverless přístup k široké škále open-source modelů, usnadňující vývoj a podporu spolupráce. Zvažování takových platforem může umožnit přístup k výpočetním zdrojům a spolupracujícím vývojovým příležitostem, pomáhajícím optimalizovat váš vývojový proces a snižovat náklady, bez ohledu na velikost organizace.

Závěr

Na globální úrovni se stává nutností uvedených strategií zřejmou. Když jeden subjekt dominuje trhu, brání vývoji a brání zavedení rozumného cenového systému.

Hráči mimo Big Tech mohou čelit dominanci Nvidie prozkoumáním alternativ, jako je RocM od AMD, investováním do optimalizace výkonu prostřednictvím efektivní algoritmů a paralelního zpracování, a podporou spolupráce s jinými organizacemi na vytvoření decentralizovaných clusterů. To podporuje více rozmanitou a konkurenční krajinu v průmyslu hardwaru a vývoje AI, umožňující menším hráčům mít vliv na budoucnost vývoje AI.

Tyto strategie mají za cíl snížit závislost na cenách a dodávkách Nvidie, a tím zvýšit atraktivitu investic, minimalizovat riziko zpomalení rozvoje podnikání uprostřed hardwarové konkurence a podporovat organický růst v celém odvětví, umožňující menším hráčům mít vliv na budoucnost vývoje AI.