Affrontare la Dominanza di Nvidia: Strategie di Sviluppo ML Agile per Player Non Big Tech (Tra Sfide di Fornitura e Costi)

Costruire un’azienda nel gioco tra i veri grandi giocatori non è mai stato un compito facile. Nel 2023, la concorrenza nel settore dell’AI ha raggiunto vette senza precedenti, alimentata da reali e sconvolgenti innovazioni. Il rilascio di OpenAI di GPT-4, l’integrazione di ChatGPT con Bing, il lancio di Google di Bard e il rilascio controverso di Meta di “open-source” Llama 2. Sembra una lunga lista di grandi nomi, vero? Quanto può sembrare emozionante, la maggior parte dell’innovazione si trova dove fluisce il denaro, e la concorrenza che i giocatori più piccoli devono superare sta diventando sempre più intensa di giorno in giorno.

Nel paesaggio in continua evoluzione dell’industria tecnologica, Nvidia (NVDA ) continua a consolidare la sua posizione come attore chiave nell’infrastruttura dell’AI. Durante una conferenza telefonica dei risultati finanziari di agosto, Jensen Huang, Presidente di NVIDIA, ha sottolineato la crescente domanda di processori Nvidia. Questa affermazione è supportata dalla conferma dei dati di fatturato di Nvidia del Q3, che rivela un impressionante record di performance anno su anno, evidente già a novembre YTD. Nel frattempo, le proiezioni di Gartner indicano un aumento significativo nella spesa per chip nei prossimi quattro anni. Al momento, il software stack e i processori di Nvidia sono insuperati, lasciando l’industria incerta su quando potrebbe emergere un concorrente credibile.

Recenti rapporti di Bloomberg e del Financial Times gettano luce sulle trattative di Sam Altman, CEO di OpenAI, con investitori del Medio Oriente per avviare la produzione di chip, con l’obiettivo di ridurre la dipendenza del settore dell’AI dai chip Nvidia. Sfidare Nvidia, con la sua capitalizzazione di mercato di quasi 1,5 trilioni di dollari, probabilmente costerà ad Altman tra 5 trilioni e 7 trilioni di dollari e richiederà diversi anni.

Tuttavia, affrontare la questione della convenienza dei modelli di ML per le aziende è qualcosa che le aziende devono fare ora. Per le aziende al di fuori dei confini del Big Tech, sviluppare modelli di ML efficienti dal punto di vista dei costi è più di un processo aziendale – è una strategia di sopravvivenza vitale. Questo articolo esplora quattro strategie pragmatiche che consentono alle aziende di tutte le dimensioni di sviluppare i propri modelli senza investimenti di R&D estensivi e di rimanere flessibili per evitare la dipendenza da un fornitore.

Perché Nvidia Dominia il Mercato dell’AI

In sintesi, Nvidia ha creato il flusso di lavoro ideale per l’addestramento dei modelli grazie alla sinergia tra GPU ad alte prestazioni e il suo software stack di addestramento dei modelli proprietario, lo strumento CUDA ampiamente acclamato.

CUDA (introdotta nel 2007) è uno strumento di calcolo parallelo completo e un’API per l’utilizzo ottimale dei processori GPU Nvidia. Il motivo per cui è così popolare è la sua capacità ineguagliata di accelerare calcoli matematici complessi, cruciali per l’apprendimento profondo. Inoltre, offre un ricco ecosistema come cuDNN per le reti neurali profonde, migliorando le prestazioni e la facilità d’uso. È essenziale per gli sviluppatori a causa della sua integrazione senza problemi con i principali framework di apprendimento profondo, consentendo lo sviluppo e l’iterazione rapida dei modelli.

La combinazione di un software stack così robusto con hardware altamente efficiente si è rivelata la chiave per catturare il mercato. Sebbene alcuni sostengano che la dominanza di Nvidia possa essere un fenomeno temporaneo, è difficile fare tali previsioni nel panorama attuale.

Il Pesante Prezzo della Dominanza di Nvidia

Nvidia avere la mano alta nel campo dello sviluppo dell’AI ha sollevato numerose preoccupazioni, non solo nel regno etico ma anche in relazione alle crescenti disparità di budget per la ricerca e lo sviluppo, che sono una delle ragioni per cui è diventato esponenzialmente più difficile per i giocatori più piccoli, per non parlare delle startup, entrare nel mercato. Aggiungere il calo dell’interesse degli investitori a causa dei rischi più alti, e il compito di ottenere investimenti di R&D (come quelli di Nvidia) diventa impossibile, creando un campo di gioco molto, molto squilibrato.

Tuttavia, questa forte dipendenza dall’hardware di Nvidia mette ulteriore pressione sulla coerenza della catena di fornitura e apre il rischio di interruzioni e di dipendenza da un fornitore, riducendo la flessibilità del mercato e aumentando le barriere all’ingresso.

“Alcuni stanno mettendo da parte denaro per assicurarsi di non lasciare gli utenti in difficoltà. Ovunque, termini di ingegneria come ‘ottimizzazione’ e ‘dimensione del modello più piccola’ sono di moda mentre le aziende cercano di ridurre il loro fabbisogno di GPU, e gli investitori quest’anno hanno puntato centinaia di milioni di dollari su startup il cui software aiuta le aziende a fare con le GPU che hanno.

Nvidia Chip Shortages Leave AI Startups Scrambling for Computing Power By Paresh Dave

Ora è il momento di adottare approcci strategici, poiché potrebbe essere proprio questo a dare alla tua azienda la possibilità di prosperare nonostante l’influenza ampia di Nvidia nello sviluppo dell’AI.

Strategie che i Giocatori Non Big Tech Possono Adottare per Contrastare la Dominanza di Nvidia:

1. Iniziare a Esplorare AMD’s RocM

AMD ha ridotto attivamente il divario di sviluppo dell’AI con NVIDIA, un risultato ottenuto attraverso il suo sostegno costante a Rocm nelle biblioteche principali di PyTorch nel corso dell’ultimo anno. Questo sforzo continuo ha portato a una maggiore compatibilità e prestazioni, evidenziate in particolare dal chipset MI300, l’ultima uscita di AMD. Il MI300 ha dimostrato prestazioni robuste nei compiti di inferenza del modello di linguaggio (LLM), in particolare eccellendo con modelli come LLama-70b. Questo successo sottolinea i significativi progressi nel potere di elaborazione e nell’efficienza raggiunti da AMD.

2. Trovare Altre Alternative Hardware

Oltre ai progressi di AMD, Google ha introdotto le Tensor Processing Unit (TPU), hardware specializzato progettato esplicitamente per accelerare i carichi di lavoro dell’AI, offrendo una robusta alternativa per l’addestramento di grandi modelli di AI.

Al di là di questi giganti dell’industria, giocatori più piccoli ma significativi come Graphcore e Cerebras (CBRS ) stanno facendo contributi notevoli nello spazio hardware dell’AI. L’Intelligence Processing Unit (IPU) di Graphcore, progettata per l’efficienza nei calcoli dell’AI, ha attirato l’attenzione per il suo potenziale in compiti ad alta prestazione, come dimostrato da Twitter’s experimentation. Cerebras, d’altra parte, sta spingendo i confini con i suoi chip avanzati, enfatizzando la scalabilità e la potenza di calcolo grezza per le applicazioni dell’AI.

Gli sforzi collettivi di queste aziende segnalano un passaggio verso un ecosistema hardware dell’AI più diversificato. Questa diversificazione presenta strategie valide per ridurre la dipendenza da NVIDIA, fornendo ai sviluppatori e ricercatori una gamma più ampia di piattaforme per lo sviluppo dell’AI.

3. Iniziare a Investire nell’Ottimizzazione delle Prestazioni

Oltre a esplorare alternative hardware, l’ottimizzazione del software si rivela un fattore cruciale nel ridurre l’impatto della dominanza di Nvidia. Utilizzando algoritmi efficienti, riducendo calcoli inutili e implementando tecniche di elaborazione parallela, i giocatori non Big Tech possono massimizzare le prestazioni dei loro modelli di ML su hardware esistente, offrendo un approccio pragmatico per colmare il divario senza dipendere esclusivamente da costosi aggiornamenti hardware.

Un esempio di questo approccio è rappresentato dalla tecnologia AutoNAC di Deci Ai. Questa innovazione ha dimostrato la capacità di accelerare l’inferenza del modello di un fattore impressionante di 3-10 volte, come sostanzianto dal MLPerf Benchmark ampiamente riconosciuto. Dimostrando tali progressi, diventa evidente che l’ottimizzazione del software può migliorare significativamente l’efficienza dello sviluppo dell’AI, presentando un’alternativa valida per mitigare l’influenza della dominanza di Nvidia nel settore.

4. Iniziare a Collaborare con Altre Organizzazioni per Creare Cluster Decentralizzati

Questo approccio collaborativo può coinvolgere la condivisione di risultati di ricerca, investimenti congiunti in opzioni hardware alternative e lo sviluppo di nuove tecnologie di ML attraverso progetti open-source. Decentralizzando l’inferenza e utilizzando risorse di calcolo distribuite, i giocatori non Big Tech possono livellare il campo di gioco e creare un panorama più competitivo nell’industria dello sviluppo dell’AI.

Oggi, la strategia di condivisione delle risorse di calcolo sta guadagnando slancio in tutta l’industria tecnologica. Google Kubernetes Engine (GKE) ne è un esempio, supportando la multi-tenancy dei cluster, consentendo un utilizzo efficiente delle risorse e l’integrazione con servizi di terze parti. Questa tendenza è ulteriormente evidenziata da iniziative guidate dalla comunità come Petals, che offre una rete distribuita per l’esecuzione di modelli di AI, rendendo l’elaborazione ad alta potenza accessibile senza investimenti significativi. Inoltre, piattaforme come Together.ai offrono l’accesso serverless a una vasta gamma di modelli open-source, semplificando lo sviluppo e favoriscono la collaborazione. Considerare tali piattaforme può permettere di accedere a risorse computazionali e opportunità di sviluppo collaborativo, aiutando a ottimizzare il processo di sviluppo e ridurre i costi, indipendentemente dalle dimensioni dell’organizzazione.

Conclusione

A livello globale, la necessità di queste strategie diventa evidente. Quando un’entità domina il mercato, soffoca lo sviluppo e ostacola l’istituzione di prezzi ragionevoli.

I giocatori non Big Tech possono contrastare la dominanza di Nvidia esplorando alternative come AMD’s RocM, investendo nell’ottimizzazione delle prestazioni attraverso algoritmi efficienti e tecniche di elaborazione parallela, e favorendo la collaborazione con altre organizzazioni per creare cluster decentralizzati. Ciò promuove un panorama più diversificato e competitivo nell’industria dell’hardware e dello sviluppo dell’AI, permettendo ai giocatori più piccoli di avere voce in capitolo nel futuro dello sviluppo dell’AI.

Queste strategie mirano a ridurre la dipendenza dai prezzi e dalle forniture di Nvidia, migliorando così l’appeal degli investimenti, minimizzando il rischio di rallentamento dello sviluppo aziendale in mezzo alla concorrenza hardware, e favoriscono la crescita organica all’interno dell’intera industria, permettendo ai giocatori più piccoli di avere una voce nel futuro dello sviluppo dell’AI.