Saurabh Giri, CPTO di Voltage Park – Serie di interviste

Saurabh Giri ricopre il ruolo di Chief Product e Technology Officer di Voltage Park e fa parte del consiglio di amministrazione. È responsabile della definizione della visione strategica dell’azienda, della pianificazione del prodotto e della gestione delle operazioni di ingegneria. In precedenza, Saurabh ha guidato team che hanno costruito, lanciato e gestito Amazon (AMZN ) Bedrock, la piattaforma di Amazon per l’intelligenza artificiale generativa. All’inizio della sua carriera, Saurabh ha co-fondato e ricoperto il ruolo di CEO di una piattaforma di pagamento di nuova generazione; ha co-fondato una società di trading algoritmico specializzata in market making e curve arbitrage nei mercati dei futures; e ha consigliato consigli di amministrazione e team di gestione su strategia, operazioni e questioni finanziarie.

Voltage Park ha come missione aiutare le aziende a trasformare i dati in intelligenza aziendale utilizzando l’AI, rendendo l’infrastruttura di AI accessibile a tutti. Con decine di migliaia di GPU in sei data center, Voltage Park offre hardware e servizio clienti di classe mondiale a prezzi competitivi – indipendentemente dal fatto che il cliente sia un ricercatore, una startup o un’azienda di grandi dimensioni.

Ha lavorato sia in startup che in uno dei più grandi provider di cloud del mondo. Cosa l’ha originariamente attratto nel mondo dell’infrastruttura e dell’AI?

L’intelligenza artificiale generativa sarà trasformativa in un modo che poche tecnologie hanno avuto nel corso dell’ultimo secolo. Ciò che è possibile oggi con modelli all’avanguardia come OpenAI’s GPT-5 sarebbe stato inconcepibile dieci anni fa e sorprendente anche solo tre anni fa.

Siamo ancora alle prime fasi. L’attrazione per me è l’opportunità di plasmare lo strato di infrastruttura che determina come una tecnologia così profonda sarà sfruttata – per la scienza, per l’industria e per la società nel suo complesso.

Presso AWS, ha contribuito a costruire Amazon Bedrock. Quali lezioni di ingegneria del prodotto tratte da quell’esperienza sta applicando a Voltage Park?

Amazon Bedrock ha aperto nuove strade in molti modi, e sono veramente orgoglioso di ciò che il team di Bedrock è stato in grado di realizzare rapidamente. L’intuizione fondamentale di Bedrock era che i costruttori avevano bisogno di uno strato di astrazione che rendesse la scelta del modello e della modalità trasparente – liberandoli così di concentrarsi sulla costruzione di soluzioni piuttosto che sulla gestione della complessità dell’infrastruttura. È stata la prima piattaforma industriale a fornire un accesso senza soluzione di continuità a più modelli di base – testo, visione e multimodale – senza richiedere ai team di navigare API o vincoli hardware specifici del modello.

Le capacità dei modelli di base stanno avanzando a un ritmo sorprendente – più veloce di precedenti spostamenti tecnologici come il cloud computing, il mobile o addirittura internet stesso. Il mio team di Bedrock ha spedito innovazioni a quel ritmo, anticipando dove le capacità del modello sarebbero state due o tre generazioni più avanti e costruendo per quel futuro.

A Voltage Park, stiamo applicando lo stesso principio: muoversi velocemente per fornire infrastrutture e astrazioni software all’avanguardia che risolvano i problemi odierni mentre si progettano per dove la tecnologia si sta dirigendo e cosa i clienti avranno bisogno quando la tecnologia del futuro arriverà.

Quali sono stati i più grandi cambiamenti tecnici e culturali nel passaggio da un hyperscaler a una startup efficiente dal punto di vista capitalistico come Voltage Park?

In un hyperscaler, l’ingegneria esiste all’interno di un vasto ecosistema maturo – strumenti, conformità, marketing, consegna ai clienti – dove l’intero supera la somma delle sue parti. In una startup, si scambiano quei vantaggi con velocità, coesione e impatto. Non c’è una burocrazia ampia che ti rallenti, ma non c’è neanche una struttura preesistente – devi crearla tu stesso. La ricompensa è la coesione culturale e la capacità di spedire prodotti ad alto impatto in una frazione del tempo.

Voltage Park possiede oltre 24.000 GPU H100 e offre accesso bare-metal a prezzi competitivi. Quali sono i segmenti di clienti che state principalmente mirando?

La nostra piattaforma copre bare metal, macchine virtuali, Kubernetes gestite, Slurm gestito e uno stack software complementare progettato per carichi di lavoro di AI. Serviamo chiunque stia costruendo prodotti di AI o costruendo con AI: ricercatori, startup e aziende. Alcuni dei più sofisticati costruttori di modelli nel mondo oggi, come Cursor, che sta spingendo lo stato dell’arte nella scienza e nell’ingegneria del machine learning, stanno addestrando i loro modelli su Voltage Park. Allo stesso modo, molte note aziende di prodotti di AI stanno eseguendo carichi di lavoro di inferenza su Voltage Park. Per le aziende, stiamo abbassando sia la soglia di costo che quella di competenza per passare facilmente dalla fase di prototipo a quella di produzione e scalare i carichi di lavoro in modo affidabile.

Come state gestendo il consumo di energia, l’efficienza dei costi e la sostenibilità mentre espandete il vostro footprint infrastrutturale?

Abbiamo fatto e continuiamo a fare investimenti significativi per eseguire i nostri data center in modo efficiente. Abbiamo progettato guadagni significativi nel consumo di energia e nei costi attraverso innovazioni come la manutenzione predittiva guidata dall’AI, che riduce il tempo di fermo e evita gli sprechi rispetto alla manutenzione reattiva. La maggior parte del nostro footprint attuale è alimentata da energia rinnovabile e verde al 99%+, e quella percentuale crescerà man mano che ci espandiamo.

Come le partnership e gli standard stanno plasmando l’evoluzione di Voltage Park come fornitore di infrastrutture di AI full-stack?

Ci associamo con aziende che stanno spingendo l’AI dalla teoria alla trasformazione. Un buon esempio è il nostro investimento in Matrice.ai, dove abbiamo guidato la loro espansione seed. La loro competenza nel settore dei modelli di visione consente ai nostri clienti di convertire i pixel in intelligenza con soluzioni verticali specifiche del settore in più industrie. Continueremo a fornire la spina dorsale dell’infrastruttura di AI ai fornitori di modelli per distribuire i loro modelli in uno stack hardware-software modulare e integrato che fornisce prestazioni senza compromettere la sicurezza o la privacy dei dati.

Siamo anche contributori attivi alla comunità open-source – supportando, ad esempio, SGLang come partner di infrastruttura per portare progetti open-source di alta qualità come SpecForge alla comunità. E abbiamo collaborato con la National Science Foundation degli Stati Uniti per supportare il progetto pilota della National AI Research Resource (NAIRR), un’iniziativa pubblico-privata per espandere l’accesso a strumenti di AI all’avanguardia per ricercatori e educatori in tutto il paese.

Quali funzionalità di gestione di livello aziendale, tracciabilità o sicurezza state priorizzando per gli sviluppatori di AI?

La sicurezza, la privacy dei dati e la conformità sono funzionalità fondamentali della nostra piattaforma di AI factory, e i nostri clienti hanno la tranquillità di lavorare con uno stack di livello aziendale. Mentre costruiamo il nostro stack software per affrontare ulteriori punti deboli dei clienti, stiamo aggiungendo funzionalità come autorizzazioni e permessi di risorse e dati granulari, tracciati di audit a più livelli, guardrail di sicurezza e integrazione senza soluzione di continuità con pipeline di dati aziendali, API e framework di agenti. L’obiettivo è dare ai clienti l’agilità del cloud con il controllo di un ambiente on-prem.

Quali consigli ha per i ricercatori di AI e i team di infrastruttura che mirano a scalare in modo efficace in un ambiente di calcolo limitato come quello odierno?

I ricercatori di AI e le aziende dovrebbero cercare di minimizzare il tempo che trascorrono affrontando le sfide dell’infrastruttura, poiché è indifferenziata, e approfittare di primitive di livello superiore come Kubernetes gestiti e Slurm. Scegliete partner che offrono prezzi trasparenti, supporto operativo esperto e competenza tecnica eccezionale per aiutare a risolvere i problemi. Quei fattori accelereranno sia la vostra sperimentazione che il vostro aumento di scala.

Dove vede Voltage Park tra tre anni – più giù nella pila verso il full AI-as-a-service o ramificandosi in nuove aree come il calcolo edge?

Tre anni nel paesaggio dell’AI sono un’epoca. Siamo un’azienda che si concentra sui clienti e tra tre anni, come adesso, ci concentreremo sui reali problemi dei clienti, sia nel contesto della costruzione di prodotti di AI o nel consumo di essi. Mi aspetto che avremo molta più sofisticazione nella larghezza e nella profondità del nostro stack software, e un record di aiuto alle aziende leader del mondo ad accelerare l’adozione di AI su larga scala.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Voltage Park.