Saurabh Giri, CPTO de la Voltage Park – Seria de interviuri

Saurabh Giri ocupă funcția de Chief Product și Technology Officer la Voltage Park și este director executiv în cadrul consiliului de administrație al acesteia. El este responsabil pentru conducerea viziunii strategice a companiei, definirea drumului produsului și operarea ingineriei. Anterior, Saurabh a condus echipe care au construit, lansat și operat Amazon (AMZN ) Bedrock, platforma Amazon pentru inteligență artificială generativă. La începutul carierei sale, Saurabh a co-fondat și a ocupat funcția de CEO al unei platforme de plăți de ultimă generație; a co-fondat o firmă de tranzacționare algoritmică specializată în realizarea de piețe și arbitraj de curbe pe piețele futures; și a oferit consultanță consiliilor de administrație și echipelor de management în materie de strategie, operațiuni și probleme financiare.

Misiunea Voltage Park este de a ajuta întreprinderile să transforme datele în inteligență de afaceri utilizând inteligența artificială, prin facilitarea accesului la infrastructura de inteligență artificială pentru toată lumea. Cu zeci de mii de GPU-uri în șase centre de date, Voltage Park oferă hardware de clasă mondială și servicii de asistență la clienți la prețuri competitive – indiferent dacă clientul este un cercetător, o companie startup sau o întreprindere mare.

Ce v-a atras inițial în lumea infrastructurii și a inteligenței artificiale, având în vedere că ați lucrat atât în startup-uri, cât și într-una dintre cele mai mari companii de cloud din lume?

Inteligența artificială generativă va fi o tehnologie transformativă, care va schimba radical modul în care se desfășoară lucrurile, așa cum puține tehnologii au făcut-o în ultimul secol. Ceea ce este posibil astăzi cu modelele de frontieră, cum ar fi GPT-5 de la OpenAI, ar fi fost de neconceput cu zece ani în urmă și surprinzător chiar și acum trei ani.

Suntem încă la început. Atracția pentru mine constă în oportunitatea de a modela stratul de infrastructură care determină modul în care o asemenea tehnologie profundă va fi utilizată – pentru știință, pentru industrie și pentru societate în general.

La AWS, ați ajutat la construirea Amazon Bedrock. Care sunt lecțiile de inginerie a produsului pe care le-ați învățat din această experiență și pe care le aplicați acum la Voltage Park?

Amazon Bedrock a deschis drumul în multe moduri, și sunt foarte mândru de ceea ce a reușit echipa Bedrock să realizeze rapid. Ideea de bază a Bedrock a fost că dezvoltatorii aveau nevoie de un strat de abstractizare care să facă alegerea modelului și modulitatea transparente – permițându-le să se concentreze pe construirea de soluții, mai degrabă decât pe gestionarea complexității infrastructurii. A fost prima platformă din industrie care a oferit acces transparent la multiple modele de bază – text, viziune și multimodal – fără a necesita ca echipele să navigheze prin API-uri specifice modelului sau constrângerile hardware.

Capacitățile modelelor de bază evoluează cu o viteză uimitoare – mai rapid decât schimbările tehnologice anterioare, cum ar fi computerea în cloud, mobilă sau chiar internetul însuși. Echipa mea de la Bedrock a lansat inovații la aceeași viteză, anticipând unde vor fi capacitățile modelelor cu două sau trei generații înainte și construind pentru acel viitor.

La Voltage Park, aplicăm același principiu: Ne mișcăm rapid pentru a oferi infrastructură de ultimă generație și abstracții software care rezolvă problemele de astăzi, în timp ce inginerim pentru unde se îndreaptă tehnologia și ce vor necesita clienții atunci când tehnologia viitorului va fi disponibilă.

Care au fost cele mai mari schimbări tehnice și culturale în trecerea de la un hyperscaler la un startup eficient din punct de vedere al capitalului, cum ar fi Voltage Park?

La un hyperscaler, ingineria există într-un ecosistem vast și matur – instrumente, conformitate, marketing, livrare către clienți – unde întregul depășește suma părților. Într-un startup, schimbați aceste avantaje cu viteză, coeziune și impact. Nu există o birocrație vastă care să vă încetinească, dar nici nu există o structură preconcepută – trebuie să o creați singur. Răsplata constă în coeziunea culturală și capacitatea de a lansa produse cu impact ridicat într-o fracțiune din timp.

Voltage Park deține peste 24.000 de GPU-uri H100 și oferă acces la metalul gol la prețuri competitive. Care sunt segmentele de clienți pe care le vizăm în primul rând?

Platforma noastră acoperă metalul gol, mașini virtuale, Kubernetes gestionate, Slurm gestionat și un stivă de software complementar proiectat pentru sarcini de lucru cu inteligență artificială. Deservim oricine construiește produse cu inteligență artificială sau construiește cu inteligență artificială: cercetători, startup-uri și întreprinderi. Unii dintre cei mai sofisticați constructori de modele din lume, cum ar fi Cursor, care împinge starea actuală a științei și ingineriei de învățare automată, antrenează modelele lor pe Voltage Park. În mod similar, multe companii cunoscute de produse cu inteligență artificială rulează sarcini de inferență la Voltage Park. Pentru întreprinderi, reducem atât pragul de cost, cât și pragul de expertiză pentru a trece de la prototip la producție și a scala sarcinile de lucru în mod fiabil.

Cum gestionați utilizarea energiei, eficiența costurilor și durabilitatea în timp ce extindeți amprenta infrastructurii?

Am făcut și continuăm să facem investiții semnificative în exploatarea eficientă a centrelor noastre de date. Am obținut câștiguri semnificative în ceea ce privește consumul de energie și costurile prin inovații, cum ar fi întreținerea predictivă condusă de inteligență artificială, care reduce timpul de închidere și evită risipa comparativ cu serviciile reactive. Majoritatea amprentei noastre actuale este alimentată de energie regenerabilă și verde, cu o proporție de peste 99%, și această proporție va crește pe măsură ce ne extindem.

Cum modelează parteneriatele și standardele evoluția Voltage Park ca furnizor de infrastructură de inteligență artificială de ultimă generație?

Ne asociem cu companii care mută inteligența artificială din teoretic în transformativ. Un exemplu bun este investiția noastră în Matrice.ai, unde am condus extinderea lor de capital. Expertiza lor în modele de viziune permite clienților noștri să convertească pixeli în inteligență cu soluții specifice verticalelor, în multiple industrii. Vom continua să oferim infrastructura de inteligență artificială pentru a permite furnizorilor de modele să implementeze modelele lor într-un stivă de hardware și software modular și integrat, care oferă performanță fără a compromite securitatea sau confidențialitatea datelor.

Suntem, de asemenea, un contributor activ în comunitatea open-source – sprijinind, de exemplu, SGLang ca partener de infrastructură pentru a aduce proiecte de calitate, cum ar fi SpecForge, comunității. Și am parteneriat cu Fundația Națională pentru Știință din SUA pentru a sprijini proiectul pilot National AI Research Resource (NAIRR), o inițiativă public-privată pentru a extinde accesul la unelte de inteligență artificială de ultimă generație pentru cercetători și educatori la nivel național.

Care sunt caracteristicile de gestionare la nivel întreprindere, auditabilitate sau securitate pe care le prioritizați pentru dezvoltatorii de inteligență artificială?

Securitatea, confidențialitatea datelor și conformitatea sunt caracteristici fundamentale ale platformei noastre de fabrică de inteligență artificială, iar clienții noștri au liniștea de a lucra cu un stivă de nivel întreprindere. Pe măsură ce construim stiva noastră de software pentru a aborda punctele dureroase suplimentare ale clienților, adăugăm funcții, cum ar fi permisiuni de resurse și date granulare, urme de audit stratificate, garduri de siguranță și integrare transparentă cu conductele de date ale întreprinderii, API-uri și cadre de agenți. Scopul este de a oferi clienților agilitatea cloud-ului, cu controlul unui mediu local.

Care este sfatul dvs. pentru cercetătorii de inteligență artificială și echipele de infrastructură care își propun să scaleze eficient în mediul actual, limitat de computație?

Cercetătorii de inteligență artificială și companiile ar trebui să încerce să minimizeze timpul petrecut pentru a face față provocărilor infrastructurii, deoarece acestea sunt nediferențiate, și să profite de primitive de nivel superior, cum ar fi Kubernetes gestionate și Slurm. Alegeți parteneri care oferă prețuri transparente, suport operațional expert și expertiză tehnică excepțională pentru a ajuta la deblocarea problemelor. Aceste factori vor accelera atât experimentarea, cât și scalarea dvs.

Unde vedeți Voltage Park peste trei ani – mai jos pe stivă, spre servicii complete de inteligență artificială, sau ramificându-se în noi domenii, cum ar fi computația de margine?

Trei ani în peisajul inteligenței artificiale reprezintă o epocă. Suntem o companie centrată pe client și, peste trei ani, vom continua să ne concentrăm pe punctele dureroase reale ale clienților, fie în contextul construirii de produse cu inteligență artificială, fie în consumul de astfel de produse. Mă aștept ca vom avea mult mai multă sofisticare în lățimea și adâncimea stivei noastre de software și o istorie de a ajuta companiile lider mondiale să accelereze adoptarea inteligenței artificiale la scară.

Vă mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Voltage Park pot vizita site-ul Voltage Park.