Saurabh Giri, CPTO al Voltage Park – Serie de interviuri

Saurabh Giri este Director de Produs și Tehnologie la Voltage Park și este director executiv în consiliul de administrație. Este responsabil pentru dezvoltarea viziunii strategice a companiei, definirea foii de parcurs a produsului și conducerea operațiunilor de inginerie. Anterior, Saurabh a condus echipe care au construit, lansat și operat Amazon Bedrock, platforma Amazon pentru inteligența artificială generativă. La începutul carierei sale, Saurabh a co-fondat și a ocupat funcția de CEO al unei platforme de plăți de generație următoare; a co-fondat o firmă de tranzacționare algoritmică specializată în formarea pieței și arbitrajul curbelor pe piețele futures; și a consiliat consiliile de administrație și echipele de management cu privire la strategie, operațiuni și aspecte financiare.

Voltage Park Misiunea este de a ajuta companiile să transforme datele în business intelligence folosind inteligența artificială (IA), făcând infrastructura IA accesibilă tuturor. Cu zeci de mii de GPU-uri în șase centre de date, Voltage Park oferă hardware de clasă mondială și servicii pentru clienți la prețuri incredibile - indiferent dacă clientul este un cercetător, un startup sau o întreprindere mare.

Ai lucrat atât la startup-uri, cât și la unul dintre cei mai mari furnizori de cloud din lume. Ce te-a atras inițial către lumea infrastructurii și a inteligenței artificiale?

Inteligența artificială generativă va fi transformatoare într-un mod radical, așa cum puține tehnologii au făcut-o în ultimul secol. Ceea ce este posibil astăzi cu modele de avangardă precum GPT-5 al OpenAI ar fi fost de neconceput acum zece ani și surprinzător chiar și acum trei ani.

Suntem încă la început. Pentru mine, atracția este oportunitatea de a modela stratul de infrastructură care determină modul în care va fi valorificată o tehnologie atât de profundă – pentru știință, pentru industrie și pentru societate în general.

La AWS, ai contribuit la construirea Amazon Bedrock. Ce lecții de inginerie de produs din acea experiență aplici la Voltage Park?

Amazon Bedrock a deschis noi drumuri în multe feluri și sunt foarte mândru de ceea ce echipa Bedrock a reușit să realizeze rapid. Perspectiva principală a Bedrock a fost că dezvoltatorii aveau nevoie de un strat de abstractizare care să facă alegerea modelului și modalitatea transparente – eliberându-i să se concentreze pe construirea de soluții în loc să gestioneze complexitatea infrastructurii. A fost prima platformă din industrie care a oferit acces fără probleme la mai multe modele de fundație – text, vizual și multimodal – fără a fi nevoie ca echipele să navigheze prin API-uri specifice modelului sau constrângeri hardware.

Capacitățile modelelor de bază avansează într-un ritm uimitor – mai rapid decât schimbările tehnologice anterioare, cum ar fi cloud computing-ul, mobilul sau chiar internetul în sine. Echipa mea Bedrock a livrat inovații la această viteză, anticipând că capabilitățile modelelor vor fi cu două sau trei generații înainte și construind pentru acel viitor.

La Voltage Park, aplicăm același principiu: ne mișcăm rapid pentru a oferi infrastructură de ultimă generație și abstracțiuni software care rezolvă punctele slabe actuale, proiectând în același timp direcția în care se îndreaptă tehnologia și ceea ce vor avea nevoie clienții atunci când va apărea tehnologia viitorului.

Care au fost cele mai mari schimbări tehnice și culturale în trecerea de la o companie hiperscalabilă la un startup eficient din punct de vedere al capitalului, cum ar fi Voltage Park?

La o companie hiperscalabilă, ingineria există în interiorul unui ecosistem vast și matur – instrumente, conformitate, marketing, livrare către clienți – unde întregul depășește suma părților sale. Într-un startup, schimbi aceste avantaje pentru viteză, coeziune și impact. Nu există o birocrație extinsă care să te încetinească, dar nici nu există o schelă predefinită – trebuie să-ți creezi propria schelă. Recompensa este coeziunea culturală și capacitatea de a livra produse cu impact ridicat într-o fracțiune din timp.

Voltage Park deține peste 24,000 de GPU-uri H100 și oferă acces bare-metal la prețuri competitive. Ce segmente de clienți vizați în principal?

Platforma noastră cuprinde bare metal, mașini virtuale, Kubernetes gestionat, Slurm gestionat și un pachet de software complementar conceput pentru sarcini de lucru bazate pe inteligență artificială. Deservim pe oricine construiește produse bazate pe inteligență artificială sau construiește cu inteligență artificială: cercetători, startup-uri și companii. Unii dintre cei mai sofisticați constructori de modele din lume astăzi, cum ar fi Cursor, care promovează tehnologiile de ultimă generație în știința și ingineria învățării automate, își antrenează modelele pe Voltage Park. În mod similar, multe companii cunoscute de produse bazate pe inteligență artificială rulează sarcini de lucru bazate pe inferență pe Voltage Park. Pentru companii, reducem atât pragul de cost, cât și cel de expertiză pentru a trece cu ușurință de la prototip la producție și a scala sarcinile de lucru în mod fiabil.

Cum gestionați consumul de energie, eficiența costurilor și sustenabilitatea pe măsură ce vă extindeți amprenta infrastructurii?

Am făcut și continuăm să facem investiții semnificative în gestionarea eficientă a centrelor noastre de date. Am obținut câștiguri semnificative în ceea ce privește consumul de energie și costurile prin inovații precum mentenanța predictivă bazată pe inteligență artificială, care reduce timpul de nefuncționare și evită risipa în comparație cu mentenanța reactivă. Cea mai mare parte a amprentei noastre actuale este alimentată în proporție de peste 99% cu energie regenerabilă și verde, iar acest raport va crește pe măsură ce ne extindem.

Cum modelează parteneriatele și standardele evoluția Voltage Park ca furnizor full-stack de infrastructură AI?

Colaborăm cu companii care transformă inteligența artificială de la teoretic la transformațional. Un bun exemplu este investiția noastră în Matrice.ai, unde am condus expansiunea lor inițială. Expertiza lor în domeniul modelelor de viziune le permite clienților noștri să convertească pixelii în inteligență cu soluții specifice verticalelor în mai multe industrii. Vom continua să oferim furnizorilor de modele infrastructura de inteligență artificială, astfel încât să își implementeze modelele într-un pachet modular, integrat hardware-software, care oferă performanță fără a compromite securitatea sau confidențialitatea datelor.

De asemenea, contribuim activ la comunitatea open-source – sprijinind, de exemplu, SGLang ca partener de infrastructură pentru a aduce în comunitate proiecte open-source de înaltă calitate, precum SpecForge. Și am încheiat un parteneriat cu Fundația Națională pentru Știință din SUA pentru a sprijini proiectul pilot National AI Research Resource (NAIRR), o inițiativă public-privată menită să extindă accesul la instrumente de inteligență artificială de ultimă generație pentru cercetători și educatori la nivel național.

Ce caracteristici de management, auditabilitate sau securitate la nivel de întreprindere prioritizați pentru dezvoltatorii de inteligență artificială?

Securitatea, confidențialitatea datelor și conformitatea sunt caracteristici fundamentale ale platformei noastre AI Factory, iar clienții noștri au liniștea sufletească de a lucra cu un pachet de software de nivel enterprise. Pe măsură ce ne dezvoltăm pachetul de software pentru a aborda punctele slabe suplimentare ale clienților, adăugăm funcții precum permisiuni granulare pentru resurse și date, jurnal de audit pe niveluri, bariere de siguranță și integrare perfectă cu conductele de date, API-urile și framework-urile de agenți ale întreprinderilor. Scopul este de a oferi clienților agilitatea cloud-ului, având în același timp controlul unui mediu on-prem.

Ce sfaturi aveți pentru cercetătorii din domeniul inteligenței artificiale și echipele de infrastructură care doresc să se scaleze eficient în mediul actual cu constrângeri de calcul?

Cercetătorii și companiile din domeniul inteligenței artificiale ar trebui să încerce să minimizeze timpul petrecut confruntându-se cu provocările legate de infrastructură, deoarece aceasta este nediferențiată, și să profite de primitive de nivel superior, cum ar fi Kubernetes și Slurm gestionate. Alegeți parteneri care oferă prețuri transparente, asistență operațională de specialitate și expertiză inginerească excepțională pentru a ajuta la depanarea problemelor. Acești factori vor accelera atât experimentarea, cât și extinderea.

Unde vedeți Voltage Park peste trei ani - mai jos în stivă, către inteligența artificială ca serviciu complet, sau extinderea în noi domenii, cum ar fi edge computing?

Trei ani în peisajul inteligenței artificiale reprezintă o epocă. Suntem o companie care pune clientul pe primul loc și, în trei ani, ca și acum, ne vom concentra pe punctele slabe ale clienților din lumea reală, fie în contextul construirii de produse de inteligență artificială, fie în contextul utilizării acestora. Mă aștept să avem mult mai multă sofisticare în ceea ce privește amploarea și profunzimea stivei noastre de software și o experiență în a ajuta companiile de top din lume să accelereze adoptarea inteligenței artificiale la scară largă.

Mulțumim pentru interviul minunat, cititorii care doresc să afle mai multe ar trebui să viziteze Parc de tensiune.