Saurabh Giri, CPTO της Voltage Park – Σειρά Συνεντεύξεων

Saurabh Giri υπηρετεί ως Chief Product και Technology Officer στη Voltage Park και είναι εκτελεστικός διευθυντής στο διοικητικό της συμβούλιο. Είναι υπεύθυνος για την οδήγηση της στρατηγικής όρασης της εταιρείας, τον καθορισμό του οδικού χάρτη του προϊόντος και την διεύθυνση των μηχανικών оперατών. Προηγουμένως, ο Saurabh ηγήθηκε ομάδων που κατασκεύασαν, εκτόξευσαν και λειτουργούσαν το Amazon Bedrock, την πλατφόρμα του Amazon για τη γεννητική AI. Νωρίτερα στη σταδιοδρομία του, ο Saurabh συνίδρυσε και υπηρέτησε ως CEO μιας πλατφόρμας πληρωμών της επόμενης γενιάς· συνίδρυσε μια εταιρεία αλγοριθμικού trading που ειδικεύεται στη δημιουργία αγοράς και την κривή arbitrage στις αγορές μελλοντικών συναλλαγών· και συμβούλεψε διοικητικά συμβούλια και ομάδες διαχείρισης σε θέματα στρατηγικής, λειτουργιών και οικονομικών.

Η αποστολή της Voltage Park είναι να βοηθήσει τις επιχειρήσεις να μετατρέψουν τα δεδομένα σε επιχειρηματική ευφυΐα χρησιμοποιώντας την AI, κάνοντας την υποδομή της AI προσβάσιμη σε όλους. Με δεκάδες χιλιάδες GPU σε έξι κέντρα δεδομένων, η Voltage Park προσφέρει υπεραξία υλικού και εξυπηρέτησης πελατών σε απίστευτη αξία – ανεξάρτητα από το αν ο πελάτης είναι ερευνητής, startup ή μεγάλη επιχείρηση.

Έχετε εργαστεί και σε startups και σε μια από τις μεγαλύτερες cloud παρόχους του κόσμου. Τι σας drew στο κόσμο της υποδομής και της AI;

Η γεννητική AI θα είναι μετασχηματιστική με έναν τρόπο που λίγες τεχνολογίες έχουν τις τελευταίες εκατό χρόνια. Τι είναι δυνατό σήμερα με μοντέλα του μετώπου όπως το OpenAI’s GPT-5 θα ήταν ακατόρθωτο δέκα χρόνια πριν και εκπληκτικό ακόμη και τρία χρόνια πριν.

Βρισκόμαστε ακόμη στις πρώτες φάσεις. Η έλξη για μένα είναι η ευκαιρία να διαμορφώσω το επίπεδο της υποδομής που καθορίζει πώς μια τόσο βαθιά τεχνολογία θα αξιοποιηθεί – για την επιστήμη, για τη βιομηχανία και για την κοινωνία στο σύνολό της.

Στο AWS, βοήθησες να κατασκευαστεί το Amazon Bedrock. Ποια μαθήματα μηχανικής προϊόντων από αυτή την εμπειρία εφαρμόζετε στη Voltage Park;

Το Amazon Bedrock έσπασε νέο έδαφος με πολλούς τρόπους, και είμαι πραγματικά υπερήφανος για αυτό που κατάφερε η ομάδα του Bedrock γρήγορα. Η βασική έμπνευση του Bedrock ήταν ότι οι κατασκευαστές χρειαζόταν ένα επίπεδο αφαίρεσης που έκανε την επιλογή του μοντέλου και της modality διαφανή – απελευθερώνοντάς τους να επικεντρωθούν στη δημιουργία λύσεων αντί να διαχειρίζονται την πολυπλοκότητα της υποδομής. Ήταν η πρώτη βιομηχανική πλατφόρμα που παρείχε αδιάκοπη πρόσβαση σε πολλαπλά μοντέλα ιδρύματος – κείμενο, όραση και multimodal – χωρίς να απαιτεί από τις ομάδες να πλοηγηθούν σε μοντέλα-συγκεκριμένες APIs ή περιορισμούς υλικού.

Οι ικανότητες του μοντέλου ιδρύματος προχωρούν με απίστευτο ρυθμό – γρηγορότερα από προηγούμενες τεχνολογικές μετατοπίσεις όπως η υπολογιστική στο cloud, η κινητή ή ακόμη και το ίντερνετ. Η ομάδα του Bedrock μου έστειλε καινοτομίες με αυτόν τον ρυθμό, προβλέποντας πού θα ήταν οι ικανότητες του μοντέλου δύο ή τρία χρόνια μπροστά και κατασκευάζοντας για αυτό το μέλλον.

Στη Voltage Park, εφαρμόζουμε το ίδιο αρχή: Κινηθείτε γρήγορα για να παραδώσετε υποδομή και λογισμικό αφαίρεσης που λύνουν τα σημερινά προβλήματα ενώ μηχανικοί για το πού πηγαίνει η τεχνολογία και τι θα χρειαστούν οι πελάτες όταν φτάσει η τεχνολογία του μέλλοντος.

Ποια ήταν τα μεγαλύτερα τεχνικά και πολιτιστικά σχήματα στη μετατόπιση από einen hyperscaler σε ένα κεφαλαίου-αποδοτικό startup όπως η Voltage Park;

Σε einen hyperscaler, η μηχανική υπάρχει μέσα σε ένα τεράστιο, ώριμο οικοσύστημα – εργαλεία, συμμόρφωση, μάρκετινγκ, παράδοση πελατών – όπου το σύνολο υπερβαίνει τα μέρη. Σε ένα startup, ανταλλάσσετε αυτούς τους ανέμους για ταχύτητα, συνοχή και επίδραση. Δεν υπάρχει εκτεταμένη γραφειοκρατία για να σας επιβραδύνει, αλλά δεν υπάρχει ούτε προκατασκευασμένο σκαφίδι – πρέπει να δημιουργήσετε το δικό σας. Το ανταπόδομα είναι η πολιτιστική συνοχή και η ικανότητα να αποστέλλετε προϊόντα υψηλής επίδρασης σε μια κλάσμα του χρόνου.

Η Voltage Park κατέχει 24.000-plus H100 GPUs και προσφέρει πρόσβαση σε γυμνό μέταλλο με ανταγωνιστική τιμολόγηση. Ποια τμήματα πελατών στοχεύετε κυρίως;

Η πλατφόρμα μας καλύπτει γυμνό μέταλλο, εικονικές μηχανές, διαχειριζόμενες Kubernetes, διαχειριζόμενες Slurm και一个 συμπληρωματικό λογισμικό στάκ που σχεδιάζεται για φορτίσεις AI. Υπηρετούμε οποιονδήποτε κατασκευάζει προϊόντα AI ή κατασκευάζει με AI: ερευνητές, startups και επιχειρήσεις. Κάποιοι από τους πιο εξειδικευμένους κατασκευαστές μοντέλων στον κόσμο σήμερα, όπως η Cursor, η οποία ωθεί το trạng thái της τέχνης στη μηχανική μάθηση και μηχανική, εκπαιδεύουν τα μοντέλα τους στη Voltage Park. Παρόμοια, πολλές γνωστές εταιρείες προϊόντων AI τρέχουν φορτίσεις inference στη Voltage Park. Για τις επιχειρήσεις, μειώνουμε και το κόστος και το όριο εμπειρογνωμοσύνης για να μεταφερθούν από το πρωτότυπο στη παραγωγή εύκολα και να κλιμακωθούν φορτίσεις αξιόπιστα.

Πώς διαχειρίζεστε την κατανάλωση ενέργειας, την αποδοτικότητα κόστους και τη βιωσιμότητα καθώς επεκτείνετε την υποδομή σας;

Έχουμε κάνει και συνεχίζουμε να κάνουμε σημαντικές επενδύσεις για να τρέξουμε τα κέντρα δεδομένων μας αποτελεσματικά. Έχουμε σχεδιάσει σημαντικές κέρδη στην κατανάλωση ενέργειας και στο κόστος μέσω καινοτομιών όπως η προγνωστική συντήρηση με τη βοήθεια της AI, η οποία μειώνει την εκτός λειτουργίας και αποφεύγει το σπατάλη σε σχέση με την αντιδραστική εξυπηρέτηση. Η πλειοψηφία του τρέχοντος μας αποτυπώματος τροφοδοτείται από 99%+ ανανεώσιμη και πράσινη ενέργεια, και αυτή η αναλογία θα αυξηθεί καθώς επεκτείνουμε.

Πώς οι συνεργασίες και οι προτυποποιήσεις διαμορφώνουν την εξέλιξη της Voltage Park ως πλήρης-στακ παροχέα υποδομής AI;

Συνεργαζόμαστε με εταιρείες που μεταφέρουν την AI από τη θεωρητική στη μετασχηματιστική. Ένα καλό παράδειγμα είναι η επένδυσή μας στη Matrice.ai, όπου ηγήθηκαμε την επέκτασή τους. Η εξειδίκευσή τους σε μοντέλα όρασης επιτρέπει στους πελάτες μας να μετατρέψουν εικονοστοιχεία σε νοήμονα με λύσεις που είναι ειδικές για κάθε βιομηχανία. Θα συνεχίσουμε να παρέχουμε την υποδομή AI για τους παρόχους μοντέλων να αναπτύξουν τα μοντέλα τους σε μια μονάδα, ολοκληρωμένη στάκ που παρέχει απόδοση χωρίς να συμβιβαστεί η ασφάλεια ή η ιδιωτικότητα των δεδομένων.

Είμαστε επίσης ενεργός συνεισφέρων στην κοινότητα ανοικτού κώδικα – υποστηρίζοντας, για παράδειγμα, το SGLang ως τον συνεργάτη υποδομής μας για να φέρει υψηλής ποιότητας, ανοικτού κώδικα projects όπως το SpecForge στην κοινότητα. Και έχουμε συνεργαστεί με το Εθνικό Ίδρυμα Επιστημών των ΗΠΑ για να υποστηρίξουμε το Εθνικό Πόρο Έρευνας AI (NAIRR) πιλότο, μια δημόσια-ιδιωτική πρωτοβουλία για να επεκτείνουμε την πρόσβαση σε εργαλεία AI με τα τελευταία νέα για ερευνητές και εκπαιδευτικούς σε εθνικό επίπεδο.

Ποια χαρακτηριστικά διαχείρισης επιχείρησης, ελέγχου ή ασφάλειας προτεραιότητα για τους développers AI;

Η ασφάλεια, η ιδιωτικότητα των δεδομένων και η συμμόρφωση είναι θεμελιώδη χαρακτηριστικά της πλατφόρμας μας AI factory, και οι πελάτες μας έχουν την ηρεμία του να εργάζονται με μια επιχείρηση-βαθμού στάκ. Όσο χτίζουμε το λογισμικό στάκ μας για να αντιμετωπίσουμε επιπλέον πόνοι πελάτη, προστίθεται χαρακτηριστικά όπως η λεπτομερής άδεια πόρων και δεδομένων, ιεράρχησε ιχνηλάτηση, φράγματα ασφάλειας και ομαλή ενοποίηση με επιχειρησιακές διαδικασίες δεδομένων, APIs και agent frameworks. Ο στόχος είναι να δώσουμε στους πελάτες την ταχύτητα του cloud με τον έλεγχο ενός περιβάλλοντος στο χώρο.

Τι συμβουλή έχετε για ερευνητές AI και ομάδες υποδομής που στοχεύουν να κλιμακωθούν αποτελεσματικά σε ένα περιβάλλον υπολογισμού που περιορίζεται;

Οι ερευνητές AI και οι εταιρείες πρέπει να προσπαθούν να ελαχιστοποιήσουν τον χρόνο που περνούν αντιμετωπίζοντας προκλήσεις υποδομής,既然 αυτό είναι μη διαφοροποιημένο, και να επωφεληθούν από υψηλότερα πρωτόκολλα όπως διαχειριζόμενες Kubernetes και Slurm. Επιλέξτε συνεργάτες που προσφέρουν διαφανή τιμολόγηση, εξειδικευμένη υποστήριξη λειτουργίας και εξαιρετική εμπειρογνωμοσύνη μηχανικής για να βοηθήσουν στην αντιμετώπιση προβλημάτων. Αυτά τα στοιχεία θα επιταχύνουν τόσο την πειραματική σας όσο και την κλιμάκωση.

Πού βλέπετε τη Voltage Park σε τρία χρόνια – πιο κάτω στο στακ προς πλήρη AI-ως-υπηρεσία, ή διακλαδίζοντας σε νέες περιοχές όπως η υπολογιστική ακμή;

Τρία χρόνια στο τοπίο της AI είναι μια εποχή. Είμαστε μια εταιρεία που προέρχεται από τον πελάτη και σε τρία χρόνια, όπως και τώρα, θα εστιάζουμε σε πραγματικά προβλήματα πελάτη, είτε στο контέκστο της κατασκευής προϊόντων AI είτε στη κατανάλωση τους. Αναμένω ότι θα έχουμε πολύ περισσότερη σοφία στο πλάτος και το βάθος του λογισμικού στάκ μας, και ένα ρεκόρ βοηθώντας τις κορυφαίες εταιρείες του κόσμου να επιταχύνουν την υιοθέτηση της AI σε κλίμακα.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Voltage Park.