Саурабх Гірі, CPTO компанії Voltage Park – Серія інтерв’ю

Саурабх Гірі обіймає посаду головного директора з продукту та технологій у компанії Voltage Park і є виконавчим директором у її раді. Він відповідає за розвиток стратегічного бачення компанії, визначення її дорожньої карти продукту та управління інженерними операціями. Раніше Саурабх очолював команди, які створили, запустили та експлуатували платформу Amazon Bedrock, платформу Amazon для генерації штучного інтелекту. На початку своєї кар’єри Саурабх був співзасновником і виконавчим директором платформи наступного покоління платежів; співзасновником компанії з алгоритмічної торгівлі, спеціалізованої на створенні ринків і арібтражі на ринку ф’ючерсів; і радником рад директорів і керівників щодо стратегії, операцій та фінансових питань.

Місія компанії Voltage Park полягає в тому, щоб допомогти підприємствам перетворити дані на бізнес-інтелект за допомогою штучного інтелекту, роблячи інфраструктуру штучного інтелекту доступною для всіх. З десятками тисяч процесорів GPU у шести центрах даних, компанія Voltage Park пропонує світовий клас апаратного забезпечення та сервісу клієнтів за неймовірну ціну – незалежно від того, чи є клієнтом дослідник, стартап чи велике підприємство.

Ви працювали в стартапах і одній із найбільших хмарних постачальників. Що спочатку привернуло вас до світу інфраструктури та штучного інтелекту?

Генерація штучного інтелекту буде трансформаційною у стрибкоподібний спосіб, який рідко спостерігався за останні століття. Що сьогодні можливе з допомогою передових моделей, таких як OpenAI’s GPT-5, було недоречним десять років тому і дивним навіть три роки тому.

Ми все ще на початку. Моїм інтересом є можливість формувати інфраструктурний шар, який визначає, як така глибока технологія буде використовуватися – для науки, для промисловості та для суспільства в цілому.

У компанії AWS ви допомогли створити платформу Amazon Bedrock. Які уроки продукту та інженерії з цього досвіду ви застосовуєте у компанії Voltage Park?

Платформа Amazon Bedrock здійснила прорив у багатьох аспектах, і я дуже горджусь тим, чого вдалося досягти команді Bedrock швидко. Основна ідея Bedrock полягала в тому, що будівельники потребували абстрактного шару, який би зробив вибір моделі та модальності прозорим – звільнивши їх від управління інфраструктурною складністю. Це була перша промислова платформа, яка забезпечила безшовний доступ до декількох фундаментальних моделей – тексту, зору та мультимодальних – без потреби у тому, щоб команди орієнтувалися в модельних API чи обмеженнях апаратного забезпечення.

Можливості фундаментальних моделей розвиваються зі стрімкою швидкістю – швидше, ніж попередні технологічні зрушення, такі як хмарні обчислення, мобільні пристрої чи навіть сам Інтернет. Моя команда Bedrock випустила інновації з такою ж швидкістю, передбачаючи, де будуть можливості моделей за два чи три покоління вперед і будуючи майбутнє.

У компанії Voltage Park ми застосовуємо той же принцип: рухатися швидко, щоб доставити інфраструктуру та програмні абстракції, які розв’язують сучасні болі, інженеруючи майбутнє та потреби клієнтів, коли технологія майбутнього з’явиться.

Які були найбільші технічні та культурні зрушення при переході від гіперсเกลера до капітально-ефектної стартап-компанії, як Voltage Park?

У гіперсเกลері інженерія існує всередині величезної, зрілої екосистеми – інструментів, відповідності вимогам, маркетингу, доставки клієнтів – де ціле перевищує суму його частин. У стартапі ви обмінюєте ці хвости на швидкість, згуртованість та вплив. Там немає розросталої бюрократії, яка могла б вас сповільнити, але там також немає попередньо створеного каркаса – вам потрібно створити свій власний. Нагородою є культурна згуртованість та можливість доставляти продукти високого впливу за частку часу.

Компанія Voltage Park володіє більш ніж 24 000 процесорами H100 GPU та пропонує безпосередній доступ за конкурентоспроможною ціною. Які клієнтські сегменти ви головним чином націлюєте?

Наша платформа охоплює безпосередній доступ, віртуальні машини, керований Kubernetes, керований Slurm та комплементарний програмний стек, призначений для завантажень штучного інтелекту. Ми обслуговуємо будь-кого, хто будує продукти штучного інтелекту або будує з його допомогою: дослідників, стартапи та підприємства. Деякі з найбільш розвинених будівельників моделей у світі сьогодні, такі як Cursor, які спонукають розвиток науки та інженерії машинного навчання, тренують свої моделі на платформі Voltage Park. Аналогічно, багато відомих компаній, що працюють з продуктами штучного інтелекту, виконують завдання висновку на платформі Voltage Park. Для підприємств ми знижуємо як витрати, так і поріг експертизи для легкого переходу від прототипу до виробництва та надійного масштабування завантажень.

Як ви керуєте використанням енергії, ефективністю витрат та сталим розвитком при розширенні вашої інфраструктурної бази?

Ми зробили та продовжимо робити значні інвестиції у ефективне управління нашими центрами даних. Ми досягли значних вигод у використанні енергії та витратах завдяки інноваціям, таким як прогностичний технічний сервіс на основі штучного інтелекту, який зменшує простої та уникнення витрат порівняно з реактивним обслуговуванням. Більша частина нашої поточної бази працює на 99% відновлюваних та зелених джерелах енергії, і цей показник зростатиме при розширенні.

Як партнерства та стандарти формують еволюцію компанії Voltage Park як постачальника повнофункціональної інфраструктури штучного інтелекту?

Ми партнеруємо з компаніями, які перетворюють штучний інтелект з теоретичних на трансформаційні. Добрим прикладом є наш інвестування в Matrice.ai, де ми очолили їхнє розширення на рівні насіння. Їхній досвід у галузі моделей зору дозволяє нашим клієнтам перетворювати пікселі на інтелект з вертикально-специфічними рішеннями у декількох галузях. Ми продовжимо забезпечувати інфраструктурну основу для постачальників моделей, щоб розгортати свої моделі у модульному, інтегрованому апаратно-програмному стеку, який забезпечує продуктивність без компромісу безпеки чи конфіденційності даних.

Ми також активно підтримуємо відкриту спільноту – підтримуємо, наприклад, SGLang як наш інфраструктурний партнер для надання високоякісних відкритих проектів, таких як SpecForge, спільноті. І ми партнеруємо з Національним науковим фондом США для підтримки пілотного проекту Національного ресурсу досліджень штучного інтелекту (NAIRR), публічно-приватної ініціативи з розширення доступу до передових інструментів штучного інтелекту для дослідників та освітніх працівників по всій країні.

Які функції управління підприємствами, аудиту чи безпеки ви пріоритезуєте для розробників штучного інтелекту?

Безпека, конфіденційність даних та відповідність вимогам є фундаментальними особливостями нашої платформи штучного інтелекту, і наші клієнти мають спокій, працюючи з підприємствами рівня стека. Коли ми розгортаємо наш програмний стек для вирішення додаткових болів клієнтів, ми додаємо функції, такі як детальні дозволи ресурсів та даних, багаторівневі аудитні сліди, захист від аварій та безшовну інтеграцію з підприємствами даних, API та агентськими фреймворками. Метою є надати клієнтам гнучкість хмари з контролем локальної середовища.

Яку пораду ви маєте для дослідників штучного інтелекту та інфраструктурних команд, які намагаються масштабуватися ефективно у сучасному обмеженому середовищі обчислень?

Дослідники штучного інтелекту та компанії повинні спробувати мінімізувати час, витрачений на інфраструктурні виклики, оскільки це недиференційована діяльність, і скористатися вищим рівнем примітивів, таких як керований Kubernetes та Slurm. Виберіть партнерів, які пропонують прозору ціну, експертну технічну підтримку та виняткову інженерну експертизу для допомоги у вирішенні проблем. Ці фактори прискорять як ваше дослідження, так і ваш масштаб.

Де ви бачите компанію Voltage Park за три роки – далі вниз по стеку до повноцінної служби штучного інтелекту чи розгалуження в нові області, такі як краєвий обчислення?

Три роки в ландшафті штучного інтелекту – це епоха. Ми є клієнт-орієнтованою компанією, і за три роки, як і зараз, будемо зосереджуватися на реальних болях клієнтів, чи то в контексті побудови продуктів штучного інтелекту, чи споживання їх. Я очікую, що ми матимемо значно більшу складність у ширині та глибині нашого програмного стека, і досвід допомоги світовим лідерам у прискоренні впровадження штучного інтелекту у масштабі.

Дякуємо за велике інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Voltage Park.