Саурабх Гірі, CPTO компанії Voltage Park – Інтерв’ю Серія

Саурабх Гірі обіймає посаду головного директора з продукту та технологій у компанії Voltage Park і є виконавчим директором її ради. Він відповідає за розвиток стратегічного бачення компанії, визначення її продуктової дорожньої карти та керівництво інженерними операціями. Раніше Саурабх очолював команди, які створювали, запускали та експлуатували платформу Amazon (AMZN ) Bedrock, платформу Amazon для генерації штучного інтелекту. На початку своєї кар’єри Саурабх був співзасновником і виконавчим директором платформи наступного покоління платежів; співзасновником компанії алгоритмічної торгівлі, спеціалізованої на створенні ринків і кривих арбітражу на ринку ф’ючерсів; і радником рад директорів і керівних команд з питань стратегії, операцій та фінансових питань.

Місія компанії Voltage Park полягає в тому, щоб допомогти підприємствам перетворити дані на бізнес-інтелект за допомогою штучного інтелекту, роблячи інфраструктуру штучного інтелекту доступною для всіх. З десятками тисяч процесорів GPU у шести центрах даних, компанія Voltage Park пропонує світовий клас апаратного забезпечення та сервісу клієнтів за неймовірну ціну – незалежно від того, чи є клієнтом дослідник, стартап чи велике підприємство.

Ви працювали як у стартапах, так і в одному з найбільших постачальників хмарних послуг у світі. Що спочатку привернуло вас до світу інфраструктури та штучного інтелекту?

Генераційний штучний інтелект буде трансформаційним у стрибкоподібний спосіб, який мало технологій мали у останні сто років. Що сьогодні можливе з передовими моделями, такими як GPT-5 від OpenAI, було б немислиме десять років тому і навіть дивувало три роки тому.

Ми все ще на початку. Моя привабливість полягає в можливості формувати інфраструктурний шар, який визначає, як така глибока технологія буде використовуватися – для науки, для промисловості та для суспільства в цілому.

У компанії AWS ви допомогли створити платформу Amazon Bedrock. Які уроки продукту ви витягнули з цього досвіду та застосовуєте зараз у компанії Voltage Park?

Платформа Amazon Bedrock відкрила нові горизонти у багатьох аспектах, і я дуже пишаюсь тим, чого було能够 досягти командою Bedrock швидко. Основна ідея Bedrock полягала в тому, що будівельники потребували абстрактного шару, який би зробив вибір моделі та модальності прозорими – звільняючи їх від концентрації на будівництві рішень, а не на управлінні інфраструктурною складністю. Це була перша промислова платформа, яка надавала безшовний доступ до кількох фундаментальних моделей – тексту, зору та мультимодальних – без потреби у тому, щоб команди орієнтувалися у модельних API чи обмеженнях апаратного забезпечення.

Можливості фундаментальних моделей розвиваються зі стрімкою швидкістю – швидше, ніж попередні технологічні зрушення, такі як хмарні обчислення, мобільні пристрої чи навіть сам інтернет. Моя команда Bedrock випускала інновації з тією ж швидкістю, передбачаючи, де будуть можливості моделей за два чи три покоління вперед і будуючи для цього майбутнього.

У компанії Voltage Park ми застосовуємо той же принцип: рухатися швидко, щоб доставляти інноваційні інфраструктурні рішення та програмні абстракції, які розв’язують сучасні болі, одночасно інженерно забезпечуючи майбутнє технологій та потреби клієнтів, коли майбутня технологія з’явиться.

Які були найбільшими технічними та культурними зрушеннями при переході від гіперсเกลера до капітально-ефектного стартапу, як компанії Voltage Park?

У гіперсเกลері інженерія існує всередині величезної, зрілої екосистеми – інструментів, відповідності вимогам, маркетингу, доставки клієнтів – де вся система перевершує суму її частин. У стартапі ви обмінюєте ці хвости на швидкість, згуртованість та вплив. Там немає розгалуженої бюрократії, яка могла б вас сповільнити, але також немає попередньо побудованого каркасу – вам потрібно створити свій власний. Нагорода полягає у культурній згуртованості та можливості випускати продукти високого впливу за частку часу.

Компанія Voltage Park володіє понад 24 000 процесорами H100 GPU та пропонує безпосередній доступ за конкурентоспроможною ціною. Які клієнтські сегменти ви головним чином націлюєтеся?

Наша платформа охоплює голий метал, віртуальні машини, керований Kubernetes, керований Slurm та супутній програмний стек, призначений для завдань штучного інтелекту. Ми обслуговуємо будь-кого, хто будує продукти штучного інтелекту чи будує з його допомогою: дослідників, стартапи та підприємства. Деякі з найбільш просунутих будівельників моделей у світі сьогодні, такі як Cursor, який просунув стан науки та інженерії машинного навчання, тренують свої моделі на платформі Voltage Park. Аналогічно, багато відомих компаній штучного інтелекту запускають завдання висновку на платформі Voltage Park. Для підприємств ми знижуємо як вартість, так і поріг експертизи для легкого переходу від прототипу до виробництва та масштабування завдань надійно.

Як ви керуєте витратами енергії, ефективністю витрат та сталим розвитком при розширенні вашої інфраструктурної бази?

Ми зробили та продовжимо робити значні інвестиції у ефективне управління нашими центрами даних. Ми досягли суттєвих здобутків у сфері використання енергії та витрат завдяки інноваціям, таким як прогнозне технічне обслуговування на основі штучного інтелекту, яке знижує простої та уникнення витрат порівняно з реактивним обслуговуванням. Більшість нашої поточної бази працює на 99% відновлюваних та зелених джерелах енергії, і цей показник зростатиме, коли ми розширимося.

Як партнерства та стандарти формують еволюцію компанії Voltage Park як постачальника повноцінної інфраструктури штучного інтелекту?

Ми партнеруємо з компаніями, які рухають штучний інтелект від теоретичних до трансформаційних. Добрим прикладом є наш інвестиційний внесок у Matrice.ai, де ми очолили їхнє розширення сіянців. Їхній експертиз у сфері моделей зору дозволяє нашим клієнтам перетворювати пікселі на інтелект з вертикальними рішеннями в різних галузях. Ми продовжимо надавати інфраструктурну основу для постачальників моделей для розгортання своїх моделей у модульному, інтегрованому апаратно-програмному стеці, який забезпечує продуктивність без компромісу безпеки чи конфіденційності даних.

Ми також активно підтримуємо відкриту спільноту – підтримуємо, наприклад, SGLang як наших інфраструктурних партнерів для надання високоякісних відкритих проектів, таких як SpecForge, спільноті. І ми партнеруємо з Національним науковим фондом США для підтримки пілотного проекту Національного ресурсу досліджень штучного інтелекту (NAIRR), публічно-приватної ініціативи з розширення доступу до передових інструментів штучного інтелекту для дослідників та освітян по всій країні.

Які функції управління підприємствами, аудиту чи безпеки ви пріоритезуєте для розробників штучного інтелекту?

Безпека, конфіденційність даних та відповідність вимогам є фундаментальними функціями нашої платформи штучного інтелекту, і наші клієнти мають спокій, працюючи з підприємствами рівня стека. Коли ми розширюємо наш програмний стек для вирішення додаткових болів клієнтів, ми додаємо функції, такі як детальні дозволи ресурсів та даних, багаторівневі аудиторські сліди, безпечні перилі та безшовну інтеграцію з підприємствами даних, API та агентськими фреймворками. Метою є надати клієнтам гнучкість хмари з контролем локальної середовища.

Яку пораду ви даєте дослідникам штучного інтелекту та інфраструктурним командам, які намагаються масштабуватися ефективно у сучасному обчислювально-обмеженому середовищі?

Дослідникам штучного інтелекту та компаніям слід намагатися мінімізувати час, витрачений на рішення інфраструктурних проблем, оскільки це нерозрізняване, і користуватися вищим рівнем примітивів, таких як керований Kubernetes і Slurm. Виберіть партнерів, які пропонують прозорі ціни, експертну оперативну підтримку та виняткову інженерну експертизу для допомоги у вирішенні проблем. Ці чинники прискорять як вашу експериментальну діяльність, так і масштабування.

Де ви бачите компанію Voltage Park через три роки – далі по стеку до повноцінної служби штучного інтелекту чи розгалуження у нові області, такі як краєві обчислення?

Три роки в ландшафті штучного інтелекту – це епоха. Ми є клієнтською компанією, і через три роки, як і зараз, будемо зосереджені на реальних болях клієнтів, чи то у контексті створення продуктів штучного інтелекту, чи споживання їх. Я очікую, що у нас буде значно більша складність у ширині та глибині нашого програмного стека, і досвід допомоги світовим лідерам у прискоренні впровадження штучного інтелекту у масштабі.

Дякуємо за чудове інтерв’ю. Читачам, які бажають дізнатися більше, рекомендуємо відвідати Voltage Park.