Саурабх Гири, CPTO компании Voltage Park – Серия интервью

Саурабх Гири занимает должность главного директора по продукту и технологиям в компании Voltage Park и является исполнительным директором в ее совете. Он отвечает за определение стратегического видения компании, формирование дорожной карты продукта и управление инженерными операциями. Ранее Саурабх возглавлял команды, которые создавали, запускали и эксплуатировали платформу Amazon Bedrock, платформу Amazon для генеративного ИИ. На ранних этапах своей карьеры Саурабх был сооснователем и генеральным директором платформы следующего поколения для платежей; сооснователем компании алгоритмической торговли, специализирующейся на маркет-мейкинге и арбитраже кривых на рынке фьючерсов; и консультировал советы директоров и руководящие команды по вопросам стратегии, операций и финансовых вопросов.

Миссия компании Voltage Park заключается в том, чтобы помочь предприятиям преобразовать данные в бизнес-интеллект с помощью ИИ, сделав инфраструктуру ИИ доступной для всех. С десятками тысяч GPU в шести центрах обработки данных компания Voltage Park предлагает мировой уровень аппаратного и программного обеспечения, а также сервиса по невероятной цене – независимо от того, является ли клиент исследователем, стартапом или крупным предприятием.

Вы работали как в стартапах, так и в одной из крупнейших облачных провайдеров. Что изначально привлекло вас к миру инфраструктуры и ИИ?

Генеративный ИИ будет трансформационным в шаге изменения, который немногие технологии имели в последнем веке. То, что возможно сегодня с помощью передовых моделей, таких как OpenAI GPT-5, было бы невообразимым десять лет назад и удивительным даже три года назад.

Мы все еще находимся на ранних этапах. Мое внимание привлекает возможность формировать инфраструктурный слой, который определяет, как такая глубокая технология будет использоваться – для науки, для промышленности и для общества в целом.

В AWS вы помогли создать Amazon Bedrock. Какие уроки по инженерии продукта из этого опыта вы применяете в компании Voltage Park?

Amazon Bedrock многое изменил, и я действительно горжусь тем, чего удалось добиться команде Bedrock быстро. Основная идея Bedrock заключалась в том, что строителям нужен слой абстракции, который сделал бы выбор модели и модальности прозрачными – освобождая их от необходимости сосредотачиваться на построении решений, а не управлении сложностью инфраструктуры. Это была первая отраслевая платформа, которая обеспечивала бесшовный доступ к нескольким базовым моделям – тексту, видению и многомодальному – без необходимости для команд ориентироваться в модельных API или ограничениях оборудования.

Возможности базовых моделей развиваются с ошеломляющей скоростью – быстрее, чем предыдущие технологические сдвиги, такие как облачные вычисления, мобильные устройства или даже сам интернет. Моя команда Bedrock поставила инновации на эту скорость, предвидя, где возможности моделей будут через два или три поколения, и строя для этого будущего.

В компании Voltage Park мы применяем тот же принцип: двигаться быстро, чтобы поставить инфраструктуру и программные абстракции, которые решают сегодняшние болевые точки, а также инженерно обеспечивать, куда движется технология и что клиенты будут нуждаться, когда технология будущего прибудет.

Какими были самые большие технические и культурные сдвиги при переходе от гипермасштабируемого провайдера к капиталоэффективному стартапу, такому как Voltage Park?

В гипермасштабируемом провайдере инженерия существует внутри огромной, зрелой экосистемы – инструментов, соответствия требованиям, маркетинга, доставки клиентам – где все превышает сумму своих частей. В стартапе вы обмениваете эти ветры на скорость, сплоченность и влияние. Там нет разветвленной бюрократии, которая замедляла бы вас, но также нет предварительно построенного каркаса – вам нужно создать свой собственный. Награда заключается в культурной сплоченности и способности поставлять продукты высокого влияния за долю времени.

Компания Voltage Park владеет более 24 000 GPU H100 и предлагает доступ к голому металлу по конкурентной цене. Какие сегменты клиентов вы в первую очередь нацеливаетесь?

Наша платформа охватывает голый металл, виртуальные машины, управляемый Kubernetes, управляемый Slurm и комплементарный программный стек, предназначенный для рабочих нагрузок ИИ. Мы обслуживаем всех, кто строит продукты ИИ или строит с помощью ИИ: исследователей, стартапы и предприятия. Некоторые из самых сложных строителей моделей в мире сегодня, такие как Cursor, которые продвигают состояние искусства в области науки и инженерии машинного обучения, обучают свои модели на платформе Voltage Park. Аналогично, многие известные компании, производящие продукты ИИ, выполняют рабочие нагрузки вывода на платформе Voltage Park. Для предприятий мы снижаем как стоимость, так и порог экспертизы для легкого перехода от прототипа к производству и надежного масштабирования рабочих нагрузок.

Как вы управляете потреблением энергии, эффективностью затрат и устойчивостью при расширении вашей инфраструктуры?

Мы сделали и продолжаем делать значительные инвестиции в эффективное управление нашими центрами обработки данных. Мы обеспечили значительные выигрыши в потреблении энергии и затратах за счет инноваций, таких как прогностическое обслуживание на основе ИИ, которое снижает время простоя и избегает отходов по сравнению с реактивным обслуживанием. Большинство нашей текущей инфраструктуры работает на 99% возобновляемой и зеленой энергии, и это соотношение будет расти по мере расширения.

Как партнерства и стандарты формируют эволюцию компании Voltage Park в качестве полноценного провайдера инфраструктуры ИИ?

Мы сотрудничаем с компаниями, которые переводят ИИ из теоретического в трансформационный. Хорошим примером является наша инвестиция в Matrice.ai, где мы возглавили их расширение семян. Их экспертиза в области моделей видения позволяет нашим клиентам преобразовывать пиксели в интеллект с помощью вертикально-специфических решений в нескольких отраслях. Мы продолжим предоставлять инфраструктурную основу ИИ для провайдеров моделей, чтобы они могли развертывать свои модели в модульном, интегрированном программно-аппаратном стеке, который обеспечивает производительность без компрометации безопасности или конфиденциальности данных.

Мы также являемся активным участником сообщества с открытым исходным кодом – поддерживая, например, SGLang в качестве нашего инфраструктурного партнера, чтобы привнести высококачественные проекты с открытым исходным кодом, такие как SpecForge, в сообщество. И мы сотрудничаем с Национальным научным фондом США, чтобы поддержать пилотный проект Национального ресурса исследований ИИ (NAIRR), государственно-частную инициативу по расширению доступа к передовым инструментам ИИ для исследователей и педагогов по всей стране.

Какие функции управления, аудита или безопасности для разработчиков ИИ вы отдаете приоритет?

Безопасность, конфиденциальность данных и соответствие требованиям являются фундаментальными функциями нашей платформы ИИ-фабрики, и наши клиенты имеют спокойствие, работая с корпоративным стеком. Когда мы строим наш программный стек, чтобы решить дополнительные болевые точки клиентов, мы добавляем функции, такие как детальные разрешения ресурсов и данных, многоуровневые аудиторские следы, барьеры безопасности и бесшовную интеграцию с корпоративными трубопроводами данных, API и агентскими фреймворками. Цель – дать клиентам гибкость облака с контролем локальной среды.

Какой совет вы можете дать исследователям ИИ и командам инфраструктуры, стремящимся масштабироваться эффективно в сегодняшней вычислительной среде с ограничениями?

Исследователям ИИ и компаниям следует постараться минимизировать время, которое они тратят на решение инфраструктурных проблем, поскольку это неразличимая информация, и воспользоваться более высокими примитивами, такими как управляемый Kubernetes и Slurm. Выберите партнеров, которые предлагают прозрачную цену, экспертную операционную поддержку и исключительный инженерный опыт, чтобы помочь устранить проблемы. Эти факторы ускорят как ваши эксперименты, так и масштабирование.

Где вы видите компанию Voltage Park через три года – дальше вниз по стеку к полному сервису ИИ или ветвлению в новые области, такие как вычисления на краю?

Три года в ландшафте ИИ – это эпоха. Мы являемся компанией, ориентированной на клиента, и через три года, как и сейчас, будем сосредотачиваться на реальных болевых точках клиентов, будь то в контексте построения продуктов ИИ или использования их. Я ожидаю, что у нас будет гораздо больше изысканности в широте и глубине нашего программного стека, и отслеживаемая история помощи ведущим компаниям мира ускорить принятие ИИ в масштабе.

Спасибо за отличное интервью. Читателям, которые хотят узнать больше, следует посетить Voltage Park.