Крис Мильино, генеральный директор Axe Compute — серия интервью

Крис Мильино — генеральный директор Axe Compute. За его плечами более двадцати лет опыта создания и развития технологических компаний, а также инвестирования в них. Он стал сооснователем Social Reality и сотрудничал с DNA Fund, объединив предпринимательский опыт со знаниями в области рынков капитала и инвестиций в инфраструктуру. В Axe Compute он занимается операционными и финансовыми задачами, связанными с наращиванием выделенных вычислительных мощностей для ИИ для корпоративных клиентов.

Axe Compute предоставляет выделенную GPU-инфраструктуру на базе физических серверов без виртуализации для корпоративных задач ИИ. Предложение Axe Access открывает доступ к имеющимся GPU-мощностям, а Axe Build создает инфраструктуру с учетом долгосрочных потребностей клиентов. В этом интервью Мильино рассказывает об экономике использования GPU, ограничениях по энергоснабжению, производительности кластеров, партнерствах по развертыванию и о том, как переход к инференсу и ИИ-агентам может изменить спрос на корпоративную инфраструктуру.

Ваша карьера предпринимателя длится более двадцати лет: вы стали сооснователем Social Reality, возглавляли DNA Fund, а теперь занимаете должность генерального директора Axe Compute. Что изначально привлекло вас в сфере инфраструктуры для ИИ и какую возможность вы увидели — ту, которой традиционные облачные провайдеры не уделяли должного внимания?

Возможность, которую я увидел, была очевидна: развитие ИИ опережает развитие инфраструктуры, необходимой для его поддержки. Более двадцати лет я создаю и развиваю компании и инвестирую в них, и именно в этом разрыве я обнаружил самые большие возможности. От основания Social Reality до работы в DNA Fund меня всегда привлекали фундаментальные проблемы, для которых существует ясный путь от новой технологии к реальной коммерческой ценности. Компании вкладывали в ИИ миллиарды, но многие не могли получить надежный доступ к вычислительным мощностям по цене, оправданной с коммерческой точки зрения. Традиционные облачные провайдеры создали выдающийся бизнес, однако их инфраструктура рассчитана на гибкие среды с совместным использованием ресурсов, а не на постоянные ресурсоемкие задачи ИИ, работающие круглосуточно. Я и сам создавал компании, поэтому знаю, что нужно бизнесу: предсказуемые расходы, надежный доступ и возможность масштабирования. Я увидел возможность создать выделенную инфраструктуру с учетом реальных потребностей корпоративного ИИ, чтобы компании могли контролировать свои вычислительные ресурсы, не превращаясь при этом в операторов центров обработки данных. Именно поэтому я работаю в Axe Compute. От компаний, создающих инфраструктуру для ИИ, зависит, насколько далеко и быстро сможет развиваться эта технология.

По мере того как компании ускоряют внедрение ИИ, доступ к высокопроизводительным GPU-вычислениям становится важнейшим вопросом. Какие заблуждения о потребностях в вычислительных ресурсах встречаются у бизнеса чаще всего и как компаниям следует выбирать между выделенной GPU-инфраструктурой и традиционными облачными сервисами?

Самое распространенное заблуждение — считать, что большее количество GPU автоматически означает более высокую производительность ИИ. Архитектура, построенная вокруг этих GPU, стабильность доступа к ним и затраты на их эксплуатацию не менее важны. Второе заблуждение — полагать, что облачная модель, созданная для корпоративного программного обеспечения, подходит и для ИИ. Публичное облако отлично подходит для экспериментов, непредсказуемого спроса и задач, которые быстро масштабируются вверх или вниз. Но когда вы переходите к промышленной эксплуатации и круглосуточно выполняете ресурсоемкие задачи, экономика меняется. Вы уже не платите за вычислительные мощности от случая к случаю, а финансируете непрерывную промышленную деятельность по модели оплаты за потребление. Я советую компаниям оценивать загрузку ресурсов, продолжительность выполнения задач, требования к сети и совокупную стоимость за несколько лет, а не только почасовую цену GPU. Для постоянных нагрузок выделенная инфраструктура обеспечивает предсказуемость затрат и контроль, но оптимальный выбор зависит от того, как именно вы планируете использовать ИИ.

Axe Compute предлагает две разные модели — Axe Access и Axe Build, обеспечивая как немедленный доступ к GPU, так и специализированную инфраструктуру для ИИ. Можете рассказать, как работают эти модели, для каких клиентов они предназначены и как организациям определить, какой подход лучше подходит для их задач ИИ?

Мы создали Axe Access и Axe Build, потому что компании находятся на разных этапах развития и не должны быть вынуждены пользоваться одной и той же моделью инфраструктуры. Axe Access предназначен для организаций, которым нужны выделенные GPU-мощности уже сейчас: например, чтобы расширить существующую деятельность, запустить новую модель или перейти от нынешнего провайдера, возможностей которого уже недостаточно. Axe Build предназначен для клиентов, которым нужна выделенная инфраструктура, разработанная с учетом долгосрочных потребностей — от мощностей и архитектуры до эксплуатации. Выбор зависит от сроков, масштабов и необходимой индивидуальной настройки. Если вам нужно немедленно запускать задачи, начните с доступных мощностей. Если вы планируете использовать ИИ на протяжении нескольких лет, создайте инфраструктуру для этого. Для меня главное — дать клиентам практичный путь от возникновения потребности до получения работающих мощностей, ведь технология приобретает ценность только тогда, когда ее можно применять.

Axe Compute объявила о заключении контрактов на проекты в сфере инфраструктуры для ИИ на сумму более 3,45 миллиарда долларов, что свидетельствует о значительном спросе на выделенные вычислительные мощности. С какими главными трудностями вы столкнулись, превращая эти обязательства в работающие GPU-кластеры, и какие уроки извлекли, наращивая инфраструктуру такими темпами?

Главный вывод заключается в том, что привлекать спрос и обеспечивать инфраструктуру — это две совершенно разные задачи, и обе нужно решать исключительно хорошо. При объёме проектов по заключённым контрактам свыше 3,45 млрд долларов важен каждый этап: создание площадок, обеспечение электроснабжения, закупки, финансирование, организация сетевой инфраструктуры и технические работы по вводу кластеров в эксплуатацию. У каждого этапа свой график, и любая задержка может затормозить развёртывание целиком. Самое важное — электроснабжение. Можно иметь договорённости, капитал и оборудование, но без электричества всё это не принесёт отдачи. Мы научились масштабировать бизнес, уделяя особое внимание последовательности реализации проектов, выбору партнёров и распределению капитала. И мы никогда не забываем, что стоимость законтрактованных проектов — не то же самое, что уже развёрнутая инфраструктура, приносящая выручку. Победят компании, которые смогут стабильно превращать обязательства в надёжные, работающие мощности. Реализация — это и есть бизнес-модель.

В обсуждениях инфраструктуры ИИ часто доминирует тема доступности GPU, однако электроснабжение, охлаждение, сети и мощности центров обработки данных могут быть не менее серьёзными ограничениями. Какое из этих узких мест, на ваш взгляд, представляет наибольшую долгосрочную угрозу для масштабирования ИИ и как Axe Compute решает эти задачи?

Электроснабжение. Практически все остальные компоненты инфраструктуры ИИ можно расширить или модернизировать быстрее, чем обеспечивающие её энергосистемы. Технологии GPU быстро развиваются, капитал можно привлечь, а объекты — построить. Но прокладка линий электропередачи, подключение к сетям энергокомпаний и создание крупных генерирующих мощностей занимают столько времени, что сроки часто выходят далеко за рамки планирования компаний в сфере ИИ. Мы рассчитываем на электросеть, способную справляться с предсказуемым спросом и поглощать резкий рост вычислительных мощностей. Решить эту задачу простым увеличением расходов на оборудование нельзя. В Axe Compute мы соотносим развитие инфраструктуры с реалистичными возможностями энергоснабжения и работаем с партнёрами, которые понимают специфику развёртывания высокоплотных ИИ-систем. Охлаждение и сети тоже критически важны, особенно по мере роста плотности размещения оборудования в стойках, однако именно надёжное и доступное по цене электроснабжение определит, где будет строиться инфраструктура ИИ и какие операторы смогут масштабировать бизнес с прибылью.

Создание высокопроизводительного ИИ-кластера — это гораздо больше, чем установка тысяч GPU. Как такие факторы, как архитектура сети, пропускная способность систем хранения данных, оркестрация задач и загрузка GPU, влияют на производительность в реальных условиях? В чём предприятия чаще всего недооценивают техническую сложность?

Все внимание приковано к GPU, но его производительность зависит от всего, что его окружает, — и именно здесь предприятия недооценивают сложность задачи. Можно установить чрезвычайно мощные процессоры, но если сеть не способна эффективно передавать данные между ними или система хранения не успевает снабжать их данными, вы платите за мощности, которыми не пользуетесь. Особенно важно это при крупномасштабном обучении: обмен данными между GPU может существенно влиять на скорость обучения модели. Оркестрация добавляет ещё один уровень сложности: нужно управлять планированием задач, распределением ресурсов, сбоями и меняющимся спросом, не допуская простоя мощностей. Я оцениваю производительность по полезному результату, а не по теоретическим характеристикам: хорошо загруженный кластер может быть намного экономичнее более крупного, но неэффективно работающего. Инфраструктура ИИ требует постоянной оптимизации оборудования, программного обеспечения и рабочих процессов. Однократной закупкой оборудования эту задачу не решить.

Недавно Axe Compute объявила о стратегическом партнёрстве с Penguin Solutions, призванном ускорить развёртывание крупномасштабной инфраструктуры ИИ. Какие конкретно технические и операционные возможности даёт это партнёрство и как оно поможет сократить сроки развёртывания, сохранив надёжность и производительность?

Penguin предоставляет три возможности: услуги по развёртыванию и эксплуатации площадок для GPU-кластеров под руководством экспертов; программное обеспечение ClusterWareAI для управления работой кластеров в крупных масштабах; а также круглосуточную (24×7) поддержку центра сетевых операций силами команды Penguin, которая работает вместе с нашей. Это важно, поскольку следующий этап роста инфраструктуры ИИ зависит от того, насколько эффективно компании смогут развёртывать и эксплуатировать сложные среды в крупных масштабах. Развёртывание ИИ-кластера предполагает интеграцию вычислительных ресурсов, сетей, систем хранения данных и управления в среду, которая надёжно работает при высоких нагрузках. Специалисты Penguin расширяют наши возможности по реализации проектов: мы сможем быстрее развёртывать инфраструктуру, брать на себя больше проектов и снижать риски при их выполнении. Наша цель — сделать развёртывание более стандартизированным и предсказуемым, не поступаясь производительностью, ведь ускорение проекта принесёт пользу лишь в том случае, если инфраструктура будет надёжно работать после запуска.

По мере того как ИИ выходит за рамки крупномасштабного обучения моделей и переходит к инференсу, автономным агентам и приложениям реального времени, как, по вашему мнению, будут меняться вычислительные потребности предприятий? Изменит ли этот переход принципиально подходы к проектированию, развёртыванию и географическому распределению GPU-кластеров?

В конечном счёте инференс станет огромной частью рынка коммерческой инфраструктуры ИИ, особенно по мере того, как компании будут переходить от создания моделей к внедрению ИИ в продукты, бизнес-процессы и сервисы для клиентов. Обучение проходит интенсивными этапами. Для инференса важны доступность, задержка, пропускная способность и непрерывная обработка миллионов запросов. Агенты добавляют ещё один уровень: они выполняют несколько задач и многократно обращаются к моделям в рамках одного рабочего процесса. Каждый запрос может быть небольшим, но общий спрос быстро растёт. Думаю, крупные централизованные кластеры продолжат обслуживать ресурсоёмкие нагрузки, а более географически распределённые мощности будут обеспечивать работу приложений, для которых важны время отклика и локализация данных. Компании также будут всё лучше подбирать оборудование под конкретные нагрузки, а не исходить из того, что для всего нужен самый мощный графический процессор. Меня воодушевляет то, что спрос будет становиться гораздо разнообразнее, а это играет на руку поставщикам, способным предложить нужные мощности в нужных местах и на выгодных экономических условиях.

Создание инфраструктуры ИИ требует значительных первоначальных вложений, а технологии графических процессоров продолжают быстро развиваться. Как Axe Compute подходит к экономике финансирования и эксплуатации выделенных кластеров графических процессоров и как предприятиям избежать привязки к дорогостоящему оборудованию, которое может устареть ещё до окончания срока его полезного использования?

Начинать нужно со спроса клиентов, а не с оборудования. Покупать дорогостоящую технику в надежде, что её загрузка появится сама собой, — неверный подход. Это не бизнес в сфере программного обеспечения: здесь приходится иметь дело с крупными материальными активами, длительными сроками строительства и технологиями, которые за короткое время существенно совершенствуются. В Axe Compute мы строим работу на контрактном спросе, взвешенном развёртывании и инфраструктуре, рассчитанной на клиентов, которым нужны стабильные мощности. Проблема морального устаревания существует, но графический процессор, переставший быть новейшим, не теряет коммерческой ценности. Не каждому приложению для инференса и не каждой корпоративной системе ИИ требуется оборудование последнего поколения; продлить срок эффективного использования имеющейся инфраструктуры можно за счёт грамотного распределения нагрузок. Клиентам следует оценивать экономику на протяжении всего срока действия контракта: загрузку, требования к производительности и гибкость по мере развития технологий. Важно, чтобы полезный экономический срок службы инфраструктуры соответствовал вложенному капиталу, а не строить бизнес-модель на предположении, что оборудование навсегда сохранит свою первоначальную стоимость.

Какие возможности для инноваций и инвестиций в инфраструктуру ИИ вы считаете наиболее перспективными в ближайшие три-пять лет? Останется ли рынок сосредоточенным в руках гиперскейлеров и крупных поставщиков графических процессоров или специализированные инфраструктурные компании смогут коренным образом изменить то, как предприятия получают доступ к вычислительным мощностям для ИИ?

Такой большой и сложный рынок не сможет эффективно обслуживаться несколькими поставщиками, использующими одну и ту же модель инфраструктуры. Гиперскейлеры сохранят огромное значение, но я с большим оптимизмом смотрю на перспективы специализированных операторов в ближайшие три-пять лет. Мы всё ещё на раннем этапе превращения инвестиций в ИИ в инфраструктуру, на которую компании опираются каждый день. У предприятий разные требования к производительности, суверенитету данных, затратам, срокам и географии, и это открывает реальные возможности для таких операторов, как мы. Наиболее интересные для меня возможности для инвестиций связаны с энергетической инфраструктурой, более эффективным охлаждением, передовыми сетевыми решениями и программным обеспечением, повышающим загрузку графических процессоров, поскольку всё это напрямую влияет на экономику ИИ. Будут меняться и подходы к финансированию: инвесторы станут лучше разбираться в этих активах и денежных потоках от мощностей, обеспеченных контрактами. Для Axe Compute возможность состоит в том, чтобы помогать формировать этот рынок, делая выделенные мощности для ИИ более доступными, предсказуемыми и масштабируемыми для организаций, всерьёз намеренных внедрять ИИ в производство. Именно это мы подразумеваем под вычислениями без компромиссов.

Спасибо за прекрасное интервью. Читателям, желающим узнать больше о выделенных мощностях графических процессоров и корпоративной инфраструктуре ИИ, стоит посетить Axe Compute.