Алекс Йех, Основатель и Генеральный Директор GMI Cloud – Интервью

Алекс Йех является основателем и генеральным директором GMI Cloud, венчурной цифровой инфраструктурной компании, целью которой является предоставление возможности любому легко развертывать ИИ и упрощение того, как бизнес строит, развертывает и масштабирует ИИ с помощью интегрированных аппаратных и программных решений.

Что вдохновило вас на создание GMI Cloud, и как ваш опыт повлиял на ваш подход к построению компании?

GMI Cloud была основана в 2021 году, в первую очередь занимаясь строительством и эксплуатацией центров обработки данных для предоставления вычислительных узлов Bitcoin. За этот период мы создали три центра обработки данных в Арканзасе и Техасе.

В июне прошлого года мы заметили сильный спрос со стороны инвесторов и клиентов на вычислительную мощность GPU. В течение месяца мы приняли решение сменить направление на облачную инфраструктуру ИИ. Быстрое развитие ИИ и волна новых бизнес-возможностей, которые оно приносит, либо невозможно предвидеть, либо трудно описать. Предоставляя необходимую инфраструктуру, GMI Cloud стремится оставаться в тесной связи с интересными и часто непредвиденными возможностями в ИИ.

До GMI Cloud я был партнером в венчурной капитальной фирме, регулярно взаимодействуя с новыми отраслями. Я рассматриваю искусственный интеллект как последнюю “золотую лихорадку” 21-го века, где GPU и серверы ИИ служат “кирками” для современных “проспекторов”, стимулируя быстрый рост облачных компаний, специализирующихся на аренде вычислительной мощности GPU.

Можете ли вы рассказать нам о миссии GMI Cloud по упрощению инфраструктуры ИИ и почему этот фокус так важен на сегодняшнем рынке?

Упрощение инфраструктуры ИИ является важным из-за текущей сложности и фрагментации стека ИИ, что может ограничить доступность и эффективность для бизнеса, стремящегося использовать потенциал ИИ. Сегодняшние установки ИИ часто включают несколько несвязанных слоев – от предварительной обработки данных и обучения моделей до развертывания и масштабирования – которые требуют значительного времени, специализированных навыков и ресурсов для эффективного управления. Многие компании тратят недели и даже месяцы на поиск наиболее подходящих слоев инфраструктуры ИИ, процесс, который может занять недели или даже месяцы, влияя на опыт пользователя и производительность.

1. Ускорение развертывания: Упрощенная инфраструктура позволяет быстрее разрабатывать и развертывать решения ИИ, помогая компаниям оставаться конкурентоспособными и адаптироваться к меняющимся рыночным потребностям.
2. Снижение затрат и сокращение ресурсов: Минимизируя необходимость в специализированном оборудовании и индивидуальных интеграциях, оптимизированный стек ИИ может значительно снизить затраты, делая ИИ более доступным, особенно для небольших бизнесов.
3. Обеспечение масштабируемости: Хорошо интегрированная инфраструктура позволяет эффективно управлять ресурсами, что является важным для масштабирования приложений при росте спроса, гарантируя, что решения ИИ остаются прочными и отзывчивыми на более крупных масштабах.
4. Повышение доступности: Упрощенная инфраструктура делает ее проще для более широкого круга организаций принять ИИ без необходимости обширных технических знаний. Эта демократизация ИИ способствует инновациям и создает ценность в различных отраслях.
5. Поддержка быстрой инновации: По мере развития технологии ИИ менее сложная инфраструктура делает ее проще включать новые инструменты, модели и методы, позволяя организациям оставаться гибкими и быстро инновировать.

Миссия GMI Cloud по упрощению инфраструктуры ИИ важна для того, чтобы помочь предприятиям и стартапам полностью использовать преимущества ИИ, делая его доступным, экономически эффективным и масштабируемым для организаций всех размеров.

Вы недавно получили 82 миллиона долларов в рамках финансирования серии А. Как эти новые средства будут использованы, и какие у вас ближайшие цели расширения?

GMI Cloud будет использовать эти средства для открытия нового центра обработки данных в Колорадо и в первую очередь инвестирует в H200 GPU для построения дополнительного крупномасштабного кластера GPU. GMI Cloud также активно разрабатывает свою собственную облачную платформу управления ресурсами, Cluster Engine, которая безшовно интегрирована с нашим передовым оборудованием. Эта платформа обеспечивает непревзойденные возможности виртуализации, контейнеризации и оркестровки.

GMI Cloud предлагает доступ к GPU в 2 раза быстрее, чем у конкурентов. Какие уникальные подходы или технологии делают это возможным?

Одним из ключевых аспектов уникального подхода GMI Cloud является использование NVIDIA (NVDA ) NCP, которое предоставляет GMI Cloud приоритетный доступ к GPU и другим передовым ресурсам. Этот прямой закуп у производителей, в сочетании с гибкими вариантами финансирования, гарантирует экономическую эффективность и высокую безопасность цепочки поставок.

С учетом того, что GPU NVIDIA H100 доступны в пяти глобальных местах, как эта инфраструктура поддерживает потребности ваших клиентов ИИ в США и Азии?

GMI Cloud стратегически установила глобальное присутствие, обслуживая несколько стран и регионов, включая Тайвань, США и Таиланд, с сетью IDC (Интернет-центров обработки данных) по всему миру. В настоящее время GMI Cloud эксплуатирует тысячи карт GPU на основе NVIDIA Hopper и находится на траектории быстрого расширения, планируя умножить свои ресурсы в течение следующих шести месяцев. Это географическое распределение позволяет GMI Cloud предоставлять бесперебойную, низкозадержную службу клиентам в разных регионах, оптимизируя эффективность передачи данных и предоставляя прочную инфраструктурную поддержку для предприятий, расширяющих свои операции ИИ во всем мире.

Кроме того, глобальные возможности GMI Cloud позволяют ей понимать и удовлетворять разнообразные рыночные требования и нормативные требования в различных регионах, предоставляя индивидуальные решения, адаптированные к уникальным потребностям каждого местоположения. С растущим пулом вычислительных ресурсов GMI Cloud решает растущий спрос на вычислительную мощность ИИ, предлагая клиентам достаточную вычислительную мощность для ускорения обучения моделей, повышения точности и улучшения производительности моделей для широкого спектра проектов ИИ.

Как лидер в области облачных услуг ИИ, на какие тенденции или потребности клиентов вы фокусируетесь, чтобы стимулировать технологическое развитие GMI?

От GPU до приложений GMI Cloud стимулирует интеллектуальную трансформацию для клиентов, удовлетворяя требования развития технологии ИИ.

Аппаратная архитектура:

• Физическая архитектура кластера: Экземпляры, такие как 1250 H100, включают стойки GPU, листовые стойки и стойки спайна, с оптимизированными конфигурациями серверов и сетевого оборудования, которые обеспечивают высокопроизводительную вычислительную мощность.
• Структура сетевой топологии: Разработана с эффективной тканью IB и Ethernet, гарантируя бесперебойную передачу данных и связь.

Программное обеспечение и услуги:

• Cluster Engine: Используя внутриразработанный движок для управления ресурсами, такими как голый металл, Kubernetes/контейнеры и HPC Slurm, обеспечивающий оптимальное распределение ресурсов для пользователей и администраторов.
• Проприетарная облачная платформа: CLUSTER ENGINE – это проприетарная система управления облачными ресурсами, которая оптимизирует планирование ресурсов, предоставляя гибкое и эффективное решение управления кластером.

Добавление дорожной карты инференса:

1. Непрерывные вычисления, гарантирующие высокий уровень обслуживания.
2. Время разделения для дробного использования времени.
3. Экземпляр спота

Консультационные и индивидуальные услуги:: Предлагает консультационные, отчетные и индивидуальные услуги, такие как контейнеризация, рекомендации по обучению моделей и адаптированные платформы MLOps.

Мощные функции безопасности и мониторинга: Включает управление доступом на основе ролей (RBAC), управление группами пользователей, мониторинг в реальном времени, историческое отслеживание и уведомления об оповещениях.

По вашему мнению, какие из самых больших проблем и возможностей для инфраструктуры ИИ в ближайшие несколько лет?

Проблемы::

1. Масштабируемость и затраты: По мере того, как модели становятся более сложными, поддержание масштабируемости и доступности становится проблемой, особенно для небольших компаний.
2. Энергия и устойчивость: Высокое энергопотребление требует более экологически чистых решений, поскольку внедрение ИИ набирает обороты.
3. Безопасность и конфиденциальность: Защита данных в общей инфраструктуре требует эволюционирующей безопасности и нормативной соответствия.
4. Интероперабельность: Фрагментированные инструменты в стеке ИИ усложняют бесперебойное развертывание и интеграцию. Мы сейчас можем сократить время разработки вдвое и сократить количество сотрудников в проекте ИИ в три раза.

Возможности::

1. Рост ИИ на краю: Обработка ИИ ближе к источникам данных предлагает снижение задержки и экономию пропускной способности.
2. Автоматизированные MLOps: Упрощенные операции снижают сложность развертывания, позволяя компаниям сосредоточиться на приложениях.
3. Энергоэффективное оборудование: Инновации могут улучшить доступность и снизить воздействие на окружающую среду.
4. Гибридное облако: Инфраструктура, работающая в облаке и на локальных средах, хорошо подходит для гибкости предприятий.
5. Управление ИИ: Использование ИИ для автономной оптимизации инфраструктуры снижает простои и повышает эффективность.

Можете ли вы поделиться своими мыслями о долгосрочном видении GMI Cloud? Какую роль вы видите ее в эволюции ИИ и СИ?

Я хочу построить ИИ интернета. Я хочу построить инфраструктуру, которая будет питать будущее во всем мире.

Создать доступную платформу, подобную Squarespace или Wix, но для ИИ. Любой должен иметь возможность построить свое приложение ИИ.

В ближайшие годы ИИ увидит значительный рост, особенно с использованием генеративного ИИ, поскольку больше отраслей интегрируют эти технологии для улучшения творчества, автоматизации процессов и оптимизации принятия решений. Инференция будет играть центральную роль в этом будущем, позволяя реализовывать приложения ИИ в реальном времени, которые могут выполнять сложные задачи эффективно и масштабно. Бизнес-кейсы (B2B) будут доминировать, поскольку предприятия все чаще будут использовать ИИ для повышения производительности, оптимизации операций и создания новой ценности. Долгосрочное видение GMI Cloud соответствует этой тенденции, стремясь предоставить передовую, надежную инфраструктуру, которая поддерживает предприятия в максимизации производительности и воздействия ИИ на протяжении всей их организации.

Когда вы масштабируете операции с новым центром обработки данных в Колорадо, какие стратегические цели или вехи вы стремитесь достичь в течение следующего года?

Когда мы масштабируем операции с новым центром обработки данных в Колорадо, мы сосредоточены на нескольких стратегических целях и вехах в течение следующего года. США являются крупнейшим рынком для ИИ и вычислений ИИ, что делает для нас крайне важным установление сильного присутствия в этом регионе. Стратегическое расположение Колорадо, в сочетании с его прочной технологической экосистемой и благоприятной деловой средой, позиционирует нас для лучшего обслуживания растущей клиентской базы и улучшения наших предложений.

Какой совет вы дадите компаниям или стартапам, стремящимся принять передовую инфраструктуру ИИ?

Для стартапов, ориентированных на инновации ИИ, приоритетом должно быть построение и совершенствование своих продуктов, а не тратя ценное время на управление инфраструктурой. Сотрудничайте с надежными технологическими поставщиками, которые предлагают надежные и масштабируемые решения GPU, избегая поставщиков, которые идут на компромисс с белыми этикетками. Надежность и быстрое развертывание имеют решающее значение; на ранних этапах скорость часто является единственным конкурентным преимуществом, которое имеет стартап против установленных игроков. Выберите облачные, гибкие варианты, которые поддерживают рост, и сосредоточьтесь на безопасности и соблюдении требований, не жертвуя гибкостью. Таким образом, стартапы могут интегрироваться без проблем, быстро итерировать и направлять свои ресурсы на то, что действительно важно – доставку выдающегося продукта на рынке.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить GMI Cloud,