Олексій Єх, Засновник та Головний Виконавчий Директор GMI Cloud – Серія Інтерв’ю

Олексій Єх є Засновником і Головним Виконавчим Директором GMI Cloud, компанії цифрової інфраструктури, яка має на меті надати можливість будь-кому легко розгорнути штучний інтелект і спростити процес побудови, розгортання та масштабування штучного інтелекту за допомогою інтегрованих апаратних і програмних рішень.

Що спонукало вас заснувати GMI Cloud, і як ваш досвід вплинув на побудову компанії?

GMI Cloud була заснована у 2021 році, і протягом перших двох років вона займалася будівництвом і експлуатацією центрів даних для забезпечення вузлів обчислень біткоїнів. За цей період ми побудували три центри даних в Арканзасі та Техасі.

У червні минулого року ми помітили сильний попит інвесторів і клієнтів на обчислювальну потужність GPU. Уже через місяць ми вирішили змінити напрямок діяльності на інфраструктуру штучного інтелекту в хмарі. Штучний інтелект розвивається дуже швидко, і ця галузь пропонує багато нових бізнес-можливостей, які важко передбачити або описати. Надавши необхідну інфраструктуру, GMI Cloud прагне бути близько пов’язаною з цими можливостями.

До заснування GMI Cloud я був партнером у компанії вентирування капіталу, де регулярно взаємодіяв з новими галузями. Я вважаю штучний інтелект “золотою лихоманкою” 21-го століття, а GPU і сервери штучного інтелекту – “ковадлами” для сучасних “розшуковників”, які сприяють швидкому зростанню компаній, що спеціалізуються на оренді обчислювальної потужності GPU.

Розкажіть нам про місію GMI Cloud щодо спрощення інфраструктури штучного інтелекту і чому цей напрямок є таким важливим на сучасному ринку?

Спрощення інфраструктури штучного інтелекту є важливим через сучасну складність і фрагментацію штучного інтелекту, що може обмежувати доступність і ефективність для підприємств, які намагаються використати потенціал штучного інтелекту. Сучасні системи штучного інтелекту часто складаються з декількох відокремлених шарів – від попередньої обробки даних і навчання моделей до розгортання і масштабування – які вимагають значного часу, спеціалізованих навичок і ресурсів для ефективного управління. Багато компаній витрачають тижні і навіть місяці на пошук найкращих шарів інфраструктури штучного інтелекту, що може тривати тижнями або місяцями, впливаючи на досвід користувача і продуктивність.

1. Прискорення розгортання: Спрощена інфраструктура дозволяє швидше розробляти і розгортати рішення штучного інтелекту, допомагаючи компаніям залишатися конкурентоспроможними і адаптуватися до зміною ринку.
2. Зниження витрат і ресурсів: Мінімізуючи потребу в спеціалізованому обладнанні і налаштуваннях, спрощений штабель штучного інтелекту може суттєво знизити витрати, роблячи штучний інтелект більш доступним, особливо для малих підприємств.
3. Забезпечення масштабованості: Добре інтегрована інфраструктура дозволяє ефективно керувати ресурсами, що є важливим для масштабування застосунків при зростанні попиту, забезпечуючи, щоб рішення штучного інтелекту залишалися потужними і реактивними на більших масштабах.
4. Поліпшення доступності: Спрощена інфраструктура робить її легше для широкого спектра організацій采用 штучний інтелект без потреби у великих технічних знаннях. Ця демократизація штучного інтелекту сприяє інноваціям і створює цінність у багатьох галузях.
5. Підтримка швидкої інновації: Оскільки технологія штучного інтелекту розвивається, менш складна інфраструктура робить її легше включати нові інструменти, моделі і методи, дозволяючи організаціям залишатися гнучкими і швидко інновувати.

Місія GMI Cloud щодо спрощення інфраструктури штучного інтелекту є важливою для допомоги підприємствам і стартапам повністю реалізувати переваги штучного інтелекту, роблячи його доступним, ефективним і масштабованим для підприємств усіх розмірів.

Ви最近 отримали 82 мільйони доларів у фінансуванні серії А. Як ці нові кошти будуть використані, і які є ваші негайні цілі розширення?

GMI Cloud використає ці кошти для відкриття нового центру даних у Колорадо і здебільшого інвестуватиме у GPU H200 для побудови додаткового великомасштабного кластера GPU. GMI Cloud також активно розробляє свою власну платформу управління ресурсами у хмарі, Cluster Engine, яка безшовно інтегрована з нашим обладнанням. Ця платформа забезпечує неперевершені можливості віртуалізації, контейнеризації і оркестрації.

GMI Cloud пропонує доступ до GPU у 2 рази швидше, ніж у конкурентів. Які унікальні підходи або технології роблять це можливим?

Ключовим аспектом унікального підходу GMI Cloud є використання NVIDIA (NVDA ) NCP, яке забезпечує GMI Cloud пріоритетний доступ до GPU і інших передових ресурсів. Цей прямий закупівельний процес від виробників, у поєднанні з сильними фінансовими варіантами, забезпечує ефективність витрат і високо безпечну ланцюжку поставок.

З GPU NVIDIA H100, доступними у п’яти глобальних місцях, як ця інфраструктура підтримує потреби ваших клієнтів штучного інтелекту у США і Азії?

GMI Cloud створила глобальну присутність, обслуговуючи декілька країн і регіонів, включаючи Тайвань, США і Таїланд, з мережею центрів даних у всьому світі. Наразі GMI Cloud експлуатує тисячі карт NVIDIA Hopper, і вона знаходиться на траєкторії швидкого розширення, з планами помножити свої ресурси впродовж наступних шести місяців. Ця географічна розподіленість дозволяє GMI Cloud забезпечувати безперебійну, низьколатентну службу клієнтам у різних регіонах, оптимізуючи ефективність передачі даних і забезпечуючи потужну інфраструктурну підтримку для підприємств, які розширюють свої операції штучного інтелекту у всьому світі.

Крім того, глобальні можливості GMI Cloud дозволяють їй зрозуміти і задовольнити різні ринкові вимоги і нормативні вимоги у різних регіонах, пропонуючи індивідуальні рішення, адаптовані до унікальних потреб кожного місця. З зростаючим пулом обчислювальних ресурсів, GMI Cloud відповідає на зростаючий попит на обчислювальну потужність штучного інтелекту, пропонуючи клієнтам достатню обчислювальну потужність для прискорення навчання моделей, підвищення точності і поліпшення продуктивності моделей для широкого спектра проектів штучного інтелекту.

Як лідер у сфері штучного інтелекту, на які тенденції або потреби клієнтів ви зосереджені, щоб рухати технологію GMI вперед?

Від GPU до застосунків, GMI Cloud забезпечує інтелектуальну трансформацію для клієнтів, задовольняючи вимоги розвитку технології штучного інтелекту.

Апаратна архітектура:

• Фізична архітектура кластера: Інстанси, такі як 1250 H100, включають стійки GPU, листові стійки і хребтові стійки, з оптимізованими конфігураціями серверів і мережевого обладнання, які забезпечують високу обчислювальну потужність.
• Структура мережевої топології: Розроблена з ефективним тканим IB і Ethernet, забезпечуючи гладку передачу даних і комунікацію.

Програмне забезпечення і послуги:

• Cluster Engine: Використання власної розробки для управління ресурсами, такими як голе залізо, контейнери/кластери, і HPC Slurm, забезпечуючи оптимальне розподілення ресурсів для користувачів і адміністраторів.
• Пропрієтарна платформа у хмарі: CLUSTER ENGINE – це пропрієтарна система управління у хмарі, яка оптимізує розподілення ресурсів, забезпечуючи гнучке і ефективне рішення для управління кластерами.

Додати інференційний двигун:

1. Неперервне обчислення, гарантування високого рівня обслуговування.
2. Часове розподілення для фракційного використання часу.
3. Інстанс-спот

Консультаційні і індивідуальні послуги:: Надає консультаційні, звітні і індивідуальні послуги, такі як контейнеризація, рекомендації щодо навчання моделей і індивідуальні платформи MLOps.

Міцні засоби безпеки і моніторингу:: Включає рольове керування доступом (RBAC), керування групами користувачів, моніторинг у реальному часі, історичний трекінг і сповіщення.

На вашу думку, які є найбільшими викликами і можливостями для інфраструктури штучного інтелекту впродовж наступних кількох років?

Виклики::

1. Масштабованість і витрати: Коли моделі стають більш складними, підтримання масштабованості і доступності стає викликом, особливо для малих компаній.
2. Енергія і сталий розвиток: Високий рівень споживання енергії вимагає більш екологічних рішень, оскільки прийняття штучного інтелекту зростає.
3. Безпека і конфіденційність: Захист даних у спільній інфраструктурі вимагає розвитку безпеки і нормативної відповідності.
4. Інтероперабельність: Фрагментовані інструменти у штабелі штучного інтелекту ускладнюють безперешкодне розгортання і інтеграцію.

Можливості::

1. Ріст штучного інтелекту на краю: Обробка штучного інтелекту ближче до джерел даних пропонує зниження затримки і збереження смуги пропускання.
2. Автоматизовані MLOps: Упрощені операції знижують складність розгортання, дозволяючи компаніям зосередитися на застосунках.
3. Енерго-ефективне обладнання: Інновації можуть покращити доступність і зменшити вплив на навколишнє середовище.
4. Гібридна хмара: Інфраструктура, яка працює у хмарі і локальних середовищах, добре підходить для гнучкості підприємств.
5. Управління штучним інтелектом: Використання штучного інтелекту для автономної оптимізації інфраструктури знижує простої і підвищує ефективність.

Чи можете ви поділитися своїми довгостроковими баченнями для GMI Cloud? Яку роль ви бачите для неї у розвитку штучного інтелекту і AGI?

Я хочу побудувати штучний інтелект інтернету. Я хочу побудувати інфраструктуру, яка буде підтримувати майбутнє у всьому світі.

Створити доступну платформу, подібну до Squarespace або Wix, але для штучного інтелекту. Будь-хто повинен мати можливість побудувати свій застосунок штучного інтелекту.

У найближчі роки штучний інтелект побачить суттєвий ріст, особливо з використанням випадкових прикладів штучного інтелекту, оскільки більше галузей інтегрують ці технології для підвищення творчості, автоматизації процесів і оптимізації прийняття рішень. Інференція відіграє центральну роль у цьому майбутньому, дозволяючи застосунках штучного інтелекту обробляти складні завдання ефективно і у великих масштабах. Бізнес-клієнтські випадки використання будуть домінувати, оскільки підприємства все частіше зосереджуються на використанні штучного інтелекту для підвищення продуктивності, оптимізації операцій і створення нової цінності. Довгострокове бачення GMI Cloud відповідає цій тенденції, спрямованій на забезпечення підприємствам передової, надійної інфраструктури, яка підтримує максимальну продуктивність і вплив штучного інтелекту у всьому органі.

Як ви розширюєте операції з новим центром даних у Колорадо, які стратегічні цілі або віхи ви намагаєтеся досягти впродовж наступного року?

Як ми розширюємо операції з новим центром даних у Колорадо, ми зосереджені на декількох стратегічних цілях і віхах упродовж наступного року. США є найбільшим ринком для штучного інтелекту і обчислень штучного інтелекту, тому для нас важливо створити сильну присутність у цьому регіоні. Стратегічне розташування Колорадо, у поєднанні з його потужним технологічним екосистемою і сприятливим бізнес-середовищем, дозволяє нам краще обслуговувати зростаючу клієнтську базу і покращувати наші послуги.

Яку пораду ви дали б компаніям або стартапам, які хочуть采用 передову інфраструктуру штучного інтелекту?

Для стартапів, які зосереджені на інноваціях штучного інтелекту, першочерговим завданням повинно бути побудова і вдосконалення своїх продуктів, а не витрачання цінного часу на управління інфраструктурою. Партнеруйте з надійними технологічними постачальниками, які пропонують надійні і масштабовані рішення GPU, уникайте постачальників, які обходять кутки з біло-етICHованими альтернативами. Надійність і швидке розгортання є критичними; на ранніх етапах швидкість часто є єдиною конкурентною перешкодою, яку має стартап проти встановлених гравців. Вибирайте хмарні, гнучкі варіанти, які підтримують зростання, і зосереджуйтеся на безпеці і відповідності, не жертвуючи гнучкістю. Таким чином, стартапи можуть інтегруватися безперешкодно, швидко ітерувати і направляти свої ресурси на те, що справді важливо – створення видатного продукту на ринку.

Дякую за велике інтерв’ю, читачам, які хочуть дізнатися більше, слід відвідати GMI Cloud,