Модели и платформы ИИ
vCluster добавляет частные облака с выделенным оборудованием для ИИ и возможностью самостоятельного управления
vCluster Platform v5.0 предоставляет клиентам облачных решений для ИИ возможность самостоятельно пользоваться выделенными серверами и одобренными поставщиком средами Kubernetes, Slurm и инференса.
Ключевые моментыvCluster Platform v5.0 позволяет клиентам выделять серверы с GPU на физическом…
Показать больше
- vCluster Platform v5.0 позволяет клиентам выделять серверы с GPU на физическом оборудовании без участия персонала провайдера в обработке каждого запроса.
- Провайдеры контролируют, к каким типам машин и шаблонам имеет доступ каждый арендатор, а клиенты самостоятельно обслуживают себя в пределах квот.
- Ограниченная доступность означает, что операторам по-прежнему необходимо проверять совместимость и измерять, действительно ли нагрузка на поддержку снижается.
Компания vCluster Labs представила vCluster Platform v5.0 в рамках ограниченного доступа. Платформа позволяет поставщикам облачных решений для ИИ предлагать среды самообслуживания на выделенных физических серверах. Клиенты могут самостоятельно выделять машины из предоставленных им мощностей, выбирать образ операционной системы и запускать кластеры Kubernetes, Slurm или для инференса, не обращаясь к поставщику с каждой отдельной просьбой.
Выпуск от 19 ноября решает практическую проблему операторов, уже взявших на себя обязательство предоставлять мощности на физических серверах. Клиент может арендовать группу серверов с графическими процессорами, но по-прежнему зависеть от операционной команды поставщика, которая подготавливает машины для новых проектов. Новая платформа передает часть таких решений клиенту, сохраняя за поставщиком право собственности на оборудование и распределение мощностей.
Единый пул физических серверов
В этом выпуске физические серверы добавлены в пул ресурсов, которым управляет vMetal — компонент платформы, отвечающий за подготовку инфраструктуры. Оператор распределяет мощности между клиентами или оставляет их доступными по запросу, а затем определяет, какие типы машин, образы и шаблоны кластеров доступны каждому клиенту. На уровне выше отдельных проектов платформа вводит четко обозначенную границу клиента, называемую тенантом. Квоты ограничивают объем мощностей, который клиент может задействовать, а клиенты не видят ресурсы, доступ к которым им не предоставлен.
Для команды, отвечающей за платформу клиента, это означает, что несколько внутренних групп могут пользоваться ресурсами по одному и тому же договору, не запрашивая у поставщика отдельное выделение мощностей для каждой из них. Например, исследовательская группа может развернуть среду Slurm с запланированными заданиями, а команда разработки приложений — использовать Kubernetes для развертывания системы инференса. Поставщик определяет, какие конфигурации поддерживает, а клиент может выбирать из них. Таким образом, объем контроля клиента зависит от того, что входит в предоставленные ему мощности и какие шаблоны доступны у поставщика.
По словам компании, поставщики могут пользоваться ее консолью или создать портал под собственным брендом на базе того же API. Это важно для операторов, продающих инфраструктуру под своим брендом: интерфейс может отличаться, и при этом не потребуется отдельная система учета ресурсов и подготовки инфраструктуры для каждого вида услуг.
Выделенное оборудование с облачной моделью подготовки инфраструктуры
Физические серверы дают доступ к оборудованию, а не к виртуальным машинам, совместно использующим хост с другими клиентами. Это может быть привлекательным для покупателей, которым нужна предсказуемая конфигурация оборудования, выделенные мощности ускорителей или возможность самостоятельно управлять программной средой. Однако одна лишь бронь физических серверов не превращает их в готовую к использованию облачную услугу. Операционной системе все равно нужна настройка, доступ — конфигурирование, а кластер — подготовка.
Подход vCluster сочетает выделенные машины и отдельную для каждого клиента сеть с самостоятельной подготовкой инфраструктуры. Поставщик может использовать один и тот же пул ресурсов как для простой аренды серверов, так и для более управляемых продуктов. Бизнес-идея заключается в том, что сокращение числа операций, выполняемых сотрудниками поставщика, может упростить подключение каждого клиента. При этом покупатели, предпочитающие кластер с управляемым обслуживанием, смогут приобрести услугу другого уровня. В этом выпуске не указано, сколько сэкономит каждая из сторон: экономическая целесообразность будет зависеть от загрузки оборудования и объема поддержки, необходимой клиентам.
Важно и то, как операторы распоряжаются оборудованием, простаивающим между проектами. Бронирование мощностей позволяет покупателям планировать работу, но забронированные машины могут оставаться недоступными для других клиентов, даже когда они простаивают. Пул ресурсов по запросу повышает гибкость, но только если поставщик способен надежно удовлетворять спрос. Платформа позволяет поставщикам предлагать обе модели, однако необходимость устанавливать условия бронирования и планировать действия на случай дефицита ресурсов никуда не исчезает.
Что ограниченный доступ означает для операторов
Версия 5.0 пока не доступна всем желающим. В документации поставщика рекомендуется продолжать использовать действующие версии с долгосрочной поддержкой — Platform v4.12 и vCluster v0.37 — для текущих развертываний. Операторам, рассматривающим переход на новую версию, по-прежнему необходимо оценить ее совместимость со средствами подготовки инфраструктуры и управления сетями, а также убедиться, что клиенты могут перейти от выделения машин к готовому к использованию кластеру без возникновения новых узких мест в поддержке.
В первую очередь нужно проверить работу платформы на практике: насколько быстро поставщик может предоставить готовую инфраструктуру после выделения оборудования и как часто клиентам впоследствии требуется помощь. Если эти показатели улучшатся и при этом управлять выделенными мощностями не станет сложнее, самообслуживание может стать существенным преимуществом облачных поставщиков для ИИ, предлагающих схожее оборудование.












