Modelos e plataformas de IA
AWS adiciona extensões gerenciadas de cluster ao SageMaker HyperPod Slurm

Pontos-chaveAs extensões de cluster transformam o software do nó em estado declarado que o HyperPod…
Ver mais
- As extensões de cluster transformam o software do nó em estado declarado que o HyperPod valida e reconcilia continuamente.
- Os administradores podem atualizar configurações ou versões de extensões sem substituir nós ou reexecutar scripts de ciclo de vida.
- Migrar clusters existentes requer a remoção manual dos agentes instalados por script durante uma janela de manutenção.
Amazon Web Services lançou extensões gerenciadas de cluster para o Amazon SageMaker HyperPod Slurm em 20 de novembro de 2026, levando a configuração declarativa ao software nos nós em execução por meio de APIs ou do console do SageMaker AI. As duas primeiras extensões abrangem observabilidade e gerenciamento de usuários, incluindo integração com diretórios.
O lançamento aborda a parte de um cluster compartilhado de treinamento de IA que muda após o provisionamento. Em 2026, o HyperPod já havia acrescentado configuração do Slurm orientada por API, configuração de nós baseada em AMI, provisionamento contínuo, gerenciamento automático da topologia e verificações aprofundadas de integridade. Esses recursos gerenciam a definição, a capacidade, a disposição da rede e a integridade do hardware do cluster; as extensões de cluster aplicam a mesma abordagem ao software dos nós, que muda conforme evoluem as equipes de pesquisa, os requisitos de monitoramento e as versões dos pacotes.
Estado desejado do software dos nós
Os administradores podem instalar, configurar, atualizar e remover os pacotes gerenciados pela AWS usando o console, a AWS CLI ou um SDK. Antes da implantação, o HyperPod valida as configurações em relação ao esquema da versão selecionada da extensão e registra a versão e as configurações solicitadas como estado desejado. Em seguida, um agente do nó aplica apenas os componentes necessários à função de cada nó, inclusive nos nós adicionados por escalabilidade ou substituição.
As atualizações enviam apenas as configurações que estão sendo alteradas. O HyperPod as incorpora à configuração armazenada e reinicia somente os componentes afetados, sem substituir nós nem executar novamente os scripts de ciclo de vida. Também é possível instalar novas versões de extensões sem atualizar a AMI. Antes da implantação, o HyperPod verifica as configurações armazenadas em relação ao esquema da nova versão, e as atualizações são feitas somente para versões posteriores.
Durante a implantação, cada extensão informa o estado Creating ou Updating; informa Active quando todos os nós estão executando a configuração solicitada sem nenhum problema relatado; e informa Degraded quando há falhas ou problemas relatados pelos nós. DescribeClusterExtension agrupa os problemas de integridade no nível dos nós por causa, com um código, uma mensagem e a quantidade de nós afetados. O HyperPod tenta novamente as falhas internas; os administradores podem corrigir outras causas e tentar novamente nos nós afetados com uma chamada de atualização que não contenha alterações de configuração.
Observabilidade e gerenciamento de usuários
A extensão sagemaker-observability coleta métricas dos nós, das GPUs, do Elastic Fabric Adapter, dos trabalhos do Slurm e do cluster Slurm, enviando-as ao Amazon CloudWatch ou ao Amazon Managed Service for Prometheus. É possível configurar as categorias e os níveis das métricas, bem como os intervalos de coleta, enquanto os nós executam apenas os componentes pertinentes à sua função, como os exportadores DCGM e EFA nos nós com GPU e as métricas do cluster Slurm no nó controlador.
Um espaço de trabalho opcional do Amazon Managed Grafana adiciona painéis pré-criados de clusters e trabalhos. Eles relacionam a integridade geral do cluster e o estado do Slurm às métricas de infraestrutura por nó e ao uso de recursos de trabalhos individuais, incluindo CPU, memória, utilização da GPU, E/S de disco e dados do NCCL.
A extensão sagemaker-user-management cria usuários e grupos do Linux com IDs consistentes entre os nós, controla o acesso por SSH e o acesso ao sudo sem senha de acordo com o tipo de nó e registra os usuários na contabilidade do Slurm. As contas podem ser declaradas localmente, obtidas do Active Directory por LDAPS ou gerenciadas das duas formas, inclusive por meio de conexões com o AWS Directory Service for Microsoft Active Directory. Os nós novos e de substituição recebem a mesma configuração, e os administradores podem revisar o acesso pela API, sem precisar entrar em cada nó.
Migração, permissões e custos
As extensões de cluster exigem um cluster HyperPod Slurm que use a AMI do HyperPod de 2 de novembro de 2026 ou posterior, com o provisionamento contínuo ativado. Como as extensões executam software como root, a AWS considera as permissões de criação, atualização e exclusão permissões de administrador e recomenda não concedê-las à função de execução do cluster. Essa função ainda precisa de acesso aos destinos das métricas e aos segredos do Active Directory, enquanto o gerenciamento de usuários exige um sistema de arquivos compartilhado para os diretórios pessoais. ARNs de extensão separados permitem que as equipes de plataforma e de monitoramento gerenciem extensões diferentes.
Os clusters existentes podem migrar uma capacidade de cada vez, mantendo scripts e extensões em coexistência. O processo exige atualizar o software do cluster, desativar essa capacidade nos scripts de ciclo de vida, remover manualmente os agentes instalados por scripts durante uma janela de manutenção e criar a extensão no cluster limpo. Cada componente precisa ter um único responsável: gerenciar o mesmo exportador, usuário ou serviço pelos dois mecanismos pode causar conflitos de instalação ou de execução. As AMIs personalizadas e os scripts de ciclo de vida continuam disponíveis para software específico da organização, e os administradores mantêm o acesso por SSH e o acesso direto à configuração de todos os nós, inclusive do controlador.
As duas extensões estão disponíveis em todas as regiões nas quais o SageMaker HyperPod é oferecido. Não há cobrança adicional pelas extensões de cluster, mas os clientes pagam pelos recursos subjacentes, como CloudWatch, Amazon Managed Service for Prometheus e AWS Secrets Manager.
Para clusters compartilhados de modelos de fundação, a consequência operacional é que o software comum dos nós passa a ser uma parte declarada e continuamente verificada do estado do cluster, em vez de um conjunto de scripts de provisionamento. Remover os agentes instalados por scripts é a única etapa manual da migração em toda a frota; depois disso, as expansões de escala e os nós de substituição herdam as mesmas configurações de extensões, enquanto as ferramentas específicas da organização permanecem sob o controle da equipe responsável pelo cluster.












