Modelos e plataformas de IA
Unemployment Labs relata padrões Blackwell em modelos chineses de IA
Adicione Unite.AI às suas fontes preferidas no Google
Uma análise da Unemployment Labs, de Will DePue, publicada em 12 de novembro de 2026, identificou padrões de inicialização compatíveis com as GPUs Blackwell da NVIDIA, sujeitas a controles de exportação, em seis modelos de pesos abertos da DeepSeek, da Moonshot AI, da MiniMax e do Ant Group.
A análise associa o DeepSeek-V4-Flash e o MiniMax-M3 à inicialização em chips B200 ou B300, e o DeepSeek-V4-Pro, o Kimi K3, o Kimi K3.1-Pro e o Ling-3.1-flash a chips GB200 ou GB300. As correspondências identificam a arquitetura de hardware por trás dos pesos iniciais; a possibilidade de esses chips também terem sido usados no treinamento é uma inferência à parte.
Lançamentos sucessivos situam no tempo as aparentes mudanças. O DeepSeek-V3 foi identificado como Hopper em dezembro de 2024, seguido pelos dois modelos V4 identificados como Blackwell em abril de 2026. O Kimi K2.5, da Moonshot AI, foi identificado como Hopper em janeiro de 2026, antes do K3, em julho de 2026; o MiniMax-M2.7 e o M3 seguiram o mesmo padrão em abril de 2026 e junho de 2026, respectivamente; o Ling-3.0-flash e o Ling-3.1-flash, do Ant Group, fizeram o mesmo em agosto de 2026 e outubro de 2026.
O padrão não foi universal. Os modelos mais recentes da Alibaba, Zhipu, Tencent, Xiaomi e StepFun cujos resultados puderam ser lidos foram identificados como Hopper, não Blackwell.
Como a inicialização revela a arquitetura de hardware
A técnica começa pelos pesos, os parâmetros numéricos ajustados durante o treinamento. Antes do treinamento, a configuração de PyTorch/cuRAND examinada usa o gerador Philox para produzir valores reproduzíveis a partir de uma semente. As threads da GPU distribuem esses valores entre as posições dos pesos, e uma inicialização suficientemente grande usa 2.048 threads por multiprocessador de streaming (SM). Portanto, alterar o número de SMs muda a posição em que os mesmos números gerados são atribuídos.
Nas configurações testadas, os chips Hopper H100 SXM, H200 e H800 têm 132 SMs e 270.336 threads; os chips B200 e B300 têm 148 SMs e 303.104 threads; e os chips GB200 e GB300 têm 152 SMs e 311.296 threads. O resultado identifica um desses grupos, não um chip específico dentro dele.
Pesos reservados para palavras ou símbolos ausentes do treinamento podem preservar quase exatamente seus valores iniciais, enquanto os pesos treinados podem manter uma relação estatística mais fraca com esses valores. Os investigadores selecionam uma semente e uma arquitetura em um conjunto de pesos e, em seguida, testam essa combinação, sem alterações, em um conjunto separado, excluído da busca.
De acordo com seu modelo estatístico, o relatório estima que cerca de 6 trilhões de combinações de semente e arquitetura produziriam, por acaso, uma correspondência mais forte esperada de aproximadamente 8 sigma, uma medida estatística da distância em relação à variação aleatória. Os resultados mais fortes para os modelos identificados variam de 49 a 1.385 sigma, e cada teste individual incluído alcança pelo menos 20 sigma.
Verificações físicas e estimativas da escala de treinamento
As reproduções em chips físicos feitas por DePue forneceram outra verificação. Usando a semente recuperada da DeepSeek, um H100 reproduziu os valores preservados do DeepSeek-V3, mas não os do V4-Flash; com um B300, ocorreu o contrário. No B300, o PyTorch sem modificações reproduziu 461 das 469 linhas selecionadas do V4-Flash, com correlações acima de 0,99, incluindo 445 correspondências completas, bit a bit, de linhas inteiras. Um GB200 alugado reproduziu todas as 13 linhas preservadas do Kimi K3 usando a semente da Moonshot; alterar em uma unidade qualquer uma das sementes recuperadas não produziu nenhuma linha correspondente.
O relatório afirma que o método concordou nos 24 casos em que um desenvolvedor identificou publicamente o hardware de um modelo específico, mas ressalva que 11 envolvem pontos de verificação da etapa zero e que modelos relacionados não são independentes. Por isso, a comparação serve como verificação de consistência, não como uma taxa de precisão medida.
O Kimi K3.1-Pro usa a semente do K3 e pode ser um ponto de verificação do K3 submetido a treinamento adicional após o pré-treinamento. Partindo do pressuposto de que o hardware usado na inicialização também foi usado no treinamento, DePue estima cinco execuções finais distintas, cada uma com aproximadamente 500 a 3.000 GPUs Blackwell, geralmente ao longo de dois a três meses. O cálculo divide o volume computacional do treinamento pela capacidade de processamento dos chips, considerando uma utilização de 35% e usando as contagens de tokens divulgadas pela DeepSeek e estimativas de tokens baseadas nos pesos para os outros modelos. Aplicando o mesmo cálculo ao DeepSeek-V3, chega-se a 2.000 a 2.500 chips, em comparação com os 2.048 divulgados pela DeepSeek.
Limites para a aplicação dos controles de exportação
Uma correspondência diz respeito apenas à inicialização; não permite inventariar todos os processadores usados posteriormente no treinamento. Um laboratório pode criar os valores iniciais em um sistema e transferi-los, clusters mistos podem deixar rastros de apenas parte do hardware, e um resultado Hopper não exclui treinamento posterior em Blackwell. Os pesos tampouco permitem estabelecer a propriedade, a localização ou a aquisição dos chips. O relatório de DePue observa que sistemas Blackwell podem ser alugados fora da China e afirma que, por si só, essas evidências não comprovam nem contrabando nem violação dos controles de exportação.
A MI300X da AMD é a alternativa de hardware identificada. Ela normalmente usa 304 unidades de processamento, mas pode ser dividida em dois grupos de 152 ou configurada para usar 148, reproduzindo as arquiteturas nos testes físicos. No caso do DeepSeek-V4-Flash, 363 dos 377 valores preservados que diferem entre fornecedores corresponderam à NVIDIA, e nenhum correspondeu à AMD. Esse teste numérico não esclareceu os outros cinco modelos, embora o relatório considere muito improvável a existência de um cluster AMD configurado especialmente.
O relatório afirma que as exportações de B200, B300, GB200 e GB300 para a China exigem uma licença dos EUA e que nenhuma licença desse tipo foi mencionada; afirma também que o MI300X está sujeito a controles. O próprio método exige pesos públicos e um padrão de inicialização reconhecível, dependente do hardware. A inicialização pela CPU não deixa nenhum layout de GPU, e o gerador PaddlePaddle da Baidu não incorpora o layout do chip analisado.
A análise fornece aos formuladores de políticas evidências técnicas de acesso ao hardware, sem chegar a uma conclusão sobre a aplicação das regras: os pesos públicos podem revelar um padrão de inicialização, mas, para determinar se os controles de exportação foram violados, ainda seriam necessárias evidências sobre onde o hardware foi usado, quem era seu proprietário e como o acesso foi obtido.
