Ai2 lança ToyBlocks para testar como os robôs aprendem e falham

Em 6 de novembro de 2026, a Ai2 lançou o ToyBlocks como o primeiro ambiente de sua estrutura FoundationWorlds, que combina uma simulação robótica aberta com demonstrações geradas, dois modelos treinados e ferramentas de avaliação. A estrutura foi projetada para tornar repetíveis os experimentos de aprendizado robótico e facilitar o rastreamento de falhas.

O ambiente coloca um braço robótico simulado e blocos identificados sobre uma mesa. As tarefas de empurrar, virar e empilhar são complementadas por tarefas de busca, classificação e organização: a letra ou imagem necessária em um bloco pode estar oculta, então o robô precisa virá-lo antes de decidir onde colocá-lo. A variação do tamanho dos blocos, da altura da mesa e de outras propriedades entre as cenas testa se as políticas conseguem lidar com mudanças na geometria.

O domínio restrito permite que a Ai2 trabalhe simultaneamente em quatro propriedades: física e visuais realistas, geração escalável de tarefas e demonstrações, problemas que exigem raciocínio e destreza, e cobertura das tarefas que o domínio pode comportar.

Demonstrações automatizadas e modelos abertos

O aprendizado por reforço e o planejamento de movimentos criam habilidades para tarefas curtas no Isaac Lab, da Nvidia. A geração de habilidades pode usar o estado privilegiado do simulador, incluindo as posições e orientações exatas dos blocos, em vez de estimativas feitas por câmeras, automatizando comportamentos que, de outra forma, exigiriam teleoperação de um robô físico. Em seguida, um planejador de tarefas e movimentos seleciona e encadeia habilidades para produzir demonstrações rotuladas. Segundo a Ai2, centenas de planos podem ser executados simultaneamente em uma única GPU, a até 24 vezes a velocidade em tempo real.

Pesquisadores podem ponderar as combinações de treinamento para dar mais peso a habilidades específicas e avaliar políticas em tarefas que não foram incluídas no treinamento. Assim, o gerador de dados funciona como um controle experimental, e não apenas como uma fonte de conjuntos de dados maiores.

As metas são expressas como especificações de planejamento PDDL no repositório do ToyBlocks, permitindo que o sistema de avaliação pontue a conclusão e o progresso intermediário sem métricas criadas especificamente para cada tarefa. As demonstrações são armazenadas no formato LeRobot. Uma política hierárquica pode substituir qualquer um dos níveis por um oráculo que forneça um plano ou uma ação correta, distinguindo decisões equivocadas de falhas na execução motora. Estados de falha também podem retornar à geração de dados para produzir novas demonstrações e estratégias de recuperação.

A Ai2 informa que a versão inicial contém 85.336 demonstrações de tarefas de horizonte longo, cada uma composta por cerca de 6 a 12 demonstrações de habilidades, dependendo do conjunto, abrangendo quase 1.600 horas de execução robótica e 144 milhões de quadros. O conjunto de dados público usa dados LeRobot no formato Parquet sob uma licença ODC-BY, com subconjuntos de níveis fácil, médio e difícil. O código principal está licenciado sob Apache-2.0; os submódulos especificados e os recursos baixados têm licenças próprias.

Os cartões dos modelos da Ai2 dividem a política lançada em dois níveis: Molmo2-4B-tb, um modelo com cerca de 4,5 bilhões de parâmetros, recebe uma imagem da câmera frontal e uma meta em texto para produzir um plano curto, a próxima ação e um ponto de destino; ManiFlow-tb, com 322,5 milhões de parâmetros, usa imagens da câmera frontal e da garra, o estado do robô, informações sobre a tarefa e um mapa de calor do destino para gerar sequências de ações.

Experimentos de generalização e com agentes

Os experimentos espaciais abrangem empilhar, desempilhar, virar e girar, distinguindo a interpolação dentro do intervalo de treinamento da extrapolação para além dele. Entre os exemplos estão treinar com blocos em uma região da área de trabalho e testá-los em outra, ou excluir determinadas alturas de pilha do treinamento. A Ai2 relata uma generalização inicial fraca para ManiFlow, π0.5 e MolmoAct 2, apesar do pré-treinamento em larga escala, e conclui que a generalização de modelos de ação ainda está longe de ser um problema resolvido.

Os testes com agentes revelam outro tipo de fragilidade. Segundo a Ai2, seu sistema baseado no Claude Opus 5.5 resolveu todas as 30 tarefas clássicas de empilhamento de blocos descritas em texto e também todas as 30 ao escolher ações em um ciclo fechado, a partir de imagens repetidas da câmera. Nas cenas de busca e formação de palavras, com até oito blocos, faltava uma letra necessária em 50% dos casos, que precisavam ser identificados como impossíveis. O agente resolveu a tarefa ou identificou corretamente sua inviabilidade em 63% dos casos; a confusão entre letras semelhantes foi responsável por 13%, e a orientação incorreta das letras, por 15%.

Um terceiro experimento com agentes permitiu que o sistema testasse comportamentos inesperados das habilidades e criasse novas descrições com base nos resultados. A Ai2 informa que essas descrições aprendidas elevaram a taxa de sucesso de 24%, com as descrições padrão, para 63%, superando os 36% obtidos com descrições escritas por um especialista humano.

Testes com robôs físicos e suas limitações

Na avaliação física, modelos treinados inteiramente com dados de simulação do ToyBlocks foram executados em um braço Franka FR3 com uma garra Robotiq, sem exemplos de treinamento do mundo real. As 30 configurações de cena continham de 4 a 10 blocos vistos durante o treinamento. Um episódio só era considerado bem-sucedido quando os blocos relevantes alcançavam as poses desejadas sem colisões; uma intervenção do operador devido a um movimento inseguro era considerada uma falha.

Para reduzir a diferença entre simulação e realidade, a Ai2 ajustou o atrito e a inércia das articulações simuladas com base em trajetórias reais. A geração de dados randomizou o tamanho e o atrito dos objetos, além da altura da mesa, da iluminação, dos planos de fundo, dos materiais e dos parâmetros das câmeras.

A Ai2 relata taxas de sucesso das habilidades atômicas do ManiFlow de 80,0% na simulação e 81,1% no braço físico. O sistema hierárquico Molmo 2–ManiFlow teve sucesso em 55,5% dos episódios simulados (111 de 200) e em 50,0% dos episódios físicos (15 de 30).

A Ai2 faz duas ressalvas em relação a esses resultados. A avaliação hierárquica física usou a configuração simulada mais fácil, com os caracteres dos blocos visíveis e na vertical, e são necessários mais testes para estabelecer a confiança estatística entre tarefas. A ficha do ManiFlow também registra taxas de sucesso entre 54% e 59% em quatro execuções dos mesmos 128 episódios simulados, porque a simulação e a inferência em lotes não são determinísticas bit a bit.

A Ai2 planeja uma segunda versão, com um conjunto de dados maior, mais habilidades e avaliações comparativas mais abrangentes, além de treinamento de aprendizagem por reforço totalmente integrado, ausente no pacote atual. Entre as direções de longo prazo estão a manipulação com dois braços, mãos hábeis com sensores de força e tato e a interação com pilhas desordenadas de blocos.

A contribuição imediata do ToyBlocks é, portanto, o controle experimental: os pesquisadores podem alterar as combinações de treinamento, separar o planejamento da execução e encaminhar as falhas de volta à geração de dados. Os resultados iniciais também definem seus limites: a fraca generalização em simulação e a avaliação física restrita moderam o que essas primeiras taxas de transferência permitem concluir sobre a aprendizagem robótica para além do mundo dos blocos.