Ai2 vydává ToyBlocks, aby otestovala, jak se roboti učí a chybují

Ai2 vydala ToyBlocks 6. listopadu 2026 jako první prostředí v rámci svého systému FoundationWorlds. Spojuje otevřenou simulaci robota s generovanými ukázkami, dvěma natrénovanými modely a nástroji pro vyhodnocování. Systém má umožnit opakovatelné experimenty s učením robotů a usnadnit odhalování příčin chyb.

Prostředí tvoří simulované rameno a označené kostky na stole. K úlohám, jako je strkání, převracení a stohování, přibývá vyhledávání, třídění a uspořádávání: potřebné písmeno nebo obrázek na kostce může být skrytý, takže ji robot musí otočit, než rozhodne, kam patří. Změny velikosti kostek, výšky stolu a dalších vlastností mezi scénami ověřují, zda se zásady chování dokážou přizpůsobit proměnlivé geometrii.

Omezená oblast umožňuje Ai2 současně sledovat čtyři vlastnosti: věrohodnou fyziku a vizuální podobu, škálovatelné generování úloh a ukázek, úlohy vyžadující uvažování i obratnost a pokrytí úloh, které daná oblast umožňuje.

Automatizované ukázky a otevřené modely

Učení s posilováním a plánování pohybu vytvářejí dovednosti pro krátké úlohy v prostředí Isaac Lab od Nvidia. Při generování dovedností lze místo odhadů z kamer využít privilegovaný stav simulátoru, včetně přesných poloh a orientací kostek, a automatizovat tak chování, které by jinak vyžadovalo dálkové ovládání fyzického robota. Plánovač úloh a pohybu pak vybírá dovednosti a řadí je za sebe, aby vytvořil označené ukázky. Ai2 uvádí, že na jednom grafickém procesoru lze souběžně provádět stovky plánů, a to až 24krát rychleji než v reálném čase.

Výzkumníci mohou při tvorbě výsledných trénovacích směsí klást větší důraz na konkrétní dovednosti a vyhodnocovat zásady chování na úlohách, které nebyly součástí trénování. Generátor dat tak slouží jako nástroj pro řízení experimentů, nikoli pouze jako zdroj větších datových sad.

Cíle jsou zapsány jako specifikace plánování PDDL v úložišti ToyBlocks, což vyhodnocovacímu systému umožňuje hodnotit dokončení úloh i průběžný pokrok, aniž by pro každou úlohu bylo nutné vytvářet zvláštní metriky. Ukázky jsou ukládány ve formátu LeRobot. Hierarchická zásada chování může na kterékoli úrovni využít orákulum, které poskytne správný plán nebo akci, a odlišit tak chybná rozhodnutí od nesprávného provedení pohybu. Neúspěšné stavy lze také vrátit do procesu generování dat a vytvořit nové ukázky i postupy pro zotavení.

Ai2 uvádí, že první vydání obsahuje 85 336 ukázek úloh s dlouhým horizontem, z nichž každá zahrnuje přibližně 6–12 ukázek dovedností podle příslušné sady. Pokrývají téměř 1 600 hodin činnosti robotů a 144 milionů snímků. Veřejná datová sada využívá data LeRobot ve formátu Parquet pod licencí ODC-BY a obsahuje podmnožiny s lehkou, středně obtížnou a vysokou obtížností. Hlavní kód je licencován pod Apache-2.0; uvedené dílčí moduly a stažené prostředky mají vlastní licence.

Karty modelů Ai2 rozdělují vydanou zásadu chování do dvou úrovní: Molmo2-4B-tb, model s přibližně 4,5 miliardy parametrů, zpracovává snímek z přední kamery a textový cíl a vytváří krátký plán, následující akci a cílový bod; ManiFlow-tb má 322,5 milionu parametrů a využívá snímky z přední kamery a kamery na úchopném mechanismu, stav robota, informace o úloze a teplotní mapu cíle k vytváření bloků akcí.

Zobecňování a experimenty s agenty

Prostorové experimenty zahrnují stohování, rozkládání, převracení a otáčení a rozlišují interpolaci uvnitř trénovacího rozsahu od extrapolace za jeho hranice. Příklady zahrnují trénování s kostkami v jedné části pracovního prostoru a testování v jiné nebo vynechání určitých výšek stohu z trénování. Ai2 uvádí, že ManiFlow, π0.5 a MolmoAct 2 zpočátku vykazovaly slabou schopnost zobecňování navzdory rozsáhlému předtrénování, a dochází k závěru, že zobecňování akčních modelů zdaleka není vyřešené.

Testy agentů odhalují jinou slabinu. Ai2 uvádí, že její systém založený na Claude Opus 5.5 vyřešil všech 30 klasických úloh se stohováním kostek podle textových popisů a všech 30 úloh také tehdy, když vybíral akce v uzavřené smyčce na základě opakovaných snímků z kamery. Ve scénách s vyhledáváním a hláskováním, které obsahovaly až osm kostek, v 50 % případů chybělo požadované písmeno a úlohu bylo nutné označit za neřešitelnou. Agent úlohu vyřešil nebo správně rozpoznal její neřešitelnost v 63 % případů; záměna podobně vypadajících písmen představovala 13 % a nesprávná orientace písmen 15 %.

Ve třetím experimentu s agentem mohl systém ověřovat neočekávané chování dovedností a na základě výsledků vytvářet jejich nové popisy. Ai2 uvádí, že tyto naučené popisy zvýšily úspěšnost z 24 % při použití výchozích popisů na 63 %, čímž překonaly 36% úspěšnost dosaženou s popisy vytvořenými lidským odborníkem.

Testy s fyzickým robotem a jejich omezení

Při fyzickém vyhodnocování běžely modely natrénované výhradně na simulačních datech ToyBlocks bez použití příkladů z reálného světa na rameni Franka FR3 s úchopným mechanismem Robotiq. Třicet konfigurací scén obsahovalo 4–10 kostek, které se objevily už během trénování. Epizoda se počítala jako úspěšná pouze tehdy, když se příslušné kostky dostaly do cílových poloh bez kolizí; zásah operátora kvůli nebezpečnému pohybu se počítal jako neúspěch.

Aby Ai2 zmenšila rozdíl mezi simulací a realitou, upravila tření kloubů a setrvačnost simulovaného ramene podle skutečných trajektorií. Při generování dat se náhodně měnily velikost objektů, tření a výška stolu, stejně jako osvětlení, pozadí, materiály a parametry kamer.

Ai2 uvádí úspěšnost jednotlivých dovedností ManiFlow na úrovni 80,0 % v simulaci a 81,1 % na fyzickém rameni. Hierarchický systém Molmo 2–ManiFlow uspěl v 55,5 % simulovaných epizod (111 z 200) a v 50,0 % epizod na fyzickém zařízení (15 z 30).

Ai2 tyto výsledky hodnotí se dvěma výhradami. Při vyhodnocení hierarchického systému na fyzickém zařízení byla použita nejjednodušší simulovaná konfigurace, v níž byly znaky na kostkách viditelné a vzpřímené. K ověření statistické spolehlivosti napříč úlohami jsou navíc zapotřebí další testy. Karta ManiFlow také uvádí úspěšnost v rozmezí 54 % až 59 % ve čtyřech bězích týchž 128 simulovaných epizod, protože simulace ani dávkové odvozování nejsou bitově deterministické.

Ai2 plánuje druhé vydání s rozsáhlejší datovou sadou, více dovednostmi a širším srovnávacím testováním. Má také zahrnovat plně integrovaný trénink posilováním, který v současném balíčku chybí. Mezi dlouhodobější záměry patří manipulace oběma rameny, obratné ruce se snímáním síly a hmatu a interakce s neuspořádanými hromadami kostek.

Bezprostřední přínos ToyBlocks proto spočívá v možnosti experimenty přesně řídit: výzkumníci mohou měnit kombinace trénovacích dat, oddělit plánování od provádění a vracet neúspěšné pokusy zpět do procesu generování dat. První výsledky zároveň ukazují, kde má systém své limity: slabá generalizace v simulaci a úzký rozsah testování na fyzickém zařízení zmírňují, co lze z těchto počátečních výsledků přenosu vyvodit o učení robotů mimo svět kostek.