Ai2 ra mắt ToyBlocks để thử nghiệm cách robot học và thất bại

Ai2 đã ra mắt ToyBlocks vào ngày 6 tháng 11 năm 2026, đây là môi trường đầu tiên trong khuôn khổ FoundationWorlds, kết hợp mô phỏng robot mở với các bản trình diễn được tạo tự động, hai mô hình đã huấn luyện và các công cụ đánh giá. Khuôn khổ này được thiết kế để giúp các thử nghiệm học robot có thể lặp lại và dễ truy tìm nguyên nhân thất bại hơn.

Môi trường này đặt một cánh tay robot mô phỏng và các khối có nhãn trên mặt bàn. Bên cạnh các nhiệm vụ đẩy, lật và xếp chồng còn có những nhiệm vụ tìm kiếm, phân loại và sắp xếp: chữ cái hoặc hình ảnh cần thiết trên một khối có thể bị che khuất, nên robot phải xoay khối đó trước khi xác định vị trí phù hợp. Kích thước khối, chiều cao bàn và các thuộc tính khác được thay đổi giữa các cảnh để kiểm tra liệu các chính sách điều khiển có thích ứng được với hình học thay đổi hay không.

Miền bài toán có giới hạn này cho phép Ai2 theo đuổi đồng thời bốn đặc tính: vật lý và hình ảnh chân thực; khả năng tạo nhiệm vụ và bản trình diễn ở quy mô lớn; các bài toán đòi hỏi cả suy luận lẫn sự khéo léo; và phạm vi bao quát các nhiệm vụ mà miền này có thể hỗ trợ.

Tự động tạo bản trình diễn và các mô hình mở

Học tăng cường và lập kế hoạch chuyển động được dùng để tạo ra các kỹ năng cho những nhiệm vụ ngắn trong Isaac Lab của Nvidia. Quá trình tạo kỹ năng có thể sử dụng trạng thái mô phỏng đặc quyền, bao gồm vị trí và hướng chính xác của các khối, thay vì các ước lượng từ camera, qua đó tự động hóa những hành vi vốn đòi hỏi phải điều khiển robot vật lý từ xa. Sau đó, bộ lập kế hoạch nhiệm vụ và chuyển động lựa chọn, sắp xếp trình tự các kỹ năng để tạo ra những bản trình diễn có gắn nhãn. Ai2 cho biết hàng trăm kế hoạch có thể chạy đồng thời trên một GPU, với tốc độ lên tới 24 lần thời gian thực.

Các nhà nghiên cứu có thể điều chỉnh trọng số của những tổ hợp dữ liệu huấn luyện để ưu tiên một số kỹ năng nhất định, đồng thời đánh giá các chính sách trên những nhiệm vụ không có trong dữ liệu huấn luyện. Nhờ vậy, bộ tạo dữ liệu trở thành một công cụ kiểm soát thí nghiệm, chứ không chỉ đơn thuần là nguồn cung cấp các tập dữ liệu lớn hơn.

Các mục tiêu được viết dưới dạng đặc tả lập kế hoạch PDDL trong kho lưu trữ ToyBlocks, cho phép hệ thống đánh giá chấm điểm mức độ hoàn thành và tiến độ trung gian mà không cần xây dựng chỉ số riêng cho từng nhiệm vụ. Các bản trình diễn được lưu ở định dạng LeRobot. Một chính sách phân cấp có thể thay thế một trong hai cấp bằng một oracle cung cấp kế hoạch hoặc hành động chính xác, qua đó phân biệt lỗi quyết định với lỗi thực thi chuyển động. Các trạng thái thất bại cũng có thể được đưa trở lại quy trình tạo dữ liệu để tạo bản trình diễn mới và tìm cách khôi phục.

Ai2 cho biết phiên bản phát hành ban đầu có 85.336 bản trình diễn dài hạn, mỗi bản gồm khoảng 6–12 bản trình diễn kỹ năng, tùy theo tập dữ liệu; tổng cộng bao quát gần 1.600 giờ vận hành robot và 144 triệu khung hình. Tập dữ liệu công khai sử dụng dữ liệu LeRobot định dạng Parquet theo giấy phép ODC-BY, với các phân nhóm dễ, trung bình và khó. Mã nguồn chính được cấp phép theo Apache-2.0; các mô-đun con được chỉ định và tài sản tải xuống có giấy phép riêng.

Tài liệu mô tả mô hình của Ai2 chia chính sách được phát hành thành hai cấp: Molmo2-4B-tb, một mô hình có khoảng 4,5 tỷ tham số, đọc hình ảnh từ camera phía trước và mục tiêu bằng văn bản để tạo ra một kế hoạch ngắn, hành động tiếp theo và điểm mục tiêu; ManiFlow-tb, với 322,5 triệu tham số, sử dụng hình ảnh từ camera phía trước và camera ở kẹp gắp, trạng thái robot, thông tin nhiệm vụ và bản đồ nhiệt mục tiêu để tạo các chuỗi hành động.

Khả năng khái quát hóa và thử nghiệm tác tử

Các thử nghiệm không gian bao gồm những nhiệm vụ xếp chồng, dỡ chồng, lật và xoay, đồng thời phân biệt giữa nội suy trong phạm vi huấn luyện và ngoại suy ra ngoài phạm vi đó. Ví dụ gồm huấn luyện với các khối ở một khu vực trong không gian làm việc rồi kiểm tra ở khu vực khác, hoặc loại trừ một số độ cao xếp chồng cụ thể khỏi dữ liệu huấn luyện. Ai2 cho biết ManiFlow, π0.5 và MolmoAct 2 ban đầu có khả năng khái quát hóa kém dù đã được tiền huấn luyện trên quy mô lớn, đồng thời kết luận rằng khả năng khái quát hóa của các mô hình hành động vẫn còn lâu mới được giải quyết.

Các thử nghiệm với tác tử bộc lộ một điểm yếu khác. Ai2 cho biết hệ thống dựa trên Claude Opus 5.5 đã giải được cả 30 nhiệm vụ xếp khối cổ điển từ mô tả bằng văn bản, cũng như cả 30 nhiệm vụ khi chọn hành động theo vòng kín dựa trên các hình ảnh camera được cập nhật liên tục. Trong các cảnh tìm kiếm và đánh vần có tối đa tám khối, 50% trường hợp thiếu một chữ cái cần thiết và phải được xác định là bất khả thi. Tác tử giải được nhiệm vụ hoặc xác định chính xác tính bất khả thi trong 63% trường hợp; nhầm lẫn giữa các chữ cái trông giống nhau chiếm 13%, còn xoay chữ cái sai hướng chiếm 15%.

Một thử nghiệm tác tử thứ ba cho phép hệ thống kiểm tra những hành vi kỹ năng không như dự kiến và viết mô tả kỹ năng mới dựa trên kết quả. Ai2 cho biết những mô tả được học này nâng tỷ lệ thành công từ 24% với mô tả mặc định lên 63%, cao hơn mức 36% đạt được với mô tả do chuyên gia con người viết.

Thử nghiệm với robot vật lý và những hạn chế

Trong đánh giá trên robot vật lý, các mô hình được huấn luyện hoàn toàn bằng dữ liệu mô phỏng ToyBlocks, không sử dụng ví dụ huấn luyện trong thế giới thực, được chạy trên cánh tay Franka FR3 gắn kẹp gắp Robotiq. 30 cấu hình cảnh có từ 4–10 khối đã xuất hiện trong quá trình huấn luyện. Một lượt thử chỉ được tính là thành công khi các khối liên quan đạt tư thế mục tiêu mà không xảy ra va chạm; việc người vận hành can thiệp do chuyển động không an toàn được tính là thất bại.

Để thu hẹp khoảng cách giữa mô phỏng và thực tế, Ai2 điều chỉnh ma sát khớp và quán tính của cánh tay trong mô phỏng dựa trên các quỹ đạo thực. Quá trình tạo dữ liệu ngẫu nhiên hóa kích thước vật thể, ma sát và chiều cao bàn, cùng với ánh sáng, phông nền, vật liệu và các thông số camera.

Ai2 báo cáo tỷ lệ thành công của ManiFlow đối với các kỹ năng đơn lẻ là 80.0% trong mô phỏng và 81.1% trên cánh tay robot thực. Hệ thống Molmo 2–ManiFlow phân cấp thành công trong 55.5% số lượt mô phỏng (111 trên 200) và 50.0% số lượt thực tế (15 trên 30).

Ai2 nêu rõ hai điểm cần lưu ý về các kết quả này. Đánh giá hệ thống phân cấp trên robot thực sử dụng cấu hình mô phỏng dễ nhất, trong đó có thể nhìn thấy các ký tự trên khối và các khối được dựng đứng; cần tiến hành thêm thử nghiệm để xác lập độ tin cậy thống kê trên nhiều nhiệm vụ. Thẻ ManiFlow cũng ghi nhận tỷ lệ thành công dao động từ 54% đến 59% qua bốn lần chạy cùng 128 lượt mô phỏng, vì mô phỏng và suy luận theo lô không có tính tất định ở cấp độ từng bit.

Ai2 dự kiến phát hành phiên bản thứ hai với bộ dữ liệu lớn hơn, nhiều kỹ năng hơn và hoạt động đánh giá chuẩn trên phạm vi rộng hơn, đồng thời tích hợp đầy đủ quá trình huấn luyện học tăng cường, vốn không có trong gói hiện tại. Các hướng phát triển dài hạn bao gồm thao tác bằng hai cánh tay, bàn tay khéo léo có khả năng cảm nhận lực và xúc giác, cùng tương tác với các đống khối không được sắp xếp có trật tự.

Vì vậy, đóng góp trước mắt của ToyBlocks là tạo điều kiện kiểm soát thực nghiệm: các nhà nghiên cứu có thể thay đổi cách phối trộn dữ liệu huấn luyện, tách riêng khâu lập kế hoạch khỏi khâu thực thi và đưa các trường hợp thất bại trở lại quy trình tạo dữ liệu. Những kết quả ban đầu cũng cho thấy giới hạn của phương pháp: khả năng khái quát hóa trong mô phỏng còn yếu và đánh giá trên robot thực còn hạn hẹp, khiến những gì các tỷ lệ chuyển giao ban đầu này chứng minh được về khả năng học hỏi của robot ngoài thế giới khối vẫn còn hạn chế.