Hedra ra mắt Model Factory để huấn luyện, triển khai và cải thiện AI trong thế giới thực

Hedra đang ra mắt Model Factory, một nền tảng kết hợp hạ tầng GPU, hậu huấn luyện mô hình, tối ưu hóa suy luận và phản hồi từ môi trường sản xuất trong cùng một quy trình. Công ty nghiên cứu được a16z hậu thuẫn này hướng đến các nhóm robot học, sản xuất, sinh học và quốc phòng cần điều chỉnh mô hình theo dữ liệu và điều kiện vận hành riêng.

Đề xuất này giải quyết một khoảng trống thực tế trong AI doanh nghiệp: mô hình đa dụng có năng lực thường chỉ là điểm khởi đầu. Để biến mô hình thành một hệ thống đáng tin cậy xử lý video, dữ liệu cảm biến hoặc hành động vật lý, có thể cần môi trường huấn luyện tùy chỉnh, phần mềm triển khai chuyên dụng và phương thức đánh giá từng phiên bản mới dựa trên nhiệm vụ mà mô hình phải thực hiện.

Kết nối huấn luyện, triển khai và phản hồi từ môi trường sản xuất

Model Factory kết hợp các môi trường GPU linh hoạt với hoạt động hậu huấn luyện do các nhà nghiên cứu của Hedra thực hiện cùng các tác nhân AI tự động. Khách hàng cung cấp dữ liệu và công cụ mô phỏng; Hedra hỗ trợ xây dựng môi trường học tăng cường và bộ dữ liệu, sau đó tối ưu cách vận hành các mô hình thu được.

“Tự cải tiến đệ quy đang làm thay đổi cách xây dựng các mô hình tiên tiến nhất,” Michael Lingelbach, nhà sáng lập kiêm CEO của Hedra, cho biết. “Bước tiếp theo là đưa công nghệ này vào thế giới thực, nơi dữ liệu bao gồm video, cảm biến và mô phỏng. Hedra Model Factory cung cấp cho các nhóm robot học, sản xuất, sinh học và quốc phòng hạ tầng để hậu huấn luyện, triển khai và liên tục cải tiến mô hình của chính họ.”

Sau khi triển khai, các nhà nghiên cứu phân tích hiệu suất trong môi trường sản xuất, huấn luyện lại mô hình và chỉ phát hành phiên bản khi phiên bản đó vượt qua các bài đánh giá của khách hàng. Vì vậy, tiêu chí đánh giá giữ vai trò trọng tâm trong dịch vụ: mô hình nhanh hơn vẫn phải đáp ứng các yêu cầu của ứng dụng sử dụng nó.

Hedra dùng khái niệm tự cải tiến đệ quy để mô tả quá trình các nhà nghiên cứu và nhà khoa học AI tự động liên tục lặp lại các thí nghiệm, đợt huấn luyện và phương pháp tối ưu hóa. Quy trình được công bố có sự tham gia của các nhà nghiên cứu và các vòng đánh giá của khách hàng, chứ không phải những thay đổi tự động không giới hạn đối với mô hình đang vận hành.

Vì sao AI vật lý cần nhiều hơn một hệ thống phục vụ mô hình văn bản

Môi trường chạy mô hình thế giới, hay WMR của Hedra cung cấp thêm bối cảnh cho đợt ra mắt này. Công ty mô tả đây là một công cụ suy luận lõi mở dành cho các mô hình hình ảnh, video, thế giới và văn bản, hỗ trợ GPU NVIDIA và AMD. Các tối ưu hóa của công cụ tập trung vào những bước khuếch tán, cơ chế chú ý giữa các khung hình và thao tác mã hóa, giải mã—những tác vụ có thể tiêu tốn đáng kể thời gian GPU trong các ứng dụng xử lý hình ảnh.

Với mô hình thị giác-ngôn ngữ-hành động, quá trình suy luận vừa diễn giải đầu vào vừa tạo ra hành động. Trong môi trường mô phỏng, cả mô hình lẫn môi trường tạo ra trải nghiệm huấn luyện cho mô hình đều có thể cần bộ tăng tốc. Vì vậy, cải thiện quy trình không chỉ là chọn mô hình: việc này có thể bao gồm giảm lượng dữ liệu phải di chuyển, điều chỉnh độ chính xác số theo yêu cầu chất lượng và phối hợp hoạt động huấn luyện với quá trình phục vụ mô hình.

Cung cấp môi trường GPU biệt lập của công ty cho phép các nhóm đưa vùng chứa, các thành phần phụ thuộc và mã mô hình vào những môi trường tách biệt, trong khi Hedra quản lý việc phân bổ tài nguyên, mở rộng quy mô và khôi phục phần cứng. Các nhóm có thể điều chỉnh môi trường chạy, tiến hành huấn luyện hoặc đánh giá, rồi xuất các điểm kiểm tra và cấu phần đầu ra. Nền tảng huấn luyện của công ty hỗ trợ tinh chỉnh có giám sát, bộ điều hợp LoRA gọn nhẹ và học tăng cường, đồng thời đánh giá điểm kiểm tra trước khi đưa mô hình vào phục vụ.

Tăng tốc chỉnh sửa hình ảnh lên sáu lần trong những điều kiện cụ thể

Thông cáo ra mắt nêu việc chỉnh sửa hình ảnh bằng Krea 3 là một ví dụ về quy trình tối ưu hóa. Hedra cho biết họ đã rút thời gian chỉnh sửa một hình ảnh 2K từ khoảng 22 giây xuống còn 3,6 giây trên cùng bốn GPU AMD Instinct MI355X, trong chưa đầy một tuần. Phép so sánh kết hợp tối ưu hóa suy luận với chưng cất mô hình: phiên bản cơ sở sử dụng mô hình bf16 ban đầu với 30 bước lấy mẫu, còn phiên bản nhanh hơn sử dụng mô hình đã chưng cất với 14 bước.

Sự khác biệt này rất quan trọng vì kết quả phản ánh những thay đổi cả trong quá trình tính toán của mô hình lẫn phần mềm thực thi mô hình. Đây là kết quả được báo cáo cho một khối lượng công việc và cấu hình cụ thể, chứ không phải mức tăng tốc gấp sáu lần áp dụng cho mọi mô hình được nền tảng phục vụ.

Bài viết kỹ thuật riêng về Krea 3 của Hedra trình bày chi tiết các phép toán ma trận độ chính xác thấp hơn, cơ chế chú ý tùy chỉnh, các thao tác hợp nhất và việc chuyển dữ liệu giữa các GPU sang các bộ máy sao chép chuyên dụng. Phép so sánh từ 22,9 giây xuống 3,3 giây đo thời gian xử lý của bộ biến áp khuếch tán, không phải độ trễ của toàn bộ yêu cầu. Vì vậy, cần xem riêng các con số này, không gộp với kết quả chỉnh sửa hình ảnh trong thông cáo ra mắt.

Vật lý video và khả năng thích ứng với phần cứng robot

Hedra cũng cho biết đã huấn luyện lại H3 để tăng tính nhất quán về mặt vật lý. Mô hình sau huấn luyện đạt 34,9 điểm trong bài đánh giá Physics-IQ của Google DeepMind, so với 30,3 điểm của H3 Max, với chất lượng hình ảnh mà Hedra mô tả là tương đương. Theo công ty, một phiên bản được chưng cất tự động đã tạo video dài năm giây trong chưa đầy ba giây trên GPU MI355X.

Trong một ví dụ khác, một nghiên cứu mô phỏng đã thay bộ kẹp trên robot đang chạy một chính sách đã được huấn luyện. Hedra cho biết việc căn chỉnh tầm với và điểm kẹp của bộ kẹp thay thế trong hình ảnh từ camera cổ tay đã giúp tỷ lệ hoàn thành nhiệm vụ tăng từ gần 0 lên gần 100% mà không cần huấn luyện lại. Phát hiện này chỉ áp dụng cho thiết lập mô phỏng được báo cáo; nó không chứng minh rằng có thể xử lý mọi thay đổi phần cứng mà không cần huấn luyện thêm trên robot triển khai thực tế.

Những ví dụ này cho thấy các khía cạnh khác nhau của cùng một bài toán kỹ thuật: duy trì hành vi hữu ích trong khi thay đổi cách vận hành mô hình hoặc hệ thống mà mô hình hoạt động trong đó.

Dịch vụ nghiên cứu xoay quanh các mô hình do khách hàng sở hữu

Model Factory bắt đầu được cung cấp từ ngày 10 tháng 11. Các nhóm có thể hợp tác với các nhà nghiên cứu của Hedra để phát triển mô hình tùy chỉnh, bắt đầu sử dụng năng lực GPU linh hoạt trong môi trường thử nghiệm mà không cần cam kết dài hạn, hoặc đưa mô hình hiện có vào công cụ suy luận của nền tảng. Các tùy chọn triển khai bao gồm cơ sở hạ tầng tại chỗ hoặc trung tâm dữ liệu của đối tác ở gần, với các mục tiêu tối ưu hóa trải dài từ mô hình hành động thế giới nhanh hơn thời gian thực đến mô hình thị giác-ngôn ngữ-hành động có thể chạy trên thiết bị biên.

Công ty cho biết doanh thu đã tăng gấp 15 lần trong 12 tháng trước đó, mặc dù thông báo không nêu doanh thu làm cơ sở so sánh. Tổng quan về công ty định vị nền tảng này như một phần mở rộng từ kinh nghiệm xây dựng và cung cấp các mô hình thị giác của chính công ty.

Đối với khách hàng, giá trị cốt lõi là một vòng lặp kỹ thuật khép kín: sử dụng dữ liệu chuyên ngành để cải thiện mô hình, tối ưu hóa mô hình cho phần cứng và ngân sách độ trễ, đánh giá kết quả, rồi đưa kinh nghiệm từ quá trình vận hành vào phiên bản tiếp theo. Hiệu quả của quy trình này sẽ phụ thuộc vào các đánh giá theo từng nhiệm vụ cụ thể và những ràng buộc khi triển khai, cũng như vào tốc độ của GPU nền tảng.