ERNIE Evolve của Baidu tự động hóa nghiên cứu AI và tối ưu hóa suy luận

Baidu giới thiệu ERNIE Evolve vào ngày 9 tháng 11 năm 2026, cho biết hệ thống đạt kết quả tốt hơn các kết quả đối chiếu công khai ở ba chỉ số NanoChat và NanoGPT, đồng thời tăng 33.7% thông lượng trong một phép thử suy luận ERNIE-5.5-Flash có tính xác định. Hệ thống nghiên cứu tự động này chọn hướng nghiên cứu, chỉnh sửa mã AI và chỉ giữ lại những cải tiến vượt qua các khâu đánh giá và rà soát riêng biệt.

Thông báo cũng đề cập đến công việc tối ưu hóa suy luận đang được triển khai cho ERNIE-5.5-Flash, hiện vẫn trong quá trình phát triển. Vai trò của hệ thống không chỉ giới hạn ở việc viết mã: hệ thống chọn hướng nghiên cứu, chạy thử nghiệm và dùng cả thất bại lẫn thành công để định hướng các vòng lặp tiếp theo.

Vòng lặp nghiên cứu với các bước kiểm tra độc lập

Khi được cung cấp một kho mã, mục tiêu tối ưu hóa và tiêu chí đánh giá, ERNIE Evolve sẽ chỉnh sửa mã và chạy thử nghiệm trong các môi trường biệt lập. Bộ điều phối ở vòng lặp ngoài chọn hướng nghiên cứu và phiên bản khởi đầu dựa trên Ngân hàng kinh nghiệm gồm các thử nghiệm trước đó, cùng Cơ sở tri thức gồm các bài báo, mã nguồn mở và kiến thức chuyên ngành. Các luồng song song lưu trữ những cây phiên bản ứng viên; trong mỗi luồng, Bộ chọn chọn một ứng viên và giả thuyết, còn Bộ thực thi triển khai thay đổi.

Việc chấp nhận kết quả phụ thuộc vào một Bộ đánh giá cố định và một Người rà soát riêng biệt. Bộ đánh giá nằm ngoài kho mã, không hiển thị với các tác nhân, loại trừ những thay đổi nằm ngoài phạm vi và yêu cầu mức cải thiện vượt ngưỡng nhiễu. Người rà soát kiểm tra mức độ tuân thủ định hướng nghiên cứu và loại bỏ các cách khai thác kẽ hở trong khâu đánh giá. Các ứng viên đi chệch hướng không thể trở thành phiên bản tốt nhất.

Kết quả đánh giá chuẩn công khai và mã được phát hành

Baidu báo cáo các kết quả sau đây so với những kết quả đối chiếu công khai được sử dụng trong quá trình đánh giá:

Trên NanoChat, ERNIE Evolve bổ sung hai nhánh dự đoán bên cạnh mạng nơ-ron: một nhánh sử dụng thống kê n-gram từ kho ngữ liệu huấn luyện, nhánh còn lại truy xuất các tài liệu phù hợp và đưa ra dự đoán dựa trên phần tiếp nối của chúng. Một cổng được huấn luyện sẽ điều chỉnh tỷ trọng kết hợp dựa trên hiệu suất của từng nhánh ở các vị trí token trước đó.

Kho lưu trữ kết quả công bố mã cuối cùng và nhật ký đo lường; mã đã thực thi được nhúng trong từng nhật ký hoặc được xác định bằng giá trị SHA-256. Kho lưu trữ liệt kê bảy tạo tác nhân của SOL-ExecBench, đạt điểm từ 0.6669 đến 0.9920; định nghĩa tác vụ và dữ liệu khối lượng công việc của NVIDIA không được phân phối lại.

Kết quả ở hàng SOL-ExecBench giúp làm rõ bức tranh tổng thể: ERNIE Evolve không dẫn đầu ở mọi chỉ số được liệt kê, dù kết quả so sánh của Baidu cho thấy hệ thống vượt Recursive và Hyra-1.0 ở tác vụ này.

Tối ưu hóa suy luận cho ERNIE-5.5-Flash

Baidu áp dụng ERNIE Evolve cho suy luận độ trễ thấp trên Kunlunxin P800, thông lượng suy luận có tính xác định trên GPU và tốc độ giải mã cho một yêu cầu đơn lẻ. Hầu hết các mốc cơ sở đã được kỹ sư tối ưu hóa từ trước, và mọi thay đổi đều phải vượt qua cùng các bài kiểm tra tải và kiểm tra tính chính xác như những thay đổi do kỹ sư đề xuất.

Trên Kunlunxin P800, Baidu cho biết sau bốn vòng nghiên cứu, tốc độ tạo sinh tăng lên mức 623.6% so với mốc cơ sở và vẫn vượt qua các bước kiểm tra tính chính xác, trong khi mô hình và cấu hình triển khai không thay đổi. Những vòng đầu tiên kích hoạt các kết nối siêu chiều có ràng buộc đa tạp được hợp nhất và giải mã suy đoán, sau đó giảm chi phí lập lịch và đồng bộ hóa ở phía máy chủ. Một bản sửa lỗi điều phối ở vòng thứ tư đã kích hoạt đường xử lý độ trễ thấp của DeepEP.

Đối với huấn luyện tăng cường học, tác vụ có tính xác định yêu cầu các token được tạo ra và xác suất log phải giống nhau đến từng bit, bất kể thành phần của lô, đồng thời khớp với kết quả tính toán lại trên toàn bộ chuỗi. Chế độ xác định của SGLang đáp ứng các yêu cầu này bằng cách cố định thứ tự phép rút gọn, nhưng điều đó hạn chế mức độ sử dụng GPU. Sau khoảng ba ngày, Baidu cho biết công việc này còn giúp giảm 26% thời gian trung bình cho mỗi token đầu ra và 12% thời gian tạo token đầu tiên, đồng thời vẫn duy trì tính xác định. Mức cải thiện lớn nhất từ một thay đổi riêng lẻ đến từ việc thay phương pháp lấy mẫu có tính xác định—vốn chiếm khoảng 14% thời gian GPU mỗi bước—bằng một nhân Triton xử lý song song các phân đoạn từ vựng.

Đối với giải mã GPU cho từng yêu cầu riêng lẻ, Baidu cho biết tốc độ tăng 14,9% so với dịch vụ vốn đã được các kỹ sư tinh chỉnh, trong khi độ chính xác không đổi. Ba trong số bảy hướng nghiên cứu mang lại cải thiện. Những hướng này gồm sử dụng các lệnh FP16 gốc để thực hiện phép nhân ma trận FP8 với ít hơn tám hàng đầu vào, đồng thời thay việc quét tuần tự các chuyên gia bằng bộ lập lịch hỗn hợp chuyên gia hai tầng.

Các thử nghiệm này cũng cho thấy những ràng buộc khắt khe hơn về mô-đun và tính xác định, mức nhiễu đo lường tương đương với mức cải thiện riêng lẻ, cùng các môi trường bao gồm công cụ suy luận, thư viện kernel, trình cắm phần cứng và tập lệnh khởi động dịch vụ. Một số thay đổi hữu ích có tác động nhỏ hơn mức nhiễu, vì vậy các phương án phải chứng minh được giá trị qua kiểm thử tải đầu cuối, thay vì chỉ qua các phép đo kernel riêng lẻ.

Baidu dự định áp dụng quy trình này để tối ưu hóa hệ thống huấn luyện, sau đó dùng các chỉ số đo lường năng lực của mô hình để định hướng việc tự động tạo giả thuyết, thiết kế thí nghiệm và kiểm chứng. Mục tiêu dài hạn của công ty là để AI xác định những khoảng trống về năng lực, đồng thời tạo và hoàn thiện các tác vụ đánh giá.

Công ty cho biết quá trình tự cải thiện đệ quy phải luôn nằm dưới sự kiểm soát của con người và có thể bị gián đoạn, trong những giới hạn rõ ràng về mục tiêu, quyền hạn và tài nguyên, đồng thời phải được đánh giá an toàn liên tục và giám sát bởi con người. Việc chuyển từ các chỉ số kỹ thuật cố định sang năng lực của mô hình và thiết kế chuẩn đánh giá khiến các cơ chế đánh giá và giám sát này trở thành yếu tố then chốt, quyết định quy trình nghiên cứu có thể mở rộng đến đâu.