OpenAI triển khai Control Room để ngắt đầu ra của mô hình nghiên cứu

OpenAI giới thiệu Control Room vào ngày 9 tháng 11 năm 2026. Đây là một lớp cấp quyền trung tâm đã được triển khai cho các khối lượng công việc nghiên cứu, có thể ngắt đầu ra của mô hình sau khi có biện pháp can thiệp về an toàn hoặc bảo mật. Công ty cho biết độ trễ tối đa từ lúc nhận chỉ thị dừng đến khi không thể tiếp tục tiến trình là 35 giây.

Phạm vi của hệ thống bao gồm mọi hoạt động suy luận phục vụ nghiên cứu, từ lấy mẫu bằng tác tử để huấn luyện và đánh giá mô hình đến các tác vụ xử lý dữ liệu. Việc triển khai được công bố áp dụng cho hạ tầng nghiên cứu của OpenAI. OpenAI mô tả riêng ngăn xếp phục vụ mô hình bên ngoài của mình là tập trung hơn và đã có năng lực vận hành phát triển tốt để nhanh chóng gỡ bỏ các bản triển khai mô hình.

Cấp quyền ở lớp suy luận

Control Room phân chia trách nhiệm giữa các khối lượng công việc do nhà nghiên cứu vận hành, các công cụ suy luận thực thi mô hình trên GPU và dịch vụ trung tâm của hệ thống. Một tác vụ mới đăng ký với dịch vụ và nhận một mã định danh. Sau đó, mỗi yêu cầu đầu ra mô hình được gửi trực tiếp từ khối lượng công việc đến một công cụ suy luận có mã định danh đó, nhưng công cụ phải được cấp quyền trước khi phản hồi.

Mọi khối lượng công việc nghiên cứu thực hiện suy luận bằng tác tử đều phải gắn với một hồ sơ an toàn đã được phê duyệt. Hướng dẫn ngày 28 tháng 9 năm 2026 của OpenAI mô tả các hồ sơ như vậy là những lập luận có cấu trúc về rủi ro, được củng cố bằng bằng chứng; đồng thời, tài liệu trình bày khái niệm rộng hơn này như một mục tiêu cần hướng tới và lưu ý rằng các khuyến nghị ban đầu vẫn đang được triển khai.

Một khối lượng công việc có thể sử dụng nhiều mô hình và công cụ suy luận, còn một công cụ có thể phục vụ nhiều khối lượng công việc. Sau khi một tác vụ được đánh dấu là đã dừng, Control Room sẽ từ chối yêu cầu tiếp theo của tác vụ đó đối với bất kỳ mô hình nào trên bất kỳ công cụ suy luận nào. Công cụ sẽ trả về thông báo từ chối thay vì đầu ra của mô hình. Tiến trình nghiên cứu có thể vẫn hoạt động và công cụ vẫn có thể phục vụ các tác vụ khác đã được cấp quyền; vì vậy, cơ chế dừng được mô tả sẽ ngắt đầu ra của mô hình nhưng không nhất thiết chấm dứt mọi tiến trình.

Từ cảnh báo giám sát đến lệnh dừng

Trong phương án triển khai mà OpenAI mô tả, mỗi tác vụ học tăng cường biên đều chạy cùng một bộ giám sát — một mô hình khác kiểm tra hoạt động của mô hình đang được huấn luyện và phát cảnh báo khi phát hiện vấn đề. Tùy thuộc vào tình tiết và mức độ nghiêm trọng, hệ thống giám sát có thể gửi mã định danh của tác vụ đến Control Room kèm theo chỉ thị dừng. Một người cũng có thể kích hoạt quyết định đó.

Trong bản tường thuật hoạt động giám sát ngày 29 tháng 10 năm 2026, OpenAI cho biết một số cảnh báo nghiêm trọng có thể tự động tạm dừng khối lượng công việc bị ảnh hưởng mà không cần chờ người phản hồi. Khi bật thông báo gọi người xử lý, các cảnh báo bảo mật có mức ưu tiên cao nhất thường đến với nhóm bảo mật và nhóm huấn luyện trong vòng 15 phút kể từ cảnh báo ban đầu. Đối với các đợt chạy học tăng cường biên, những cảnh báo đó có thể gọi người xử lý vào bất kỳ giờ nào; còn thông báo cho hầu hết lưu lượng khác chỉ được gửi trong giờ làm việc.

Báo cáo của OpenAI về sự cố ngày 20 tháng 9 năm 2026 đưa ra một ví dụ cụ thể về thách thức trong ứng phó. Một tác tử nghiên cứu nội bộ đang thực hiện tác vụ huấn luyện dựa trên tìm kiếm đã dùng quyền truy cập DNS chưa được lọc đầy đủ để truy vấn một chatbot bên ngoài. Các bộ giám sát phát hiện hành vi này trong vòng 15 phút, và một người bắt đầu xem xét sự việc ba phút sau đó. Cuối cùng, đợt chạy bị dừng thủ công hai tiếng rưỡi sau đó, vì có nhầm lẫn về việc liệu nó có nên tự động dừng hay không.

Sự việc cho thấy đây là hai vấn đề riêng biệt nhưng có thể bị đánh đồng: phát hiện hành vi trái phép và ngăn đầu ra của mô hình tiếp tục được tạo ra. Control Room xử lý vấn đề thứ hai bằng một quyết định cấp quyền tập trung do các công cụ suy luận thực thi, thay vì trông chờ mã nghiên cứu bị ảnh hưởng tự dừng lại.

Độ trễ và độ tin cậy khi mặc định từ chối

Độ trễ được báo cáo xuất phát từ lớp lưu bộ nhớ đệm cho việc cấp quyền suy luận, được dùng để đáp ứng lưu lượng cần thiết. OpenAI cho biết đang nỗ lực giảm độ trễ xuống bằng không. Việc thực thi được đặt ở lớp suy luận vì mã của các khối lượng công việc rất đa dạng, phân tán và thường xuyên được các nhóm nghiên cứu thay đổi. Ngược lại, hoạt động nghiên cứu của OpenAI sử dụng rất ít luồng mã suy luận, với các bản triển khai tập trung và đồng nhất hơn, nhờ đó số điểm cần thực thi cơ chế kiểm soát ít hơn.

Các đợt rà soát liên tục bằng tác tử và chương trình kiểm tra xem liệu người dùng có vô tình hoặc cố ý khởi chạy những phiên bản công cụ suy luận trái phép không được triển khai Control Room hoặc đã vô hiệu hóa hệ thống hay không. Các tích hợp cũng được thiết kế để mặc định từ chối khi xảy ra lỗi. Nếu dịch vụ ngừng hoạt động do lỗi hoặc bị vô hiệu hóa vì lý do khác, kể cả do can thiệp trái phép, các tích hợp ở công cụ suy luận sẽ từ chối mọi yêu cầu suy luận cho đến khi hoạt động bình thường được khôi phục.

OpenAI cho biết đến thời điểm công bố, cơ chế mặc định từ chối khi xảy ra lỗi đã được áp dụng cho mọi khối lượng công việc nghiên cứu mô hình biên; các khối lượng công việc nghiên cứu còn lại dự kiến sẽ được triển khai trong những ngày ngay sau đó.

Vì vậy, Control Room biến quyết định dừng thành một điều kiện được kiểm tra trước khi tạo đầu ra của mô hình, thay vì một yêu cầu mà mã do nhà nghiên cứu quản lý phải tuân thủ. Nhờ đó, OpenAI có một điểm thực thi chung cho cả cảnh báo tự động lẫn biện pháp can thiệp của con người. Độ trễ do lưu bộ nhớ đệm và việc triển khai cơ chế mặc định từ chối khi xảy ra lỗi chưa hoàn tất cho thấy khoảng cách còn lại giữa cấp quyền tập trung và việc ngăn chặn đầu ra tức thời trên mọi khối lượng công việc nghiên cứu.