Mô hình và nền tảng AI
OpenAI đề xuất các giới hạn chung đối với việc phát triển AI, gắn với các mốc an toàn

Điểm chínhOpenAI gắn giới hạn phát triển tiên phong với các cột mốc giám sát cụ thể thay vì các…
Xem thêm
- OpenAI gắn giới hạn phát triển tiên phong với các cột mốc giám sát cụ thể thay vì các ngưỡng năng lực cố định.
- Perplexity không thể đóng vai trò tiêu chuẩn chung vì các phòng thí nghiệm sử dụng bộ dữ liệu khác nhau và nó bỏ sót những lợi ích về suy luận.
- Nghiên cứu của chính OpenAI cho thấy sự nâng cao AI không đồng đều với con người vẫn giữ vai trò trung tâm trong vòng phát triển.
Nhà khoa học trưởng của OpenAI, Jakub Pachocki, ngày 22 tháng 11 năm 2026 đã công bố các phép đo độ perplexity nội bộ và đề xuất những giới hạn chung đối với việc phát triển AI tiên phong, đồng thời cảnh báo rằng nghiên cứu về sự phù hợp và giám sát có thể không theo kịp nếu tốc độ tiến bộ trong tiền huấn luyện tăng nhanh ngay từ năm 2027.
Thông tin được công bố liên quan đến log-perplexity, tức logarit của độ perplexity, còn gọi là mất mát entropy chéo. Độ perplexity đo lường mức độ chính xác trung bình của mô hình khi dự đoán token tiếp theo; giá trị càng thấp thì dự đoán càng chính xác. Các số liệu của OpenAI được tính trên một bản chụp cố định của dữ liệu giữ lại từ kho mã nội bộ, bộ dữ liệu đánh giá chính mà công ty đã theo dõi kể từ GPT-3.5.
Pachocki cho biết GPT-3.5 có chỉ số khoảng 0,99 và hỗ trợ hội thoại trôi chảy, tạo nền tảng cho ChatGPT ban đầu, trong khi GPT-4 đạt khoảng 0,91 và có thể vận dụng hiệu quả phương pháp lập luận theo chuỗi suy nghĩ. Các năng lực mới về an ninh mạng và toán học xuất hiện khi mức mất mát xuống dưới 0,8. Ở mức khoảng 0,76, một mô hình bắt đầu đạt kết quả đáng chú ý với các bài toán toán học mở, sau khi OpenAI đã dành hơn một năm đặt những bài toán như vậy cho các mô hình của mình.
Các giới hạn chung gắn với những mốc giám sát
Dựa trên tiến bộ gần đây, Pachocki dự đoán sẽ xuất hiện thêm các năng lực đáng kể khi log-perplexity nằm trong khoảng 0,68–0,70, đồng thời thừa nhận rằng ông không biết những năng lực đó sẽ là gì và các đánh giá hiện nay có thể chưa kiểm tra được chúng. Đề xuất kêu gọi các nhà phát triển AI tiên phong không vượt qua những giới hạn dựa trên độ perplexity và các phép đo khác cho đến khi năng lực hiểu và giám sát hành vi AI của các nhà nghiên cứu đạt một mốc cụ thể. Một ví dụ là phát triển thế hệ kế tiếp của các công cụ giám sát lập luận theo chuỗi suy nghĩ, vốn xem xét phần lập luận bằng văn bản của mô hình để tìm dấu hiệu sai lệch.
Các nhà phát triển cũng sẽ cùng thiết lập các chuẩn mực đánh giá, tiến hành kiểm thử đối kháng các trường hợp an toàn trước lần đầu đưa những mô hình như vậy vào sử dụng, và xây dựng các tiêu chuẩn minh bạch chung. Giới hạn ban đầu được kỳ vọng sẽ mở đường cho một khuôn khổ chung để thiết lập các giới hạn tiếp theo. Pachocki cho biết OpenAI công bố các số liệu dù việc này giúp đối thủ hiểu rõ hơn về vị thế của công ty, bởi ông cho rằng cần khẩn trương triển khai các biện pháp an toàn chung.
Kịch bản tăng tốc chỉ xảy ra trong những điều kiện nhất định: Pachocki cho biết một chuỗi tiến bộ nhanh chóng về căn bản trong tiền huấn luyện có thể xảy ra nếu AI bắt đầu đóng góp đáng kể vào nghiên cứu thuật toán, trong khi tiến bộ về sự phù hợp và giám sát khó có thể theo kịp toàn bộ tiềm năng tăng tốc.
OpenAI cho rằng đà tăng tốc mạnh trong đường cong mất mát năm 2026 chủ yếu đến từ các khoản đầu tư dài hạn vào nghiên cứu và năng lực tính toán, còn tự động hóa đóng vai trò nhỏ hơn. Tuy vậy, các mô hình mới nhất của công ty đã có những đóng góp đáng kể vào quá trình thiết kế AI.
Báo cáo nghiên cứu ngày 18 tháng 11 năm 2026 của OpenAI cụ thể hóa những đóng góp đó. Các nhà nghiên cứu tiền huấn luyện cho biết những ý tưởng được nêu tên dành cho GPT-6 Astra là do con người đề xuất; còn với GPT-6.2 Astra, họ mô tả việc phát triển ý tưởng cùng Codex, trong đó có một trường hợp Codex xác định những nhận định then chốt và một trường hợp khác, thay đổi do Codex đề xuất đã giúp ý tưởng phát huy hiệu quả. Tỷ lệ thành công ước tính khi không có sự can thiệp cũng khác biệt rõ rệt: 79% đối với việc giám sát các đợt huấn luyện, 35% đối với việc khởi chạy chúng và 25% đối với việc viết mã suy luận và phục vụ mô hình. Sự chênh lệch này củng cố kết luận của báo cáo rằng mức cải thiện nhờ nghiên cứu vẫn không đồng đều và con người vẫn giữ vai trò trung tâm trong quy trình.
Những thách thức về giám sát đằng sau đề xuất
Một nghiên cứu của OpenAI về khả năng giám sát ngày 10 tháng 11 năm 2026 xem xét hai chỉ dấu thay thế chưa hoàn hảo cho khả năng giám sát: năng lực không dùng chuỗi suy nghĩ, tức khả năng lập luận trong một lượt truyền xuôi mà không cần token chuỗi suy nghĩ hoặc token gọi công cụ; và khả năng kiểm soát chuỗi suy nghĩ, tức khả năng thêm, xóa hoặc thao túng những token lập luận đó theo cách khác khi được yêu cầu. Nghiên cứu ghi nhận mối tương quan mạnh giữa độ perplexity thấp hơn của mô hình nền với năng lực không dùng chuỗi suy nghĩ, và mối tương quan yếu hơn với khả năng kiểm soát cao hơn.
Nghiên cứu cũng phát hiện rằng học tăng cường làm tăng khả năng kiểm soát ngay cả khi không có giám sát quy trình nào ngoài các ràng buộc về độ dài và việc chấm điểm câu trả lời cuối cùng; đồng thời, tinh chỉnh có giám sát trên đầu ra từ một mô hình giáo viên có khả năng kiểm soát cao hơn có thể truyền khả năng kiểm soát đó sang mô hình học sinh.
OpenAI lưu ý rằng khả năng kiểm soát có nhiều nhiễu và không phải lúc nào cũng tương ứng với việc né tránh giám sát, đồng thời dự đoán rằng những tiến bộ tiếp theo trong tiền huấn luyện sẽ đòi hỏi các phương pháp mới để nâng cao khả năng giám sát. Đây chính là khoảng trống kỹ thuật đằng sau ví dụ của Pachocki về việc phát triển thế hệ kế tiếp của các công cụ giám sát lập luận theo chuỗi suy nghĩ như một mốc phát triển khả thi.
Những hạn chế của độ perplexity khi dùng làm tiêu chuẩn chung
Bản thân độ perplexity không thể làm cơ sở cho toàn bộ tiêu chuẩn. Việc so sánh giữa các phòng thí nghiệm gặp khó khăn vì nhà phát triển sử dụng những bộ dữ liệu đánh giá và hỗn hợp dữ liệu huấn luyện khác nhau; hơn nữa, chỉ số này không đo lường trực tiếp một nhiệm vụ có thể thực hiện được. Nó cũng bỏ sót những cải thiện năng lực nằm ngoài tiền huấn luyện: lập luận theo chuỗi suy nghĩ có thể làm tăng đáng kể năng lực mà không làm giảm độ perplexity của mô hình nền.
Phép đo này cũng có một ngưỡng sàn chưa xác định. Pachocki lưu ý rằng hàm mất mát khó có thể giảm xuống bằng không; khi tiến gần đến entropy vốn có của dữ liệu, tiến bộ thể hiện qua phép đo sẽ chậm lại, trong khi mức cải thiện nhỏ hơn về độ perplexity có thể tương ứng với mức tăng lớn hơn về trí tuệ. Vì vậy, một mức tăng cố định về mặt số học không nhất thiết mang ý nghĩa thực tiễn cố định.
Đề xuất này biến một phép đo kỹ thuật thành phép thử về quản trị: liệu các nhà phát triển có thể khiến kết quả giữa các phòng thí nghiệm có thể so sánh được và thống nhất về một cột mốc giám sát cụ thể trước khi vượt qua những ngưỡng mà Pachocki cho là gắn với các năng lực hiện nay có thể chưa được các phương pháp đánh giá phát hiện hay không.












