Hợp tác
Apollo Research sẽ cử sáu chuyên gia đánh giá tham gia chương trình thí điểm về hành vi phá hoại tại OpenAI

Điểm chínhOpenAI có thể giữ lại tài liệu trong phạm vi vì lý do an ninh hoặc sở hữu trí tuệ nhưng…
Xem thêm
- OpenAI có thể giữ lại tài liệu trong phạm vi vì lý do an ninh hoặc sở hữu trí tuệ nhưng không phải vì tài liệu đó bất lợi.
- OpenAI có thể che giấu bằng chứng nhạy cảm đằng sau các phát hiện của Apollo trong khi vẫn giữ nguyên các phán quyết của Apollo.
- Apollo lập luận rằng quyền siêu minh bạch là thiết yếu vì các hạn chế không được tiết lộ có thể khiến những vấn đề vắng mặt trông có vẻ yên tâm.
Apollo Research đã thông báo vào ngày 16 tháng 11 năm 2026 rằng sáu chuyên gia đánh giá của họ sẽ làm việc tại OpenAI trong bốn tháng, để tìm hiểu liệu các mô hình của OpenAI có tìm cách phá hoại những cơ chế căn chỉnh hoặc kiểm soát trong quá trình huấn luyện, đánh giá và triển khai nội bộ hay không.
Nhóm sẽ xem xét bốn câu hỏi: liệu quá trình huấn luyện có khuyến khích hành vi phá hoại hay không; liệu các cuộc đánh giá có thể khơi gợi hành vi đó hay không; liệu hành vi phá hoại có xảy ra trong quá trình triển khai nội bộ hay không; và liệu có thể phát hiện được những lập luận liên quan đến hành vi phá hoại hay không. Phạm vi đánh giá bao gồm các nỗ lực làm suy yếu cơ chế căn chỉnh hoặc kiểm soát của chính mô hình, cũng như của các mô hình kế nhiệm.
Thỏa thuận này nhằm mở rộng hoạt động giám sát từ bên ngoài, vượt ra ngoài cách tiếp cận đánh giá trước đây của Apollo, vốn diễn ra sau giai đoạn hậu huấn luyện và không lâu trước khi phát hành công khai. Apollo cho rằng thời điểm đó không đủ để kiểm tra các hành vi lệch chuẩn như âm mưu hoặc xem xét những mục đích sử dụng không công khai trong quá trình triển khai nội bộ. Việc tiến hành đánh giá ngay trong tổ chức, với quyền truy cập tương tự nhân viên, được kỳ vọng sẽ khắc phục những hạn chế đó.
Apollo mô tả chương trình thí điểm này là bước đi đầu tiên đầy tham vọng, chứ chưa phải một cuộc đánh giá toàn diện được tiến hành ngay trong tổ chức. Tiêu chuẩn chung của Apollo yêu cầu được tiếp cận mọi hồ sơ liên quan, kể cả khi nhà phát triển tìm cách che giấu thông tin bất lợi; được công bố các phát hiện cho một đối tượng bên ngoài phù hợp, kể cả khi nhà phát triển phản đối; và có đủ thông tin giải thích công khai về các giới hạn để độc giả hiểu báo cáo có thể và không thể xác lập điều gì.
Quyền truy cập có giới hạn và liên hệ với nhân viên
Đối với đánh giá về các yếu tố khuyến khích trong quá trình huấn luyện, OpenAI cam kết cung cấp mã huấn luyện và bộ dữ liệu liên quan, các lượt chạy của quá trình học tăng cường kèm theo những chuỗi lập luận và phần thưởng hiện có, cũng như khả năng truy vấn các điểm kiểm tra trung gian của mô hình. Các thỏa thuận chi tiết về quyền truy cập cho những nội dung đánh giá khác vẫn cần được thống nhất.
Đánh giá chỉ giới hạn ở những tuyên bố, mô hình và khoảng thời gian đã được thống nhất. OpenAI có thể từ chối cung cấp các tài liệu thuộc phạm vi đánh giá nếu cho rằng việc đó là cần thiết một cách hợp lý do không khả thi về mặt kỹ thuật, rủi ro bảo mật hoặc yêu cầu bảo vệ sở hữu trí tuệ. OpenAI không được từ chối cung cấp thông tin hoặc quyền tiếp cận nhân viên chỉ vì tài liệu đó bất lợi. OpenAI phải thông báo cho Apollo biết có tài liệu bị từ chối cung cấp, đồng thời đưa ra lý do bằng văn bản và, khi OpenAI cho là khả thi và phù hợp, xác định các hồ sơ bị từ chối theo danh mục và khối lượng ước tính. Apollo có thể yêu cầu mở rộng quyền truy cập thông qua đầu mối liên hệ được chỉ định tại OpenAI và chuyển cấp các trường hợp bị từ chối, nhưng không đảm bảo yêu cầu mở rộng sẽ được chấp thuận.
Việc liên hệ với nhân viên cũng được kiểm soát. Apollo có thể yêu cầu gặp những người có chuyên môn cụ thể và đề xuất cá nhân, nhưng OpenAI sẽ chọn những người được phép tham gia, còn các cuộc trao đổi chính thức phải được ghi chép. Nếu một nhân viên khác đề cập đến thông tin mật, Apollo phải dừng thảo luận nội dung và chuyển mọi trao đổi tiếp theo qua đầu mối liên hệ được chỉ định tại OpenAI, ngay cả khi thông tin đó thuộc phạm vi hợp tác.
Các chuyên gia đánh giá sẽ làm việc trên phần cứng của OpenAI, sử dụng những kênh riêng có thể được giám sát. Theo mặc định, họ sẽ không được truy cập các kênh trao đổi chung của nhân viên như Slack. Apollo lưu ý rằng các cuộc trò chuyện không chính thức và Slack có thể làm lộ ra thông tin liên quan mà chuyên gia đánh giá có thể chưa yêu cầu, và Apollo muốn đưa những thông tin như vậy vào phạm vi đánh giá trong tương lai.
Báo cáo công khai và quyền biên tập lược bỏ
Apollo dự kiến công bố hai báo cáo. Báo cáo thứ nhất sẽ đề cập đến các yếu tố khuyến khích hành vi phá hoại trong quá trình huấn luyện; báo cáo thứ hai sẽ xem xét các cuộc đánh giá, việc triển khai nội bộ và khả năng phát hiện lập luận mang tính phá hoại. Mỗi báo cáo sẽ trình bày phương pháp, kết luận, giới hạn, những câu hỏi không thể đánh giá và bằng chứng hỗ trợ có thể công bố.
OpenAI sẽ xem xét các báo cáo và có thể yêu cầu lược bỏ thông tin mật, bao gồm cả bằng chứng hỗ trợ các phát hiện. OpenAI không được lược bỏ kết luận đánh giá của Apollo hoặc yêu cầu lược bỏ chỉ vì một phát hiện bất lợi. Tuy nhiên, OpenAI có thể lược bỏ bằng chứng mà họ cho là sở hữu trí tuệ nhạy cảm, bất kể bằng chứng đó có trực tiếp góp phần tạo nên một phát hiện hay không. Vì vậy, độc giả có thể không xem xét được toàn bộ bằng chứng làm cơ sở cho một kết luận, dù Apollo có thể nêu rõ liệu việc lược bỏ có ảnh hưởng đến kết luận của mình hay không. OpenAI sẽ chia sẻ các báo cáo chưa lược bỏ với Ủy ban An toàn và An ninh thuộc hội đồng quản trị.
Các tuyên bố dựa trên trao đổi với nhân viên cần có xác nhận chính thức của OpenAI, trừ khi Apollo tự xác minh được các tuyên bố đó. Yêu cầu này cũng áp dụng với thông tin do nhân viên được phép tham gia cung cấp trong các cuộc phỏng vấn chính thức. Nếu OpenAI từ chối xác nhận, Apollo có thể công bố việc bị từ chối và giải thích tác động của việc đó đối với kết luận, nhưng không tiết lộ thông tin mật làm cơ sở.
Quy tắc minh bạch về tính minh bạch
Các quyền riêng về minh bạch cấp hai cho phép Apollo công khai phạm vi và điều kiện hợp tác; quyền truy cập đã yêu cầu và đã nhận được; tài liệu bị từ chối hoặc trì hoãn cung cấp cùng lý do được đưa ra; những nội dung bị yêu cầu gỡ khỏi báo cáo và mức độ quan trọng của chúng; cũng như bất kỳ áp lực nào mà Apollo cho rằng đã ảnh hưởng đến công việc của mình. Apollo có thể thảo luận về các điều khoản truy cập và công bố mà không cần OpenAI xem xét trước.
Apollo xem những quyền đó là tiêu chuẩn tối thiểu cho mọi hoạt động đánh giá. Nếu thiếu các quyền này, việc không ghi nhận vấn đề nào có thể tạo cảm giác yên tâm, ngay cả khi điều đó bắt nguồn từ những hạn chế trong việc điều tra hoặc công bố thông tin. Vì vậy, cần xem xét các kết luận của chương trình thí điểm cùng với thông tin về những giới hạn trong quyền tiếp cận và công bố: cùng một kết luận có thể có sức nặng khác nhau, tùy thuộc vào những gì các đánh giá viên có thể kiểm tra và tiết lộ.












