An ninh mạng
OpenAI tăng cường bảo vệ GPT-6.2 Astra trước nguy cơ trích xuất suy luận

Điểm chínhOpenAI báo cáo rằng các cuộc tấn công trích xuất thích ứng nhắm vào lý luận được bảo vệ…
Xem thêm
- OpenAI báo cáo rằng các cuộc tấn công trích xuất thích ứng nhắm vào lý luận được bảo vệ đã giảm từ 54,0% xuống 0,2% nhờ các biện pháp bảo vệ cập nhật.
- Các dấu vết lý luận chính xác truyền đạt năng lực mạng hiệu quả hơn so với các bản tóm tắt ngay cả khi các nhiệm vụ cơ bản được cho phép.
- Việc bảo vệ lý luận đòi hỏi các biện pháp kiểm soát bao trùm bộ phân loại yêu cầu, đối số gọi công cụ, lịch sử hội thoại và việc thực thi chiến dịch ở cấp tài khoản.
Ngày 20 tháng 11 năm 2026, OpenAI công bố các biện pháp phòng vệ mạnh hơn trước hoạt động chưng cất đối kháng, cho biết tỷ lệ thành công trung bình của các cuộc tấn công thích ứng nhằm trích xuất suy luận được bảo vệ từ một yêu cầu trước đó đã giảm từ 54.0% với GPT-6 Astra có các biện pháp bảo vệ ban đầu xuống còn 0.2% với GPT-6.2 Astra có các biện pháp bảo vệ được cập nhật.
OpenAI cho biết, tỷ lệ trung bình tương ứng đối với việc trích xuất suy luận từ yêu cầu hiện tại đã giảm từ 22.9% xuống 0.9%. Đợt đánh giá hộp đen thích ứng tổng hợp kết quả từ sáu mô hình tấn công; các tác nhân red-team tự động điều chỉnh cách tiếp cận theo phản hồi của hệ thống và chỉ thấy những gì người dùng bên ngoài có thể thấy. Các biện pháp bảo vệ được tăng cường áp dụng cho GPT-6.2 Astra và GPT-6.2 Sol; một số cải tiến cũng đang được triển khai cho GPT-6 Astra.
Suy luận được bảo vệ là chuỗi suy nghĩ trung gian mà mô hình tạo ra trong quá trình tìm câu trả lời. Những chuỗi này có thể chứa thông tin không xuất hiện trong câu trả lời cuối cùng, khiến chúng đặc biệt có giá trị đối với hoạt động chưng cất đối kháng, vốn sử dụng trái phép đầu ra của một mô hình tiên phong để huấn luyện một hệ thống khác. Mô hình tạo ra có thể tái hiện các năng lực lưỡng dụng mà không có những biện pháp bảo vệ từng hạn chế mô hình ban đầu.
Nghiên cứu về chưng cất mô hình trong lĩnh vực an ninh mạng phát hiện điều gì
Nghiên cứu nội bộ của OpenAI so sánh hai đợt huấn luyện trên cùng một mô hình học viên đã được tiền huấn luyện — mô hình học trong một quy trình mà mô hình giáo viên tạo ra dữ liệu huấn luyện. Một đợt sử dụng nguyên văn các chuỗi suy luận của mô hình giáo viên; đợt còn lại sử dụng dữ liệu cơ sở mà người dùng có thể nhìn thấy, gồm câu trả lời cuối cùng, bản tóm tắt suy luận và các tương tác với công cụ. Dữ liệu tinh chỉnh chủ yếu gồm các quỹ đạo do mô hình giáo viên cấp Astra tạo ra trong những tác vụ lập trình và an ninh mạng phòng thủ. Các mô hình học viên được đánh giá sau khi tinh chỉnh có giám sát, rồi một lần nữa sau khi học tăng cường nhẹ trong các môi trường an ninh mạng và lập trình.
OpenAI cho biết, sau khi tinh chỉnh có giám sát, mô hình học viên được huấn luyện bằng các chuỗi suy luận nguyên văn nhìn chung đạt kết quả tốt hơn mô hình được huấn luyện bằng bản tóm tắt. Sau khi học tăng cường, ở ngân sách suy luận lớn nhất được thử nghiệm, mô hình học viên dùng các chuỗi nguyên văn đạt điểm cao hơn trong cả hai chuẩn đánh giá được báo cáo, trong khi mô hình dùng bản tóm tắt đạt điểm cao hơn ở các mức ngân sách thấp hơn.
OpenAI xem kết quả này là bằng chứng cho thấy việc bảo vệ các chuỗi suy luận nguyên văn có thể hạn chế sự chuyển giao năng lực an ninh mạng, ngay cả khi những tác vụ nền tảng được phép theo chính sách sử dụng của công ty. Tuy nhiên, công ty cho biết sẽ tiếp tục nghiên cứu việc chuyển giao giữa các mô hình học viên và công thức huấn luyện khác nhau. Qua nhiều tương tác như vậy, các chuỗi suy luận nguyên văn có thể truyền đạt những kỹ năng khái quát hóa vượt ra ngoài các tác vụ ban đầu của mô hình giáo viên.
Kiểm soát ở cấp yêu cầu và thực thi đối với chiến dịch
Ở cấp yêu cầu, huấn luyện đối kháng giúp các mô hình nhận diện những nỗ lực trích xuất và từ chối tiết lộ suy luận được bảo vệ, đồng thời vẫn đưa ra lời giải thích và hỗ trợ phù hợp. Các bộ phân loại đầu vào tìm kiếm dấu hiệu của những nỗ lực trích xuất, còn các bộ phân loại đầu ra kiểm tra tin nhắn của trợ lý và đối số trong lệnh gọi công cụ ở cả phản hồi truyền phát trực tuyến lẫn không truyền phát trực tuyến. Việc bao quát các lệnh gọi công cụ rất quan trọng, vì suy luận có thể xuất hiện trong đối số của công cụ mà không có trong câu trả lời cuối cùng; các bộ phân loại đầu ra có thể chặn những nội dung bị nghi rò rỉ trước khi chúng đến được bên gọi.
API được cập nhật gắn suy luận được bảo vệ trong GPT-6.2 Astra và Sol với lịch sử hội thoại đã tạo ra suy luận đó. Mô hình có thể dựa trên suy luận trước đó khi các tin nhắn được thêm vào, nhưng nếu viết lại một tin nhắn trước đó thì phần suy luận được tạo ra sau tin nhắn ấy sẽ bị loại bỏ. Các thế hệ mô hình cũ hơn, có biện pháp bảo vệ yếu hơn, không thể đọc suy luận được bảo vệ của hai mô hình này, qua đó hạn chế việc tái sử dụng giữa các thế hệ mô hình.
Các biện pháp phòng vệ ở cấp chiến dịch sử dụng tín hiệu từ yêu cầu và tài khoản để điều tra hoạt động trích xuất có phối hợp; những cuộc tấn công được phát hiện trong quá trình điều tra sẽ trở thành ví dụ dùng để huấn luyện và kiểm thử các biện pháp bảo vệ. OpenAI cho biết các đợt thực thi hàng tuần nhằm vào những chiến dịch chưng cất trái phép trong năm 2026 đã ảnh hưởng đến từ vài nghìn đến vài chục nghìn tài khoản, và con số này tăng đáng kể vào mùa hè năm 2026. Công ty theo dõi mức độ phổ biến của hành vi lạm dụng và thời gian từ khi phát hiện đến khi thực thi biện pháp, nhằm giảm lượng dữ liệu kẻ tấn công thu được, tăng chi phí tiến hành chiến dịch và rút ngắn thời gian phản ứng.
Thông báo này được đưa ra sau khi OpenAI công bố thông tin ngày 30 tháng 9 năm 2026 về một chiến dịch có phối hợp, lần đầu được phát hiện vào ngày 1 tháng 7 năm 2026. Báo cáo trước đó mô tả 16,000 yêu cầu trích xuất được gửi trong hai ngày 24 và 25 tháng 7 năm 2026 từ hơn 4,000 người dùng, quy một cụm cốt lõi cho các cá nhân có liên hệ với Moonshot AI, đồng thời cho biết chưa rõ liệu tất cả những người điều hành có thuộc cùng một tác nhân hay không.
Phối hợp ngoài phạm vi OpenAI
OpenAI chia sẻ các dấu hiệu xâm nhập với những nhà cung cấp mô hình khác và phối hợp với các đối tác triển khai về yêu cầu bảo vệ cũng như thực thi đồng bộ. Các khuyến nghị của công ty dành cho những nhà phát triển khác gồm kiểm tra tin nhắn của trợ lý và đối số trong lệnh gọi công cụ; hạn chế tái sử dụng suy luận được mã hóa giữa các cuộc hội thoại và mô hình; lưu lại những cuộc tấn công thành công làm bài kiểm thử hồi quy cho các biện pháp bảo vệ trong tương lai; và kết hợp kiểm soát ở cấp yêu cầu với điều tra chiến dịch. Công ty dự định chia sẻ thêm thông tin về các chiến dịch vừa bị gián đoạn.
OpenAI cho biết với Quốc hội rằng họ ủng hộ Đạo luật Bảo mật Chip, Đạo luật AI OVERWATCH và Đạo luật MATCH, cùng với các dự luật rộng hơn nhằm trao cho chính phủ Hoa Kỳ thêm công cụ để xác định và trừng phạt các tác nhân nước ngoài bí mật khai thác trái phép năng lực từ các mô hình AI của Mỹ.
Công ty lập luận rằng các biện pháp kiểm soát xuất khẩu và phòng vệ trước việc chưng cất mô hình xử lý những khía cạnh khác nhau của rủi ro này: kiểm soát xuất khẩu hạn chế quyền tiếp cận phần cứng cần thiết để huấn luyện các mô hình tiên tiến nhất, trong khi các biện pháp phòng vệ trước việc chưng cất khiến việc thu nhận một số năng lực tương tự từ những mô hình đã được huấn luyện trở nên khó khăn hơn.
Đối với các nhà cung cấp mô hình, ranh giới bảo mật trên thực tế không chỉ bao gồm câu trả lời cuối cùng, mà còn cả cách thức tái sử dụng lập luận qua các cuộc hội thoại, cách lập luận được bộc lộ thông qua các lệnh gọi công cụ và cách hoạt động được giám sát trên nhiều tài khoản. Nghiên cứu cũng cho thấy những tác vụ lập trình và an ninh mạng phòng thủ được phép thực hiện có thể tạo ra rủi ro chuyển giao năng lực, khiến việc bảo vệ xuyên suốt các lượt tương tác và thực thi biện pháp đối phó với các chiến dịch trở thành những phần của cùng một hệ thống phòng vệ.












