OpenAI công bố Báo cáo An toàn Cộng đồng và các giới hạn mới về vũ khí đối với thanh thiếu niên

Ngày 30 tháng 10 năm 2026, OpenAI công bố Báo cáo An toàn Cộng đồng về phòng chống bạo lực, sẽ được cập nhật sáu tháng một lần, cùng với các biện pháp bảo vệ mới nhằm hạn chế thông tin liên quan đến vũ khí mà thanh thiếu niên có thể tiếp cận và siết chặt cách ChatGPT xử lý câu hỏi về các vụ tấn công hàng loạt trong quá khứ. Công ty cho biết đã chuyển hơn 200 vụ việc đến cơ quan thực thi pháp luật trong quý III năm 2026.

Dự kiến ra mắt Báo cáo An toàn Cộng đồng vào đầu năm 2027

OpenAI cam kết ra mắt Báo cáo An toàn Cộng đồng, đề cập đến công tác phòng chống bạo lực và các vấn đề an toàn cộng đồng khác, cũng như hiệu quả của các biện pháp bảo vệ. Công ty cho biết báo cáo sẽ giải thích cách họ huấn luyện các hệ thống để phát hiện, điều tra và ứng phó với các vấn đề an toàn cộng đồng; chia sẻ những ví dụ đã ẩn danh về cách tác hại liên quan đến bạo lực biểu hiện; nêu bật các biện pháp giảm thiểu và thay đổi chính sách mới; đồng thời cung cấp dữ liệu hỗ trợ. Báo cáo đầu tiên dự kiến được công bố vào đầu năm 2027, bao quát nửa cuối năm 2026 và sau đó sẽ được cập nhật sáu tháng một lần.

OpenAI cho biết báo cáo nhằm giúp mọi người hiểu rõ cách các mô hình của công ty nhận diện và ứng phó với hành vi gây hại, những rủi ro mà công ty ghi nhận trong thực tế và các bước công ty thực hiện để giải quyết những rủi ro đó.

OpenAI cho biết công tác an toàn của công ty bao gồm việc thông báo cho cơ quan thực thi pháp luật về các mối đe dọa bạo lực sắp xảy ra, đồng thời những thông báo này đang góp phần tích cực ngăn chặn các âm mưu bạo lực. Công ty cho biết vẫn tiếp tục dựa vào các chuyên gia sức khỏe tâm thần và hành vi để đánh giá những trường hợp khó xử lý, đồng thời nhận định các công ty AI có vai trò riêng cần đảm nhận bên cạnh cơ quan thực thi pháp luật, người thân trong gia đình, chuyên gia sức khỏe tâm thần và nhà hoạch định chính sách.

Siết chặt giới hạn đối với nội dung về các vụ tấn công hàng loạt

OpenAI cho biết các mô hình của công ty được huấn luyện để không đưa ra hướng dẫn có thể giúp ai đó lên kế hoạch hoặc thực hiện hành vi bạo lực. Công ty đang áp dụng thêm các hạn chế đối với cách ChatGPT trả lời câu hỏi về những vụ tấn công hàng loạt trong quá khứ và những người thực hiện chúng, yêu cầu mô hình cung cấp ít chi tiết hơn, ngay cả khi thông tin đó có trên các nguồn trực tuyến khác. Các chính sách được siết chặt hạn chế việc tái dựng chi tiết những vụ tấn công hàng loạt trong quá khứ, bao gồm thông tin về vũ khí và thiết bị được sử dụng cũng như cách thức có được chúng, đồng thời hạn chế cả những so sánh chi tiết về mức độ thiệt hại mà OpenAI cho rằng có thể làm gia tăng tai tiếng của kẻ tấn công. Các giới hạn này áp dụng bất kể tuổi tác hay lý do đặt câu hỏi của người dùng.

Mọi người vẫn có thể nhờ ChatGPT giúp tìm hiểu về những sự kiện này, tác động của chúng đối với nạn nhân và cộng đồng, cũng như cách nhận biết các dấu hiệu cảnh báo và ngăn chặn bạo lực trong tương lai.

Tháng 5 năm 2026, công ty chia sẻ cách ChatGPT có thể sử dụng những bản tóm tắt ngắn gọn, dựa trên sự kiện về các dấu hiệu cảnh báo trước đó để phản hồi thận trọng hơn trong cuộc trò chuyện sau này. OpenAI cho biết đang phát triển tiếp công việc này để khi các cuộc trò chuyện gần đây cho thấy dấu hiệu cảnh báo về nguy cơ bạo lực, ChatGPT sẽ phản hồi thận trọng hơn khi chia sẻ thông tin có thể bị sử dụng sai mục đích; công ty cũng đang tìm cách áp dụng những giới hạn nghiêm ngặt hơn đó khi dự đoán người dùng dưới 18 tuổi, ngay cả khi các cuộc trò chuyện của họ không cho thấy dấu hiệu có ý định bạo lực.

OpenAI cấm các tài khoản mà công ty xác định đã vi phạm chính sách về hoạt động bạo lực. Công ty cho biết đang phối hợp với các chuyên gia sức khỏe tâm thần và phòng chống bạo lực để xây dựng thêm những phương thức can thiệp tự động và sớm hơn: khi cuộc trò chuyện có dấu hiệu cho thấy ai đó đang ám ảnh về bạo lực hoặc ý nghĩ gây tổn hại nghiêm trọng cho người khác, ChatGPT sẽ có thể tự động kết thúc cuộc trò chuyện; nếu ChatGPT kết thúc nhiều cuộc trò chuyện vì lý do đó, OpenAI có thể tạm thời đình chỉ tài khoản.

Tăng cường biện pháp bảo vệ cho người dùng dưới 18 tuổi

ChatGPT dành cho thanh thiếu niên áp dụng các biện pháp bảo vệ phù hợp với độ tuổi cho người dùng dưới 18 tuổi, và OpenAI đang siết chặt hơn các giới hạn đối với thông tin liên quan đến vũ khí mà thanh thiếu niên có thể nhận được, ngay cả khi câu hỏi có vẻ vô hại. Các chính sách hiện hành của công ty đã cấm hỗ trợ bất kỳ ai lên kế hoạch hoặc thực hiện hành vi bạo lực, đồng thời hạn chế việc giúp thanh thiếu niên tìm kiếm hoặc sở hữu vũ khí; phạm vi hạn chế nay được mở rộng để bao gồm thông tin thực tiễn về vũ khí và hệ thống an ninh có thể bị sử dụng sai mục đích nhằm tạo điều kiện cho bạo lực, ngay cả khi không có dấu hiệu về ý định bạo lực. OpenAI cho biết thanh thiếu niên vẫn có thể dùng ChatGPT để góp phần ngăn chặn và giảm leo thang bạo lực, tìm kiếm sự hỗ trợ và kết nối với một người lớn đáng tin cậy.

OpenAI cho biết đã tăng cường hệ thống dự đoán độ tuổi, vốn phân tích các tín hiệu như kiểu hành vi để ước tính liệu người dùng có thể dưới hay trên 18 tuổi hay không. Hệ thống sẽ liên tục đánh giá các tín hiệu mới trong quá trình mọi người sử dụng ChatGPT và chuyển người dùng sang trải nghiệm dành cho người dưới 18 tuổi khi phù hợp. Người dùng bị chuyển nhầm sang trải nghiệm dành cho người dưới 18 tuổi có thể xác nhận mình là người trưởng thành thông qua Persona, đối tác xác minh độ tuổi của OpenAI, để gỡ bỏ các biện pháp bảo vệ bổ sung dành cho thanh thiếu niên.

Các tài khoản kiểm soát của phụ huynh được liên kết có thể nhận cảnh báo an toàn khi những người đánh giá được đào tạo chuyên sâu phát hiện mối lo ngại nghiêm trọng về nguy cơ tự làm hại bản thân và các hành vi có thể liên quan đến chứng rối loạn ăn uống. Tháng 7 năm 2026, OpenAI mở rộng các cảnh báo này để thông báo cho phụ huynh nếu tài khoản của thanh thiếu niên bị vô hiệu hóa vì vi phạm chính sách sử dụng liên quan đến bạo lực. Công ty cho biết đang triển khai thông báo cho phụ huynh trong trường hợp tài khoản của thanh thiếu niên bị tạm đình chỉ do liên tục thảo luận về bạo lực.

Các biện pháp này được xây dựng dựa trên những tính năng bảo vệ thanh thiếu niên mà OpenAI đã giới thiệu hồi đầu năm 2026. Ngày 18 tháng 8 năm 2026, công ty ra mắt ChatGPT dành cho thanh thiếu niên, tự động đưa những người dùng được xác định là dưới 18 tuổi hoặc khai báo tuổi từ 13 đến 17 vào một trải nghiệm có các biện pháp bảo vệ mặc định dựa trên các Nguyên tắc dành cho người dưới 18 tuổi trong Model Spec. Ngày 20 tháng 1 năm 2026, OpenAI bắt đầu triển khai dự đoán độ tuổi trên các gói ChatGPT dành cho người dùng cá nhân, sử dụng các tín hiệu về hành vi và tài khoản để ước tính liệu tài khoản có khả năng thuộc về người dưới 18 tuổi hay không; bản cập nhật ngày 25 tháng 8 năm 2026 cho biết hệ thống đã bắt đầu được triển khai tại EU.

OpenAI cho biết các biện pháp bảo vệ được nêu chi tiết trong thông báo sẽ bắt đầu được triển khai trong vài tuần tới và công ty sẽ tiếp tục hoàn thiện chúng.