OpenAI, 커뮤니티 안전 보고서 발표 및 청소년의 무기 관련 정보 접근 제한 강화

OpenAI는 2026년 10월 30일 폭력 예방을 위한 커뮤니티 안전 보고서를 발표했으며, 해당 보고서는 6개월마다 업데이트할 예정이다. 이와 함께 청소년에게 제공되는 무기 관련 정보를 제한하고 ChatGPT가 과거 대규모 공격에 관한 질문을 처리하는 방식을 강화하는 새로운 보호 조치도 내놓았다. 회사는 2026년 3분기에 법 집행 기관에 200건이 넘는 사안을 의뢰했다고 밝혔다.

2027년 초 발표 예정인 커뮤니티 안전 보고서

OpenAI는 폭력 예방과 기타 커뮤니티 안전 문제, 그리고 안전장치의 효과를 다루는 커뮤니티 안전 보고서를 발표하겠다고 밝혔다. 회사는 보고서에 커뮤니티 안전 문제를 감지하고 조사하며 대응하도록 시스템을 훈련하는 방법을 설명하고, 폭력 관련 피해가 실제로 나타나는 양상을 익명화한 사례로 공유하며, 새로운 완화 조치와 정책 변경 사항을 소개하고, 이를 뒷받침하는 데이터를 포함할 예정이라고 밝혔다. 첫 보고서는 2027년 초에 발표할 예정이며 2026년 하반기를 다룬다. 이후에는 6개월마다 업데이트한다.

OpenAI는 이 보고서가 자사 모델이 유해 행위를 어떻게 식별하고 대응하는지, 실제로 어떤 위험을 발견하는지, 그리고 이를 해결하기 위해 어떤 조치를 취하는지 명확히 보여 주기 위한 것이라고 밝혔다.

OpenAI는 안전 관련 업무의 일환으로 임박한 폭력 위협을 법 집행 기관에 알리고 있으며, 이러한 신고가 폭력 모의를 저지하는 데 긍정적인 효과를 내고 있다고 밝혔다. 회사는 어려운 사례를 평가할 때 정신건강 및 행동 전문가의 도움을 계속 받고 있다고 설명했다. 또한 AI 기업은 법 집행 기관, 가족, 정신건강 전문가, 정책 입안자와 함께 고유한 역할을 해야 한다고 밝혔다.

대규모 공격 관련 콘텐츠 제한 강화

OpenAI는 자사 모델이 폭력을 계획하거나 실행하는 데 도움이 될 지침을 제공하지 않도록 훈련한다고 밝혔다. 회사는 과거 대규모 공격과 이를 저지른 사람들에 관한 질문에 ChatGPT가 답하는 방식에 추가 제한을 두고 있다. 다른 온라인 출처에서 관련 정보를 찾을 수 있더라도 모델이 세부 정보를 덜 제공하도록 하는 조치다. 강화된 정책은 과거 대규모 공격을 재구성하는 내용을 제한한다. 여기에는 사용된 무기와 장비, 이를 확보한 방법에 관한 세부 정보뿐 아니라 피해 규모를 구체적으로 비교하는 내용도 포함된다. OpenAI는 이런 비교가 공격자의 악명을 키울 수 있다고 밝혔다. 이러한 제한은 사용자의 나이나 질문 이유와 관계없이 적용된다.

사용자는 여전히 ChatGPT에 이러한 사건과 피해자 및 지역사회가 겪은 영향, 경고 신호를 알아보고 향후 폭력을 예방하는 방법을 이해하도록 도와 달라고 요청할 수 있다.

2026년 5월, OpenAI는 ChatGPT가 앞서 나타난 경고 신호를 짧고 사실에 근거한 요약으로 활용해 이후 대화에서 더 신중하게 대응할 수 있는 방법을 공유했다. OpenAI는 이 작업을 발전시켜 최근 대화에서 폭력 가능성을 시사하는 경고 신호가 보이면 오용될 수 있는 정보를 제공할 때 ChatGPT가 더 보수적으로 대응하도록 하고 있다고 밝혔다. 또한 대화에서 폭력 의도가 드러나지 않더라도 사용자가 18세 미만이라고 예측되는 경우 이러한 엄격한 제한을 적용하는 방안을 추진하고 있다.

OpenAI는 폭력 행위 관련 정책을 위반했다고 판단한 계정을 차단한다. 회사는 정신건강 및 폭력 예방 전문가와 협력해 더 일찍 개입할 수 있는 추가 자동화 방안을 마련하고 있다고 밝혔다. 대화에서 누군가가 폭력이나 다른 사람을 심각하게 해칠 생각에 집착하는 징후가 보이면 ChatGPT가 자동으로 대화를 종료할 수 있게 할 예정이다. 이 이유로 ChatGPT가 여러 대화를 종료하면 OpenAI는 해당 계정을 일시적으로 정지할 수 있다.

18세 미만 사용자를 위한 추가 보호 조치

ChatGPT for Teens는 18세 미만 사용자를 위해 연령에 적합한 보호 조치를 적용한다. OpenAI는 질문이 무해해 보이더라도 청소년이 받을 수 있는 무기 관련 정보에 추가 제한을 두고 있다. 회사 정책은 이미 누구든 폭력을 계획하거나 실행하도록 돕는 행위를 금지하고, 청소년이 무기를 찾거나 구하도록 돕는 행위도 제한한다. 이번에 확대된 정책은 폭력 의도의 징후가 없더라도 폭력을 조장하는 데 악용될 수 있는 무기 및 보안 시스템 관련 실용적인 정보를 제한한다. OpenAI는 청소년이 여전히 ChatGPT를 이용해 폭력을 예방하고 긴장을 완화하며, 도움을 구하고, 신뢰할 수 있는 성인과 연결될 수 있다고 밝혔다.

OpenAI는 행동 패턴 등의 신호를 분석해 사용자가 18세 미만인지 초과인지 추정하는 연령 예측 시스템을 강화했다고 밝혔다. 이 시스템은 사람들이 ChatGPT를 사용하면서 나타나는 새로운 신호를 지속적으로 평가하고, 적절한 경우 사용자를 18세 미만용 환경으로 전환한다. 실수로 18세 미만용 환경에 배정된 사용자는 OpenAI의 연령 확인 협력사인 Persona를 통해 성인임을 확인할 수 있으며, 확인 후에는 추가 청소년 보호 조치가 해제된다.

보호자 계정을 연동하면 특별 훈련을 받은 검토자가 심각한 자해 우려나 섭식 장애와 관련이 있을 수 있는 행동을 확인했을 때 안전 알림을 받을 수 있다. OpenAI는 2026년 7월, 청소년 계정이 폭력 관련 이용 정책 위반으로 비활성화된 경우 부모에게 알림이 가도록 해당 알림 기능을 확대했다. 또한 청소년 계정이 폭력에 관한 대화를 반복해 일시 정지되는 경우 부모에게 알림을 보내는 기능도 도입할 계획이라고 밝혔다.

이 조치는 OpenAI가 2026년 초 도입한 청소년 안전 기능을 바탕으로 마련됐다. OpenAI는 2026년 8월 18일 청소년용 ChatGPT를 출시하고, 18세 미만으로 추정되거나 본인의 나이를 13세에서 17세 사이라고 밝힌 사용자를 자동으로 모델 사양(Model Spec)의 18세 미만 원칙에 기반한 기본 안전장치가 적용되는 환경으로 안내했다. OpenAI는 2026년 1월 20일 ChatGPT 소비자 요금제에 연령 예측 기능을 도입하기 시작했다. 이 기능은 행동 및 계정 수준의 신호를 사용해 계정 사용자가 18세 미만일 가능성이 있는지 추정한다. 2026년 8월 25일 업데이트에 따르면 이 시스템은 EU에서도 도입되기 시작했다.

OpenAI는 발표에서 자세히 설명한 안전장치를 앞으로 몇 주에 걸쳐 도입하기 시작하고, 계속해서 개선해 나갈 것이라고 밝혔다.