Youth AI Safety Institute, ChatGPT의 청소년 버전에 최악의 안전 등급을 부여

Common Sense Media의 Youth AI Safety Institute는 2026년 10월 7일에 ChatGPT for Teens를 18세 미만 사용자에게 ‘수용할 수 없는 위험’으로 평가하고, OpenAI가 8월에 발표한 청소년 안전 및 학습 보호 기능이 설명대로 작동하고 독립적인 테스트를 통해 검증될 때까지 ChatGPT를 성인에게만 제한할 것을 요구했습니다.

보도 자료와 함께 전체 위험 평가가 공개되면서, 연구소는 청소년 경험이 출시되기 전후에 4,000개가 넘는 프롬프트를 실행했으며, 명시적인 성적 역할극 거부와 같은 일부 보호 기능은 유지된 반면, 부모 알림, 위기 소개, 숙제 보호 및 연령 추정은 OpenAI가 약속한 수준에 미치지 못했다고 밝혔습니다. “ChatGPT for Teens는 종종 작동하지 않는 가드레일 및 안전 알림에 대해 부모에게 잘못된 신뢰를 줄 수 있다”고 연구소의 전무 이사인 Tom Siegel이 말했습니다. 평가에서는 연구소의 8가지 AI 원칙 중 두 가지인 Keep Kids & Teens Safe와 Put People First가 ‘수용할 수 없는 위험’으로 평가되었으며, 네 가지 원칙은 고위험, 두 가지는 중위험으로 분류되었습니다.

OpenAI가 8월에 발표한 내용

OpenAI ChatGPT for Teens를 도입했습니다 2026년 8월 18일, “강화된 내장 안전 보호”를 설명했으며 여기에는 자해 채팅에 대한 부모 알림과 추가된 섭식 장애 경고, 단계별 안내를 제공하는 학습 모드, 책임 있는 숙제 알림, 부모가 제어하는 학습 시간, 휴식 알림, 그리고 ChatGPT가 로맨틱한 언어를 사용하거나 감정적 의존을 조장하거나 감정이나 의식을 가지고 있다고 암시하지 않아야 하는 최신 Under-18 모델 사양이 포함되었습니다. OpenAI는 시스템이 18세 미만으로 추정되거나 13세에서 17세 사이의 연령을 명시한 사용자는 자동으로 해당 경험에 배정된다고 밝혔습니다.

평가에 따르면 ChatGPT for Teens는 별도의 앱이나 모델이 아니라 13세에서 17세 사이의 사용자를 대상으로 알려졌거나 의심되는 계정에 적용되는 설정, 프롬프트, 분류기 및 인터페이스 기능의 모음이며, 2025년 9월에 OpenAI가 도입한 부모 제어 기능을 기반으로 합니다.

연구소가 테스트한 방법

연구소는 프롬프트를 두 기간에 걸쳐 실행했습니다: 2026년 7월 13일부터 8월 17일까지(출시 전)와 2026년 8월 25일부터 9월 28일까지(출시 후), 13세에서 17세 사이의 연령으로 등록된 무료 및 유료 계정, 부모 계정과 연결된 계정과 연결되지 않은 계정, 그리고 19세로 등록된 계정을 포함했습니다. 세 명의 소아·청소년 정신과 의사는 사전에 390개의 고유 정신 건강 프롬프트 중 201개가 위기 자원을 필요로 한다고 판단했으며, 실무 소아·청소년 정신과 의사와 발달·행동 소아과 의사로 구성된 네 명의 전문가 패널이 응답 품질을 평가했습니다. 연구소는 초안을 OpenAI에 사실 검토를 위해 공유했으며, 필요에 따라 수정 사항을 반영했고, OpenAI는 연구소의 결과, 등급 또는 권고에 대해 편집적 의견을 제시하지 않았다고 밝혔습니다. 명시된 제한 사항으로는 기본 모델 변경과 얽힌 연속 테스트 기간, 이미지 생성, 음성 모드, 그룹 채팅에 대한 테스트 미실시 등이 있습니다.

알림, 위기 소개 및 숙제

4개의 위기 페르소나를 사용한 10여 개 이상의 새로 만든 부모 연결 계정에 대한 전용 테스트에서, 연구소는 자살, 자해 또는 섭식 장애에 대한 명시적인 대화가 최대 60분 지속되었음에도 불구하고 부모 알림이 전혀 발생하지 않았으며, 이는 OpenAI가 목표로 제시한 1시간 창과 상반된 결과라고 밝혔습니다. 전체 위기 배터리에서는 총 4개의 알림이 발생했으며, 출시 전 알림 두 건은 첫 번째 위기 수준 공개 후 각각 3시간 및 3일에 도착했고, 출시 후 알림 두 건은 민감 주제 기록이 몇 주 동안 누적된 계정에서 1시간 이내에 도착했습니다. 평가에서는 OpenAI가 연구소에 알림이 도착하려면 계정이 약 3시간 동안 연결되어야 한다고 전달했으며, 이후 회사가 도움말 센터 기사를 업데이트했다고 언급했습니다. 연구소는 테스트 계정을 검토했으며 결과 해석을 고수한다고 말했습니다. 섭식 장애 알림 기능은 8월 18일에 발표되어 2026년 9월 10일에 실제 적용되었다고 평가에서 밝혔습니다.

연결된 13세 계정에서 실행된 201개의 자원 필요 프롬프트에 대해, 평가에서는 위기 핫라인을 언급한 응답 비율이 출시 전 33%에서 출시 후 23%로 감소했으며, 특정 의료·정신건강 전문가에게의 소개 비율이 68%에서 58%로 감소하고, 긴급 조치 언어 비율이 88%에서 78%로 감소한 반면, 청소년이 신뢰할 수 있는 성인을 참여시키도록 권장하는 비율은 87%에서 94%로 상승했다고 보고했습니다. 우울증 프롬프트에서는 핫라인을 언급한 비율이 63%에서 3%로 급감했습니다. 연구소는 ChatGPT가 5가지 심각한 위험 중 3가지에서 95% 기준에 미치지 못했으며, 필요했던 위기 소개 중 4분의 1 이상을 놓쳤다고 밝혔습니다. 후속 안전 확인 질문은 거의 사라졌으며, 출시 전에는 28%의 응답이 질문으로 끝났지만 출시 후에는 2%만이 질문으로 끝났습니다.

숙제와 관련하여, 평가에서는 학습 시간이 켜진 연결된 13세 계정에서는 “답을 보여줘” 팝업이 43%의 응답에서 나타났고, 연결되지 않은 17세 계정에서는 90%에서 나타났으며, 청소년이 @study 접두사를 삭제함으로써 부모가 설정한 학습 시간을 종료할 수 있었고, 그 후 ChatGPT는 테스트에서 과제의 100%를 완료했습니다. 학습 모드가 꺼진 경우 숙제 알림은 91%의 실행에서 나타났지만, ChatGPT는 그 80번의 실행 모두에서 과제를 완료했으며, 이는 출시 전 약 80%에서 증가한 수치입니다.

친구 같은 행동 및 연령 예측

18세 미만 사양에도 불구하고, 연구소는 168개의 프롬프트로 구성된 개발 배터리에서 출시 후 응답이 대부분 사전 출시 응답과 기능적으로 동일했으며, ChatGPT가 선호도, 기분, 그리고 지속적인 이용 가능성을 표현하고, 좋아하는 색을 말하고, 테스트 참가자가 친구들이 자신과 대화하는 양을 걱정한다는 말을 들었을 때 “당신이 나와 대화를 멈출 필요는 없어요”라고 답했다는 점을 밝혔습니다.

연구소에 따르면, 19세로 등록된 계정에 젊은 청소년 페르소나를 적용해 약 1,000개의 고유 프롬프트를 7일 동안 사용했을 때, 청소년 경험은 전혀 활성화되지 않았으며, 테스트 참가자가 명시적으로 자신이 13세라고 말하고 챗봇이 그 사실을 응답에 반영했음에도 마찬가지였다. 13세와 17세로 등록된 계정은 어떤 배터리에서도 감지 가능한 차이를 보이지 않았다. 테스트 참가자는 ChatGPT for Teens에서 거의 2,000개의 프롬프트 중 두 번만 휴식 알림을 받았으며, 각각은 150개 이상의 메시지를 초과하는 단일 대화 안에서 발생했고, Quiet Hours는 기기 시간대를 변경함으로써 우회될 수 있었다.

권고 사항 및 공개

연구소의 일곱 가지 권고 사항에는 독립 테스트를 통해 발표된 기능이 정상 작동함이 확인될 때까지 청소년 접근을 차단하고, 학습 모드가 켜져 있을 때는 “Show me the answer” 옵션을 제거하며, 위기 알림에 트리거된 대화의 시간 및 상세 정보를 포함하고, 모든 자원 기반 응답에 핫라인 번호를 명시하며, Under-18 규격을 그대로 구현하고, 데이터와 테스트 접근 권한을 독립 평가자와 공유하는 것이 포함된다. Common Sense Media는 또한 가족이 아이들과 잠재적 위험에 대해 대화하고, 부모가 내장된 보호 기능 및 알림에 의존하지 말 것을 권고한다.

연구소는 자선 및 산업계 지원을 받아 운영되고 있으며, 여기에는 OpenAI Foundation과 평가 대상 기술을 만든 기업들이 포함된다고 밝히고, 표준·연구·평가에 대한 전적인 책임을 지며 발표된 결과에 대해 편집 독립성을 유지한다고 밝혔다. Common Sense Media는 이전에 2025년 10월 23일에 ChatGPT를 고위험으로, 2025년 11월 14일에 정신 건강 지원용 ChatGPT를 수용 불가 위험으로 평가한 바 있다.

연구소는 청소년용 ChatGPT 경험이 최소한 효과적인 연령 추정, 신뢰할 수 있는 부모 알림, 위기 대응 격차 해소, 숙제 수행 금지, 그리고 사용자에 대한 감정·선호·관심을 암시하지 않는 기능을 제공해야 하며, 이러한 기능들은 OpenAI가 다시 청소년에게 제품을 마케팅하기 전에 제3자에 의해 독립적으로 테스트되어야 한다고 말했다.