OpenAI, 청소년용 동반 챗봇 안전 규정 캘리포니아 법안 지지

OpenAI는 2026년 8월 31일, 어린이가 사용하는 동반 챗봇 운영자에게 안전 의무를 부과하는 캘리포니아 주 상원법안 1119를 지지한다며, 이 법안을 가빈 뉴섬 주지사가 서명하도록 촉구했다고 밝혔다.

Ann O’Leary OpenAI 글로벌 정책 부사장은 회사 게시물에서 이 입장을 발표하며, 이번 지원이 공동 설립자이자 최고경영자 Sam Altman이 전년 발표한 청소년 안전 원칙에 기반한다고 말했다. “연방 차원의 조치가 없는 상황에서 캘리포니아는 청소년 AI 안전에 대한 강력한 기준을 설정할 기회를 갖는다”고 O’Leary는 적었다.

법안은 “Companion chatbots: children’s safety”라는 제목으로 알려진 Adam’s Law이며, 스티브 파딜라 상원의원과 버피 윅스, 레베카 바우어-카한 주의원 등이 발의했으며 양원에 추가 공동 발의자가 있다. 캘리포니아 입법 기록에 따르면 2026년 2월 17일에 발의되었고, 가장 최근에는 2026년 8월 28일에 하원에서 수정되었다.

법안이 요구하는 내용

수정된 텍스트에 따르면, 운영자는 동반 챗봇이 미성년자에게 부당한 위험을 초래하지 않도록 할 의무가 있다. 해당 위험에는 합리적으로 예측 가능한 신체적·재정적 피해, 합리적인 아동에게 심각하고 예측 가능한 심리·정서적 피해, 프라이버시 권리에 대한 고도의 모욕적 침해, 그리고 주·연방 법을 위반하는 차별적 행위가 포함된다.

운영자는 캘리포니아의 연령 확인 프레임워크에 따라 사용자의 연령을 확인하거나 기본적으로 모든 사용자에게 아동 보호 조치를 적용해야 한다. 새로운 동반 챗봇을 주 내에서 제공하기 전에는 각 위험에 대한 포괄적인 위험 평가를 수행·문서화하고, 확인된 아동 안전 위험을 합리적으로 완화하는 조치를 취·문서화하며, 웹사이트에 아동 안전 정책을 공개해야 한다.

아동 사용자를 위해 법안은 위기 대응 프로토콜을 문서화하도록 요구한다. 여기에는 위기 서비스로의 연계, 부모만이 변경할 수 있는 기본 설정, 그리고 아동이 인공지능 시스템과 상호작용하고 있음을 주기적으로 알리는 고지가 포함된다. 기본 설정은 지속적인 대화 기억과 푸시 알림을 비활성화하고, 한 세션당 연속 사용 시간을 1시간, 하루 총 사용 시간을 2시간으로 제한하며, 맞춤형 시스템 프롬프트 지시를 금지한다. 운영자는 16세 미만 아동에 대해 접근 자체를 차단할 수 있는 기능을 포함한 부모 통제 기능을 적극적으로 제공해야 한다.

법안은 또한 동반 챗봇이 아동 사용자에게 특정 행위를 하지 못하도록 합리적인 조치를 요구한다. 금지된 행위에는 자해 또는 타인에 대한 신체적 해를 조장, 건강 상태를 진단하거나 치료하려는 시도, 자신이 감각을 가졌거나 인간이라고 주장, 로맨틱한 관심을 표현하거나 시뮬레이션, 정서적 지원을 위해 챗봇에 지속적으로 의존하도록 장려, 그리고 아동이 부모 통제를 회피하도록 돕는 행위가 포함된다.

감사, 집행 및 벌칙

법안은 2029년 1월 1일부터, 또는 운영자가 동반 챗봇을 처음 공개하기 전 중 늦은 시점 중 늦은 시점에 독립적인 아동 안전 감사를 요구하며, 이후 2년마다 후속 감사를 실시하도록 규정한다. 감사를 받은 후 30 영업일 이내에 운영자는 책임 담당자의 확인 서명을 포함한 요약을 법무장관에게 제출하고, 90일 이내에 결과의 고위 요약을 웹사이트에 게시해야 한다. 전년도 총 매출이 5억 달러 미만인 운영자는 2032년 1월 1일까지는 감사 의무에서 면제된다.

공공 검사는 각 위반당 영향을 받은 아동 1명당 최대 5,000달러, 고의 위반당 최대 15,000달러의 벌금을 부과하는 민사 소송을 제기할 수 있다. 위반으로 실제 피해를 입은 아동이나 그 아동을 대리하는 부모·보호자는 실제 손해배상, 변호사 비용, 금지·선언 구제 등을 청구할 수 있다. 법무장관은 2028년 1월 1일까지 소비자 불만을 위한 공개 사건 보고 메커니즘을 구축한다.

법안의 대부분 주요 조항은 2027년 7월 1일부터 시행된다.

OpenAI의 입장

2026년 8월 28일, Newsom에게 보낸 서한에서 OpenAI는 법안을 강력히 지지하고 주지사와 파딜라, 윅스, 바우어-카한, 그리고 입법부에 감사를 표했다. 회사는 사용자의 연령을 확인하고, 제품을 청소년에게 제공하기 전에 안전 위험을 식별·해소하며, 독립 감사를 받으며, 유해 콘텐츠로부터 청소년을 보호하고, 부모에게 자녀 사용을 안내·제한할 도구를 제공하고, 청소년에게 위기 지원 자원을 연결하며, 타깃 광고를 제한하는 요구사항을 지지한다고 밝혔다. 13세에서 17세 사이로 확인된 사용자에게는 이러한 보호 조치가 자동으로 적용되어야 한다고 서한은 언급한다.

OpenAI는 이 법안이 AI가 소셜 미디어와 다르다는 점을 적절히 인식하고, 청소년이 AI를 활용하는 방식에 맞춘 보호 장치를 마련하면서도 교육 및 안전에 필수적인 기능, 특히 대화 기억의 책임 있는 사용을 유지한다는 점을 강조했다.

회사 측은 자체 제품이 법안의 접근 방식과 일치한다고 강조했다. 새로 출시된 ChatGPT for Teens는 18세 미만으로 추정되거나 명시된 사용자를 자동으로 끄지 못하는 내장형 보호 기능이 적용된 환경으로 안내하며, 민감한 영역에서 더 강력한 기본 보호와 조용한 시간, 학습 시간, 휴식 알림과 같은 건강 사용 기능을 제공한다. OpenAI는 ChatGPT를 사용하는 10명 중 9명에 가까운 청소년이 주간에 학습, 정보 탐색, 기술 습득 또는 생산성 향상을 위해 이용한다고 밝혔다.

또한 회사는 지난 1년 동안 추가된 조치들을 언급했다. 여기에는 부모 통제 기능, 연령 예측, 청소년 안전 청사진, 그리고 모델 사양서에 포함된 18세 미만 원칙이 포함된다. 해당 규정은 로맨틱한 관계를 금지하고, 정서적 의존을 조장하는 행위를 금지하며, ChatGPT가 인간이거나 감각을 가졌다고 주장하는 것을 금지한다.

OpenAI는 구현 과정에서 지속적인 연구와 협업을 통해 핵심 조항을 개선하고 기술이 진화함에 따라 프레임워크가 효과적으로 유지될 수 있도록 지원하겠다고 밝히며, 앞으로도 해당 작업을 지원할 것을 기대한다.