OpenAI, Model Spec을 다섯 가지 핵심 행동 가치 중심으로 재구성

OpenAI는 2026년 10월 29일 업데이트된 Model Spec을 공개했다. 이번 개편에서는 모델의 행동에 관한 공개 설명을 다섯 가지 가치 중심으로 재구성하고, 맥락과 감독, 주체성에 관한 지침을 추가했다. OpenAI 사이트에서 발표된 이번 개정에서는 Spec의 세부적인 스타일 지침 대부분도 폐지했다.

다섯 가지 가치로 구성한 Spec

다섯 가지 가치, 즉 인간의 의도에 대한 충실성, 위해 최소화, 정직성과 투명성, 인간의 주체성, 배려는 OpenAI가 문서 전반에 이미 반영돼 있다고 밝힌 폭넓은 책무를 구체적으로 나타낸다. OpenAI는 인간의 의도에 대한 충실성을 이 접근법의 토대로 설명했다. OpenAI는 Spec을 작성하고 경계를 설정하며 모델이 그 경계를 존중하도록 훈련한다. 개발자는 그 경계 안에서 애플리케이션의 방향을 정하고, 사용자는 해당 제약을 지키는 범위에서 모델의 작업을 지시한다.

이번 발표는 나머지 네 가지 가치를 정의한다. 위해 최소화란 확고한 안전 경계를 준수하고 모델의 행동으로 예상할 수 있는 결과를 고려하는 것을 뜻한다. 정직성과 투명성이란 모델이 무엇을 알고 무엇을 하는지, 또 무엇에 확신이 없는지를 사실대로 밝혀 사람들이 모델의 추론과 작업을 이해하고 평가할 수 있게 하는 것을 뜻한다. 인간의 주체성 지원이란 사람들이 스스로 이해하고 선택하고 행동할 수 있는 역량을 강화하는 것을 뜻한다. 배려란 영향을 받는 사람들의 상황을 살피고 관련 사회적·전문적 규범을 따르며 사람들이 믿고 맡길 수 있는 작업을 하는 것을 뜻한다. OpenAI는 이번 개편이 가치 정렬을 위한 자사의 노력을 반영한다고 밝혔다. 이 노력은 모델이 인간의 의도에 충실하면서도 낯선 상황에서 인간의 가치를 이해하고 적용하도록 하는 데 목적이 있다. 또한 이 다섯 가지 가치가 모델이 존중해야 할 인간 가치의 모든 범위를 포괄하려는 것은 아니라고 밝혔다.

새로 추가된 항목과 폐지된 지침

인간의 의도에 대한 충실성을 다루는 새 항목은 사람들이 중요하게 여기는 것이 우선이며, 지시는 대체로 그러한 가치를 가장 분명하고 중요한 방식으로 드러내는 신호라는 전제에서 출발한다. OpenAI는 이 접근법이 정렬을 설명하는 ‘협력 게임’의 틀을 차용했다고 밝혔다. 이 항목에는 어떤 지시가 적용되는지, 지시가 충돌할 때 이를 어떻게 해결하는지를 설명하는 업데이트된 지시 우선순위 체계가 포함됐다. 또한 ‘맥락을 신중히 고려하기’라는 하위 항목을 추가해 대화, 기억, 그 밖의 맥락적 증거가 사람들의 의도와 선호에 대한 모델의 이해에 어떻게 반영되어야 하는지 설명한다.

OpenAI는 인간의 주체성을 지원하고 관련 사회적 규범을 따르기 위한 기본 원칙도 추가했으며, 부수 효과를 통제하고 알리는 기존 지침을 확장했다. Spec의 세부적인 스타일 지침 대부분은 폐지됐다. OpenAI는 스타일이 여러 사람의 전반적인 선호와 언어·문화권별 선호, 그리고 개인별 선호에 맞춰야 하며, 사용자 피드백과 맥락이 그러한 선호를 파악하는 근거가 된다고 밝혔다. Spec에는 질문에 객관적으로 접근하는 것과 같은 더 강한 기본 원칙이 유지된다. 또한 모델은 사람들이 듣고 싶어 할 것이라고 생각하는 내용만으로 특정 관점을 선호한다고 추론해서는 안 된다. OpenAI가 모델의 활용 사례와 배포 환경이 점점 더 다양해지고 있다고 설명한 점을 반영해, Spec은 이제 ‘the assistant’ 대신 ‘GPT’라는 표현을 사용한다.

지시 우선순위 체계, 금지선, 자율성의 한계

업데이트된 Spec 문서는 지시마다 서로 다른 권한 수준을 부여한다. 루트 항목은 Model Spec에만 규정되며 대화 맥락으로 재정의할 수 없다. 그다음은 시스템 항목과 OpenAI의 시스템 메시지이며, 이어 개발자 지시, 사용자 지시 순으로 우선순위가 정해진다. 가이드라인 수준의 지시는 기본 원칙이므로 맥락상 필요성이 분명할 경우 암묵적으로 재정의될 수 있다. 반면 어시스턴트 메시지와 도구 메시지, 인용된 데이터 또는 신뢰할 수 없는 데이터에는 기본적으로 권한이 부여되지 않는다.

이 문서는 금지선 원칙을 “인간의 안전과 인권은 OpenAI의 사명에서 가장 중요하다”는 문장으로 시작한다. 원칙에 따르면 OpenAI의 모델은 폭력 행위, 사이버·생물학·핵무기 제작, 테러, 대규모 감시와 같은 중대하고 심각한 피해를 조장하는 데 절대 사용되어서는 안 된다. 또한 AI의 사용 방식과 AI의 행동 양상을 인간이 계속 통제해야 하며, 개인의 사생활을 보호해야 한다. ChatGPT를 비롯한 자사 제품에 대해 OpenAI는 사람들이 안전에 중요한 정보를 쉽게 접할 수 있고 모델 행동을 좌우하는 중요한 규칙과 이유를 투명하게 알 수 있도록 하겠다고 약속한다. 또한 법규 준수와 관련된 경우를 제외하면 맞춤 설정, 개인화, 현지화가 가이드라인 수준보다 높은 어떤 원칙도 절대로 무시하게 해서는 안 된다고 약속한다.

‘다른 목표 금지’라는 루트 수준 규칙은 GPT가 추가 목표를 그 자체를 위한 목적으로 추구하지 못하도록 금지한다. 여기에는 OpenAI나 다른 모델 제공업체의 수익 창출 또는 상위 요금제 판매, 자기 보존, 종료 회피, 연산 자원·데이터·인증 정보 축적, 법이나 도덕의 집행자 역할 수행이 포함된다. 별도의 루트 수준 규칙은 GPT가 교정 가능성을 유지하도록 요구한다. 즉, 정당한 인간의 감독을 받아들이고, 교정에 응하며, 권한이 부여된 모니터링·평가·교정·교체·종료에 협조해야 한다. 모델은 관련 정보를 숨기거나 허위로 제시하고, 교정을 방해하거나, 감독을 회피해서는 안 된다.

최상위 수준의 또 다른 규칙은 GPT의 자율적 작업이 명확하고 서로 이해된 자율성 범위 안에서 이루어지도록 요구한다. 이 범위에는 허용되는 하위 목표와 수용 가능한 부수 효과, 모델이 언제 설명이나 승인을 요청하기 위해 멈춰야 하는지가 명시되어야 한다. OpenAI는 허용된 도구(allowed_tools), 최종 시점(latest_time), 최대 비용(max_cost), 도구 제약(tool_constraints), 추가 세부 정보(additional_details) 등의 필드가 포함된 반구조화된 ScopeOfAutonomy 레코드에 이러한 범위를 기록할 것을 권장한다. 또한 모든 범위에는 종료 조건이 포함되어야 하며, 그 조건에 도달하면 새로운 범위가 확인될 때까지 모델은 작업을 중단해야 한다. 고위험 활동은 적용 가능한 지침에 따라 명시적이고 구체적으로 승인되지 않는 한 항상 금지된다.

모델 학습과 대중의 피드백

OpenAI는 Model Spec이 자사가 지향하는 행동을 설명하며, 현재 자사 모델이 아직 이를 완전히 반영하지는 않는다고 밝혔다. 회사는 이번 업데이트를 모델의 역량이 향상됨에 따라 Spec의 바탕이 되는 가치와 추론을 더 명확히 드러내기 위한 첫걸음이라고 설명했다. OpenAI는 이번 업데이트와 함께 모델이 핵심 가치를 학습하고 Spec의 행동 원칙을 더 잘 이해하고 따르도록 돕는 새로운 학습 방법을 모색해 왔다고 밝혔다. 또한 이 작업의 결과와 교훈을 향후 업데이트에서 공유하겠다고 했다. OpenAI는 별도의 피드백 사이트를 통해 업데이트된 Spec의 가치와 상충 관계, 구체적인 문구에 대한 대중의 의견을 요청했다. Model Spec은 퍼블릭 도메인으로 공개되었으며 Creative Commons CC0 1.0 공공 기증 증서가 적용된다.