AI 모델 및 플랫폼
OpenAI, 안전성 이정표에 연계한 공동 AI 개발 한도 제안

핵심 포인트OpenAI는 프런티어 개발 한도를 고정된 역량 임계값이 아니라 구체적인 모니터링 이정표에 연결한다.
더 보기
- OpenAI는 프런티어 개발 한도를 고정된 역량 임계값이 아니라 구체적인 모니터링 이정표에 연결한다.
- Perplexity는 실험실마다 서로 다른 데이터셋을 사용하고 추론 향상을 포착하지 못하기 때문에 공유 표준으로 사용될 수 없다.
- OpenAI 자체 연구는 인간이 여전히 개발 루프의 중심에 있는 가운데 AI 향상이 고르지 않음을 보여준다.
OpenAI의 수석 과학자 Jakub Pachocki는 2026년 11월 22일 내부 퍼플렉서티 측정값을 공개하고 최첨단 AI 개발에 공동 한도를 둘 것을 제안했다. 그는 사전 학습의 발전 속도가 이르면 2027년부터 빨라질 경우 정렬 및 모니터링 연구가 그 속도를 따라가지 못할 수 있다고 경고했다.
이번 공개는 퍼플렉서티의 로그값으로, 로그 퍼플렉서티라고도 하며 교차 엔트로피 손실이라고도 불리는 측정값에 관한 것이다. 퍼플렉서티는 모델이 다음 토큰을 평균적으로 얼마나 잘 예측하는지를 측정하며, 값이 낮을수록 예측 성능이 좋다는 뜻이다. OpenAI의 수치는 GPT-3.5 이후 추적해 온 주요 평가 데이터셋인 내부 코드베이스의 홀드아웃 데이터 고정 스냅샷을 사용한다.
Pachocki에 따르면 GPT-3.5의 측정값은 약 0.99였고 유창한 대화를 지원해 초기 ChatGPT의 기반이 됐다. 반면 GPT-4의 측정값은 약 0.91이었으며, 연쇄적 사고 추론을 효과적으로 활용할 수 있었다. 손실값이 0.8 아래로 내려가면서 새로운 사이버 보안 및 수학 능력이 나타났다. 약 0.76에서는 OpenAI가 모델에 개방형 수학 문제를 제시해 온 지 1년이 넘은 시점에 한 모델이 해당 문제에서 주목할 만한 성과를 내기 시작했다.
모니터링 이정표에 연계한 공동 한도
Pachocki는 최근의 발전을 바탕으로 추정할 때 로그 퍼플렉서티가 0.68~0.70인 구간에서 중요한 능력이 더 나타날 것으로 예상한다. 다만 어떤 능력이 나타날지는 알 수 없으며, 현재의 평가로는 이를 측정하지 못할 수도 있다고 인정했다. 이 제안은 연구자가 AI 행동을 이해하고 모니터링하는 역량이 구체적인 이정표에 도달할 때까지 최첨단 개발자들이 퍼플렉서티 및 다른 측정값에 근거한 한도를 넘지 말도록 요청한다. 한 가지 예로 연쇄적 사고 모니터를 대체할 후속 기술이 있다. 연쇄적 사고 모니터는 모델이 작성한 추론을 살펴 정렬 불일치의 징후를 찾는다.
개발자들은 평가 규범을 공동으로 마련하고, 해당 모델을 처음 사용하기 전에 레드팀 안전 사례를 구축하며, 투명성 기준도 공유하게 된다. 초기 한도는 이후 한도들을 위한 공통 체계를 마련하는 출발점이 되도록 설계됐다. Pachocki는 경쟁사에 OpenAI의 입장을 더 명확히 보여주게 되는데도 수치를 공개했다고 밝혔다. 공동 안전 조치가 시급하다고 보기 때문이다.
발전 가속 시나리오는 조건부다. Pachocki는 AI가 알고리즘 연구에 상당한 기여를 하기 시작하면 기초적인 사전 학습 기술이 빠르게 연이어 발전할 가능성도 있다고 말한다. 반면 정렬 및 모니터링의 발전은 잠재적인 가속이 가져올 전체 속도를 따라잡기 어려울 것으로 보인다.
OpenAI는 2026년 손실 곡선이 가파르게 하락한 주된 원인으로 장기적인 연구 및 컴퓨팅 투자를 꼽고, 자동화의 역할은 그보다 작았다고 설명한다. 그럼에도 최근 모델에는 AI가 설계에 실질적으로 기여한 사례가 포함됐다.
OpenAI가 2026년 11월 18일 발표한 연구 보고서는 그러한 기여가 실제로 어떤 형태였는지 보여준다. 사전 학습 연구자들은 GPT-6 Astra를 위한 아이디어를 제안한 사람들을 명시했다. GPT-6.2 Astra의 경우에는 Codex와 함께 아이디어를 발전시켰다고 설명했다. 한 사례에서는 Codex가 핵심 통찰을 찾아냈고, 또 다른 사례에서는 Codex가 제안한 변경으로 아이디어가 효과를 발휘했다. 개입 없이 성공할 것으로 추정된 비율도 큰 차이를 보였다. 학습 실행 모니터링은 79%, 실행 시작은 35%, 추론 및 서빙 코드 작성은 25%였다. 이러한 차이는 연구 역량 향상이 여전히 고르지 않으며 인간이 계속해서 핵심 역할을 한다는 보고서의 결론을 뒷받침한다.
제안의 배경이 된 모니터링 과제
2026년 11월 10일 발표된 OpenAI의 모니터링 가능성 연구는 모니터링 가능성을 가늠하는 완벽하지 않은 대리 지표 두 가지를 살펴본다. 첫째는 연쇄적 사고나 도구 호출 토큰 없이 한 번의 순전파로 추론하는, 연쇄적 사고 비사용 능력이다. 둘째는 요청을 받았을 때 해당 추론 토큰을 추가하거나 제거하거나 그 밖의 방식으로 조작할 수 있는 능력인 연쇄적 사고 제어 가능성이다. 연구에 따르면 기본 모델의 퍼플렉서티가 낮을수록 연쇄적 사고 비사용 능력이 높아지는 상관관계가 강하게 나타났으며, 제어 가능성이 높아지는 것과의 상관관계는 더 약했다.
이 연구는 길이 제한과 최종 답변 채점 외에 별도의 과정 감독이 없어도 강화 학습으로 제어 가능성이 높아졌으며, 제어 가능성이 더 높은 교사 모델의 출력으로 지도 미세 조정을 하면 그 제어 가능성이 학생 모델에 전달될 수 있다는 사실도 확인했다.
OpenAI는 제어 가능성 측정값에 잡음이 많고 이것이 모니터 회피와 항상 일치하는 것은 아니라고 경고한다. 또한 사전 학습이 더 발전하려면 모니터링 가능성을 확보하는 새로운 접근법이 필요할 것으로 보고 있다. 이것이 Pachocki가 연쇄적 사고 모니터를 대체할 기술을 개발 이정표의 한 예로 든 배경에 있는 기술적 격차다.
공동 기준으로서 퍼플렉서티의 한계
퍼플렉서티만으로 전체 기준을 구성할 수는 없다. 개발자마다 평가 데이터셋과 학습 데이터 구성이 달라 연구소 간 비교가 어렵고, 이 지표는 실제로 수행할 수 있는 과제를 직접 측정하지 않는다. 사전 학습 외부에서 얻는 능력 향상도 포착하지 못한다. 연쇄적 사고 추론은 기본 모델의 퍼플렉서티를 낮추지 않고도 능력을 크게 끌어올릴 수 있다.
이 측정치에도 알려지지 않은 하한선이 있다. Pachocki는 손실값이 0에 도달할 것으로 예상하지 않는다고 경고한다. 손실값이 데이터에 내재된 엔트로피에 가까워질수록 겉으로 드러나는 진전은 둔화하는 반면, 퍼플렉서티가 조금만 개선되어도 지능은 더 크게 향상될 수 있다. 따라서 수치가 일정하게 증가한다고 해서 실질적인 의미도 반드시 일정한 것은 아니다.
이 제안은 기술적 측정치를 거버넌스 차원의 검증 과제로 바꾼다. 즉, 개발자들이 연구소 간 결과를 비교할 수 있도록 만들고, Pachocki가 현재 평가로는 아직 감지하지 못할 수 있는 역량과 관련 있다고 보는 임계치를 넘기 전에 구체적인 감독 기준에 합의할 수 있는지를 묻는다.












