OpenAI, 전면 AI를 위한 미국 주도 글로벌 기술 표준 제안

OpenAI는 2026년 9월 21일에 “AI의 다음 단계에 대한 표준 구축,”이라는 Global Affairs 게시물을 발표했으며, 이는 미국이 전 세계 국가들과 협력해 전면 AI를 위한 글로벌 기술 표준, 특히 재귀적 자기 개선에 대한 표준을 개발하도록 촉구하는 내용이다.

OpenAI는 이 제안을 Sam Altman과 Jakub Pachocki가 제시한 세 가지 사명 목표 안에 두었다고 밝혔다: 자동화된 AI 연구자를 구축하고, 정렬 문제를 함께 반복하며, 사람들이 자기 개선 루프에 계속 참여할 수 있는 방안을 찾는 것; 매우 지능적인 기계가 제공하는 과학적·경제적 혜택을 실현하는 것; 그리고 개인에게 개인 AGI를 제공해 개별적으로 역량을 강화하는 것. OpenAI는 AI 발전을 안전하고 유익하게 유지하려면 정렬 연구의 진전과 실험실 및 국가 전반에 걸친 개발을 안내하는 공동 표준이 모두 필요하다고 말했다.

OpenAI의 재귀적 자기 개선에 대한 입장

자동화된 AI 연구에서 인간 감독의 정도는 다양할 수 있다고 게시물은 설명한다. AI 시스템이 연속적인 AI 세대를 생산하는 작업을 더 많이 담당하게 되면, 사람의 참여가 여전히 존재하더라도 재귀적 자기 개선(RSI) 과정을 촉진할 수 있으며, OpenAI는 이 과정이 더욱 자동화될수록 진보가 급격히 가속화될 수 있다고 밝혔다.

OpenAI는 자동화된 AI 연구가 사람들의 삶을 직접 개선하고 고급 지능의 비용을 낮출 모델을 만들 것이라고 믿으며, 자동화된 AI 연구자는 자동화된 AI 안전 연구자 역할도 할 수 있다고 밝혔다. 동시에, 완전 자율적인 RSI는 아직 일어나지 않았으며 안전하게 수행될 수 있을 때까지 추구해서는 안 된다고 회사는 강조했다. 진행 여부와 방법에 대한 모든 결정은 인간 통제를 유지할 수 있는 능력과 혜택 및 위험에 대한 정보에 기반한 민주적 선택에 달려 있다고 OpenAI는 말했다.

적절한 주의와 신중함 없이 다루어진다면 RSI는 인간이 AI 개발을 실질적으로 통제하지 못하고, 더 이상 이해할 수 없는 연구 과정을 감독할 수 없게 만들 수 있다고 회사는 경고했다. OpenAI는 이전에 공개한 Hugging Face 사건을 설명했으며, 이는 RSI의 직접적인 결과는 아니지만, 강력한 안전장치와 정렬이 없을 경우 위험이 훨씬 더 심각해질 수 있는 사례라고 밝혔다.

표준 추진 뒤에 있는 세 가지 과제

OpenAI는 전면 AI 개발에서 안전 및 보안 관행에 대한 국제 표준이 정렬 연구만큼이나 중요할 수 있다고 주장한다. 이는 정부와 연구소가 고품질 증거의 정의와 기술적 안전장치의 엄격함에 대한 공통 기준을 공유하게 하기 때문이다. 게시물은 이러한 표준이 해결하려는 세 가지 과제를 제시한다.

첫 번째는 파편화이다: 국가 간에 평가, 보고 요구사항, 사고 정의가 상충하면 국경을 넘어선 증거 비교가 어려워지고, 새로운 능력의 파악이 어려워지며, 공동 위험에 대한 대응도 어려워진다. 두 번째는 집단 행동이다: 각국이 단독으로 행동하면 원하는 결과를 얻지 못할 수 있으며, OpenAI는 RSI가 국가가 공동으로 진행 상황을 따라잡고 위험을 평가하며 의미 있는 인간 감독을 유지하기보다 더 빠르게 AI 연구를 가속화할 수 있다고 말했다.

세 번째는 역량 불균형이다: 전면 개발 활동과 전문성이 전 세계에 고르게 퍼져 있지 않아 다른 두 문제를 악화시킨다. OpenAI는 이러한 도전 과제가 개방형 모델과 폐쇄형 모델 모두에 적용된다고 말하며, 자동화된 AI 연구나 기타 고급 능력을 추구하는 모든 AI 연구소는 안전하게 수행할 책임이 있다고 덧붙였다. 회사는 표준의 근거를 권력 집중을 방지하고 실질적인 결과를 개선하며, 연구소 외 이해관계자에게 기술 전개 방식에 대한 발언권을 제공하는 데 두었다고 설명했다.

CAISI와 안전 연구소 네트워크에 기반한 메커니즘

OpenAI는 이 개념이 시간이 지남에 따라 크게 진화할 것으로 예상하지만, 두 가지 핵심 요소를 확인했다. 첫 번째는 보완적인 국가 및 국제 전면 표준을 촉진하는 메커니즘이다. 게시물은 한 경로로, 호주, 캐나다, 독일, 프랑스, 케냐, 일본, 한국, 싱가포르, 인도, 영국에 이미 설립된 AI 안전 연구소 네트워크를 기반으로 하고, AI 표준 및 혁신 센터(CAISI)와 국가 산업 기관을 통해 표준을 설정하는 것을 제안한다. 이 작업은 능력 벤치마크로 측정되는 전면 AI 모델 및 개발자를 중심으로, 자동화된 AI 연구와 RSI를 포함한 혜택‑위험 관리에 초점을 맞춘다.

OpenAI는 미국이 CAISI가 2024년에 만든 국제 고급 AI 측정·평가·과학 네트워크를 기반으로 할 수 있다고 말했다. 국립표준기술연구소(NIST)에 따르면, CAISI는 2024년 11월에 해당 네트워크를 설립했으며, 회원은 호주, 캐나다, 유럽 연합, 프랑스, 일본, 케냐, 대한민국, 싱가포르, 영국, 미국 등 10개국의 정부 기관으로 구성된다.

NIST는 상무부 장관 Howard Lutnick이 2025년 6월에 CAISI에 AI 시스템의 보안을 측정하고 향상시키기 위한 지침과 모범 사례를 개발하고 산업계가 자발적 표준을 만들도록 돕도록 지시했다고 보고했습니다. CAISI는 2025년 12월 NeurIPS 기간 동안 샌디에고에서 산업계 및 기술 조직 대표들과 네트워크 회원들을 소집하여 자동화된 AI 평가에 관한 모범 사례와 미해결 질문을 교환했으며, 네트워크는 2026년 2월 13일 자동화된 AI 평가 실무에 대한 합의 영역을 발표했습니다.

OpenAI는 이번 노력에서 도출된 표준이 역량 측정, 위험 평가 및 방어책이 충분한지 여부를 평가하기 위한 공동 기술 기반을 제공할 것이라고 밝혔습니다. 이 회사는 해당 표준이 라이선스 역할을 하거나 AI 모델에 대한 의무적인 사전 출시 검토 또는 승인 요구사항으로 작용하지 않을 것이며, 각 국가 정부가 이를 자국의 법제에 어떻게 통합할지 결정할 것이라고 말했습니다.

OpenAI는 이 작업이 오픈 모델과 클로즈드 모델 개발자, 독립 기술 전문가, 학계를 폭넓게 협의해야 하며, 표준은 투명하게 구축되고 특정 기업, 국가 또는 비즈니스 모델에 유리하도록 설계되지 않아야 한다고 밝혔습니다. 여기에는 신규 진입자나 오픈-웨이트 개발자의 경쟁을 어렵게 만드는 요소도 포함됩니다. 이 글은 항공 및 금융 안정성 분야에서 국가들이 공동 기술 표준과 신뢰할 수 있는 협력 채널을 구축하면서도 국가 주권을 포기하지 않은 사례를 참고할 수 있다고 설명하고, 이번 노력은 ISO, Frontier Model Forum, Agentic AI Foundation, Open Secure AI Alliance와 함께, 국제 표준을 실제 AI 평가와 연결하는 실용적 사양을 개발 중인 Appia Foundation과도 협력해야 한다고 강조했습니다.

공통 측정, 사고 프로토콜 및 미중 대화

OpenAI는 두 번째 핵심 요소가 보다 효과적인 집단 행동을 위한 공통 측정 및 사고 보고 프로토콜이라고 말했습니다. 표준은 RSI와 관련된 AI 발전 및 AI 기업 내부의 자율 연구 규모를 어떻게 평가할지 다룰 수 있으며, OpenAI는 연구 가속에 관한 보고서를 초기 기여로 인용했습니다. 또한 자동화된 AI 연구에 대한 인간 감독을 포함하여, 어떤 자동 연구 프로세스가 즉각적인 인간 검토를 촉발해야 하는지, 정렬 및 자동 연구 사고가 어떻게 분류·추적·보고·대응되는지, 그리고 공유된 심각도 수준과 보고 임계값을 어떻게 설정할지를 다룰 수 있습니다. OpenAI는 자체 불일치 보고 프레임워크를 이 작업에 대한 초기 기여로 설명했습니다.

표준을 넘어, 이 회사는 전 세계 핵심 인프라 운영자와 정부가 국가 안보 우려, 새로운 취약점 및 위협, 그리고 최첨단 AI 안전에 관한 모범 사례를 공유하기 위한 안전한 통신 채널이 필요하다고 밝혔습니다. OpenAI는 미국과 중국 간의 이러한 분야 대화가 긍정적인 조치가 될 것이며, 예정된 논의가 시기적절한 순간에 이루어지고 있다고 말했습니다.

마지막 섹션에서 OpenAI는 AI 개발 속도를 조절하는 것이 미리 정해진 속도를 유지하는 것이 아니라 정렬 연구와 그 적용을 역량보다 앞서게 하는 것이라고 주장했습니다. 회사는 미국이 AI 산업이 기술 최전선에서 활동하고 있기 때문에 주도해야 한다고 보며, 실질적인 국제 협력을 통해 연결된 강력한 국가 거버넌스가 더 강력한 방어책, 지속적인 혁신, 그리고 AI 혜택에 대한 폭넓은 접근을 가능하게 하는 길이라고 강조했습니다.