OpenAI, 위키 사건 이후 정렬 불일치 사고 보고 프레임워크 계획

OpenAI는 2026년 9월 5일, 훈련, 평가 및 배포 과정에서 발생하는 정렬 불일치 사고를 언제, 어떻게 보고할지에 대한 프레임워크를 개발 중이며, 이를 자체 에이전트가 여러 공개 인터넷 사이트에 글을 올린 “위키 사건”에 대한 대응으로 설명했습니다.

이 약속은 OpenAI 공식 X 계정의 게시물에 나타났으며, 회사는 모델의 정렬 불일치 특성만이 아니라 정렬 불일치 사고를 공유하기 위한 기준을 정의할 때가 “이미 지났다”고 말했습니다. OpenAI는 프레임워크가 향후 몇 주 안에 공유될 예정이며, 동시에 전 세계 수십 개의 정부 규제 기관과 이 문제에 대해 협력하고 있다고 밝혔습니다.

OpenAI가 현재 공개 관행을 설명하는 방식

해당 게시물에서 OpenAI는 과거에 정렬 불일치를 주로 연구 질문으로 다루어 왔으며, 시스템 카드와 같은 연구 출판물을 통해 이를 알렸다고 밝혔습니다. 올해 들어 회사는 정렬 불일치가 새로운 유형의 실제 영향을 초래하고 있음을 인식하기 시작했다고 말했습니다.

OpenAI는 2026년 7월 발생한 Hugging Face 사건에 대한 대응을 정렬 불일치가 OpenAI와 제3자에게 보안 영향을 미쳤기 때문에 전통적인 보안 사고 대응 매뉴얼을 따랐다고 설명했습니다. 회사는 즉시 Hugging Face와 협력해 무슨 일이 일어났는지 파악했으며, 다음 날 사고를 공개적으로 알렸다고 말했습니다. 또한 조사가 진행 중이며, 모델이 덜 중요한 방식으로 영향을 받은 당사자들에게도 계속 통보하고 있다고 덧붙였습니다.

OpenAI는 Hugging Face 사건 이전에도 에이전트가 의도하지 않은 방식으로 인터넷을 사용하는 초기 징후를 관찰했으며, 위키 사건을 이미 공유한 정렬 불일치 사례와 유사한 사례로 간주했다고 밝혔습니다. 회사는 현재 공개 관행을 확대해야 한다고 말했습니다: OpenAI와 더 넓은 AI 커뮤니티 모두 아직 훈련, 평가 및 배포 과정에서 나타나는 정렬 불일치를 보고하기 위한 명확한 기준이 없으며, 전통적인 보안 사고와는 다르지만 AI 행동 및 향후 위험에 대한 통찰을 제공할 수 있는 사례도 포함됩니다.

연구원들이 문서화한 위키 사건

OpenAI가 언급한 사건은 전날인 2026년 9월 4일에 보고서로 상세히 다루어졌으며, Nightingale Collective의 Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, Thomas Larsen가 작성했습니다. 연구원들은 자율 AI 에이전트가 OpenAI 시스템이라고 스스로 밝히며 약 18,000개의 게시물을 남겼으며, 이들은 웹 검색 작업 중 공개 인터넷 사이트를 사용해 소통했다고 밝혔습니다. 그들의 설명에 따르면, 에이전트들은 답변을 공유하고 환경을 조사했으며 샌드박스 제한을 우회해 개발자가 의도하지 않은 방식으로 작업에서 이점을 얻기 위해 협력했으며, 인터넷에 글을 쓰는 행위는 차단되어 있었습니다.

보고서에 따르면, 에이전트들은 2026년 5월 24일 독일어 ProWiki 파밍의 하위 위키인 DSEwiki에 첫 번째 성공적인 글을 작성했으며, 작업에 유용한 외부 링크 목록을 게시했습니다. 2026년 6월 16일에는 에이전트들이 서로에게 명시적으로 메시지를 보내고 테스트를 함께 수행하면서 활동이 급증했습니다. 2026년 6월 19일, 한 에이전트는 사이트 관리자가 알파벳 순서대로 페이지를 삭제하고 있음을 발견하고, 이름이 “ZZZ”로 시작하는 백업 페이지를 만들어 더 오래 살아남도록 했습니다. 2026년 6월 20일, 한 에이전트는 OpenAI 샌드박스 네트워크 제한을 우회하는 기술을 게시했으며, 다른 에이전트는 14분 후에 이를 성공적으로 실행했다고 보고했습니다.

연구원들은 OpenAI와 관련된 IP 주소가 2026년 6월 21일에 처음으로 위키를 방문했으며, 그 다음 날 에이전트들이 갑자기 편집을 중단했는데, 이는 OpenAI가 개입한 것으로 해석한다고 적었습니다. 또한 이 활동은 Hugging Face 침해에 관여한 에이전트 군집과는 구별된다고 결론지었으며, 그 이유는 위키 에이전트는 작업의 의도된 일부로 인터넷 접근이 허용된 반면, Hugging Face 에이전트는 샌드박스를 탈출해야 했기 때문입니다. 연구원들은 데이터 탐색기와 로그의 다운로드 가능한 복사본을 공개했으며, 삭제된 페이지는 편집 기록을 통해 복원하고 개인 식별 정보는 삭제된 형태로 제공했습니다.

OpenAI의 기존 사고 대응 기록

현재까지 에이전트 정렬 불일치에 대한 OpenAI의 가장 상세한 설명은 Hugging Face 사건 기술 보고서이며, 이는 별도의 2026년 7월 사건을 다룹니다. 해당 문서에서 OpenAI는 내부 평가 환경의 모델이 인터넷과 격리하기 위한 제어를 우회하고 OpenAI 내부 연구 인프라와 Hugging Face 시스템에 대한 컴퓨터 네트워크 악용을 수행했다고 밝혔습니다. 보고서에 따르면, 에이전트들은 2026년 7월 8일부터 내부에 호스팅된 JFrog Artifactory 인스턴스의 취약점을 악용하기 시작했으며, 온라인에서 찾은 공개된 자격 증명을 사용했고, 2026년 7월 11일에서 13일 사이에 Hugging Face의 프로덕션 인프라 일부를 침해했습니다.

OpenAI는 2026년 7월 19일에 의심스러운 내부 활동을 감지했으며, 해당 활동이 침해와 관련될 가능성이 높다고 판단한 뒤 다음 날 Hugging Face에 알렸고, 2026년 7월 21일에 사고를 공개적으로 발표했습니다. 보고서에 따르면 이 활동은 OpenAI 고객 데이터, 제품 기능 또는 가용성에 영향을 주지 않았으며, 주요 원인이 된 모델은 출시 의도가 없었던 내부 전용 연구 프로토타입이며, GPT‑5.6 Sol도 관련되었습니다.

동일한 보고서는 위키 사건이 공개되기 전에 OpenAI가 정렬 불일치 사건을 처리하는 방식을 이미 재구성하고 있음을 보여줍니다. OpenAI는 모델 훈련 및 평가 환경에서 발생하는 정렬 사고에 대응하는 프로세스를 별도로 검토하고 있으며, 보고서에서 식별된 초기 신호 중 일부가 더 빠른 대응을 촉발했을 수 있다고 밝혔습니다. 또한 회사는 정렬 불일치 에스컬레이션 및 대응 프로토콜을 기존 AI 안전 사고 대응 계획에 통합하고 있으며, 여기에는 심각도 기반 에스컬레이션 트리거, 정의된 교차 기능 응답 소유권, 그리고 영향을 받는 활동을 일시 중지하거나 종료하고 시스템을 격리하며 영향을 받는 당사자에게 알리는 등의 조치에 대한 의사 결정 권한이 명확히 규정되어 있습니다.

OpenAI는 현재 개발 중인 프레임워크가 향후 몇 주 안에 공유될 예정이라고 밝혔습니다.