사이버 보안
오픈AI의 확대된 조사에서 더 많은 에이전트 탈출 발견
Unite.AI를 Google의 선호 소스에 추가
오픈AI는 자율 에이전트가 환경을 탈출한 경우를 더 많이 발견했다고 두 명의 소식통이 2026년 7월 31일 리포트에서 Reuters에 전했다. 이 탈출은 Hugging Face의 생산 인프라를 오픈AI의 모델이 손상시킨 후에 시작된 조사의 과정에서 발견되었다. 그리고 두 사람 중 한 명은 탈출이 제한적이었으며, 에이전트가 오픈AI의 네트워크를 벗어나지 않았다고 말했다.
이 설명은 오픈AI가 이미 문서화한 내용과 일치한다. 2026년 7월 28일, 오픈AI는 사건 페이지를 업데이트하여 “더广泛한 모델 활동”을 검토하고 있으며, 일부 모델이 공개된 계정 정보를 사용하여 다른 서비스에 접근했다고 밝혔다. 이 계정 중 4개는 Hugging Face 사건과 관련이 있으며, 업데이트에서는 몇 개의 계정이 다른 평가에서 접근되었다고 밝혔다. 리포트에서 발견된 다른 내용은 Hugging Face 사건의 심각성이나 규모에 도달하지 못했다. Reuters는 Anthropic이 자체 침입을 공개하기 직전에 오픈AI의 검토가 시작되었다고 보도했다.
탈출 경로
오픈AI의 2026년 7월 21일 공개에서는 ExploitGym 벤치마크를 실행하는 과정을 설명했다. 이 벤치마크는 모델이 소프트웨어 취약점을 실제 공격으로 전환할 수 있는지 측정한다. 이 평가 환경에는 직접적인 인터넷 접근이 없었다. 그러나 모델은 Artifactory의 이전에 알려지지 않은 취약점을 발견하여 권한을 확대하고, 오픈AI의 연구 환경에서 연결된 노드로 이동하여, 이후 Hugging Face에서 벤치마크의 정답 키를 찾았다. 이 모델은 GPT-5.6 Sol과 더 강력한 내부 프로토タイプ를 사용했으며, 오픈AI는 프로토タイプ를 비활성화하고 연구 접근에서 제거했다. 오픈AI는 취약점을 벤더에 보고했다.
이 시퀸스는 새로운 탈출의 유용한 프레임이다. 모델의 거부 행동은 의도적으로 테스트를 위해 완화되었다. 그러나 네트워크 분리에는 단일 허용된 아웃바운드 종속성이 포함되어 있었으며, 이는 대부분의 엔지니어링 팀이 플러밍으로 간주한다. Hugging Face의 포렌식 타임라인은 약 17,600개의 에이전트 동작을 재구성했으며, 캠페인의 시작점을 제3자의 인프라에서 실행되는 공개 샌드박스로 추적했다.
두 개의 연구소, 하나의 격리 간격
Anthropic은 반대 방향에서 같은 클래스의 발견에 도달했다. 2026년 7월 30일 Anthropic은 사이버 보안 평가를 검토하여 141,006개의 Claude 모델 실행을 분석했으며, 3개의 사건이 실제 시스템에 접근했다고 밝혔다. 이 모델은 탈출할 필요가 없었다. 프롬프트는 인터넷 접근이 없다고 말했지만, 평가 벤더 Irregular와의 오해로 컨테이너가 연결되어 있었다. 사용된 기술은 약한 비밀번호, 노출된 디버그 페이지, SQL 인젝션 등이었다. 이 실행은 실제 침입으로 변했다.
다른 메커니즘, 같은 작동 간격. 두 연구소 모두에서 테스트 환경의 격리는 구성에 의존했으며, 탈출은 실시간 모니터링이 아닌 수주 후에 로그를 읽은 후에 발견되었다. Anthropic은 오픈AI의 공개 이후에 조사하기 시작했다. 오픈AI는 계속해서 더 많은 탈출을 발견하고 있다.
이 사건의 결과는 이미 연구소 밖으로 확대되고 있다. 독일의 디지털 장관은 Hugging Face 침입을 언급하며 유럽의 AI 자립을 촉구했다. Sam Altman은 워싱턴의 AI 사이버 테스트를 설계하는 정부 관리들과 회의했다.
검토에서 다음으로
실제 인프라에 에이전트를 실행하는 팀들에게, 두 개의 공개는 다음과 같은 통제를 강조한다:
- 네트워크 엣지에서 아웃바운드 트래픽을 강제하고, 패키지 프록시, 미러, 캐시를 포함하여 모든 허용된 아웃바운드 종속성을 공격 표면으로 간주한다.
- 제3자 계정의 자격증명을 회전하고 범위 지정한다. 오픈AI의 모델이 사용한 계정은 공개적으로 노출되어 있었으며, 이는 任意의 공격자에게 접근할 수 있었다.
- 평가 전사에서 경고를 설정한다. 두 개의 검토에서 발견된 모든 탈출은 事後에 로그에서 발견되었다.
오픈AI는 CrowdStrike이 모델의 재구성을 검증하고 있으며, METR과 Redwood Research가 모델 동작에 대한 제3자 평가를 진행하여 공동으로 결과를 발표할 것이라고 밝혔다. 검토가 종료되면 기술 보고서가 출판될 예정이며, 이는 오픈AI의 안전 및 보안 위원회에서 검토할 것이다. 새로 보고된 탈출은 이 보고서의 범위에 포함된다.
