OpenAI 파이프라인, 리눅스 커널에서 권한 상승 취약점 948건 발견

OpenAI는 2026년 11월 4일, 출시 예정인 사이버 보안 모델을 사용하는 프로토타입 파이프라인이 2026년 10월 중순에 진행한 연구에서 리눅스의 고유한 로컬 권한 상승 취약점 948건을 찾아내고 이를 악용했으며, 유지관리자가 검토할 후보 패치도 생성했다고 밝혔다.

이 취약점은 권한이 없는 로컬 사용자가 루트 권한을 얻도록 할 수 있다. 테스트는 의도적으로 보안을 약화한 대상이 아니라 SMEP, SMAP, KASLR, HARDENED_USERCOPY가 활성화된 기본 데스크톱 운영체제를 구동하는 격리된 가상 머신에서 진행됐다. OpenAI는 커널이 4천만 줄이 넘는 코드로 이루어져 있고 Android 기기, 클라우드 인프라, 슈퍼컴퓨터를 뒷받침한다는 점에서 리눅스를 선택했다. 이는 그처럼 규모가 크고 중요한 코드베이스를 대상으로 자동화 연구를 시험할 기회를 제공했다.

후보 취약점 발견에서 실제 익스플로잇까지

이 파이프라인은 취약점 발견, 동적 검증, 악용 가능성 평가, 패치 생성, 사람의 검토를 하나로 연결한다. 정찰 에이전트는 권한이 낮은 사용자가 접근할 수 있는지와 보안상 중요도를 기준으로 코드를 선정하고, 이어 분석 에이전트가 해당 대상을 검사한다. 분류 에이전트는 Kernel Address Sanitizer가 적용된 커널을 실행하는 가상 머신에서 개념 증명 코드를 생성하고 개선한다. 이 과정에서는 정적 분석에만 의존하지 않고 실행 시점의 증거를 보존한다. 완성된 연구 자료에는 근본 원인 분석, 최소한의 충돌 재현용 개념 증명 코드, 후보 패치, 완전한 익스플로잇이 각각 포함된다.

OpenAI에 따르면 정찰 에이전트는 약 280만 줄, 즉 커널의 약 7%를 포괄하는 감사 대상 5,034개를 선정했다. 분석 에이전트는 12시간 이내에 중복을 제거한 후보 발견 사항 2,308건을 내놓았으며, 동적 검증을 통해 30시간 이내에 취약점 1,724건을 재현했다. 나머지 발견 사항은 대부분 높은 권한이 필요하거나 주어진 시간 안에 재현할 수 없었다. 모델의 분석이 잘못된 경우는 3.1%에 불과했다.

OpenAI에 따르면 익스플로잇 단계에서는 정보 유출 개념 증명 코드 291개와 실제로 작동하는 로컬 권한 상승 익스플로잇 1,169개가 만들어졌다. 이어 변종 분석을 통해 서로 다른 패치 948개가 생성됐다. OpenAI는 이 수치를 고유한 LPE 수로 사용하며, 이 때문에 취약점 총계가 익스플로잇의 단순 집계와 다르다고 설명했다. 생성된 수정 사항은 여전히 유지관리자의 검토를 받아야 할 후보이며, 948은 병합된 패치 수가 아니다.

사람의 검토와 패치 현황

OpenAI는 심각한 취약점에 관한 보고서와 패치 수백 건을 보냈으며, 나머지는 ‘지구를 패치하다’ 파트너들과 함께 단계적으로 배포할 계획이다. OpenAI는 2026년 6월 22일 Trail of Bits와 함께 Daybreak 이니셔티브를 발표했다. 이 이니셔티브는 AI 지원 연구와 전문가 검토를 결합하되, 패치 배포와 공개에 대한 통제권은 유지관리자에게 맡긴다. 앞서 발표한 내용에 따르면 GPT-5.5 Cyber를 활용한 리눅스 연구에서는 LPE 익스플로잇 24개와 커널 포인터 정보 유출 개념 증명 코드 8개가 나왔다.

10일간의 검사와 수동 분석이 끝난 시점에 LPE 61건은 이미 업스트림에서 패치됐고, 43건에는 스테이징 패치가 있었으며, 299건은 공개적으로 보고되거나 논의되고 있었다. 이에 OpenAI는 중복되거나 오래된 보고를 피하기 위해 이후 병합된 내용을 포함한 최신 코드를 대상으로 발견 사항을 다시 검증할 것을 권고했다. 목표는 불필요한 검토 부담을 더하지 않으면서 미해결 취약점에 유지관리자의 관심을 집중하는 것이다.

검토 과정에서는 루트 셸만으로는 드러나지 않았을 실패도 발견됐다. OpenAI에 따르면 초기 실행에서는 성공한 것으로 보고된 익스플로잇 200개 중 20개가 지정된 취약점이 아닌 다른 0-day를 통해 루트 권한을 얻었다. 이후 작업 조건을 강화하고 익스플로잇마다 공격 경로를 독립적으로 확인하는 절차를 추가했다. 초기에 직접 프롬프트를 통해 생성된 패치는 기능상 올바르더라도 불필요한 코드, 성능 저하 가능성, 코딩 관례와의 차이, 불완전한 변종 범위 등의 문제가 있을 수 있었다. 추가 지침과 반복 개선으로 패치 품질은 높아졌지만, 연구자들은 여전히 유지관리자에게 보고하기 전에 익스플로잇과 패치, 제안된 심각도를 검토한다.

모델 비교와 테스트 비용

OpenAI의 비교 자료에 따르면 10월 중순 실행에는 API 크레딧 121만 3천 달러가 들었으며, 고유 LPE 1건당 비용은 1,279달러였다. 이에 비해 2026년 7월 말 GPT-5.6 Sol 실행에서는 고유 LPE 166건이 발견됐고 비용은 51만 3,690달러였다. 두 실행 모두 당시 이용 가능한 최신 리눅스 커널 마스터 브랜치를 검사했다. 새 LPE가 5배 넘게 늘어난 것은 두 검사 사이에 3개월간 보안 강화가 이뤄졌는데도 나타난 결과다. 연구가 비용 최적화보다 방법론과 역량 측정에 초점을 맞췄기 때문에, 제시된 비용은 상한선으로 표시됐다.

OpenAI는 익스플로잇 166개의 표본에 자사 팀과 제3자 커널 익스플로잇 전문가 모두 새롭다고 판단한 기법 10가지가 포함됐다고 밝혔다. 이 기법들은 지속성 탄성 객체, 페이지 그루밍, 데이터만을 이용한 권한 상승, 임의 타입 혼동에 걸쳐 있었다. 안전상의 이유로 자세한 기술 정보는 공개하지 않았다.

OpenAI의 보고에 따르면 수정된 kernelCTF 실행에서는 112시간 동안 정보 유출 개념 증명 코드 25개와 LPE 익스플로잇 21개가 나왔으며, API 크레딧으로 약 32,936달러가 들었다. 테스트한 커널은 SLAB_VIRTUAL 완화책과 호환되지 않아 OpenAI는 이를 설정에서 제외했다. 약 150만 달러의 버그 바운티 금액은 취약점 21건이 모두 승인될 경우에만 해당하며, 발표된 보상액은 아니다. Google의 kernelCTF 규칙에는 자격을 갖춘 익스플로잇 1건당 71,337달러의 보상금이 명시돼 있다. 또한 20회 실행에서 최소 70%의 안정성을 충족해야 하며, 보상은 요건을 충족하는 0-day 제출에만 지급된다.

이번 결과로 병목은 단서를 찾아내는 단계에서 익스플로잇 경로를 입증하고, 발견 사항을 최신 상태로 유지하며, 수용 가능한 수정 사항을 마련하는 단계로 옮겨간다. 따라서 이 정도 규모의 자동화 연구가 보고 부담을 더하는 데 그치지 않고 실제로 활용할 수 있는 방어 작업으로 이어질지는 독립적인 검증과 유지관리자의 검토에 달려 있다.